Problema de confiança da IA: a IA causal pode fornecer a resposta?

À medida que a inteligência artificial avança, a AI Trust continua sendo um obstáculo crítico para a adoção generalizada.

De acordo com o TheCube Research’s Última análisediscutido no “Próximas fronteiras de IAPodcast, as empresas lutam com decisões orientadas pela IA que geralmente aparecem como “caixas pretas” inescrutáveis, levando ao ceticismo dos líderes empresariais. A falta de confiança da IA ​​diminuiu as implantações em aproximadamente 60% das empresas, de acordo com um Estudo da McKinsey & Company Inc. citado por TheCube Research’s Scott Hebner.

Hebner se juntou Marc le Maitrediretor técnico de ScanBuy Inc.., Líder global em marketing móvel e tecnologia de publicidade. Um veterano de comunicação e privacidade de dados móveis, Le Maitre tem sido um proponente da IA ​​explicável e viu em primeira mão como os novos avanços estão tornando as decisões orientadas por IA mais transparentes. Sua discussão explora como as empresas podem criar confiança nos sistemas de IA.

O problema com os modelos atuais de IA

Hebner abriu a discussão destacando o principal problema que a IA enfrenta hoje: “Os líderes empresariais já não têm confiança nos resultados da IA, que estão diminuindo as implantações”, disse ele. “Com os agentes da IA ​​prometendo ajudar a tomar decisões críticas aos negócios, a questão da confiança se tornará ainda mais pronunciada. As empresas realmente vão confiar cegamente nos agentes da IA? Eu duvido seriamente. ”

Le Maitre concordou, apontando que os modelos tradicionais de IA – notavelmente grandes modelos de linguagem – dependem fortemente de correlações estatísticas, em vez do raciocínio causal. “Contratamos um cientista de dados realmente inteligente recém-saído da faculdade e passamos meses tentando entender o funcionamento interno dessas máquinas de caixa preta”, disse ele. “Isso rapidamente ficou claro que nunca obteríamos total transparência. Essa realização me estimulou a encontrar uma maneira de tornar a IA mais explicável. ”

O surgimento da inferência causal

Após anos de experimentação, Le Maitre e sua equipe na ScanBuy tropeçaram na IA causal. “Estávamos procurando um termo que descreva com precisão o que estávamos fazendo”, disse Le Maitre. “A IA explicável não era exatamente isso, porque explicar algo não significa que alguém o entenderá. Tentamos a IA compreensível, a IA rastreável e até a IA confiável. Então, em 2022, descobrimos IA causal. [Actually]nos encontrou. ”

Ao contrário dos modelos convencionais de IA que dependem da correlação, a IA causal ajuda a determinar as relações subjacentes à causa e efeito que conduzem decisões. “Se você provar a causa, você provará imediatamente o efeito”, disse Le Maitre, citando Aristóteles. “Por outro lado, nada pode existir sem sua causa. Essa é a base da IA ​​causal. Ele nos permite perguntar ‘e se’, avaliar contrafactuais e entender verdadeiramente o raciocínio por trás dos resultados orientados pela IA “.

IA causal em tecnologia de publicidade

Para o ScanBuy, a IA causal tem sido transformadora em publicidade programática. O setor sofre há muito tempo com ‘perda de sinal’ – a incapacidade de atingir com precisão os usuários devido a regulamentos de privacidade e limitações de dados. A IA pode ajudar a resolver esse problema, mas as empresas precisam de confiança na IA para confiar com confiança nas decisões de segmentação.

“Na publicidade, você está sempre tomando decisões sobre quem segmentar”, disse Le Maitre. “Tradicionalmente, contamos com dados determinísticos-os dados que sabíamos ser verdadeiros, como opt-ins de clientes explícitos. Mas isso apenas nos dá uma pequena fração do público que precisamos. Modelos preditivos ajudaram a expandir nosso alcance, mas com o raciocínio causal, eles geralmente não eram confiáveis. ”

Ao implementar a IA causal, a ScanBuy melhorou significativamente a precisão de sua segmentação de público, de acordo com Le Maitre. “Com a IA causal, não podemos apenas identificar as pessoas certas para segmentar, mas também explicar por que elas foram escolhidas”, disse ele. “Isso permite um nível de transparência que os modelos tradicionais de IA simplesmente não podem fornecer. Os resultados falam por si: nossa abordagem entregou um retorno de 10 vezes sobre o investimento. ”

Além da publicidade: o futuro da IA ​​causal

Embora o uso da IA ​​causal da ScanBuy na publicidade seja impressionante, as implicações dessa tecnologia se estendem muito além da tecnologia de anúncios, segundo Hebner. “Se o objetivo é que a IA imite cada vez mais como os humanos pensam para que possam ajudar os seres humanos a fazer as coisas melhor, os seres humanos são causais por natureza, então a IA terá que se tornar causal por natureza”, disse ele.

Os benefícios da IA ​​causal são particularmente evidentes nas indústrias pesadas de decisão, como finanças, assistência médica e gerenciamento da cadeia de suprimentos, de acordo com Hebner. “As empresas operam por causa e efeito”, disse ele. “Cada ação tomada tem consequências. Se as empresas não entenderem as causas principais de seus desafios, elas terão dificuldades para fazer melhorias significativas. ”

Le Maitre ecoou esse sentimento, enfatizando os perigos potenciais de confiar apenas nos modelos de IA baseados em correlação. “Existe um conceito chamado ‘Demência Modelo’: como os modelos são treinados na saída de outros modelos, eles começam a perder contato com a verdadeira distribuição de dados”, disse ele. “Isso cria uma espiral onde os sistemas de IA se tornam cada vez mais desapegados da realidade. Sem a IA causal, corremos o risco de criar um loop de feedback auto-referencial que leve a tomada de decisão não confiável e tendenciosa. ”

Ai causal como a chave para a AI Trust

A confiança será fundamental à medida que as empresas passam da automação de tarefas para a tomada de decisões de IA orientada a objetivos. Há três chaves para construir confiança na IA, de acordo com Hebner. Eles são:

1. Explicações transparentes: a IA deve se comunicar de uma maneira que os usuários entendam.
2. Insights comparativos: os usuários devem poder ver por que uma decisão é melhor que outra.
3. Recursos de interrogatório: a IA deve permitir que os usuários testem cenários alternativos.

A IA causal verifica todas essas caixas, tornando -a um componente fundamental da próxima evolução da IA, de acordo com La Maitre. “Com a IA causal, não estamos apenas prevendo resultados; Estamos entendendo por que eles acontecem ”, disse ele. “Quando você entende o ‘porquê’, ganha a capacidade de intervir, ajustar e otimizar suas decisões em tempo real”.

Pensamentos finais: a estrada à frente

A adoção causal da IA ​​ainda está em seus estágios iniciais, com apenas 10% das empresas atualmente alavancando -a, segundo Hebner. No entanto, como as empresas reconhecem as limitações dos modelos tradicionais de IA e a necessidade de explicação, o uso da IA ​​causal deve se expandir significativamente. Com base na análise de Hebner de projeções recentes de mercadoo setor de IA deve se expandir a uma taxa de crescimento anual composta de 41%, atingindo quase um mercado de bilhões de dólares. “A confiança é a moeda da inovação”, disse ele. “Quanto mais as pessoas confiam nos resultados da IA, mais elas comprarão novos investimentos”, disse Hebner.

“Estamos na vanguarda dessa transformação”, acrescentou Le Maitre. “Como a IA causal continua a evoluir, ela mudará fundamentalmente a maneira como as empresas tomam decisões, garantindo que a IA não seja apenas poderosa, mas também confiável.”

Com a IA remodelando rapidamente as indústrias, a necessidade de transparência, a confiança e a responsabilidade da IA ​​nunca foram maiores. A IA causal está na vanguarda dessa evolução, oferecendo uma solução atraente para o problema da caixa preta e abrindo caminho para um futuro em que as decisões orientadas pela IA não são apenas precisas, mas explicáveis.

Para um mergulho mais profundo na discussão de Hebner e La Maitre, parte do “Próximas fronteiras da IA” Série de podcast, confira a conversa completa:

https://www.youtube.com/watch?v=xedttp84hie

Foto: Siliconangle/Dall-e