Nota do editor: Ryan Sloanum cientista de dados com sede em Seattle, escreveu este post de convidado depois de avaliar o Geekwire 200, nossa lista das principais startups do Noroeste do Pacífico.
Eu li recentemente que uma empresa na Finlândia está usando a IA para Encontre a “mistura de café perfeita”. E aqui estou comprando um imperfeito Mistura de feijão de uma torrefadora de café local como um otário.
Há pouca dúvida de que a IA está em toda parte. Eu tenho uma ampla rede de gerentes de produto e cientistas de dados, e a grande maioria deles está trabalhando em uma integração ou produto de IA de algum tipo. As empresas falam sobre IA com entusiasmo – quem não quer café “perfeito”?
No entanto, o entusiasmo do mercado pela tecnologia de IA não se transfere para indivíduos. Pesquisa 2024 da Gallup descobriram que apenas 13% dos americanos acreditam que a IA faz mais bem do que mal. Além disso, 77% não confiam nas empresas para usar a IA com responsabilidade.
Sou cientista de dados em Seattle, então me perguntei: como as empresas locais estão se aproximando da tendência da IA? É realmente em toda parte na bolha de startups, ou estou em uma bolha de IA ainda menor? O hype está fora de controle? Eles estão publicamente comprometidos com a responsabilidade? (Spoiler: você não vai gostar de todas as respostas).
Eu mergulhei profundamente no conteúdo público de algumas das startups que mais cresce no noroeste do Pacífico para analisar sua linguagem relacionada à IA.
Dados e métodos
O Geekwire 200 é uma lista classificada de 200 startups de rápido crescimento no noroeste do Pacífico. Construí um rastreador para digitalizar os sites públicos das empresas nessa lista e extrair seu texto. Depois de filtrar sites que proíbem rastejamento automatizado, fiquei com 187 startups. Puxei as duas primeiras “camadas” de conteúdo de seus sites (a página inicial e todas as páginas vinculadas a partir dele) e extraído texto voltado para o usuário para analisar frases comuns.
Após uma análise inicial de frases frequentes, construí três listas:
- Marcadores para ai. Isso inclui coisas como “AI”, “inteligência artificial” e “modelos generativos”.
- Marcadores de hipérbole. Isso inclui coisas como “visionário”, “borda sangrando”, “revolucionário” e “perfeito”.
- Marcadores para a responsabilidade da IA. Coisas como “AI responsável”, “mitigação de preconceitos” e “ética da IA”.
A maneira como essas três listas se sobrepõem (ou não) é revelador. Nas descobertas!
A primeira grande diferença é clara: 73% das empresas B2B estão lançando IA, mas menos da metade das startups de consumidores e P&D são. As startups B2B concentraram esses arremessos na eficiência. Quando eles falam sobre ai, eles usam palavras como “mais rápido” e “maximizam o engajamento”. As empresas de consumo se concentram em termos como “conversa” e “personalização”, enfatizando a interatividade habilitada pela IA generativa.
Não vou aos sites da empresa que esperam humildade, mas o idioma associado à IA geralmente dá alguns passos além do otimismo. Eu olhei para a sobreposição da linguagem e texto hiperbólicos sobre a IA. As empresas de P&D pré-mercado usam a maioria (e pode estar onde é mais justificado), mas esse idioma não é reservado para o laboratório. As empresas B2B e B2C estão na “ponta”, construindo tecnologia “revolucionária”. Falando apenas por mim, esse idioma quase sempre toca Hollow, seja sobre uma planilha ou a mistura de café gerada pela IA “perfeita”. 🥱
As descobertas da Gallup revelaram que as pessoas não têm grandes esperanças de que as empresas usem a IA com responsabilidade. Mas há uma luz no final do túnel de ansiedade: 57% dos entrevistados relataram que Suas preocupações seriam reduzidas se as empresas fossem transparentes sobre como a IA é usada. Eu observei como as empresas discutem seus compromissos e ações com a IA responsável.
O estado atual do mundo não inspirará esperança nesses 57% dos americanos. Apenas 19% das empresas que falavam sobre a IA compartilharam qualquer coisa sobre seus compromissos com a IA responsável, avaliação de modelos ou mitigação de viés. Eu não esperava a maioria, mas fiquei um pouco surpreso. Não havia uma barra alta para inclusão aqui: apenas afirmar que “Startupco acredita na IA responsável” teria contado. Quando a grande maioria das empresas nem está pagando o serviço labial à responsabilidade, é de admirar que as pessoas não confiem nelas?
Ele não mostra uma imagem rosada, mas há pontos brilhantes. Algumas startups da PNW fazendo isso bem. Compromisso de IA responsiva para a IA ética e Manifesto ético de IA de humanamente Descreva os princípios e estruturas de design usados para desenvolver seu produto. Página de construção de textio com responsabilidade Descreve alguns dos métodos processuais e estatísticos usados para avaliar modelos e mitigar o viés. Se você é uma equipe construindo um produto de IA e não sabe por onde começar com a IA responsável, pode procurar seus colegas que já trabalham nisso.
Se você está pronto para enrolar as mangas, Declarações de dados Forneça um local claro para começar. Essa forma de documentação foi originalmente proposta por Emily M. Bender e Batya Friedman em um artigo de 2018 na Universidade de Washington. Como Gallup relatou, a transparência é um primeiro passo essencial para conquistar a confiança do consumidor. Mas a documentação sobre a proveniência, as características e os manipuladores dos dados fornecem benefícios que vão além da criação da confiança do cliente. Todo conjunto de dados é tendencioso, se você o quantificou ou não. Declarações de dados como essas também fornecem aos construtores uma estrutura para identificar lacunas e riscos. Eles são solo fértil para aumentar seus esforços responsáveis com IA.
Diante dos corredores estocados de produtos de IA, os consumidores votarão com suas carteiras. Quando o hype desaparece, o desconforto com a IA responsável pode permanecer. Por que eles deveriam confiar na sua empresa? Você ganhou essa confiança? O que você deve a seus clientes e vizinhos e como você pode começar hoje?
