Desde que o ChatGPT se tornou viral e fez da IA generativa uma ferramenta obrigatória, eu disse que não estou preocupado com um apocalipse de IA ou a IA assumindo nossos empregos. Esses são problemas reais com os quais precisamos lidar, sim, mas havia um problema de IA mais premente que precisava de consertar – e ainda assim.
Na pressa de atrair o mundo com novos truques de IA, as empresas de IA à esquerda e à direita criaram todos os tipos de recursos generativos de IA, incluindo ferramentas que permitem editar imagens, criar fotos falsas e gerar áudio e vídeo com um prompt de texto. A maioria deles criou esses recursos sem corrigir o problema gritante: imagens e vídeos gerados pela IA podem ser abusados para enganar a opinião pública.
Vimos empresas de tecnologia desenvolverem padrões para rotular o conteúdo gerado pela IA, mas suas soluções ainda ficam aquém. O conteúdo da IA não é imediatamente óbvio, e nem sempre é marcado com marca d’água. Você pode precisar inspecionar um arquivo para ver se os metadados mencionam IA.
A facilidade de uso de produtos Genai para editar imagens e criar vídeos a partir do zero significa que qualquer pessoa pode fazer conteúdo sem ter conhecimento de software avançado, que era um pré-requisito na era pré-chatgpt. É assim que acabamos com os DeepFakes, como o clipe Anti-Kanye, que se tornou viral há algumas semanas. O clipe contou com um DeepFake de Scarlett Johansson, que a atriz criticou rapidamente, exortando o governo dos EUA a aprovar legislação para evitar esse abuso. Esse clipe se tornou viral apenas alguns dias depois que os EUA se recusaram a assinar uma declaração de segurança da IA na cúpula de ação da IA em Paris.
Enquanto o governo Trump deixou claro que não está interessado em regular fortemente a IA, outros países estão adotando uma abordagem diferente. A Espanha possui uma nova lei que atingirá empresas com multas de até US $ 38 milhões, ou 7% de sua participação anual, para o conteúdo de IA que não é devidamente rotulado como tal.
De acordo com Reuterso governo espanhol aprovou o projeto de lei na terça -feira, em uma tentativa de conter o uso de DeepFakes.
“A IA é uma ferramenta muito poderosa que pode ser usada para melhorar nossas vidas … ou para espalhar a desinformação e atacar a democracia”, disse os repórteres ministro da Transformação Digital, Oscar Lopez. Ele também disse que o projeto de lei adota diretrizes da Lei de AI da UE.
O funcionário acrescentou que todos eram suscetíveis a ataques de Deepfake, sejam vídeos, fotos ou áudio gerados por programas de IA.
A legislação proposta também proíbe outras práticas de IA, como usar técnicas subliminares para manipular as pessoas. Lopez mencionou chatbots que incentivariam as pessoas com vícios para jogar ou brinquedos dizendo às crianças a realizar desafios perigosos.
Também são importantes as disposições do projeto que impedem as empresas de classificar as pessoas através de seus dados biométricos usando a IA. De acordo com a lei, as empresas também seriam proibidas de classificar as pessoas com a ajuda da IA com base em seu comportamento e traços pessoais para conceder -lhes acesso a benefícios ou avaliar o risco de cometer crimes.
Somente as autoridades poderiam usar a vigilância biométrica em tempo real em locais públicos e apenas por razões de segurança.
O projeto ainda precisa ser aprovado pela câmara baixa na Espanha. Uma vez que se torne lei, as empresas que implantam ferramentas de IA na Espanha arriscarão essas multas multimilionárias por não rotular o conteúdo da IA.
O projeto não proibirá os deepfakes – esse não é o ponto aqui. Em vez disso, ele pressionará as empresas de IA a encontrar melhor tecnologia para rotular automaticamente o conteúdo gerado pela IA.
Será interessante ver que tipo de rotular os vigilantes espanhóis querem ver implementados e como os gigantes da tecnologia reagirão. Além disso, não posso deixar de me perguntar se a lei serviria de inspiração para a nova legislação da UE, cobrindo os deepfakes e o abuso de IA em toda a região.
Como lembrete, as leis mais rigorosas da TECH da UE impediram empresas como OpenAI, Google e Apple de lançar novos produtos de IA na região tão rápido quanto os EUA e outros mercados internacionais. A pressão da lei espanhola pode levar a mais atrasos no futuro.
Por outro lado, eu preferiria leis de reguladores que forçam as empresas a rotular o conteúdo de IA de maneira mais proeminente sobre ter acesso imediato a novas ferramentas de IA. Eu digo que, como alguém que teve que esperar que muitos recursos de chatgpt sejam lançados na UE nos últimos anos.
De volta à Espanha, o governo também criou uma nova agência chamada Aesia para fazer cumprir as novas regras. Além de outros vigilantes que podem monitorar a IA em casos específicos envolvendo privacidade de dados, crime, eleições e outros.
