A China exigirá todo o conteúdo gerado por inteligência artificial (IA) para ter rótulos claros a partir de 1º de setembro de 2025, juntando-se aos esforços globais para regular a mídia falsa e combater a desinformação digital.
A administração do ciberespaço da China (CAC), trabalhando com outras três agências governamentais, anunciou regras que exigem etiquetas visíveis e ocultas para texto, imagens, imagens, áudio, vídeo e cenas virtuais.
“A lei de rotulagem ajudará os usuários a identificar a desinformação e a manter fornecedores de serviços responsáveis por rotular seu conteúdo”. O CAC declaroucomo traduzido por Bloomberg. “Isso é para reduzir o abuso de conteúdo gerado pela IA”.
Requisitos de rotulagem
Sob as novas regras, as plataformas on-line devem verificar o conteúdo gerado pela IA antes de publicá-lo e adicionar rótulos adequados. Os usuários devem declarar quando publicam material criado pela AI, enquanto os prestadores de serviços devem manter registros por pelo menos seis meses.
Os regulamentos requerem dois tipos de identificação: rótulos explícitos visíveis aos usuários por meio de texto, som ou gráficos e rótulos implícitos ocultos como metadados nos arquivos.
Para o conteúdo do texto, os rótulos devem aparecer no início, final ou meio. As imagens precisam de marcas claras em pontos apropriados. Vídeos e áudio precisam de identificadores no início, com marcadores opcionais no meio e no final.
As lojas de aplicativos devem verificar se os desenvolvedores fornecem serviços de conteúdo gerados pela IA e revisam seus sistemas de rotulagem antes de aprová-los.
Desafios de implementação
A mudança da China segue esforços semelhantes em todo o mundo. A Lei AI da União Europeia inclui regras para rotular a mídia gerada pela IA, enquanto várias propostas dos EUA visam abordar conteúdo falso.
O rápido crescimento da tecnologia de IA levantou preocupações sobre seu potencial uso indevido. O DeepFakes e outros conteúdos gerados pela IA podem espalhar informações falsas, violar as leis de direitos autorais e permitir golpes on-line quando os usuários não conseguem dizer o que é real.
No entanto, os especialistas apontam para grandes desafios para colocar em prática essas regras. Aplicativos de IA em tempo real, como a transmissão ao vivo, dificultam a adição de etiquetas sem desacelerar ou reduzir a qualidade.
Um relatório da Fundação de Tecnologia da Informação e Inovação destacou Problemas com tecnologias de rotulagem atuais. Marcas aquáticas, impressões digitais digitais e metadados criptografados podem ser removidos ou alterados através da edição. Plataformas diferentes usam padrões diferentes, tornando a detecção não confiável.
Os críticos argumentam que os rótulos por si só não podem abordar completamente o uso indevido de IA. As primeiras tentativas de plataformas como o rótulo “Made With AI” da Meta tiveram problemas. Meta às vezes Marque incorretamente as fotos reais como geradas pela IA.
Embora o anúncio não especifique penalidades exatas por violações, a aplicação se enquadra nos regulamentos da Internet chinesa existentes. Regras semelhantes na Espanha pode resultar em multas de até 35 milhões de euros (US $ 38,2 milhões) ou 7% do faturamento anual global de uma empresa.
