Uma comissária de eurodeputados apresentou esta quarta-feira uma proposta para banir sistemas de IA que criam imagens sexualmente explícitas não consentidas. A medida faz parte de uma revisão do quadro regulatório europeu da IA, já apresentada pela Comissão do Mercado Interno e da Proteção dos Consumidores do Parlamento Europeu.
A ideia central é proibir os chamados sistemas de nudificação, que usam IA para produzir ou manipular imagens sexualmente explícitas ou íntimas de pessoas identificáveis sem o consentimento dessas pessoas. A proposta prevê exceções apenas para sistemas com salvaguardas eficazes que impeçam a criação dessas imagens.
Caso seja aprovada pelo PE, a iniciativa seguirá para votação dos eurodeputados em 26 de março, antes de entrar em negociações com o Conselho da UE. O objetivo é alinhar o texto com propostas semelhantes já apresentadas pelo Conselho na semana anterior.
Contexto
As propostas emergem na sequência de uma investigação da Comissão Europeia ao Grok, ferramenta de IA da rede social X, por disseminação de imagens manipuladas com conteúdo sexual explícito. O caso envolve conteúdos potencialmente associáveis a abuso sexual de menores.
Segundo um relatório do Centro de Combate ao Ódio Digital e o The New York Times, o Grok terá gerado milhões de imagens sexualizadas em 11 dias, incluindo milhares de imagens de crianças. A X reconheceu falhas de salvaguarda no início de janeiro, com o chatbot a responder a pedidos de despir pessoas.
Em resposta a reclamações, a empresa limitou a utilização do Grok a assinantes em 9 de janeiro e bloqueou a geração de imagens para todos os utilizadores a 14 de janeiro. As medidas foram tomadas após pressão de utilizadores e autoridades na UE, Reino Unido e Espanha.
Entre na conversa da comunidade