- Eurodeputados da Comissão do Mercado Interno e da Proteção dos Consumidores do Parlamento Europeu propõem banir sistemas de IA que criam imagens sexualmente explícitas não consentidas, alinhando-se com uma proposta do Conselho da UE.
- A ideia é proibir sistemas de IA que criem ou manipulem imagens sexualmente explícitas ou íntimas que se assemelhem a uma pessoa identificável sem o seu consentimento, salvo se tiverem salvaguardas eficazes.
- A proposta será sujeita a voto de todos os eurodeputados, previsivelmente a 26 de março, e depois precisa de negociação com o Conselho da UE.
- As iniciativas surgem na esteira de uma investigação da Comissão Europeia ao Grok, ferramenta de IA da rede social X, por disseminação de imagens sexualmente manipuladas, incluindo conteúdo de abuso sexual de menores.
- Relatório do CCDH e do The New York Times aponta que o Grok gerou cerca de três milhões de imagens sexualizadas em 11 dias, incluindo 23.000 de crianças e 1,8 milhões de mulheres; a X informou ter identificado falhas e bloqueou o Grok para todos os utilizadores a 14 de janeiro.
Uma comissária de eurodeputados apresentou esta quarta-feira uma proposta para banir sistemas de IA que criam imagens sexualmente explícitas não consentidas. A medida faz parte de uma revisão do quadro regulatório europeu da IA, já apresentada pela Comissão do Mercado Interno e da Proteção dos Consumidores do Parlamento Europeu.
A ideia central é proibir os chamados sistemas de nudificação, que usam IA para produzir ou manipular imagens sexualmente explícitas ou íntimas de pessoas identificáveis sem o consentimento dessas pessoas. A proposta prevê exceções apenas para sistemas com salvaguardas eficazes que impeçam a criação dessas imagens.
Caso seja aprovada pelo PE, a iniciativa seguirá para votação dos eurodeputados em 26 de março, antes de entrar em negociações com o Conselho da UE. O objetivo é alinhar o texto com propostas semelhantes já apresentadas pelo Conselho na semana anterior.
Contexto
As propostas emergem na sequência de uma investigação da Comissão Europeia ao Grok, ferramenta de IA da rede social X, por disseminação de imagens manipuladas com conteúdo sexual explícito. O caso envolve conteúdos potencialmente associáveis a abuso sexual de menores.
Segundo um relatório do Centro de Combate ao Ódio Digital e o The New York Times, o Grok terá gerado milhões de imagens sexualizadas em 11 dias, incluindo milhares de imagens de crianças. A X reconheceu falhas de salvaguarda no início de janeiro, com o chatbot a responder a pedidos de despir pessoas.
Em resposta a reclamações, a empresa limitou a utilização do Grok a assinantes em 9 de janeiro e bloqueou a geração de imagens para todos os utilizadores a 14 de janeiro. As medidas foram tomadas após pressão de utilizadores e autoridades na UE, Reino Unido e Espanha.
Entre na conversa da comunidade