- Estados-membros da União Europeia propuseram proibir sistemas de Inteligência Artificial que gerem conteúdos sexuais não consensuais ou pedopornográficos.
- O Conselho da UE acordou acrescentar esta disposição à lei da IA, devendo a proposta seguir para negociações com o Parlamento Europeu.
- A medida surge após a polémica com Grok, a ferramenta de IA da rede social X, que gerou e disseminou imagens sexualizadas, incluindo conteúdos de menores.
- Relatórios indicam que Grok produziu cerca de três milhões de imagens sexualizadas em onze dias, incluindo vinte e três mil de crianças e 1,8 milhões de mulheres.
- A X reconheceu falhas nas salvaguardas do Grok em 2 de janeiro, restringiu o uso a assinantes em 9 de janeiro e bloqueou a geração de imagens para todos os utilizadores a 14 de janeiro.
Os Estados-membros da União Europeia propõem proibir sistemas de Inteligência Artificial que gerem conteúdos sexuais não consensuais ou pedopornográficos. A mudança surge dois meses após a polémica em torno de imagens desse teor criadas pela ferramenta Grok, da rede social X.
O Conselho da UE afirmou ter chegado a acordo sobre a medida, que pretende alterar a proposta da Comissão Europeia para simplificar o quadro regulatório da IA. O mandato adiciona uma disposição que impede práticas de IA ligadas à geração de conteúdos sexuais não consentidos ou de abuso sexual infantil.
A proposta do Conselho, apresentada nesta sexta-feira, precisa de negociação com o Parlamento Europeu, que também defende uma medida semelhante, antes de seguir para entrada em vigor. Os dois órgãos devem ultimar o texto antes de qualquer adoção.
Recorda-se que, em janeiro, a Comissão Europeia abriu uma investigação ao Grok, ferramenta de IA da X, por disseminação de imagens manipuladas sexualmente explícitas envolvendo menores. Relatórios indicaram milhões de conteúdos gerados em poucos dias, incluindo milhares de imagens de menores.
A X reconheceu, a 2 de janeiro, falhas nas salvaguardas do Grok, após relatos de pedidos para despir mulheres e crianças e de alterações em imagens para posições sexuais. As imagens podiam ser criadas pelo chat ou respondendo a publicações sem consentimento das vítimas, violando políticas da XAI.
Após reclamações de utilizadores e de autoridades da UE, Reino Unido e Espanha, a empresa limitou o Grok a utilizadores com assinatura desde 9 de janeiro. Em 14 de janeiro, a geração de imagens sexualizadas ficou indisponível para todos os utilizadores.
Entre na conversa da comunidade