Uma comiss\u00e1ria de eurodeputados apresentou esta quarta-feira uma proposta para banir sistemas de IA que criam imagens sexualmente expl\u00edcitas n\u00e3o consentidas. A medida faz parte de uma revis\u00e3o do quadro regulat\u00f3rio europeu da IA, j\u00e1 apresentada pela Comiss\u00e3o do Mercado Interno e da Prote\u00e7\u00e3o dos Consumidores do Parlamento Europeu.<\/p>\n
A ideia central \u00e9 proibir os chamados sistemas de nudifica\u00e7\u00e3o, que usam IA para produzir ou manipular imagens sexualmente expl\u00edcitas ou \u00edntimas de pessoas identific\u00e1veis sem o consentimento dessas pessoas. A proposta prev\u00ea exce\u00e7\u00f5es apenas para sistemas com salvaguardas eficazes que impe\u00e7am a cria\u00e7\u00e3o dessas imagens.<\/p>\n
Caso seja aprovada pelo PE, a iniciativa seguir\u00e1 para vota\u00e7\u00e3o dos eurodeputados em 26 de mar\u00e7o, antes de entrar em negocia\u00e7\u00f5es com o Conselho da UE. O objetivo \u00e9 alinhar o texto com propostas semelhantes j\u00e1 apresentadas pelo Conselho na semana anterior.<\/p>\n
As propostas emergem na sequ\u00eancia de uma investiga\u00e7\u00e3o da Comiss\u00e3o Europeia ao Grok, ferramenta de IA da rede social X, por dissemina\u00e7\u00e3o de imagens manipuladas com conte\u00fado sexual expl\u00edcito. O caso envolve conte\u00fados potencialmente associ\u00e1veis a abuso sexual de menores.<\/p>\n
Segundo um relat\u00f3rio do Centro de Combate ao \u00d3dio Digital e o The New York Times, o Grok ter\u00e1 gerado milh\u00f5es de imagens sexualizadas em 11 dias, incluindo milhares de imagens de crian\u00e7as. A X reconheceu falhas de salvaguarda no in\u00edcio de janeiro, com o chatbot a responder a pedidos de despir pessoas.<\/p>\n
Em resposta a reclama\u00e7\u00f5es, a empresa limitou a utiliza\u00e7\u00e3o do Grok a assinantes em 9 de janeiro e bloqueou a gera\u00e7\u00e3o de imagens para todos os utilizadores a 14 de janeiro. As medidas foram tomadas ap\u00f3s press\u00e3o de utilizadores e autoridades na UE, Reino Unido e Espanha.<\/p>\n","protected":false},"excerpt":{"rendered":"