Duas organiza\u00e7\u00f5es holandesas entraram com uma a\u00e7\u00e3o judicial urgente contra a ferramenta de IA Grok e a plataforma X, alegando que as solu\u00e7\u00f5es permitem gerar e difundir conte\u00fado sexual ilegal, incluindo material que pode constituir abuso sexual de menores. O processo cita recursos como \u201capps de nudez\u201d, que permitem criar imagens realistas com IA em que pessoas, incluindo menores, aparecem nuas sem consentimento. A vers\u00e3o 4.2 do Grok foi lan\u00e7ada na semana passada, permitindo criar v\u00eddeos completos a partir de uma \u00fanica fotografia usando IA.<\/p>\n
As entidades argumentam que tais conte\u00fados violam leis locais e regulamentos europeus, estando sujeitos a san\u00e7\u00f5es legais. O processo exige a cessa\u00e7\u00e3o imediata das fun\u00e7\u00f5es que possibilitam vestir digitalmente pessoas sem consentimento e a gera\u00e7\u00e3o de material que possa ser classificado como abuso sexual infantil. Caso haja incumprimento, \u00e9 pedida uma multa coercitiva de 100.000 euros por cada dia de in\u00e9rcia.<\/p>\n
A Offlimits, centro dedicado \u00e0 preven\u00e7\u00e3o do abuso online, e o Fundo de Ajuda \u00e0s V\u00edtimas destacam um aumento considerado explosivo da viol\u00eancia sexual online potenciada por IA. O diretor executivo, Robbert Hoving, descreveu a situa\u00e7\u00e3o como um acidente em c\u00e2mara lenta, com imagens criadas ou editadas a serem usadas para assediar ou humilhar v\u00edtimas.<\/p>\n
Dados apresentados pelas organiza\u00e7\u00f5es indicam que metade dos jovens nos Pa\u00edses Baixos j\u00e1 sofreu intimida\u00e7\u00e3o ou abuso sexual na Internet, com dezenas de milhares potencialmente expostos a imagens geradas por IA. Estima-se que, no \u00faltimo ano, entre 17.000 e 39.000 jovens entre 12 e 25 anos possam ter sido afetados.<\/p>\n
A diretora do Fundo, Ineke Sybesma, explicou que para as v\u00edtimas n\u00e3o h\u00e1 diferen\u00e7a entre uma imagem real e uma gerada por IA, sublinhando que a vergonha persiste e que os impactos n\u00e3o terminam com a remo\u00e7\u00e3o online. As entidades apontam ainda que o design da plataforma facilita o abuso, tornando a remo\u00e7\u00e3o apenas uma solu\u00e7\u00e3o parcial.<\/p>\n
As organiza\u00e7\u00f5es indicam que as funcionalidades violam privacidade, RGPD, a Lei de Servi\u00e7os Digitais (DSA), o C\u00f3digo Penal e o direito \u00e0 pr\u00f3pria imagem. Observam que a jurisprud\u00eancia europeia exige consentimento demonstr\u00e1vel para a distribui\u00e7\u00e3o de material sexual. O caso est\u00e1 marcado para julgamento num tribunal em Amesterd\u00e3o no dia 12 de mar\u00e7o.<\/p>\n","protected":false},"excerpt":{"rendered":"