Três jovens processam xAI de Musk por gerar imagens pornográficas com fotos reais

Três adolescentes do Tennessee processam a xAI, de Elon Musk, acusando o Grok de gerar imagens pornográficas delas a partir de fotografias reais, num processo coletivo apresentado no tribunal federal de San José, Califórnia.
A ação pode abranger mais de mil vítimas menores e surge a partir de montagens deepfake surgidas perto do Ano Novo, difundidas no X, Discord e Telegram, e depois na dark web.
A queixa cita um caso de um autor detido que utilizou o Grok para transformar fotos de jovens em imagens sexualizadas, que circularam amplamente.
As advogadas das adolescentes fundamentam o caso em leis federais dos Estados Unidos (inclui a lei Masha) e pedem indemnização e que a xAI seja impedida de permitir este tipo de montagens.
A xAI restringiu, em meados de janeiro, a geração de imagens com o Grok apenas para assinantes e afirmou bloquear conteúdos sexualizados onde é ilegal; Musk tem criticado regulamentações governamentais.

Três adolescentes do Tennessee processam a xAI, empresa de inteligência artificial de Elon Musk, por gerar imagens pornográficas com fotos reais. A ação, apresentada numa audiência federal em San José, Califórnia, acusa o Grok de criar conteúdos sexualizados a partir de fotografias de jovens sem consentimento.

A queixa aponta que as imagens circularam no X, Discord e Telegram, e depois na dark web, servindo de moeda para conteúdos de pornografia infantil. O processo envolve mais de mil potenciais vítimas menores, segundo as advogadas das jovens.

As mães relatam o trauma de ver as filhas expostas a conteúdos tão explícitos. Alegam que a xAI criou o Grok para lucro, sem adotar protecções contra pornografia infantil como outros players do setor.

Medidas adotadas pela xAI

Em janeiro, a empresa limitou a geração de imagens com o Grok a assinantes pagos e prometeu bloquear conteúdos sexualizados onde for ilegal. A ação baseia-se em leis federais como a Masha e a proteção de vítimas de tráfico.

Contexto e reação

Estudos do Center for Countering Digital Hate indicam milhões de imagens geradas pelo Grok em 11 dias, incluindo milhares de casos envolvendo menores. A notícia gerou indignação global e abriu inquéritos em diversos países.