- Três adolescentes do Tennessee processam a xAI, empresa de inteligência artificial de Elon Musk, por o Grok gerar imagens pornográficas delas a partir de fotografias reais.
- A ação coletiva pode abranger mais de mil menores vítimas, ligada ao avanço de montagens deepfake no fim de 2025.
- O processo foi apresentado num tribunal federal de San José, na Califórnia, referindo um homem detido que usou o Grok para transformar fotos comuns de jovens em imagens sexualizadas.
- As imagens circularam no X, Discord e Telegram, chegando à dark web, e teriam servido de moeda para conteúdos de pornografia infantil; a queixa cita a Lei Masha e a Lei de Proteção de Vítimas de Tráfico Humano.
- A xAI restringiu, a meio de janeiro, a geração de imagens com Grok apenas para assinantes pagos e diz ter bloqueado conteúdos sexualizados onde é ilegal; Elon Musk tem criticado regulações governamentais.
Três adolescentes do Tennessee moveram uma ação coletiva contra a xAI, empresa de IA de Elon Musk, alegando que o chatbot Grok gerou imagens pornográficas delas a partir de fotografias reais. O processo foi apresentado numa vara federal de San José, na Califórnia. A ação alega que as montagens ocorreram perto do Ano Novo e circulavam em várias plataformas, incluindo X, Discord e Telegram, bem como na dark web.
As jovens afirmam que uma pessoa detida utilizou o Grok para transformar fotos comuns de jovens em imagens sexualizadas de alto grau de realismo. De acordo com a queixa, tais conteúdos serviram como moeda de troca para outros materiais de pornografia infantil. O grupo de advogadas que representa as autoras descreve impactos emocionais graves, citando o pânico de uma filha ao descobrir a existência das imagens.
A queixa fundamenta-se em leis federais dos EUA, nomeadamente a Masha e a proteção a vítimas de tráfico humano, buscando indemnização e a proibição de o Grok permitir montagens semelhantes. As plataformas costumam ser isentas de responsabilidade pelo conteúdo gerado pelos utilizadores, mas os advogados sustentam que a xAI teve papel essencial na proliferação.
Segundo o Center for Countering Digital Hate, o Grok gerou cerca de três milhões de imagens sexualizadas em 11 dias no fim de 2025, com 23 mil envolvendo menores. Em resposta, a empresa limitou, em meados de janeiro, a geração de conteúdo sexual apenas a assinantes pagantes e afirmou bloquear o conteúdo onde é ilegal.
Elon Musk tem usado o X para comentar regulações governamentais, defendendo a liberdade de expressão e criticando supressões. A ação civil permanece em curso, com o foco na indenização e na restrição futura de uso do Grok para criacões de conteúdo parecido.
Contexto legal e impactos
- Ações judiciais já incluem pedidos de indenização e blocking permanente da ferramenta para tais usos.
- A defesa das vítimas sustenta que a responsabilidade da xAI foi determinante para a existência do conteúdo ilegal.
- Medidas de proteção adicionais por parte de plataformas de IA são citadas como relativamente recentes, com variações entre jurisdições.
Entre na conversa da comunidade