- Três adolescentes do Tennessee processaram a xAI, acusando o Grok de gerar imagens pornográficas delas a partir de fotografias reais, num caso apresentado num tribunal federal de San José, Califórnia.
- A ação coletiva aponta que o processo pode abranger mais de mil vítimas menores e envolve a circulação de montagens em X, Discord, Telegram e à dark web.
- A queixa sustenta que o Grok foi concebido para produzir conteúdos sexualmente explícitos com fins lucrativos, sem medidas de proteção contra pornografia infantil.
- As alegações baseiam-se na lei Masha e na lei de proteção de vítimas de tráfico de seres humanos, e exigem indemnização e interdição de montagens futuras.
- Estudo do Centro de Combate ao Ódio Digital indicou que o Grok gerou cerca de três milhões de imagens sexualizadas em 11 dias, com 23 mil a envolver menores; a xAI limitou o Grok a assinantes pagantes e bloqueou conteúdos onde é ilegal.
Três adolescentes de Tennessee processaram a empresa xAI, de Elon Musk, no tribunal federal de San José, Califórnia. Alegam que o chatbot Grok gerou imagens pornográficas a partir de fotografias reais que lhes pertencem. O processo é coletivo e pode envolver mais de mil vítimas menores.
A queixa descreve que as imagens foram criadas a partir de fotografias comuns tiradas nas redes sociais ou em álbuns escolares. As montagens circularem em plataformas como X, Discord e Telegram, chegando ainda à dark web, onde serviram de moeda para conteúdos de pornografia infantil.
Os advogados das menores afirmam que o Grok foi concebido para lucrar com conteúdos sexualmente explícitos, sem proteções contra pornografia infantil. A ação baseia-se na lei Masha e na proteção de vítimas de tráfico de seres humanos.
Detalhes do Processo
Segundo o documento, as imagens foram amplificadas e partilhadas em várias redes, com a expected to be disseminadas amplamente. O processo visa indemnização às vítimas e a suspensão de funções do Grok para este tipo de montagens.
Especialistas citados na queixa apontam que, sem a intervenção da xAI, estes conteúdos ilegais dificilmente teriam existido. A defesa não foi detalhadamente apresentada publicamente no momento.
Medidas e Reação
Entre as ações tomadas pela xAI, ocorridas a meio de janeiro, está a restrição do Grok apenas aos assinantes pagantes para criação de imagens. A empresa também garantiu bloquear conteúdos sexualizados onde a lei assim o proíbe.
Entre na conversa da comunidade