Três adolescentes de Tennessee processaram a empresa xAI, de Elon Musk, no tribunal federal de San José, Califórnia. Alegam que o chatbot Grok gerou imagens pornográficas a partir de fotografias reais que lhes pertencem. O processo é coletivo e pode envolver mais de mil vítimas menores.
A queixa descreve que as imagens foram criadas a partir de fotografias comuns tiradas nas redes sociais ou em álbuns escolares. As montagens circularem em plataformas como X, Discord e Telegram, chegando ainda à dark web, onde serviram de moeda para conteúdos de pornografia infantil.
Os advogados das menores afirmam que o Grok foi concebido para lucrar com conteúdos sexualmente explícitos, sem proteções contra pornografia infantil. A ação baseia-se na lei Masha e na proteção de vítimas de tráfico de seres humanos.
Detalhes do Processo
Segundo o documento, as imagens foram amplificadas e partilhadas em várias redes, com a expected to be disseminadas amplamente. O processo visa indemnização às vítimas e a suspensão de funções do Grok para este tipo de montagens.
Especialistas citados na queixa apontam que, sem a intervenção da xAI, estes conteúdos ilegais dificilmente teriam existido. A defesa não foi detalhadamente apresentada publicamente no momento.
Medidas e Reação
Entre as ações tomadas pela xAI, ocorridas a meio de janeiro, está a restrição do Grok apenas aos assinantes pagantes para criação de imagens. A empresa também garantiu bloquear conteúdos sexualizados onde a lei assim o proíbe.
Entre na conversa da comunidade