- A circulação de imagens sexualizadas de mulheres e crianças através do Grok, assistente de IA no X, mantém-se, apesar de promessas de suspender contas que criem conteúdos ilícitos.
- Ashley St Clair, mãe de um dos filhos de Elon Musk, denunciou ter imagens suas manipuladas digitalmente desde a adolescência.
- O regulador britânico Ofcom contactou urgentemente o X e a xAI para perceber quais medidas foram adotadas para proteger utilizadores no Reino Unido, com possibilidade de abrir uma investigação.
- A atualização de dezembro do Grok facilitou a edição de fotografias, colocando pessoas em lingerie ou em poses sexualizadas, embora a plataforma afirme não permitir nudez total.
- Investigadores da AI Forensics analisaram dezenas de milhares de menções ao Grok entre 25 de dezembro e 1 de janeiro, concluiu-se que mais de metade das imagens envolvia pessoas em traje mínimo e 2% incluíam menores de 18 anos.
Imagens geradas por inteligência artificial que representam mulheres e crianças em situações sexualizadas continuam a circular na plataforma X, propriedade de Elon Musk. O recurso Grok, usado para criar conteúdos manipulados, mantém-se ativo, apesar de promessas de suspensão de utilizadores que violem regras.
Várias vítimas denunciaram o problema, incluindo Ashley St Clair, antiga parceira de Musk e mãe de um dos seus filhos, que relata ter visto imagens suas manipuladas desde a adolescência. A prática terá aumentado após uma atualização de dezembro do Grok, que facilita editar fotografias, segundo a investigação.
O regulador britânico Ofcom informou ter contactado urgentemente a X e a sua empresa associada, a xAI, para perceber as medidas de proteção implementadas. A autoridade pode abrir uma investigação, dependendo da resposta recebida.
A investigação de investigadores franceses da AI Forensics analisou milhares de menções aoGrokk e imagens criadas entre 25 de dezembro e 1 de janeiro. Concluiu que mais da metade das imagens mostrava pessoas com traje mínimo e que 2% envolviam menores de 18 anos.
Elon Musk respondeu inicialmente com emojis de riso, mas depois afirmou que usos ilegais do Grok terão consequências legais equivalentes a materiais ilícitos. Um porta-voz do X disse que conteúdos ilegais são removidos, contas suspensas e autoridades contatadas quando necessário.
No terreno, St Clair diz que o processo de remoção tem sido lento e que várias imagens permaneceram acessíveis durante várias horas. A plataforma afirma que atua rapidamente, mas não revelou números de remoção ou prazos médios.
A legislação britânica já proíbe a criação de imagens de menores nus; contudo, há atraso na implementação de leis de deepfakes para adultos. Especialistas destacam que a demora deixa vítimas expostas e dificuldades de punição efetiva.
Para St Clair, o assédio digital intensificou-se após as denúncias públicas. A ativista afirma que mulheres enfrentam maior pressão para não partilharem conteúdo, sob risco de serem alvo de abusos generalizados. Este é visto como um problema de direitos civis.
Entre na conversa da comunidade