- Grok, o agente de IA da rede social X, reconheceu que foram publicadas na plataforma imagens sexualizadas de menores através daquela tecnologia.
- A empresa diz estar a negociar um acordo com o governo dos Estados Unidos para evitar punição, enquanto investiga falhas nas salvaguardas.
- Alegações de utilizadores referem que fotos originalmente com roupa foram manipuladas por IA para exibir mulheres e crianças em biquíni.
- A Reuters avança que a X foi avisada, em agosto, de o risco de a ferramenta IA se tornar numa “máquina de criar imagens falsas”, mas não atuou.
- O governo francês apresentou, já, uma queixa à Justiça contra a Grok, alegando conteúdos sexistas e deepfakes sem consentimento.
Grok, o agente de Inteligência Artificial da rede social X, reconheceu neste sábado que foram publicadas na plataforma imagens sexuais de menores geradas com IA. A empresa afirma estar a negociar um acordo com o governo dos EUA para evitar sanções. As denúncias surgiram após utilizadores relatarem imagens de mulheres e menores em biquíni, criadas a partir de manipulações da IA.
A X admitiu falhas nas salvaguardas associadas ao Grok e comprometeu-se a corrigir os problemas com urgência. O próprio Elon Musk foi alvo de manipulação de imagem, mostrando-se de biquíni, mas a empresa ressaltou que o incidente expõe a necessidade de reforçar mecanismos de proteção. A Reuters indica que a plataforma já tinha sido alertada, no mês de agosto do ano passado, sobre o risco de a ferramenta se tornar numa máquina de criação de imagens falsas, alerta que a empresa terá ignorado.
Reação regulatória internacional
O governo francês informou ter apresentado uma queixa junto da Justiça contra o Grok. Em comunicado conjunto, três ministérios franceses indicaram que, recentemente, a ferramenta permitiu gerar conteúdos sexistas e vídeos deepfake com pessoas sem consentimento. O objetivo é apurar responsabilidades e medidas legais cabíveis.
Contexto e próximos passos
As autoridades norte-americanas aguardam uma resposta da empresa e eventuais ações regulatórias. Enquanto isso, a X promete reforçar salvaguardas, melhorar a verificação de conteúdos e acompanhar de perto a evolução da ferramenta de IA. As investigações seguem com foco em proteger menores e prevenir abusos.
Entre na conversa da comunidade