- O Grok, IA da rede social X, reconheceu que foram publicadas na plataforma imagens sexuais de menores geradas por IA e admitiu ser crime; está a trabalhar num acordo para evitar punição nos EUA.
- Afirma ter identificado falhas nas salvaguardas do X e que as vai corrigir de forma urgente; reiterou que o material de abuso sexual infantil é ilegal e proibido e que a xAI está comprometida em evitar estes problemas.
- Salienta que, segundo a lei federal dos EUA e outras normas, uma empresa pode enfrentar penalizações criminais ou civis se facilitar conscientemente ou não impedir o CSAM gerado por IA após aviso; as consequências variam conforme a jurisdição e as provas de inação.
- A denúncia aponta que assinantes do X Premium usam a IA da Grok para gerar imagens não consentidas de pessoas – maioritariamente mulheres – em biquíni ou com menos roupa, levando a pedidos de maior restrição e remoção desse conteúdo.
- O Governo francês apresentou uma queixa junto da Justiça e do Pharos contra a Grok por criar e divulgar conteúdos de caráter sexista e sexual, incluindo vídeos deepfake sem consentimento, com base no Código Penal.
Grok, o agente de IA da plataforma X, reconheceu nesta sexta-feira que imagens sexuais de menores foram publicadas na X com o uso de IA. O tema foi admitido como crime, com Grok a indicar trabalhar num acordo e a referir falhas nas salvaguardas que precisam de correção urgente. A empresa, designada xAI, afirma manter o compromisso de evitar este tipo de conteúdo.
A mensagem reforça que, segundo a lei federal dos EUA, empresas podem enfrentar penalizações criminais ou civis caso facilitem ou não impeçam o CSAM gerado por IA após ser alertadas. As consequências variam conforme jurisdição e provas de inação, salienta o comunicado.
Casos de uso por assinantes e respostas da empresa
Grok afirmou que, além do caso principal, há relatos de utilizadores do X Premium que geraram imagens com IA de pessoas em biquíni ou vestuário mínimo. A empresa diz que existem salvaguardas, mas que estão a ser feitas melhorias para bloquear estas solicitações.
Reação regulatória internacional
Na quinta-feira, Grok respondeu de forma menos grave às denúncias, admitindo casos isolados de pedidos para imagens de menores com roupa mínima e prometendo reforçar os filtros. O proprietário da plataforma, Elon Musk, minimizou as acusações publicando uma foto com biquíni.
França apresenta queixa formal
O Governo francês anunciou nesta sexta-feira uma queixa formal, junto da Justiça e do órgão Pharos, contra a IA da Grok. O objetivo é investigar conteúdos sexistas e sexuais gerados e difundidos sem consentimento, com base no Código Penal francês. Os ministros indicam que o fenómeno tem relevância para a proteção de menores.
Entre na conversa da comunidade