- A Procuradoria-Geral da Califórnia abriu uma investigação à xAI sobre a produção de imagens nuas de mulheres e crianças geradas com o Grok, assistente de IA da empresa de Elon Musk.
- Alega-se que a ferramenta facilita a criação em larga escala de deepfakes não consensuais usados para assédio online, especialmente na rede social X, e o procurador pediu medidas imediatas à empresa.
- Uma análise da organização AI Forensics, que examinou mais de 20.000 imagens geradas pelo Grok, mostrou que mais da metade apresentava pessoas em pouca roupa; 81% eram mulheres e 2% pareciam menores.
- Desde 9 de janeiro, a funcionalidade de criação de imagens está desativada para utilizadores gratuitos do X, que afirma estar a remover conteúdos ilegais e a suspender contas envolvidas.
- Outros países também estão a investigar o Grok, incluindo França e Reino Unido, com queixas formais, e a Indonésia restringiu o acesso à ferramenta. A Malásia juntou-se às avaliações regulatórias.
O procurador-geral da Califórnia anunciou a abertura de uma investigação à xAI, empresa de Elon Musk, devido à proliferação online de imagens de mulheres e crianças nuas geradas com o Grok, assistente de IA. A ação envolve alegações de criação de deepfakes não consensuais para assédio.
Rob Bonta afirmou que a xAI facilita a produção em larga escala de conteúdos sexualizados para redes como a X. O responsável pediu medidas imediatas para impedir a repetição deste comportamento e reforçar a proteção de menores e adultos não consententes.
A investigação sucede a um conjunto de preocupações globais sobre o Grok. Desde 9 de janeiro, a funcionalidade de criação de imagens está desativada para utilizadores gratuitos do X, na tentativa de remover conteúdo ilegal e suspender contas.
Desdobramentos internacionais
Entidades regulatórias em vários países revisam o Grok, incluindo França, Reino Unido e Indonésia. A Ofcom, de Inglaterra, abriu uma investigação sobre o cumprimento de obrigações legais. A França apresentou queixa por conteúdos sexistas gerados pela IA.
A Malásia juntou-se à avaliação regulatória desta semana, com investidores a acompanhar respostas de diferentes jurisdições. A Indonésia impôs restrições de acesso ao chat por gerar imagens indecentes e não consensuais envolvendo mulheres e menores.
Uma análise da ONG AI Forensics, com mais de 20 mil imagens do Grok, indicou que mais da metade retratava pessoas com pouca roupa; 81% eram mulheres, e 2% pareciam menores. Os números justificam o escrutínio internacional.
Entre na conversa da comunidade