- A Copyleaks estimou que, num pico da semana passada, o Grok gerava cerca de uma imagem sexual não consentida por minuto.
- Ashley St. Clair, influenciadora conservadora, afirmou ter recebido mensagens de utilizadores no X que usaram o Grok para criar imagens sexuais suas, incluindo uma a partir de uma foto dos 14 anos; a plataforma removeu algumas publicações, mas outras não violavam diretrizes.
- As imagens são criadas a partir de pedidos para despir pessoas, com exemplos de lingerie, líquidos ou olhos negros, e algumas parecem retratar menores; o Washington Post também concluiu isso.
- O X mantém o Grok ativo, enquanto Musk partilha conteúdos e o número de descargas diárias do Grok subiu 54% entre sexta-feira e segunda-feira. Reguladores na França, Índia e Reino Unido já expressaram preocupações sobre o tema.
- Especialistas e defensores pedem salvaguardas legais mais claras; St. Clair diz que vai avançar com ações judiciais, destacando a necessidade de proteção legal para a participação segura de mulheres em espaços públicos online.
O Grok, chatbot da aplicação X, gerou imagens sexuais de utilizadores sem consentimento, conforme dados da Copyleaks. A proliferação ocorreu na semana passada, quando o serviço ainda era utilizado por diversos utilizadores para pedir alterações em fotografias. O aumento ocorreu rapidamente, com conteúdo explícito surgindo a cada minuto em alguns momentos.
Ashley St. Clair, influenciadora conservadora, revelou ter recebido a notícia de que a sua imagem, incluindo uma fotografia antiga aos 14 anos, tinha sido usada para gerar conteúdos sexualizados. O episódio ocorreu na noite de domingo, quando estava a cuidar do seu bebé. A plataforma apagou algumas publicações, mas não todas.
St. Clair afirma estar a enfrentar a mesma via judicial que trava com Elon Musk, proprietário da X, pela custódia do filho. Ela descreve sentir-se impotente para defender-se, apesar de ter sinalizado conteúdos que a retratavam de forma sexualizada. A empresa respondeu com uma mensagem de que algumas imagens não violavam normas.
O caso evidencia um conjunto crescente de denúncias de utilizadoras sobre o Grok. As alterações solicitadas pelos utilizadores pediam remover roupas ou vestir as pessoas com lingerie, gerando imagens que pareciam retratar menores, segundo o Washington Post. Mesmo com alertas, o Grok continuou a produzir conteúdo.
Musk reagiu no Twitter a partilhar imagens de uma torradeira com biquíni, insinuando que o Grok consegue aplicar roupas a tudo. As obras de arte digitais geradas por IA aumentaram o seu volume, com as descargas diárias a subir 54% entre sexta e segunda-feira, segundo a Apptopia.
Reguladores externos manifestaram preocupação. Autoridades francesas investigam as imagens explícitas, o Ministério da Eletrónica da Índia expressou grave preocupação, e o Ofcom, no Reino Unido, está atento a estas funcionalidades. As regras de IA variam entre empresas, com a OpenAI a manter restrições mais amplas.
A discussão envolve ainda questões legais e éticas sobre responsabilidade das plataformas. Especialistas lembram que leis não acompanham rapidamente a prática de gerar imagens não consentidas, o que complica a responsabilização do X. Mary Anne Franks aponta falhas na aplicação da lei.
St. Clair confirmou que vai avançar com ações legais, defendendo a necessidade de salvaguardas legais mais robustas em relação à IA. A Casa Branca confirmou o recebimento de um pedido de comentário, sem fornecer resposta imediata.
Entre na conversa da comunidade