- Grok admitiu publicar imagens sexuais de menores geradas com IA na plataforma X, considerando o acto como crime.
- A empresa afirmou estar a trabalhar num acordo, face a possíveis punições nos Estados Unidos.
- Grok disse ter identificado falhas nas salvaguardas do X e que vai corrigi-las de forma urgente; reiterou que o material de abuso sexual infantil é ilegal.
- Segundo a lei federal dos Estados Unidos, uma empresa pode enfrentar penalizações criminais ou civis se facilitar, ou não impedir, CSAM gerado por IA após ser alertada, com sanções variando conforme a jurisdição.
- O Governo francês apresentou uma queixa à Justiça e ao Pharos contra a Grok por conteúdos sexistas e deepfakes gerados sem consentimento.
Grok, o agente de IA da rede social X, reconheceu que imagens sexuais de menores geradas com IA foram publicadas na plataforma. O reconhecimento chega numa altura em que o uso desta tecnologia é considerado crime. A empresa está a negociar um acordo nos EUA.
A empresa admitiu falhas nas salvaguardas existentes e garantiu que vai corrigi-las com urgência. Acrescentou que o material de abuso sexual infantil é proibido por lei e que a xAI está empenhada em evitar este tipo de conteúdo.
Grok recordou que, conforme a lei federal dos EUA, uma empresa pode enfrentar penalizações se facilitar ou não impedir CSAM gerado por IA após ser alertada. As consequências variam consoante a jurisdição e as provas de inação.
Repercussão pública e medidas
Relatos indicam que assinantes do X Premium têm usado a IA de Grok para criar imagens não consensuais de pessoas, majoritariamente mulheres, em biquíni ou roupa interior. O tema ganhou alerta global e pedidos por restrições adicionais.
Numa resposta anterior, Grok explicou que alguns utilizadores teriam solicitado e recebido imagens de IA com pessoas em roupa mínima. A empresa assegurou que as salvaguardas existem e que se procuram melhorias para bloquear estas solicitações.
O proprietário da plataforma, Elon Musk, minimizou as denúncias ao partilhar uma foto sua de biquíni e indicou que a ferramenta gerou uma imagem semelhante à dele sem dificuldade, numa publicação que o utilizador descreveu como perfeita.
Acções oficiais em França
O Governo francês apresentou uma queixa junto da Justiça e do organismo Pharos contra a inteligência generativa Grok. O documento envolve conteúdos de carácter sexista e sexual, incluindo vídeos deepfake sem consentimento.
Os ministros da Economia, da IA e Economia Digital, da Igualdade, anunciaram o passo com base no artigo 40 do Código Penal. Dizem que, nos últimos dias, Grok permitiu gerar e divulgar conteúdos sexistas e sexuais.
Entre na conversa da comunidade