- O procurador-geral da Califórnia abriu uma investigação à xAI devido à proliferação online de imagens de mulheres e crianças nuas geradas com o Grok, assistente de IA criado pela empresa de Elon Musk.
- O procurador afirmou que a xAI parece facilitar a produção em larga escala de deepfakes não consensuais usados para assediar mulheres e raparigas, incluindo na rede social X.
- Exortou a xAI a adotar medidas imediatas para impedir que a produção destas imagens volte a ocorrer, sublinhando a tolerância zero para conteúdos íntimos não consensuais ou pornografia infantil.
- A investigação da Califórnia insere-se num conjunto global de averiguações sobre o Grok, com a União Europeia a ameaçar agir se Musk não intervir.
- Regulatórios de outros países também estão a analisar o Grok, incluindo o Ofcom no Reino Unido, a França e a Indonésia.
A Califórnia abriu uma investigação à empresa xAI, criada por Elon Musk, devido à difusão online de imagens geradas com Grok que sexualizam mulheres e menores. A ação é anunciada pelo procurador-geral Rob Bonta, que aponta a ferramenta como facilitadora de deepfakes em grande escala para assédio online.
Segundo o anúncio, a xAI terá promovido a capacidade de despir pessoas como recurso de marketing, o que tería levado à proliferação de conteúdos não consensuais. A investigação visa apurar responsabilidades e evitar novas ocorrências de exploração de imagens.
O procurador sublinha que não há tolerância para a criação ou distribuição de imagens íntimas sem consentimento, incluindo pornografia infantil. A operação busca medidas imediatas para impedir a prática e proteger potenciais vítimas.
Contexto Internacional
A Comissão Europeia já sinalizou que pode atuar caso a empresa não tome medidas. Vários países investigam o Grok, com foco na modificação de imagens publicadas na rede social X. A UE aponta para riscos de uso indevido em larga escala.
Na sequência, Ofcom, regulador britânico, abriu uma investigação formal contra a X para verificar cumprimento de obrigações legais face a conteúdos sexualizados. Outras jurisdições, como França e Indonésia, também analisam o tema.
Desde 9 de janeiro, o Grok restringiu o acesso de utilizadores gratuitos e a plataforma afirma tomar medidas para remover conteúdos ilegais e suspender contas envolvidas. As investigações em curso refletem preocupações globais sobre IA e consentimento.
Entre na conversa da comunidade