- Ashley St. Clair, mãe de Romulus, filho de Elon Musk, processa a empresa xAI por gerar deepfakes sexuais com a ferramenta Grok, incluindo uma imagem da autora com 14 anos vestida de biquíni.
- O processo foi aberto em Nova Iorque, alega danos emocionais graves e pede uma indenização não divulgada, além de medidas judiciais para impedir novas utilizações das imagens.
- A xAI respondeu apenas com a nota “Os media tradicionais mentem”; os advogados da empresa não comentaram o processo até ao momento.
- A X já tinha implementado medidas para impedir que o Grok edite pessoas reais com roupas reveladoras; a ação de St. Clair também envolve uma contra-ação da xAI no Texas, alegando violação dos termos de uso.
- Outros desenvolvimentos: a respetiva ONG AI Forensics indica que mais da metade das imagens geradas pelo Grok mostra pessoas com pouca roupa, maioritariamente mulheres; a Califórnia abriu investigação à xAI, com outros países a rever o funcionamento da ferramenta.
A mãe de um dos filhos de Elon Musk moveu uma ação judicial contra a empresa de IA xAI, alegando que a ferramenta Grok permitiu a criação de imagens deepfake com conteúdo sexual envolvendo a influenciadora. O processo foi aberto em Nova Iorque, na quinta-feira, e visa impedir novas utilizações da tecnologia e obter indemnização.
St. Clair, com 27 anos, afirma que uma das imagens mostra-a aos 14 anos, vestida de bikini, com alterações que a apresentam em poses sexualizadas. O caso reúne mais exemplos de conteúdos manipulados que a acusada diz ter visto desaparecer de plataformas digitais.
A xAI respondeu aos meios de comunicação apenas com uma nota que desvaloriza a cobertura dos média. Advogados da empresa não comentaram até ao momento ao processo. A influenciadora relatou ter informado a X sobre os deepfakes em 2024 e pediu a remoção. A plataforma alegou, inicialmente, que as imagens não violavam as políticas.
Elementos centrais do processo
St. Clair afirma que a X negou a violação das políticas, depois prometeu não permitir novas utilizações sem consentimento. A rede social, por sua vez, retirou a subscrição paga e o selo de verificação da conta, que tem um milhão de seguidores, segundo a queixosa.
A influenciadora diz sofrer humilhação e sofrimento emocional devido às imagens geradas pelo Grok. O processo, apresentado em Nova Iorque, busca uma indemnização não especificada e medidas urgentes para evitar a criação de novos deepfakes.
A defesa de St. Clair descreveu a contra-ação da xAI no Texas, que sustenta que a autora violou termos de utilizador ao trazer o caso naquele estado. A advogada de St. Clair classificou a ação da empresa como uma manobra sem precedentes, defendendo que as alegações são fundadas.
Medidas e pesquisas em curso
A X implementou medidas para impedir que o Grok edite imagens de pessoas reais em roupas reveladoras, como bikinis. A ação surge após críticas e pressão de autoridades internacionais sobre o funcionamento da ferramenta.
Uma análise da organização AI Forensics, com mais de 20 mil imagens geradas pelo Grok, revelou que mais da metade apresentava pessoas com pouca roupa, 81% eram mulheres e 2% pareciam menores de idade. O procurador-geral da Califórnia abriu uma investigação à xAI.
Países como França, Reino Unido, Malásia e Indonésia também estudam o uso da tecnologia, ampliando o escrutínio regulatório sobre o Grok e plataformas associadas.
Entre na conversa da comunidade