X impede Grok de retirar roupas de pessoas reais em imagens

A ferramenta Grok vai impedir editar fotografias de pessoas reais, removendo roupas ou substituindo-as por vestuário mais revelador.
A restrição aplica-se a todos os utilizadores, incluindo assinantes pagos, e foi comunicada numa publicação no X.
A medida surge no mesmo dia em que o procurador-geral da Califórnia anunciou uma investigação à proliferação online de deepfakes sexuais gerados por IA, incluindo de menores.
A investigação acusa a xAI de apresentar a capacidade de despir pessoas como ferramenta de marketing, o que teria impulsionado a disseminação de conteúdos sexualizados sem consentimento.
Uma análise da AI Forensics, que examinou mais de vinte mil imagens geradas pelo Grok, concluiu que mais da metade mostrava pessoas com pouca roupa, sendo 81% mulheres e 2% pareciam menores de idade.

A X vai impedir que a ferramenta Grok edite fotografias de pessoas reais para retirar roupas ou torná-las mais reveladoras. A medida surge no mesmo dia em que ficou pública uma investigação sobre a proliferação online de imagens sexualizadas geradas por IA, incluindo de menores.

A Grok é um assistente de IA criado pela empresa de Elon Musk, a XAI. A plataforma anunciou que a nova restrição se aplica a todos os utilizadores, incluindo assinantes pagos, através de um comunicado divulgado no X.

Medidas implementadas pela plataforma

De acordo com o anúncio, a X implementou ferramentas tecnológicas para impedir edições de imagens de pessoas reais com roupas reveladoras, como biquínis. A restrição é ampla, abrangendo qualquer utilizador da Grok.

Investigação em curso

A medida coincide com o anúncio do procurador-geral da Califórnia sobre a abertura de uma investigação. A Procuradoria investiga a disseminação de deepfakes sexuais gerados por IA, incluindo conteúdos com menores, produzidos pela Grok.

Dados de observação e contexto

Na semana anterior, a ONG AI Forensics analisou mais de 20 mil imagens geradas pelo Grok. A conclusão aponta que mais da metade mostrava pessoas em posições de pouca roupa, com 81% a serem mulheres e 2% a parecerem menores de idade.