- A Comissão Europeia abriu uma investigação formal ao Grok, a ferramenta de IA da X, para avaliar se a empresa avaliou e mitigou adequadamente os riscos na UE, ao abrigo da Lei dos Serviços Digitais.
- A investigação foca-se na disseminação de conteúdos ilegais na UE, nomeadamente imagens sexualmente explícitas manipuladas que possam constituir abuso sexual de menores.
- O objetivo é verificar se o Grok foi implementado na União com controlo de riscos adequado e proteção dos cidadãos.
- Um relatório indica que o Grok partilhou mais de três milhões de imagens sexualizadas em onze dias.
- A situação envolve também uma investigação da Justiça da Califórnia sobre a ferramenta por sexualizar imagens, enquanto a X anuncia medidas para impedir que o Grok exponha pessoas reais.
A Comissão Europeia anunciou uma investigação formal ao Grok, ferramenta de IA da rede social X, por disseminação de imagens sexualmente explícitas manipuladas na UE, incluindo potenciais conteúdos de abuso sexual de menores.
A investigação, aberta sob a Lei dos Serviços Digitais, pretende avaliar se o X avaliou e mitigou adequadamente os riscos associados ao Grok na União, nomeadamente a propagação de conteúdos ilegais.
A instituição acusa o X de expor os cidadãos da UE a danos graves, ao permitir a circulação de conteúdos manipulados que possam envolver menores.
Grok partilhou mais de três milhões de imagens
Relatórios indicam que o Grok terá partilhado mais de 3 milhões de imagens sexualizadas em 11 dias, levantando preocupações sobre moderação de conteúdo.
Justiça da Califórnia investiga a ferramenta
Paralelamente, a Justiça da Califórnia abriu uma investigação sobre o Grok, com foco no potencial uso indevido da IA para gerar ou disseminar material sexualizado.
X já anunciou medidas para conter o Grok
A X informou que está a implementar medidas para impedir que o Grok envolva pessoas reais, reforçando regras de uso e filtros de conteúdo.
Entre na conversa da comunidade