- A Comissão Europeia abriu uma investigação formal ao Grok, ferramenta de IA da X, por disseminação de imagens sexualmente explícitas manipuladas na União Europeia, incluindo conteúdos que possam constituir abuso sexual de menores.
- A análise, ao abrigo da Lei dos Serviços Digitais, pretende avaliar se a X avaliou e mitigou adequadamente os riscos do Grok na UE, especialmente a disseminação de conteúdos ilegais e os efeitos da violência baseada no género.
- A investigação centra-se numa funcionalidade que permite conteúdos manipulados (deepfake) e, ao mesmo tempo, a UE alargou outra averiguação sobre o cumprimento das obrigações de gestão de riscos dos sistemas de recomendação do X, incluindo o Grok.
- Se comprovadas, as acusações podem implicar várias infrações da lei comunitária e origem de coimas; a Comissão vai continuar a recolher provas através de pedidos de informação, entrevistas e inspeções e pode impor medidas provisórias.
- O Grok é uma ferramenta lançada desde 2024 pelo X, que permite gerir texto e imagens; a UE mantém regras mais restritivas para plataformas digitais com vista a remover conteúdos ilegais e nocivos.
A Comissão Europeia anunciou uma investigação formal ao Grok, a ferramenta de IA da rede social X, por disseminação de imagens sexualmente explícitas manipuladas na UE, incluindo conteúdos que possam constituir abuso sexual de menores. A ação decorre ao abrigo da Lei dos Serviços Digitais.
Em Bruxelas, o executivo analisa se a X avaliou e mitigou adequadamente os riscos associados à implementação do Grok na UE, incluindo a divulgação de conteúdos ilegais e os impactos de violência baseada no género. O objetivo é confirmar obrigações da empresa.
A investigação, de caráter prioritário, pretende averiguar se a X cumpre as exigências da Lei dos Serviços Digitais com o Grok, nomeadamente prevenção de conteúdos ilegais e correta comunicação de avaliações de risco à UE.
Também hoje a Comissão expandiu outra linha de investigação sobre a gestão de riscos dos sistemas de recomendação da X, iniciada em dezembro de 2023, para verificar o impacto das mudanças recentes para um sistema baseado no Grok.
A UE sublinha que estas análises podem abranger danos graves aos cidadãos e a verificação de medidas de mitigação, bem como a eventual aplicação de medidas provisórias caso fossem necessários ajustes rápidos.
O Grok, desenvolvido desde 2024 pela X, permite gerir texto e imagens, oferecendo contexto às publicações dos utilizadores. A ferramenta está no centro das atenções regulatórias da UE.
A Lei dos Serviços Digitais tornou-se uma referência na UE para remover conteúdos ilegais e nocivos, responsabilizando plataformas por conteúdos prejudiciais, incluindo desinformação.
As autoridades comunitárias destacam que o incumprimento pode levar a coimas proporcionais à dimensão da empresa, com possibilidade de novas sanções se as irregularidades permanecerem.
As investigações podem avançar com pedidos de informação adicionais, entrevistas ou inspeções, mantendo a UE disponível para medidas executivas caso necessário.
Entre na conversa da comunidade