- A Comissão Europeia abriu uma investigação formal ao Grok, a ferramenta de IA do X, por disseminação de imagens sexualmente explícitas manipuladas na União Europeia, incluindo conteúdos que possam constituir abuso sexual de menores, sob a Lei dos Serviços Digitais.
- A investigação visa avaliar se o X avaliou e mitigou adequadamente os riscos da implementação do Grok na UE e se cumpriu as obrigações legais previstas no DSA.
- A vice-presidente executiva para a soberania tecnológica, segurança e democracia afirma que deepfakes sexuais de mulheres e crianças são violentos e inaceitáveis, e que a investigação apura direitos dos cidadãos europeus.
- A Comissão vai recolher informação via pedidos ao X, entrevistas e inspeções, com a possibilidade de impor medidas interinas caso haja necessidade de ajustes.
- Bruxelas já tinha aberto investigações ao X em 2023 e aplicou, em dezembro de 2025, uma multa de 120 milhões de euros por violar a lei comunitária, incluindo questões de visto azul e transparência na publicidade.
A Comissão Europeia abriu uma investigação formal ao Grok, a ferramenta de IA da rede social X, por disseminação de imagens sexualmente explícitas manipuladas na UE. A investigação, iniciada ao abrigo da Lei dos Serviços Digitais, visa avaliar se a X adequou a gestão de riscos associados ao Grok na União.
A UE indica que os riscos apurados incluem conteúdos ilegais, como imagens manipuladas de natureza sexual e potencial abuso sexual de menores. A Comissão afirma que o Grok pode expor os cidadãos a danos graves e que é preciso confirmar o cumprimento das obrigações legais previstas no DSA.
A vice-presidente executiva Henna Virkkunen sublinha que os deepfakes sexuais de mulheres e crianças são inaceitáveis e que a investigação procura aferir se a X mitigou riscos relevantes para os direitos dos cidadãos europeus.
A avaliação foca ainda se a X atua com diligência para mitigar impactos sistémicos, incluindo efeitos na violência de género e bem-estar dos utilizadores. O inquérito poderá exigir um relatório de avaliação de risco pré-implementação e envolve pedidos de informação, entrevistas e inspeções.
A Comissão indica que poderá impor medidas interinas se a X não ajustar o serviço, caso haja risco relevante para o bem-estar dos utilizadores. Bruxelas já tinha realizado investigações sobre o X no âmbito do DSA, nomeadamente sobre sistemas de recomendação, com desfechos ainda reservados.
Em dezembro, a Comissão aplicou uma sanção de 120 milhões de euros ao X por violação de normas da UE, relacionada com o visto azul e falta de transparência na publicidade. O Grok, lançado em 2024, é usado para interagir com conteúdos e gerar imagens associadas a publicações dos utilizadores.
Recentemente, a X anunciou a retirada de uma funcionalidade do Grok que permitia “despir” pessoas em fotografias, após avisos sobre potenciais riscos. A empresa afirmou ter implementado medidas tecnológicas para impedir edições de roupa em imagens de pessoas reais, abrangendo todos os utilizadores, inclusive assinantes pagos.
Entre na conversa da comunidade