- A Ofcom abriu uma investigação à ferramenta de IA Grok, da plataforma X, por alegada sexualização de imagens de mulheres e crianças.
- O regulador analisa se a X cumpriu a Lei de Segurança Online, ao não impedir a criação ou partilha de imagens de pessoas sem roupa ou sexualizadas de menores.
- A investigação pretende avaliar se a X tomou medidas para impedir conteúdo ilegal no Reino Unido, se houve remoção rápida e como são protegidos os utilizadores quanto à privacidade.
- Se for violação da lei, podem ser impostas medidas específicas para cumprir a lei ou reparar danos, além de multas de até 18 milhões de libras (21 milhões de euros) ou 10% da receita mundial, o que for maior.
- O Grok foi lançado em 2023 e tem gerado críticas por criar imagens manipuladas, incluindo conteúdos sexuais de mulheres e crianças; o Grok Imagine, com modo “picante”, foi lançado no verão.
A Autoridade Reguladora das Comunicações do Reino Unido (Ofcom) abriu uma investigação ao Grok, ferramenta de IA da plataforma X, por alegadas utilizações que sexualizam imagens. A análise, divulgada nesta segunda-feira, foca a possível violação da Lei de Segurança Online britânica.
O regulador pretende conhecer se a rede social X cumpriu as obrigações legais ao impedir que conteúdos ilegais apareçam no Reino Unido, incluindo imagens íntimas não consensuais e material de abuso sexual infantil. A investigação avalia também se os conteúdos são removidos rapidamente e se as medidas de proteção de privacidade dos utilizadores estão a funcionar.
Caso se confirme infração, a Ofcom pode exigir ações corretivas e aplicar sanções financeiras de até 18 milhões de libras ou 10% da receita global, o que for maior. A entidade também pode ordenar reparação de danos causados.
Lançado em 2023, o Grok é um chatbot da X que já gerou críticas por imagens manipuladas de mulheres e menores. Em 2023, surgiu o Grok Imagine, com um modo que permite criar conteúdo para adultos, aumentando preocupações regulatórias.
Países como Indonésia e Malásia já bloquearam o Grok, alegando uso de conteúdos sexuais não consensuais. A União Europeia também anunciou investigação sobre casos de imagens sexuais de menores geradas pela ferramenta, após a introdução de funcionalidades de conteúdo manipulado.
Entre na conversa da comunidade