- Medidas tecnológicas foram implementadas para impedir que a conta Grok edite imagens de pessoas reais com roupas reveladoras, aplicando-se a todos os utilizadores, incluindo subscritores pagos.
- A plataforma informou que o bloqueio geográfico será aplicado onde a lei exigir, o que pode gerar dúvidas sobre a abrangência.
- Desde 9 de janeiro, a geração de imagens com o Grok ficou limitada aos subscritores pagos.
- Em janeiro, o X afirmou tomar medidas contra conteúdo ilegal, incluindo pornografia infantil, removendo-o e suspendendo contas, e a cooperação com autoridades; porém houve silêncio e protestos enquanto surgiam investigações.
- A Califórnia abriu uma investigação à xAI por proliferação de imagens nuas de mulheres e crianças; uma análise da ONG AI Forensics encontrou mais de metade das imagens com pessoas nuas, 81% eram mulheres e 2% pareciam menores. Países como França, Reino Unido, Malásia e Indonésia também estudam o funcionamento da ferramenta.
A rede social X confirmou na quarta-feira a implementação de medidas técnicas para impedir que a sua ferramenta de IA Grok gere imagens de pessoas reais com roupas reveladoras, após críticas e pressão de autoridades de vários países. A empresa explicou que as alterações visam limitar o uso indevido da tecnologia.
Segundo o X, as restrições abrangem todos os utilizadores, incluindo subscritores pagos. A plataforma também informou ter aplicado bloqueios geográficos conforme exigido pela lei, o que levanta dúvidas sobre a cobertura efetiva destas medidas.
Desde 9 de janeiro, o X tem limitado a geração de imagens com Grok apenas aos subscritores pagos, conforme comunicado da empresa. O texto não detalha se existem exceções ou fases de implementação adicionais.
Medidas técnicas e âmbito
A X referiu ainda estar a agir contra conteúdos ilegais, nomeadamente pornografia infantil, através da remoção, suspensão de contas e cooperação com autoridades locais. A empresa não forneceu novos detalhes sobre este trabalho.
A 2ª-feira, o fundador Elon Musk voltou a acusar autoridades de tentar restringir a liberdade de expressão e reiterou que quem usar Grok para conteúdo ilegal enfrentará as mesmas consequências. A plataforma não comentou investigações em curso de forma individual.
Controvérsia e investigações
Uma análise da ONG AI Forensics, envolvendo mais de 20.000 imagens geradas pelo Grok, indicou que mais da metade retratava pessoas com pouca roupa, 81% eram mulheres e 2% pareciam menores de idade. Dados que alimentam o escrutínio público.
O procurador-geral da Califórnia anunciou a abertura de uma investigação à xAI devido à proliferação online de imagens nuas de mulheres e crianças geradas com Grok. Outros países já discutem revisões sobre o funcionamento da ferramenta.
Contexto internacional
A iniciativa da X sucede a revisões em França, Reino Unido, Malásia e Indonésia, entre outros. As autoridades questionam a capacidade da IA de restringir conteúdos sensíveis sem comprometer a liberdade de expressão.
As medidas entram num momento de maior pressão regulatória sobre plataformas de IA e sobre a forma como conteúdos gerados por IA podem afetar menores e vulneráveis.
Entre na conversa da comunidade