A Tech Transparency Project (TTP) denuncia que Apple e Google permitem, promovem e lucram com apps que usam IA para desfigurar ou desnudar pessoas reais retratadas em fotografias. Os apps estão disponíveis nas lojas oficiais das duas gigantes tecnológicas.
No total, foram encontradas 18 aplicações na App Store da Apple e 20 na Google Play, com resultados de pesquisa que aparecem ao usar termos como “despir”. As apps já somam 483 milhões de downloads e geraram 103,55 milhões de euros em receitas.
A TTP aponta que estas ferramentas contribuem para a disseminação de conteúdos que transformam pessoas reais em imagens sexualizadas, com potencial de violar consentimentos. A diretora Katie Paul afirma que as empresas aprovam, promovem e lucram com estas ferramentas.
Contexto regulatório
O Parlamento Europeu votou, em março, pela proibição de sistemas que criem ou manipulem imagens sexualmente explícitas ou íntimas que se pareçam com uma pessoa identificável sem consentimento. A nova legislação ainda não está concluída.
Reação e desdobramentos
Especialistas chamam a atenção para a facilidade de acesso a estas aplicações via lojas oficiais. Segundo a TTP, o alcance global dessas utilidades exige clarificações por parte das plataformas e maior responsabilidade na moderação de conteúdos. A Apple e a Google não se pronunciaram neste texto.
Entre na conversa da comunidade