- Um relatório da Tech Transparency Project aponta que existem 18 aplicações na Apple App Store e 20 na Google Play que usam IA para despojar pessoas reais retratadas em fotografias e lucram com isso.
- Estas apps aparecem nos resultados de pesquisa quando se entram termos como “despir” nas duas lojas.
- No total, as aplicações já tiveram 483 milhões de downloads e geraram 103,55 milhões de euros em receitas.
- Especialistas dizem que as apps são promovidas e consideradas “participantes chave na disseminação de ferramentas de IA que podem transformar pessoas reais em imagens sexualizadas”.
- O Parlamento Europeu votou pela proibição dos sistemas que criam ou manipulam imagens sexualmente explícitas de pessoas reais sem consentimento, mas a legislação ainda não está implementada.
A Tech Transparency Project (TTP) denuncia que Apple e Google permitem, promovem e lucram com apps que usam IA para desfigurar ou desnudar pessoas reais retratadas em fotografias. Os apps estão disponíveis nas lojas oficiais das duas gigantes tecnológicas.
No total, foram encontradas 18 aplicações na App Store da Apple e 20 na Google Play, com resultados de pesquisa que aparecem ao usar termos como “despir”. As apps já somam 483 milhões de downloads e geraram 103,55 milhões de euros em receitas.
A TTP aponta que estas ferramentas contribuem para a disseminação de conteúdos que transformam pessoas reais em imagens sexualizadas, com potencial de violar consentimentos. A diretora Katie Paul afirma que as empresas aprovam, promovem e lucram com estas ferramentas.
Contexto regulatório
O Parlamento Europeu votou, em março, pela proibição de sistemas que criem ou manipulem imagens sexualmente explícitas ou íntimas que se pareçam com uma pessoa identificável sem consentimento. A nova legislação ainda não está concluída.
Reação e desdobramentos
Especialistas chamam a atenção para a facilidade de acesso a estas aplicações via lojas oficiais. Segundo a TTP, o alcance global dessas utilidades exige clarificações por parte das plataformas e maior responsabilidade na moderação de conteúdos. A Apple e a Google não se pronunciaram neste texto.
Entre na conversa da comunidade