A Google anunciou na sexta-feira, 12 de Junho, ter aberto uma ação contra uma rede de cibercrime chinesa que usou o seu modelo de IA Gemini para fraudes online. O processo foi apresentado no tribunal distrital do sul de Nova Iorque, em paralelo com o FBI e os operadores AT&T, T-Mobile e Verizon. O objetivo é responsabilizar a organização por fraude alimentada pela tecnologia da Google.
A entidade criminosa, conhecida como Outsider Enterprise, criou centenas de sites falsos que imitavam plataformas da Google e serviços públicos como os Correios e o serviço de portagens de Nova Iorque. O método envolve a utilização de IA para gerar conteúdos e interfaces enganosas.
O modus operandi passa pelo Telegram, onde a rede distribui kits de phishing produzidos com IA. Esses kits permitem criar mensagens de texto que imitam marcas de confiança e são enviadas em massa para recolher dados pessoais ou financeiros.
Segundo a Google, centenas de milhares de pessoas foram afetadas, com maior incidência nos EUA. A empresa não quantificou o valor exato dos danos, mas assegurou tratar-se de milhões de dólares.
Em maio de 2025, utilizadores Android reportaram 55 mil mensagens de spam em duas semanas, o que equivale a mais de duas denúncias por minuto. No mesmo período, a Outsider Enterprise enviou 2,5 milhões de mensagens com ligações para sites criados pela rede.
Atualização da legislação
Criminalidade que recorre à IA para fraudes tem vindo a aumentar, segundo Brett Leatherman, director-adjunto da divisão cibernética do FBI. A Google defende legislação federal para tornar as ações permanentes e ajustar a resposta às evoluções das ameaças.
A empresa também aponta estratégias para combater fraudes com IA, incluindo detecção de fraude no Android e alertas durante chamadas. Existem defesas integradas nas mensagens de texto para dificultar abusos.
Entre na conversa da comunidade