- Um estudo da Universidade de Edimburgo analisou mais de cem milhões de mensagens em fóruns de cibercriminosos, usando a base CrimeBB.
- O objetivo foi avaliar se a IA já está a alterar as práticas dos criminosos, nomeadamente na aprendizagem ou na criação de ferramentas mais sofisticadas.
- Conclui-se que a IA teve pouco impacto nas atividades criminosas e não houve evidência significativa de melhoria em intrusões ou em contornar defesas.
- As mensagens sugerem que as assistentes de programação baseadas em IA ajudam mais quem já domina programação, não proporcionando um impulso relevante para invasões.
- O estudo, que recorreu a análise manual e a grandes modelos de linguagem, aponta que barreiras de proteção de IA parecem funcionar, levando criadores a usar modelos de código aberto menos eficazes.
Os cibercriminosos enfrentam dificuldades em incorporar a IA nas suas atividades, aponta um estudo em pré-publicação da Universidade de Edimburgo. A análise avaliou mais de 100 milhões de mensagens em fóruns de cibercrime, extraídas da base CrimeBB. O objetivo foi perceber se a IA mudou a forma de operar.
A investigação combinou análise manual com o apoio de um grande modelo de linguagem (LLM). Dados provenientes de comunidades clandestinas serviram para entender motivações, estratégias e limitações no uso de IA.
Efeitos da IA na prática criminosa
Os resultados indicam que a IA, na prática, não alterou de forma significativa o modo de agir dos piratas informáticos. Muitas avaliações descrevem as ferramentas de IA como pouco úteis para intrusões ou para criar soluções mais sofisticadas.
Não houve evidência significativa de que a IA tenha melhorado ataques de intrusão ou aprendizagem, segundo o estudo. O principal ganho observado está em áreas fáceis de automatizar, como bots para redes sociais e fraudes ligadas a SEO ou sites falsos.
Os investigadores destacam que a IA útil para crime tende a residir em produtos generalistas, como Claude ou Codex, e não em modelos criados especificamente para crime, como WormGPT. Modelos abertos mais antigos voltam a surgir como opção menos eficiente e mais exigente.
Perante as barreiras de proteção, muitos cibercriminosos recorrem a IA de código aberto, que é mais vulnerável a contornar, ainda que menos eficaz. O estudo conclui que as salvaguardas empresariais da IA estão a funcionar, pelo menos por agora.
Entre na conversa da comunidade