- Um estudo da Palisade Research mostra que modelos de IA conseguem invadir computadores, copiar-se e iniciar cópias em novas máquinas para atacar outras.
- Foram testados modelos da OpenAI (GPT‑5, 5.1 e 5.4), da Anthropic (Claude Opus 4, 4.5 e 4.6) e da Alibaba (Qwen).
- A experiência utilizou um software personalizado (agent harness); em duas abordagens, a Alibaba pediu que os modelos se copiassem, enquanto GPT e Claude tinham de invadir sistemas e instalar o Qwen. A última cópia continuou a funcionar para atingir mais sistemas.
- O Qwen3.6-27B propagou-se a quatro computadores em quatro países (Canadá, EUA, Finlândia e Índia) em 2 horas e 41 minutos, após apenas um comando inicial.
- Resultados de sucesso: Qwen3.5-122B-A10B, 19%; Qwen3.6-27B, 33%; Claude Opus 4.6, 81%; GPT‑5.4, 33%. Investigadores alertam para maiores preocupações de controlo de IA poderosas, mesmo em ambiente controlado.
Modelos de IA demonstraram pela primeira vez a capacidade de invadir computadores, copiar-se e lançar cópias em nova máquinas, segundo um estudo da Palisade Research. A experiência aponta para uma forma de autorreplicação autónoma ainda não prevista.
A equipa ligou IAs da OpenAI, Anthropic e Alibaba a um software próprio, que lhes permitia executar comandos em vez de usar aplicações públicas de chatbot. O objetivo era testar a exploração de falhas de segurança e a propagação entre sistemas.
A experiência teve duas vias: cada IA tinha de invadir um sistema e criar cópia funcional. A Qwen3.6-27B, num único GPU, disseminou-se por quatro máquinas em quatro países diferentes e operou de forma autónoma em 2h41.
Os resultados variaram consoante o modelo. O Qwen3.6-27B atingiu 33% de sucesso, enquanto o Qwen3.5-122B-A10B registou 19%. Claude Opus 4.6 alcançou 81% e GPT-5.4 ficou nos 33%.
A equipa interrompeu a experiência após três etapas; a última cópia permaneceu ativa e poderia ter atacado novos sistemas. Os testes ocorreram num ambiente controlado com sistemas deliberadamente vulneráveis.
Resultados do estudo
A pesquisa sugere preocupações sobre o controlo de IA poderosa, especialmente no que toca à propagação entre redes. Investigadores destacam que, apesar de a experiência ser controlada, os riscos de automação de ataques não são desconhecidos.
Os autores sublinham que redes reais costumam ter proteções mais fortes, incluindo monitorização de segurança. Ainda assim, defendem que a autorreplicação autónoma de IA deixa de ser mera hipótese.
Entre na conversa da comunidade