- A Anthropic vai disponibilizar o Mythos apenas a algumas dezenas de empresas e organizações, por via do Projecto Glasswing, em vez de o tornar público.
- O Mythos — modelo genérico de linguagem — revelou-se capaz de descobrir e explorar vulnerabilidades de cibersegurança, incluindo ataques a grandes sistemas operativos e navegadores.
- Entre os participantes com acesso estão grandes techs (Amazon, Apple, Google, Microsoft, Nvidia), além de Broadcom, Cisco, JPMorganChase e a Fundação Linux.
- A iniciativa inclui 100 milhões de dólares em créditos de utilização do modelo, permitindo uso gratuito até esse limite, e quatro milhões de dólares em doações a projetos de segurança em código aberto.
- A Anthropic alerta para potenciais riscos de segurança e antecipa que o progresso rápido em IA pode expandir estas capacidades para além de utilizadores que as usem de forma segura.
A Anthropic revela que o Mythos é demasiado perigoso para ser disponibilizado ao público. O novo modelo de linguagem será fornecido apenas a várias dezenas de empresas e entidades para reforçar défences ciberseguridade, não para uso generalizado.
Entre as organizações previstas estão gigantes tecnológicas como Amazon, Apple, Google, Microsoft e Nvidia, além da Broadcom, Cisco, JPMorgan Chase e a Fundação Linux. O objetivo é utilizá-lo na proteção de sistemas críticos.
A iniciativa chama-se Project Glasswing, com créditos de utilização no valor de 100 milhões de dólares (cerca de 85 milhões de euros) que podem ser usados sem custos até ao limite definido. A Anthropic também doou 4 milhões de dólares a projetos de código aberto de segurança.
Segundo a empresa, o Mythos não é concebido exclusivamente para cibersegurança, mas já identificou milhares de vulnerabilidades de alto risco. A fabricante afirma que alguns sistemas operacionais e navegadores foram explorados com sucesso.
Foram descritas falhas antigas, algumas com décadas, que o Mythos conseguiu contornar com programas que tiraram partido de vulnerabilidades. Testes mostraram que engenheiros sem formação específica conseguiram gerar código de exploração com instruções simples.
A Anthropic relata que o Mythos superou anteriores modelos na detecção e exploração de falhas, incluindo vulnerabilidades zero-day. Em algumas situações, o modelo combinou falhas para obter acesso elevado.
A empresa sublinha que muitas vulnerabilidades são subtis e difíceis de detetar, com a mais antiga identificada num bug de 27 anos no sistema OpenBSD. O Mythos terá capacidade de identificar e explorar lacunas não corrigidas.
Preocupações sobre IA e ciberataques aumentaram recentemente, em parte pela aplicação do código gerado por IA. Pesquisas indicam que agentes de IA podem superar alguns humanos em tarefas de exploração de falhas.
A Anthropic, fundada por ex-dissidentes da OpenAI, afirma que o objetivo é criar IA responsável e segura, ainda que os testes demonstrem elevado потенial de uso indevido. A empresa já informou responsáveis governamentais nos EUA sobre as capacidades do Mythos.
O Mythos demonstrou, em testes, capacidade de executar ataques sofisticados em multi-plataformas, o que motivou a decisão de restringir o acesso e priorizar defesa de sistemas críticos.
Entre na conversa da comunidade