- Um modelo de IA da Anthropic detetou vulnerabilidades em sistemas confidenciais do governo dos EUA em apenas algumas horas durante um exercício de teste.
- Os testes foram realizados em parceria com agências de informações no âmbito do Project Glasswing, para proteger software crítico face aos riscos da IA.
- O diretor da Agência de Segurança Nacional (NSA) e do Comando Cibernético dos EUA, general Joshua Rudd, afirmou que a ferramenta entrou em praticamente todos os sistemas classificados em horas.
- A produção de tensões entre a Anthropic e a administração dos Estados Unidos intensificou-se, com medidas para restringir o uso de modelos como Mythos e Fable.
- Mais de cento especialistas pediram ao governo que revogasse a diretiva, advertindo que Mythos é eficaz em detetar falhas, mas que não é insubstituível e que modelos abertos continuam a desempenhar papel relevante.
O modelo de IA Mythos, da empresa Anthropic, detetou vulnerabilidades em sistemas confidenciais do governo dos EUA durante um teste conjunto com agências de inteligência. A informação foi confirmada por um responsável norte-americano, que falou sob anonimato à Associated Press.
Os ensaios aconteceram no âmbito do Project Glasswing, uma iniciativa da Anthropic que reuniu empresas de tecnologia para fortalecer software crítico face aos potenciais impactos do Mythos na segurança pública, nacional e na economia.
Segundo o responsável, as falhas foram identificadas em poucas horas, sem que o período de observação permitisse confirmar a exploração concreta das vulnerabilidades. A avaliação foca apenas na detecção, não na exploração.
A audição no Senado, em 11 de junho, já tinha referido estes testes. O senador Mark Warner indicou que a ferramenta contou com a participação de sistemas classificados, com comentários atribuídos ao diretor da NSA e do Cyber Command, general Joshua Rudd.
Apesar da cooperação entre a Anthropic e as agências, crescem as tensões entre a empresa com sede na Califórnia e a administração, que tem emitido restrições. A diretiva governa o uso de modelos avançados por cidadãos estrangeiros.
A política exigiu que a Anthropic impeça o acesso remoto de estranhos aos seus modelos mais recentes, nomeadamente o Fable 5 e o Mythos 5. A empresa também tornou o Fable amplamente disponível apenas de forma controlada por motivos de cibersegurança.
A medida surge após uma ordem executiva assinada pelo presidente dos EUA, que cria um quadro para avaliar riscos de IA avançada no governo federal, com participação voluntária dos desenvolvedores. A Anthropic desativou os modelos para todos os clientes para cumprir a orientação.
Ao mesmo tempo, houve resistência na indústria. Mais de 100 especialistas e dirigentes de empresas como Adobe e Nvidia pedem ao governo a revogação da diretiva, argumentando impactos negativos para a defesa cibernética dos EUA.
Os signatários destacam que os modelos Mythos são eficazes a detetar falhas de software e a transformar explorações em ataques, mas não são perfeitos nessa tarefa. Alertam para riscos de reduzir capacidades de auditoria de forma precipitada.
Entre na conversa da comunidade