O modelo de IA Mythos, da empresa Anthropic, detetou vulnerabilidades em sistemas confidenciais do governo dos EUA durante um teste conjunto com ag\u00eancias de intelig\u00eancia. A informa\u00e7\u00e3o foi confirmada por um respons\u00e1vel norte-americano, que falou sob anonimato \u00e0 Associated Press.<\/p>\n
Os ensaios aconteceram no \u00e2mbito do Project Glasswing, uma iniciativa da Anthropic que reuniu empresas de tecnologia para fortalecer software cr\u00edtico face aos potenciais impactos do Mythos na seguran\u00e7a p\u00fablica, nacional e na economia.<\/p>\n
Segundo o respons\u00e1vel, as falhas foram identificadas em poucas horas, sem que o per\u00edodo de observa\u00e7\u00e3o permitisse confirmar a explora\u00e7\u00e3o concreta das vulnerabilidades. A avalia\u00e7\u00e3o foca apenas na detec\u00e7\u00e3o, n\u00e3o na explora\u00e7\u00e3o.<\/p>\n
A audi\u00e7\u00e3o no Senado, em 11 de junho, j\u00e1 tinha referido estes testes. O senador Mark Warner indicou que a ferramenta contou com a participa\u00e7\u00e3o de sistemas classificados, com coment\u00e1rios atribu\u00eddos ao diretor da NSA e do Cyber Command, general Joshua Rudd.<\/p>\n
Apesar da coopera\u00e7\u00e3o entre a Anthropic e as ag\u00eancias, crescem as tens\u00f5es entre a empresa com sede na Calif\u00f3rnia e a administra\u00e7\u00e3o, que tem emitido restri\u00e7\u00f5es. A diretiva governa o uso de modelos avan\u00e7ados por cidad\u00e3os estrangeiros.<\/p>\n
A pol\u00edtica exigiu que a Anthropic impe\u00e7a o acesso remoto de estranhos aos seus modelos mais recentes, nomeadamente o Fable 5 e o Mythos 5. A empresa tamb\u00e9m tornou o Fable amplamente dispon\u00edvel apenas de forma controlada por motivos de ciberseguran\u00e7a.<\/p>\n
A medida surge ap\u00f3s uma ordem executiva assinada pelo presidente dos EUA, que cria um quadro para avaliar riscos de IA avan\u00e7ada no governo federal, com participa\u00e7\u00e3o volunt\u00e1ria dos desenvolvedores. A Anthropic desativou os modelos para todos os clientes para cumprir a orienta\u00e7\u00e3o.<\/p>\n
Ao mesmo tempo, houve resist\u00eancia na ind\u00fastria. Mais de 100 especialistas e dirigentes de empresas como Adobe e Nvidia pedem ao governo a revoga\u00e7\u00e3o da diretiva, argumentando impactos negativos para a defesa cibern\u00e9tica dos EUA.<\/p>\n
Os signat\u00e1rios destacam que os modelos Mythos s\u00e3o eficazes a detetar falhas de software e a transformar explora\u00e7\u00f5es em ataques, mas n\u00e3o s\u00e3o perfeitos nessa tarefa. Alertam para riscos de reduzir capacidades de auditoria de forma precipitada.<\/p>\n","protected":false},"excerpt":{"rendered":"