Anthropic Mythos: novo modelo causa inquietação em Washington e Wall Street

A Anthropic está em conversações com o governo dos EUA sobre o Mythos, o seu modelo de IA mais potente, que a empresa considera demasiado perigoso para disponibilização pública.
O sector bancário norte-americano tem vindo a testar o Mythos para detetar vulnerabilidades, seguindo um convite do secretário do Tesouro para avaliar o modelo.
A Anthropic vai limitar o acesso ao Mythos a algumas empresas de tecnologia e de cibersegurança, incluindo a Amazon, a Apple e o Joint? JP Morgan Chase (bancos citados pela notícia).
O governo dos EUA já classificou a Anthropic como risco para a cadeia de fornecimento, após tentativas de limitar o uso do modelo pelo Departamento de Defesa.
No Reino Unido, o Instituto Governamental de Segurança em IA (AISI) advertiu que o Mythos representa um salto em relação aos modelos anteriores em termos de ameaças cibernéticas, com reguladores britânicos a discutir riscos potenciais.

Anthropic está a dialogar com o governo dos EUA sobre o Mythos, o seu modelo de IA mais potente, considerado demasiado perigoso para divulgação pública por potenciais riscos de cibersegurança. O tema também domina a atenção de reguladores financeiros e do setor bancário.

O cofundador da Anthropic afirmou, num evento em Washington, que existem conversas oficiais sobre o Mythos, bem como sobre modelos seguintes. A empresa sublinha a importância da segurança nacional nas negociações em curso.

A empresa foi classificada recentemente como risco para a cadeia de fornecimento, após conflitos com o Departamento de Defesa sobre limitações de uso dos seus modelos. O objetivo é evitar consequências não pretendidas para a defesa.

O secretário do Tesouro convocou gestores de grandes bancos para discutir o Mythos, incentivando testes do modelo para detetar vulnerabilidades, segundo a Bloomberg. O setor financeiro tem vindo a avaliar aplicações práticas do Mythos.

A Anthropic indicou que limitará o acesso ao Mythos a algumas empresas de tecnologia e cibersegurança, incluindo Amazon, Apple e JP Morgan Chase. Outras instituições, como Goldman Sachs e Citigroup, também são mencionadas como potenciais utilizadoras.

O Mythos já suscitou preocupações externas: o Instituto Governamental de Segurança em IA do Reino Unido destacou o salto em termos de ameaças cibernéticas em relação aos modelos anteriores. Reguladores britânicos discutem riscos potenciais com o Mythos.

Situação regulatória e bancos

Bancos americanos participam em testes para identificar vulnerabilidades com o Mythos, em coordenação com autoridades regulatórias. As discussões visam equilibrar inovação tecnológica e mitigação de riscos.

Reação internacional e supervisão

Reguladores britânicos e entidades governamentais de IA avaliam o impacto do Mythos no cenário financeiro. As discussões apontam para uma supervisão mais estreita de modelos avançados de IA.