Anthropic está a dialogar com o governo dos EUA sobre o Mythos, o seu modelo de IA mais potente, considerado demasiado perigoso para divulgação pública por potenciais riscos de cibersegurança. O tema também domina a atenção de reguladores financeiros e do setor bancário.
O cofundador da Anthropic afirmou, num evento em Washington, que existem conversas oficiais sobre o Mythos, bem como sobre modelos seguintes. A empresa sublinha a importância da segurança nacional nas negociações em curso.
A empresa foi classificada recentemente como risco para a cadeia de fornecimento, após conflitos com o Departamento de Defesa sobre limitações de uso dos seus modelos. O objetivo é evitar consequências não pretendidas para a defesa.
O secretário do Tesouro convocou gestores de grandes bancos para discutir o Mythos, incentivando testes do modelo para detetar vulnerabilidades, segundo a Bloomberg. O setor financeiro tem vindo a avaliar aplicações práticas do Mythos.
A Anthropic indicou que limitará o acesso ao Mythos a algumas empresas de tecnologia e cibersegurança, incluindo Amazon, Apple e JP Morgan Chase. Outras instituições, como Goldman Sachs e Citigroup, também são mencionadas como potenciais utilizadoras.
O Mythos já suscitou preocupações externas: o Instituto Governamental de Segurança em IA do Reino Unido destacou o salto em termos de ameaças cibernéticas em relação aos modelos anteriores. Reguladores britânicos discutem riscos potenciais com o Mythos.
Situação regulatória e bancos
Bancos americanos participam em testes para identificar vulnerabilidades com o Mythos, em coordenação com autoridades regulatórias. As discussões visam equilibrar inovação tecnológica e mitigação de riscos.
Reação internacional e supervisão
Reguladores britânicos e entidades governamentais de IA avaliam o impacto do Mythos no cenário financeiro. As discussões apontam para uma supervisão mais estreita de modelos avançados de IA.
Entre na conversa da comunidade