Em Alta Copa do Mundo futeboldesportoPortugalinternacionaisgoverno

Converse com o Telinha

Telinha
Oi! Posso responder perguntas apenas com base nesta matéria. O que você quer saber?

Anthropic vai disponibilizar modelo de IA considerado perigoso para lançamento

Anthropic prepara-se para lançar Claude Mythos, o modelo considerado perigoso, com ferramentas de detecção de vulnerabilidades ainda em avaliação

Sede da Anthropic, em São Francisco, uma empresa criada por ex-funcionários da OpenAI
0:00
Carregando...
0:00
  • Claude Mythos, o mais poderoso modelo da Anthropic, pode ser disponibilizado de forma mais ampla, com referências a uma versão chamada “claude-mythos-1-preview” encontradas no código e na interface de segurança.
  • Antes, a Anthropic recusava o lançamento público devido aos riscos de uso indevido; o Projecto Glasswing mantinha o acesso restrito a parceiros para fins defensivos.
  • A empresa afirmou que a ferramenta foi capaz de identificar mais de dez mil vulnerabilidades de gravidade alta ou crítica no software mais utilizado globalmente.
  • O progresso em segurança de software passa cada vez mais pela velocidade com que as equipas verificam e corrigem o imenso volume de erros detectados pela IA.
  • Evidências em plataformas de nuvem da Google e da Amazon sugerem que o calendário de lançamento pode ter sido antecipado, aumentando o debate sobre salvaguardas e uso responsável.

O Claude Mythos, o mais poderoso modelo de IA da Anthropic, pode estar próximo de uma disponibilização mais ampla. Referências a uma versão chamada claude-mythos-1-preview surgem no código-fonte e na interface de segurança da plataforma.

Dados de plataformas de nuvem indicam que o lançamento pode ter sido antecipado, apesar de a empresa ter dito anteriormente que o acesso público seria restrito. A Anthropic opera o Projeto Glasswing para uso defensivo com parceiros institucionais.

Desde abril, o projeto tem mostrado resultados de alto impacto. A ferramenta identificou mais de dez mil vulnerabilidades de gravidade alta ou crítica nos software de referência utilizados globalmente. A empresa divulgou estes números numa comunicação oficial.

A capacidade decorre da habilidade do modelo em mapear a arquitetura de programas e prever comportamentos de sistemas. Em demonstrações, o Mythos encontrou falhas ainda antigas num sistema operativo reconhecido pela sua robustez, como o OpenBSD.

Segundo a Anthropic, as capacidades emergiram do aperfeiçoamento geral de raciocínio e autonomia do modelo, sem treino específico para pirataria informática. A empresa reforçou que ainda não existem salvaguardas totalmente eficazes para evitar desvios.

A possível disponibilidade do Claude Mythos poderá alterar a forma como se protege a informação pessoal. Por um lado, há potencial para antecipar ataques a apps, telemóveis e redes bancárias; por outro, o risco de uso indevido é real.

A empresa tem reiterado a necessidade de regras rigorosas antes de uma distribuição larga. A ideia é combinar salvaguardas técnicas com governança e supervisão humanas contínuas. O tema continua a exigir avaliação regulatória.

Comentários 0

Entre na conversa da comunidade

Os comentários não representam a opinião do Portal Tela; a responsabilidade é do autor da mensagem. Conecte-se para comentar

Veja Mais