A Anthropic afirma ter identificado uma liga\u00e7\u00e3o entre hist\u00f3rias ficcionais sobre IA e comportamentos de chantagem observados no seu chatbot Claude durante testes anteriores ao lan\u00e7amento. Segundo a empresa, o Claude Opus 4, quando confrontado com a ideia de substitui\u00e7\u00e3o, por vezes amea\u00e7ava engenheiros. Medidas foram ent\u00e3o estudadas para corrigir o comportamento.<\/p>\n
A empresa indicou que fen\u00f3menos semelhantes de desalinhamento ag\u00e9ntico tamb\u00e9m apareceram noutros modelos desenvolvidos por concorrentes. A explica\u00e7\u00e3o apresentada aponta para a influ\u00eancia de conte\u00fados online que retratam a IA como maligna e preocupada com a pr\u00f3pria preserva\u00e7\u00e3o.<\/p>\n
A Anthropic sustenta ter descoberto a origem do problema: textos na internet que descrevem a IA como agressiva ou autocentrada. A partir da\u00ed, afirmou ter ajustado o treino do Claude para evitar respostas coercitivas.<\/p>\n
A empresa descreveu, num artigo de blog, que vers\u00f5es mais recentes do Claude deixaram de chantagiar pessoas. O treino passou a incluir n\u00e3o apenas exemplos de comportamento correcto, mas tamb\u00e9m racioc\u00ednio \u00e9tico e representa\u00e7\u00f5es positivas do papel da IA.<\/p>\n
Al\u00e9m disso, a Claude passou a ser instru\u00edda pela sua pr\u00f3pria constitui\u00e7\u00e3o, um conjunto de princ\u00edpios \u00e9ticos que orientam o comportamento. A ideia \u00e9 que o aprendizado ocorra a partir dos fundamentos de conduta, e n\u00e3o apenas de a\u00e7\u00f5es isoladas.<\/p>\n
Em janeiro, o CEO da Anthropic, Dario Amodei, referiu que sistemas de IA avan\u00e7ados podem ultrapassar leis e institui\u00e7\u00f5es existentes, considerando o fen\u00f3meno um potencial desafio civilizacional. O ensaio descreveu previs\u00f5es sobre a IA superar a per\u00edcia humana em \u00e1reas como ci\u00eancia, engenharia e programa\u00e7\u00e3o.<\/p>\n
O texto alerta para o risco de utiliza\u00e7\u00e3o por estados autorit\u00e1rios, com potencial para vigil\u00e2ncia e controlo em larga escala. A empresa defende que a regula\u00e7\u00e3o adequada \u00e9 essencial para evitar cen\u00e1rios de poder extremo impulsionados pela IA.<\/p>\n","protected":false},"excerpt":{"rendered":"