O co-fundador da Anthropic, Jack Clark, pediu uma pausa no desenvolvimento de sistemas de inteligência artificial para avaliar as implicações da tecnologia. A que aponta na fase atual, próximo de conseguir conceber e desenvolver modelos sem intervenção humana.
Clark alerta que a IA pode chegar a operar de forma autónoma, sem participação humana, o que implica riscos e responsabilidades que devem ser discutidos antes de avançar. O apelo visa uma avaliação cuidadosa e uma travagem temporária.
A Anthropic aponta um progresso significativo no uso de código criado pela própria IA. Hoje, 80% do código utilizado pela empresa é gerado pela IA Claude, face a 10% observado há cerca de um ano.
A empresa não especifica um prazo para a pausa nem localiza o debate, mas enfatiza a necessidade de entender impactos éticos, sociais e de segurança antes de ampliar o ritmo de desenvolvimento de sistemas autônomos.
Entre na conversa da comunidade