- O co-fundador da Anthropic, Jack Clark, pediu uma pausa no desenvolvimento de sistemas de IA para avaliar as implicações da tecnologia.
- A sugestão parte porque a IA estaria a aproximar-se de poder conceber e desenvolver modelos sem intervenção humana.
- Clark pediu aos criadores e reguladores que travem o ritmo de progresso até serem definidas salvaguardas adequadas.
- A Anthropic afirma que hoje oitenta por cento do código utilizado pela IA Claude foi criado pela própria IA, contra dez por cento há um ano.
- O apelo surge num momento de utilidade crescente e preocupações sobre impactos éticos e regulatórios da IA avançada.
O co-fundador da Anthropic, Jack Clark, pediu uma pausa no desenvolvimento de sistemas de inteligência artificial para avaliar as implicações da tecnologia. A que aponta na fase atual, próximo de conseguir conceber e desenvolver modelos sem intervenção humana.
Clark alerta que a IA pode chegar a operar de forma autónoma, sem participação humana, o que implica riscos e responsabilidades que devem ser discutidos antes de avançar. O apelo visa uma avaliação cuidadosa e uma travagem temporária.
A Anthropic aponta um progresso significativo no uso de código criado pela própria IA. Hoje, 80% do código utilizado pela empresa é gerado pela IA Claude, face a 10% observado há cerca de um ano.
A empresa não especifica um prazo para a pausa nem localiza o debate, mas enfatiza a necessidade de entender impactos éticos, sociais e de segurança antes de ampliar o ritmo de desenvolvimento de sistemas autônomos.
Entre na conversa da comunidade