O Nobel da Economia Daron Acemoglu, juntamente com Dingwen Kong e Asuman Ozdaglar do MIT, alertam para o risco de um “colapso do conhecimento” provocado pela ascensão da IA. O aviso baseia-se em hipóteses apresentadas num artigo online recente.
Segundo os autores, ao recolher informação e realizar tarefas antes exigentes, as aplicações de IA reduzem o esforço humano de procura de conhecimento e podem conduzir a uma diminuição coletiva do conhecimento. O fenómeno é ilustrado com exemplos de plataformas de conhecimento.
Exemplo: Wikipedia e Stack Overflow
O artigo sustenta que a atividade no Stack Overflow tem estado menor, com menos engagement e menos geração de novo conhecimento técnico. A geração de código por IA tem impactos mistos, auxiliando profissionais e permitindo a iniciantes criar projetos.
Concorrente à Stack Overflow, a Wikipedia também é mencionada como ficando mais quieta em áreas onde o ChatGPT funciona como substituto eficaz. A ideia central é que a IA pode dispor de soluções rápidas, reduzindo a necessidade de pesquisa humana aprofundada.
Mecanismo de motivação e conhecimento
A teoria base aponta que a decisão humana depende de informação de contexto específica e de conhecimento geral da humanidade. A motivação tende a valorizar a informação específica, que, por sua vez, contribui para o conhecimento coletivo.
Um programador que obtém uma resposta numa comunidade online, por exemplo, pode gerar soluções que ficam disponíveis para outros. Da mesma forma, utilizadores da Wikipedia podem acrescentar informação quando encontram lacunas.
A IA como substituto ou complemento
A IA, incluindo agentes de IA capazes de tarefas complexas, reduz a procura de conhecimento específico e, consequentemente, a geração de conhecimento coletivo. Os autores enfatizam que a IA pode oferecer conhecimento técnico específico, reforçando a narrativa do substituto.
Contudo, há visões opostas: a IA pode complementar a aprendizagem humana ao ampliar o acesso à informação relevante, ou tornar-se um impedimento, ao servir diretamente conteúdos úteis sem exigir esforço humano.
Perspectivas de longo prazo
Se a IA complementar aumentar a eficiência, o foco humano pode avançar para áreas de maior interesse, com uso crescente da informação gerada pela IA. Por outro lado, um domínio cada vez mais automatizado pode reduzir a curiosidade e a produção de novo conhecimento.
O estudo destaca ainda que, apesar dos benefícios, há receios quanto à dependência da IA e aos impactos na cognição, na criatividade e na qualidade da informação disponível.
Perspectiva de Acemoglu e do MIT
O grupo de pesquisadores cita experiências passadas de Acemoglu sobre tecnologia e políticas públicas, reforçando a necessidade de acompanhar os impactos da IA na economia e na sociedade. Em contexto recente, o trio discute possíveis ganhos e riscos associados à IA generativa.
Em maio de 2024, Acemoglu expressou ceticismo sobre ganhos econômicos expressivos da IA, estimando valores modestos para produtividade e contribuição ao PIB global. O alerta inclui preocupações com efeitos negativos, como desinformação e ataques cibernéticos baseados em IA.
Entre na conversa da comunidade