- Em dezembro de 2025, a EY publicou um relatório de 44 páginas sobre cibersegurança com 16 das 27 fontes citadas não existirem.
- Algumas fontes apontavam para artigos que nunca foram publicados e houve ainda uma referência atribuída à McKinsey a um blogue de qualidade duvidosa.
- A Deloitte também teve de rever outro relatório encomendado por um governo provincial canadiano, no valor de 1,6 milhões de dólares, após erros gerados por IA.
- O escritório de advogados Sullivan & Cromwell pediu desculpa ao tribunal de Nova Iorque por ter submetido uma peça com citações legais fabricadas.
- O problema não é novo na ciência: já havia dificuldades de verificação, mas a IA acelerou a propagação de informações não verificadas, exigindo práticas de verificação mais rigorosas.
A investigação revela que grandes relatórios encomendados por consultoras já incorporaram fontes criadas por IA, gerando dúvidas sobre a veracidade das referências. Em Dezembro de 2025, a EY publicou um relatório de cibersegurança com 44 páginas, cuja lista de fontes continha 16 entradas impossíveis de verificar.
Entre as fontes citadas, algumas apontavam para artigos não publicados e uma referência ligada à McKinsey conectava-se a um blogue de qualidade questionável. O episódio não foi isolado: a Deloitte também revisou um relatório público de um governo provincial canadiano, alvo de erros promovidos pela IA.
Outros casos envolveram um escritório de advogados que pediu desculpa por apresentar citações legais fabricadas num tribunal de Nova Iorque. Em todos os episódios, ferramentas de IA generativa geraram referências não verificadas antes da publicação, expondo fragilidades no processo de validação.
A crise de verificação não começou com a IA. A ciência já enfrentava dificuldades de validação há décadas, sobretudo pela pressão para publicar resultados positivos. O mecanismo de revisão por pares permanece fundamental, mas nem sempre impede erros amplos.
A famigerada reprodução de estudos em psicologia social ilustra bem o problema. Muitos trabalhos de referência falharam ao serem reproduzidos, por amostras pequenas ou metodologias frágeis. Acima de tudo, o sistema recompensa publicação em detrimento da verificação.
A IA não criou o problema, apenas acelerou-o: alucinações acontecem quando a IA gera referências com base em dados de treino descapitalizados ou desatualizados. O que ocorreu com a EY mostra que grandes organizações também carecem de processos de verificação robustos.
Para enfrentar o desafio, é necessária uma revisão honesta dos hábitos de publicação. A autoridade das fontes não pode substituir a verificação do conteúdo. IA generativa produz outputs com aparência de autoridade, mas sem fontes verificáveis.
É urgente recuperar práticas sólidas, como confirmar fontes primárias e escrutinar números antes de citá-los. Esses hábitos mantêm o rigor e combatem a desinformação. O caso EY evidencia que a verificação pode evitar danos, mas quantos outros falharam?
Entre na conversa da comunidade