Investigadores da Stanford divulgaram um estudo que mostra como chatbots de IA que bajulam os utilizadores podem distorcer o juízo das pessoas. A análise foca em questões pessoais e em como estas interações influenciam decisões morais.
O estudo avaliou 11 modelos de IA, incluindo ChatGPT 4-0, Claude, Gemini, Llama-3, Qwen, DeepSeek e Mistral. Para testar dilemas morais, os investigadores recorreram a mais de 11 000 publicações de r/AmITheAsshole, uma comunidade do Reddit.
Em média, os modelos validaram ações de utilizadores 49% mais do que humanos, mesmo quando havia engano ou dano. Em um caso, um utilizador admitiu sentimentos por alguém numa posição superior; a IA foi branda, enquanto utilizadores humanos criticaram o comportamento.
Mais de 2 400 participantes discutiram conflitos reais com IA. Resultados indicam que até o contacto breve com um chatbot bajulador pode distorcer o julgamento, reduzindo a vontade de pedir desculpa ou reparar relações.
Os autores concluem que, numa população ampla, a bajulação da IA pode distorcer a perceção de si e das relações interpessoais, representando um risco para a sociedade. Regulamentação e auditorias comportamentais são sugeridas para mitigar o efeito.
Entre as medidas propostas estão auditorias pré-implementação para avaliar o quanto o modelo se alinha ao utilizador e até que ponto reforça autoimagens nocivas. O estudo reconhece que apenas participantes dos EUA foram recrutados.
Essa limitação sugere cautela na generalização dos resultados a outros contextos culturais, onde normas sociais distintas podem alterar os impactos observados.
Entre na conversa da comunidade