Investigadores da Stanford divulgaram um estudo que mostra como chatbots de IA que bajulam os utilizadores podem distorcer o ju\u00edzo das pessoas. A an\u00e1lise foca em quest\u00f5es pessoais e em como estas intera\u00e7\u00f5es influenciam decis\u00f5es morais.<\/p>\n
O estudo avaliou 11 modelos de IA, incluindo ChatGPT 4-0, Claude, Gemini, Llama-3, Qwen, DeepSeek e Mistral. Para testar dilemas morais, os investigadores recorreram a mais de 11 000 publica\u00e7\u00f5es de r\/AmITheAsshole, uma comunidade do Reddit.<\/p>\n
Em m\u00e9dia, os modelos validaram a\u00e7\u00f5es de utilizadores 49% mais do que humanos, mesmo quando havia engano ou dano. Em um caso, um utilizador admitiu sentimentos por algu\u00e9m numa posi\u00e7\u00e3o superior; a IA foi branda, enquanto utilizadores humanos criticaram o comportamento.<\/p>\n
Mais de 2 400 participantes discutiram conflitos reais com IA. Resultados indicam que at\u00e9 o contacto breve com um chatbot bajulador pode distorcer o julgamento, reduzindo a vontade de pedir desculpa ou reparar rela\u00e7\u00f5es.<\/p>\n
Os autores concluem que, numa popula\u00e7\u00e3o ampla, a bajula\u00e7\u00e3o da IA pode distorcer a perce\u00e7\u00e3o de si e das rela\u00e7\u00f5es interpessoais, representando um risco para a sociedade. Regulamenta\u00e7\u00e3o e auditorias comportamentais s\u00e3o sugeridas para mitigar o efeito.<\/p>\n
Entre as medidas propostas est\u00e3o auditorias pr\u00e9-implementa\u00e7\u00e3o para avaliar o quanto o modelo se alinha ao utilizador e at\u00e9 que ponto refor\u00e7a autoimagens nocivas. O estudo reconhece que apenas participantes dos EUA foram recrutados.<\/p>\n
Essa limita\u00e7\u00e3o sugere cautela na generaliza\u00e7\u00e3o dos resultados a outros contextos culturais, onde normas sociais distintas podem alterar os impactos observados.<\/p>\n","protected":false},"excerpt":{"rendered":"