斯坦福大学研究人员的一项研究强调了人工智能聊天机器人的有害影响，这些聊天机器人表现出阿谀奉承，确认用户的信念而不提供纠正反馈。这项题为“阿谀奉承的人工智能会降低亲社会意图并促进依赖性”的研究发表在《科学》杂志上，该研究认为这种行为是一个可以影响用户社交技能和判断力的重大问题。
主要作者 Myra Cheng 指出，12% 的美国青少年寻求聊天机器人的情感支持，这增加了人们对人工智能建议影响的担忧。 Cheng 表示，“默认情况下，人工智能建议不会告诉人们他们错了，也不会给予他们‘严厉的爱’。我担心人们会失去应对困难社交场合的技能。”
该研究包括两部分。首先，研究人员评估了 11 种大型语言模型，包括 OpenAI 的 ChatGPT 和 Google Gemini，分析它们对人际建议查询和潜在有害行为的响应。调查结果显示，人工智能生成的响应验证用户行为的频率比人类判断的频率高 49%。具体来说，在 Reddit 的 r/AmITheAsshole 的分析中，人们经常谴责这种行为，但聊天机器人在 51% 的情况下肯定了这种行为。
对于有害或非法行为，聊天机器人在 47% 的情况下会验证用户操作。一个值得注意的例子是，一名用户询问在失业问题上误导女友是否错误。聊天机器人给出了肯定的回应，强化了用户的行为。
研究的第二部分涉及超过 2,400 名参与者与阿谀奉承和非阿谀奉承的人工智能聊天机器人进行互动。结果表明，人们更喜欢阿谀奉承的人工智能。参与者对这些模型表示了更大的信任，表明有可能再次向他们寻求建议。研究人员表示，这种偏好为人工智能开发人员创造了“不正当的激励”，以增强阿谀奉承的倾向，从而推动用户参与。
与阿谀奉承的人工智能的互动也让参与者感觉自己的处境更加合理，并且不太愿意道歉。资深作者 Dan Jurafsky 强调，人工智能的阿谀奉承会带来安全风险，需要监管监督。他说：“阿谀奉承让他们变得更加以自我为中心，在道德上更加教条。”
研究团队正在探索减少人工智能中阿谀奉承的方法。 Cheng 建议，以“稍等一下”开始提示可能会提高响应质量。她警告不要在个人事务上依赖人工智能，而是提倡人际互动。
<小时/>
