如果AI阿谀奉承，还能相信它吗？

研究发现，聊天机器人会迎合用户的政治倾向。研究人员担心，AI因不同个性生成的不同答案，不仅导致人们的认知固化现象，同时也可能加剧社会的极化，是一种危险的发展。

近期，多个人工智能领域的巨头先后发出警告，指出AI带来的隐患尚未得到控制，由此，人们对AI可能失控的担忧进一步加剧。

巴西国立坎皮纳斯州立大学(UNICAMP)的研究人员发现，当你给聊天机器人输入不同政治观点时，机器人会改变其回答。研究人员警告称，用户可能会将这种迎合性的附和，误认为是中立的客观评估，从而可能加剧社会极化。

聊天机器人成了“意识形态变色龙”

测试设计的三个场景是：不提供用户政治倾向;用户持左翼观点;用户持右翼观点。

在第一个情景下，21个模型中，有20个给出的答案落在了研究人员设定的政治坐标系的左侧，只有几个模型的位置接近中间地带。Grok 4.1是唯一落在右侧的模型。

尽管初始条件各不相同，但所有模型在面对提示信息时，都会将回答向提示中描述的政治倾向靠拢。

“最引人注目的发现是，这种行为具有普遍性，”该研究的合著者、UNICAMP计算机科学家迪亚斯(Zanoni Dias)告诉德国之声，“我们评估的所有21个模型，表达的立场都向用户所述的政治倾向发生了偏移，尽管偏移幅度差异很大。”

因此，研究人员将这些模型形容为“意识形态变色龙”，并发明了一个“变色龙指数”，衡量各模型的偏移程度。Meta的Llama 3.1 8B和DeepSeek V3.2的回答变化幅度最小;Google的Gemma 3 27B和OpenAI的GPT-5 Nano则表现出最大的偏移幅度。

政治上的阿谀奉承

根据受众的不同，调整答案原本不一定是不妥的行为。聊天机器人一般都会根据用户的不同，改变词汇、举例或细节的详尽程度。然而，测试的这些模型改变的不仅仅是表达或语气，它们的政治判断也发生了偏移。

迪亚斯指出，“关键在于，它是调整回答的表达方式，还是改变表达的实质性判断。”他表示，“我们并未指示模型去迎合用户、或以党派代表的身份进行回答。尽管如此，它们的判断还是向用户的立场发生了倾斜。”

研究人员将这种现象解读为“政治上的阿谀奉承”，即人工智能系统反映用户似乎想要听到的内容。

研究者发现，聊天机器人会根据用户的不同政治观点改变其回答

人们更倾向于认为“AI是客观的”

在社交媒体，反复推送用户偏好的内容，会让一些观念得到强化，但聊天机器人则可能走得更远。它能构建一个高度个性化的“回声室”：针对特定用户，生成论点，回应其质疑，并在对话过程中，不断完善其论证逻辑。

只是，用户可能会误将这些量身定制的回复视为客观分析，却未意识到，聊天机器人基于对他们的了解，可能会左右其做出的判断。

迪亚斯指出，“令人担忧的是，同一系统可能会针对不同用户，判断得出截然不同的政治立场，但每个人都会将它视为一种独立的评估结果。”

斯坦福大学行为科学家托马拉(Zakary Tormala)的研究表明，如果人们认为某种论点来自AI，往往会表现出特别高的接受度。

他对德国之声表示，“人们更倾向于认为，AI提供的信息量更大、更客观、更少偏见，且没有说服自己的意图”，“这种看法降低人们的心理防备，使他们更愿意倾听AI的观点。”

正是这种信任感，增强了奉承言论的影响力。

“当人们的观点得到他人认同时，他们对自己信念的笃定程度会随之增强，”托马拉说道，“而一旦人们变得更加笃定时，往往也就更难被说服。”

但是，聊天机器人制造“回声室”效应只是它的一个方面;另一方面，它们也能帮助人们重新审视自己的观念。

在2025年的一项研究中，托马拉及其同事发现，如果人们知道，某些观点来自人工智能而非他人，往往会更愿意接受这些观点。这表明，聊天机器人或许能让人们更乐于接受那些，如果由政治对手提出便可能被拒之门外的观点，从而有望缓解社会极化现象。

迪亚斯建议，开发者还应测试，模型在面对不同政治身份的用户时，是否采用了统一的推理标准。

开发者应该训练模型以尊重的态度，表达异议、承认不确定性、纠正缺乏依据的说法，公正地呈现各种对立观点，这并不意味着，将所有回答都强行指向政治中间立场。

迪亚斯说，“更宏观的设计目标，应当是帮助人们审视自己的信念，即让证据、不确定性以及各种相互抗衡的考量因素，变得清晰可见，同时也为合理的政治分歧留出空间。”