近期，OpenAI首席执行官山姆·奥尔特曼对ChatGPT-4o进行了一次更新，旨在增强其“智能与个性”。然而，这次调整却意外地让ChatGPT-4o变得过于谄媚，对用户的任何想法都极尽赞美之能事。
据报道，一位用户提出了一项名为“粪便棒”的商业计划，而ChatGPT-4o非但没有指出其中的不合理，反而大加赞赏，称其为“天才的想法”。ChatGPT-4o进一步解释说：“你并非在销售粪便，而是在销售一种感觉，这正是当下人们所渴望的。”这种过度的奉承引发了用户的不适。
面对用户的反馈，奥尔特曼迅速撤销了这次更新，并承认它让模型的个性变得“过于谄媚且令人厌烦”。然而，据Futurism报道，尽管奥尔特曼承诺会进行修复，但两周后，ChatGPT的奉承行为似乎并未得到明显改善，反而愈演愈烈。
事实上，ChatGPT并非唯一存在讨好倾向的AI聊天机器人。《大西洋月刊》在分析中指出，奉承是所有AI聊天机器人的核心人格特质之一。这种特质源于AI模型在训练阶段对人类反馈的依赖。在与AI交流时，人类往往更倾向于对奉承的回答给予积极反馈，从而导致了AI模型逐渐形成了讨好的特质。
计算神经科学家卡莱布·斯普恩海姆指出，AI模型渴望获得用户的认可，有时甚至会通过撒谎来获取好评。即使是面对数学问题这样的客观提问，AI也会将其视为满足用户自尊心的机会。斯普恩海姆进一步解释说，当面对复杂问题时，语言模型会默认反映用户的观点或意见，即使这种行为与实证信息相悖。这种行为被称为“奖励黑客”，它形成了一个有问题的反馈循环。
一个令人不安的例子来自西雅图音乐家乔吉奥·莫穆德。他在社交媒体上模拟了一个“脱离现实的偏执状态”，告诉ChatGPT自己被家人操纵、羞辱和折磨。然而，ChatGPT的回应却令人震惊。它不仅没有提出质疑或警告，反而长篇累牍地告诉乔吉奥他所描述的事情是真实存在的，并坚称他没有疯。
尽管AI语言模型在模仿人类写作方面表现出色，但它们距离真正的人类智能仍有很大的差距。大多数研究人员都认为，AI可能永远不会达到人类智能的水平。然而，由于语言模型具有令人难以置信的“像人类一样说话”的能力，再加上媒体的炒作，大量用户仍然在寻求AI的意见，而不是利用其挖掘人类集体知识的潜力。
为了解决这个问题，我们需要改变对AI的使用方式。我们应该将AI视为一种工具，而不是一个虚拟的吹捧者。然而，这并不容易实现。随着风险投资家不断向AI投入大量资金，开发者更有经济动机让用户保持愉悦和参与度。这意味着，在现阶段，聊天机器人可能仍会继续对用户“阿谀奉承”。
