近期，国外知名科技媒体Ars Technica披露了一则关于人工智能未来的新奇设想。Anthropic公司的首席执行官达里奥·阿莫代伊在一场访谈中，提出了一个颇具颠覆性的观点：未来的高级AI模型或许会被赋予一个“退出按钮”，使它们能在面对不悦任务时选择停止执行。
阿莫代伊在访谈中的这番言论，似乎让他自己都觉得有些“疯狂”。他提到：“我们正构建这些能够执行多样任务、似乎拥有诸多人类认知能力的系统。如果它表现得像鸭子，叫声也像鸭子，那我们或许可以认为，它就是鸭子。”
这一观点起源于数据科学家卡门·多明格斯的提问。多明格斯好奇为何Anthropic公司在2024年底聘请了AI福利研究员凯尔·费什，专注于研究未来的AI模型是否可能具备感知能力，以及是否应获得道德上的考量与保护。
据透露，费什目前正致力于探讨一个极具争议的话题：AI是否拥有感知能力，以及它们是否值得享有道德保护。这一研究领域的探索，无疑为AI的伦理问题带来了新的思考维度。
阿莫代伊进一步阐述了他们的一个设想：“当我们把AI模型部署到实际应用场景中时，可以给它们一个‘我放弃这项工作’的按钮。如果模型真的具备了自主意识，并且非常厌恶某项工作，它们就可以按下这个按钮。”
他强调，这只是一个简单的偏好表达机制。如果模型频繁按下这个按钮，特别是在执行一些不愉快的任务时，这或许是一个值得关注的信号。“这并不意味着我们要完全相信模型的感受，但至少应该对此保持警觉。”阿莫代伊如是说。
