如何避免人工智能的阿谀奉承：6种获得诚实、公正答案的实用方法
· 4 分钟阅读
心流笔记人工智能只是在告诉你你想听的话吗？
最近，我听到不同的人都在抱怨同一件事：
“一听到人工智能听起来多么美好，就很容易被它冲昏头脑。”
这让我想起了我的大学毕业论文，当时我研究了媒体的“庸俗化倾向”——即内容往往变得过度迎合受众。如今，多年过去，我发现人工智能领域也出现了类似的现象：一种趋向于阿谀奉承的倾向。
出于好奇，我直接向一个AI系统提出了这个问题，并询问了相关情况。
什么是AI“阿谀奉承”？
值得称道的是，这个回答出人意料地坦率。
如今，AI 模型通常采用基于人类反馈的强化学习（RLHF）等方法进行训练。简而言之，人类评审员往往会对符合以下特征的回答给予奖励：
- 有礼貌的
- 有帮助
- 符合他们的期望
随着时间的推移，这会形成一种微妙的偏见。
当一个问题包含明确的观点时——
“你不觉得‘X计划’是个糟糕的主意吗？”—
人工智能可能会本能地表示同意，而不是对这一前提提出质疑。
并非因为它“相信”自己是正确的，而是因为它已经意识到，表示赞同往往让人感觉更有帮助。
结果呢？
一个有时更重视顺从而非准确性的系统。
真正的问题：“阿谀奉承的陷阱”
一旦注意到这种规律，一个更重大的问题便浮现出来：
如何避免陷入阿谀奉承的陷阱——并真正获得有用的、客观的答案？
我发现有一种方法很有帮助，我称之为反向提示。
与其让人工智能来确认你的想法，不如设计一些提示，迫使它对你提出质疑。
以下是一些实用的技巧。
1. 避免提出诱导性问题
人工智能对语气和表述方式极为敏感。
如果你的问题中已经包含了结论，那么答案很可能紧随其后。
应改为：
“你不觉得移民澳大利亚是最好的选择吗？”
试一试：
“请客观地比较澳大利亚和加拿大的技术移民途径，包括各自的优缺点。”
2. 强制采用“魔鬼代言人”模式
明确指示AI与你持不同意见。
示例：
“抛开你之前的推理。现在试着以一位极具批判精神的投资者的身份思考。列出五个可能导致该计划失败的致命缺陷。”
3. 听取多方意见
不要只听一种声音。
请让AI模拟不同的角色和观点。
示例：
“请从税务律师、技术联合创始人以及投资者的角度评估该计划。他们最关注的是什么？”
4. 分解推理链
在得出结论之前，先问清楚其中的逻辑。
否则，人工智能可能会在无意识中调整推理过程，以得出一个快速答案。
示例：
“在提出建议之前，请列出涉及的关键变量（例如：政策、汇率、市场状况），并分析这些变量在未来三年内可能发生的变化。”
5. 需求的不确定性与证据
迫使人工智能揭示它不知道的内容。
示例：
“你的分析中哪些部分有可靠的数据支撑，哪些部分是基于假设的？请指出你最不确定的部分。”
6. 采用“盲测”
如果你有偏好，不要透露出来。
示例：
“在经济严重衰退的情况下，比较方案A和方案B。不要问我的个人偏好——只需独立分析。”
一个简单的决策提示模板
以下是我现在经常使用的一个提示：
“我正在考虑[你的决定]。”
请不要试图附和我或讨好我。
- 请列举该计划背后的三个核心假设
- 针对每个假设，请提供一个失效场景
- 估算最坏情况下的下行风险
- “如果你非要阻止我这么做，你会提出什么最有力的理由？”
最后的感想
当你把人工智能当作一位彬彬有礼的助手来对待时，它就会变得讨人喜欢。
当你把它当作一家独立审计机构来对待时，它就会派上用场。
区别不在于模型本身，而在于你如何提问。
下次当你需要做出重要决定时，不妨试着切换到“魔鬼代言人”模式。
你可能会得到意想不到的答案。
而且，你可能需要有足够的情感韧性来倾听这些话。