大模型的幻觉从哪来，怎么减少

"AI 幻觉"指大模型一本正经地编造不存在的事实：虚构论文、编造 API、张冠李戴的历史年份。它是使用 AI 时最需要警惕的坑。为什么会出现，又怎么减少？

幻觉从哪里来

大模型的本质是根据上下文预测下一个最可能的词。它没有"我不知道"的天然开关——当训练数据里没有答案、或者你的问题很冷门时，它会给出统计上最像答案的话，而不是"查无此物"。

几个高发场景：

• 询问冷门、长尾的事实（小众库的函数名、引用量低的论文）；
• 要求精确数字（日期、版本号、统计值）；
• 诱导性问题："为什么说明朝有电报？"——模型可能顺着你的预设开始编。

五个减少幻觉的方法

1. 要求标注来源：让 AI 给出可核验的出处，查不到来源的内容一律存疑；
2. 提供资料让它"开卷"：贴上原文让它总结，比让它凭记忆回答可靠得多（这正是 RAG 的价值）；
3. 允许它说不知道：提示词里加一句"如果不确定，请直接说不确定，不要猜测"；
4. 交叉验证：重要事实用第二个模型或搜索引擎复核；
5. 分清"创意"与"事实"：写故事、起标题时的编造是创意；查资料时的编造是事故。用对场景。

心态

幻觉短期内无法根除，它是"文字接龙"机制的副产品。正确姿势不是不信任 AI，而是把 AI 的输出当草稿而不是结论——草稿用来提速，结论自己把关。