AI入门05｜为什么AI会一本正经地胡说八道？
使用AI最危险的体验之一，不是它说“我不知道”。
而是：
它错了，却说得非常像真的。
这种现象通常被称为：
Hallucination，幻觉。
一、什么是AI幻觉？
简单来说，就是AI生成了：
看起来合理、表达完整，但事实并不存在或并不准确的内容。
比如：
编造一个案例；
写错法条编号；
虚构一篇论文；
给出不存在的数据来源。
二、为什么会出现幻觉？
因为大模型的生成机制并不是：
先进入一个权威数据库核验事实，再回答。
它首先是在根据上下文生成最可能的内容。
如果它没有足够可靠的信息，也可能继续生成一个“很像答案”的答案。
所以：
合理生成 ≠ 事实核验。
三、为什么幻觉特别容易骗人？
因为现在的大模型语言能力非常强。
错误答案也可能：
结构完整、语气专业、逻辑顺畅、引用格式漂亮。
这反而比明显胡说更危险。
专业工作中必须养成一个习惯：
不要根据文风判断真实性。
四、哪些问题幻觉风险更高？
尤其是依赖外部精确信息的问题，例如：
最新政策；
具体案例编号；
精确法条；
公司数据；
统计数字；
近期新闻。
这些问题如果没有工具或可靠原始材料，风险明显更高。
五、哪些任务相对更可控？
如果你把原始材料直接给AI，让它：
总结、分类、比较、提取、改写，
它主要在给定材料范围内工作，幻觉空间通常更小。
所以专业工作里一个非常实用的原则是：
能给原始材料，就不要只让AI凭记忆回答。
六、怎么降低幻觉？
最有效的不是只写一句：
“严禁编造。”
而是从工作方式上减少它凭空生成的空间：
- 提供原始资料；
- 需要最新事实时使用搜索或数据库；
- 要求列明来源；
- 对无法确认的信息明确标记“待核验”；
- 允许AI回答“不确定”。
七、可以要求AI区分三类内容
对于重要任务，可以把输出区分成：
已核验事实；
基于资料的分析判断；
仍需核验的信息。
这样比把所有内容混在一起更容易复核。
八、幻觉是不是说明AI不能用于专业工作？
不是。
真正的问题不是：
“AI会不会犯错？”
而是：
有没有为重要任务设计核验机制。
人也会犯错，专业流程同样依赖底稿、复核和来源。
AI也需要类似的约束。
九、这一篇只需要记住一句话
AI擅长生成“像答案的内容”，但事实是否真实，需要原始材料、搜索、数据库和人工复核来保证。
