AI幻觉（Hallucination）—— 识别"一本正经的胡说八道"
为什么 AI 给出的数据、事实、引用不能直接信？如何养成"先信后验"的使用习惯？
核心概念
AI幻觉 —— AI"编造"了不存在的事实
大模型生成的内容看似合理、自洽，但实际与事实不符——凭空编造数据、虚构不存在的论文/法规、张冠李戴人物事件。幻觉不是 Bug，是当前大语言模型的固有特性：模型本质上是在"预测下一个最可能的词"，而非"查证事实后回答"。
👇 你问 AI："列出 2024 年国内 AI 监管领域最重要的 3 份政策文件及文号"——AI 给出 3 个非常正式的文件号，上网一查，2 个根本不存在。类比：AI 像一个口才极好的实习生，即使不知道答案也会自信地回答，而不是说"我不知道"。
三种幻觉类型 —— 不是所有"错误"都是幻觉
事实捏造：编造不存在的具体数据、人名、文件——最常见也最危险。
逻辑断裂：推理过程自相矛盾，结论与前提脱节。
过度自信：对不确定的内容给出斩钉截铁的表述，缺乏"可能""据我所知"等限定词。
👇 让 AI 报一个精确数字 → AI 报出"47,832 人"而非"约 4.8 万人"——多出来的精度全是编的。
幻觉不可避免，但可以"管理"
没有任何模型能完全消除幻觉。GPT-4、Claude、Kimi 都会产生幻觉，只是频率和程度不同。关键是建立"先信后验"的使用习惯：AI 的第一遍输出看作"初稿建议"，关键事实必须做二次验证。
👇 让 AI 整理竞品分析 → 先看逻辑框架是否合理 → 再逐条核实数据和引用来源。就像审核同事的方案——框架可以借鉴，但数字必须自己查。
幻觉高频场景 & 防范策略
要求精确数字/百分比
AI 给出 3 位小数，但没有数据来源
✔ 追问"数据来源是什么？"或自行查原始报告
引用法规/政策条款
AI 编造不存在的法条编号和内容
✔ 用官方数据库核验法条原文
推荐书籍/论文/资源
虚构不存在的出版物，连作者名都完整
✔ 在豆瓣/知网/Google Scholar 搜索验证
分析某公司的内部信息
AI 基于公开信息"编"出不存在细节
✔ 加上限定："仅基于公开信息总结，标注信息来源"
多步推理（财务/数学）
中间步骤出错，最终结论偏差
✔ 要求 AI 分步展示推理过程，人工抽查关键步骤
实用技巧
▸
防幻觉指令：给 AI "不知道"的选项
在提问末尾追加："如果你不确定或不知道，请明确说'我不确定'，不要编造。"这句话能显著降低幻觉率，关键是降低 AI 的"回答压力"。
▸
让 AI 自己标注可信度
要求 AI 对每条信息标注：确定 / 推断 / 不确定。例："请分析以下竞品动态，并在每条分析后标注你的确定程度"。一键锁定需要人工核实的内容。
▸
双重验证：换一个 AI 交叉校验
同一事实性问题分别问 ChatGPT 和 Kimi/豆包。答案不一致？至少有一个在幻觉。答案一致且非公开常识？可信度更高。
▸
关键信息只信"有来源的"
让 AI 引用联网搜索结果（开启联网功能），或要求给出具体来源链接。对于没有来源的精确数字，默认先怀疑再核实——这是使用 AI 最基础的安全习惯。