参考答案
内容深度:适中 · 无代码示例 · 来源:外部链接 · 未复核 · 77 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解
什么是幻觉
模型生成了与事实不符、或与给定上下文不一致的内容,却以高置信度输出(例如编造引用、错误日期、张冠李戴)。
主要成因
- 训练数据含噪声/偏见,或知识截止(知识未覆盖最新事实);
- 暴露偏差(exposure bias):自回归逐 token 生成会累积错误;
- 解码随机性(temperature/top-p)放大大概率但错误的续写;
- 参数记忆与上下文证据冲突时,模型倾向于「编造」以自洽。
工程缓解手段
- RAG(检索增强):先检索权威资料再生成,让答案有出处;
- 对齐:RLHF / DPO 让模型更「知之为知之」;
- 引用与校验:要求输出带引用、接事实核查或知识图谱校验;
- 约束解码 / 工具调用:把确定性查询交给搜索引擎/数据库;
- 不确定性校准:低置信时主动拒答或提示用户核对。