参考答案
内容深度:适中 · 无代码示例 · 来源:外部链接 · 未复核 · 70 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解
现象:模型产出看似合理但虚构的事实、引用、函数名,甚至把不存在的论文当证据。
要点(提示词 + 架构两层):
- 提示词层:① 强制引用——「所有事实必须来自提供的上下文,并在句末标注来源编号,禁止编造」;② 知识边界约束——「仅基于给定资料回答,资料中没有就明确说不知道」;③ 自检一致性——「回答前先列出支撑依据,依据不足则降级为不确定」;④ 约束角色与输出格式,压缩自由发挥空间。
- 架构层:① RAG 检索兜底:先检索权威文档再生成,把「凭记忆编」变成「依据上下文答」;② 引文/溯源校验:生成后做一次「引用是否真存在于上下文」的校验,失效则拒答或重生成;③ Self-Consistency / 多轮抽样投票降低偶发编造;④ 关键场景加人工审核或高置信度门槛。
- 为什么有效:幻觉根因是「模型按概率续写、缺乏真值约束」;上述手段要么提供真值(RAG)、要么用约束压缩编造空间、要么用校验兜住。