大模型明明考试那么强,为什么问它一个冷门事实,它能编出看似合理的假文献?这和「背题」的机制有什么关系?
幻觉的根源在机制本身:大模型是概率性的「下一个词预测器」,不是事实数据库。它学到的是语言的统计规律与知识的相关性,生成时选的是「最像答案的词序列」——当知识缺失或问题模糊时,它会生成语言上流畅但事实上虚构的内容,且语气一样自信。
为什么难根治:概率生成与事实严格一致在机制上不冲突但难同时保证。缓解手段:RAG(检索真实资料再回答)、工具调用(计算器/搜索)、对齐训练。工程启示:对确定性有要求的场景(金融/医疗),必须外挂数据源与校验,不能裸信模型——这也是 RAG、Agent 类岗位需求爆发的根本原因。
题目与答案就在本页;收藏、批注和错题重练在应用内