IT 面试题库

AI【边界】大模型为什么会「一本正经地胡说八道」?幻觉的根源是什么,能不能根治?

初级开放讨论题算法工程师机器学习工程师深度学习工程师AI应用开发工程师第一性原理必读人工智能与机器学习

题目

大模型明明考试那么强,为什么问它一个冷门事实,它能编出看似合理的假文献?这和「背题」的机制有什么关系?

参考答案

内容深度:基础 · 无代码示例 · 来源:其他来源 · 未复核 · 81 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解

幻觉的根源在机制本身:大模型是概率性的「下一个词预测器」,不是事实数据库。它学到的是语言的统计规律与知识的相关性,生成时选的是「最像答案的词序列」——当知识缺失或问题模糊时,它会生成语言上流畅但事实上虚构的内容,且语气一样自信。

为什么难根治:概率生成与事实严格一致在机制上不冲突但难同时保证。缓解手段:RAG(检索真实资料再回答)、工具调用(计算器/搜索)、对齐训练。工程启示:对确定性有要求的场景(金融/医疗),必须外挂数据源与校验,不能裸信模型——这也是 RAG、Agent 类岗位需求爆发的根本原因。

练这道题

同分类 · 高频题

题目与答案就在本页;收藏、批注和错题重练在应用内

这道题看完了?连刷同类题,趁热打铁效果最好 进入刷题