IT面试题库
大模型面试题
大模型方向的 90 道 IT 面试题,覆盖高频考点、参考答案与错题复习。
高频题目
大语言模型(LLM)的微调方法有哪些?
高级 · 462 次浏览
Transformer架构的核心思想是什么?
高级 · 376 次浏览
RAG(检索增强生成)的原理是什么?
高级 · 204 次浏览
AI Agent的原理和架构是什么?
高级 · 119 次浏览
Prompt Engineering的核心原则是什么?
中级 · 13 次浏览
模型上线后效果为什么会慢慢变差?数据漂移与概念漂移如何区分、怎么监控、再训练由什么触发?
中级 · 4 次浏览
大模型的「幻觉」(hallucination)是什么?主要成因有哪些,工程中如何缓解?
高级 · 3 次浏览
什么是 RAG(检索增强生成)?典型流程?
高级 · 2 次浏览
MLOps 是什么?相比传统 DevOps 多了哪些环节?
高级 · 2 次浏览
大模型推理时的 KV Cache 是什么?为什么上下文越长推理越贵?请估算 7B 模型 8K 上下文的 KV 显存。
高级 · 2 次浏览
向量数据库在 AI 应用中起什么作用?
中级 · 1 次浏览
Token 是什么?为什么中文、英文、代码消耗的 Token 不一样?Token 和上下文窗口怎样共同决定成本与效果?
初级 · 1 次浏览
Transformer 的 Self-Attention 原理是什么?
高级 · 新题
什么是 Prompt Engineering?常用技巧有哪些?
中级 · 新题
模型微调(Fine-tuning)与 RAG 如何选?
高级 · 新题
缩放点积注意力(Scaled Dot-Product Attention)里为什么要除以 √d_k?不缩放会有什么问题?
中级 · 新题
计算题:给定 Q、K、V 三个小矩阵,手动走一遍 Scaled Dot-Product Attention 的完整计算(softmax(QKᵀ/√d_k)V),并说明每一步的维度变化。
中级 · 新题
什么是位置编码(Positional Encoding)?为什么 Transformer 必须引入它?正弦位置编码如何工作、有什么特点?
初级 · 新题
Transformer 的 Encoder 与 Decoder 各由哪些子层堆叠而成?其中的 Encoder-Decoder 注意力(交叉注意力)起什么作用?
中级 · 新题
相比 RNN 与 CNN,Transformer 在并行性、长距离依赖、归纳偏置上各有什么优劣?
中级 · 新题
高级:为什么 Transformer 在海量数据上『有效』?请从全局感受野、并行训练、注意力可解释性出发论述,并指出它的固有局限(二次复杂度、长度外推)。
高级 · 新题
BERT 的预训练任务(MLM + NSP)是怎么设计的?为什么 MLM 要用 [MASK] 却又引入 15% 的随机替换策略?
中级 · 新题
GPT-3 提出的「上下文学习 / 少样本学习」(in-context / few-shot learning)是什么?为什么大模型能不更新参数就完成新任务?
高级 · 新题
为什么在已有大模型的情况下还需要 RAG?它主要解决了大模型的哪几类固有问题?
初级 · 新题
给定一份 200 页技术手册,如何设计切片与向量化索引流程?固定长度、递归字符、语义切分各怎么选?overlap 有什么用?
中级 · 新题
用 sentence-transformers 把文本转成向量并写入 FAISS,再按相似度检索 top-k,请写出可运行代码并讲解关键参数。
中级 · 新题
RAG 上线后用户反馈“回答和文档内容对不上/答非所问”,请给出系统化的排查清单(从检索质量到生成)。
高级 · 新题
什么是混合检索(稀疏 BM25 + 稠密向量)与重排序(rerank)?它们各自解决什么问题,何时必须上?
高级 · 新题
如何评估一个 RAG 系统的效果?忠实度、答案相关性、上下文召回/精度分别衡量什么?RAGAS 的思路与局限?
高级 · 新题
设计一套生产级 RAG 架构:查询改写、父子文档、缓存、在线评估闭环,如何权衡成本与效果?
专家 · 新题
什么是 AI Agent?其与普通 LLM 应用(如纯对话)的核心区别?
高级 · 新题
LangChain 中 Chain、Tool、Memory、Agent 各自扮演什么角色?
高级 · 新题
模型推理优化常用手段(量化、剪枝、ONNX、批处理)有哪些?
高级 · 新题
什么是 RAG?它的典型架构和流程是怎样的?
中级 · 新题
什么是 AI Agent?它与大模型直接对话和 RAG 的区别是什么?
中级 · 新题
如何写出一个结构化的高质量 Prompt?拆解「角色-任务-上下文-格式-约束」五要素,并说明每一部分的作用。
初级 · 新题
少样本提示(Few-shot)在实战中该怎么用?什么时候该加示例、示例如何挑选、顺序与格式会影响结果吗?
中级 · 新题
在工程里如何让大模型稳定输出可解析的 JSON(结构化输出)?请说明 Prompt 约束、厂商能力与代码兜底三层做法。
中级 · 新题
思维链(Chain-of-Thought, CoT)是什么?zero-shot CoT 与 few-shot CoT 有什么区别,又适用于哪些任务?
中级 · 新题
用户反馈大模型「一本正经地编造引用、日期、API 名」,请从提示词与系统架构两个层面给出抑制幻觉的落地清单。
高级 · 新题
如何设计 system prompt 做角色约束与安全防护(含提示注入 Prompt Injection 防御)?
高级 · 新题
以下关于 Prompt Engineering 的说法,哪一项是正确的?
中级 · 新题
大模型部署里常说的「量化」到底是什么?INT8 / INT4 量化相比 FP16 能带来哪些收益,又要付出什么代价?
初级 · 新题
GPTQ 和 AWQ 这两种主流权重量化算法,思路上有什么本质区别?分别适合什么场景?
中级 · 新题
场景题:要把一个 7B 模型部署到单张 24G 显卡对外提供 API,FP16 权重约 14GB 显存不够留余量,怎么做选型让它既能跑、延迟又可接受?
中级 · 新题
单选题:关于大模型推理的 KV Cache 与显存占用,下列说法正确的是? A. KV Cache 大小与上下文长度无关,只和模型层数有关 B. KV Cache 随序列长度近似线性增长,是长上下文高并发时显存的主要消耗项 C. 只要用了 INT4 量化,KV Cache 就不再是显存瓶颈 D. PagedAttention 通过把所有请求的 KV Cache 预分配成最大长度来避免碎片
中级 · 新题
故障排查:线上大模型推理服务显存周期性 OOM,监控显示 KV Cache 占用随并发持续上涨且不释放。如何定位根因并优化?
高级 · 新题
开放讨论:大模型推理服务的成本怎么估算与权衡?说明「小模型+量化」和「大模型+高并发」的成本拐点一般怎么算。
高级 · 新题
场景题:要在生产环境搭一个高并发大模型 API 服务,vLLM、TensorRT-LLM、Ollama 三家推理框架分别适合什么场景?给出选型建议与理由。
高级 · 新题
一次大模型 API 调用要经过哪些环节?哪些错误可以重试、哪些必须直接失败?为什么重试必须配幂等 Key?
中级 · 新题
JSON Mode、JSON Schema 和 Structured Outputs 分别在哪一层约束模型输出?为什么说「用了 Structured Outputs 就不用做服务端校验」是误区?
中级 · 新题
Temperature、Top-p、Top-k 分别控制什么?生产环境该怎么设置?为什么 Temperature 设为 0,输出仍然可能不完全一致?
初级 · 新题
GraphRAG 解决什么问题?为什么说 Chunk 是信息孤岛、向量相似度不擅长多跳推理?什么场景下不应该上 GraphRAG?
高级 · 新题
企业知识库已经上线,文档每天都在改,用户投诉「回答还停留在旧版本」「删掉的制度还能被搜到」。请设计一套可持续的知识库更新链路。
高级 · 新题
Query Rewrite 有哪些常见策略(Multi-Query、Query Decomposition、Step-back、HyDE、Self-Query)?检索时 Top-K 是不是越大越好?
中级 · 新题
MCP(Model Context Protocol)解决什么问题?它和 Function Calling、普通 HTTP API 的区别是什么?Tools、Resources、Prompts 三类原语分别做什么?
中级 · 新题
Agent Loop 的完整流程是什么?最大迭代轮次通常怎么设?为什么 Agent 跑长任务会「失忆」和跑偏?
初级 · 新题
ReAct、Plan-and-Execute、Reflection、Multi-Agent 分别适合什么场景?做项目时应该怎么选?
中级 · 新题
客服 Agent 上线后用户反馈「上一轮说过的事下一轮就忘」「换个会话就要重新说偏好」「偶尔还引用三年前的老政策」。请从记忆层设计给出排查与改进方案。
高级 · 新题
Prompt Engineering 和 Context Engineering 有什么区别?Context Engineering 具体管哪些东西?为什么「把资料放进窗口」和「模型用好资料」是两回事?
中级 · 新题
在线刷大模型题 →