IT 面试题库

故障排查:线上大模型推理服务显存周期性 OOM,监控显示 KV Cache 占用随并发持续上涨且不释放。如何定位根因并优化?

高级故障排查题算法工程师OOMKV Cache显存优化vLLM故障排查

题目

考察点:显存 OOM 排查与调优。要求给出从监控定位到具体参数的完整链路,区分「碎片」与「并发上限」两类问题。

参考答案

内容深度:适中 · 无代码示例 · 来源:外部链接 · 未复核 · 63 天前更新 · 技术内容可能随版本变化,建议结合官方文档理解

要点:

练这道题

同分类 · 高频题

题目与答案就在本页;收藏、批注和错题重练在应用内

这道题看完了?连刷同类题,趁热打铁效果最好 进入刷题