LLMOps 题库

LLMOps 面试题库

面向运维/SRE 工程师,围绕 GPU 环境、模型部署、性能优化与集群调度进行面试练习。

8 个方向 · 72 道题 · 支持阅读与自测

课程学员使用讲师提供的开通码创建账号,注册后可记录掌握进度与收藏。

GPU基础与软件环境

驱动、CUDA、容器运行时与新机环境交付。

共 5 题

登录后查看 →

GPU硬件健康与监控

GPU故障排查、关键指标与DCGM监控链路。

共 3 题

登录后查看 →

Kubernetes调度与资源隔离

GPU Operator、设备分配、Volcano、HAMi、MIG与自动扩缩容。

共 15 题

登录后查看 →

大模型推理部署与容量规划

模型容量、并行方式、单机与跨机部署、PD分离与统一接入。

共 23 题

登录后查看 →

推理性能优化与压测

首字与吐字延迟、吞吐、压测工具与多级缓存。

共 11 题

登录后查看 →

分布式推理与通信

跨卡、跨机通信,NVLink/P2P拓扑与KV传输。

共 5 题

登录后查看 →

服务发布与可靠性保障

升级发布、故障排查与服务恢复。

共 9 题

登录后查看 →

项目经历与事故复盘

讲清项目职责、故障定位、处理过程与验证结果。

共 1 题

登录后查看 →