集群平台、网络存储与可靠性
8 课 AI 智算中心集群架构、网络拓扑与调度系统
集群平台核心线
面向工业界千卡/万卡 AI 智算集群建设,深入分析硬件拓扑、高速互连网络(InfiniBand/RoCE)、分布式存储 IO、容器虚拟化与超大规模调度。
学习目标
掌握 GPU 服务器内部 NUMA、PCIe 交换、NVLink 与 NIC NUMA 亲和性;
理解 InfiniBand 与 RoCE v2 协议栈、PFC/ECN 流控与 GPUDirect RDMA;
掌握分布式存储三级缓存架构与 Checkpoint 秒级快照带宽预算;
掌握 Gang Scheduling、拓扑感知放置(Topology-Aware Placement)与故障自愈设计。
课程目录
| 课程名称 | 模块归属 |
|---|---|
| 集群平台、网络存储与可靠性补充线 · 第 1/8 课:GPU 节点拓扑:NUMA、PCIe、NVLink 与 NIC 亲和性 | 集群平台、网络存储与可靠性 |
| 集群平台、网络存储与可靠性补充线 · 第 2/8 课:InfiniBand、RoCE、RDMA 与 GPUDirect 数据路径 | 集群平台、网络存储与可靠性 |
| 集群平台、网络存储与可靠性补充线 · 第 3/8 课:存储层级、数据集与 Checkpoint 带宽 | 集群平台、网络存储与可靠性 |
| 集群平台、网络存储与可靠性补充线 · 第 4/8 课:容器、驱动、Device Plugin 与升级兼容性 | 集群平台、网络存储与可靠性 |
| 集群平台、网络存储与可靠性补充线 · 第 5/8 课:Gang Scheduling 与拓扑感知放置 | 集群平台、网络存储与可靠性 |
| 集群平台、网络存储与可靠性补充线 · 第 6/8 课:容量、配额、公平与 Backfill | 集群平台、网络存储与可靠性 |
| 集群平台、网络存储与可靠性补充线 · 第 7/8 课:Metrics、Logs、Traces 与 SLO Burn Rate | 集群平台、网络存储与可靠性 |
| 集群平台、网络存储与可靠性补充线 · 第 8/8 课:故障恢复、Checkpoint 间隔与多租户事故设计 | 集群平台、网络存储与可靠性 |