集群平台、网络存储与可靠性

8 课 AI 智算中心集群架构、网络拓扑与调度系统

集群平台核心线

面向工业界千卡/万卡 AI 智算集群建设,深入分析硬件拓扑、高速互连网络(InfiniBand/RoCE)、分布式存储 IO、容器虚拟化与超大规模调度。

学习目标

  1. 掌握 GPU 服务器内部 NUMA、PCIe 交换、NVLink 与 NIC NUMA 亲和性;

  2. 理解 InfiniBand 与 RoCE v2 协议栈、PFC/ECN 流控与 GPUDirect RDMA;

  3. 掌握分布式存储三级缓存架构与 Checkpoint 秒级快照带宽预算;

  4. 掌握 Gang Scheduling、拓扑感知放置(Topology-Aware Placement)与故障自愈设计。


课程目录

课程名称 模块归属
集群平台、网络存储与可靠性补充线 · 第 1/8 课:GPU 节点拓扑:NUMA、PCIe、NVLink 与 NIC 亲和性 集群平台、网络存储与可靠性
集群平台、网络存储与可靠性补充线 · 第 2/8 课:InfiniBand、RoCE、RDMA 与 GPUDirect 数据路径 集群平台、网络存储与可靠性
集群平台、网络存储与可靠性补充线 · 第 3/8 课:存储层级、数据集与 Checkpoint 带宽 集群平台、网络存储与可靠性
集群平台、网络存储与可靠性补充线 · 第 4/8 课:容器、驱动、Device Plugin 与升级兼容性 集群平台、网络存储与可靠性
集群平台、网络存储与可靠性补充线 · 第 5/8 课:Gang Scheduling 与拓扑感知放置 集群平台、网络存储与可靠性
集群平台、网络存储与可靠性补充线 · 第 6/8 课:容量、配额、公平与 Backfill 集群平台、网络存储与可靠性
集群平台、网络存储与可靠性补充线 · 第 7/8 课:Metrics、Logs、Traces 与 SLO Burn Rate 集群平台、网络存储与可靠性
集群平台、网络存储与可靠性补充线 · 第 8/8 课:故障恢复、Checkpoint 间隔与多租户事故设计 集群平台、网络存储与可靠性

补充审核指南