推文

@Zen_with_AI · 2026-10-14 07:04

小路带你看大厂架构｜NVIDIA 把 Run:ai 整个开源了 Run:ai 是 NVIDIA 的 Kubernetes GPU 编排平台，这次连同四个可独立采用的组件一起开源，归入 DSX AI Factory 体系。核心是 KAI Scheduler：K8s 原生调度器，Apache 2.0，已捐给 CNCF 做 Sandbox 项目。特性对准 GPU 负载：gang 调度（多 pod 要么全上要么不上）、fair-share 配额、拓扑感知、bin-packing，还支持 MIG/MPS/时间分片等 GPU 共享和 DRA。 GPU Fractioning Operator 值得单拎出来说：它把 CUDA 13.4 的原生 GPU 切分能力接到 K8s 上，driver 层面硬隔离显存，notebook 和小模型推理不用再整卡占用。调度器无关，可配 KAI 也可配别的。 另外两个是组织层：KAI Resource Management 按部门/项目管配额（替代手工 spreadsheet 分资源），Workload Map 则给 PyTorchJob、RayCluster、KServe 等各种 CRD 定一个统一的"工作负载契约"，让调度、监控、成本工具不用给每种 CRD 各写一套适配。 生态已经跟上：Crusoe、Nebius、Mirantis、Rafay 等八家第一批集成。GPU 编排这个赛道，开源 Run:ai 等于 NVIDIA 把"AI 工厂"的地基开放了。 https://developer.nvidia.com/blog/nvidia-runai-is-now-open-source-as-part-of-nvidia-dsx-ai-factory-platform/

曝光 271 · 评论 2 · 点赞 2 · 书签 0 · 曝光/时 115.22734448945718