🚨DGX Spark 跑千问3.8,显存吃到 0.85 会被系统直接杀掉 SGLang cookbook 实测:128GB 统一内存,mem-fractio… · @QwenAIFans · TwKit
@QwenAIFans
🚨DGX Spark 跑千问3.8,显存吃到 0.85 会被系统直接杀掉 SGLang cookbook 实测:128GB 统一内存,mem-fraction-static 写成 0.85,留给系统大约只剩 8GB,正好踩中 earlyoom 的 SIGTERM 线。 第一次长 prefill 或启动抓图时,进程直接 exit -15,没有报错堆栈。48 组里 15 组这么挂掉。 改成 0.80,后面测的配置全过。 温馨提示:被杀先 journalctl -u earlyoom,别先怀疑模型权重坏了。 你本地踩过 -15 吗? 来源:SGLang cookbook👇 https://docs.sglang.io/cookbook/autoregressive/Qwen/Qwen3.8-27B
曝光 385 · 评论 1 · 点赞 3 · 书签 0
查看原帖