这Unsloth一出手，64G机器也能把大模型跑起来了，门槛是真被砸穿了。别光看参数吹，实际喂长上下文还得留点内存给KV cache，有机器的先下下来跑跑看… · @JayHhdmg · TwKit

@JayHhdmg

这Unsloth一出手，64G机器也能把大模型跑起来了，门槛是真被砸穿了。别光看参数吹，实际喂长上下文还得留点内存给KV cache，有机器的先下下来跑跑看爽不爽。

曝光 88 · 评论 0 · 点赞 1 · 书签 0