1M 上下文只需要不到 0.9GB RAM？？ Llama 70B 要 320GB，Qwen 8B 要 144GB。 DeepSeek 这是怎么做到的？这也… · @QQTeng · TwKit

@QQTeng

1M 上下文只需要不到 0.9GB RAM？？ Llama 70B 要 320GB，Qwen 8B 要 144GB。 DeepSeek 这是怎么做到的？这也太离谱了吧

曝光 38 · 评论 1 · 点赞 0 · 书签 0