DeepSeek DSH 智能体测评：成本、缓存与耗时
AI科技 · 1 篇公开推文 · 1 位作者 · 曝光 231876 · 评论 11 · 点赞 87 · 书签 26
推文讨论 DeepSeek 的 DSH 智能体测评，关注 Token 消耗、KV 缓存命中率与任务耗时；原文比较部分未完整呈现。
创作角度
- Token 消耗与缓存命中率如何影响使用成本
- 完成同一任务的耗时该怎样比较
相关公开推文
@xiaomustock
睡醒看了很多人测评的deepseek的agent “DSH”，很多人聊的最多的就是token消耗量，kv键缓存命中率，同时DSH的同任务时间消耗是gpt或者clude的2倍。 这点透露的信息强化了我对英特尔陈立武老爷子说的CPU和dram存储堆叠封装的路线理解。 agent代理的普及很快会迎来cpu/gpu的1:1时刻，那时的cpu也非常需要像英伟达的gpu和hbm堆叠封装一样，需要把cpu和hbm堆叠封装在一起，极大的提高读取效率和降低计算时间。
曝光 231876 · 评论 11 · 点赞 87 · 书签 26
查看原帖