WorkBuddy 和 DeepSeek Harness 都消耗了上百万 Token,但最后的效果还真不一样🔥 前面我不是一直在测试 Pi 和 DSH 嘛,… · @xiaomovps · TwKit
@xiaomovps
WorkBuddy 和 DeepSeek Harness 都消耗了上百万 Token,但最后的效果还真不一样🔥 前面我不是一直在测试 Pi 和 DSH 嘛,这次我又听评论区的 去测试了 Workbuddy 整体的效果,用的都是同一个 HTML 鹈鹕骑自行车的提示词 结果还挺有意思的 1、先看 Token 和执行时间 WorkBuddy:约 90~110 万 Token,缓存命中率 99%,总共运行了 4 分多钟 DeepSeek Harness:约 120 万 Token,缓存命中率同样接近 99% 两边的累计 Token 消耗其实差不多,而且都大量复用了缓存 不过这里要说明一下,WorkBuddy 使用的是积分计费,我只能根据使用情况估算 Token,可能存在一定误差,不能直接拿来计算准确的 API 成本 2、真正拉开差距的是生成效果 两边都完成了鹈鹕骑自行车的 HTML,但我对比了一下最终成品,还是觉得 DSH 更好一些 尤其是画面的细节处理、整体色彩搭配,DSH 做出来的效果更符合我的预期 WorkBuddy 也能完成任务,只是在这些细节上,我个人觉得还差一点 3、这次让我比较意外的是缓存 两个工具都能达到接近 99% 的缓存命中率,说明大量输入都在复用已有 Context 但是 Token 消耗接近,不代表最终生成质量也会一样 我现在越来越觉得,对比 Agent 不能只看模型能不能完成任务,还要看 Harness 怎么组织执行流程,以及多花的 Token 有没有真正改善结果 当然,这也只是同一个提示词下的小范围测试,不代表 DSH 在所有任务上都更好 后面我准备继续拿不同任务测试,看看这种差距是不是一直存在
曝光 906 · 评论 4 · 点赞 4 · 书签 2
查看原帖