http://Sema4.ai 10 月 31 日发了 3.0,agent 的账单先降下来了 缓存数据访问那套打法,官方口径是 token 用量最多降 80… · @0xopencitizen · TwKit
@0xopencitizen
http://Sema4.ai 10 月 31 日发了 3.0,agent 的账单先降下来了 缓存数据访问那套打法,官方口径是 token 用量最多降 80%,查询快 4 倍,还加了团队共享工作区和全程审计日志。 Agent 规模化的卡点早就不是模型够不够聪明,是账单和审计能不能过财务和合规那关。 一个 agent 每步改了什么都留档,出了事才找得到人。 小团队也一样。agent 一多,token 账单先涨,审计后补,补的时候才发现日志没留全。省 token 的办法不神秘,缓存重复查询、给 agent 设预算上限、超了先停再审。 你们团队的 agent 账单失控过吗?最后怎么收场的?
曝光 10 · 评论 0 · 点赞 0 · 书签 0
查看原帖