Nacho Martinez 谈 agent harness:同一个模型,只换 harness 就会变好或变差 Oracle AI 开发者布道师 Nacho… · @MaiYangAI · TwKit
@MaiYangAI
Nacho Martinez 谈 agent harness:同一个模型,只换 harness 就会变好或变差 Oracle AI 开发者布道师 Nacho Martinez 在会场带了一场 workshop,讲怎么给 agent 搭 harness,录像发在 AI Engineer 频道。他把整套东西放进一个场景里讲,一家中型银行每天有大量交易,让一个全天候运行的 agent 把可疑的反洗钱交易标出来,再交给人核查。 他先说前沿模型我们管不了,能动手的是围绕模型的那一层,也就是 agent 循环、记忆、上下文工程、工具和 skill。同一个模型,换一套 harness 表现就会变好或变差。文件和数据库不用二选一,多个 agent 同时写一个文件的问题,数据库的事务一致性早就解决了。上下文窗口越塞越满表现越差,所以要分短期和长期记忆,用总结或压缩腾地方。几百个工具和 skill 不能一股脑塞进去,他的做法是给它们做向量嵌入,需要时检索出最相关的几个,用完再卸掉。到了问答环节,他建议记忆层先保持简单,定制 harness 就围着一个具体问题搭,把用不上的都砍掉。 视频脉络 4:59 场景设定,一家中型银行的可疑交易 11:10 为什么 harness 比模型更重要 13:21 文件还是数据库,不必二选一 15:59 短期记忆、长期记忆,上下文总结和压缩 21:24 工具和 skill 做向量化,按需检索 40:50 问答,记忆层怎么做才不出乱子 金句摘录 4:45「但我的想法是,我们不必那么关注前沿模型。可以用它们,但我们来做 harness,这才是有意思的部分,也是你真正能不断定制的部分。」 10:13「所以人的上下文窗口和 AI agent 很像。」 15:43「所以文件适合某些事,数据库适合另一些事。不必只选其中一个。」 27:56「它不会一句“这人可疑”就毁掉别人的生活,把整个银行账户什么的都冻结,因为那会毁了这个人的生活。」 41:06「保持简单。别给记忆层建太多抽象或太多组件。」 49:39「对,我会从零开始,因为这样你可以砍掉 90% 你不需要的东西。」 这个视频我们配好了中英双语字幕,原视频链接在回复里。
曝光 233 · 评论 1 · 点赞 1 · 书签 2
查看原帖