TwKit
正在载入
TwKit

我发现AI行业的黑话是真他妈多:Model、Agent、Harness、Scaffolding、Tool、Skills、Sub-agent、RL Envir… · @realchendahuang · TwKit

@realchendahuang

我发现AI行业的黑话是真他妈多:Model、Agent、Harness、Scaffolding、Tool、Skills、Sub-agent、RL Environment、Rollout、Reward、Trainer。 今天就讲这几个。 首先是Model,这就是大模型本身,在最底层。可以把它理解为一匹力气巨大、耐心极好的纯种马。你给它一段文字,它就回复一段文字;回答完了,就停在原地,一动不动。这匹纯种马也没什么记忆,性格还比较野,有时候还会流口水,这就需要人来驯服它,为人类所用。 要让这匹马真正拉车干活,就得给它配上两样东西:Scaffolding 和 Harness。 Harness 在英文里的原意是马具,也就是套在马身上的缰绳、皮带、车辕和轮子联动装置。 大模型说我想查一下这个表格,Harness 就充当双手,去硬盘里把表格读出来,喂到大模型面前。大模型说我想修改第三行,Harness 就去把第三行改掉,再把修改结果反馈给它。 在这个一圈又一圈的循环里,Harness 负责控制全局节奏:什么时候催它走下一步,碰到系统报错怎么拉紧缰绳,什么时候判定活干完了可以停下。没有这套马具传动,大模型空有一身力气,车轮一步也转不起来。 而 Scaffolding,也就是常说的脚手架,是搭在马身边的赛道围栏和骑手手册。 它负责立规矩,立好了规矩,跑起来才能不烧心。 给大模型看的提示词是什么格式,工具的参数怎么定义,每次对话给它带上多少历史记录,哪些无效内容该提前清理。它决定了大模型怎么观察周围环境,以什么规矩和外面的系统打交道。 把大模型 Model 套上马具 Harness,配好脚手架 Scaffolding,组合在一起,就是大家天天说的 Agent,也就是智能体。 AI圈子常说 Agent 等于 Model 加上 Harness。大模型是大脑和动力源,马具是四肢和传动轴。两者合体,AI 才从只会打字聊天,变成了能够自己看数据、调软件、一步步把复杂任务做完的完整系统。 智能体跑起来之后,要开始面对具体的业务,这就涉及到了工具、技能和子代理。 Tool 是具体的工具,比如一把螺丝刀、一个计算器,或者查天气的接口。大模型需要拧螺丝的时候,伸手调用一下,拧完把结果拿回来。它是一个单次、点状的具体动作。 Skill 是打包好的整套手艺。比如修水管,它不仅包含一把扳手,还包含老师傅的一整套排查经验:先看哪里的水阀,用什么规格的接头,漏水的时候怎么应急处理。它把一整套针对特定目标的步骤和经验封存成指南,智能体遇到同类问题,直接照着指南操作就行。 Sub-agent 则是另外找了一个能独立思考的徒弟。 当主任务太复杂,智能体一个人忙不过来时,它可以把其中一部分拆出去,派给另一个独立的智能体。这个徒弟有自己的独立思考空间,自己去翻资料、用工具、处理意外,最后把做好的结果交回给主导者。 如果不仅想用它,还想把它训练得越来越聪明。 RL Environment 是带有真实反馈的练马场。里面有跑道、泥坑和障碍物,智能体每走一步,场地就会给出真实的物理反馈。 Rollout 是智能体在练马场里完整跑完一圈的全程录像。从起跑、跨过障碍、中途试错,一直到最后冲线,整条轨迹原原本本记录下来,就是模型学习的第一手数据。 Reward 是裁判给出的成绩单。跑对了给正分奖励,跑偏了给扣分惩罚。 Trainer 则是总教练。它带着智能体跑上千百次,收集海量的全程录像,对照着成绩单不断微调马匹的肌肉发力记忆,让它下一次跑得更快更稳。 兄弟们,咱们搞明白了吗?以后还会有更多的AI黑话出现。学无止境啊~

曝光 1075 · 评论 7 · 点赞 5 · 书签 3

查看原帖