最近在聊端侧模型专家,这轮行情因大模型的变化而起,本质上要关注模型端的能力到什么地步,如需完整纪要或者约专家欢迎联系ty #亚马逊端侧专家交流: Agent… · @2030FY_X · TwKit

@2030FY_X

最近在聊端侧模型专家,这轮行情因大模型的变化而起,本质上要关注模型端的能力到什么地步,如需完整纪要或者约专家欢迎联系ty #亚马逊端侧专家交流: Agentic RL成为模型迭代关键,端侧Agent打开增量空间 1、Scaling Law仍在延续,Agentic RL算力投入持续提升。 头部模型厂商仍在扩大模型规模,预训练仍是算力消耗主体,亚马逊内部预训练资源占比约70%。与此同时,训练范式正由单轮RL向Agentic RL演进,后训练的算力投入及并行实验需求提升。Agentic RL核心在于构建Task、Environment、Verifier完整闭环,对任务复杂度、真实执行环境及Reward评估体系要求较高。 2、高质量垂类数据成为模型能力差异化关键。 预训练数据仍以互联网文本及版权专业资料为主,SFT数据规模相对有限。后续模型能力提升将更多依赖Agentic RL,但真实生产数据受隐私限制,难以直接获取。短期专业数据公司仍具备价值,模型厂商则倾向于在数学、物理、化学、医疗等核心科学领域自建团队,沉淀高质量数据。 3、Coding Agent数据飞轮存在,但用户规模不直接等于训练优势。 用户反馈能够帮助模型定位错误、针对性补齐能力短板,但本地文件、软件版本及依赖环境难以完整采集和复现,交互轨迹无法直接转化为高质量RL数据。未来中低难度Coding任务的模型能力有望逐步趋同、价格下行,复杂编程及科学研究等长尾任务仍将体现显著差异。 4、端侧模型向10—30B及Agentic任务演进。 当前端侧模型主要集中于1—8B,以摘要、文本处理等轻量任务为主,复杂任务仍依赖云端。未来随着模型能力提升,端侧有望承接订票、酒店预订、个人信息管理等低复杂度Agent任务,云端负责复杂推理及多轮Coding。端侧在隐私、时延和成本方面具备优势,应用有望向手机、可穿戴设备、汽车及机器人拓展。 5、企业级Agent落地仍受场景适配与评估体系制约。 头部互联网公司已大规模使用Coding Agent,部分垂直平台也在推动Agent统一用户服务入口,但短期更多体现为存量业务提效。传统企业由于业务流程差异大、任务结果难以标准化验证,往往需要逐场景定制,评估体系成为落地瓶颈。 #核心判断: 大模型竞争正从参数规模扩张转向“算力+Agentic RL+高质量数据+执行环境”的综合竞争。短期关注后训练算力及数据服务,中期关注端侧模型升级、端云协同与Personal Agent,长期关注具备垂类数据和复杂任务训练能力的模型厂商。 by ty

曝光 134 · 评论 0 · 点赞 0 · 书签 0