推文
@BaiBtw · 2026-10-13 21:08
小模型怎么在具体任务里超过大模型?Coinbase 的反欺诈案例,关键在“把任务收窄,再用自己的数据训练”。 ① 分工先定清楚。传统模型和规则先筛一遍,AI 只补查部分交易,结合近期行为给风险等级;是否拦截仍由程序决定,也不能推翻上游已有的拦截。 ② 训练看真实结果。用历史欺诈结果给回答打分,再微调 Qwen3.5-9B。奖励要同时照顾正常和欺诈样本,避免模型靠一味猜多数类别拿高分。 ③ 比较要看具体指标。在这套内部基准上,训练后的模型比 Opus 4.5 的精确率高7.5个百分点、召回率高12个百分点,金额加权召回高35.4个百分点。最后一项衡量的是覆盖了多少欺诈金额,不能直接当成普通召回率。 ④ 上线只输出必要内容。返回简短风险分类,不写长解释。线上单次大模型请求的中位延迟从1.515秒降到0.683秒;这不是整段结账流程耗时。 ⑤ 自己部署也得自己维护。模型权重、提示词和决策规则一起记版本,持续评测、重训,监控延迟并留好回滚路径。 这是特定数据、特定任务上的结果。它展示了专用模型的机会,不能推成“小模型在所有任务上都更强”。
曝光 127 · 评论 2 · 点赞 4 · 书签 0 · 曝光/时 87.12342615519326