英国金融科技巨头 Revolut 把 2000 名程序员从 Claude Code 迁到自建中国开源模型 GLM,成本砍掉 90%,开发交付时间反而缩短了 … · @mylifcc · TwKit
@mylifcc
英国金融科技巨头 Revolut 把 2000 名程序员从 Claude Code 迁到自建中国开源模型 GLM,成本砍掉 90%,开发交付时间反而缩短了 70% 在纽约举办的 AI Engineer 大会上,欧洲估值最高的金融科技独角兽之一 Revolut 公开了一组内部架构迁移数据。公司 AI 运营与基础设施负责人 David Abitbol 透露,他们已经将旗下约 2000 名软件工程师的默认编程工具,从 Anthropic 的 Claude Code 和 OpenAI 的 Codex 切换到了自建服务器部署的智谱开源模型 GLM(从 GLM-5.1 升级至 GLM-5.3)。 这一刀切下去,Revolut 只用了 56 张英伟达 B200 显卡,就把内部综合推理成本压到了每百万 Token 约 0.30 美元,直接把付给 Anthropic 和 OpenAI 的账单砍掉了 90%。 【为什么放着顶级的 Claude 不用?】 Revolut 最早从 2025 年 2 月开始试用 Claude Code,并在 2026 年 1 月全员铺开,但很快撞上了残酷的经济账。当时部分重度使用的工程师每人每月要烧掉 1000 到 10000 美元的 API 费用,但公司整体研发效率并没有看到对等的产出。 为了止血,公司被迫给每位工程师设了每月 300 美元的严格额度上限。结果这引发了第二个尴尬的后遗症:因为怕额度不够用,程序员们开始像省粮票一样把 Token 攒着留给最难的代码硬骨头,平时顺手能用 AI 提效的杂活反而不敢用了。 Abitbol 在演讲中点出了一个被很多技术团队忽视的真相:“工程研发的瓶颈其实不在于纯写代码的速度。”真正拖慢程序员的,往往是淹没在收件箱、Jira 工单、Confluence 文档和上下文切换里的时间。换成固定成本的自建开源模型后,公司彻底取消了额度限制,工程师开始肆无忌惮地用 AI 处理周边杂活。从 4 月切到自建架构以来,Revolut 测算内部编码时间缩短了约 60%,从接单到合并代码的整体交付周期(Lead Time)缩短了 70%。 【56 张 B200 显卡是怎么调教出来的】 作为一家受严格监管的数字银行,使用中国团队开源的模型难免面临合规审视。Abitbol 对此的解法很直接:“中国开源权重,西方自有服务器”——只下载公开的模型权重,跑在 Revolut 自己位于美国的隔离基础设施上,完全不经过外部托管服务;遇到视觉图片任务则分流给 Gemini,而昂贵的 Claude Code 和 Codex 依然保留,但只作为攻克极少数顶尖难题的“特批武器”。 刚把模型权重塞进显卡时,开箱即用的推理体验非常糟糕,首字延迟(TTFT)高达 14.26 秒。团队没有盲目加显卡,而是花了四个月死磕底层推理优化: • 将上下文窗口上限锁定在 256K Token,并保证代码场景下 90% 以上的缓存命中率(Cache Hit Rate)。 • 在 Blackwell 架构上采用 NVFP4 量化格式替代 FP8,在几乎不损失精度的前提下节省了约 40% 的显存占用。 调优完成后,在不增加一张显卡的情况下,系统每秒处理的请求量提升了 76%,首字响应时间从 14.26 秒直接压到了 1.68 秒。按市面租金估算,56 张 B200 显卡每月的租赁成本大约在 24.5 万到 32.7 万美元之间,平摊到 2000 名工程师头上,每人每月只需 120 到 165 美元左右,就能实现全员不限量的高速代码辅助。
曝光 869 · 评论 9 · 点赞 9 · 书签 0
查看原帖