卧槽！ChatGPT 的读取延迟，从 120 毫秒砍到 10 毫秒，快了 12 倍 🚀 OpenAI 刚放出工程博客：ChatGPT 背后的存储系统 Hab… · @Super_Nius · TwKit

@Super_Nius

卧槽！ChatGPT 的读取延迟，从 120 毫秒砍到 10 毫秒，快了 12 倍 🚀 OpenAI 刚放出工程博客：ChatGPT 背后的存储系统 Habitat，现在扛着 10 亿+用户、500PB 数据，最大的一个库每秒超 2000 万次请求，官方说据他们所知全世界没第二家这么用微软 Azure Cosmos DB。 提速三招：热数据复制到离用户近的地方、加缓存、把 Python 服务改写成 Rust。 更牛逼的是：他们正在自研能装下 EB 级（1EB=100 万TB）数据的存储系统。

曝光 347 · 评论 1 · 点赞 2 · 书签 0