快速扩展在线存储以服务超过10亿ChatGPT用户(第二部分)
OpenAI 为了让 ChatGPT 的在线存储系统 Habitat 能支撑超过 10 亿用户,做了三件事:让多个用户的数据在同一套系统里安全隔离、把常用数据缓存在离用户更近的地方、并借助微软的 Azure Cosmos DB 数据库。原来读取数据慢,现在读取速度提升了 12 倍。这意味着 ChatGPT 在用户量大增时仍能更快地响应。文章是系列第二部分,具体技术实现和上线时间原文摘要没有说明。
文中可用工具
- HabitatOpenAI 用于 ChatGPT 的在线存储系统
- Azure Cosmos DB微软的云端数据库,用来支撑数据存取
评论 · 分享第一个看法