全球缓存

快速扩展在线存储以服务超过10亿ChatGPT用户（第二部分）

OpenAI 为了让 ChatGPT 的在线存储系统 Habitat 能支撑超过 10 亿用户，做了三件事：让多个用户的数据在同一套系统里安全隔离、把常用数据缓存在离用户更近的地方、并借助微软的 Azure Cosmos DB 数据库。原来读取数据慢，现在读取速度提升了 12 倍。这意味着 ChatGPT 在用户量大增时仍能更快地响应。文章是系列第二部分，具体技术实现和上线时间原文摘要没有说明。