AI 资源库 · 已整理 2 项

存储架构

查看与存储架构相关的 AI 资讯、工具、Skill、工作流和开源项目。

AI 数据湖正在推动新的存储需求

AI 训练和推理让数据中心的存储方式遇到瓶颈:以前数据湖只用来偶尔批量查数据,现在却要同时、持续、高速地把数据喂给大量 GPU。原有存储架构按“便宜、够大”设计,扛不住这种并发压力,于是行业开始采用 QLC NAND 闪存和 256TB 级别的大容量 NVMe 固态盘,用更少的硬盘存更多数据,并降低每瓦功耗。对数据中心管理者而言,这意味着要在容量、性能和电费之间重新做取舍,部分云厂商也把客户越来越多地推向高性能存储档位。

文中可用工具

提供的材料未提及具体可用工具。

☆ 收藏查看来源 ↗

Cursor 借助 S3 WAL 将 Git 存储扩展至每秒超过 300 次推送

Cursor 推出了一套叫 Continuity 的 Git 存储方案。原本 Git 仓库分散存储在本地磁盘上,规模一大就容易在读写一致性和副本同步上碰到瓶颈。它的做法是先把每次代码改动写进 S3 上的“预写日志”,以这份日志作为唯一可信记录,本地 NVMe 磁盘上的仓库只当缓存用,副本之间的协调与数据一致性也拆开处理。据 Cursor 称,在合成测试中读取性能可随副本数线性扩展,最多支持 100 个副本;使用 S3 Express One Zone 时每秒能处理超过 300 次推送。需要说明的是,这些数据来自合成测试,并非生产环境实测,也暂未提及该架构何时对外开放。

文中可用工具

  • ContinuityCursor 推出的 Git 存储架构,用 S3 预写日志保存代码,支持大规模读写
  • S3作为存储预写日志和仓库数据的对象存储服务
  • S3 Express One Zone低延迟 S3 存储类型,用于支撑每秒超过 300 次推送的测试结果
☆ 收藏查看来源 ↗