研究与技术01
P99 CONF 是一个线上会议，专门讨论高性能、低延迟的应用，2026 年的大会在 10 月 21 日至 22 日举办。本文从 60 多场演讲中挑选了五场来介绍，主题都是数据库在不同设计之间如何取舍。比如，读写和存储空间往往此消彼长：让写入变快，读起来可能更费劲。还有团队把数据放到对象存储上并加缓存，用便宜的大容量存储换取稍慢的冷读取；也有团队改用内存索引，让读取更快、几乎不出现长尾延迟，代价是占用更多内存、写入更重。这些结果都针对演讲中特定的测试负载，并非通用性能保证；演讲录像需注册后可在 p99conf.io 点播观看。
文中可用工具
- SlateDB开源库，让开发者在 S3 等对象存储上直接搭建键值数据系统，不用自己实现 LSM
- LogstorScyllaDB 中可选开启的存储引擎，面向读多写少的键值负载，用内存索引加快单点查询
- Valkey内存数据库，文中通过多线程网络 I/O 和槽位迁移来提升吞吐和横向扩展速度
- turbopuffer向量搜索引擎，在对象存储上支撑千亿级向量的低延迟检索
- RaBitQ二进制量化方法，把向量的影子索引压缩到每维一位，用来先缩小候选范围
Agent 与工作流02
DoorDash 优化了杂货复购流程：过去用户要等约 16 秒才能重新下单，现在缩短到约 2 秒。做法是提前用批量 LLM 推理算出用户常买的东西，再用确定性的规则校验，而不是每次临时让模型现算；同时实时核对商品目录，保证选中的货还在售，并把清单做成可编辑界面，用户不改就不必再调用模型。DoorDash 称购物清单浏览量翻倍，该流程下单率提升约 34%。这些数字来自公司自述，文中未说明上线范围、统计口径和具体模型。
行业动态03
Grab 把用量很大的 Counter Service 从一种宽列数据库换成了 Aerospike 存储。他们先做了一层存储抽象，用影子流量对比新旧数据，确认一致后再逐步切换流量。重新设计的数据模型把按时间分桶的记录合并成基于 map 的记录。结果读延迟 P99 下降约 50%，磁盘占用从 3 TB 降到 1 TB，单节点成本降低 45% 到 50%。
文中可用工具
- Aerospike作为新的存储数据库，替代原宽列数据库承载 Counter Service 数据
行业动态04
Uber 的工程团队重新搭建了外卖应用 Uber Eats 的搜索流程，并报告称用户从下单搜索到看到结果的整体等待时间减少了一半。此前搜索链路较长、各环节串行执行，加上广告数据与检索逻辑交织，导致响应偏慢。这次他们改进了衡量首屏展示的方法、精简了检索环节、让多个数据获取步骤并行执行，还重新设计了广告数据并优化了底层基础设施，同时借助智能体编程流程辅助开发。对普通用户来说，这意味着在 Uber Eats 里搜餐、加载结果会更快。团队表示还在探索微批处理、基于商品的检索和 HTTP multipart 流式传输，但这些尚未开放，处于探索阶段。
研究与技术05
Mallika Rao 在一次演讲中提出，自适应推荐系统真正的难点不在模型结构本身，而在系统怎么搭。现实中系统要边用边学，就得处理实时反馈、检索内容的新鲜度、多阶段流程的协调，以及从用户请求到返回结果的整体延迟预算。同时还得兼顾成本和可观测性这些实际运营限制。目前这只是演讲内容分享，文中没有说明有任何现成工具或产品可以直接使用。
评测与安全06
Mattbusel/llm-bench · CLI that benchmarks LLM APIs: run your prompts concurrently against OpenAI and Anthropic models and compare p50/p99 latency, tokens per second, cost and success rate as a table or JSON.
llm-bench 是一个用 Rust 编写的命令行工具，把同一批提示词并发发送给多个模型（OpenAI、Anthropic，以及 Ollama、vLLM、LM Studio 等 OpenAI 兼容服务），并以表格或 JSON 输出 p50/p99 延迟、每秒 token 数、单次与总成本、成功率等指标，帮助使用者在真实网络和自己提示词条件下比较不同模型的快慢与费用。内置价格表可用 llm-bench models 查看，非流式请求且不单独测量首 token 时间。
行业动态07
Cloudflare 重新设计了 1.1.1.1 公共 DNS 服务背后那个叫 Big Pineapple 的缓存系统，改变了数据在内存里的存放方式。之前每条缓存记录占用的空间偏大，导致整个服务器集群要消耗大量内存。这次用 Rust 语言做的改动让每条记录的体积缩小了 56%，相当于从所有机器上总共释放出约 100 TB 内存；同时写入缓存的速度快了 43%，查询延迟降低了 19%。对普通用户来说，这意味着 1.1.1.1 的解析可能更快更稳，而且 Cloudflare 不花钱加内存就能存下更多域名记录。