批量推理

DoorDash 借助 AI Agent 将杂货复购延迟从 16 秒降至 2 秒

DoorDash 优化了杂货复购流程：过去用户要等约 16 秒才能重新下单，现在缩短到约 2 秒。做法是提前用批量 LLM 推理算出用户常买的东西，再用确定性的规则校验，而不是每次临时让模型现算；同时实时核对商品目录，保证选中的货还在售，并把清单做成可编辑界面，用户不改就不必再调用模型。DoorDash 称购物清单浏览量翻倍，该流程下单率提升约 34%。这些数字来自公司自述，文中未说明上线范围、统计口径和具体模型。