GenAI 平台

演讲：在 DoorDash 构建生成式 AI 平台

DoorDash 的两位工程师 Swaroop Chitlur 和 Sidd Kodwani 分享了公司内部搭建生成式 AI 平台的过程。最初他们主要依赖外部厂商的模型，后来逐步转向开源权重模型，并搭建了统一的 LLM 和 Agent 网关来管理调用。平台要同时兼顾准确度、响应速度和成本，目前服务超过 5000 名内部用户。对读者来说，这是一个大型公司如何把生成式 AI 落地到内部、并控制成本和性能的真实案例。