AI 资源库 · 已整理 1 项

distillation

查看与distillation相关的 AI 资讯、工具、Skill、工作流和开源项目。

OpenPipe:将前沿大模型工作负载蒸馏为更小更便宜专用模型的微调与推理平台

api-evangelist/openpipe · OpenPipe — independent third-party profile of a public API surface, by API Evangelist. OpenPipe is a fine-tuning and inference platform for distilling expensive frontier-LLM workloads into smaller, cheaper specialized models. Captures production traces (OpenAI and Anthropic), fine-tunes, evaluates with judges, caches results, and serves the result

OpenPipe 是一个面向大语言模型的微调与推理平台,核心能力是把昂贵的前沿 LLM 工作负载蒸馏为更小、更便宜的专用模型。平台可采集生产环境中的调用轨迹(支持 OpenAI 与 Anthropic),在此基础上进行微调、使用 judges 做评估、缓存结果,并通过 OpenAI 兼容 API 提供服务,同时支持代理转发到外部模型。本仓库是 API Evangelist 维护的第三方公开 API 概况资料,本身不包含软件,也不是该公司的官方仓库。

☆ 收藏查看来源 ↗