OpenInference：面向 AI 应用的 OpenTelemetry 追踪规范与插件

Arize-ai/openinference · OpenTelemetry Instrumentation for AI Observability

GitHub原文发布未知首次收录 2026-10-31上架 2026-10-31 07:02

ELI5：它是什么，解决什么问题

OpenInference 是 OpenTelemetry 的补充规范和插件集合，用于对 AI 应用进行追踪，可观察 LLM 调用、向量库检索以及搜索引擎、API 等外部工具的使用。它提供与传输方式和文件格式无关的规范，并为多种机器学习 SDK 和框架提供多语言插桩，包括 OpenAI、LangChain、LlamaIndex、Anthropic、MistralAI、Bedrock、VertexAI、CrewAI、Haystack、DSPy、MCP 等。它原生支持 Arize Phoenix 和 Arize AX，也可接入任何兼容 OpenTelemetry 的后端。

# LLM # OpenTelemetry # tracing # Agent 可观测性 # OpenInference

核心能力与快速开始

★ 1296 · Python

能做什么: 提供 OpenInference 规范，用于追踪 LLM 的调用以及应用周边上下文，例如向量库检索和外部工具调用；规范与传输方式和文件格式无关，可配合 JSON、ProtoBuf、DataFrame 等使用。提供语义约定库、通用插桩工具与装饰器，以及面向 OpenAI SDK、LangChain、LlamaIndex、Anthropic、Bedrock、VertexAI、CrewAI、Haystack、DSPy、MCP 等 SDK 和框架的 Python 插桩包。
适用场景: 为基于 LLM、Agent 和 RAG 的应用接入分布式追踪；将模型调用、检索和工具使用链路的数据导出到 OpenTelemetry 兼容后端；在 Arize Phoenix 或 Arize AX 中查看 AI 应用调用链；统一不同 ML SDK 与框架的观测语义。
项目形态: 开发框架
部署方式: 未说明
主要依赖: 未说明
使用限制: 材料未说明硬件、API 成本、部署条件或具体使用限制；插桩覆盖范围以 README 列出的包为准，材料仅展示部分包列表。
许可证: Apache-2.0
最近推送: 2026-10-31 06:45

项目文档核对 README 依据 ↗

资料检查：2026-10-31 07:00 · 卡片整理：2026-10-31 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证

相似资源

LangWatch：LLM 可观测性、评估与 Agent 测试平台

LangWatch 是一个开源的 LLM 可观测性、评估与 AI Agent 测试平台，以 OpenTelemetry 原生 tracing 为核心，可对 LangChain、LangGraph、DSPy、OpenAI Agents、LiteLLM、Pydantic AI、CrewAI、AWS Bedrock 等 LLM 应用进行埋点观测。平台支持实时与批量的评估运行、prompt 版本管理与部署、基于剧本场景与 Judge Agent 的多轮 Agent 对话模拟、带标注的数据集管理，以及通过带预算和语义缓存的虚拟密钥 AI Gateway 治理模型流量。它提供 app.langwatch.ai 的 REST API、Python 与 TypeScript SDK 和 MCP server，发布配套的 scenario Agent 测试框架与 better-agents 标准，核心以 Apache-2.0 授权（ee/ 企业模块为商业许可），可部署为 LangWatch Cloud 或通过 Docker Compose、Helm、Kind 或完整 Kubernetes 自托管。

Dossier：自托管的求职管理应用，依据个人档案生成定制简历与求职信并跟踪申请进度

Dossier 是一个自托管的求职管理应用，使用 TypeScript 和 Next.js 构建、以 PostgreSQL 存储数据。它把职业经历集中在一个档案中，生成基础简历；针对具体职位，读取招聘信息、展示与档案的匹配情况，并用档案中的事实起草定制简历和求职信，用户可在聊天中修改并导出 PDF。它提供求职岗位搜索与评分、创业公司职位聚合、可选的每日求职 Agent、Claude 连接器，以及可选的 Gmail 与 Google Calendar 集成，并能用看板和数据表跟踪从草稿到 offer 的全流程。AI 模型可选用 Ollama 或 LM Studio 提供的本地模型，也可选用任意 OpenAI 兼容 API、Anthropic 或 Mistral 的托管模型。

midgley：基于 LLM 多智能体的汽油价格预测框架

midgley 是一个用 Python 实现的多智能体时间序列预测框架，目标是预测美国批发 RBOB 汽油期货和多个都市区的零售无铅汽油价格。它把 Gemini、NOAA 天气模型、海运与内河咽喉点、行政社媒缺口、Cboe OVX、Baker Hughes 钻机数、USGS 水文与地震、炼厂检修等非结构化与物理数据，融合为特征向量，再结合 RB=F、CL=F、BZ=F 等商品期货，用 Ridge 回归与 XGBoost 建模，并通过情景模拟器、预测日志和每周复盘反馈回路迭代模型。项目还自动生成公开 Web 仪表盘，展示各地预测、准确率和数据源目录。

KOKOCHI UI Agent Readability Lab：用 OpenTelemetry 观测和评估 LLM 对 HTML 结构不同的 Web UI 的解读

该项目是一个实验基座，用于在可复现条件下观察和评估 LLM 如何解读 Web UI 的 HTML 结构；它包含 semantic-first 与 presentation-first 的 Fixture 对比、基于 Ollama 的 LLM 推理、用 control-group-membership F1 评价，以及通过 OpenTelemetry 采集 trace、metrics、logs 并配合 Grafana 进行观测。公开版提供实验定义、代码与复现材料，不包含正式实验的原始 LLM 响应和执行结果。

这是基于来源内容整理的摘要。原文链接失效后，本页摘要和讨论仍会保留。