工具与应用01
HPE 的三位产品负责人(Marius Bogoevici、Mahesh Ramachandran、Karthik Subramanian)在一篇赞助文章中讲了怎么发现 AI 服务“机器很忙但用户体验差”的问题。原来大家常看 GPU 利用率,但它只说明显卡在干活,不代表回答够快、够准——首字快可能后面生成很慢,整体快也可能答错。他们建议上线前先用有代表性的提问和流量做一次“基准测试”,记下首字时间、每字生成速度、吞吐量和答案质量,上线后再拿实时表现跟基准对比,并把请求数据和 GPU、网络、数据库、向量库等底层指标对齐,才能分清是需求涨了还是哪里卡住了。读者可以据此建立更靠谱的监控和扩容依据;报道没有给出具体测试数字,相关方法和电子书属于推荐做法,HPE Morpheus 与 OpsRamp 是厂商产品介绍,并非已公开的独立评测结果。
文中可用工具
- HPE Morpheus Software在混合环境中统一开通和管理虚拟机与 Kubernetes 集群的平台
- HPE Kubernetes Service (HKS)Morpheus 高级版和企业版中包含的 Kubernetes 服务
- HPE OpsRamp Software跨多云混合基础设施的全栈可观测与监控工具
- Horizontal Pod AutoscalerKubernetes 自带的按指标自动扩缩容组件
工具与应用02
Datadog 宣布自己在 Forrester 的 AIOps 平台评测里被评为“领导者”。以前工程师要自己翻告警、查问题、找根因;现在 Datadog 的 Bits AI 会帮忙定位问题并给出修复建议,还能在设定的护栏内执行修复,工程师保留最终控制权。支撑它的 Scout 1.0 模型刚进入预览,Bits AI 已有超过 1 万名付费客户。对读者来说,这意味着运维排障可能从“人工逐条查”变成“AI 先查、人来把关”,但 Scout 1.0 尚未正式开放。
文中可用工具
- Bits AI自动发现生产问题、调查根因并建议或执行修复
- Scout 1.0专为调查生产问题打造的模型,目前处于预览阶段
Agent 与工作流03
AWS 的开发者倡导者 James Ward 提出,很多 MCP 服务器目前只是被动地返回数据,就像一个只负责查数据的接口。他建议服务器在返回数据时顺便告诉 Agent 刚做了什么、接下来可以做什么、去哪里找更多信息,相当于让服务器成为对话中的另一个参与者。他还指出 MCP 默认无法追踪调用链路,AWS 的做法是给工具加会话 ID 参数,让多次调用串成完整旅程,再加一个参数记录用户目标,方便团队复现问题、做评测并改进工具。对使用 MCP 的团队来说,这意味着要同时观察人和 Agent 协作的路径,检验工具改动是否真的帮用户完成任务。文中提到 AWS 已于 5 月向所有人开放其 MCP Server,并在 9 月加入 Lambda 诊断功能;这些做法本身并不新奇,重点在于能否持续观测和衡量。
文中可用工具
- MCP ServerAWS 提供的 MCP 服务器,现已向所有人开放,并加入了 Lambda 诊断功能
- Lambda diagnostics用于 Lambda 的诊断能力,帮助排查问题
- CLIAWS 提供的命令行工具,可在不同 AWS 用户配置之间切换
- skills原文未说明具体用途
工具与应用04
Datadog 推出了一个叫 Infrastructure Basic 的轻量监控档位。原来,对于不太重要的服务器(比如内部后台系统、开发测试机),团队要么用比实际需要更重的监控方案,要么另买一套工具,要么干脆不监控、留下盲区。现在这个档位只采集 CPU、内存、磁盘、网络、开机时长等基础系统指标,还能盯住指定进程是否在跑,并复用现有的告警通知工具。这样,次要服务器也能和重要系统放在同一个 Datadog 环境里统一查看,减少监控空档。目前该功能需要联系 Datadog 销售团队开通,新用户可先试用 14 天。
文中可用工具
- Datadog Infrastructure Basic轻量级主机监控档位,采集核心系统指标和指定进程状态,支持告警通知集成
- Datadog Agent部署在主机上的采集组件,在 basic 模式下只采集基础系统级数据
- Process Check监控指定的命名进程是否仍在运行
- ServiceNow接收监控告警并创建工单
- PagerDuty接收监控告警并触发事件通知
Agent 与工作流05
这篇文章讲的是:当负责处理退款的 AI Agent 中途崩溃时,如何让接替它的新 Agent 安全接手,而不会重复退款。原来问题在于,Agent 会自己推理、临时决定,崩溃后新 Agent 可能重新想一套方案,甚至再退一次款,导致用户被退两次钱。作者的做法是:在发起退款前,先把这笔操作的金额、授权、幂等键和状态写进数据库(相当于先立一张可查的“操作底账”),新 Agent 只能继承这张底账,不能自己改写;支付接口前还有一层校验,只放行记录里已授权的操作。这样即使崩溃,也能靠同一个幂等键和操作编号查清到底发生了什么,避免重复退款。对读者的用处是:如果你在生产环境跑 Agent 处理支付、订单等有副作用的操作,可以用“持久操作记录+幂等键+边界校验”的思路提升可靠性。文中提到的 LangGraph、Temporal 能恢复执行,但不能判断外部是否已成功;Langfuse 和 ClickStack 可用于追溯,但都只是辅助证据,最终以支付方记录为准。
文中可用工具
- ClickHouse Managed Postgres存放业务数据和权威操作记录
- ClickStack查询应用遥测和日志
- Langfuse查看 Agent 调用链和工具调用记录
- LangGraph持久化执行进度并在失败后恢复
- Temporal持久化执行进度并在失败后恢复
- Langfuse MCP server让 Agent 按操作 ID 查询此前的调用链
- ClickStack MCP server让 Agent 检索同一时间窗口内的服务事件
工具与应用06
Colin Douch 分享了他搭建并扩展自托管可观测性系统的实战经验。过去团队要监控系统,往往得依赖 SaaS 服务,容易被供应商锁定、成本也不好控;他改用 Prometheus、VictoriaMetrics 和 Jaeger 等开源工具,把指标、结构化日志和分布式追踪关联起来,说明这样做在工程上有哪些取舍。对运维和平台团队来说,这提供了一套不依赖外部厂商、可自行掌控的监控方案思路。需要说明的是,材料只提到这是一场演讲,具体可用性和详细做法原文没有展开。
文中可用工具
- Prometheus开源监控工具,用来采集和存储指标数据
- VictoriaMetrics开源时序数据库,用于大规模存储指标数据
- Jaeger开源的分布式追踪工具,用于跟踪请求链路
Agent 与自动化07
skyhook-io/radar · The missing open-source Kubernetes UI with a built-in MCP server for AI agents. See what's broken, why, and what changed. Issues, Topology, event timeline, Helm, GitOps, live service traffic, and cluster audits - all in one Go binary.
Radar 是一个以单一 Go 二进制形式提供的开源 Kubernetes UI,可在本地或集群内运行,通过直接连接 Kubernetes API 展示拓扑、资源、事件时间线、Helm、GitOps、实时服务流量与集群审计等信息,帮助定位故障现象及其原因与变更。项目内置 MCP 服务器,使 AI Agent 能够检查和操作集群;同时支持 Helm 部署以实现团队共享访问与 RBAC 权限控制。
工具与应用08
Dynatrace 推出了一个叫「漏洞风险暴露」的新仪表板,把漏洞到底影响哪些主机、进程和 Kubernetes 环境集中到一张图里看。原来只看漏洞数量,既不知道哪些进程受影响、漏洞扩散有多广,也看不出是不是所有该扫描的进程都扫了。这个仪表板把暴露情况、受影响对象和扫描覆盖率放在一起,还支持按团队、集群、命名空间筛选,让团队先修影响面最大的漏洞,并发现没被扫描到的盲区。该功能随文章发布,原文未说明具体开放时间或付费情况。
文中可用工具
- Dynatrace提供漏洞风险暴露仪表板,汇总漏洞暴露与扫描覆盖情况
- Runtime Vulnerability Analytics对受支持技术栈的进程进行运行时漏洞扫描,并报告覆盖状态
评测与安全09
HarperZ9/proof-surface · proof-surface checks an AI agent's trace against the permissions it was granted, and turns traces, evals and measurements into JSON packets with a verdict and report. Python, no dependencies.
proof-surface 是一个 Python 库和命令行工具,用于把 AI Agent 的轨迹(可读取 OpenTelemetry、LangSmith、Langfuse 导出或自有 JSON 格式)与授权清单中的允许动作、目标范围和有效期逐项比对,并把每个动作标记为 MATCH、DRIFT 或 UNVERIFIABLE,同时给出对应决策与可读报告。它还能把测量、评测、研究声明等记录转成带结论的 JSON 包,并针对各领域常见的过度声明做拒绝检查;此外提供证据包、工作记录、授权收据、委派链、预执行门控等基础校验器及多个外部工具导入适配器。
工具与应用10
Dynatrace 宣布成为“SpaceX 超级智能合作伙伴网络”的启动伙伴,并推出一个已通过验证的官方插件,上架 Cursor 插件市场。原来开发者用 Cursor 这类 AI 编程工具写代码虽然更快,但代码编辑器和线上生产环境是割裂的:线上出故障时,开发者得先切到别的监控门户拼凑线索,才能弄清发生了什么、为什么发生。这次的做法是把 Dynatrace 的生产环境数据(由 Grail、Smartscape 和确定性因果根因分析提供)通过插件接进 Cursor,让 AI 代理和开发者直接在写代码的地方查看线上服务状态、依赖关系和根因。对使用 Cursor 的团队来说,排查线上故障、判断某个漏洞在真实运行环境中是否有影响、分析性能瓶颈,都可以不用离开编辑器,平台团队也能通过 Cursor 的团队市场分发插件并保留管理权限。目前该插件已作为受支持的集成可用,具体配置(平台令牌、MCP 服务器、Dynatrace skills 和 dtctl)需参考配套技术博客。
文中可用工具
- CursorAI 原生编程工作区,开发者在此写代码并与 AI 代理协作
- Dynatrace提供端到端可观测性,把生产环境上下文交给 AI 代理
- Grail为可观测性分析提供数据
- Smartscape映射系统之间的依赖关系
- Dynatrace Intelligence提供确定性的因果根因分析
- Dynatrace plugin已通过验证的 Cursor 市场插件,把生产上下文带进 Cursor
- MCP server技术博客中提到的配置组件,原文未说明具体用途
- Dynatrace skills技术博客中提到的配置组件,原文未说明具体用途
- dtctl技术博客中提到的配置组件,原文未说明具体用途
工具与应用11
Datadog 推出 Agent Observability 的新功能,帮企业搞清楚 AI 智能体的钱花在了哪里。原来云厂商账单只按 API 密钥和模型统计,看不出是哪个应用、哪一步工作流在烧钱,所以成本一涨就很难查原因——可能是流量变大、换了更贵的模型,也可能是缓存没用上、对话历史每轮都重发。现在这个工具把估算的 AI 成本直接挂到具体应用和请求链路上,打开 Cost 页面就能按应用对比花费和效率(比如每次请求成本、缓存命中率),还能钻取到单次最贵的调用,看它的执行链路。它还会自动指出可省钱的点,比如未被缓存的提示词前缀,估算能省多少并给出修改建议。对读者来说,这意味着 AI 成本问题能更快定位到技术原因,而不是对着账单猜。目前材料只说明这是 Datadog 的产品能力介绍,未说明具体定价和正式上线时间。
文中可用工具
- Datadog Agent Observability把 AI 智能体的估算成本关联到具体应用和调用链路,帮助定位花钱多的环节
- Cost page按应用、供应商或自定义标签查看 AI 花费和效率指标
- Cost Savings Opportunities找出可避免的花费并估算潜在节省、给出修复建议
- Most Expensive LLM Calls table按估算总成本给 LLM 调用排名,方便查看最贵的请求
- Execution Graph展示智能体、LLM 调用、工具和评估之间的连接关系
- Datadog Application Performance Monitoring (APM)与 Agent Observability 关联,把 AI 操作放回更完整的应用调用链中排查
Agent 与工作流12
金融科技公司 Ramp 花了好几个月试用市面上的托管 Agent API、开源框架和第三方平台,最后决定自己造。他们用六周时间做出了第一版内部 Agent 运行框架 Laminar,现在支撑公司所有 Agent 产品。原因是不想被单一模型供应商绑死,希望按成本、速度和效果自由切换模型,也想要更好的调试和观察能力,内部自建还能直接和产品工程师协作、不用等外部厂商改代码。做法上,它把对话会话和运行代码的沙箱分开,凭据和调度放在沙箱外;Agent 默认异步工作,不必每步都等完成;还用一个连接器服务集中管理认证、权限和工具调用。LangChain CEO 公开点赞其中多项设计,认为这反映了 Agent 基础设施的走向,但原文并未说明 Laminar 是否对外发布或开源。
文中可用工具
- LaminarRamp 自建的内部 Agent 运行框架,统一负责执行、沙箱、可观测性和异步工作流
- Ramp InspectRamp 的云端编程 Agent,运行在 Laminar 上
- GlassRamp 负责长时间协作工作的 Agent,运行在 Laminar 上
- Deep AgentsLangChain 正在开发的 Agent 框架,采用类似沙箱即工具等设计
- Connectors ServiceRamp 的共享服务,集中管理认证、凭据、访问控制和工具执行
- Open SWELangChain 的开源编程 Agent,在框架层加入按任务复杂度选模型的路由
- GLM-5.3-FlashOpen SWE 路由中最简单任务使用的模型
- GPT-5.6 SolOpen SWE 路由中中等任务使用的模型
- GPT-6 AstraOpen SWE 路由中最复杂任务使用的模型,此前也用于所有任务的对照
工具与应用13
Datadog 的两位作者写了这篇技术文章,讲怎么用真实用户监控(RUM)和合成监控两种数据来定义 SLO 的指标(SLI)。原来很多团队只用后端性能指标,难以反映用户真实体验;而如果单用 RUM,机器人流量和浏览器配置差异会带来噪声,单用合成测试又不够细。文章建议:合成 SLI 适合长期稳定地监测关键用户流程,RUM SLI 适合精确统计真实用户的关键操作,并按目标变化、监控盲区、低流量误报等情况给出了选用建议。文中提到过去一年客户自建合成 SLO 数量增长了 273%。读者可据此判断何时切换数据源,但没有给出具体落地步骤和产品开放状态。
工具与应用14
很多团队现在直接用 AI 写代码,Anthropic 的工程师产出的代码量达到原来的八倍,有人每月提交数千个 PR。但麻烦在于:代码写得快了,测试仍然要靠人写,得决定测哪些流程、写脚本、流程一变还要改,瓶颈从写代码挪到了测试环节。Datadog 今年收购了 Propolis,把“由智能体写的测试”加进自家平台:智能体自己去探索应用、走用户流程,再根据自然语言的要求生成测试,并结合 Datadog 的日志和链路追踪来检查性能,避免硬编码测试容易失效的问题。对团队来说,这有望缩短开发周期;不过目前只是文章介绍的方案,具体能否用、怎么用还要看 11 月 4 日的线上活动。
文中可用工具
- Propolis被 Datadog 收购,用智能体探索应用并按自然语言生成测试
- Datadog提供可观测性平台,结合日志和链路追踪辅助测试与性能检查
数据处理15
ashwinsreedhar28/serverless-lakehouse · Medallion lakehouse (bronze → silver → gold) over my own Runpod Serverless LLM benchmark data: cold starts, FlashBoot, worker-vllm boot anatomy, cost per job. Local PySpark + Delta Lake, redacted landing zone, idempotent ingest, four external audits.
该项目以作者自有的 Runpod Serverless LLM 基准数据为来源,用本地 PySpark 与 Delta Lake 搭建 bronze→silver→gold 的 medallion 湖仓:先着陆并脱敏原始文件,再逐层构建可重建的 Delta 表,最终生成按 GPU 与镜像统计的冷启动分布、FlashBoot 命中率、单任务成本以及 emberserve 与 worker-vllm 的对比等 gold 聚合结果,并通过静态 HTML 页和 Streamlit 应用查看。另附 dbt/Snowflake 后端与审计脚本,材料未说明 GPU、API 成本等部署条件。
研究与技术16
Netflix 的工程师写文章介绍了他们怎么解决一个很头疼的问题:系统出故障时,找原因要找将近四个小时。原来监控工具收集了很多数据(指标、日志这些),但每个系统各说各话,同一个东西在不同工具里叫不同名字,得靠人脑记着怎么对应。他们的做法是建一个知识图谱,把应用、事件、部署这些概念和关系用统一格式写清楚,机器也能读。这样本来要翻三个工具才能回答的问题,现在一条查询就能搞定。文章还提到他们自研了一个叫 QuipuDB 的图数据库来存这些数据。不过文章只给了开头部分,具体效果数据、完整方案细节没有说明。
文中可用工具
- AtlasNetflix 的遥测平台,负责记录应用及其时间序列数据
- RadarNetflix 的告警系统,管理阈值和告警触发历史
- incident.io管理事件严重等级和响应人员
- PagerDuty管理值班轮换安排
- Spinnaker记录什么时间发布了什么内容
- QuipuDBNetflix 自研的 RDF 图数据库,用于存储知识图谱数据
- RDFW3C 标准的数据模型,用来表示知识图谱中的三元组
- OWLW3C 标准的本体语言,用来定义概念类型和关系规则
- SHACLW3C 标准的验证语言,用来检查数据是否符合定义好的规则
- SPARQLW3C 标准的查询语言,用来查询知识图谱中的数据
- redb基于 Rust 的嵌入式键值数据库,QuipuDB 的底层存储基础
工具与应用17
Dynatrace 在9月发布了一批更新。以前,看数据库语句只能知道它执行了什么,却不知道是谁触发的;排查问题还得在不同页面之间来回切换,容易丢失分析上下文。这次新增了“服务回溯”功能,能从数据库查询直接看到上游调用链、负载分布和报错情况;分布式追踪可以在侧边浮层看瀑布图,原来的图表和筛选保持不变。QuickStart 把自动配置和手动安装放在一起,还能从问题直接打开 AI 助手 Dynatrace Assist,并用 dtwiz 自动配置 OpenTelemetry 主机监控。支持的主机现在也能和 OneAgent 监控的主机一起出现在基础设施与运营的 Compute 菜单中。这些功能已发布,具体入口和版本要求原文未详细说明。
文中可用工具
- dtwiz自动配置 Dynatrace 的入门设置和 OpenTelemetry 主机监控所需扩展与路由
- Dynatrace Assist从监控发现的问题直接打开,提供 AI 辅助信息
- OpenTelemetry Collector采集主机监控数据并发送到 Dynatrace
- OneAgentDynatrace 原有的主机监控方式,与 OpenTelemetry 监控主机并列显示
- QuickStart把自动配置和手动安装向导集中在一起,引导新用户完成设置
- Release Radar launchpad在 Dynatrace Playground 上演示九月更新效果
- Schnitzel demo app通过 dtwiz setup 生成示例数据用于入门体验
- OpenPipeline为 OpenTelemetry 主机监控配置动态路由
- Distributed Tracing在侧边浮层打开追踪瀑布图,同时保留原图表和筛选
- Services app从数据库查询语句打开服务回溯,查看上游调用链
- Infrastructure & Operations展示 OpenTelemetry 与 OneAgent 监控的主机
Agent 与工作流18
Cognition 推出的自主软件工程师 Devin 现在可以把能力延伸到线上事故处理上(即 Devin Oncall),它不再只是写代码,而是能调查生产问题、修改代码并提交合并请求。但 AI 代理要排查事故,不能只看源码,还得知道线上哪里出问题、改了什么、修复是否有效;过去它要自己到多个数据源里翻日志和指标,费时又容易出错。这次 Dynatrace 作为 Devin Oncall 的发布合作伙伴,把生产环境的运行时信息(问题、根因、日志、指标、链路、部署事件和安全发现)通过 MCP 服务器和技能插件接给 Devin,让它在同一个工作流里就能定位并验证修复。对使用 Devin 的团队来说,这意味着从收到告警到排查、修复、验证有可能在一个会话里完成,但目前仍需配置 Dynatrace 平台令牌和相应权限,实际可用范围取决于集成配置。
文中可用工具
- DevinCognition 的自主软件工程师,可承接任务、调查问题、改代码、开合并请求
- Devin Oncall把 Devin 的能力延伸到生产事故响应,帮助团队从告警走向解决
- Dynatrace提供生产运行时智能,如问题根因、日志、指标、链路、部署事件和安全发现
- Devin Marketplace安装 Dynatrace 扩展等插件的市场
- MCP server提供对 Dynatrace 环境的带认证访问,把数据接给 Devin
- Dynatrace skills教 Devin 理解 Dynatrace 数据结构与查询方式,按任务加载
- dt-dql-essentials帮助 Devin 掌握 Dynatrace 查询语言 DQL 的语法和查询模式
- dt-alerting指导 Devin 处理异常检测和告警相关工作流
应用工具19
kajykk/bysj · 🧠 毕业设计:面向高校的心理健康风险评估系统 (DWS) — 多模态 ML 融合(问卷 + 文本 BERT + 生理信号)· FastAPI + Vue 3 全栈 · 金丝雀发布 / 漂移检测 · Prometheus 全链路可观测
该项目是一个面向高校场景的心理健康筛查与预警平台,融合结构化问卷、文本分析与生理信号进行多模态风险评估。后端采用 FastAPI,前端采用 Vue 3 + TypeScript,包含用户、咨询师、管理员三角色工作台,并覆盖异步任务调度、实时告警、模型治理(漂移检测、金丝雀发布、回滚)、可观测性(Prometheus、Grafana、Sentry、OpenTelemetry)以及 PII 加密、审计、限流等安全合规能力。项目定位为“AI + 全栈 + DevOps + 可观测性”的个人作品集级完整系统示例。
工具与应用20
企业运维中常见一种“幽灵变慢”:Kubernetes 和 Grafana 仪表盘全绿,Pod 正常运行、探针返回成功、CPU 也没打满,但用户却抱怨应用查询或 AI 模型响应时快时慢。原因是探针只回答“容器要不要重启、能不能接流量”,并不衡量一次完整用户请求是否按时完成。HPE OpsRamp 产品负责人 Mahesh Ramachandran 建议持续采集跨层遥测数据并保留历史记录,因为间歇性变慢过去后,没有历史证据几乎无法定位;再结合异常检测和相关性分析找出可疑因素,但相关不等于证因,改动后需对比同一用户侧指标验证。对读者的用处是:看板变绿不等于用户体验变好,应补上应用性能测量和历史数据。该系统需要团队自行配置探针与集成,文中未说明具体可用的 AI 排查功能或发布时间。
文中可用工具
- Kubernetes容器编排平台,用于运行应用并暴露探针与集群指标
- Grafana仪表盘工具,用于展示监控数据
- HPE OpsRamp持续采集跨层日志、事件和指标,帮助追溯间歇性性能问题
- OpenTelemetry兼容的链路追踪采集,用于已插桩应用
- VMware虚拟化集成,采集清单和性能数据
- Nutanix超融合基础设施集成,采集清单和性能数据
- HPE Morpheus VM Essentials Software虚拟化软件集成,采集清单和性能数据
- Redfish协议集成,从支持的物理服务器采集遥测数据