搜索归档

TornadoVM 7 让 Java 应用可直接利用 GPU 原生工作负载

开源项目 TornadoVM 发布了 7.0 版本，它是一个帮 Java 程序跑得更快的工具。以往 Java 代码想用 GPU 加速，往往要写复杂的底层代码；TornadoVM 会自动把 Java 程序分配到多核 CPU 和 GPU 上执行，并提供一套在 Java 里开发 GPU 程序的生态。它能配合 Temurin、Red Hat OpenJDK、Corretto、Oracle、GraalVM、Zulu 等主流 JDK 使用。对用 Java 做高性能计算的开发者来说，这有望在不换语言的情况下获得 GPU 加速；目前原文只提到版本已发布，具体性能提升和限制未说明。

用 RUM 和合成监控 SLI 构建更好的 SLO

Datadog 的两位作者写了这篇技术文章，讲怎么用真实用户监控（RUM）和合成监控两种数据来定义 SLO 的指标（SLI）。原来很多团队只用后端性能指标，难以反映用户真实体验；而如果单用 RUM，机器人流量和浏览器配置差异会带来噪声，单用合成测试又不够细。文章建议：合成 SLI 适合长期稳定地监测关键用户流程，RUM SLI 适合精确统计真实用户的关键操作，并按目标变化、监控盲区、低流量误报等情况给出了选用建议。文中提到过去一年客户自建合成 SLO 数量增长了 273%。读者可据此判断何时切换数据源，但没有给出具体落地步骤和产品开放状态。

超越容器镜像签名：Datadog 如何执行软件供应链策略

Datadog 内部建了一个叫 Turnstile 的系统。原来他们的镜像签名只能证明镜像签名后没被改过，但挡不住更早环节出问题，比如代码合入时被塞进恶意改动、依赖被投毒、构建环境被入侵，这些镜像照样能带着有效签名上线。Turnstile 在软件从代码到镜像的每一步都生成加密签名的“证明”，记录是谁、在什么环境、经过什么审核，部署前再按环境策略检查这些证明，比如生产环境要求更严。这样安全团队能提前拦截不合格镜像，也不用对开发流程造成太多打扰。目前它是 Datadog 内部系统，文章没有说明是否对外开源或商用。

Beam 从运行智能体的 Mac Mini 上单独拉取应用窗口

连续创业者 Hiten Shah 和 Sam Asante 做了一个叫 Beam 的新 Mac 应用。原来很多人把 Mac Mini 放在角落或机柜里跑 AI 智能体，想操作它只能开屏幕共享、进一个完整的远程桌面，很麻烦。Beam 的做法是把对面 Mac 上的单个窗口搬到你的 Mac 上，终端或浏览器窗口都行，它有自己的程序坞图标，能切换、能拖文件、声音也在本地播放，应用本身不离开原机器；两台 Mac 需为苹果芯片、macOS Sonoma 或更高版本，并都装 Beam，同一 Wi-Fi 或通过 Tailscale 互相发现。托管 Mac 和加入分享链接免费，使用自己的 Mac 每天免费 20 分钟，之后每月 12 美元或买断 199 美元；iOS 和 Android 原生应用官方称在开发中。

DeepSeek 开源其 API 背后的推理引擎，华为与英伟达并列获支持

DeepSeek 把自己在线上服务模型时使用的推理引擎开源了，取名 DeepInfer，采用 Apache 2.0 许可。此前它曾表示这套软件与自家集群管理工具等内部设施绑得太紧，公开部署需要大改，并不实际。现在开放的版本能让开发者在自己的机器上运行 DeepSeek-V4.1-Flash，包含投机解码、异步调度、结构化输出等优化，但缺少 KV 缓存管理、跨机分工和副本负载均衡等组件，只覆盖离线推理，完整生产服务仍需自行补齐外围设施。配套的 deepseek-recipe 库（Rust 和 Python 版）帮助复现官方 API 的输入输出处理。硬件上首批支持英伟达 SM100（Blackwell 数据中心 GPU）和华为昇腾 950 NPU，较旧的 Hopper 架构未列入。DeepSeek 未说明如何解决去年提到的维护与部署难题。

脚本化测试跟不上 AI 写代码的速度，Datadog 押注智能体来测试

很多团队现在直接用 AI 写代码，Anthropic 的工程师产出的代码量达到原来的八倍，有人每月提交数千个 PR。但麻烦在于：代码写得快了，测试仍然要靠人写，得决定测哪些流程、写脚本、流程一变还要改，瓶颈从写代码挪到了测试环节。Datadog 今年收购了 Propolis，把“由智能体写的测试”加进自家平台：智能体自己去探索应用、走用户流程，再根据自然语言的要求生成测试，并结合 Datadog 的日志和链路追踪来检查性能，避免硬编码测试容易失效的问题。对团队来说，这有望缩短开发周期；不过目前只是文章介绍的方案，具体能否用、怎么用还要看 11 月 4 日的线上活动。

ElevenLabs 想接管你的语音智能体，开发者要放弃什么

ElevenLabs 推出了 Eleven Realtime，提供 Mini 和 Max 两个托管语音智能体模型，把语音识别、推理、轮流对话和语音生成打包在一起，开发者不用自己搭这套流程。代价是底层模型和调度都由 ElevenLabs 管，开发者没法单独挑选、调整或替换这些部件，出问题时排查和优化也更难。不过提示词、音色、工具、知识库和打断设置仍可通过 ElevenAgents 配置；想要自己选底层模型则可以用 Custom 模式。外部测试显示，Max 在语音推理和工具调用上明显强于 Mini（如 Big Bench Audio 98.8% 对 75.9%），但 Mini 是默认选项、延迟略高一点（首段音频 620 毫秒对 570 毫秒），且不支持零保留模式和 HIPAA 配置。想从 OpenAI Realtime API 迁移的团队，用的是同一套 WebSocket 协议和 SDK，但 WebRTC 应用需要先换传输方式并自己处理音频采集与播放。两款模型都按 ElevenAgents 每分钟费率加 token 计费，生产环境表现和故障诊断信息是否够用，原文没有给出答案。

Respan 在 LiteLLM 上建了两年，一次升级让它推倒重来

Respan 过去两年在 LiteLLM 之上写了十多万行包装代码，结果 2026 年 1 月一次常规升级后出现间歇性连接失败，回滚也没查出原因，只好停止直接升级、逐个挑上游修复。它干脆用 Rust 重写了一个开源 AI 网关：核心很小，模型供应商、路由、MCP 工具、实时语音和安全控制都做成插件，插件按注册顺序依次处理请求，还能在 OpenAI 与 Gemini 等不同协议间转换。代价是自定义插件要编译进网关、需自己维护构建，且插件在网关进程内运行、顺序配错可能让缓存绕过安全检查。目前是 pre-alpha，可从 GitHub 下载预编译程序直接跑，付费平台不是必需。

Harness 推出 VegaLoad：开源负载测试工具

Harness 发布了一款叫 VegaLoad 的免费开源负载测试工具，采用 Apache 2.0 许可证，由其韧性测试团队开发。以前做负载测试往往要另外找工具、把脚本放在别的仓库，还得提工单排队等运行，很多服务没做压测就上线了。VegaLoad 把压测脚本变成一个放在代码旁边的小文件，AI 编程助手可以直接写测试、运行测试，返回通过或失败结果和一份 HTML 报告，测试在本机跑，还能设延迟和错误率上限拦截合并或发布。对开发者来说，压测能在几分钟内试起来，代码可读可改；不过若需要多机集群压测或跨团队历史记录，则要另用 Harness 的商业产品。

Harness 推出 AI 预算功能

Harness 在它的成本管理 Agent 里新增了“AI 预算”功能，把写在纸面上的 AI 花钱规则变成实时能看见的限额。以前很多公司虽然定了 AI 费用政策，却没法知道有没有被执行，往往要等到下个月账单出来才发现超支。现在可以按团队、开发者、模型或项目设预算，每周重置，用到 90% 时提醒，超过 100% 就暂停使用，直到下周重置或有人批准加钱，加预算也能在系统里自助申请。这样超支几天内就能被发现，也方便留出审计记录。目前是早期开放阶段，文中未说明具体收费和全面上线时间。

本周 Spring 动态 - 2026 年 10 月 20 日

这是 Spring 社区每周例行的动态汇总，作者 Josh Long 盘点了近期与 Java 和 Spring 相关的内容：Craig Walls 写了两篇文章，一篇讲用 Spring 和 JBang 免构建地搭建 MCP 服务，另一篇讲把回答拆成若干声明以便做事实核查；播客采访了 Andrew Lombardi，讨论 Java 能否比 Rust 更快（结论是能）；作者本人发布了 Spring Boot 4.1 中防止服务端请求伪造（SSRF，即攻击者诱导服务器去访问不该访问的地址）的视频，以及用 Mise 一键配好 JDK、环境变量和包的教程；SivaLabs 则分享了在 Spring Boot 中使用 .env 文件、以及用 skills 生成符合期望风格代码的视频；另有一篇讨论模块化单体与微服务如何取舍的文章。读者可以按兴趣挑选这些教程和讨论，全部为社区分享内容，没有发布新的软件版本。

加盟商借助 ChatGPT Work 将现金对账时间缩短 94%

一位同时经营 Schlotzsky's 和 Cinnabon 门店的独立加盟商，过去要靠人工处理菜单改价和现金对账，费时又容易出错。这次它用 ChatGPT Work 搭了一套工作流，把菜单改价时间省下 95%，现金对账时间减少 94%，并估算可能释放约 10 万美元现金流。这些数字来自当事人自述的案例，具体做法和适用范围原文没有交代；对连锁经营者来说，这条经验的启发是：把重复性的财务与定价操作交给 AI 流程，有望省下大量时间。

Pick Your AI Android：用于发现、配置、检查、估价、比较和分享 AI 技术栈的 Android 规划客户端

Pick-Your-AI/pick-your-ai-android · Android planning client for Pick Your AI; delivery tracked in Project 4.

该项目提供一个可测试的 Kotlin/JVM 核心，以及一个不可变的冻结 v1 合同和参考包，用于规划 AI 技术栈：发现、配置、检查、估价、比较和分享 AI 技术栈。仓库还包含可选的 Android 诊断预览，用未签名的调试 APK 验证合成的测试数据；目前没有签名可安装的产品、生产后端或发布版本，移动设备也并非自动作为推理目标。

AccessCast：为不同观众自动生成无障碍视频版本

Prashant-thakur77/AccessCast · One video, made for every viewer: audio description (with extended description), captions with sounds, easy-read, and Hindi, Italian, Spanish, French and Portuguese versions. Gemma 4 31B on AMD Token Factory writes, code checks every line, a person approves.

AccessCast 面向同一段视频生成八种观众版本：为盲人观众生成口述描述（在对话间隙播报，必要时在暂停画面中延长描述），为聋人观众生成带音效提示的字幕，为阅读较慢的观众生成易读字幕，并提供印地语、意大利语、西班牙语、法语和葡萄牙语的字幕与配音。项目由 Gemma 4 31B（AMD Token Factory）负责看画面、撰写、翻译与修正，代码按音频时间线和 53 条书面规则逐行校验，未通过的行退回模型修正，仍不通过则交由人工审核；服务端在仍有待审行时拒绝渲染。

Textus：带 AI 写作助手的 Markdown 编辑器

CatVinci-Studio/Textus · The next-generation Markdown editor, with an AI writing assistant. Free and open source for macOS, Windows and Linux.

Textus 是一款面向 macOS、Windows 和 Linux 的 Markdown 编辑器，以 MIT 许可证开源。它实时渲染 Markdown，支持数学公式、表格和 Mermaid 图表，提供禅模式、打字机模式、分栏视图和源码模式四种写作模式，并可导出 PDF、Word、HTML 等格式。其 AI 写作助手可在写作过程中提供续写建议、错别字与语法提示，并以带理由的修改提案形式呈现，支持句级采纳、行内批注，能学习用户风格并记住人物和地点设定。Textus AI 可接入 20 多种 LLM 及任意 OpenAI 兼容端点，也支持通过 Ollama 使用本地模型。文档以纯 Markdown 文件保存在用户指定位置，API 密钥仅存于本机，AI 请求由设备直连所选服务商；编辑器可完全离线使用，AI 功能则由所用服务商提供。