跨栏目检索

搜索归档

搜索中文标题、仓库名或关键词,再用分类、来源和日期缩小范围。

全部内容

最近成功采集
当前筛选:2026-10-25 ×

在扩容 GPU 池之前,先衡量实际产出

这篇文章讲的是在 Kubernetes 上跑 AI 任务的团队,常看到 GPU 全被占满、批处理队列越排越长,第一反应就是加 GPU。但作者提醒,GPU 被分配、在忙、和真正产出有价值的结果是三件不同的事,队列变长也可能是时机、服务容量或模型和硬件选型的问题。解决思路是先想清楚每个任务的截止时间和产出标准,再用错峰排队把现有四块 GPU 在两小时内跑完原本需要八块的四个任务,同时用接近真实负载的压测摸清可持续吞吐,并把 OpenCost 的成本数据和实际产出对上,算出每个合格结果花多少钱。这样读者能在花钱扩容之前,先确认现有容量是否已用足、瓶颈到底在哪。Kueue、vLLM、DistServe、OpenCost 等工具文中都有提到,具体接入方式原文未详细说明。

文中可用工具

  • Kueue做准入控制,按配额和策略决定任务何时被放行
  • vLLM模型服务框架,其 KV-cache 占用率可反映缓存使用情况
  • DistServe说明评估服务容量时应以延迟等应用层目标为准
  • OpenCost按时间间隔统计工作负载成本,并可追踪每百万 token 的推理成本
展开详情收起详情:在扩容 GPU 池之前,先衡量实际产出
The New Stack
☆ 收藏0 条评论查看原文

为什么 Kubernetes 自动扩缩容器会互相打架(以及为什么解决方案必须是自主的)

Kubernetes 里管“该开几个副本”和“每个副本该给多少 CPU/内存”的其实是好几套独立工具:HPA 按 CPU 百分比增减副本,VPA 按历史用量调整资源申请,KEDA 按 Kafka 队列积压决定副本数,Karpenter 按声明资源申请新机器。问题是它们各自跑各自的循环,看到的都是局部信息,还同时改同一批配置字段。比如 VPA 把 CPU 申请调小,HPA 的分母就跟着变小,同样的流量会被算成利用率超高,于是猛加副本,结果副本越来越多、每个越来越小,互相把对方越推越远;KEDA 加副本、HPA 又按低 CPU 减回来;GitOps 看到副本数和 Git 不一致还会把它改回去。作者认为水平和垂直扩缩本来就是一道联立方程,应该由一个统一控制面同时看 CPU、队列、延迟、节点价格和 Git 配置,一起给出副本数和资源申请。文中也提到生产集群 CPU 平均利用率只有约 8%,但这些方案的落地细节和可用性文中没有说明。

文中可用工具

  • HPA根据 CPU 等运行时指标增减 Pod 副本数
  • VPA根据历史用量调整容器的 CPU/内存申请
  • KEDA根据 Kafka 等外部事件源的队列积压决定副本数
  • Karpenter为 Pending 的 Pod 按声明资源申请节点
  • Cluster Autoscaler在有 Pod 无法调度时扩缩节点池
  • Argo CD按 Git 仓库内容同步集群状态并检测漂移
  • FluxGitOps 工具,按版本控制强制集群基线状态
  • Helm用 values 声明副本数和资源规格
展开详情收起详情:为什么 Kubernetes 自动扩缩容器会互相打架(以及为什么解决方案必须是自主的)
The New Stack
☆ 收藏0 条评论查看原文

构建智能体软件工厂?从传感器开始

这篇文章讨论的是:当 AI 编程智能体让代码提交量暴增时,团队的交付系统会卡在哪里。作者提到 Anthropic 的代码合并量从 5 月每天约 2500 个涨到 9 月每天超过 3 万个,写代码不再是瓶颈,瓶颈变成了为人类速度设计的开发基础设施。文章用控制回路打比方:意图是目标值,智能体是控制器,验证就是传感器;控制器再快,如果传感器跟不上,它只会拿着过时信息反复重试,把本该被拦下的问题发布出去。作者提出传感器要具备三个特性:延迟(多久能出结果)、保真度(多接近真实系统)、带宽(能同时验证多少个改动),并用 StrongDM 的数字孪生宇宙举例说明保真度为什么最贵。对读者的用处是:如果你在规划智能体编程流水线,这篇文章提醒你先投资验证能力,而不是只堆智能体数量。文章是观点分析,未说明具体产品发布时间或可用状态。

文中可用工具

  • Anthropic原文引用其代码合并数据作为案例,并讨论其智能体编程实践
  • Digital Twin UniverseStrongDM 用来克隆第三方依赖行为、让智能体跑大量场景的验证环境
  • CI持续集成,原文讨论在大量改动并发合并时它意味着什么
展开详情收起详情:构建智能体软件工厂?从传感器开始
The New Stack
☆ 收藏0 条评论查看原文

AWS 称其 AI 安全智能体修复 89% 的漏洞——但有个前提

AWS 周四正式开放了名为 Continuum 的 AI 安全服务。它会自动在你的代码仓库里查找漏洞、复现问题,对照 AWS 环境验证,然后提交带修复方案的 PR。AWS 自己发布的测试显示,在 920 个 C/C++ 内存安全漏洞任务中,Continuum 有 89% 能找出并修好漏洞且不破坏原有测试,远超此前公开最高分 65.9%。不过这个分数是 AWS 自己跑的,还没第三方复现;而且只有 37.8% 的修复同时命中了测试指定的那个历史漏洞——因为智能体并不知道要找哪个洞。测试也只覆盖 C/C++ 一类问题。对开发团队来说,它可能帮忙快速发现并修掉真实漏洞,但具体修的是不是你要的那个,还需人工确认。

文中可用工具

  • ContinuumAWS 的 AI 安全智能体,自动查找并修复代码仓库中的漏洞,提交修复 PR
  • CyberGym-E2E用于评测 AI 修复漏洞能力的公开基准测试,含 139 个开源项目和 920 个任务
展开详情收起详情:AWS 称其 AI 安全智能体修复 89% 的漏洞——但有个前提
The New Stack
☆ 收藏0 条评论查看原文

Cloudflare 优化一致性哈希,回收 100 TB 内存

Cloudflare 优化了其内部负载均衡服务中一致性哈希的 Rust 实现(pingora-ketama),把这项服务占用的内存减少了 100 TB 以上。原来的问题是:每个后端服务器要在哈希环上保存很多哈希条目,条目越多占用内存越大。这次的做法是压缩哈希环上的条目,并通过统计分析哈希分布和冲突率,把每个后端所需的哈希数量减少了约 90%。对读者来说,这说明大规模系统里看似不起眼的数据结构优化,也能省下巨量内存资源。

文中可用工具

  • pingora-ketamaCloudflare 用 Rust 实现一致性哈希的组件,本次优化的对象
  • Rust编写 pingora-ketama 的编程语言
展开详情收起详情:Cloudflare 优化一致性哈希,回收 100 TB 内存
InfoQ Architecture & Design
☆ 收藏0 条评论查看原文

Google Data Agent Kit 正式发布,将 Agent 护栏拆分到技能与 IAM 两层

Google 把 Data Agent Kit 正式开放使用了。这是一套免费工具,包含 MCP 工具和 37 个开源技能,能让写代码的 AI 助手直接连接 Google 数据云的 15 种以上服务。它带了两道护栏,但作用不一样:一道是写在技能里的提示,让 AI 助手自己停下;另一道是 IAM 拒绝策略,在权限层面直接拦掉请求,AI 助手想绕也绕不过。对使用者来说,这意味着能连的服务变多,但需要分清两种护栏的强弱,不能把提示当成硬性限制。

文中可用工具

  • Data Agent Kit连接 AI 编程助手与 Google 数据云服务的免费工具集
  • MCP让 AI 助手调用外部工具和数据的标准协议
  • IAM deny policy在权限层直接拒绝请求的硬性护栏
展开详情收起详情:Google Data Agent Kit 正式发布,将 Agent 护栏拆分到技能与 IAM 两层
InfoQ Architecture & Design
☆ 收藏0 条评论查看原文

VHOTIEX AI:面向 Android 的全息界面多智能体 AI 助手

ojmaojma674-bot/sturdy-funicular · VHOTIEX AI is an Android-friendly AI assistant featuring a futuristic 3D holographic interface, black-red theme, AI chat, voice interaction, and specialized agents for coding, research, analysis, planning, and code review.

VHOTIEX AI 是一个面向 Android 平台的 AI 助手实现计划,采用黑红主题与未来感 3D 全息界面,规划了 AI 聊天、语音交互与 TTS,以及编程、研究、分析、规划和代码审查等专用智能体。README 以分阶段实施计划的形式描述 UI、聊天与智能体路由、会话记忆、语音、工具执行、安全恢复和质量保障等模块,属于规划文档而非可直接运行的产品。

展开详情收起详情:VHOTIEX AI:面向 Android 的全息界面多智能体 AI 助手

★ 1 · 开发框架

GitHub
☆ 收藏0 条评论查看项目

OpenCode for Termux:在 Android 上原生运行 OpenCode 编程智能体

manhduonghn/opencode-termux · Termux based Android app that runs the official OpenCode CLI natively inside Termux (glibc binary patched with patchelf) - no root, no proot, the agent gets the full Termux toolbox

该项目是 Termux 应用的定制分支,通过安装 glibc 运行时并用 patchelf 修补官方 OpenCode CLI 二进制的 ELF 解释器,使这一原本面向 glibc 的编程智能体能在 Android 的 Termux 用户空间中原生运行,无需 root、proot 或 chroot。应用每次启动自动完成运行时安装、CLI 下载与校验、二进制修补和原子化安装,并支持自愈、校验和验证、Web UI 主界面、终端 TUI 与浮动输入栏,让智能体可使用 Termux 的完整工具链。

展开详情收起详情:OpenCode for Termux:在 Android 上原生运行 OpenCode 编程智能体

★ 0 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

麦麦省钱助手:基于麦当劳 MCP 的点餐成本优化与优惠券止损工具

Ayzzz123/mcd-coupon-strategist · 麦麦省钱助手 —— 基于麦当劳 MCP 的点餐成本优化 Skill。算出当前门店最省钱的点餐方案,并主动提示凑单陷阱。

该项目是一个基于麦当劳中国 MCP 的点餐成本助手,通过拉取门店实时菜单与价格、账户可用优惠券和历史订单,枚举并真实计价候选点餐方案,输出最省钱的组合并提示凑单陷阱。同时提供券的沉默成本、消费习惯画像、券包体检、用券排程、可领取券发现、积分体检和活动节奏等长期止损分析。项目为 Python 实现,含零配置 demo 与测试,运行 demo 不需要 MCP Token。

展开详情收起详情:麦麦省钱助手:基于麦当劳 MCP 的点餐成本优化与优惠券止损工具

★ 1004 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

AI Recruitment ATS:基于 FastAPI 的 AI 辅助招聘申请人跟踪系统

mriaz764/ai-recruitment-ats

这是一个以学习为目的、逐步构建的申请人跟踪系统(ATS),后端使用 FastAPI、PostgreSQL 和 SQLAlchemy,采用模块化单体架构与 router→controller→service→repository 分层。已实现职位管理、用户注册登录与 JWT 认证、组织级权限隔离、候选人管理、私有简历上传下载、申请流程与状态更新、面试相关模块、简历文本提取与结构化解析,以及 Alembic 迁移、pytest 测试和 Ruff 代码检查。候选人到职位的匹配、嵌入、RAG 和 AI Agent 工作流仍属计划内容,作者明确该项目尚不可用于生产环境。

展开详情收起详情:AI Recruitment ATS:基于 FastAPI 的 AI 辅助招聘申请人跟踪系统

★ 0 · 开发框架

GitHub
☆ 收藏0 条评论查看项目

Frametell:用 AI 导演代理将想法与素材转化为解说视频

sitor-ai/frametell · Frametell: turn your ideas and material into vivid explainer videos with an AI director agent. Local-first, any model.

Frametell(帧言)是一个本地优先的 AI 视频创作工具:输入一句话、笔记、PDF、幻灯片或图片,由导演代理先生成分镜脚本供用户确认,再撰写旁白、合成语音、绘制页面并自检,最终输出带字幕的 1080p MP4 视频。它基于成熟的视频引擎,风格、组件和镜头运动由代理驱动,而非从零生成视频;支持 Anthropic、OpenAI、Google、DeepSeek、OpenRouter 等模型或兼容端点,素材与 API 密钥保留在本地。

展开详情收起详情:Frametell:用 AI 导演代理将想法与素材转化为解说视频

★ 398 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

Cademí skills:为编程智能体提供 Cademí CLI 与 API 使用技能

minhacademi/skills · Agent skills for the cademi CLI and the Cademí API v3. Works with Claude Code, Cursor, Codex, OpenCode and any Agent Skills client.

该项目是 Cademí 发布的 Agent Skills 集合,以可移植的 SKILL.md 指令集形式,教 Claude Code、Cursor、Codex、OpenCode 等编程智能体如何操作 cademi CLI 和 Cademí API v3,涵盖发现、认证、输入输出约定、退出码、安全写入、异步操作、事件、沙箱、配置即代码等内容,并提供按命令域划分的参考文档。技能可通过 skills CLI、Claude Code 插件市场或手动复制安装,也支持由已安装的 CLI 自身安装配套技能。

展开详情收起详情:Cademí skills:为编程智能体提供 Cademí CLI 与 API 使用技能

★ 0 · 资料合集

GitHub
☆ 收藏0 条评论查看项目

Content-Agent-Lernapp:基于官方来源自动生成职业教育学习课程的 AI 学习应用

siinanXD/Content-Agent-Lernapp · Lern-App für die Berufsausbildung: KI-Pipeline erzeugt Lerninhalte nur aus amtlichen Quellen, mit LLM-Richter und Qualitäts-Schwelle. Next.js, Supabase, Langfuse.

这是一个面向职业教育(试点为机电与设备操作员)的学习应用,可根据一个关键词从官方来源生成并持续更新课程内容。项目采用 Next.js、Supabase 与 Langfuse 构建,用 Claude 批量生成内容、以 OpenAI mini 模型作为 LLM 评审并设置质量阈值,提供学习路径、复习、考试与结果等学习者界面,以及面向培训师的群组和来源展示。仓库还包含基于 GitHub Actions 的内容生产、测试、质量回归与自动修复等流水线。

展开详情收起详情:Content-Agent-Lernapp:基于官方来源自动生成职业教育学习课程的 AI 学习应用

★ 0 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

Pi-Bolt:将 Pi 编程智能体预编译为原生可执行文件

opensec-git/Pi-Bolt · ⚡ Pi, the coding agent, compiled ahead of time to one native executable. 10× faster to start, 7× less CPU and 4.5× less memory than Pi on Node. Linux, macOS, Windows, ARM64 and Android (Termux).

Pi-Bolt 是 Pi 编程智能体的提前编译(AOT)原生版本,把 Pi 的代码在构建时编译为机器码,无需在启动时解析或进行 JIT 编译,因此不需要 Node.js 或 Bun 即可运行。它保留 Pi 原有的命令、会话、设置、提供方和扩展,支持通过 --acp 接入编辑器智能体面板、通过 --mcp 作为 MCP 服务器,并内置 grep/find 搜索、扩展编译、安装检查与回滚更新等功能;提供 Linux、macOS、Windows、ARM64 及 Android Termux 构建。材料声称相对 Node 上的 Pi 启动更快、CPU 占用和内存占用更低,但具体性能数据仅为项目自述。

展开详情收起详情:Pi-Bolt:将 Pi 编程智能体预编译为原生可执行文件

★ 544 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

拾字:视频与网页字幕抓取、语音转录与 AI 笔记工作台

Universe366/shizi · 拾字 · 视频与网页的 AI 笔记工作台:B站/YouTube 字幕、语音转录、AI 总结与本地库,支持 Windows 桌面端与 Chrome/Edge 插件。

拾字是一个面向 B 站视频与网页内容的 AI 笔记工作台,提供 Chrome/Edge 浏览器扩展和 Windows Electron 桌面端。它可抓取 B 站、YouTube 字幕,在没有官方字幕时进行语音转录,并支持 AI 校对、总结、翻译、章节生成、字幕问答与联网补充;桌面端还提供 SQLite 本地字幕库、批量处理、历史版本和多种格式导出。首次仅抓官方字幕无需 Key,AI 总结、转录与联网功能需自行配置对应平台 Key。

展开详情收起详情:拾字:视频与网页字幕抓取、语音转录与 AI 笔记工作台

★ 0 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

midgley:基于 LLM 多智能体的汽油价格预测框架

KoshiirRa/midgley · LLM Multi-Agent Framework forecasting wholesale (RBOB) and retail unleaded gasoline prices using Gemini 3.8, NOAA weather models, executive social media gap analysis, and global energy market feeds.

midgley 是一个用 Python 实现的多智能体时间序列预测框架,目标是预测美国批发 RBOB 汽油期货和多个都市区的零售无铅汽油价格。它把 Gemini、NOAA 天气模型、海运与内河咽喉点、行政社媒缺口、Cboe OVX、Baker Hughes 钻机数、USGS 水文与地震、炼厂检修等非结构化与物理数据,融合为特征向量,再结合 RB=F、CL=F、BZ=F 等商品期货,用 Ridge 回归与 XGBoost 建模,并通过情景模拟器、预测日志和每周复盘反馈回路迭代模型。项目还自动生成公开 Web 仪表盘,展示各地预测、准确率和数据源目录。

展开详情收起详情:midgley:基于 LLM 多智能体的汽油价格预测框架

★ 2 · 开发框架

GitHub
☆ 收藏0 条评论查看项目

GovTech Trend Radar:每日追踪政府软件低代码与 AI 趋势并推送 Slack 摘要的智能体

TateKhachatryan/govtech-trend-log2 · Daily AI agent that tracks low-code and AI trends in government software (eJustice, Social Protection, PFM, M&E) and posts a digest to Slack — built as an AI Product Management training project.

GovTech Trend Radar 是一个自调度的 AI 智能体训练项目,由 Claude Code 构建。它每天通过 cron 定时唤醒,读取自身历史日志避免重复报道,检索电子司法、社会保护、公共财政管理、监测与评估四个领域的政府软件厂商新闻、AI 功能发布、分析师评论及世界银行、联合国、亚行、欧盟等来源,过滤过时或已报道内容后生成简短摘要并通过 Slack webhook 推送,同时记录执行日志并自动提交回仓库。

展开详情收起详情:GovTech Trend Radar:每日追踪政府软件低代码与 AI 趋势并推送 Slack 摘要的智能体

★ 0 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

Hermes Memory for OpenCode:为 OpenCode 智能体提供分层持久记忆的插件

realchendahuang/opencode-hermes-memory · OpenCode 分层持久记忆插件(从 Hermes 移植,纯 Markdown 零向量库) / Layered persistent memory plugin for OpenCode

该项目是从 Hermes 移植到 OpenCode 的分层持久记忆插件,使用纯 Markdown 文件作为记忆来源,不依赖向量数据库或外部服务。它提供常驻指令注入、记忆检索与增删改、会话空闲时后台学习总结、纠错检测、bash 命令失败时相关历史教训预取,以及记忆替换后的历史归档等能力,使 OpenCode 智能体能跨会话保留用户偏好、项目约定和过往经验。

展开详情收起详情:Hermes Memory for OpenCode:为 OpenCode 智能体提供分层持久记忆的插件

★ 11 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

AgenticAI-for-PRD:将银行产品需求简报转化为可审计、可追溯的 PRD 与需求工程文档

ThanyathipK/AgenticAI-for-PRD

该项目是一个面向企业需求工程的本地优先应用,使用 React 19 前端、FastAPI 后端和 LangGraph 多智能体工作流(Router、Matcher、Gatherer、Auditor、Architect),通过 LM Studio 在本地运行推理,将银行产品简报或 DOCX/PDF/Markdown/TXT 文档转化为版本化、可审计的需求、用户故事、验收标准、PRD 和流程图,并提供合规审计、需求追溯矩阵、人工确认的变更暂存、PRD 分段编辑与版本快照、SSE 实时更新等能力。

展开详情收起详情:AgenticAI-for-PRD:将银行产品需求简报转化为可审计、可追溯的 PRD 与需求工程文档

★ 0 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

Dagger:面向 AI 的产品管理与文档增强生成工具

mbaquerizo/dagger · The DAG-powered product management tool built for AI.

Dagger 是一个由 DAG(文档增强生成)驱动的产品管理工具,用于在从想法到架构决策、再到工单的整个功能生命周期中保存并发布结构化文档,并把它们作为上下文提供给 AI 编码代理。它提供面向人的简洁 UI,以及面向代理的快速文本接口和 Dagger AI 安全 API;代理获取工单或文档的聚焦 Markdown 版本及完整背景。开发侧为 Go 1.26+ 的 monorepo,API 位于 api/,需要 Supabase 数据库和 BASE_URL 配置。

展开详情收起详情:Dagger:面向 AI 的产品管理与文档增强生成工具

★ 0 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目