跨栏目检索

搜索归档

搜索中文标题、仓库名或关键词,再用分类、来源和日期缩小范围。

工具与应用

最近成功采集
当前筛选:2026-10-25 ×

在扩容 GPU 池之前,先衡量实际产出

这篇文章讲的是在 Kubernetes 上跑 AI 任务的团队,常看到 GPU 全被占满、批处理队列越排越长,第一反应就是加 GPU。但作者提醒,GPU 被分配、在忙、和真正产出有价值的结果是三件不同的事,队列变长也可能是时机、服务容量或模型和硬件选型的问题。解决思路是先想清楚每个任务的截止时间和产出标准,再用错峰排队把现有四块 GPU 在两小时内跑完原本需要八块的四个任务,同时用接近真实负载的压测摸清可持续吞吐,并把 OpenCost 的成本数据和实际产出对上,算出每个合格结果花多少钱。这样读者能在花钱扩容之前,先确认现有容量是否已用足、瓶颈到底在哪。Kueue、vLLM、DistServe、OpenCost 等工具文中都有提到,具体接入方式原文未详细说明。

文中可用工具

  • Kueue做准入控制,按配额和策略决定任务何时被放行
  • vLLM模型服务框架,其 KV-cache 占用率可反映缓存使用情况
  • DistServe说明评估服务容量时应以延迟等应用层目标为准
  • OpenCost按时间间隔统计工作负载成本,并可追踪每百万 token 的推理成本
展开详情收起详情:在扩容 GPU 池之前,先衡量实际产出
The New Stack
☆ 收藏0 条评论查看原文

AWS 称其 AI 安全智能体修复 89% 的漏洞——但有个前提

AWS 周四正式开放了名为 Continuum 的 AI 安全服务。它会自动在你的代码仓库里查找漏洞、复现问题,对照 AWS 环境验证,然后提交带修复方案的 PR。AWS 自己发布的测试显示,在 920 个 C/C++ 内存安全漏洞任务中,Continuum 有 89% 能找出并修好漏洞且不破坏原有测试,远超此前公开最高分 65.9%。不过这个分数是 AWS 自己跑的,还没第三方复现;而且只有 37.8% 的修复同时命中了测试指定的那个历史漏洞——因为智能体并不知道要找哪个洞。测试也只覆盖 C/C++ 一类问题。对开发团队来说,它可能帮忙快速发现并修掉真实漏洞,但具体修的是不是你要的那个,还需人工确认。

文中可用工具

  • ContinuumAWS 的 AI 安全智能体,自动查找并修复代码仓库中的漏洞,提交修复 PR
  • CyberGym-E2E用于评测 AI 修复漏洞能力的公开基准测试,含 139 个开源项目和 920 个任务
展开详情收起详情:AWS 称其 AI 安全智能体修复 89% 的漏洞——但有个前提
The New Stack
☆ 收藏0 条评论查看原文

AI Recruitment ATS:基于 FastAPI 的 AI 辅助招聘申请人跟踪系统

mriaz764/ai-recruitment-ats

这是一个以学习为目的、逐步构建的申请人跟踪系统(ATS),后端使用 FastAPI、PostgreSQL 和 SQLAlchemy,采用模块化单体架构与 router→controller→service→repository 分层。已实现职位管理、用户注册登录与 JWT 认证、组织级权限隔离、候选人管理、私有简历上传下载、申请流程与状态更新、面试相关模块、简历文本提取与结构化解析,以及 Alembic 迁移、pytest 测试和 Ruff 代码检查。候选人到职位的匹配、嵌入、RAG 和 AI Agent 工作流仍属计划内容,作者明确该项目尚不可用于生产环境。

展开详情收起详情:AI Recruitment ATS:基于 FastAPI 的 AI 辅助招聘申请人跟踪系统

★ 0 · 开发框架

GitHub
☆ 收藏0 条评论查看项目

Frametell:用 AI 导演代理将想法与素材转化为解说视频

sitor-ai/frametell · Frametell: turn your ideas and material into vivid explainer videos with an AI director agent. Local-first, any model.

Frametell(帧言)是一个本地优先的 AI 视频创作工具:输入一句话、笔记、PDF、幻灯片或图片,由导演代理先生成分镜脚本供用户确认,再撰写旁白、合成语音、绘制页面并自检,最终输出带字幕的 1080p MP4 视频。它基于成熟的视频引擎,风格、组件和镜头运动由代理驱动,而非从零生成视频;支持 Anthropic、OpenAI、Google、DeepSeek、OpenRouter 等模型或兼容端点,素材与 API 密钥保留在本地。

展开详情收起详情:Frametell:用 AI 导演代理将想法与素材转化为解说视频

★ 398 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

拾字:视频与网页字幕抓取、语音转录与 AI 笔记工作台

Universe366/shizi · 拾字 · 视频与网页的 AI 笔记工作台:B站/YouTube 字幕、语音转录、AI 总结与本地库,支持 Windows 桌面端与 Chrome/Edge 插件。

拾字是一个面向 B 站视频与网页内容的 AI 笔记工作台,提供 Chrome/Edge 浏览器扩展和 Windows Electron 桌面端。它可抓取 B 站、YouTube 字幕,在没有官方字幕时进行语音转录,并支持 AI 校对、总结、翻译、章节生成、字幕问答与联网补充;桌面端还提供 SQLite 本地字幕库、批量处理、历史版本和多种格式导出。首次仅抓官方字幕无需 Key,AI 总结、转录与联网功能需自行配置对应平台 Key。

展开详情收起详情:拾字:视频与网页字幕抓取、语音转录与 AI 笔记工作台

★ 0 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目

DeepScreen:AI 驱动的招聘与候选人评估平台前端

BazilSuhail/DeepScreen-Client · AI-powered recruitment and candidate assessment platform. Provides end-to-end hiring pipeline management with AI-driven resume parsing, coding assessments, video interviews, candidate shortlisting, and real-time communication for recruiters and candidates.d

DeepScreen 是一个基于 Next.js 构建的全栈招聘平台前端,连接 Django 主后端、Rocket 简历解析微服务和 LiveKit 视频服务,提供候选人、招聘方和机构管理三类门户。功能涵盖职位浏览与投递、AI 简历解析、带 Monaco 编辑器和自动评分的编程测评、带语音识别与自然语言评估的 AI 面试、基于 LiveKit 的实时视频面试、AI 评分候选人筛选、招聘方与候选人即时消息,以及基于角色的仪表盘和招聘分析。仓库为客户端代码,许可证限定教育与非商业用途。

展开详情收起详情:DeepScreen:AI 驱动的招聘与候选人评估平台前端

★ 2 · 可直接使用的工具

GitHub
☆ 收藏0 条评论查看项目