AI 资源库 · 已整理 7 项

强化学习

查看与强化学习相关的 AI 资讯、工具、Skill、工作流和开源项目。

Nebius 将 rollout 收集时间缩短 66.9%——改变了什么

Nebius 的 AI 训练团队在 Terminal-Bench 类负载上做了一次实验:把一次 256 条轨迹的批次收集时间减少了 66.9%。原来在智能体强化学习训练中,模型要先完成任务、拿到结果才能学习,但任务长短不一,慢的几条会让整批训练卡住,昂贵的 GPU 常常在等便宜的沙箱和代码执行。做法是把推理引擎当成训练优化器的一部分:按整组完成而不是启动顺序来组批,让生成和训练部分重叠、缓存对话历史避免重复预填,并把基础设施故障和模型自身失败分开计分。这只是一个实验中的批次收集测量,不含训练器本身的前向反向计算,不等于完整训练提速。对读者来说,这提供了一个思路:智能体训练慢,瓶颈往往不在 GPU 算力,而在任务执行和调度这些配套环节。

文中可用工具

  • Nebius提供 AI 训练与推理服务的公司,本文实验由其实施
  • Terminal-Bench用于评测终端操作类智能体任务的基准,本文实验基于它构造负载
  • GRPO一种强化学习训练方法,把同一任务的多次尝试相互比较打分
☆ 收藏查看来源 ↗

OpenEnv:面向智能体强化学习的隔离执行环境框架

openenv/OpenEnv · An interface library for RL post training with environments.

OpenEnv 是一个用于创建、部署和使用隔离执行环境的端到端框架,面向智能体强化学习后训练。它提供 Gymnasium 风格的 reset/step/state API(支持同步与异步,通过 WebSocket 连接),每个环境以 Docker 镜像形式在本地、云沙箱或 Hugging Face Space 上运行,并提供 40+ 个现成环境(游戏、代码沙箱、浏览器、金融、模拟器等)。项目支持与 TRL、Unsloth、SkyRL、ART、Oumi、torchforge、Miles 等训练框架配合,内置奖励组合与 Inspect AI 评测能力,同时可通过 CLI 脚手架创建、校验和推送自定义环境。

☆ 收藏查看来源 ↗

VeRL-Omni:面向扩散模型与全模态模型的强化学习训练框架

verl-project/verl-omni · Multimodal RL training framework for diffusion & omni models

VeRL-Omni 是构建在 verl 之上的通用强化学习训练框架,专注于多模态生成模型的后训练。它覆盖扩散生成模型(图像、视频、音频,如 Qwen-Image、Wan2.2)、统一多模态理解与生成模型(如 BAGEL、HunyuanImage-3.0)以及全模态模型(如 Qwen3-Omni)。框架提供基于 vLLM-Omni 的快速多模态 rollout、多奖励与异步奖励服务、可选的 VeOmni 与 FSDP2 训练后端,以及 FlowGRPO、DiffusionNFT、Diffusion DPO、GSPO、GRPO 等算法集成,并支持 Ascend NPU。

☆ 收藏查看来源 ↗

“令人惊叹的开放程度”:小米以 MiMo-V2.6 超越常规开放权重玩法

小米发布了 MiMo-V2.6 系列模型,包括旗舰版 MiMo-V2.6-Pro,这是一个万亿参数的大模型,支持文本、图像、音频和视频,上下文窗口达 100 万 token。小米不仅公开了模型权重(MIT 许可),还把强化学习训练过程通过公开仪表盘直播了 5 天,并公布了训练成本:Flash 约 85 万美元,Pro 约 262 万美元。此外,小米承诺开源超过 7000 个任务环境和训练框架等资源,但目前 Hugging Face 上只有三个模型,其他资源尚未放出。这意味着研究人员和开发者未来可以基于这些开放资源做更多实验,推动开源 AI 进步,但部分承诺还在陆续兑现中。

文中可用工具

  • MiMo-V2.6-Pro小米的旗舰大模型,参数规模达万亿,支持文本、图像、音频和视频,上下文窗口 100 万 token
  • MiMo-V2.6-Flash小米较小规模的模型,同样参与了强化学习训练直播
  • Qwen小米基于 Qwen 架构发布了一个 90 亿参数的模型,作为进一步智能体强化学习研究的起点
  • Hugging Face模型托管平台,小米在此发布了模型权重和开源集合链接
  • Artificial Analysis独立分析平台,给 MiMo-V2.6-Pro 打出智能指数 46 分,在其追踪的 114 个开放权重模型中排名第一
☆ 收藏查看来源 ↗

EvoNet-Core:自主 AI 安全代理,自动进行 CVE 分析与补丁生成

phonghhd/EvoNet-AI-Core · Autonomous AI Security Agent leveraging LLMs, RAG, and Knowledge Graphs for automated CVE analysis and auto-patching.

EvoNet-Core 是一个自主 AI 安全代理项目,持续采集 CVE 数据、分析漏洞并生成防御性代码。它集成了四层 AI 路由故障转移(NVIDIA NIM、Groq、Cloudflare AI、本地 Ollama)、知识图谱与向量检索结合的 Graph RAG(Pinecone + Neo4j)、基于 PPO 的强化学习防御策略、MITRE ATT&CK 映射、EPSS 评分以及人工审批环节,并提供 FastAPI 后端、Web 仪表盘、CLI 工具和 Telegram 机器人接口。项目基于 Python 开发,采用 Apache-2.0 许可。

☆ 收藏查看来源 ↗

ARIS-in-AI-Offer:面向 AI 秋招面试的中英双语 ML/LLM 面试速查表合集

narsinghlaga124/ARIS-in-AI-Offer · Streamline your AI research and campus recruiting tasks with the ARIS agent framework to secure job offers.

该项目是 ARIS(Auto Research in Sleep)agent 框架的产出集合,收录了一系列中英双语的机器学习、LLM、多模态、扩散模型、Agent 与生成模型面试速查表。每份速查表以长文教程形式呈现,包含公式推导、从零实现的 PyTorch 代码,以及按 L1/L2/L3 分层的高频面试题;内容由 ARIS 的 /interview-cheatsheet 与 /render-html 工作流生成,并提供单文件 HTML(MathJax 公式、highlight.js 代码高亮、响应式布局、粘性目录、可离线阅读)。此外仓库还包含将个人简历转换为学术主页的 ARIS-Homepage 流程。

☆ 收藏查看来源 ↗

Distill-R1:结合强化学习与在线师生蒸馏改进视觉语言模型训练

EM7m4/Distill-R1 · Combine reinforcement learning with online teacher-student distillation to improve vision-language model training using a dedicated teacher model.

Distill-R1 探索将强化学习与在线 teacher-student 蒸馏相结合,借助专门的教师模型来改进视觉语言模型的训练。仓库 README 仅给出项目名称,未提供更多实现细节。

☆ 收藏查看来源 ↗