AI 编程01
gauravsharmaGG/mergejudge-runner · MergeJudge AI Code Review: open-source GitHub Action and runner for AI pull request review that learns your repo's rules. Bring your own AI key.
MergeJudge 是开源的 GitHub Action 与 runner,用于对拉取请求进行 AI 审查并按 auto、review、block 三个等级分流。它先使用确定性规则确定最低等级,默认只允许 AI 使等级更严格;它会读取仓库基分支上的 AGENTS.md、REVIEW_POLICY.md 和 .mergejudge.yml,因此拉取请求无法放宽自己的审查标准。用户需自备 Anthropic、OpenAI、z.ai 或任意 OpenAI 兼容端点的 API key,也可选择仅使用规则而不调用 AI。项目支持 deep 模式来补充变更代码的调用方与相关文件、根据 PR 上的反馈学习规则,并通过定时任务生成供人工审核合并的规则提案 PR。
AI 编程02
s977043/river-review · レビューを、組織の判断資産へ。Review Judgment as Code for AI-assisted development — codify your team's review standards as repo-owned skills and run them across the SDLC.
River Review 是一个开源框架,把团队的评审判断标准写成版本化、仓库自有的 skill,可在 plan / diff / tests / JUnit / 既有评审结果等 SDLC 产物之间执行。它面向 Claude Code / Codex / Cursor 等 AI 辅助开发环境,作为团队自有的审计层检查实现代码是否符合团队规则,并提供 Skill Registry、评审用 agent 与并行观点评审角色(bug-hunter、security-scanner、test-gap 等)。项目不替代人类评审,而是输出 findings 与 verdict,GO/NO-GO 与自动合并仍由人或调用方决定。
评测与安全03
withmartian/code-review-benchmark
该项目提供评估 AI 代码审查工具的开源基准,包含数据集、LLM 评委和完整流水线。离线基准使用来自 Sentry、Grafana、Cal.com、Discourse、Keycloak 五个开源项目的 50 个 PR 与人工核验的 173 条 golden comments;在线基准持续从 GitHub 采样近期真实 PR,通过 LLM 三步分析提取机器人建议与开发者实际修复并做匹配,输出精确率与召回率。支持按类别评分配置(Strict/Core/All)与 F-beta 权重,并附交互式仪表盘,可复现结果或评测自有工具。
AI 编程04
GitHub 和微软一起做了一个叫 ReviewBench 的测试,用来比一比各家 AI 代码审查工具谁更会挑毛病。测试方法是从 GitHub 上真实代码改动的记录里提炼出“应该被发现的”问题,再看各家工具能找出多少。结果 GitHub 自家的 Copilot 排第一,但因为测试是 GitHub 自己做的,而且不同工具测试时间差了好几个月,所以这个成绩要打个折扣。在另一家独立机构 Martian 做的测试里,Copilot 只排第四或第五,冠军分别是 Cubic 和 Qodo Deep。这说明同一款产品在不同测试里名次差别很大,结论不能只看一家。
文中可用工具
- GitHub Copilot code reviewGitHub 自家 AI 代码审查工具,在自家 ReviewBench 测试中排名第一,但在独立 Martian 测试中排名靠后
- ReviewBenchGitHub 与微软合作开发的开放基准测试,用于评估 AI 代码审查工具在 pull request 中发现问题能力
- Code Review BenchAI 研究公司 Martian 推出的独立代码审查基准测试,包含离线测试和基于真实开源仓库的在线追踪
- Qodo提供 AI 辅助代码审查的产品,在 Martian 离线排行榜中排名第一
- Greptile提供 AI 辅助代码审查的产品,在 Martian 在线排行榜中排名第二
- Cubic提供 AI 辅助代码审查的产品,在 Martian 在线排行榜中排名第一
- Devin提供 AI 辅助代码审查的产品
- Cursor提供 AI 辅助代码审查的产品
- CodeRabbitAI 代码审查工具,在 Martian 在线排行榜中排名第三
- Claude Sonnet 5用于 ReviewBench 中对审查发现进行分类
AI 编程05
GitHub 推出了 ReviewBench,一个用来评估 AI 代码审查工具的公开基准。此前,各家 AI 审查工具好坏难分:有的发现问题多但噪音大,有的漏报多,团队缺少统一标准来判断谁更适合自己。ReviewBench 参考了 GitHub 上超过 1 亿个真实 PR 的语言和规模分布,挑选了 19 种语言的 219 个公开 PR,用人工审查、前沿大模型和静态分析共同构建“标准答案”,并按严重程度和类别打分,衡量准确率和召回率。它还经过资深工程师独立校验,与线上实验方向基本一致,因此开发团队可以用它离线预判改动是否真的能改善用户体验。该基准目前已可直接使用,且开放提交结果。
文中可用工具
- ReviewBench一个公开基准,用于在统一标准下测试和比较 AI 代码审查工具
- Copilot code reviewGitHub 的 AI 代码审查功能,文中用 ReviewBench 对其进行离线评估