AI 资源库 · 已整理 4 项

人工审批

查看与人工审批相关的 AI 资讯、工具、Skill、工作流和开源项目。

Claude 在开源软件中发现 29000 个潜在漏洞,仅 516 个已修复

Anthropic 推出了一个叫 OSS Scanner 的工具,让 Claude 帮忙扫描开源软件里的安全漏洞。六个月里,Claude 找出了超过 29000 个“疑似漏洞”,但负责人工确认的六家外部安全公司才审查了约 6000 个,最终只有 516 个真正被修补。问题在于:AI 找漏洞的速度远远超过了人类验证和修复的速度。不过,一些开源项目(如 curl、PostgreSQL、OpenSSL)的负责人表示,收到的报告质量很高,有的甚至附带了可直接使用的修复代码。目前这个工具只对符合条件的成熟开源项目开放,需要申请并验证维护者身份。

文中可用工具

  • ClaudeAnthropic 的 AI 模型,用于扫描开源代码并发现潜在安全漏洞
  • OSS ScannerAnthropic 推出的开源安全扫描工具,用 Claude 自动查找漏洞并生成报告
  • Claude MythosAnthropic 的顶级模型之一,用于驱动 OSS Scanner 的扫描
  • Claude Max 20xAnthropic 提供的免费订阅,通过 Claude for OSS 计划发给合格的开源维护者
  • Claude for OSSAnthropic 的项目,为合格开源维护者提供免费 Claude Max 20x 订阅
☆ 收藏查看来源 ↗

AgentTrust IQ:面向 AI Agent 的可靠性与评测平台

Electricpaper77/ai-rag-eval-platform · AgentTrust IQ: reliability layer for Microsoft Reasoning Agents with groundedness, citation, hallucination, safety, latency, and JSONL audit checks.

AgentTrust IQ 是一个模型无关的 AI Agent 可靠性与评测平台,在发布前对回答的接地性、引用支持、提示注入抵抗、PII 处理、不安全工具操作、延迟与可审计性进行检查。它将可靠性检查转化为明确的 release、block 或 escalate 决策,并生成可回放的 JSONL 证据。默认工作流为确定性本地运行,可选通过 GEMINI_API_KEY 接入 Gemini 作为辅助评估器,但基线工作流不依赖它。

☆ 收藏查看来源 ↗

agent-squad:面向本地企业建站业务的 AI 智能体团队

LeoAlvarenga404/agent-squad · A squad of narrowly scoped AI agents that finds leads, sells, builds and maintains websites for local businesses, with a human approving what costs money or reputation.

agent-squad 是一组职责范围明确的 AI 智能体,用于自动化本地企业网站业务的销售与交付流程:寻找线索、筛选资格、与业主沟通、生成免费预览、在人工审批下成交,并处理售后修改。智能体之间不直接对话,而是通过 Postgres 状态、按客户隔离的记忆与审计事件进行协作;成本与声誉相关的动作(如成交、超出报价、对外发布)均需人工批准。项目支持通过配置文件、提示词、目录与可替换适配器进行定制,本地已用模拟客户测试,尚未在真实客户上验证。

☆ 收藏查看来源 ↗

Lousho:TypeScript AI Agent 开发 SDK

LinuxDevil/agent-sdk · TypeScript SDK for durable AI agents: tool calling, approvals, sessions, MCP, and a CLI. Runs in your own Node process.

Lousho 是一个开源的 TypeScript SDK,用于在自有 Node 进程(或 Cloudflare Workers)中构建具有持久化能力的 AI Agent。它提供工具调用、MCP 客户端与服务端、可跨重启恢复的会话与检查点、人工审批、结构化输出、流式事件、子代理与交接、上下文压缩、OpenTelemetry 追踪以及录制回放和轨迹评测等能力,并配有 CLI 与可视化工作室。模型可通过 provider/model 字符串接入 OpenAI、Anthropic、OpenRouter、Ollama 或自定义/mock provider。

☆ 收藏查看来源 ↗