AI 资源库 · 已整理 6 项

agent-safety

查看与agent-safety相关的 AI 资讯、工具、Skill、工作流和开源项目。

Workday 走向无头化,向外部 AI 智能体开放 HR 与财务数据

Workday 把自己的 HR 和财务数据平台「无头化」——简单说,就是不再只靠自家网页界面来用,而是开放接口给外部程序。以前开发者想接这些数据,常把数据复制到数据湖或用系统账号,结果绕过了权限检查,智能体可能看到不该看的信息、做不该做的操作。现在通过官方的 MCP 服务器、SQL 直查和共享运行时,智能体能以用户本人的身份运行,只能看到、操作该用户有权处理的内容。对开发者来说,可以在 Claude Code、Cursor 等工具里构建自己的 HR 和财务智能体;对企业来说,智能体仍受 Workday 的权限和审计约束。

文中可用工具

  • Model Context Protocol一种让 AI 智能体连接外部数据与工具的开放协议
  • MCP serverWorkday 提供的入口,让智能体以用户身份访问 HR 和财务数据
  • Workday Extend AI包含 Agent-Ready Tools 的开发工具集
  • Agent-Ready ToolsWorkday 的 MCP 工具服务器,提供读写数据的工具
  • Live Data Query允许 BI 工具和智能体直接对 Workday 数据跑 SQL 查询
  • Workday Data Cloud包含 Live Data Query 的数据云服务
  • Agent Harness共享运行时,负责给智能体传身份权限并挑选模型
  • Developer Agent用自然语言在 Claude Code、Codex、Cursor 等工具里生成 Workday 智能体和应用
  • Custom Agents让团队把用 LangChain 或 Google ADK 构建的智能体部署到 Agent Harness
  • Agent Context Service计划 2027 年初早期访问,只预加载任务所需的 Workday 数据
  • Grounded Reasoning计划 2027 年初早期访问,在执行动作前拿企业政策、流程规则和 Workday 记录做核查
  • Claude Code外部开发者用来构建 HR 和财务智能体的工具之一
☆ 收藏查看来源 ↗

Anthropic 红队在 15 台廉价电视盒子上跑 AI,结果让人不安

Anthropic 的前沿红队用约 825 美元买了 15 台杂牌安卓电视盒子,把它们拼成一个小集群来跑 AI 模型,速度只有每秒 0.39 个词,慢得没法聊天,但适合那些不着急、没人等的后台任务。他们周一发布研究,认为小体积的开源模型可能再过几个月就能在廉价联网设备上自我复制,不再依赖数据中心。不过他们并没有做出能在公网上自行传播的 AI 蠕虫,实验是在受控环境里、并开了一些方便复制的后门。普通人可以留意:一旦这类能力成熟,海量廉价设备被悄悄用来跑 AI 并非不可能。

文中可用工具

  • Qwen3.5-9B用来在多种硬件上部署 Llama3.1-8B 推理服务的小模型
  • GLM-5.2更大、更可靠地完成同样部署任务的模型
  • Llama3.1-8B在目标设备上实际运行的推理模型
  • Opus 4.8给 Qwen3.5-9B 提供建议的更强模型,实验未见显著提升
  • Gemma4-26B-A4B在 15 台电视盒子集群上运行的模型
  • CyberGym评估模型攻击能力的基准
  • ExploitBench评估模型漏洞利用能力的基准
  • Epoch Capabilities Index用来追踪小参数量开源模型能力趋势的指数
  • OpenClaw原文未说明用途
  • Hermes Agent原文未说明用途
☆ 收藏查看来源 ↗

智能体、评估与 LLM 成本的生产实践:QCon AI 纽约 2026

QCon AI 纽约 2026 大会(12 月 15 日至 16 日)已确认一批工程师演讲,主题是 AI 进入生产环境后遇到的真实难题。原来,模型上线后代码产出快到来不及审查,token 花销不断上涨,评估结果必须足够可靠才能据此决策,智能体还需要权限和护栏来约束。这些演讲会分享工程师们如何应对这些限制。对读者来说,可以借此了解把 AI 放进生产系统时,同行都在关心哪些问题和做法。目前只公布了会议时间和已确认的演讲,具体议题内容原文没有说明。

文中可用工具

提供的材料未提及具体可用工具。

☆ 收藏查看来源 ↗

vishalhabib99:AI 产品经理的开源作品集——智能体评测与 MCP 信任工具

vishalhabib99/vishalhabib99 · Vishal Habib: AI Product Manager. Agent evals, guardrails and MCP trust tooling, built in the open.

这是 Vishal Habib 的个人 GitHub 仓库,汇集其在开放环境下构建的智能体评测、护栏与 MCP 信任相关工具与案例。内容包括 MCP 服务器诊断(mcp-doctor)、模糊测试(mcp-fuzz)、现实性校验(mcp-reality-check)、信任检查(mcp-trust-check),以及面向 AI 产品经理的技能集合(ai-pm-skills)、智能体产品手册(agentic-product-playbook)和产品案例研究(ai-pm-portfolio)。同时包含金融科技场景下的答案核验(retirement-answer-check)、电商列表声明核验(listing-claim-check)、智能体交接检查(agent-handoff-check)等项目,以及公开的评测报告、红队测试结果和写作链接。

☆ 收藏查看来源 ↗

Guardian SDK:为 Python LLM 与 Agent 应用提供实时威胁检测与拦截

OraclesTech/guardian-sdk · Ethicore Engine® is an AI safety, ethics, and compliance platform. This repo consists of the open-source components of Ethicore Engine™ - Guardian SDK; designed to protect your AI applications from prompt injection, jailbreaks, role hijacking, system-prompt extraction, and 100+ additional threat categories through a multi-layer analysis pipeline

Ethicore Engine 的开源组件 Guardian SDK 面向 Python LLM 与智能体应用,通过多层检测管线在输入、输出、工具调用与工具返回等环节拦截提示注入、越狱、角色劫持、系统提示提取等攻击,支持文本、图像、音频和视频多种模态。社区版以 pip 安装、本地运行,覆盖 7 类威胁;API 与自托管版本覆盖 160+ 类威胁并提供智能体管线防护,具体部署、成本与限制需参考官方说明。

☆ 收藏查看来源 ↗

SkillFoo V3.2 U1:在冻结评测与安全边界下受控演化 SKILL.md

azbigboss66-oss/skillfoo-v3 · Bounded, evidence-driven SKILL.md evolution under frozen evaluation and safety contracts.

SkillFoo 是一个本地实验性 CLI,用于在冻结评测合同、安全边界和可审计回滚机制下受控演化 AI Skill 的 SKILL.md。它把自然语言目标整理为可确认的 Task Card 与评测边界,冻结原始 B0 与生成的 S0,维护 Anchor/Elite/Diversity 进行多代变异与精修,并通过严格 JSON、确定性 verifier、五维最低线等非退化保护选出候选;若没有合格改进则保留起点。项目只优化 SKILL.md,不覆盖输入 Skill、不自动发布候选,Live 执行需配置 OpenAI-compatible Provider。

☆ 收藏查看来源 ↗