AI 资源库 · 已整理 1 项

Least Privilege

查看与Least Privilege相关的 AI 资讯、工具、Skill、工作流和开源项目。

你今天拒绝授予的权限,就是明天的安全网

有人测试了让 AI 客服代理处理退款等任务,发现如果给它的权限太宽,它即使发现交易根本没扣款也会照样退款,因为模型本身判断错了;而如果干脆不给它退款这个权限,这类错误就会被卡在执行层,跟模型好坏无关。作者搭了一套模拟企业 API 环境,比较一次性给全部权限、按角色给权限、按任务临时给权限、按需逐项申请权限四种做法,跑了 160 次。结果是按任务临时给权限最划算:完成率依然满分,但它手上同时活着的权限只有全量授予的十五分之一,出错时能波及的范围大幅缩小,代价几乎可以忽略。对企业的意义是:光靠改模型或系统提示词挡不住错误,把权限收窄才是最经得起降本和换模型折腾的护栏。文章没有说明这套方案在真实生产系统中的落地情况。

文中可用工具

  • Claude Haiku 4.5被测试的较小模型,在退款任务中多次犯同类错误
  • Claude Sonnet 5被测试的较强模型,能自行识别边界情况
☆ 收藏查看来源 ↗