AI 资源库 · 已整理 3 项

可解释性

查看与可解释性相关的 AI 资讯、工具、Skill、工作流和开源项目。

HEIMEL:在意图转化为实际后果前进行授权治理的基础设施

Heimel-open/Heimel · HEIMEL Intent. Realized. HEIMEL is open infrastructure for the transition from intent to consequence.

HEIMEL 是一套面向后果承载执行的授权治理基础设施,位于现有身份、策略与执行系统之间,在意图落地为真实效果的那一刻判断其是否具备当前授权。它不替换 IAM 或策略引擎,而是把决策、精确效果、许可与回执绑定,并通过 Gateway 强制唯一受治理的效果路径,由 Veritas 保留可归因的证据。仓库包含本地参考运行时,支持本地授权、执行、回放与证据查验,并提供标准授权演示、可执行授权演示和回放演示。

☆ 收藏查看来源 ↗

Jev 在 Harness 中实现可审计的决策原语

现在的 AI Agent 做决定时,通常是先写一段文字或 JSON,然后由外部软件去猜它到底选了什么。TypeSafe 推出的 Jev 改变了这一点:它直接把“决定”本身作为输出,比如从几个选项里选一个、打个分数,或者回答是/否,并且给出这个决定的可信度概率。这样做的意义是,Agent 在思考和行动之间那些原本藏在文字里的判断,比如下一步该做什么、证据够不够、某个操作风险大不大,现在都能被记录下来、评估和审计。Harness 已经在评测、模型路由和风险打分等生产环境中试用了这个方案。

文中可用工具

  • JevTypeSafe 推出的决策模型,直接输出带概率的类型化决定(Choice、Score 或 Noul),而非生成文本。
  • Harness在生产环境中测试 Jev 决策原语,应用于评测、模型路由和风险打分。
  • RLCDJev 训练所用的目标函数,全称“面向校准决策的强化学习”,旨在让模型输出的概率具有实际意义。
☆ 收藏查看来源 ↗

超越相关性:面向企业个性化的治理优先架构

这篇文章讨论企业个性化推荐系统常见的问题:系统只管“猜你喜欢”,却不考虑隐私、合规和可解释性。作者 Jerald Selvaraj 提出一种“治理优先”的架构,把“相关性”(推荐准不准)和“治理”(是否合规、可审计)分开处理。具体做法是用有状态记忆保存上下文、用策略驱动 AI 编排、并做可解释的打分。这样推荐既能更贴合场景,又能被审计和满足合规要求。不过文章只给了摘要,具体实现细节和是否已落地未说明。

文中可用工具

提供的材料未提及具体可用工具。

☆ 收藏查看来源 ↗