Jev 在 Harness 中实现可审计的决策原语
这件事讲了什么
现在的 AI Agent 做决定时,通常是先写一段文字或 JSON,然后由外部软件去猜它到底选了什么。TypeSafe 推出的 Jev 改变了这一点:它直接把“决定”本身作为输出,比如从几个选项里选一个、打个分数,或者回答是/否,并且给出这个决定的可信度概率。这样做的意义是,Agent 在思考和行动之间那些原本藏在文字里的判断,比如下一步该做什么、证据够不够、某个操作风险大不大,现在都能被记录下来、评估和审计。Harness 已经在评测、模型路由和风险打分等生产环境中试用了这个方案。
可以使用的工具
文中可用工具
- JevTypeSafe 推出的决策模型,直接输出带概率的类型化决定(Choice、Score 或 Noul),而非生成文本。
- Harness在生产环境中测试 Jev 决策原语,应用于评测、模型路由和风险打分。
- RLCDJev 训练所用的目标函数,全称“面向校准决策的强化学习”,旨在让模型输出的概率具有实际意义。
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。