评测与安全工具
AYORAI ATTRACTOR：面向 AI 答案的逐条声明证据核验引擎
Ayorinha/ayorai-opensearch · AYORAI ATTRACTOR — Evidence-first claim-level verification engine
ELI5：它是什么，解决什么问题
AYORAI ATTRACTOR 是一个面向 AI 生成答案的可审计核验层：将答案拆解为单条 claim，与证据来源（含出处、偏移与溯源信息）关联，推导 stance（支持／矛盾／中立），再由**模型之外的确定性 Judge** 依据固定、带版本号的规则给出最终核验结论。结论状态包括 VERIFIED、SUPPORTED、PARTIALLY_SUPPORTED、UNVERIFIED、REFUTED、CONFLICTING；评估输入输出可用 SHA-256 做内容寻址以保证防篡改，并提供可复现的评测套件。当前领域为巴西电信监管（AnatEL RGC，标记 D10），项目自定位为研究与工程参考实现，明确声明不构成认证、法律意见或合规结论，评测数据为合成开发集且不构成生产泛化证据。
核心能力与快速开始
★ 1 · Python
- 能做什么
- 将 AI 答案拆分为独立 claim；把每条 claim 与证据（来源、偏移、provenance）关联；通过显式规则或模型辅助分析得到 supports / contradicts / neutral 三态 stance；由模型之外的确定性 Judge 依据固定、版本化规则输出六种结论（VERIFIED、SUPPORTED、PARTIALLY_SUPPORTED、UNVERIFIED、REFUTED、CONFLICTING）；证据冲突时返回 CONFLICTING、证据不足时返回 UNVERIFIED 而非猜测；输出可保留 claim→来源片段→SHA-256 的证明链；对评估输入输出做内容寻址与冻结哈希校验；提供 golden-v0 与 golden-v0.1 冻结评测套件与可复现评测命令；区分 content_sha256（含逐结果时延）与 semantic_sha256（剔除时延、git_sha、时间戳等易变字段）两种报告摘要。
- 适用场景
- 对带引用的生成式 AI 答案做 claim 级事实核验，服务于内部审计、合规与可追溯场景；在证据相互矛盾时保留冲突状态而非静默择一；需要复现同一结构化输入与规则得到同一核验结论的评测流程；面向巴西电信监管（初步聚焦 Anatel 消费者权益总则 RGC）的声明核验；构造含指令式文本证据的注入韧性测试语料。README 中列出的保险、法律合规、公共部门、内部审计、金融服务等方向被明确标注为可能的未来应用而非已验证用例。
- 项目形态
- 研究实现
- 部署方式
- README 给出从源码运行的步骤：git clone 仓库、切到 main（或 `git switch --detach v0.4.0` 获取稳定版本）、创建并激活 Python 虚拟环境、以可编辑模式安装（`pip install -e ".[dev]"`，可选 `.[dev,nli]`）。未说明托管服务、容器镜像或云端部署方案。
- 主要依赖
- README 徽章显示支持 Python 3.11 / 3.12 / 3.13；CI 任务显式使用 ubuntu-24.04 运行器。可选 NLI 后端需通过 `pip install -e ".[dev,nli]"` 安装并会下载大型模型依赖。其余硬件、模型许可与 API 成本未说明。
- 使用限制
- 项目自我定位为研究与工程参考实现，声明未获认证、不构成法律意见、本身不建立监管合规。评测为开发集而非生产泛化基准：每个套件 34 个用例、其中 30 个含全局结论，语料为 52 份合成文档且全部标记 en-US。Golden v0.1 在其作者已看过逐案结果后重写，因此不是独立确证证据，须与 Golden v0 并列报告；Golden v0 上 Path A/B 的 95% 置信区间包含 43.33% 的多数类基线。历史 E1 表中 Path C 的 26.67% 来自旧提交 c4b73f4，非当前结果（当前 Path C 在 Golden v0 上为 23.33%）。Path A 仅用于研究／EVAL_ONLY；Path B 被描述为候选商业路径，仍需遵守模型许可政策并做独立验证，准确率数字本身不构成商业许可。哈希只建立字节／语义完整性，不证明事实正确。注入韧性有威胁模型与测试覆盖，但未声称免疫所有攻击。模型许可证字段标记为 NOASSERTION，README 正文标注 Apache-2.0。
- 许可证
- NOASSERTION
- 最近推送
- 2026-10-12 10:51
资料检查：2026-10-13 07:00 · 卡片整理：2026-10-13 07:00
卡片由 AI 根据仓库资料整理，未进行安装或运行验证
职业应用
程序员
作为可复用的核验引擎，程序员可将其集成到 AI 应用或 RAG 流程中，把 AI 生成答案拆解为单条 claim 并与证据来源关联，由模型之外的确定性 Judge 依据固定、带版本号的规则给出最终核验结论，从而为 AI 输出增加可审计、可复现的验证层。
查看内容依据
ATTRACTOR separates an AI answer into individual **claims**, connects each claim to **evidence**, derives **stance** from explicit rules or model-assisted analysis, and lets a **deterministic Judge** decide the final verification state.
由 AI 根据来源材料整理，未进行安装或运行验证
产品经理
产品经理在评估或设计 AI 功能时，可参考该项目的核验架构与六种结论状态（VERIFIED、SUPPORTED、PARTIALLY_SUPPORTED、UNVERIFIED、REFUTED、CONFLICTING），用于定义 AI 答案可信度与证据溯源相关的产品需求。
查看内容依据
When evidence conflicts, ATTRACTOR can return <code>CONFLICTING</code> instead of silently selecting a preferred source. When evidence is insufficient, it can return <code>UNVERIFIED</code> instead of guessing.
由 AI 根据来源材料整理，未进行安装或运行验证
讨论 0
登录后参与讨论，阅读资讯无需注册。
还没有评论，来分享第一个看法。