AI 资源库 · 已整理 1 项

无标注评测

查看与无标注评测相关的 AI 资讯、工具、Skill、工作流和开源项目。

NTQR_allotment:无标注条件下噪声二分类器评测的专家小组组建与 NTQR 代数逻辑研究测试床

docxology/ntqr_allotment · Research testbed pairing allotment (maximin stratified sortition, Flanigan et al. Nature 2021) with ntqr algebraic logic for ground-truth-free evaluation of noisy binary classifiers — a 96-seed grid over 3/6/9/12-judge panels and 300-item corpora, validated against live gemma3:4b reviewers via Ollama.

该项目是一个两层研究测试床:上游用 allotment 的 maximin 分层抽签引擎以四种策略(代表性抽签、意识形态选择、专长阈值、随机)组建专家小组;下游用 ntqr 的误差独立三分类器评估器,在无答案键的无标注决策数据上推断流行率与各分类器准确率,并用已知合成真值的监督 oracle 打分。项目实现 96 个种子、面板规模 3/6/9/12、300 条目语料的确定性网格扫描,包含误差相关性扫描、告警功效、统计功效分析、符号化 NTQR 公理推导,以及通过 Ollama 本地 gemma3:4b 充当合成同行评议人的实证对照层。主要结论限定在再生成的合成产物与单模型 Gemma 对照范围内。

☆ 收藏查看来源 ↗