JevBench:面向 Jev 类类型化决策模型的基准评测
fstandhartinger/jevbench · JevBench v1 - a benchmark for Jev-class typed decision models: smart, cheap, fast, reliable, open.
JevBench 是 Benchmark Heaven 自研的基准测试,用于评测 Jev 类决策模型:给模型一段状态和一个有界评分规则,要求它返回结构化选项答案并尽量给出每个选项的概率,不需要散文式输出或解析。评分由 Intelligence(机会校正后的准确率)、Calibration、Speed、Cost 四个等权轴合成 JevBench Score,并按版本迭代维护公开排行榜。仓库提供冻结的评分方法文档、聚合结果 JSON、部分公开数据集与各系统适配器代码,并区分公开题与私有留存题。
评论 · 分享第一个看法