评测与安全01
csnyder256/harness-tuner · Measure your agent harness, find where it wastes the model, and prove the fix worked. Harness-agnostic, agent-agnostic, zero dependencies. Reference implementation of HTP-1.
harness-tuner 是一个面向 AI Agent 的评测工具,用于测量 Agent Harness(系统提示词、工具集、记忆与上下文策略、钩子、重试、压缩等模型外围脚手架)的运行时表现,定位 Harness 浪费模型能力的位置并生成可应用的改进提案。它通过与 Harness 无关的适配器读取任意 Harness 的 trace,计算固定的 24 项运行指标,并借助 anytime-valid e-process 对“改动是否真的有效”给出统计保证。项目采用零依赖 Python 实现,是 HTP-1 协议的参考实现。
AI 编程02
swift-microservices/skills · Agent skills for building Swift services the swift-microservices way: designing, building, gateways, Temporal workflows, delivering, reviewing. A Claude Code plugin with evals.
面向以 swift-microservices 方式构建 Swift 系统的智能体技能集合,以 Claude Code 插件(同时支持 Codex)形式提供。技能覆盖模块化单体与微服务选型、HTTP 与 gRPC 传输、服务构建(Core、带行级安全的 Postgres、可执行文件、网关与测试)、Temporal 工作流编排、交付(镜像、Compose、密钥、证书、CI、流水线迁移)以及只读审查,每个技能包含参考文档并配有 evals 评测用例。
评测与安全03
DTiapan/AgentEval · Open-source agent assurance: turn a PRD and agent URL into frozen test suites with evidence-backed PASS/FAIL/UNVERIFIABLE verdicts. Web console, REST API, SQLite. Domain packs for regulated teams (fintech, insurance, health).
AgentEval 是一个开源的智能体验证平台,可将产品需求文档(PRD)与智能体 URL 转化为冻结的测试套件,并通过 HTTP 以黑盒方式运行测试,给出带有证据支撑的 PASS / FAIL / UNVERIFIABLE 判定。它提供 Web 控制台、REST API 与 SQLite 持久化,强调需求可追溯、稳定需求 ID、测试套件同步与领域包扩展机制,定位于金融科技、保险、医疗等受监管行业中需要合规证明而非单纯看板的团队。
评测与安全04
yzhao062/AI4Fire · Five wildfire tasks for language models and agents, each run bare and grounded and scored beside a non-LLM comparator. 77,644 stored responses; every paper table reproduces offline.
AI4Fire 是一个面向野火任务的 LLM 与智能体评测基准,包含每日人员调配、野火烟雾检测、火险预报、温度相关航拍问答、火灾数据工具调用五个任务,覆盖 12 家厂商的 35 个模型。每个任务同时以裸提示与带 grounding 两种方式运行,并与非 LLM 对照基线比较,仓库内保存 77,644 条已评分响应,可离线一条命令复现论文全部主表,无需 API 凭据。