敏捷审议:AI 如何帮助人类界定模糊地带
这件事讲了什么
谷歌研究团队发布了一项叫“敏捷审议”的方法,帮人训练 AI 图像分类器去判断“健康食品”“励志艺术”这类没有唯一标准答案的类别。原来的问题是:训练 AI 需要人先给出清晰固定的标签,但面对主观概念时,人往往边看例子边改想法,传统流程逼着人硬标,容易疲劳、结果也不一致。新方法把训练变成一场对话:先让用户把大概念拆成小类并写明排除项,再由视觉语言模型主动挑出模棱两可的边界图片请用户判断,人的反馈自动进入提示词优化循环,分类标准随之调整。团队在 18 场、每场 1.5 小时的真人实验中观察到,用户疲劳和焦虑明显下降,做出的分类器比常规基线更稳定、更准。代码和算法已在 GitHub 开源,属于研究阶段成果。
可以使用的工具
文中可用工具
- Agile Deliberation把主观分类器的定义过程变成人机对话并自动优化提示词的框架
- GitHub开源该框架代码和算法的平台
讨论 0
登录后参与讨论,阅读资讯无需注册。
还没有评论,来分享第一个看法。