Numan 如何用 LangGraph 和 LangSmith 打造评测优先的 AI 健康教练

英国数字健康公司 Numan 做了一个叫 Nu 的 AI 健康教练，帮患者管理体重、激素和性健康等长期问题。难点在于：它只能做生活方式指导，不能越线变成诊断、开药或临床决策，这在医疗监管下是硬边界。团队原来用固定问答对和预设多轮脚本做评测，但教练是对话而不是答题，脚本也无法回应 AI 实际说了什么，导致误判。现在他们把每次评测都跑在生产同一个 LangGraph 图上，按类别分别打分，用模拟对话检验行为，并让安全探针直接卡住发布。对读者来说，这说明做受监管领域的 AI 产品时，评测标准本身比模型和流程更关键。