Numan复盘AI健康教练Nu:评测标准比提示词更稀缺
摘要
英国数字健康公司Numan复盘其AI健康教练Nu的评测体系建设,指出真正的稀缺资产是评测标准而非提示词。团队发现单轮静态数据集与脚本化多轮对话均难覆盖真实会话,转而采用按类别打分的主题数据集、由更廉价模型扮演患者的模拟对话层,并让安全回归自动阻断发布。
英国数字健康公司Numan近日对外复盘了其AI健康教练产品Nu的评测体系建设过程。这家公司给出的核心判断是:在构建此类应用时,真正稀缺的资产并非精心打磨的提示词,而是一套可靠的评测标准。
在早期实践中,Nu团队尝试过两种常见路径——单轮静态数据集和脚本化的多轮对话,但两者都难以还原真实用户会话的复杂程度,覆盖能力存在明显短板。
为此,Nu调整了评测架构:一方面构建按类别打分的主题数据集,另一方面引入模拟对话层,由成本更低的模型扮演患者角色,以更贴近真实交互的方式生成测试样本。
在发布流程上,Nu让安全回归测试承担起自动阻断的角色,一旦相关指标未达标,发布即被拦截。这一机制将评测从离线分析环节前移到发布决策链路之中。
对AI健康类产品而言,Nu的实践提供了一个可参考的样本:评测体系的建设深度,往往决定了产品能否在真实场景中稳定运行。
本文由新大陆基于公开信息编辑整理
信息来源:AIHOT AIHOT原文 ↗