FDE 第 4 课:用评测集、消融实验和拒答率验收企业 AI 系统
作者讲解企业 AI 系统验收的三个方法:评测集、消融实验和拒答准确率,并以其 HR 制度问答项目为例。他写了 64 条评测(52 条问答加 8 条应拒答),消融实验从端到端正确率 0.67 逐步提升到 0.98,还借此发现中文分词 bug;拒答准确率从 v0 的 0.00 提升到 v1 的 0.88。文末附验收时应向供应商提的问题清单。
作者讲解企业 AI 系统验收的三个方法:评测集、消融实验和拒答准确率,并以其 HR 制度问答项目为例。他写了 64 条评测(52 条问答加 8 条应拒答),消融实验从端到端正确率 0.67 逐步提升到 0.98,还借此发现中文分词 bug;拒答准确率从 v0 的 0.00 提升到 v1 的 0.88。文末附验收时应向供应商提的问题清单。
作者测算把 RAG 检索的 top_k 从 5 提高到 20 会使每次回答成本变为 2.7 倍,GPT-5.6 按牌价($2/百万输入 token、$12/百万输出 token)在每天 1 万次提问下每月多花 $4,500。