一次演示回答得流畅,说明系统能够完成某些任务,却不能直接证明它适合进入日常业务。企业 AI 试点应先约定要改善的工作,再决定用什么证据验收。否则,项目结束时容易只剩“看起来不错”或“还不够聪明”这样的主观结论。
把目标写成可以观察的任务
不要只写“提高办公效率”。例如,知识检索试点可以定义为员工提出产品规则问题后,获得有依据且可核对的答案;工单助手可以定义为整理已有记录并生成待人工确认的摘要。任务应说明输入、输出、使用人以及必须保留的人工环节。
先观察现有工作方式,记录常见问题、完成步骤和主要耗时。后续比较应尽量使用相似任务与条件,避免把简单问题交给 AI,再拿复杂问题的人工处理时间作对照。
建立代表真实工作的验收样本
样本除了常见成功路径,还要包括信息缺失、资料冲突、长文本、权限不足和不应回答的问题。每条样本记录预期结果与判定依据,由了解业务的人确认。保留一部分未用于调试的样本,能够减少系统只对熟悉题目表现良好的情况。
对知识问答,不只判断语言是否通顺,还要检查答案是否解决问题、引用是否支持结论,以及是否遗漏条件。微软的 RAG 评估资料也把回答质量视为需要结合检索证据和具体任务检查的问题。最终标准仍应由业务场景决定。
成本与响应时间使用同一口径
成本可以按单次有效任务、每天处理量或一段试点周期统计,但要说明包含哪些费用。模型调用、服务器、存储、资料整理、人工复核和日常维护,可能由不同团队承担。只统计模型接口费用,会低估实际使用成本。
响应时间也应明确起止点,是首次出现文字,还是完整结果可用。除了平均表现,还应观察高负载时的较慢请求、超时比例和队列等待。将失败重试与人工接手记录在内,才能看清用户真正经历的过程。
让试用人员记录具体问题
- 这次任务是否完成,是否仍需回到原系统重复操作。
- 哪些部分可以直接使用,哪些部分需要修改或补查。
- 遇到错误时能否找到依据,能否方便地反馈。
- 系统不能完成时,是否有清晰的人工处理入口。
把反馈绑定到具体任务,比只收集满意度分数更容易推动改进。对重复出现的问题进行归类,区分资料问题、流程问题和技术问题,并明确下一轮负责修正的人。
用验收结果决定下一步范围
在试点前商定必须通过的条件与可以后续改善的事项。验收时按原口径检查,写清未通过项与使用限制。结果可能是扩大应用,也可能是继续补资料、缩小使用场景或暂停某种自动操作。能够据此作出具体决定,才是试点的价值。
延伸阅读:企业知识库先整理什么:从资料盘点到首批问答验收。