先确认原文是否包含答案,再按“解析、切分、检索、重排、生成”的顺序定位。直接更换大模型可能掩盖问题;固定问题集、原文依据和检索日志更有助于找到原因。

从原始资料开始核对

为每个失败问题保存提问、预期依据、返回片段和最终回答。如果原文没有答案、版本互相冲突,或关键内容在图片中尚未被识别,首先修正资料与解析流程。

检查标题、表格、编号、页码和跨页内容是否保留。需要区分“资料本身不可靠”与“系统未正确读取”,不能把所有错误都归为模型能力不足。

判断相关内容是否被召回

如果正确片段没有进入候选集,检查切分粒度、元数据、关键词与向量检索、权限过滤和重排策略。行业缩写、产品型号和精确数字往往需要特别验证。

每次只改变少量策略,比较同一批问题。记录相关片段是否出现、排序是否合理、引用能否定位原文,再决定是否调整检索组合。

最后检查回答与拒答

已召回正确资料却回答错误时,再检查上下文截断、提示词、资料冲突处理和模型生成。无依据、超出权限或问题含糊时,应允许拒答或请求补充信息。

验收问题集要同时覆盖常见业务、长尾问题、无答案问题和越权问题。指标及人工评判规则需要事先约定,不能用未经核验的统一准确率替代实际测试。

返回全部实施问答