可以。需要分别确认应用、资料存储、检索索引和模型部署在哪里。内网应用调用外部模型 API,不等于数据不出网;完全离线的方案还需要本地推理资源与持续运维。
先确定允许的数据流向
列出文档导入、解析、向量化、检索、重排和生成回答的每个环节。即使应用运行在内网,若向量化或回答仍调用公网 API,文档片段和提示词也可能离开内网。
实施前应由业务与信息安全负责人确认允许出网的内容、脱敏规则、日志保留范围和第三方服务边界,再决定采用本地模型、受控外部 API 或混合架构。
准备资料样本与运行环境
先提供一批脱敏且有明确使用权限的代表性文档、常见问题及预期答案。检查扫描件识别、复杂表格、重复资料和版本冲突,不能仅用几个容易回答的问题判断系统是否可用。
完全离线还应确认模型和依赖包的导入方式、可用硬件、并发需求、权限系统以及更新机制。资源要求取决于所选模型和处理规模,需要结合实际样本验证。
验收与交付边界
验收至少包括资料导入、权限过滤、原文引用、无依据拒答、资料更新、日志查看和备份恢复。应同时检查准确回答与拒答是否合理,而不是只看页面能否打开。
RAG 不保证所有问题都能回答,也不自动解决原始资料错误。交付时需要明确配置、部署文档、更新流程和维护责任;最终资源与费用以项目范围和验证结果为准。