入口层
Web 工作台、管理后台、后续企业微信、钉钉和 OA 入口统一接入。
技术架构
这页专门讲平台怎么落地。入口、场景、资料、控制、模型和运维分开看,后续十个场景都从这套底座往上接。
六层结构
Web 工作台、管理后台、后续企业微信、钉钉和 OA 入口统一接入。
质量、生产、供应链、销售、人力、财务、行政按业务线拆开。
文档版本、授权、敏感级别、入库状态、原文和解析文本统一管理。
角色、部门、文档、片段、导出、高风险确认和拒答策略都在这里收口。
本地 LLM、Embedding、Rerank、OCR、解析服务和模型网关。
日志、备份、恢复、回滚、复测、监控和月度报告一并纳入。
组件选型
| 模块 | 候选 | 落地方式 | 注意点 |
|---|---|---|---|
| 本地大模型 | Qwen、DeepSeek Distill、GLM、InternLM | 优先用成熟模型 | 先跑通 7B / 14B,再看 32B 是否需要 |
| 推理框架 | vLLM、SGLang、Ollama、MindIE | 按硬件和部署要求选 | 国产算力要实测驱动、显存和吞吐 |
| Embedding | BGE-M3、bge 中文系列、Qwen Embedding | 用于语义召回和向量化 | 制度文本和表格文本要单独评估 |
| Rerank | BGE Reranker、Qwen Reranker | 提高片段排序质量 | 候选数和延迟要控制住 |
| 文档解析 | RAGFlow、MinerU、Docling、Apache Tika、OCR | PDF、Word、Excel、图片解析 | 扫描件不能当成普通文本处理 |
| 向量库 | Qdrant、Milvus、pgvector | 存储片段向量 | 权限过滤不能只靠向量库默认能力 |
| 全文检索 | PostgreSQL FTS、OpenSearch、Elasticsearch | 编号、标题、页码和条款检索 | 元数据要先设计好 |
| 对象存储 | 本地目录、MinIO、NAS | 存放原文、解析文本和导出物 | 版本和停用状态必须可追踪 |
对象模型
| 对象 | 关键字段 | 说明 |
|---|---|---|
| Document | 文件名、版本、来源、负责人、授权、状态、敏感级别 | 资料台账核心对象 |
| Chunk | 文档 ID、页码、章节、片段文本、权限标签、向量 ID | 检索和引用最小单元 |
| Role | 角色名、部门、知识域权限、导出权限 | 权限矩阵基础 |
| Question | 标准问题、类型、测试角色、严重等级、期望行为 | 验收题对象 |
| GroundTruth | 标准答案、必须引用来源、通过条件 | 验收依据 |
| AuditLog | 用户、问题、召回、过滤、上下文、引用、模型、回答 | 审计和复盘依据 |
| Feedback | 错误类型、原因、修复建议、复测结果 | 持续纠错闭环 |
实现链路
来源、版本、授权、脱敏确认后再入库。
PDF、Word、Excel 和图片分别处理,生成片段和元数据。
全文索引、向量索引和页码索引一起建。
检索前、上下文前和导出前都过滤无权内容。
召回、重排、上下文组装、本地模型生成和引用校验串起来。
问题、召回、过滤、引用、模型和回答都要能回放。