主要观点：检索增强生成（RAG）对企业知识中的大型语言模型（LLM）至关重要，但超过一半的 RAG 在生产中因检索延迟或数据问题而失败，根本原因是将 RAG 视为附加组件而非集成组件，忽视了数据生命周期管理。
关键信息：

• RAG 本应增强 LLM 的准确性和相关性，但实际实施中存在诸多问题，如高检索延迟、数据陈旧、相关性差、成本上升和安全漏洞等。
• 现有 RAG 设计模式中，向量数据库存在诸多不足，如未与现有企业数据集成、无法处理数据质量等问题。
• 提出检索结构（Retrieval Fabric）框架架构，通过七种操作模式解决 RAG 问题，如事件驱动的重新索引、混合检索、缓存和流行查询管理等。
• RAG 实施需从根本上重新思考系统架构，将检索视为一流的数据平台工作负载，重视数据质量和数据平台基础设施建设。
  重要细节：
• 图 1 展示了创建 RAG 系统所需的索引和查询流程，以及研究中确定的失败点。
• 向量数据库的不足包括未自动触发重新索引、需并行搜索系统、数据治理困难、成本上升和难以应用传统数据平台监控方法等。
• 七种操作模式分别针对不同问题，如事件驱动重新索引可处理源系统变化，混合检索结合精确匹配和语义理解，缓存可减少成本提高延迟等。
• 检索结构框架通过这些模式将 RAG 嵌入企业数据架构，确保其可靠运行，并实现端到端数据沿袭跟踪和反馈循环以持续改进。