主要观点：RAG 正成为部署大型语言模型的标准企业模式，通过用新的特定领域信息丰富提示来获得更准确答案等优势，但在企业规模构建 RAG 有技巧，主要有向量数据库和湖仓+向量扩展两种方法。
关键信息：

• 生成嵌入：用 OpenAI 模型生成 1536 维向量表示句子。
• 存储在向量数据库（如 Pinecone）：速度快、灵活、成熟，但是新的孤立存储，治理有差距且成本高。
• 存储在湖仓（如 Databricks）：存储统一、治理强、易连接，但性能稍慢、不成熟、需调优。
• 混合架构：多数企业结合两者，向量数据库用于低延迟语义搜索，湖仓用于存储等。
• 常见陷阱：避免坏分块、无元数据等，要考虑安全、成本等。
  重要细节：
• 向量数据库在近似最近邻搜索上优化，能处理数十亿嵌入，而湖仓向量查询稍慢但有强治理等优势。
• 混合架构中低延迟层用向量数据库，治理层用湖仓，通过批量或流作业同步嵌入。
• 实际案例中银行用混合架构构建合规聊天机器人，向量数据库用于分析师问答，湖仓用于存储审计等。
• 结论强调 RAG 是关于大规模数据工程决策，选择取决于优先级，湖仓向量能力成熟后可能会融合。