主要观点：随着人工智能系统成为各领域核心组件，上下文很重要，需交付正确答案。Retrieval-Augmented Generation (RAG)和Context-Aware Generation (CAG)两种技术可解决使大型语言模型更智能、可靠、有用的挑战。
关键信息：

• RAG 通过在生成响应前从知识库中提取相关文档来弥补生成模型与实时信息的差距，能减少幻觉、易更新、提供特定领域答案、可解释。
• CAG 旨在让模型更关注上下文，通过嵌入相关上下文到生成过程，实现个性化体验、保持对话连续性、低延迟。
• RAG 和 CAG 有不同的上下文来源、模型架构、延迟等，在不同场景下各有优势，可结合使用。
• 工程上考虑两者在令牌使用、基础设施、成本、可维护性等方面的差异。
• 两者都在快速发展，RAG 有望实现多模态检索等，CAG 将支持更长上下文窗口等。
  重要细节：
• RAG 模块化结构灵活，可更换文档存储或检索器。
• CAG 有多种实现方式，如提示链、指令提示、嵌入记忆等。
• RAG 适用于从最新文章获取答案的支持机器人等，CAG 适用于需要长期记忆的场景。
• 混合系统结合 RAG 和 CAG 创造强大助手，已用于客户支持、AI 导师等。
• RAG 无需重新训练，CAG 可能受益于微调。
• 参考文献提供了相关研究和工具的链接。