主要观点：AI 行业对 Transformer 的痴迷可能正在消退，在生产系统实施和行业流程利用 AI 方面出现更微妙变化，状态空间模型（SSMs）在速度、效率和可扩展解决方案方面赢得青睐，不同架构应根据产品需求选择。
关键信息：

• OpenAI 和 Google 凭借大型语言模型吸引公众注意力，而 SSMs 等新模型在某些方面更具优势。
• Transformers 虽灵活但存在输入长度增加时成本上升、内存使用突发、延迟难控等问题。
• SSMs 采用状态转移建模，具有线性缩放、可预测内存使用、快速推理、易部署等优点。
• 在处理货运文件等项目中，Transformer 管道存在推理慢、GPU 内存需求大等问题，切换为 SSM 结构可降低延迟、减少内存开销等。
• 应根据产品需求选择架构，如处理长文档、需即时反馈和中等系统要求的产品可考虑 SSMs，这意味着从“研究驱动决策”转向“产品驱动决策”。
  重要细节：
• 文中提到的模型如 ChatGPT、GitHub Copilot、Google Search 等仍依赖 Transformer。
• Mamba 是包含 SSM 架构的模型，其在 2023 年末发布。
• 给出了处理 PDF 文档的 Transformer 和 Mamba 基于的代码示例，展示实施差异。