主要观点：软件架构长期基于面向对象和服务导向范式，随着系统增长，微服务带来好处但也增加复杂性。如今基础模型（尤其是大语言模型）的影响改变了软件设计方式，导致面向代理编程兴起，智能代理由语言模型等构成，其运行依赖认知循环。认知架构以语言模型为核心，通过模型上下文协议等实现与外部系统交互，大语言模型和小语言模型各有优劣，常采用混合设计。从多服务架构到多代理架构发展，多代理架构有垂直和水平协调两种形式，可通过多种方式交换信息。以互动购物助手为例说明了认知架构的能力，包括规划阶段和多轮交互等。认知架构具有自然接口、推理、适应等优势，但也存在有限上下文窗口、不可预测性和可观察性等挑战。

关键信息：

• 基础模型改变软件设计，催生面向代理编程。
• 认知架构核心是语言模型，通过模型上下文协议与外部交互。
• 大语言模型和小语言模型各有特点，常采用混合设计。
• 多代理架构有垂直和水平协调形式，可交换信息。
• 互动购物助手示例展示认知架构能力。
• 认知架构有优势但也存在挑战。

重要细节：

• 大语言模型如 GPT-4 等训练数据量大，推理能力强但计算成本高；小语言模型如 DistilBERT 等速度快、效率高但推理能力有限。
• 垂直架构中一个代理为领导者，水平架构中所有代理为对等。
• 互动购物助手示例中使用多种工具如产品搜索、图像识别等，通过规划和多轮交互满足用户需求。
• 认知架构的优势包括自然接口、推理、适应等；挑战包括有限上下文窗口、不可预测性和可观察性等。