主要观点：AI（特别是最新的基于大语言模型的 AI）的能力及 AI 优先公司与前几代公司的不同，许多关于 AI 的讨论过于抽象，此文旨在总结 AI 代理如何工作，应用于实际案例并说明其对软件和系统设计质量的提升作用，同时强调软件和系统设计的重要性。
关键信息：

• AI 代理工作原理：使用大语言模型是包含提示的 API 调用，通过提示填充上下文窗口以生成响应，提示工程决定放入上下文窗口的内容，模型聊天体验会利用网络搜索引入相关上下文，代理可使用大语言模型建议相关工具并丰富上下文，通过五步法调用工具（定义工具集、API 调用包含工具选项、API 响应包含工具推荐或生成文本、程序决定是否使用工具、调用工具并将其输出添加到上下文窗口），代理可管理工具使用的流程控制，包括基于规则和统计的方式，且代理是软件程序可做其他软件能做的事。
• 客户支持代理案例：将客户支持转移到 AI 代理，允许票务流入，提供多种工具如检索用户信息、升级支持、退款等，包含支持指南，设置流程控制规则，进行质量控制和绩效评估，虽可替代部分人工步骤但仍需人工参与，需构建软件管道并学习运营。
• 处理传入 bug 报告案例：将所有事件和票务传入代理进行审查，暴露多种工具，使用冗余大语言模型提供，合并重复项，评估影响，提出原因，应用已知安全功能标志，交由人类处理，起草初始报告，运行事件审查，添加重新启用功能标志的保障，需将其视为软件产品，重视人类在其中的作用，定期审查以确保效率提升。
• AI 代理是否代表这一代 AI 的全部：接受 AI 代理是大语言模型和软件的组合这一定义，认为大语言模型这一术语较窄，前沿定义和日常用法有偏差。
  重要细节：文中详细介绍了大语言模型调用工具的五步法及各个案例中的具体操作和注意事项，如在客户支持案例中不同层级的人工参与以及在处理 bug 报告案例中各种工具的使用和流程控制等。