主要观点：AI 应用广泛且快速被采用，当前处于“魅力技术”阶段，虽未完全兑现承诺但仍受行业青睐。需用联合认知系统等理论来评估潜在 AI 解决方案，关注人类在系统中的位置及与 AI 的交互。
关键信息：

• 提出基础假设，当前无通用人工智能（AGI），要关注工具当前能做什么，牢记“情境差距”。
• 列出关于 AI 解决方案的 11 个问题：工具拿走后是否更好、是增强人还是计算机、是否变监控而非助理解、是否限制视角、是否为内置干扰、嵌入何种视角、是否成英雄、是否需完美、做整体工作还是部分、多个时的情况、如何应对有限情境、 outage 后谁学习修复。
• 强调应提出这些问题，意识到添加 AI 不会替代工人，会改变工作模式，要负责任地设计系统，可参考相关理论书籍和论文。
  重要细节：
• 研究发现使用 LLM 训练的人在 LLM 拿走后测试更易失败，自动化会让操作员在接管时表现更差。
• 自动化增强用户可扩展能力，增强计算机可拓宽设备范围，二者各有特点。
• 工具应帮助构建理解而非仅做监控，避免让操作员成为工具内的互动者。
• 自动化可能强化偏见，多个 AI 工具时需考虑协调等问题。
• 操作员要维护自身及自动化组件的上下文，理解并管理复杂的自动化系统。