主要观点：2012 年 8 月 1 日，Knight Capital Group 因自动化系统 20 分钟内损失 4.6 亿美元，其价值大幅下跌并被收购和解散。十多年来，自动化对金融公司的影响未变，研究揭示自动化在软件系统中的假设和局限性及其对软件事件的影响，包括常见的误解如“功能替代神话”等，还发现自动化在软件事件中以多种方式导致问题，如 Facebook 数据中心事件等，提出联合认知系统（JCS）能更好支持人与自动化协作，目前虽少有这样的自动化系统，但 Honeycomb 有相关工作，同时呼吁更多人关注人类专业知识在软件中的作用。

关键信息：

• 2012 年 Knight Capital Group 的事件及后续影响。
• 关于自动化的多种误解及 Dekker 和 Woods 的研究观点。
• 自动化在软件事件中的多种贡献方式及具体案例。
• 联合认知系统的关键方面及相关研究。
• 对更多设计自动化工具的人提出的呼吁及相关社区。

重要细节：

• 自动化会改变人类工作，产生新任务等，简单替代假设会导致设计不良。
• 软件事件中自动化可导致事件、报警、解决或使问题更难解决等。
• 如 Facebook 事件中自动化系统自动传播命令导致全球数据中心断开等。
• 联合认知系统中各方需相互可预测、可指导、保持共同基础等。
• Honeycomb 在该领域的相关工作及对 AI 作用的看法。
• 发起的软件弹性基金会。