模型错误

主要观点:软件中包含对世界行为的模型,如数据库模式、后端控制软件中的模型等,所有模型都有错误性,错误模型会带来严重后果,如 2008 年金融危机、美国国家安全顾问误存电话号码事件等,软件都基于不完美模型,虽知晓“所有模型都有错误”但未内化,像“黑天鹅”等概念其实就是模型错误,此类意外会持续发生,问题在于后续是否能认识到并改进。
关键信息:

  • 数据库模式可数字化编码世界信息,关系模型虽灵活但世界复杂致模型简化,《Data and Reality》对此有探讨。
  • 后端软件常实现控制系统,需包含所控系统模型,前端需向用户暴露软件内部状态模型。
  • 华尔街用量化模型致危机,美国国家安全顾问误存号码事件体现用户模型错误。
  • 软件事故涉及多种模型错误,虽知“所有模型都有错误”但未内化,“黑天鹅”等概念即模型错误,此类意外会持续。
    重要细节:
  • 提到 Patrick McKenzie 的《Falsehoods Programmers Believe About Names》等相关内容。
  • 介绍了 cybernetics 和 kubernetes 名称来源。
  • 引用 Richard Cook 相关论文及讲座内容等。
阅读 9
0 条评论