主要观点：在组织中应用人工智能驱动的应用程序时，需思考确定性与概率性系统对安全的影响，概率性系统虽有优势但也可能误导，需结合确定性来保障安全。
关键信息：

• 确定性系统行为可预测，如加密哈希函数等能提供确定性保证，便于安全团队实施严格控制；概率性系统引入不确定性，如大型语言模型等，虽能进行模式识别等但不能提供二进制保证。
• 预测性 AI 基于历史数据预测结果，相对有界且行为更具确定性；生成性 AI 可生成新内容，虽强大但有独特风险，如生成不安全代码等。
• 代理式 AI 能自主行动，其概率性推理可能绕过确定性控制导致安全漏洞。
  重要细节：
• 审计基于事实而非概率，在快速发展的人工智能时代，需思考系统工作方式及对安全的影响。
• 开发人员需在生成性工具周围设置确定性护栏，如自动秘密扫描等，将概率性生成与确定性执行相结合。
• 即使是结构良好的检索增强生成系统也有局限性，不能仅依赖概率来保障安全，工具需将概率性智能作为补充。
• 预测性 AI 与确定性执行结合可提高检测准确性，但对秘密的匹配需用正则表达式和启发式方法消除不确定性。
• 在人工智能嵌入开发工作流的环境中，确定性护栏更重要，防止生成性工具带来的风险。