QCon 旧金山会议：生成式 AI 在反欺诈中的应用

在最近的 QCon 旧金山会议上，Neha Narkhede 发表了关于生成式 AI 如何提升反欺诈技术水平的主题演讲。她讨论了当前反欺诈方法的局限性，并提出了“知识织锦”的概念，以捕捉当前欺诈方法的所有信息和知识。此外，她还介绍了 AI 风险决策的六大支柱：360 度知识织锦、自然语言界面、自动推荐、人类可理解的推理、增强风险专家能力以及风险自动化。

反欺诈检测的演变

Narkhede 从历史技术角度解释了反欺诈检测的演变，将其分为三代，每一代都在前一代的基础上进行改进。

1. 第一代：基于规则的系统，遵循“如果这样，那么那样”的原则。尽管易于管理，但在复杂情况下很快达到极限。
2. 第二代：将规则系统与传统机器学习结合，能够处理高维数据，但耗时长且数据密集。
3. 第三代：利用生成式 AI 与传统机器学习的协同作用，能够识别复杂且不断变化的欺诈模式，显著减少误报。

她还指出，技术进步正在增加行业中的欺诈数量，尤其是自动化工具的使用和企业在客户摩擦与欺诈损失之间的平衡，帮助欺诈者改进方法。目前增长最快的欺诈趋势是合成身份欺诈。

现有方法的局限性

前几代反欺诈检测工具存在固有缺陷。机器学习方法面临数据不平衡问题，规则和机器学习方法都缺乏上下文信息，限制了欺诈检测的有效性。通常需要大量人工干预和持续调整规则以应对欺诈的适应性。尽管模型可以快速重新训练，但缺乏持续学习能力，难以跟上欺诈新趋势。

这些局限性导致的最大问题是模型的可扩展性有限。随着交易变得越来越复杂，模型难以扩展。Narkhede 提到，目前领域的状态是，有时需要数周才能适应新观察到的模式，这主要由于大量手动特征工程可能无法捕捉到所有相关信息。

生成式 AI 在反欺诈中的应用

Narkhede 提出生成式 AI 作为反欺诈领域的重大突破。生成式 AI 能够促进自适应学习和数据增强，处理多样化数据集并整合实时世界欺诈相关知识。此外，生成式 AI 通过复杂算法减少误报并提高精度。她提出了生成式 AI 可以助力的六大支柱，带来了四大改进。

1. 自适应学习：方法可以从最新交易中持续学习，从而适应新模式。尤其考虑到人类反馈，工程师可以随时间提高模型准确性。
2. 隐私合规：在没有人工监督的情况下，这些方法已经提供了隐私合规的优势。
3. 减少误报：生成式 AI 的精度可以显著减少误报。
4. 交互式工具：Narkhede 展示了与生成式 AI 代理的交互演示，工程师可以通过简单的聊天创建和编辑风险流程。

结论：AI 风险决策

Narkhede 总结道，AI 助手可以帮助人类做出反欺诈决策。传统方法需要手动审查交易数据、与已知欺诈模式进行比较并调查相关实体，这一过程耗时且容易出错。然而，借助 AI 助手，模型可以解释某些交易为何容易受到欺诈，并能够从少量示例中学习以识别新趋势。

总之，通过提高风险决策的效率和准确性，可以显著减少人工努力，建立可扩展的反欺诈和风险管理程序，将风险操作从数周缩短至数小时。