LinkedIn使用AutoML框架提升内容审核效率

LinkedIn工程师Shubham Agarwal和Rishi Gupta介绍，LinkedIn通过其AutoML框架来检测和删除违反标准政策的内容。该框架通过并行训练分类器和实验多种模型架构，显著提升了内容审核的效率。

AutoML的核心优势

1. 缩短模型训练时间：AutoML将现有模型的重新训练时间从数月缩短至数天，并减少了开发新基线模型所需的时间。
2. 应对新兴威胁：通过持续重新训练模型，LinkedIn能够更主动地应对新兴和对抗性威胁。

内容审核的挑战

1. 持续调整：内容审核需要不断调整以应对规避策略和上下文变化。
2. 数据漂移：平台上的内容随着对话进展而自然变化。
3. 全球事件影响：全球事件常常引发讨论和错误信息。
4. 对抗性威胁：包括创建虚假资料、诈骗等欺诈行为。

LinkedIn的应对策略

LinkedIn采用“主动检测”方法，通过持续调整和进化其ML模型和系统来应对这些挑战。AutoML是LinkedIn内部开发的一个工具，用于通过不断重新训练模型、修正误报和漏报以及微调参数来提高机器学习性能。

AutoML的实施效果

1. 流程优化：AutoML将原本冗长复杂的流程简化为高效流程。
2. 时间缩减：开发新基线模型和重新训练现有模型的平均时间从两个月缩短至不到一周。

AutoML的工作流程

1. 数据准备和特征转换：自动化数据准备和特征转换过程，包括降噪、降维和特征工程，以创建高质量的训练数据集。
2. 模型实验：通过搜索超参数和优化方法，实验不同的分类器架构，并根据指定的评估指标比较模型性能。
3. 模型部署：自动化部署过程，将新训练的模型推送到生产服务器。

未来的改进方向

1. 提升速度和效率：进一步改进工具的速度和效率，扩大其应用规模，增加计算能力需求。
2. 生成式AI的应用：利用生成式AI提高数据集质量，减少标注噪声并生成合成数据用于模型训练。

总结

尽管并非所有组织都具备LinkedIn的规模和资源来创建自己的ML自动化工具，但Agarwal和Gupta描述的方法可以在较小范围内复制，以减轻机器学习工程师在重新训练模型时的重复任务负担。