主要观点：大规模社交网络在用户流量指数增长时面临维护安全可靠环境的挑战，手动流程易崩溃，临时机器学习模型难泛化，需开发综合机器学习基础设施来应对。
关键信息：

• 单一过滤器或独立模型难长期适用大规模场景，社交平台需构建基于数据标注、模型训练和快速推理管道的平台级架构。
• 手动审核在用户量大时不可持续，解决数据质量差距是自动化的首要难题。
• 选择平台方法而非单点解决方案，数据标注是机器学习平台成功与否的关键，要解决“百分之一问题”，引入陷阱任务等。
• 训练时需注意资源调度，避免浪费，推理要降低延迟以满足业务需求。
• 这样的系统可自动审核大部分内容，扩展到其他产品，最终可作为 SaaS 推出，证明投资基础设施的价值。
• 类似问题在其他领域也存在，关键是速度、自动化和可扩展性。
  重要细节：
• 社交平台每月用户达数千万，每天媒体上传数亿，人工审核难持续，有害内容易漏过，需自动化。
• 数据标注中“百分之一问题”导致标注不准确，成熟平台引入陷阱任务提高标注质量。
• 训练时调度器要具备故障转移和检查点功能，确保训练可恢复，并行运行数百个模型。
• 推理时在混合硬件上异步运行，最大化硬件利用率，降低检测有害内容的延迟。
• 成功的机器学习系统来自可靠、可扩展和快速的基础设施，而非模型新颖性，内部 ML 平台可演变为 SaaS 产品供其他业务使用。