Instacart 推出下一代机器学习平台 Griffin 2.0

Instacart 基于其原有 Griffin 机器学习平台的使用经验，推出了下一代机器学习平台 Griffin 2.0，旨在提升用户体验并管理所有机器学习工作负载。该平台利用了最新的 MLOps 技术，并为当前和未来的应用引入了新的功能。

Griffin 1.0 的背景与挑战

Instacart 于 2022 年推出了原始 Griffin 平台，以支持其在产品开发中利用机器学习的旅程。该平台通过提供容器化环境、工作流管理、特征市场和实时推理等关键能力，使机器学习应用数量在一年内增加了三倍。然而，第一代平台在使用上存在一些问题，包括工具复杂、用户体验碎片化、缺乏标准化和元数据管理、以及扩展性不足，导致机器学习工程师（MLEs）使用不便。

Griffin 2.0 的改进与创新

为应对第一代平台的不足，Instacart 推出了 Griffin 2.0，专注于提供一个统一、可扩展且用户体验良好的平台，并支持新功能，如分布式训练和大语言模型（LLMs）的微调。

平台架构

Griffin 2.0 采用了面向服务的架构，取代了基于 CLI 和 Git 的工具，通过 REST API 提供无缝的 Web UI 体验，并支持与其他工具的集成，如 Instacart 的内部 ML 笔记本开发环境 BentoLM。

主要子系统

1. 模型训练平台（MLTP）：利用 Ray 提供水平可扩展的计算环境，支持分布式机器学习模型训练。MLTP 统一了 Kubernetes 上的各种训练后端平台，并为 Tensorflow 和 LightGBM 提供基于配置的运行时。
2. 模型服务平台（MLSP）：提供简化和自动化的模型工件存储、模型部署和推理服务配置。MLSP 允许微调服务资源和扩展性配置，从而快速、低维护地大规模提供机器学习模型。
3. 特征存储：支持特征计算、摄取、可发现性和共享性。通过新的基于 UI 的工作流，用户可以配置新的特征源并微调特征计算。特征数据验证帮助早期发现错误，存储优化提供低延迟的特征访问。

用户体验与验证

所有平台功能都通过统一的 Web UI 应用程序提供给机器学习工程师，使他们能够端到端创建 ML 服务。同时，该过程在不同阶段内置验证，帮助早期纠正错误。

未来展望

Instacart 的工程经理 Rajpal Paryani 总结了公司在构建和运营机器学习平台方面的历程，并指出 Griffin 2.0 的设计原则确保了其机器学习基础设施能够为未来的高级应用（如 LLM 训练、微调和服务）做好准备。