DevOps是为顺应现代软件系统敏捷开发所孕育而生的新模式,将软件开发部门和运维部门的隔阂打破,敏捷协作,将产品新功能快速稳定地交付给用户。越来越多的企业和团队已经使用DevOps实现了代码发布定期化、部署自动化和交付/集成持续化。
DevOps架构图
Sophon 3.0借鉴DevOps精益生产+敏捷开发的管理思想,重塑了全新的MLDev+MLOps架构,为机器学习模型的开发和部署管理插上敏捷的翅膀,帮助企业实现ML模型规模化增长、提升开发运维效率的同时,持续训练以保障模型的质量。
左手MLDev右手MLOps,Sophon Base 3.0解锁全新架构
Sophon Base升级到3.0版本,将核心组件进行拆分解耦,形成了MLDev+MLOps的左右架构:MLDev负责机器学习模型的构建,含Data数据管理及Vlab可视化建模、Discover编程式建模两种模型训练方式,以满足不同用户的建模需求;而全新打造的MLOps是基于云原生架构的企业级AI能力运营平台,支持用户将通过Sophon MLDev构建或其他途径得到的ML模型文件或模型镜像进行统一管理及运营,MLOps具备灵活多样的模型部署能力,完善的模型服务监控预警能力,用户可以借助MLOps对在线模型的持续监控和评估,通过机器学习任务管理构建模型持续训练迭代的pipeline,保障并持续提升模型效果。
Sophon Base 3.0全新架构
全新的产品架构将业务人员与数据科学家紧密联合,并为模型在业务生产后续的可持续发展提供了实时监控和调优迭代的运营平台,支持不同角色/租户间的项目协作、模型共享,切实保障了企业的AI模型资产得到有效存储、管理及后续运营,使模型价值得以持续释放。
DevOps加持,Sophon覆盖机器学习模型的全生命周期管理
Sophon 3.0有了DevOps的加持,能够支持机器学习模型从数据导入->数据探索->数据预处理->特征工程->模型训练->性能验证->模型部署->模型管理->模型服务->性能评估->模型调优迭代的全生命周期管理。Sophon从2.7LST版本到3.0的跃升,完善了AI模型除生产外的纳管、应用、监控和评估版图,让客户规模化管理日益增长的机器学习模型成为可能,并有效提升模型使用效率,降低模型集成管理成本,控制模型生产环境的风险。
Sophon Base 3.0对支持不同算法的硬件做了融合计算和针对性优化,大大提升了计算性能,实现企业建模灵活调度;同时提供了任务流调度服务和业务场景模板服务,能够对企业客户不同业务场景中多个实验触发逻辑和调度依赖进行管理和优化。
Sophon Base覆盖ML模型全生命周期管理
不会编程?Sophon 3.0带你可视化建模和管理
连接数据集
↓
VLab可视化建模
↓
模型部署及评估
Sophon Base 3.0,企业AI模型部署统管的加速器
在金融科技行业,随着监管政策的不断收紧,银保监会于2020年7月正式出台了《商业银行互联网贷款管理行办法》,要求商业银行落实模型从开发测试、评审、监测到退出的全生命周期的风险管理。一方面为满足监管合规要求,另一方面提升行内风险模型的管理效率,银行要求对模型全生命周期进行统一管理。此外,随着行内业务的持续发展,大量异构AI模型资产散落在各部门,一旦需要使用,调参和部门间协调均使得模型部署周期拉长。
Sophon Base 3.0使用MLOps搭建了全行统一的AI模型管理平台,快速接入行内积累的不同框架或平台训练生成的大量模型文件,按版本集成管理模型资产;并建立标准化流程,统一构建模型推理逻辑的方式,支持零代码一键部署模型应用。基于云原生基础架构,打通模型全生命周期流程,实现了银行对模型应用的统一运维和监控。
平台上线后,Sophon Base集成了全行多种算法框架生成的数百个机器学习模型。部署模型应用的平均时间由1.5天降至0.5小时,配置成本降低近80%,使模型的平均迭代周期由1月降至1周。模型效率方面,支持上百个模型预测服务同时在线,单条数据实现毫秒级响应。
银行AI模型管理平台成效
Sophon Base还提供了在线试用功能,数据清洗、分析挖掘、机器学习、深度学习、模型管理、API部署、工作流调度等功能一应俱全,助力企业AI时代业务创新与变革。记得点击阅读原文申请试用哦~
还想了解更多?扫描下方二维码
**粗体** _斜体_ [链接](http://example.com) `代码` - 列表 > 引用
。你还可以使用@
来通知其他用户。