Sophon AutoCV Q&A大放送:如何加速视觉模型生产和落地(下篇)

图片
本期是Sophon AutoCV的第二期Q&A大放送,继上篇对数据标注、模型训练、上架及结果评估等模型生产流程进行解答后,本期将聚焦模型与实际生产业务相结合的业务场景搭建、模型发布、告警等后续流程。客户Q1:在模型训练完后,如何应用到实际的业务中去呢?星小环:相较于大多数厂商将模型训练完之后,直接发布API或封装SDK部署的方式不同的是:我们发现,在很多业务逻辑没办法通过这个方式实现,以及模型的前后处理工作。举个例子来说,当实际业务需要一个人流密度预警的功能,基础模型训练的是行人检测,但是行人检测需要配合业务逻辑,即超过多少人产生告警、什么时候告警,这个需要定制化写代码实现。客户Q2:直接发布模型API或者SDK后,还是需要定制化开发来满足业务需求。那你们怎么解决呢?星小环:我们平台把模型的业务化适配过程叫做搭建场景,一个场景实现一个或多个业务功能,下面进行演示:
图片
您可以通过搭建DAG图的方式来串联你的业务逻辑,比如多个模型分支怎么处理,有类似上面的业务定制逻辑的时候,也可以使用函数算子来自定义函数逻辑。当搭建好静态的场景,需要给这个场景注入数据,就需要把监控设备对接到平台,当前我们平台支持主流的视频设备协议一键加入平台,来创建具体的应用产生消息通知。我们平台初始化预置了一些标准的场景可以直接使用。
图片
客户Q3:实例产生的告警数据怎么对外展示呢?星小环:有两种方式可以展示,一是在构建场景的时候可以自定义一个仪表盘来查看,二是可以选择将告警数据对接到业务系统当中,以比如MQTT推送等方式,都是支持的。此外,当前我们也正在开发一个面向安全生产领域的业务应用系统,我们会把预置的场景打包成AI能力,您在这个系统就可以直接使用,不需要关注底层的场景怎么搭建,模型怎么训练了。底层这个系统也是和Sophon AutoCV打通的,预计9月份会和大家见面。
图片
几个案例
图片
客户Q4:Sophon AutoCV平台当前的落地案例有哪些呢?星小环:我们目前客户主要集中在金融、制造业、研究机构以及传统安防等领域,比如给某寿险公司做的死猪估重,通过我们平台在2周内就完成了一个模型的生产和落地上线。另外,某个制造业的客户基于我们平台完成钢材表面缺陷的质检模型训练和应用,通过标注缺陷的数据来训练缺陷检测的模型。其他的比如我们还会和高校、硬件伙伴进行合作,比如最近和惠普合作形成了一个AI教育联合解决方案,提供了一个面向高校的科研教学的工具平台。客户Q5:目前市面上有比较多类似这样的模型生产应用的平台产品,你们的差异点在哪呢?星小环:差异点我们总结起来有3点:1-是我们针对模型的管理部分,提供模型仓库统一纳管模型,包括模型的评测,支持模型的一键部署应用,帮您屏蔽了底层的异构硬件;2-是我们的应用构建的部分,通过低代码可视化拖拽的方式来搭建业务流程,方便您管理您的业务逻辑和快速迁移复制。3-是对于整体流程而言,覆盖了模型生产应用的全生命周期,并且可以完成结构化数据的回流,支撑模型的长期迭代。客户Q6:你们平台是如何完成数据闭环的?星小环:数据有两个方面:一是原始的视频数据的采集,在我们的模型应用模块,有设备管理功能,可对接入到平台的数据进行定时定期录制保存,然后您可以把这部分数据回流到生产的样本管理,支撑模型训练。二是迭代数据的回流,对于模型推理后的数据包括图片以及对应的meta都会在平台保存,您可以直接拿这部分数据导入回样本集里面,在标注详情来审核这些数据,审核完成后再次进入训练应用的流程。客户Q7:对于平台部署的硬件有什么样的要求呢?星小环:对于模型训练部分,建议您使用带GPU的环境来加速训练;对于模型应用的部分,我们还进行了国产化适配,可以在市面上主流的硬件平台上进行模型推理。具体的资源大小还得根据您训练的需求以及要处理的视频路数来定。上下篇小结
图片
Sophon AutoCV平台提供建模应用的全流程的功能,可基于平台完成数据的标注(包括智能标注)、模型的引导式训练和场景应用的可视化创建部署。同时,平台也会初始化一部分通用的场景模板,比如工业安全生产的人员、车辆、环境等智能检测识别功能,用户仅需绑定上设备,即可完成一个智能应用的生成,并且可快速迁移复用,后期模型迭代只需要替换一下模型即可,省去了从0-1搭建的成本。


4 声望
4 粉丝
0 条评论
推荐阅读
星环科技数据治理与数据价值评估实践分享
数据价值评估背景自2015年8月国务院《促进大数据发展行动纲要》提出“数据已成为国家基础性战略资源”以来,我国出台了诸多政策和法案,推进数据的发展和数据要素的资产化。2019年10月,第十九届四中全会关于《推进...

星环科技阅读 315

花了几个月时间把 MySQL 重新巩固了一遍,梳理了一篇几万字 “超硬核” 的保姆式学习教程!(持续更新中~)
MySQL 是最流行的关系型数据库管理系统,在 WEB 应用方面 MySQL 是最好的 RDBMS(Relational Database Management System:关系数据库管理系统)应用软件之一。

民工哥11阅读 1k

封面图
一次偶然机会发现的MySQL“负优化”
今天要讲的这件事和上述的两个sql有关,是数年前遇到的一个关于MySQL查询性能的问题。主要是最近刷到了一些关于MySQL查询性能的文章,大部分文章中讲到的都只是一些常见的索引失效场合,于是我回想起了当初被那个...

骑牛上青山8阅读 2.2k评论 2

程序员英语学习指南
动机为什么程序员要学习英语?工作:我们每天接触的代码都是英文的、包括很多技术文档也是英文的学习:最新最前沿的技术最开始都是只有English版本就业:学好英语让你的就业范围扩大到全球,而不只限于国内目标读...

九旬6阅读 618

又一款内存数据库横空出世,比 Redis 更强,性能直接飙升一倍!杀疯了
KeyDB是Redis的高性能分支,专注于多线程,内存效率和高吞吐量。除了多线程之外,KeyDB还具有仅在Redis Enterprise中可用的功能,例如Active Replication,FLASH存储支持以及一些根本不可用的功能,例如直接备份...

民工哥4阅读 674评论 1

封面图
Mysql索引覆盖
通常情况下,我们创建索引的时候只关注where条件,不过这只是索引优化的一个方向。优秀的索引设计应该纵观整个查询,而不仅仅是where条件部分,还应该关注查询所包含的列。索引确实是一种高效的查找数据方式,但...

京东云开发者2阅读 916

封面图
面试官:请说一下如何优化结构体的性能?
使用内存对齐机制优化结构体性能,妙啊!前言之前分享过2篇结构体文章:10秒改struct性能直接提升15%,产品姐姐都夸我好棒 和 Go语言空结构体这3种妙用,你知道吗? 得到了大家的好评。这篇继续分享进阶内容:结...

王中阳Go4阅读 1.6k评论 2

封面图
4 声望
4 粉丝
宣传栏