OpenHarmony子系统之AI业务子系统

作者:坚果
引用
公众号:"大前端之旅"
引用
华为云享专家,InfoQ签约作者,阿里云专家博主,51CTO博客首席体验官,开源项目GVA成员之一,专注于大前端技术的分享,包括Flutter,小程序,安卓,VUE,JavaScript。

AI业务子系统

AI业务子系统介绍

AI业务子系统是OpenHarmony提供原生的分布式AI能力的子系统。本次开源范围是提供了统一的AI引擎框架,实现算法能力快速插件化集成。框架中主要包含插件管理、模块管理和通信管理等模块,对AI算法能力进行生命周期管理和按需部署。后续,会逐步定义统一的AI能力接口,便于AI能力的分布式调用。同时,提供适配不同推理框架层级的统一推理接口。

AI引擎框架

AI业务子系统目录

/foundation/ai/engine                        # AI子系统主目录
├── interfaces
│  └── kits                                  # AI子系统对外接口
└── services
│  ├── client                                # AI子系统Client模块
│  │  ├── client_executor                    # Client模块执行主体
│  │  └── communication_adapter              # Client模块通信适配层,支持拓展
│  ├── common                                # AI子系统公共工具、协议模块
│  │  ├── platform
│  │  ├── protocol
│  │  └── utils
│  └── server                                # AI子系统服务端模块
│  │  ├── communication_adapter              # Server模块通信适配层,支持拓展
│  │  ├── plugin
│  │     ├── asr
│  │        └── keyword_spotting             # ASR算法插件参考:唤醒词识别
│  │     └── cv
│  │        └── image_classification         # CV算法插件参考:图片分类
│  │  ├── plugin_manager
│  │  └── server_executor                    # Server模块执行主体

AI业务子系统约束

  • 语言限制:C/C++语言
  • 操作系统限制:OpenHarmony操作系统
  • AI服务启动的约束与限制:SAMGR(System Ability Manager)启动且运行正常

AI业务子系统使用

AI业务子系统的使用主要有以下四个场景:

  • AI业务子系统编译
  • 插件开发
  • 插件SDK开发
  • sample开发

具体如何使用请点击这儿

参考链接


坚果
79 声望9 粉丝

坚果派联合创始人、华为HDE,OpenHarmony MVP,、开发者联盟优秀讲师、2023/2024年开源之夏导师、2023年OpenHarmony应用创新赛导师、RISC-V+OpenHarmony应用创意赛导师、OpenHarmony三方库贡献者、坚果派开发鸿蒙...