【模型推理】量化实现分享三:详解 ACIQ 对称量化算法实现

2021-12-29
阅读 5 分钟
2.9k
欢迎关注我的公众号 [极智视界],回复001获取Google编程规范  O_o   >_<   o_O   O_o   ~_~   o_O   大家好,我是极智视界,本文剖析一下ACIQ 对称量化算法实现,以 Tengine 的实现为例。  这是量化实现的第三篇,前面还有一、二,有兴趣的同学可以查阅  (1) 《【模型推理】量化实现分享一:详解 min-max 对称量化...
封面图

【嵌入式AI】全志 XR806 say hello world

2021-12-27
阅读 4 分钟
2.2k
欢迎关注我的公众号 [极智视界],回复001获取Google编程规范  O_o   >_<   o_O   O_o   ~_~   o_O   大家好,我是极智视界,本文介绍了全志 XR806 say hello world 实现。  咱们之前已经完成了 XR806 鸿蒙系统的固件编译和固件烧录,得到的终端输出类似这样:         这里进入下一阶段,先让 XR806 板子来一下 bl...
封面图

【嵌入式AI】全志 XR806 OpenHarmony 鸿蒙系统固件烧录

2021-12-22
阅读 2 分钟
1.4k
欢迎关注我的公众号 [极智视界],回复001获取Google编程规范  O_o   >_<   o_O   O_o   ~_~   o_O   大家好,我是极智视界,本教程详细记录了全志 XR806 OpenHarmony 鸿蒙系统固件烧录的方法。   在上一篇文章《【嵌入式AI】全志 XR806 OpenHarmony 鸿蒙系统固件编译》中咱们已经编译生成了系统镜像,这里把这个编...
封面图

【嵌入式AI】全志 XR806 OpenHarmony 鸿蒙系统固件编译

2021-12-21
阅读 5 分钟
2.2k
XR806 是全志科技旗下子公司广州芯之联研发设计的一款支持 WiFi 和 BLE 的高集成度无线 MCU 芯片,支持鸿蒙 L0 系统。具有集成度高、硬件设计简单、BOM 成本低、安全可靠等优点。可广泛满足 智能家居、智慧楼宇、工业互联、儿童玩具、电子竞赛、极客DIY 等领域的无线连接需求。上图:
封面图

【模型推理】量化实现分享二:详解 KL 对称量化算法实现

2021-12-17
阅读 8 分钟
4.2k
欢迎关注我的公众号 [极智视界],回复001获取Google编程规范  O_o   >_<   o_O   O_o   ~_~   o_O   大家好,我是极智视界,本文剖析一下 KL 对称量化算法实现,以 Tengine 的实现为例。   前面已经写过一篇《【模型推理】量化实现分享一:详解 min-max 对称量化算法实现》,有兴趣的同学可以查阅。这是上一篇的续...

【模型推理】量化实现分享一:详解 min-max 对称量化算法实现

2021-12-15
阅读 12 分钟
5.5k
  Tengine 是 OpenAILab 开源的优秀端侧深度学习推理框架,其核心主要由 C 语言实现,包裹的功能代码嵌套了 C++。量化是推理加速必不可少的优化环节,成熟的推理框架一般会把量化模块剥离出来形成独立的一套工具,如 Tengine、NCNN、昇腾、寒武纪都这么做,这主要是因为量化过程和硬件非强相关,解耦开来能干更多的事。
封面图

【模型推理】Tengine 模型转换及量化

2021-12-13
阅读 3 分钟
2.7k
欢迎关注我的公众号 [极智视界],回复001获取Google编程规范  O_o   >_<   o_O   O_o   ~_~   o_O   本文介绍一下 Tengine 模型转换及量化流程。   Tengine 同 ncnn 一样,也是优秀的端侧推理框架,前面写过一篇《ncnn 模型转换及量化流程》,有兴趣的同学可以查阅。  下面开始。1、编译 Tengine Tools   CmakeLis...
封面图

【经验分享】win10 cmake 构建 Tengine 工程

2021-12-10
阅读 3 分钟
1.8k
  前面写过一篇《【经验分享】win10 qmake 构建 ncnn vs 工程》,介绍了在 win10 上使用 nmake 和 qmake 构建 ncnn vs 工程的方法,这里用 cmake 来走一遍 Tengine vs 工程的构建。大家知道,ncnn 和 Tengine 都是低算力场景十分受欢迎的深度学习推理框架,而 cmake 应该是开源项目中使用最多的跨平台编译工具,qmake 则...
封面图

【模型推理】教你用 C++ 实现一般模型推理图片预处理模块

2021-12-08
阅读 2 分钟
1.7k
欢迎关注我的公众号 [极智视界],回复001获取Google编程规范  O_o   >_<   o_O   O_o   ~_~   o_O   大家好,我是极智视界,本文介绍了用 C++ 实现一般模型推理图片预处理的方法,通用性较强。   大家知道,对于一个视觉深度学习应用来说,主要会涉及几个流程:视频编解码、图像预处理、模型推理、后处理。这里介...
封面图

【经验分享】Go 安装教程

2021-12-06
阅读 2 分钟
1.8k
  Go 语言是 Google 开发的开源编程语言,于 2009 年 11 月开源,由于它从底层原生支持并发,所以 Go 语言在多核并发上拥有原生的设计优势。Go 语言现在发展的很快,其近 C 的执行性能和近解释型语言的开发效率,以及近乎完美的编译效率,让它风靡全球。
封面图

【系统硬件】英伟达安培卡 vs 老推理卡硬

2021-12-04
阅读 1 分钟
2k
  其中安培卡主要包括 A100、A40、A30、A16、A10、A2,老推理卡主要包括 T4、P4、P40、V100,本文主要用于从老推理卡迁移到新安培卡时应该会用到的参数对比调研,属于人肉汇总型,若数据有误,欢迎指正。
封面图

【经验分享】linux 下使用 Makefile 快速构建单工程教程

2021-12-01
阅读 2 分钟
1.1k
欢迎关注我的公众号 [极智视界],回复001获取Google编程规范  O_o   >_<   o_O   O_o   ~_~   o_O   大家好,我是极智视界,本教程详细介绍了在 linux 下使用 Makefile 快速构建单工程的方法。   本文的亮点是快速构建工程,所以不会长篇大论 Makefile 语法。  直接开始,假设有一个测试 cpp: test.cpp,然后它可...
封面图