晓飞的算法工程笔记

0

Gradient Centralization: 一行代码加速训练并提升泛化能力 | ECCV 2020 Oral

• VincentLee   8月6日发布
• 收藏

梯度中心化GC对权值梯度进行零均值化，能够使得网络的训练更加稳定，并且能提高网络的泛化能力，算法思路简单，论文的理论分析十分充分，能够很好地解释GC的作用原理   来源：晓飞的算法工程笔记 公众号

0

DETR：基于Transformer的目标检测新范式，性能媲美Faster RCNN | ECCV 2020 Oral

• VincentLee   8月3日发布
• 收藏

DETR基于标准的Transorfmer结构，性能能够媲美Faster RCNN，而论文整体思想十分简洁，希望能像Faster RCNN为后续的很多研究提供了大致的思路   来源：晓飞的算法工程笔记 公众号

0

BorderDet：通过边界特征大幅提升检测准确率，即插即用且速度不慢 | ECCV 2020 Oral

• VincentLee   8月3日发布
• 收藏

边界对于定位问题十分重要，BorderDet的核心思想BorderAlign巧妙又有效，将边界特征融入到目标定位预测中，而且能够简单地融入到各种目标检测算法中带来较大的性能提升下。在开源实现中，对BorderAlign进行了高效...

1

Gradient Centralization: 一行代码加速训练并提升泛化能力 | ECCV 2020 Oral

• VincentLee   8月3日发布
• 收藏

梯度中心化GC对权值梯度进行零均值化，能够使得网络的训练更加稳定，并且能提高网络的泛化能力，算法思路简单，论文的理论分析十分充分，能够很好地解释GC的作用原理   来源：晓飞的算法工程笔记 公众号

0

CondenseNet：可学习分组卷积，原作对DenseNet的轻量化改造 | CVPR 2018

• VincentLee   7月17日发布
• 收藏

CondenseNet特点在于可学习分组卷积的提出，结合训练过程进行剪枝，不仅能准确地剪枝，还能继续训练，使网络权重更平滑，是个很不错的工作   来源：晓飞的算法工程笔记 公众号

0

MnasNet：经典轻量级神经网络搜索方法 | CVPR 2019

• VincentLee   7月14日发布
• 收藏

论文提出了移动端的神经网络架构搜索方法，该方法主要有两个思路，首先使用多目标优化方法将模型在实际设备上的耗时融入搜索中，然后使用分解的层次搜索空间，来让网络保持层多样性的同时，搜索空间依然很简洁，...

0

MobileNetV1/V2/V3简述 | 轻量级网络

• VincentLee   7月8日发布
• 收藏

MobileNet系列很重要的轻量级网络家族，出自谷歌，MobileNetV1使用深度可分离卷积来构建轻量级网络，MobileNetV2提出创新的inverted residual with linear bottleneck单元，虽然层数变多了，但是整体网络准确率和...

0

ShuffleNetV1/V2简述 | 轻量级网络

• VincentLee   7月6日发布
• 收藏

ShuffleNet系列是轻量级网络中很重要的一个系列，ShuffleNetV1提出了channel shuffle操作，使得网络可以尽情地使用分组卷积来加速，而ShuffleNetV2则推倒V1的大部分设计，从实际出发，提出channel split操作，在...

0

SqueezeNet/SqueezeNext简述 | 轻量级网络

• VincentLee   7月2日发布
• 收藏

SqueezeNet系列是比较早期且经典的轻量级网络，SqueezeNet使用Fire模块进行参数压缩，而SqueezeNext则在此基础上加入分离卷积进行改进。虽然SqueezeNet系列不如MobieNet使用广泛，但其架构思想和实验结论还是可以...

0

基于层级表达的高效网络搜索方法 | ICLR 2018

• VincentLee   6月24日发布
• 收藏

论文基于层级表达提出高效的进化算法来进行神经网络结构搜索，通过层层堆叠来构建强大的卷积结构。论文的搜索方法简单，从实验结果看来，达到很不错的准确率，值得学习   来源：【晓飞的算法工程笔记】 公众号

0

旷世提出类别正则化的域自适应目标检测模型，缓解场景多样的痛点 | CVPR 2020

• VincentLee   6月23日发布
• 收藏

论文基于DA Faster R-CNN系列提出类别正则化框架，充分利用多标签分类的弱定位能力以及图片级预测和实例级预测的类一致性，从实验结果来看，类该方法能够很好地提升DA Faster R-CNN系列的性能   来源：晓飞的算法...

0

DA Faster R-CNN：经典域自适应目标检测算法，解决现实中痛点，代码开源 | CVPR2018

• VincentLee   6月22日发布
• 收藏

论文从理论的角度出发，对目标检测的域自适应问题进行了深入的研究，基于H-divergence的对抗训练提出了DA Faster R-CNN，从图片级和实例级两种角度进行域对齐，并且加入一致性正则化来学习域不变的RPN。从实验来...

0

NASH：基于丰富网络态射和爬山算法的神经网络架构搜索 | ICLR 2018

• VincentLee   6月15日发布
• 收藏

论文提出NASH方法来进行神经网络结构搜索，核心思想与之前的EAS方法类似，使用网络态射来生成一系列效果一致且继承权重的复杂子网，本文的网络态射更丰富，而且仅需要简单的爬山算法辅助就可以完成搜索，耗时0.5G...

1

EAS：基于网络转换的神经网络结构搜索 | AAAI 2018

• VincentLee   6月11日发布
• 收藏

论文提出经济实惠且高效的神经网络结构搜索算法EAS，使用RL agent作为meta-controller，学习通过网络变换进行结构空间探索。从指定的网络开始，通过function-preserving transformation不断重用其权重，EAS能够重...

0

Circle Loss：从统一的相似性对的优化角度进行深度特征学习 | CVPR 2020 Oral

• VincentLee   6月8日发布
• 收藏

论文提出了Circle loss，不仅能够对类内优化和类间优化进行单独地处理，还能根据不同的相似度值调整对应的梯度。总体而言，Circle loss更灵活，而且优化目标更明确，在多个实验上都有较好的表现，个人认为是一个...

1

DRConv：旷视提出区域感知动态卷积，多任务性能提升 | CVPR 2020

• VincentLee   6月5日发布
• 收藏

论文提出DRConv，很好地结合了局部共享的思想并且保持平移不变性，包含两个关键结构，从实验结果来看，DRConv符合设计的预期，在多个任务上都有不错的性能提升   来源：晓飞的算法工程笔记 公众号

1

SEPC：使用3D卷积从FPN中提取尺度不变特征，涨点神器 | CVPR 2020

• VincentLee   5月26日发布
• 收藏

论文提出PConv为对特征金字塔进行3D卷积，配合特定的iBN进行正则化，能够有效地融合尺度间的内在关系，另外，论文提出SEPC，使用可变形卷积来适应实际特征间对应的不规律性，保持尺度均衡。PConv和SEPC对SOTA的检...

1

FreeAnchor：抛弃单一的IoU匹配，更自由的anchor匹配方法 | NIPS 2019

• VincentLee   5月11日发布
• 收藏

论文抛弃以往根据IoU硬性指定anchor和GT匹配关系的方法，提出FreeAnchor方法来进行更自由的匹配，该方法将目标检测的训练定义为最大似然估计(MLE)过程，端到端地同时学习目标分类、目标检测以及匹配关系，从实验...

0

BlockQNN：NASNet同期，商汤提出block-wise版的MetaQNN | CVPR 2018

• VincentLee   5月9日发布
• 收藏

作为NASNet的同期论文，BlockQNN同样地将目光从整体网络转换到了block-wise，整体思路大概是MetaQNN的block版，增加了一些细节地小修改。配合Early Stop Strategy，计算资源十分少，但性能较同期的NASNet差点   ...

0

实用，小物体检测的有监督特征级超分辨方法 | ICCV 2019

• VincentLee   5月9日发布
• 收藏

论文提出新的特征级超分辨方法用于提升检测网络的小物体检测性能，该方法适用于带ROI池化的目标检测算法。在VOC和COCO上的小物体检测最大有5~6%mAP提升，在Tsinghua-Tencent 100K上的小物体检测则最大有约9点F1提...