基于轻量化深度神经网络的目标检测方法研究.pdf
摘要
摘要
目标检测是计算机视觉以及图像和视频处理技术的重要应用领域,其任务是
根据图像或者视频的视觉特征来定位和分类其中的目标实体。随着深度学习技术
在计算机视觉领域的应用,目标检测模型的性能比以往有了很大提升,然而实际
中大部分模型因为计算量和参数量庞大,导致在边缘侧部署起来困难,因此轻量
化目标检测算法的研究和应用越来越重要。
设计轻量级目标检测网络,需要结合应用场景来考虑问题,因为这种模型通
常部署在移动设备上。首先需要根据设备算力的差异灵活的调整模型尺寸;其次
当考虑轻量级目标检测模型的平台兼容性,要求在不改变网络结构的基础上压缩
模型;再次,当考虑存储空间及功耗开销时,一般的深度学习模型中有大量的浮
点运算,不适合直接用于移动设备上运行。
因此针对上述提到的问题,本文的开展的工作如下:
(1)针对轻量级目标检测模型无法灵活适应不同算力的设备,从优化网络结构的
角度出发,采用通道剪枝的方法来压缩目标检测模型,并通过减小训练迭代
时BN层的相关性提高剪枝的准确度。对于性能不同的移动设备,可以根据
其算力,调节网络剪枝的比例,提高了模型部署的灵活性,让模型能适应多
种不同的移动设备。
(2)针对轻量级目标检测模型对系统软硬件环境有特别的要求,从不改变模型基
本结构的角度出发,采用知识蒸馏的方法提升轻量化目标检测模型输出的目
标位置和类别准确度,并通过域对齐的方法进行特征谱线索蒸馏来改善学生
网络的特征。经过蒸馏后的轻量级模型可以直接部署在原来的系统中,而不
需要软硬件对其针对性优化。
(3)针对轻量级目标检测网络浮点数存储及计算开销大的问题,从目标检测模型
参数的存储形式出发,提出通过定点量化网络参数的方法,采用感知量化训
练后再进行参数量化,并通过引入软量化函数让量化误差能够参与训练。将
原始目标检测模型从浮点计算转换为定点数计算,能够减少处理器的功耗开
销和延长移动设备的工作时间。
关键词:目标检测,模型压缩,深度学习,轻量级神经网络
ABSTRACT
ABSTRACT
Objectdetectionisanimportantapplicationareaofcomputervisionandimageand
videoprocessingtechnology.Itstaskistolocateandclassifyobjectentitiesinimagesor
videosbasedontheirvisualfeatures.Withtheapplicationofdeeplearningtechnologyin
thefieldofcomputervision,theperformanceofobjectdetectionmodelshasbeengreatly
improved.However,inpractice,mostmodelsaredifficulttodeployattheedgeduetothe
largeamountofcomputationandparameters,sotheyarelightweight.Theresearchand
applicationofobjectdetectionalgorithmsarebecomingmoreandmoreimportant.
Designingalightweightobjectdetectionnetworkrequiresconsiderationoftheap-
plicationscenarios,becausesuchmodelsareusuallydeployedonmobiledevices.Firstof
all,itisnecessarytoflexiblyadjustthemodelsizeaccordingtothedifferenceincomput-
ingpowerofthedevices;secondl