红花是特色经济作物之一,在医药、饲料、天然色素和染料等领域有着广泛的应用。中国是世界上主要的红花丝生产国之一。目前的红花花丝收获方法主要依靠人工,费时费力,效率低下。采用机器人采摘红花丝,能有效地提高花丝的产量和品质,但是由于红花花丝体积小,且受天气、光照变化、枝叶遮挡等非结构化环境的干扰,花丝的颜色和纹理特征难以提取,容易造成误检和漏检。因此,提高非结构化环境下红花花丝的检测精度有利于农业机器人自动采摘的发展。
近日,bat365在线平台网站机电工程学院张振国副教授团队在《Agronomy》在线发表一篇题为"Improved Faster Region-Based Convolutional Neural Networks (R-CNN) Model Based on Split Attention for the Detection of Safflower Filaments in Natural Environments"的研究论文。该研究提出一种基于分散注意力的Faster R-CNN模型用于检测非结构化环境中的红花花丝。结合红花图像中花丝密集且细小的特点,该模型采用具有残差网络结构的ResNeSt-101作为特征提取网络的骨干,以增强提取特征的表现力,并利用Region of Interest (ROI) Align改进ROI Pooling,以减少双重量化造成的特征误差。此外,还采用了PAM聚类技术来优化网络的规模和初始锚点数量,以提高对小尺寸红花花丝的检测精度。
Faster R-CNN-S101使用ResNest-101作为骨干特征提取网络,如图1所示。ResNest-101中的“Split Attention”模块用于跨特征图组的信息交互,以改进对小尺寸红花花丝的特征提取。ROI Align用于改进ROI Pooling,以减少特征量化误差,并更准确地描绘目标边界框。PAM聚类算法用于优化网络初始预测框的规模和数量。提高模型对小尺寸细丝的检测精度。
图1 Faster R-CNN-S101网络结构图
为验证Faster R-CNN-S101模型在检测小尺寸红花花丝的适应性和有效性,分别进行了四组消融测试进行验证。消融测试结果如表1所示。与Faster R-CNN模型相比,Faster R-CNN-S101模型的mAP提高了9.52%。这充分证明了使用ResNeSt-101作为骨干网络、使用ROI Align代替 ROI Pooling以及优化锚框大小可以提高网络性能。
为评估Faster R-CNN-S101网络检测红花花丝的效果。在相同条件下,使用红花花丝训练集训练YOLOv3、YOLOv4、YOLOv5、YOLOv6、Faster R-CNN和Faster R-CNN-S101检测模型。红花花丝测试集用于评估上述6个检测模型的检测效果。表2列出了这6个检测模型的性能比较。结果表明,Faster R-CNN-S101模型的召回率、AP和mAP显著高于其他模型。Faster R-CNN-S101模型在小尺寸红花花丝检测中的表现优于其他模型,具有出色的综合检测性能。
为验证Faster R-CNN-S101模型在非结构化环境中的适应性和有效性,我们根据不同的天气、光照和遮挡条件对自然场景进行了分类,并在相同的实验条件下对不同场景中的红花图像进行了检测。表3列出了不同场景下的检测数据,以此评估Faster R-CNN-S101模型的各项性能。
试验结果表明,由于天气变化,光照强度也发生了变化。由于阴天光照强度较弱,花丝的颜色和纹理特征会发生变化,导致花丝特征与土壤背景色相似,要提取花丝特征非常困难。阴天光照不均,红花花丝的颜色和纹理特征表现不均,容易造成误检和漏检。背光下光照不均匀,红花花丝变暗不清晰,导致花丝颜色和纹理模糊,特征难以提取。种植模式密集,枝叶会遮挡部分红花花丝特征,导致显示的特征不足,模型无法进行正确检测。
bat365在线平台网站机电工程学院张振国副教授为论文的第一及通讯作者,2022级硕士研究生史瑞猛等为主要完成者。该研究得到了国家自然科学基金(52265041和31901417)、浙江省农业智能装备与机器人重点实验室开放课题(2022ZJZD2202)等项目的部分资助。