1. 引言
高空间分辨率遥感影像建筑物提取是遥感影像信息提取的研究热点之一。传统影像分类方法主要以目视解译、统计模式识别方法为主,但存在解译精度差、自动化程度不高等缺点,难以满足日益增长的应用需求。卷积神经网络(Convolutional neural networks, CNN)以其自动提取图像由浅到深层次的特征信息的能力[1]。将特征金字塔网络整合到U-Net的网络主干中提出了SU-Net,有效提升了U-Net对于多尺度信息的泛化能力,实现对多尺度建筑的高精度提取[2]。在ResNet中引入U-Net模型的解码块,提出Res-U-Net优化建筑物提取结果[3];DeepLabV3以微调后的ResNet为基础网络框架,利用残差块的设计方式,可有效避免获取深层次的语义信息时网络深度增加造成的网络退化问题[4];在基础网络的后端,连接ASPP (atrous spatial pyramid pooling)对所得的特征图像进行不同采样率的空洞卷积,利用并行空洞卷积所捕获多尺度信息和全局平均池化所得的图像级特征融合,通过上采样实现精确的像素级分类效果[5]。将Resnet网络中浅层得到的特征图通过R-MCN结构,进一步提取多尺度和细节信息;然后采用DUC (dense upsampling convolution)上采样方式,恢复特征图的尺寸[6]。应用FCN跳跃结构融合不同层次的特征图,达到提高分类精度的目的[7]。采用增强空洞空间金字塔池化模型AASPP (Augmented Atrous Spatial Pyramid Pooling, AASPP),实现水系、植被、建筑物和道路多类别地物的像素分类[8]。虽然AASPP多层不同空洞率的卷积层理论上既能学习到大视觉域的环境信息又能学习到细部特征信息,但各卷积层之间互不相关。虽然卷积神经网络在一定范围内提高了提取建筑物的速度与精度,但是提取结果仍存在提取结果边界模糊不完整、漏提、误提。
密集空洞空间金字塔池化(Dense Atrous Spatial Pyramid Pooling, DenseASPP)采用捷径连接将各个不同视觉域的空洞卷积层两两连接,这使不同卷积层的输入既能包含视觉域较大的环境信息,又包含相对完整的局部信息,因此更有利于卷积层学习以区别建筑与非建筑。为此提出齿状连接的空洞空间金字塔池化模型DentateASPP用于改善建筑物提取效果。
2. 原理与方法
DentateASPP含有编码结构、解码结构和池化结构。编码结构是残差网络ResNet_v2_101,解码结构使用Deeplabv3+,如图1。其中池化结构位于编码结构和解码结构之间,用来获取不同尺度视觉域特征图,目前多使用空洞卷积层代替池化层来获取。
提出的齿状连接空洞空间金字塔池化模型DentateASPP,主要有两方面的改进:一是修改空洞卷积池化结构中整体结构,选择更适合建筑物提取的空洞卷积层层数以及在卷积层之间增加捷径连接;另一方面是对卷积层的空洞率的数值的选择和排列方式的设置
Figure 1. Convolutional neural network structure
图1. 卷积神经网络结构
2.1. 空洞卷积池化模型结构修改
如图2,DenseASPP捷径连接是将某一卷积层输出信息传递某一特定卷积层的方法,在各个层之间添加捷径连接形成密集连接。这样能使卷积层后的特征图与空洞卷积前的特征图都能被不同视觉域的卷积层学习,因此卷积层的输入既包含视觉域较大的背景信息,又包含相对完整的局部信息。
AASPP每一条路径上有四层空洞卷积层如图3所示。针对建筑物提取任务,在空洞率从大到小排列的情况下,一般采用两层空洞卷积池化结构。大尺度空洞卷积池化结构收集图像中大范围信息,小尺度空洞卷积池化结构学习小范围信息。本文采用三层空洞卷积池化结构,在中间增加中尺度空洞卷积池化结构收集中等尺度信息。这样形成的三层空洞卷积池化结构比二层更适合建筑物提取。
Figure 2. Dense atrous spatial pyramid pooling
图2. 密集空洞空间金字塔池化
Figure 3. Augmented atrous spatial pyramid pooling
图3. 增强空洞空间金字塔池化
2.2. 设置空洞卷积池化模型的卷积空洞率
空洞卷积池化模型需考虑空洞率的排列方式和空洞率的设置方式。排列方式是指空洞率不同的卷积层在空洞卷积池化结构中的顺序。空洞率排列一般为空洞率从大到小的方式。而空洞率设置为互质关系,即相互之间没有公约数,形成一种齿状卷积层相互连接的方式。这样互质的空洞率可以提升模型对图像中对象的边缘信息特征的学习能力。
Figure 4. Dentate atrous spatial pyramid pooling
图4. 齿状连接空洞空间金字塔池化
综合上述,本文提出的齿状连接空洞空间金字塔池化模型结构如图4所示。模型中设置了两条相互独立空洞卷积串联路径,而每条路径上的空洞卷积层数为3层,并且各个卷积层之间存在捷径连接。其中一条路径使用了DenseASPP中的空洞率,它的空洞卷积空洞率依次为[18,12,6];另一条路径上则设置对应位置上空洞率大小相近,且同一路径上空洞卷积的空洞率值互为质数,它的空洞率则依次为[17,11,4]。另外,模型中1 × 1卷积层与全局平均池化层是对原空洞空间金字塔池化模型中的继承。这样独立路径的设置方式使模型分别学习三个层次的视觉域下的建筑物及其背景特征,同时交错互质的空洞率增强了模型对复杂建筑物的特征信息的学习能力。
3. 试验与分析
采用Python 3.6设计了高分遥感影像提取建筑物的AASPP、DenseASPP和Dentate ASPP算法。提取建筑物效果评价采用准确率和交并比,如公式(1)和(2)。TP、FP和FN分别为正确提取的建筑像素数、漏提取的建筑像素数和误提取的建筑像素数。
prec = TP/(TP + FP) (1)
(2)
为了验证DentateASPP提取建筑物的效果,使用Crowd AI Mapping Challenge提供的建筑物数据集进行了验证。该数据集划分为训练集、验证集和测试集。其中,训练集包含280741张图像,每张图片分辨率为300 × 300像素,包含RGB三个通道。对应建筑物标注为MS-COCO格式。验证集包含同样格式的图片60317张。测试集共60697张图片,没有标注数据。
Table 1. Extracting building accuracy using the Crowd AI Mapping Challenge dataset
表1. 采用Crowd AI Mapping Challenge 数据集提取建筑物准确度与交并比
模型 |
准确度 |
交并比 |
AASPP |
92.85 |
66.83 |
DenseASPP |
92.71 |
66.77 |
DentateASPP |
95.19 |
67.67 |
表1分别是应用DenseASPP、AASPP和DentateASPP提取数据集建筑物的准确度和交并比,相比AASPP与DenseASPP模型,DentateASPP模型提取建筑物精度最高。由此可以得到结论,DentateASPP模型建筑物提取效果最优。
采用2019年重庆地区GF-2影像制作样本数据集,2020年重庆地区GF-2影像作为测试数。图5给出了AASPP、DenseASPP与DenateASPP模型在测试区域影像提取建筑的结果。图5中第1行、第2行从左到右分别是学校建筑群、居民建筑群、工业建筑群影像及其标注,第3行、第4行、第5行分别是采用AASPP、DenseASPP和DentateASPP模型提取建筑物。对比提取结果,可以看到DentateASPP模型建筑错误提取和漏提取少。
表2分别是AASPP、DentateASPP和DenseASPP提取GF-2影像建筑物的准确度和交并比,相比AASPP与DenseASPP模型,DentateASPP模型提取建筑物精度最高。由此可以得到结论,DentateASPP模型建筑物提取效果最优。
Figure 5. Buildings extracted using AASPP, DenseASPP, and DenateASPP models
图5. 采用AASPP、DenseASPP与DenateASPP模型提取的建筑物
Table 2. Accuracy evaluation of extracting buildings from WorldView2 using three models
表2. 采用三种模型提取WorldView2建筑物的精度评价
模型 |
准确度 |
交并比度 |
AASPP |
91.2 |
66.97 |
DenseASPP |
90.2 |
66.81 |
DentateASPP |
93.1 |
67.77 |
4. 结论
通过空洞卷积池化模型结构修改和设置卷积空洞率,提出了高分遥感影像的齿状连接空洞空间金字塔池化建筑物提取模型DentateASPP,相比AASPP与DenseASPP,DentateASPP模型在现有数据集和GF-2上测试,对建筑物误提取和遗漏提取最少,准确度最优,可用于建筑物变化监测。
基金项目
该成果获得国家重点研发计划课题(2022YFC3002702)、武汉大学大学生创新创业训练计划项目资助。
NOTES
*共同第一作者。
#通讯作者。