多源多尺度实景三维模型融合技术探究
Exploration of Multi-Source and Multi-Scale Realistic 3D Model Fusion Techniques
DOI: 10.12677/jisp.2024.133026, PDF, HTML, XML,    科研立项经费支持
作者: 管洪涛, 何 勇*:重庆交通大学智慧城市学院,重庆
关键词: 实景三维多源异构场景融合数据轻量化Realistic Three-Dimensional Multi-Source Heterogeneous Scene Fusion Data Lightweight
摘要: 在城市级实景三维建设中,融合多源、多尺度的实景三维数据具有关键性意义。本研究致力于探索应对海量、异构、多尺度实景三维数据的融合技术方法。通过改进空间精度匹配和数据接边的方法,结合实景三维数据成果的标准化和轻量化处理,本研究有效提升了实景三维场景的调度和显示效率。这些技术改进不仅丰富了实景三维场景的细节表达,还提高了其完整性,为城市级实景三维建设提供了更为可靠和高效的技术支持。
Abstract: Fusion of multi-source and multi-scale real-world 3D data is of key significance in city-level real-world 3D construction. This study is dedicated to exploring the fusion technology methods to cope with massive, heterogeneous and multi-scale real-view 3D data. By improving the methods of spatial accuracy matching and data joining, combined with the standardization and lightweight processing of real-life 3D data results, this study effectively improves the scheduling and display efficiency of real-life 3D scenes. These technical improvements not only enrich the detail expression of the real-life 3D scene, but also improve its integrity, providing more reliable and efficient technical support for city-level real-life 3D construction.
文章引用:管洪涛, 何勇. 多源多尺度实景三维模型融合技术探究[J]. 图像与信号处理, 2024, 13(3): 302-310. https://doi.org/10.12677/jisp.2024.133026

1. 引言

城市级实景三维建设作为数字城市发展的重要组成部分,在城市规划、管理以及应急响应等方面发挥着关键作用[1]。然而,实景三维数据的多源、多尺度特点使其融合成为当前研究的关键挑战。与传统人工建模的三维场景相比,实景三维场景具有明显的差异,主要表现在数据来源的广泛性和形式的多样性上,尤其是在数据采集手段和处理方式方面的多样性十分突出[2]。实景三维场景的数据通常具有庞大的规模,采集时间、数学精度、数据标准以及成果格式等各不相同,这些差异性给数据融合和应用带来了诸多挑战[3],如实景三维场景数据必须具备可查、可算、可标记、可分析等特点,因此其模型需要满足相应的标准和精度[4]。然而,海量的实景三维模型使得数据精度的验证变得困难,难以满足各类业务化应用的需求[5] [6];实景三维场景数据的获取方式多样,处理后的成果存储格式和表达方式也多种多样。此外,实景三维数据具有多时空特性,这导致在数据处理、优化和轻量化等方面,可视化技术面临着巨大挑战;实景三维场景数据包含空间信息和非空间信息两种类型。其多源异构数据的存储结构存在显著差异,将这些不同存储结构的多源数据进行无缝融合在技术上非常困难,这会导致实景三维空间数据在业务化使用过程中无法有效管理和共建。

针对以上问题,文献[7]-[10]提出了实景三维、模型三维、规划、基础地理空间数据的多源数据融合技术,旨在推进实景三维资源的融合应用;文献[11]则提出了一套基于实景三维模型的多源数据融合基本模式,将各类专题数据融入城市实景三维模型中,以推动二三维一体化的研究;文献[12]设计了一条动态单体化技术与空间分析技术相融合的实景三维模型空间分析技术局路线,为三维GIS相关开发人员提供参考。然而,这些研究仅针对某个具体环节,尚未形成多源实景三维数据从融合到模型轻量化再到后续业务化使用的全流程方案。因此,本研究旨在深入探讨多源实景三维数据融合的问题,并通过改进融合技术方法、统一数据融合的空间精度匹配与接边方法、规范实景三维数据成果的轻量化处理,提高实景三维场景的更新维护与应用效率。目标是为城市级实景三维建设提供关键的技术支持,推动数字城市的发展[13]

2. 多源多尺度实景三维模型融合

多源多尺度实景三维模型融合是城市级实景三维建设中的重要环节。其基本原理是通过预处理获取的数据,利用统一的空间定位参考进行配对和配准,确保不同数据源的模型在相同坐标系下。这一过程涉及到多种技术手段,如多源数据格式转换等方法,以实现多源异构的实景三维数据模型的融合集成,最终实现多源三维实景数据成果的整体融合显示。本研究建立了一套统一的数据融合流程,旨在处理实景三维场景数据成果的各种类型。通过建立模型空间坐标转换、多源数据格式调整以及模型单体化属性编码等方法,将不同来源、不同类型、不同尺度的地形场景模型、城市实景模型、结构化模型和矢量模型等进行融合集成。最终实现了实景三维数据成果的一致性和整体性,真正实现了多源异构实景三维数据的有效融合[14]

2.1. 实景数据空间配准

实景三维模型按照不同的等级进行划分,包括地形级、城市级和部件级[15]。这些不同级别的数据不仅在测量上存在差异,而且在融合数据格式上也有明显的差别。在进行多源数据融合的第一步是建立统一的空间参考,这意味着要在一个共同的坐标系下描述和定位不同源的实景三维数据。为了实现这一目标,采用了空间配准技术,通过对不同数据源的坐标系进行调整,使它们在同一空间范围内具有相同的坐标和几何特性,从而消除了由于数据采集时使用不同的坐标系统或坐标转换方式而产生的不一致性和差异性。具体而言,首先利用特征点提取和匹配技术,从各个数据集中提取关键特征点,并确定它们之间的对应关系。然后根据这些对应关系,对不同数据集之间的空间关系进行变换,包括旋转、平移和缩放等参数[16]。最后,将得到的空间变换参数应用于数据集,对数据本身进行几何变换,使其在统一的空间坐标系下达到一致性和准确性。经过粗配准后,本文采用ICP点云匹配算法实现数据的精细配准[17],最终实现高精度的实景三维数据融合。公式为

d= 1 N i=1 N [ R k P i + T k q i ] 2 =min (1)

式中,N为特征点个数;qi为点云参考点;Pi为对应的目标点;k为迭代次数;RT为参数值。将多尺度场景模型,倾斜摄影模型、单体结构数据模型配准后,转换为统一数据格式,实现实景三维数据的融合。统一的数据格式能够简化数据处理流程,提高数据处理效率。数据的可管理性和可操作性,从而更好地支持后续的数据融合和应用。处理流程如下图1

Figure 1. Processing flow of model data spatial alignment calculation

1. 模型数据空间配准计算处理流程

2.2. 实景数据模型衔接

针对多源实景三维数据的接边问题,本研究提出了一种统一的数据接边方法,旨在解决不同来源、不同类型、不同尺寸的实景三维数据在边缘处的无缝连接和平滑。在空间配准后,接边过程中,我们首先提取数据边缘特征点,并计算不同数据之间的接边关系和变换参数,以实现数据在接缝处的平滑连接。

为了保证融合实景模型在接缝处的连续性,减少融合过程中可能出现的偏差和不匹配,同时确保融合后的实景模型具有良好的视觉效果,本文将实景三维数据分为多尺度数据集,并根据模型的精细程度进行划分,制定了相应的划分规则,如表1

Table 1. 3D modeling of edge unit division

1. 实景三维模型接边单元划分

分级

RS4

RS5

RS5

RS6

RS7

模型

简易模型

主体模型

标准模型

精细模型

精细模型

单元划分

行政区划界线

铁路、道路主干道、等级以上河流等界线

院落、不动产单元界、道路等界线

建筑物界线

融合后的实景三维模型因各自的特点存在色彩上的差异。为了提高视觉效果和统一实景数据的外观,采用高性能的三维引擎进行图像渲染,对多尺度、不同来源的实景三维数据集的纹理进行统一色彩处理。通过这一处理,实现了纹理明暗效果、亮度等技术的统一,确保了整体实景模型在视觉上的一致性和连贯性。具体流程如图2所示:

Figure 2. Multi-scale realistic 3d model fusion processing flow

2. 多尺度实景三维模型融合处理流程

2.3. 实景数据模型轻量化处理

为了实现高效率的加载显示与应用[18],针对实际场景的三维数据融合结果,需要进行轻量化处理以满足应用的普遍调取要求。主要的轻量化和优化手段包括根节点合并和数据压缩。在节点合并方面,采用在LOD (层次细节)进行多次Tile合并的方法,形成多级根节点。这样的做法旨在减少负载批次、提高浏览速度,并降低CPU负载,从而实现对实景数据的有效处理。而在数据压缩方面,针对实景三维场景数据的纹理、三角网格和点云等进行了压缩处理。通过对这些数据进行压缩,有效地减少了数据体积,提升了加载速度,为实景模型的快速发布与共享提供了技术支持。这些优化手段不仅能够满足实际应用的需求,同时也为实景三维数据处理领域提供了一定的科研价值。

2.3.1. 根节点合并

根节点合并是一项优化技术,旨在提高实际场景的三维数据处理效率。在处理实景三维数据时,通过将多级LOD中位于不同节点的根节点进行合并,以降低数据复杂度并优化渲染。该过程包括建立多级LOD结构,然后在多个LOD中合并根节点,以减少实例的总体复杂度。通过根节点合并,可以降低CPU负载并减少渲染调度所需的数据量,从而提高数据加载和渲染速度。如图3

Figure 3. Tile root node merge mode

3. Tile根节点合并模式

2.3.2. 数据压缩

数据压缩是为了减少数据的存储空间和传输带宽,以提高数据的效率和速度[19]。在实景三维场景数据处理中,数据压缩尤为重要。常见的数据压缩方法包括纹理压缩和三角网压缩等。这些压缩方法可以单独或组合使用,以实现数据的快速发布与共享。

( x,y,z )Fφ( x,y,z )=[ φ u ( x,y,z ) φ v ( x,y,z ) ]=[ u v ] (2)

在进行压缩时,假设实景三维空间为曲面F,任意点的空间坐标为(x, y, z),通过图像纹理贴图φ关联到三维显示设备渲染点的图像坐标为(u, v)。需要建立实景三维模型空间点坐标(x, y, z)与纹理图像坐标(u,v)之间的对应关系,其中φ代表图像映射纹理关系。首先,通过曲面上的任意一点空间坐标参数(x, y, z),形成φuφv对应逻辑关系。然后,对纹理图像进行压缩和重采样,提取实景三维模型网格(Mesh)特征顶点,重新映射到图像坐标系。

3. 多源数据融合三维模型可视化

本研究以重庆市安居古镇现有的人工模型、多尺度大场景模型和倾斜摄影模型为基础,进行了一系列数据融合方法的实验。通过建立多源实景三维数据融合方法,成功实现了多源多尺度实景三维模型数据的融合,并对其进行了轻量化处理后进行了可视化展示。在实验中,对多尺度大场景模型与高精度倾斜摄影模型进行了空间配准和接边匀色处理等操作。将高精度实景三维物理单体化模型对象,通过空间精度匹配与接边,确保两个模型之间的准确对齐,消除可能出现的错位或间隙;纹理匀色,将整个场景的纹理表现统一和平滑,减少视觉上的不连续;数据合并,整合多源数据模型的信息,保留高精度模型的细节特征,融入低精度实景三维场景中,实现了不同尺度实景三维模型成果的无缝融合,实现融合后效果如图4所示:

Figure 4. Multi-source data fusion process

4. 多源数据融合过程

(a) 融合前

(b) 融合后

Figure 5. Compare before and after fusion

5. 融合前后高差值对比图

对融合前后边界高差值进行统计,如图5所示(直方图),融合前高差值总体分布极差大,最小值为−18.9 m,最大值为18 m,主要分布范围在−9到7.3 m,高差的平均值较大,达到0.5 m;融合后高差总体分布集中,最小值为−0.52 m,最大值为0.82 m,主要分布在−0.2到0.29 m之间,高差的平均值为0.03 m,对融合前后高差数值进行对比,融合效果显著,融合后的边界差已全部控制在亚米级。图6为某公路融合前后对比图,在融合前,公路边界横断面倾斜摄影三维模型地形和大场景地形存在5 m的高差;融合后公路边界横断面仅存在0.05的高差,并且边界缓冲区邻域地形连续吻合。

通过这些步骤,成功实现了不同尺度、不同数据格式的三维模型结果的有效融合。同时对实景三维场景数据进行根节点优化和数据压缩处理以解决Web端的实景三维场景数据模型加载延时、渲染速度慢等问题[20]。这些优化措施大大提升了Web端模型加载浏览的速度,并消除了使用过程中模型卡顿、加载缓慢的现象,从而切实改善了用户的使用体验[21]。如图7所示大场景模型、倾斜实景三维数据、结构化模型、业务数据融合效果基本满足了实景三维数据实际业务上的应用需求。

Figure 6. Surface exposed area before and after fusion

6. 地表裸露区融合前后对比图

Figure 7. Multi-source, multi-scale real-world model fusion results map

7. 多源多尺度实景模型融合成果图

通过本文的研究和实验,成功地应用了数据融合方法和算法,对比了多源数据分散应用与融合应用的效果。在实验中,采用了一系列的处理步骤,包括模型数据空间精度配准、多源模型数据接边、建立3DTiles数据集与调度树结构、合并数据集根节点以及简化和压缩模型纹理等操作。得到了一套统一、完整的数据融合成果,极大地提升了各类应用的效率。

4. 结语

本文实现了人工模型、多尺度大场景模型和倾斜摄影模型的融合,与已有的融合方法对比,融合过程中通过均匀覆盖模型数缘的高精度匹配点,建立多源多尺度实景三维数据融合,利用空间配准算法,实现多源三维数据的配准融合,并根据多尺度数据之间的空间融合问题,利用自然边界线,将实景三维数据拆分成多尺度数据集,并建立一套纹理自动匀色处理方法,提升融合效率。最后通过根节点合并和数据压缩实现实景三维轻量化处理,确保实景三维数据总体质量不降低,同时确保纹理快速渲染展示。研究的实景三维多源异构数据融合和优化方法显著提升了大范围实景三维场景数据的展示和应用效率,同时也丰富了实景三维场景的细节表达。通过采用标准化的数据融合方法,成功实现了实景三维数据的更新融合,满足了实景三维场景局部更新的需求。在进行试验和对比数据融合之前,进一步简化了多源数据的管理模式,从而实现了多源实景三维数据的无缝融合。不仅大幅压缩了数据成果的容量,同时也提高了海量三维场景加载和浏览的效率。这些成果为实景三维数据的应用提供了重要支持,为数字城市的发展和应用提供了有力保障。随着我国各地实景三维建设的迅速发展,多源异构的三维数据不仅数量庞大而且更加复杂,简单依赖人工处理和手动导入已不再足够满足日益增长的业务需求。因此,需要将多源地理信息数据融合技术朝着自动化和智能化的方向发展,建立更加高效、智能的实景三维数据融合技术方法,不仅可以减少人工处理的繁琐环节,还能提升数据融合的质量和效率,加速智慧城市应用领域的发展,为实现“实景三维中国”的目标提供坚实的技术支持。在未来的研究中,将继续深入探索实景三维数据融合领域,进一步提升技术水平,推动数字城市建设的不断进步。通过持续的努力和创新,实景三维数据的应用将会在城市规划、管理和建设等方面发挥越来越重要的作用。

基金项目

重庆交通大学研究生科研创新项目(2022S0091)。

NOTES

*通讯作者。

参考文献

[1] 张艳玲, 安乐, 石磊. BIM + GIS技术在城市建筑三维可视化中的应用研究[J]. 建设科技, 2024(2): 65-67.
[2] 赖建民, 卜鹏飞. 三维激光扫描技术在建筑物三维建模可视化中的应用探究[J]. 科技创新与应用, 2024, 14(1): 193-196.
[3] 刘刚, 陈根深, 陈麒玉, 等. 基于Web的大规模三维空间模型高效可视化关键技术[J]. 地理空间信息, 2023, 21(12): 8-13.
[4] 肖建华, 李海亭, 李鹏鹏, 等. 实景三维的内涵与分类分级[J]. 城市勘测, 2021(5): 5-10.
[5] Gimenez, L., Hippolyte, J., Robert, S., Suard, F. and Zreik, K. (2015) Review: Reconstruction of 3D Building Information Models from 2D Scanned Plans. Journal of Building Engineering, 2, 24-35.
https://doi.org/10.1016/j.jobe.2015.04.002
[6] Shalma, H. and Selvaraj, P. (2023) A Review on 3D Image Reconstruction on Specific and Generic Objects. Materials Today: Proceedings, 80, 2400-2405.
https://doi.org/10.1016/j.matpr.2021.06.371
[7] Wu, X., Ou, J., Wen, Y., Liu, X., He, J. and Zhang, J. (2022) Developing a Data-Fusing Method for Mapping Fine-Scale Urban Three-Dimensional Building Structure. Sustainable Cities and Society, 80, Article ID: 103716.
https://doi.org/10.1016/j.scs.2022.103716
[8] Fadhel, M.A., Duhaim, A.M., Saihood, A., Sewify, A., Al-Hamadani, M.N.A., Albahri, A.S., et al. (2024) Comprehensive Systematic Review of Information Fusion Methods in Smart Cities and Urban Environments. Information Fusion, 107, Article ID: 102317.
https://doi.org/10.1016/j.inffus.2024.102317
[9] Ma, Z. and Liu, S. (2018) A Review of 3D Reconstruction Techniques in Civil Engineering and Their Applications. Advanced Engineering Informatics, 37, 163-174.
https://doi.org/10.1016/j.aei.2018.05.005
[10] Wu, J., Wyman, O., Tang, Y., Pasini, D. and Wang, W. (2024) Multi-view 3D Reconstruction Based on Deep Learning: A Survey and Comparison of Methods. Neurocomputing, 582, Article ID: 127553.
https://doi.org/10.1016/j.neucom.2024.127553
[11] Xu, J., Shu, X., Qiao, P., Li, S. and Xu, J. (2023) Developing a Digital Twin Model for Monitoring Building Structural Health by Combining a Building Information Model and a Real-Scene 3D Model. Measurement, 217, Article ID: 112955.
https://doi.org/10.1016/j.measurement.2023.112955
[12] Flores-Fuentes, W., Trujillo-Hernández, G., Alba-Corpus, I.Y., Rodríguez-Quiñonez, J.C., Mirada-Vega, J.E., Hernández-Balbuena, D., et al. (2023) 3D Spatial Measurement for Model Reconstruction: A Review. Measurement, 207, Article ID: 112321.
https://doi.org/10.1016/j.measurement.2022.112321
[13] Ingale, A.K. and J., D.U. (2021) Real-Time 3D Reconstruction Techniques Applied in Dynamic Scenes: A Systematic Literature Review. Computer Science Review, 39, Article ID: 100338.
https://doi.org/10.1016/j.cosrev.2020.100338
[14] Chen, H., Han, Q. and De Vries, B. (2020) Modeling the Spatial Relation between Urban Morphology, Land Surface Temperature and Urban Energy Demand. Sustainable Cities and Society, 60, Article ID: 102246.
https://doi.org/10.1016/j.scs.2020.102246
[15] Garde, A. and Hoff, A. (2017) Zoning Reform for Advancing Sustainability: Insights from Denver’s Form-Based Code. Journal of Urban Design, 22, 845-865.
https://doi.org/10.1080/13574809.2017.1337495
[16] Wentz, E.A., York, A.M., Alberti, M., Conrow, L., Fischer, H., Inostroza, L., et al. (2018) Six Fundamental Aspects for Conceptualizing Multidimensional Urban Form: A Spatial Mapping Perspective. Landscape and Urban Planning, 179, 55-62.
https://doi.org/10.1016/j.landurbplan.2018.07.007
[17] Zhu, Z., Zhou, Y., Seto, K.C., Stokes, E.C., Deng, C., Pickett, S.T.A., et al. (2019) Understanding an Urbanizing Planet: Strategic Directions for Remote Sensing. Remote Sensing of Environment, 228, 164-182.
https://doi.org/10.1016/j.rse.2019.04.020
[18] Schmidhuber, J. (2015) Deep Learning in Neural Networks: An Overview. Neural Networks, 61, 85-117.
https://doi.org/10.1016/j.neunet.2014.09.003
[19] Reddy, A. and Leslie, T.F. (2015) Volume per Capita as a Useful Measure of Residential Space. Urban Geography, 36, 1099-1112.
https://doi.org/10.1080/02723638.2015.1060696
[20] Tournaire, O., Brédif, M., Boldo, D. and Durupt, M. (2010) An Efficient Stochastic Approach for Building Footprint Extraction from Digital Elevation Models. ISPRS Journal of Photogrammetry and Remote Sensing, 65, 317-327.
https://doi.org/10.1016/j.isprsjprs.2010.02.002
[21] Weissgerber, F., Colin-Koeniguer, E., Nicolas, J. and Trouvé, N. (2017) 3D Monitoring of Buildings Using Terrasar-X Insar, Dinsar and Polsar Capacities. Remote Sensing, 9, Article 1010.
https://doi.org/10.3390/rs9101010