基于Hbase的海底监测视频大数据存储方法
Big Data Storage Method for Seabed Monitoring Video Based on Hbase
DOI: 10.12677/CSA.2019.97163, PDF,  被引量    国家科技经费支持
作者: 王 川*, 曾国荪:同济大学计算机科学及技术系,上海;丁春玲:同济大学化学科学与工程学院,上海;覃如符:同济大学海洋与地球科学学院,上海;海洋地质国家重点实验室(同济大学),上海
关键词: 海底监测视频数据Hbase大数据库存储视频检索Submarine Monitoring Video Data Hbase Large Database Storage Video Retrieval
摘要: 海底观测会产生规模大、稀疏性强的视频数据,目前的存储方案效率较低。为此,本文提出一种基于Hbase的海底监测视频大数据存储方法。首先,采用运动目标检测方法对视频中的稀疏空白部分和内容密集部分进行分段,对稀疏空白段进行重度压缩,并对密集内容部分进行特征提取,为基于内容的视频检索做准备。接着,设计一种能统一存储上述两部分视频的大数据表,它能在插入稀疏视频段时动态添加压缩信息列,在插入密集内容视频时动态添加特征列,并用行键键尾对两种视频进行了区分,方便查询过滤。实验分析表明:本文方法相比传统方式能节约近75%的存储资源,并能实现基于特征的检索,极大的方便了视频数据的管理。
Abstract: Submarine observations produce large-scale, sparse video data, and current storage schemes are less efficient. To this end, a big data storage method for seabed monitoring video based on Hbase is proposed. First, the moving object detection method is used to segment the video to high-density and low-density parts, so the low-density parts can be greatly compressed, at the same time, feature extraction is performed on the dense content part to facilitate content-based video retrieval. Then, a big data table is designed to uniformly store the above two parts of the video, it can dynamically add compressed information columns when inserting low-density video parts and feature columns when inserting high-density video parts, also we use the trailing portion of the row-key to identify them, which facilitates query and filtering. Experiment results show that the proposed method can save nearly 75% of the storage resources compared with traditional methods. Besides, it can also provide feature-based retrieval, which greatly facilitates the management of video data.
文章引用:王川, 曾国荪, 丁春玲, 覃如符. 基于Hbase的海底监测视频大数据存储方法[J]. 计算机科学与应用, 2019, 9(7): 1453-1464. https://doi.org/10.12677/CSA.2019.97163

参考文献

[1] 李建如, 许惠平. 加拿大“海王星”海底观测网[J]. 地球科学进展, 2011, 26(6): 656-661.
[2] 李小三, 杨灿军, 陈燕虎, 卢汉良, 李德骏, 金波. 海底观测网络摄像系统设计与实现[J]. 船舶工程, 2011, 33(1): 65-69.
[3] 郑红霞, 张训华, 赵铁虎. 海底监测技术之海底观测网络[J]. 海洋地质前沿, 2015, 31(5): 51-56.
[4] 刘高辉. 基于Hadoop的海量视频数据分布式处理研究[D]: [硕士学位论文]. 武汉: 华中师范大学, 2017.
[5] 江冕, 牛中盈, 张淑萍. 视频监控存储系统的设计与实现[J]. 计算机工程与设计, 2014, 35(12): 4195-4201.
[6] 操顺德. 面向海量高清视频的高性能分布式存储系统[D]: [硕士学位论文]. 武汉: 华中科技大学, 2017.
[7] 刘晓静. 基于HBase的海量小视频存储与检索系统的研究与实现[D]: [硕士学位论文]. 西安: 西安电子科技大学, 2014.
[8] Chang, F., Dean, J., Ghemawat, S., et al. (2008) Bigtable: A Distributed Storage System for Structured Data. ACM Transactions on Computer Systems, 26, 1-26. [Google Scholar] [CrossRef
[9] 张志付. 基于背景减法的运动检测算法研究[D]: [硕士学位论文]. 上海: 上海交通大学, 2008.
[10] Ding, S., Li, G., Li, Y., et al. (2017) SurvSurf: Human Retriev-al on Large Surveillance Video Data. Multimedia Tools and Applications, 76, 6521-6549. [Google Scholar] [CrossRef
[11] 杨慧炯. 面向自然图像的自适应主色提取方法研究[J]. 微电子学与计算机, 2018, 35(9): 99-102.
[12] 余成伟, 陆建华, 郑君里. 基于场景切换的H.264码率控制技术[J]. 清华大学学报(自然科学版), 2007, 47(7): 1133-1136.
[13] Taylor, S.M. (2008) Strategic and Business Planning for the VENUS and NEPTUNE Canada Ocean Observing Systems. OCEANS, Quebec, 15-18 September 2008, 1-7. [Google Scholar] [CrossRef
[14] 李伟, 王蓉. 基于颜色和SIFT特征的视频目标检索方法研究[J]. 科学技术与工程, 2013, 13(29): 8810-8814.