地震数据的无损压缩存储
- 格式:pdf
- 大小:301.80 KB
- 文档页数:4
第42卷 第5期2020年9月物探化探计算技术COMPUTINGTECHNIQUESFORGEOPHYSICALANDGEOCHEMICALEXPLORATIONVol.42 No.5Sept.2020 收稿日期:2019 05 21基金项目:国家自然科学基金(41574107)第一作者:高潇(1993-),男,硕士,主要从事地震波正演模拟、高性能计算等方面的研究,E mail:gaox1993@mail.ustc.edu.cn。
通信作者:张伟(1976-),男,教授,博士,主要从事计算地震学、勘探地震学和微地震监测等方面的研究,E mail:zhangwei@sustc.edu.cn。
文章编号:1001 1749(2020)05 0582 14应用Squeeze算法实现地震数据高效压缩高 潇1,张 伟2a,徐锦承2a,杨 辉2a,邵理阳2b,潘 权2b,宋章启2c(1.中国科学技术大学 地球和空间科学学院,合肥 230000;2.南方科技大学 a.地球与空间科学系,b.电子与电气工程系,c.创新创业学院,深圳 518055)摘 要:为了提高海量地震数据的存储和处理能力,需要采用有损压缩方法对地震数据进行高效压缩。
目前常用的地震有损压缩方法主要利用了地震数据的稀疏性来实现压缩,代码实现较为复杂,实际应用需要使用者对相应的压缩方法原理具有比较好地了解。
另一种压缩实现原理是利用地震数据相邻道之间的关系实现压缩,该类方法原理简单,易于理解。
这里将近年最新发展的Squeeze算法应用到地震数据压缩问题中,该算法通过使用多维和多层预测模型,基于邻近点信息预测当前点波场值,然后对实际波场值和预测值之间的差异,进行自适应量化编码和熵编码实现数据的有效压缩。
在地震波数值模拟算法中实现了Squeeze压缩方法,并通过二维SEG/EAGE盐丘模型合成道集数据、实际三维道集数据以及三维Marmousi正演波场数据测试Squeeze压缩效果,结果表明,Squeeze算法对于地震数据具有比较好的压缩性能,同时代码实现和使用十分方便。
・专论与综述・地震数据存储技术综述罗福龙(东方地球物理勘探有限责任公司装备事业部 河北涿州)摘 要:地震数据是地球物理勘探的核心内容,地震数据存储是地震数据采集必不可少的手段。
野外地震数据的存储由地震勘探仪器来实现,且地震数据存储技术直接关系到地震数据的安全和质量,因此地震数据存储技术也是地震勘探仪器关键技术的重要组成。
文章从地震勘探仪器的发展历史简要地介绍了地震数据存储技术的发展过程,并通过介绍当代主流的数字存储技术来说明计算机存储技术和地震数据存储技术之间的关系,以当前主流数字存储技术的发展空间为参考,通过分析地震勘探采集规模的发展趋势及其对存储技术的要求,探讨了未来地震数据存储技术的基本格局与发展趋势。
关键词:地震数据;存储技术;磁带;磁盘;光盘;电子盘中图法分类号:P631 文献标识码:A 文章编号:100429134(2006)03200012050 引 言地球物理勘探是一项复杂的系统工程,它涉及地震数据的采集、存储、现场质量控制和数据的处理解释等一系列的技术与工作。
在整个系统工程中,所有的工作都离不开地震数据,也即地震数据是地球物理勘探工程的核心内容。
由此可见,经济有效地高质量地保存地震数据就显得至关重要。
地震数据作为一种信息,它不能孤立地存在,必须依附于特定的介质,这就涉及到地震数据的存储问题。
1 地震数据存储技术发展历史作为地震勘探仪器技术的重要组成部分,地震数据存储技术随着地震勘探技术、计算机技术、工艺材料技术、信息存储技术在不断地发展变化。
按存储介质和技术特征相应地可将地震数据存储技术分五个主要发展阶段与类别。
这五个发展阶段既是地震数据存储技术的发展历史,也是通用信息存储技术的发展轨迹。
1.1 光纸存储技术最早的地震勘探仪器是模拟光点记录仪器,它将采集的地震数据(一般不多于24道)通过感光照相技术,以波形方式在感光纸上绘图,此后的资料解释工作直接在记录纸上进行。
此时的存储技术实质上就是模拟照相技术,所存储的地震数据是一次性的也是不可共享的,这对于高投入的地震勘探无疑是一种浪费。
地震勘探数据压缩算法
地震勘探数据压缩算法是指对地震勘探中获取的海量数据进行
压缩处理,以便更高效地存储和传输数据,同时尽量减少信息丢失。
地震勘探数据通常包含大量的地震波形数据和地下结构信息,因此
需要有效的压缩算法来处理这些数据。
一种常用的地震勘探数据压缩算法是基于信号处理的压缩方法,例如小波变换和离散余弦变换(DCT)。
小波变换可以将地震波形数
据分解成不同频率的子带,然后根据信号能量的分布情况对子带进
行适当的压缩,以达到减小数据量的目的。
离散余弦变换也可以将
数据转换成频域表示,然后通过舍弃高频分量或者利用量化方法对
系数进行编码来实现数据的压缩。
另一种常见的压缩算法是基于预测编码的方法,例如差分编码
和预测误差编码。
这些方法利用地震波形数据中的相关性,通过对
数据进行预测并仅存储预测误差或差分值来实现数据的压缩。
此外,还有基于字典的压缩方法,如Lempel-Ziv-Welch(LZW)算法和哈
夫曼编码,这些方法可以根据数据的统计特性来构建字典,实现更
高效的压缩。
除了以上提到的压缩算法,还有一些针对地震勘探数据特点设
计的专用压缩算法,例如基于地震波形数据特点的自适应压缩算法
和基于地下结构信息的压缩算法等。
需要注意的是,在选择压缩算法时需要综合考虑压缩比、压缩
速度、解压缩复杂度以及数据的重建质量等因素,以便选择最适合
地震勘探数据特点的压缩算法。
同时,压缩算法的实现也需要考虑
到硬件平台的限制和实际应用场景的需求,以达到最佳的压缩效果。
地震监测数据的存储与管理技术研究地震监测数据是预测和研究地震活动的重要依据。
随着科学技术的不断进步,地震监测装置的更新换代和数据采集的自动化使得地震监测数据的存储与管理变得越来越重要。
本文将探讨地震监测数据的存储与管理技术,包括数据存储的需求分析、存储技术的选择以及数据管理的方法。
一、地震监测数据存储的需求分析地震监测数据的存储需求分析是制定存储方案的基础。
地震监测数据具有以下特点:1. 大数据量:地震监测数据包含大量的地震波形、地震事件记录等信息,数据量庞大且持续不断地产生。
2. 高时效性:地震监测数据的时效性要求较高,及时存储与传输对于地震预警与紧急响应至关重要。
3. 数据安全性:地震监测数据是有关地震研究、预测和防灾减灾的重要信息,需要具备一定的安全保密性。
综上所述,地震监测数据存储的需求包括高容量、高时效性和数据安全性。
二、地震监测数据存储技术的选择地震监测数据的存储技术应能满足大容量、高速度、高安全性等要求。
目前,常用的地震监测数据存储技术包括以下几种:1. 磁带存储技术:磁带存储技术具有大容量、低成本、长寿命等特点,适用于长期归档和备份。
然而,磁带存储技术的读写速度较慢,不适合对数据进行实时存储与分析。
2. 硬盘阵列存储技术:硬盘阵列存储技术具有高速度、可靠性和容量可扩展等特点,适用于实时数据存储和访问。
但是,硬盘阵列存储技术的成本较高,维护和管理也较为复杂。
3. 云存储技术:云存储技术通过将数据存储在云端服务器上,具有高可靠性、可扩展性和灵活性等特点。
同时,云存储技术能够提供远程访问和备份功能,便于跨地域协作。
然而,云存储技术的安全性仍然是一个关注的问题。
根据地震监测数据的特点和存储需求分析,可以选择综合利用以上存储技术,采用分级存储策略,将实时数据存储在硬盘阵列中,而将历史数据进行磁带或云存储。
三、地震监测数据管理的方法地震监测数据的管理是指对数据进行组织、存储、索引和检索等操作,以提高数据利用效率和管理水平。
地震流动观测数据传输中的数据压缩技术研究在地震研究领域,实时准确地传输地震流动观测数据对于地震监测、灾害预警和科学研究至关重要。
然而,由于地震观测数据具有高维度、高频率、大容量的特点,传输效率和数据安全性成为数据传输过程中亟待解决的问题。
为了克服这些挑战,科学家不断探索和研究数据压缩技术在地震流动观测数据传输中的应用。
在地震流动观测数据传输中,数据压缩技术被广泛应用以减少数据存储、传输和处理的开销。
数据压缩技术通过降低冗余和提取关键信息来实现数据压缩,可以对数据进行有损或无损的压缩。
数据压缩既可以在观测设备端进行,也可以在数据传输过程中进行。
有损压缩是常用的地震流动观测数据压缩技术之一。
这种压缩技术通过保留关键信息和舍弃冗余信息来减少数据量。
具体而言,有损压缩技术可以通过采样率压缩、量化、离散余弦变换和小波变换等方法来实现。
通过减少数据的采样频率,可以降低数据的采样率,并将其压缩到更低的位宽,从而减少数据量。
离散余弦变换和小波变换可以将数据从时域转换为频域,并利用频域的特性来实现数据的压缩和重构。
然而,有损压缩技术会导致压缩后的数据与原始数据存在一定误差,这可能会影响地震数据的准确性和有效性,因此需要根据应用需求和数据精度要求来选择合适的压缩算法和参数。
与有损压缩相反,无损压缩技术可以在保证数据完整性的同时,减少数据量。
无损压缩技术通过利用数据的冗余性来实现数据的压缩。
典型的无损压缩算法包括霍夫曼编码、算术编码和Lempel-Ziv编码等。
这些算法利用数据中重复出现的模式或频繁出现的字符来构建编码表,从而实现数据的压缩。
然而,无损压缩技术通常需要更高的计算和传输成本,并且压缩率相对较低,因此需要在压缩效率和数据准确性之间进行权衡。
在地震流动观测数据传输过程中,必须考虑数据的时效性和可靠性。
数据压缩技术对传输效率的提高起到了重要作用。
通过减少数据量,可以降低传输带宽的要求,缩短传输时间,提高实时性。
微地震监测数据压缩技术段建华;王保利;朱红娟;任亚平【摘要】微地震监测数据海量,给数据的长距离实时无线传输带来了很多困难,而且还占用很多磁盘空间。
笔者首先采用自适应阈值的STA/LTA算法,选取合适的特征函数,从海量的监测数据中自动快速准确地识别微地震有效信号;然后准确确定有效信号的起止时间,完整地截取有效信号的波形数据,去除大量冗余数据,使得数据减少为原来的20%以下;最后再采用STEIM2算法对截取后的有效信号进行压缩,使监测数据的压缩比达到10∶1。
研究结果表明:该方法能够通过去除冗余数据和无损压缩,大幅减少微地震监测数据的传输量,使得最终的数据仅为原数据的10%,从而减少了微地震监测数据的长距离无线实时传输困难,同时也减少数据存储所需要的磁盘空间,取得了较好的应用效果。
%The substantial microseismic monitoring data bring many difficulties to the long distance wireless real-time transmission of data and,what is more,take up a lot of disk space.In this paper,using adaptive threshold STA/LTA algorithm,the authors select appro-priate characteristic function and automatically,quickly and accurately identify effective micro-seismic signal from the large quantities of monitoring data.Then,the method on the paper accurately determines the start and end time of the effective micro-seismic signal com-plete waveform,and removes large quantities of redundant data by completely intercepting valid signal,so that the original data are re-duced to 20%.Finally,the monitoring data compression ratio attains 10 ∶ 1 by using STEIM2 algorithm compress data intercepted.【期刊名称】《物探与化探》【年(卷),期】2014(000)005【总页数】6页(P1018-1023)【关键词】微地震;监测数据;STA/LTA;数据压缩【作者】段建华;王保利;朱红娟;任亚平【作者单位】中煤科工集团西安研究院有限公司,陕西西安 710077;中煤科工集团西安研究院有限公司,陕西西安 710077;中煤科工集团西安研究院有限公司,陕西西安 710077;中煤科工集团西安研究院有限公司,陕西西安 710077【正文语种】中文【中图分类】P631.4微地震事件具有非常强的不确定性和不可预测性,一般需要全天候实时监测,而且该类地震事件的频率比较高,一般为0~150 Hz,现有设备采样率最高可以达到10 kHz,因此地震监测产生的数据非常庞大。
地震预报事业单位的地震监测数据的存储与管理技术研究地震作为一种自然灾害,对人类的生命和财产安全造成了严重威胁。
为了能够更准确地预报地震以及及时采取防范措施,地震预报事业单位承担着重要的责任。
而地震监测数据的存储与管理技术则成为了这些机构必须研究的重要课题。
一、地震监测数据的特点地震监测数据具有大量、复杂、动态更新等特点,因此对其存储与管理技术提出了较高的要求。
1. 大量的数据地震监测数据的采集频率高,同一地震事件的连续观测数据量庞大。
而且,地震预报事业单位往往需要长时间保存这些数据,以便于后续分析和研究,因此需要强大的存储能力。
2. 复杂的数据类型地震监测数据包含了地震波形、震源参数等多种数据类型。
这些数据的存储格式各异,因此需要一种能够适应不同数据类型的存储与管理技术。
3. 动态更新的数据地震监测数据是不断产生和更新的,新的数据需要被及时录入和管理,同时旧的数据也需要被有效地归档和保留。
为了满足地震预报事业单位对地震监测数据的存储与管理需求,需要采用先进的技术手段。
1. 数据库技术数据库技术可以提供强大的数据存储和管理功能,能够有效地满足地震监测数据的存储需求。
可以采用关系型数据库,如MySQL、Oracle等,或者采用NoSQL数据库,如MongoDB、Redis等,根据实际情况选择适合的数据库类型。
2. 分布式存储与计算技术地震监测数据量巨大,基于分布式存储与计算技术可以实现数据的高效存储和处理。
通过将数据分布在多个节点上,可以提高系统的可扩展性和容错性。
3. 数据备份与恢复技术地震监测数据属于重要的国家资产,一旦发生数据丢失,将对地震预报事业单位的研究和工作造成严重影响。
因此,需要建立数据备份与恢复的机制,确保数据的安全性和可靠性。
4. 数据安全与隐私保护技术地震监测数据中包含了一些敏感信息,如地震波形、震源参数等。
为了保护这些数据的安全性和隐私性,需要采用数据加密、用户权限管理等技术手段。
地震数据的无损压缩存储孙毅;韩坤亮【期刊名称】《计算机技术与发展》【年(卷),期】2011(021)008【摘要】To solve the problem of seismic data lossless compression effectively,many seismic data standards, lossless integer and float-point encoding are studied. Based on these, a design method of lossless compression of seismic data is presented. By analyzing the structure of the seismic standards, the integer data or float-point data is compressed separately in the method. The messages of seismic files are saved and the volume of the files is decreased as possible in the method. Finally, the feasibility of the method is validated by practical application.%为解决地震数据的无损压缩存储问题,研究了多种地震数据标准以及整型和浮点型数据的无损压缩算法.在此基础上,提出了地震数据的无损压缩存储方法.该方法通过分析多种地震标准的内部结构特点,有针对性地对整型和浮点型数据分别进行无损压缩.在保证了地震数据文件中各参数、标识等信息不被破坏的条件下,最大限度地减小了地震数据文件的大小.试验证明,本方法不仅对整型数据而且对于浮点型数据都可以做到无损的数据压缩与还原.【总页数】4页(P177-180)【作者】孙毅;韩坤亮【作者单位】上海大学计算机工程与科学学院,上海200072;上海大学计算机工程与科学学院,上海200072【正文语种】中文【中图分类】TP311.1【相关文献】1.基于线扫式小波变换的海量地震数据准无损压缩算法 [J], 邹江花;朱荣;秦前清2.基于JPEG2000的地震数据准无损压缩 [J], 孙寰宇;武文波;杨志高;秦前清3.基于谓词索引的海量数据压缩存储及数据操作算法 [J], 赵锴;李建中;骆吉洲4.反射地震走时层析成像中的大型稀疏矩阵压缩存储和求解 [J], 成谷;张宝金5.一种抽油机示功图数据无损压缩存储方法 [J], 李金诺;龚仁彬;李群;王从镔;姚刚因版权原因,仅展示原文概要,查看原文内容请购买。