多源数据集成技术
?
支持多种数据格式转换
SuperMap GIS 具有强大的数据交换能力，可与流行的GIS 和CAD 软件交换数据，实现多种数据格式的输入和输出。
SuperMap GIS 不仅支持E00、MIF 和DXF 等流行的文本交换格式，而且支持TAB （MapInfo ）、SHP （ArcView ）、Coverage （ArcInfo ）、DWG （AutoCAD ）、DGN （MicroStation ）等二进制数据格式。此外，SuperMap GIS 还支持各种影像数据格式，包括TIFF 、GEO-TIFF 、BMP 、JPEG 、IMG （Erdas ）、MrSID 、ECW 等（MrSID 和ECW 是基于小波变换的影像压缩格式）。
?
多源空间数据无缝集成技术
由于地理信息系统的图形数据格式各异，给信息共享带来极大的不便，所以，“如何解决多格式数据源集成”成为GIS 应用系统开发中的重要难题之一。SuperMap GIS 的多源空间数据无缝集成（SIMS, Seamless Integration of Multi-source Spatial-data ）技术，无需转换就可以直接访问多种格式的数据。除SuperMap 本身的数据格式以外，还支持直接访问DWG 、DXF 和DGN 等矢量数据格式，以及BMP 、JPEG 、TIF 、RAW 等栅格数据格式。该技术具有多格式数据直接访问、格式无关数据集成、位置无关数据集成和多源数据复合管理等特点。
由于SIMS 采用开放式引擎自动载入技术，可以自行定制特殊的数据引擎，达到SuperMap GIS 直接访问该数据格式的目的。此项技术对于具有特殊数据格式而又不便于公开的特殊行业具有重大意义。
矢量数据格式
栅格数据格式
Tab MIF
TIFF
BMP
JPEG
数据转换泵
Coverage
E 00、SHP
DXF DWG
DGN MrSID ECW IMG
SuperMap GIS 数据文件
SuperMap GIS 空间数据库
支持XML
SuperMap GIS 全面支持OpenGIS GML 3.0标准，可以把每一个数据集和每一个几何对象输出为XML 字符串；同时也可以从XML 字符串创建几何对象。通过这一技术，一方面可以与任何支持XML 的软件进行数据交换；另一方面还可以实现GIS 的空间数据在网络之间以XML 串的方式传输。
SuperMap GIS 对XML 的支持，还表现在工作空间的存储上。SuperMap GIS 的工作空
桌面软件开发平台Internet GIS SDX+For SQLServer 引擎DXF 引擎
DGN 引擎SDX+For Sybase 引擎DWG 引擎……
SuperMap GIS 的所有产品都可以直接使用，无需再开发
SDX+For Oracle 引擎
SDX+For DB2引擎SDB 引擎SDX+For KingBase 引擎
SDX+For DM 引擎
不同空间数据的访问引擎都被封装起来，屏蔽了其各自的差异，使用更加简单
SDB 、DWG 、DGN 文件
Oracle
SQL Server Sybase
DB2
DM3KingBase
间除了采用二进制的SMW格式存储外，还可以保存为XML格式（SXW）。通过这一格式，可以更加方便的维护工作空间，并能在网络上传输。
多源信息融合软件的设计与实现精编W O R D 版 IBM system office room 【A0816H-A0912AAAHH-GX8Q8-GNTHHJ8】
多源信息融合软件的设计与实现 摘要：针对多源信息类型不一致影响信息利用效率的问题，文章在分析传统多源数据融合模型的基础上，研究了多源信息融合软件的架构及相关技术，设计并开发的软件具有较高的实用价值。 关键词：多源信息；信息融合；软件开发 多源信息融合是通过将多种信源在空间上和时间上的互补与冗余信息依据某种优化准则组合起来，产生对特点对象的一致性解释与描述。数据融合技术是指利用计算机对获得的信息，在一定准则下加以自动分析、综合，以完成所需决策和评估任务而进行的信息处理技术。主要包括对各类信息源给出有用信息的采集、传输、综合、过滤、相关及合成，以便辅助人们进行态势/环境判定、规划、探测、验证。 数据格式统一是进行数据处理的前提。由于信息的来源多，数据格式类别差异较大，对于数据处理带来不便。多源信息融合软件能够实现多源异构数据信息整合，对于充分利用信息资源、提高数据处理系统性能具有实用价值。 1 多源数据融合模型 根据对输入信息的抽象或融合输出结果的不同，可以将信息融合分为不同的3级，包括数据级融合、特征级融合及决策级融合。 作为数据级的多源数据融合模型的结构如图1所示。多源数据经过数据清理、数据集成、数据变换，形成有效数据，通过数据处理形成数据挖掘分析等处理工作的有效数据。
数据清理是指去除源数据集中的噪声数据和无关数据，处理遗留数据和清洗脏数据，去除数据域的知识背景上的白噪声，考虑时间顺序和数据变化等。主要包括处理噪声数据，处理空值，纠正不一致数据等。 数据集成就是将多文件或多数据库运行环境中的异构数据进行合并处理，将多个数据源中的数据结合起来存放在一个一致的数据存储中。 数据变换就是将数据变换成统一的适合处理的形式。数据变换主要包括平滑、聚集、属性构造、数据泛化和规范化等内容。 2 多源信息融合软件设计 2.1 软件架构 多源信息融合软件的技术要求是实现多源异构数据向指定关系数据库进行可靠转换。就是按照指定关系数据库的表结构要求，实现多源异构数据的数据导入及格式转换问题。软件的组成框图如图2所示。软件主要包括2个主要模块，多源数据预处理模块和数据导入模块。数据预处理模块主要进行数据清理及格式转换，实现常用的数据（txt、xls、关系数据库等数据）转换为目标数据库支持的数据格式。数据导入实现指定类型数据转换为指定结构数据。 2.2 关键技术 为了保证多源信息软件的可靠运行，需解决数据类型的适应性和扩展性问题，以及数据转换的可靠性、可预制性、数据转换过程的可监督性问题。 2.2.1 基于模块化设计的类型转换
多源数据融合技术及其在地质矿产勘查中的应用 发表时间：2018-12-19T15:53:27.333Z 来源：《基层建设》2018年第31期作者：刘巨龙[导读] 摘要：随着社会经济的快速发展，人们对各种资源的开发力度不断加大，给本就不富裕的矿产资源带来了更加严重的危机。山东省地质矿产勘查开发局第七地质大队山东省临沂市 276006摘要：随着社会经济的快速发展，人们对各种资源的开发力度不断加大，给本就不富裕的矿产资源带来了更加严重的危机。为了应对这一现状，越来越多的勘查技术被引入地质矿产勘查工作中，而将不同的勘查数据来源进行有机地整合以全面掌握地质矿产信息便成为了矿产企业当下的工作重点。多源数据融合技术正是因为这一需求而被引入了地质矿产勘查工作，使用多源数据融合技术可以有效提升地质 矿产勘查工作质量。但是作为一种新兴技术，该技术在地质矿产勘查工作中的应用还不完善，本文也将对此进行分析与探讨。关键词：多源数据；融合技术；地质矿产；勘查；应用 1 多源数据融合技术简述多源数据融合技术简而言之便是一种数据处理技术，他只是通过对于数据的整理与整合将不同来源的数据融为一个整体，使得数据分析人员对于研究对象的信息有一个全面的掌握。多源数据融合技术的这一工作模式与地质矿产勘查工作完美契合，在地质矿产勘查工作中，勘查人员会对矿产地的地质、水文等一系列要素进行勘查，而后期的数据量也是十分庞大，这也就需要多源数据融合技术对其进行整合。而随着多源数据融合技术的应用，越来越多的勘查技术被引入到地质矿产勘查工作中，其优势也可以得到发挥，增加了地质矿产勘查工作的数据全面性。多源数据融合技术在地质勘查工作中的应用不仅仅只是应用于数据处理这一领域，还要与勘查技术进行结合才能更好地助力勘查工作的进行，而当下最常见的应用模式便是将多源数据融合技术与遥感技术进行结合使用。这是因为在地质矿产勘查工作中，地质数据难以直观的体现出当地的地质条件及矿产状况，进行分析时还需要对于数据进行处理才能进行，严重影响了工作效率，使用遥感技术则可以通过更为清晰的图像直接将地质勘查工作的结果呈现于分析人员眼前，便于其进行分析并开展随后的工作。而通过遥感技术与多源数据融合技术的结合运用，多源数据融合技术可以将更多来源的数据进行处理整合后融入到一张勘查图中，图像中包含的信息也更加丰富多元，分析人员也可以掌握更加全面的信息，为后续的矿产开采工作提供帮助。因此目前多元数据融合技术在地质矿产勘查工作中的应用主要是通过与遥感技术配合实现的。 2 多源数据融合技术的应用流程在将多源数据融合技术应用到地质矿产勘察过程中，首先要对于地质矿产勘查的遥感数据进行初步的筛选，这也是后续勘查工作顺利开展的前提。由于在地质矿产勘查工作中，遥感技术的运用是多方面的，因此其后期的数据呈现类别也各不相同。当使用多源数据融合技术对这些数据进行融合处理时，部分数据对于后期的工作并无太大帮助反而会干扰整个数据的融合过程，因此在数据融合之前对于遥感数据进行初步的筛选是很有必要的。这就需要勘查人员对于遥感勘查数据类型及其后期的用途有着充分的了解，例如我国常用的遥感技术便有航天遥感技术及航空遥感技术，其呈现方式也分为地面及光谱分辨率，工作人员要做的便是根据地质矿产勘查工作的实际需要及不同种数据间的联系进行勘查数据的初选，为多源数据融合做好准备。在多源数据融合过程中遥感技术虽为主导，但也要穿插其他类别数据的引入，让最终呈现的数据更加充实立体。经过初选的勘查信息仍然不能直接用于多源数据融合，还需要经过数据的预处理工序才能进行融合。这是因为初选后的勘查数据只是原始数据，在勘查过程中难免会出现一些由于人为失误及仪器问题导致的误差，这些误差一旦经过了数据融合环节将很难被发现并剔除，这也会大大影响多源数据融合技术的工作效果，导致最终呈现的综合数据不能反映实际状况，影响后期的分析工作。另外对于需要融合的数据，还需要进行标准化处理，让不同来源的数据可以免去繁杂的换算过程直接进行融合，减少后期工作量，提升工作效率。而对于不同类别的数据，在融合时除了要进行标准化处理之外，还需要通过公式进行换算，这也需要对于数据进行前期的处理及换算，确定转换方式。在数据融合过程中，对于遥感技术勘查图的分辨率有着较高的要求，分辨率越高的图片其后期融合的自由度及空间也就越大，也更加有利于数据融合过程的进行。而目前遥感数据的融合主要有像素级、特征级及决策级三种类型，分别针对不同的勘查实际予以选取，例如像素级便是对相近的遥感勘测图进行融合而决策级则是对于地质矿产勘查整体进行数据的融合。 3 多源数据融合技术在地质矿产勘查中的应用目前通过多源数据融合技术与遥感技术的结合，可以有效提高地质矿产勘查工作的工作质量，也可以使勘查工作更加全面，而最具代表性的应用领域便是构造信息及矿化蚀变的提取以及找矿靶区的圈定工作。首先通过多源数据融合技术，可以将不同的遥感技术图像进行整合。例如在某地质矿产勘查工作中，勘查人员首先利用航空遥感技术对当地的地貌及水系分布等数据进行了初步的勘查。随后利用多源数据融合技术，将卫星传来的不同遥感勘测图进行预先处理，利用几何校正及参数统一等手段将不同的遥感图进行整合。这样在随后的构造信息提取时，技术人员便可以通过一张图片完成对于地质矿产线性及环形信息的同时提取，利用图片上显示色调及结构的标识，也可以直接掌握当地的地质地貌及水文条件。而矿化蚀变信息的提取与随后的找矿靶区确定工作息息相关，这也是整个地质矿产勘查工作的最终目的。在以往的勘查工作中，遥感技术呈现的数据信息都是片面的，加上缺乏非遥感技术勘查数据的支撑，对于矿化蚀变信息的提取十分困难也不够精确。而在使用了多源数据融合技术之后，在数据处理阶段便可以将片面的遥感图像进行整合，使得最终的成图包含有完整的地质信息，同时还可以将非遥感技术勘测的数据加以引入，使得分析人员在进行矿化蚀变信息提取分析时除了可以依据勘查数据进行矿化蚀变分析，也可以参考邻区矿产分布信息、地球化学及成矿因素分析等多领域信息，让结果更加准确。而多源数据融合技术应用带来的另一大便利便是其在数据融合过程中已经为整个地质矿产勘查工作中的数据建立了一个统一的平台，这也为信息化技术的引入铺平了道路，基于多源数据融合技术建立的数据平台可以利用计算机技术实现对于大量数据的高效分析处理，实现对于矿化蚀变过程的准确分析。同时也可以将遥感图进行三维建模，对于后期找矿靶区的确定提供指导，提升开采效率。结束语 总而言之，为了应对目前日益增长的矿产需求量，矿产企业愈发重视地质矿产勘查工作，多源数据融合技术便在这一大趋势下被引入了地质矿产勘查工作中。结合遥感技术并通过前期的数据初选及预处理工作，多源数据融合技术可以实现对于多种勘查数据的整合，便于后期进行构造信息及矿化蚀变信息的提取，为选矿靶区圈定提供指导，提升矿产开采效率。参考文献：
多源数据集成技术 ? 支持多种数据格式转换 SuperMap GIS 具有强大的数据交换能力，可与流行的GIS 和CAD 软件交换数据，实现多种数据格式的输入和输出。 SuperMap GIS 不仅支持E00、MIF 和DXF 等流行的文本交换格式，而且支持TAB （MapInfo ）、SHP （ArcView ）、Coverage （ArcInfo ）、DWG （AutoCAD ）、DGN （MicroStation ）等二进制数据格式。此外，SuperMap GIS 还支持各种影像数据格式，包括TIFF 、GEO-TIFF 、BMP 、JPEG 、IMG （Erdas ）、MrSID 、ECW 等（MrSID 和ECW 是基于小波变换的影像压缩格式）。 ? 多源空间数据无缝集成技术 由于地理信息系统的图形数据格式各异，给信息共享带来极大的不便，所以，“如何解决多格式数据源集成”成为GIS 应用系统开发中的重要难题之一。SuperMap GIS 的多源空间数据无缝集成（SIMS, Seamless Integration of Multi-source Spatial-data ）技术，无需转换就可以直接访问多种格式的数据。除SuperMap 本身的数据格式以外，还支持直接访问DWG 、DXF 和DGN 等矢量数据格式，以及BMP 、JPEG 、TIF 、RAW 等栅格数据格式。该技术具有多格式数据直接访问、格式无关数据集成、位置无关数据集成和多源数据复合管理等特点。 由于SIMS 采用开放式引擎自动载入技术，可以自行定制特殊的数据引擎，达到SuperMap GIS 直接访问该数据格式的目的。此项技术对于具有特殊数据格式而又不便于公开的特殊行业具有重大意义。 矢量数据格式 栅格数据格式 Tab MIF TIFF BMP JPEG 数据转换泵 Coverage E 00、SHP DXF DWG DGN MrSID ECW IMG SuperMap GIS 数据文件 SuperMap GIS 空间数据库
一种多源异构数据融合技术在PGIS系统中 的研究与应用 周凯1，2 （1.四川省公安科研中心，四川成都610015；2.四川大学，四川成都610064） [摘要]警用地理信息系统是公安机关维稳处突、打击违法犯罪行为的重要技术支撑平台。多源异构数据是维护该平台安全稳定、高效运行的底层核心数据。文章以某PGIS平台为例，针对多源异构数据使用中遇到的数据不兼容、格式不统一、属性数据非空间化、空间数据格式转化等问题，提出了一种多源异构数据的融合模型。通过属性清洗、属性追加、空间匹配、格式转化等流程化操作，实现了空间与非空间、结构与非结构等数据的融合使用。并可以基于PGIS平台，统一加载、统一展示、统一应用。通过利用该技术，挖掘了数据的利用价值，为类似平台数据处理提供了技术参考与经验。 [关键词]多源异构；PGIS；数据融合 [中图分类号]P208[文献标识码]A[文章编号]1674-5019（2019）02-0051-05 A Multi-Source Heterogeneous Data Fusion Technology in PGIS System Research and Application ZHOU Kai 1引言 数据融合的本质是多方数据协同处理，以达到减少冗余、综合互补和捕捉协同信息的目的。该技术已成为数据处理、目标识别、态势评估以及智能决策等领域的研究热点[1]。通过数据融合，能够将研究对象获取的所有信息全部统一在一个时空体系内，得到比单独输入数据更多的信息。警用地理信息系统（Police Geographic Information System，简称“PGIS”）是多源异构数据技术、地理信息技术和公安系统业务工作高度结合的产物[2]。利用多源异构数据融合技术的PGIS平台，可以实现跨省、市、县等行政区域的一张图展示，可达到资源的高度统一利用。但在实际工作过程中，支撑PGIS平台的基础地理信息数据种类繁多，从平面线划图到精细化三维成果，从空间数据到非空间数据，从海量兴趣点数据（poi）到各种图像数据应有尽有。面对大数据时代海量的数据资源，如何保障PGIS平台业务数据、测绘地理信息数据、“一标三实”等数据高效利用，互补短板，统一承载于警用地理信息平台，协同发挥数据最大价值，提高数据在分析决策中的应用价值，是当下PGIS平台发展研究的热点问题[2-3]。 2研究方法2.1多源异构数据融合技术 数据集成是数据融合的基础，融合是集成基础上的深化应用，通过数据集成与融合，可派生出更高更有价值的新数据，从而得到数据的更多利用价值[4]。马茜等人[5]基于物联网背景下多源数据获取、存储等存在的不足，提出了一种约束数据质量的异构多源多模态感知数据获取方法，提高了数据精度，降低了网络资源消耗。韩双旺[6]基于XML语言实现异构多源空间数据的映射和模式转换，利用WebGIS技术实现了空间数据的集成和互操作。惠国保[7]结合深度学习技术，构思了一种泛化性强的多源异构影像数据融合深度学习模型，实现了深度学习技术在多源异构数据方面的信息提取与挖掘。李文闯等人[8]提出了一种基于可交换图像文件(EXIF)原理以数字图像为载体融合空间位置信息和一般形式属性的数据模型，实现了空间位置和一般属性嵌入到数字图像物理结构，达到了数据融合的效果。 本文不仅需要解决各种数据的属性嵌套、数据集成，而且要解决空间数据和非空间数据、空间数据与空间数据、结构数据与非结构数据之间的转化问题。因此鉴于实际需求，本文提出了基于FME平台下自主构建多源异构数据引擎，开展数据融合，实现多源异构数据的集成统一、高效利用。
工业互联网先进应用案例集 案例 可快速部署的低成本多源异构数据采集 和可视化解决方案 ——基于宜科边缘控制器和IoTHub平台的设 备智能管理应用 宜科（天津）电子有限公司成立于2003年，位于天津市西青经济开发区，在中国天津和德国德累斯顿设有研发中心。公司将“自动化技术+数字化工厂+工业互联网”定义为重要的发展战略，围绕工业互联网和智能制造业务持续发力，在工业互联网、智能制造、工业软件等方面积累了大量项目案例和实施经验，在工业互联网领域拥有核心产品和方案，在系统集成解决方案领域处于国内领先地位。 一、项目概况 宜科边缘控制器利用宜科IoTHub TM工业互联网赋能平台和Workbench工业APP快速开发工具，提供“设备连接+数据可视化”应用模式，将成为中小企业管理者直观了解工厂运行状态的最有效方式。
1. 项目背景 工业互联网平台是工业互联网建设的核心。工业设备上云正成为牵引工业互联网平台发展的先导性应用，也是当前工业互联网平台建设的切入点。 工业设备上云就是通过建立实时、系统、全面的工业设备数据采集体系。构建基于云计算的数据汇聚、分析和服务平台，实现工业设备状态监测、预测预警、性能优化，引导带来工业互联网平台的功能演进和规模商用。工业设备种类繁杂、数量多、通信协议与数据格式各异，当前尚缺乏有效的技术手段能够低成本、便捷地实现工业设备快速接入平台，导致绝大部分平台的设备接入数量有限。2. 项目简介 基于宜科边缘控制器，提供“数据+应用”的服务，充分利用IoTHub TM工业互联网赋能平台IaaS和PaaS资源，以及边缘计算设备的性能，提供数据采集能力和数据可视化应用。 数据：系统提供多种协议接口，支持典型的工业控制器、传感器、物联网采集监控终端，并提供协议连接及数据交互操作。 应用：工业APP开发工具，方便提供生产过程监控、调试维护配置、报警相应及处理、报表实时更新及显示生成等功能，方便平台应用。 数据+应用=服务 3. 项目目标 面向工业互联网应用，支持市场二十种以上主流工业协议解析，支持二十万台设备并发连接，提供面向工业现场的图形化、拖拽式和低代码快速开发APP 工具，支持本地、私有云、共有云混合或单一部署，提供多个重点垂直领域的基础应用APP。 在汽车整车及零部件、装备制造、冶金、电子信息领域发展客户上千家，设备连接数超百万。在设备监控、设备预测性维护、生产现场数据可视化、数据分析、实时报警等方面，帮助广大中小制造业企业解决“数据之痛”，提升生产效率，降低运营成本，提高管理水平，助力企业做大做强。
多源数据集和报表系统的集成方法 一般情况下，数据集只从单个数据源中查询数据，亦即一个数据集仅仅依赖于单个数据源。但是，有些报表的单个数据集可能来自多个数据库服务器，甚至来自不同的数据库管理系统。为这样的报表准备数据时，需要使用联合查询技术，设计来自多个数据源的数据集。 常见的多源数据集分两种情况：多Oracle数据源和Oracle与SQL Server异构数据源。 3.1 多Oracle数据源 如果需要将来自多个Oracle服务器上的数据集成在一张报表上，可采用Oracle的数据库链接（Database Link）技术，具体使用方法如下： （1）以具备CREATE DBLINK权限的身份登录到Oracle数据库，这个数据库应该是报表取数的数据源库。 （2）创建数据库链接。假设从另一台Oracle服务器db2server抓取数据，创建数据库链接的语句应形如： create database link ORCL02 connect to db2user identified by db2userpassword using ' (DESCRIPTION = (ADDRESS_LIST = (ADDRESS = (PROTOCOL = TCP)(HOST = db2server)(PORT = 1521)) ) (CONNECT_DATA = (SERVER = DEDICATED) (SERVICE_NAME = db2servicename) ) )'; 其中： db2user：提供数据的Oracle服务器上的用户名，不要带引号。例如：system。 db2userpassword：登录提供数据的Oracle服务器的密码，不要带引号。 db2server：提供数据的Oracle服务器的计算机名或IP地址，不要带引号。
1.多源信息融合技术的起源发展与研究应用 1．1多源信息融合的概念 多源信息融合(multi-source information fusion)亦称多传感器信息融合，是一门新兴边缘学科。多源的含义是广义的，包含多种信息源如传感器、环境信息匹配、数据库及人类掌握的信息等，信息融合最初的定义是数据融合，但随着信息技术的发展，系统信息的外延不断扩大，已经远远超出了数据的简单含义，包括了有形的数据、图像、音频、符号和无形的模型、估计、评价等，故学术界、技术界均认为使用信息融合更能代表其含义。多源信息融合的优势可以表现在密集性、有效性、互补性、冗余性、实时性、低成本性、高适应性等多个方面。 1.2多源信息融合技术的起源与发展 这一概念是在20世纪70年代提出的。当时新一代作战系统中依靠单一传感器提供信息已无法满足作战需要，必须运用多传感器集成来提供多种观测数据，通过优化综合处理提供相对准确的战场信息，从而更好地把握战场态势。在多传感器系统中，由于信息表现形式的多样性，信息数量的巨大性，信息关系的复杂性，以及要求信息处理的及时性，都已大大超出了人脑的信息综合处理能力，所以多传感器数据融合(Multi-sensor Data Fusion简称MSDF)便迅速发展起来。20多年来，MSDF技术在现代 C3I(指挥、控制、通信与情报Command, Control, Communication and Intelligence)系统中和各种武器平台得到了广泛的应用[3]，在工业、农业、航空航天、目标跟踪和惯性导航等民用领域也得到了普遍关注。 国外对信息融合技术的研究起步较早。第二次世界大战末期，高炮火控系统开始同时使用了雷达和光学传感器，这有效地提高了高炮系统的瞄准精度，也大大提高了抗恶劣气象、抗干扰能力。现代信息融合概念 70 年代初开始萌芽。最初主要在多种雷达同时运用的条件下执行同类传感器信息融合处理，以后逐渐扩展。70 年代末期开始引入电子战、ESM 系统，引起人们高度重视。从80年代起，美国在研发，学术讨论，以及推广多源信息融合技术等方面始终走在前列。尤其在海湾战争结束后，美国更加重视信息自动综合处理技术的研究，并有效带动了其他北约国家在这方面的研究工作，如英国陆军开发了炮兵智能融合系统(AIDD)、机动和控制系统(WAVELL)等，德国准备在“豹2”坦克的改进中运用信息融合和人工智能等关键技术。
(19)中华人民共和国国家知识产权局 (12)发明专利申请 (10)申请公布号 (43)申请公布日 (21)申请号 201910294678.8 (22)申请日 2019.04.12 (71)申请人 黄红梅 地址 510610 广东省广州市天河区沾益直 街1号 申请人 何卓华 谢新屋 (72)发明人 黄红梅 何卓华 谢新屋 (74)专利代理机构 北京联瑞联丰知识产权代理 事务所(普通合伙) 11411 代理人 张学府 (51)Int.Cl. G06F 16/35(2019.01) G06F 16/903(2019.01) (54)发明名称 多源异构数据融合优化方法 (57)摘要 本发明公开了一种多源异构数据融合优化 方法，包括如下步骤：A)对数据实例、类别和属性 进行提取和分析，建立词库和短文本库；B)从互 联网获取多源异构数据；C)对多源异构数据进行 规范化处理，生成短文本；短文本有多个词构成， 规范化处理包括分词和去除停用词；D)将短文本 作为待匹配短文本，将待匹配短文本与短文本库 中存储的短文本进行匹配，得到短文本匹配结 果；E )根据短文本匹配结果对数据进行融合，建 立大数据内容模型，得到数据融合结果；F )对数 据融合结果进行评价，得到评价结果；评价结果 包括优、良、中和差。本发明能建立完整性、准确 性和一致性较强的高质量的大数据知识库。权利要求书2页 说明书5页 附图1页CN 110110082 A 2019.08.09 C N 110110082 A
1.一种多源异构数据融合优化方法，其特征在于，包括如下步骤： A)对数据实例、类别和属性进行提取和分析，建立词库和短文本库； B)从互联网获取多源异构数据； C)对所述多源异构数据进行规范化处理，生成短文本；所述短文本由多个词构成，所述规范化处理包括分词和去除停用词； D)将所述短文本作为待匹配短文本，将所述待匹配短文本与短文本库中存储的短文本进行匹配，得到短文本匹配结果； E)根据所述短文本匹配结果对数据进行融合，建立大数据内容模型，得到数据融合结果； F)对所述数据融合结果进行评价，得到评价结果；所述评价结果包括优、良、中和差。 2.根据权利要求1所述的多源异构数据融合优化方法，其特征在于，所述步骤D)进一步包括： D1)计算所述待匹配短文本与短文本库中的短文本之间的字符匹配因子； D2)计算所述待匹配短文本与短文本库中的短文本之间的词匹配因子； D3)根据所述字符匹配因子和词匹配因子，对所述待匹配短文本与短文本库中的短文本进行匹配，计算短文本匹配因子。 3.根据权利要求2所述的多源异构数据融合优化方法，其特征在于，所述字符匹配因子 采用如下公式进行计算： 其中，F 1表示所述字符匹配因子，c 1表示所述待匹配短文本包含的字符数，c 2表示所述短文本库中的短文本包含的字符数，p表示匹配的字符数，h表示换位的数目。 4.根据权利要求3所述的多源异构数据融合优化方法，其特征在于，所述词匹配因子采 用如下公式进行计算： 其中，F 2表示所述词匹配因子，n表示维数较高短文本向量的维数，σ表示修正因子，σ∈ [0.9，1.3]，用于修正增加词带来的误差，A i 为所述待匹配短文本中的第i个词，B i 为短文本库中的短文本中的第i个词。 5.根据权利要求4所述的多源异构数据融合优化方法，其特征在于，所述短文本匹配因 子采用如下公式进行计算： 其中，Y表示短文本的匹配因子；设定匹配阈值Y 0，若Y≥Y 0，则说明所述待匹配短文本与短文本库中的短文本相匹配，若Y＜Y 0，则说明所述待匹配短文本与短文本库中的短文本不匹配。 6.根据权利要求5所述的多源异构数据融合优化方法，其特征在于，所述步骤E)具体 权 利 要 求 书1/2页2CN 110110082 A
1.历史数据的迁移整合 本次系统是在原有系统的基础上开发完成，因此，新旧系统间就存在着切换的问题。另外，新开发的系统还存在与其他一些应用系统，例如，企业信用联网应用系统、企业登记子网站、外资登记子网站等系统进行整合使之成为一个相互连通的系统。本章将针对新老系统迁移和整合提出解决方案。 1.1.新老系统迁移整合需求分析 系统迁移又称为系统切换，即新系统开发完成后将老系统切换到新系统上来。 系统切换得主要任务包括：数据资源整合、新旧系统迁移、新系统运行监控过程。数据资源整合包含两个步骤：数据整理与数据转换。数据整理就是将原系统数据整理为系统转换程序能够识别的数据；数据转换就是将整理完成后的数据按照一定的转换规则转换成新系统要求的数据格式，数据的整合是整合系统切换的关键；新旧系统迁移就是在数据正确转换的基础上，制定一个切实可行的计划，保证业务办理顺利、平稳过渡到新系统中进行；新系统运行监控就是在新系统正常运转后，还需要监控整个新系统运行的有效性和正确性，以便及时对数据转换过程中出现的问题进行纠正。 系统整合是针对新开发的系统与保留的老系统之间的整合，以保证新开发的系统能与保留的老系统互动，保证业务的顺利开展。主要的任务是接口的开发。 1.2.需要进行迁移整合的系统 1.3.数据迁移整合分析 根据招标文件工商总局新建系统的数据库基于IBM DB2，而原有系统的数据库包括ORACLE，SQL Server，DB2。这种异构数据在总局主要存在于两个方面，即部门内部的异构数据和上下级部门之间的异构数据。同时，系统的技术构件有.NET
和J2EE两大类。 对于部门内部的异构数据的集成采用数据移植的方法，如：如果数据有基于DB2管理的，有ORACLE管理的，有SQL Server管理的，就根据新系统DB2的要求，把ORACLE的数据迁移到DB2数据库中，把SQL Server的数据迁移到DB2数据库中。 上下级国工商局之间的异构数据的集成利用数据交换系统来完成，重点在于数据库存储标准、交换标准的制定和遵守，保证数据的共享，这部分工作由数据中心完成。 1.4.系统迁移和整合目标 1.4.1.系统迁移的主要目标： 1.保证系统正常运行 在数据转换过程中，由于原有的系统数据的复杂性，给数据转换工作带来了很大的难度，为了在新系统启动后不影响原系统正常的业务，因此数据转换完成后，必须保证新系统的正常运行。 2.保证原有系统在新系统中的独立性 原有系统是独立运行的系统，数据在新系统中虽然是集中存放的，但是各个系统由于存在业务上的差别，数据在逻辑上应当保持一定的独立性。 1.4. 2.系统整合的目标： 保证直接关联的系统互动，保证业务的正常办理。例如公众服务系统与基本业务系统之间互动，基本业务与协同业务之间互动等等。
多源数据集成技术探讨 （胡洁 高庆方 李辉 王新福） （黄河勘测规划设计有限公司测绘信息工程院，河南省郑州市花园北路60号，450045） 摘 要：随着地理信息系统(GIS)的发展和广泛应用，地理数据日益丰富。由于地理数据采集方式和应用软件的不同，它们的格式及结构也各不同，导致了多源性地理数据的产生。本文总结了地理数据多源性的主要表现，提出了多源数据集成和共享的必要性；介绍了多源数据集成的三个必要条件及相互间的关系；以黄河基本河情信息系统１项目为例，介绍实现多源数据有效集成的方法、策略。研究表明，这种多源数据的处理及管理模式，既能实现多源数据的有效集成，又能提供对多平台的地理数据服务, 非常适合企业化的GIS数据组织，将会成为未来地理信息系统的发展方向。 关键词：地理信息系统多源数据 数据集成 黄河基本河情信息系统 1 引言 地理信息系统是在计算机软硬件支持下，采集、存储、管理、检索、分析和描述地理空间数据，实时提供各种空间的和动态的地理信息，用于管理和决策过程的计算机系统[1]。地理空间数据是GIS 的操作对象，是GIS 所表达的现实世界经过模型抽象的实质性内容；它是GIS 中最基础的、也是最重要的部分。近年来，随着GIS应用领域的越来越广泛，地理数据也在日益丰富。但是，由于地理数据采集方式和应用软件的不同，这些地理数据的格式及结构也不同，导致了多源地理数据的产生。目前，GIS 已进入了社会化GIS 时代，GIS 应用需要集多种数据源以及不同数据格式的数据才能完成；随着GIS化的进一步发展、网络技术的广泛应用以及地理数据的数量、复杂性和多样性的增加，多源地理数据的共享和集成已成为必然趋势。 项目背景 “数字黄河”工程基础地理信息平台构建项目 作者简介 胡洁,女,武汉大学硕士,助理工程师,主要从事地理信息系统的开发与研究、遥感技术制图应用，e-mail：hujie519@https://www.doczj.com/doc/2b6745131.html,.
Traditional Chinese Medicine 中医学, 2018, 7(5), 282-285 Published Online September 2018 in Hans. https://www.doczj.com/doc/2b6745131.html,/journal/tcm https://https://www.doczj.com/doc/2b6745131.html,/10.12677/tcm.2018.75047 On the Significance of the Method of Multi-Source Heterogeneous Data Fusion in TCM Hanqing Zhao, Zhiguo Wang* Institute of Basic Research in Clinical Medicine, China Academy of Chinese Medical Sciences, Beijing Received: Aug. 18th, 2018; accepted: Aug. 26th, 2018; published: Sep. 3rd, 2018 Abstract Multi-source isomerism is one of the basic features of large data. It is a hot issue in recent years to study traditional Chinese medicine diagnosis and treatment methods based on data. Building a generalization model is one of the methods to solve multisource heterogeneous data fusion and shares and extends the scope of traditional Chinese medicine data. However, the complexity of the large data of traditional Chinese medicine is high. Many problems, such as rich semantics, uneven distribution and poor objectivity, have greatly restricted the research and application of big data in Chinese medicine. In this paper, the importance of multi-source heterogeneous data fusion me-thod under the background of Internet+ large data is discussed, and the importance of mul-ti-source heterogeneous data fusion method based on the combination of disease and syndrome is discussed. It is the original cause of the important component of the large data of traditional Chi-nese medicine in the future, and the further study of the multi-source isomerism of traditional Chinese medicine. The method of large data fusion provides a theoretical reference. Keywords TCM Informatization, Diagnosis and Treatment Mode, Combination of Disease and Syndrome, Big Data, Multi-Source Heterogeneous Fusion 论中医药多源异构大数据融合方法研究的意义 赵汉青，王志国* 中国中医科学院中医临床基础医学研究所，北京 收稿日期：2018年8月18日；录用日期：2018年8月26日；发布日期：2018年9月3日 *通讯作者。
智慧城市多源异构大数据处理框架 摘要：智慧城市建设的重心已由传统IT系统和信息资源共享建设，转变为数据的深度挖掘利用和数据资产的运营流通。大数据中心是数据资产管理和利用的实体基础，其核心驱动引擎是大数据平台及各类数据挖掘与分析系统。讨论了智慧城市大数据中心建设的功能架构，围绕城市多源异构数据处理的实际需要，对数据中心大数据平台的架构进行了拆分讲解，并以视频大数据处理为例，阐述了数据中心中大数据平台的运转流程。 关键词：智慧城市；大数据；多源异构；视频分析 1 引言 随着智慧城市建设逐步由信息基础设施和应用系统建设迈入数据资产集约利用与运营管理阶段，城市大数据中心已成为智慧城市打造核心竞争力、提升政府管理效能的重要工具。一方面政府借助大数据中心建设可以将有限的信息基础设施资源集中高效管理和利用，大幅降低各自为政、运维机关庞杂、财政压力过大的问题；另一方面，可以在国务院、发展和改革委员会大力支持的政策东风下，打破部门间数据壁垒，推动政府各部门职能由管理转为服务，提高数据共享利用率和透明度。以大数据中心为核心构建城市驾驶舱，实现城市运转过程的实时全面监控，提高政府决策的科学性和及时性。智慧城市大数据中心建设功能框架如图1所示，其中针对不同部门的数据源，由数据收集系统完成数据的汇聚，并根据数据业务类型和内容的差异进行粗分类。为避免过多“脏数据”对大数据平台的污染，对于批量数据，不推荐直接将数据汇入大数据平台，而是单设一个前端原始数据资源池，在这里暂时存储前端流入的多源异构数据，供大数据平台处理调用。
图1 智慧城市大数据中心功能框架 大数据平台是城市大数据中心运转的核心驱动引擎，主要完成多源数据导入、冗余存储、冷热迁移、批量计算、实时计算、图计算、安全管理、资源管理、运维监控等功能[1]，大数据平台的主体数据是通过专线连接或硬件复制各政府部门数据库的方式获得，例如地理信息系统（geographic information system，GIS）数据、登记信息等。部分数据通过直连业务部门传感监测设备的方式获得，例如监控视频、河道流量等。大数据平台的输出主要是结构化关联数据以及统计分析结果数据，以方便各类业务系统的直接使用。 不同部门间共享与交换的数据不推荐直接使用原始数据，一方面是因为原始数据内容密级存在差异，另一方面是因为原始数据内容可能存在错误或纰漏。推荐使用经过大数据平台分类、过滤和统计分析后的数据。不同使用部门经过政务信息门户统一需求申请和查看所需数据，所有数据的交换和审批以及数据的监控运维统一由数据信息中心负责，避免了跨部门协调以及数据管理不规范等人为时间的损耗，极大地提高了数据的流通和使用效率。另外，针对特定的业务需求，可以基于大数据平台拥有的数据进行定制开发，各业务系统属于应用层，建设时不宜与大数据平台部署在同一服务器集群内，并且要保证数据由大数据平台至业务系统的单向性，尽量设置业务数据过渡区，避免应用系统直接对大数据平台核心区数据的访问。 目前主流大数据平台都采用以Hadoop为核心的数据处理框架，例如Cloudera公司的CDH（Cloud er a Distribution for Hadoop）和星环信息科技（上海）有限公司（Transwarp）的TDH（Transwarp Data Hub）、Apache Hadoop等。以Hadoop为核心的大数据解决方案占大数据市场95%以上的份额，目前国内80%的市场被Cloudera占有，剩余20%的市场由星环信息科技（上海）有限公司、北京红象云腾系统技术有限公司、华为技术有限公司等大数据公司分享。随着数据安全意识的增强、价格竞争优势的扩大，国内企业在国内大数据市场的份额和影响力正在快速提升。大数据的应用历程可归纳为3个阶段：第一个阶段是面向互联网数据收集、处理的搜索推荐时代；第二个阶段是面向金融、安全、广播电视数据的用户画像和关系发现时代；第三个阶段是面向多数据源与多业务领域数据的融合分析与数据运营时代，并且对数据处理规模和实时性的要求大幅提高。 本文在智慧城市大数据中心建设方案的基础上，阐述了多源异构大数据处理的框架和流程，并以最典型的非结构化视频大数据处理为例，介绍了多源异构大数据处理框架运转的流程。 2 多源异构大数据处理框架 2.1 系统整体架构 多源异构是大数据的基本特征[2]，为适应此类数据导入、存储、处理和交互分析的需求，本文设计了如图2所示的系统框架，主要包括3个层面的内容：基础平台层、数据处理层、应用展示层。其中，基础平台层由Hadoop生态系统组件以及其他数据处理工具构成，除了提供基本的存储、计算和网络资源外，还提供分布式流计算、离线批处理以及图计算等计算引擎；数据处理层由多个数据处理单元组成，除了提供基础的数据抽取与统计分析算法外，还提供半结构化和非结构化数据转结构化数据处理算法、数据内容深度理解算法等，涉及自然语言处理、视频图像内容理解、文本挖掘与分析等，是与人工智能联系最紧密的层，该层数据处理效果的好坏直接决定了业务应用层数据统计分析的准确性和客户体验；应用展
一、项目背景及必要性 (一)国内外现状和技术发展趋势 大数据是指海量的数据加上复杂的数据类型。从产业的发展角度看，我们对数据的利用经历了传输、传播、处理三个阶段，而今眼目下，对数据的利用正处在处理这个阶段，即如何处理、如何管理、如何应用，如何优化是现阶段的主要工作。 大数据的具体特点主要表现为四个“V”：一是体量浩大（Volume），数据集合的规模已从GB到TB再到PB级，甚至已经开始以EB和ZB来计算。著名咨询公司IDC的研究报告称，未来10年全球大数据将增加50倍，管理数据仓库的服务器的数量将增加10倍。二是类型复杂（Variety），大数据类型包括结构化数据、半结构化数据和非结构化数据。现代互联网应用呈现出非结构化数据大幅增长的特点，到20152年末非结构化数据将达到整个数据量的75%以上。三是生成迅速(Velocity)，大数据通常以数据流的形式动态、快速地产生，具有很强的时效性。数据自身的状态与价值也随时空变化而发生演变，数据的涌现特征明显。四是价值巨大但利用密度低(Value)，基于传统思维与技术让人们在实际环境中面临信息泛滥而知识匮乏的窘态。 当今社会，新摩尔定律得到验证，大数据以成为各行各业的焦点。数据的来源多样化：以多源异构数据为代表的非结构化数据占世界上信息总量的95%以上，剩下的5%为结构化数据，包括网页、文本、交易数据、邮件、高清视频、3D视频、语音、图片、地质勘测
数据、多源异构数据探测数据等等，这些数亿TB的数据正以超乎人们想象的速度增长，这对数据的存储系统的容量和实时计算速度提出了空前的要求。同时，大到智慧地球，小到智慧城市的数字化建设，使其越来越多的人、设备和传感器通过数字网络连接起来，产生、传送、分享和访问数据的能力也得到彻底变革。这些行业包括：互联网、制造业、医疗行业、媒体行业、零售销售行业、金融业、能源业、航空航天等等。预计2015年，超过40亿人（世界人口的60%）在使用各种智能终端，以全方位的方式与各行各业发生交互融合。其中大约12%拥有智能终端——其渗透率以每年20%以上的速度增长。如今，3000多万联网传感器节点分布在互联网、交通、汽车、工业、公用事业和零售部门，其数量正以每年30%以上的速度增长。预计到2020年，全球数据使用量预计暴增44倍，达到35.2ZB。35.2ZB也就是说全球大概需要376亿个1TB硬盘来存储数据。 人们对数据日益广泛的需求导致存储系统的规模变得越来越庞大，管理越来越复杂，数据的爆炸性增长和管理能力的相对不足之间的矛盾日益尖锐。同时，数据的高速增长也对存储系统的可靠性和扩展性提出了挑战，海量数据的共享、分析、搜索也显得越来越重要，充分挖掘海量数据中的有效价值。这就要求我们得实现一种有别于传统系统而全新的存储管理平台，该平台必须具备高扩展性、高可靠性、高时效性，同时也需要具备高经济性，只有这样才能更好的为国民经济和生活服务。 国外的大数据发展现状，以GOOGLE/FACEBOOK为代表的