当前位置:文档之家› 数据管控规范完整版

数据管控规范完整版

数据管控规范完整版
数据管控规范完整版

数据管控规范

HEN system office room 【HEN16H-HENS2AHENS8Q8-HENH1688】

数据管理架构

数据管理平台功能蓝图

数据管理就是对交易中心现有的业务支撑系统的数据进行统一的数据管理、质量管控、并且通过标准的共享模式,实现核心数据统一存储,维护和使用的问题,提升交易中心现有数据的安全存储和高效使用等能力,并更加深入地进行数据挖掘等工作,为中心创造更多的价值。未来的数据管理平台将对中心现有系统的数据进行统一的数据的整合、数据的管控,并运用数据进行统一的服务管控来提升服务共享的水平,为中心的服务提供全方面的数据支撑。数据管理平台的功能蓝图如图所示:数据整合域,是对现有业务系统的数据进行采集和清洗转换,并对采集过程中

的数据进行质量检测,来确保整合数据的准确性和可靠性。

数据管控域,对采集到数据按照其不同的属性进行分类存储管控,对数据的质

量、数据的安全以及信息的生命周期进行统一的管理,并对数据在使用过程

的各种信息进行统计分析。

服务共享域,利用数据管理平台已有的数据资源,进行自定义的数据服务配

置,定制出符合要求的服务,进行相关服务流程的编排,通过数据中心将服

务进行发布。

服务管理域,主要是对提供的服务进行管理,包括服务应用的管理,服务流程

的管理以及服务监控。

数据集成

数据整合就是将离散于各个业务系统中的数据进行集中化。数据整合阶段主要分为以下三个步骤执行:

数据类型识别

根据业务使用情况分析目前各个系统中的数据实体,其中哪些是主数据,哪些是非主数据但需要共享的数据,哪些是私有数据。数据类型会作为制定同步规则和清洗规则的重要依据。

数据同步规则确定

分析采集的各种数据需要达到的同步频率,从实时、准实时到天、月不等,针对不同的同步频率需求结合每次同步的数据量来选择同步方式,ETL(抽取-转化-加载)和ESB(企业服务总线)分别适用于不同场景。ETL本身也有多种具体的技术手段来实现各种情况下的同步,如Hotplug、全表对比、时间戳等。在这里,将根据不同的数据类别和数据使用频度和需求频度等情况,制定出相应的数据同步的机制,采用实时数据整合和批量数据整合两种方式进行数据的整合。

数据清洗规则确定

在进行数据整合过程中,由于不同系统中可能重复出现的数据,以及数据本身的缺失和错误等问题,为了避免由于不同系统中相同数据由于编码规则、格式之间的差异,在清洗过程中需要制定统一的数据清洗规则,对数据进行清洗和转换,确保数据管理平台中的数据能够保持一致性。

同时,在数据清洗的过程中,需要对采集数据的质量以及清洗后数据的质量进行检测。其中,在数据采集过程中,对采集的数据进行整合,确保采集的数据都能满足质量要求,能够通过正确的清洗和转换;对于转换完成的数据,通过再次的检测,保证转换数据的一致性和正确性,从而确保数据的准确行和权威性。

数据管控

数据管控就是对于进行整合后的数据进行相关的管控,使其能够满足交易中心管理对于数据使用的各种需求。

数据生命周期规划

数据生命周期规划,就是对数据从在各个应用系统的中产生,然后通过各种采集整合手段聚合到数据管理平台,直至最终通过建立各种主题数据仓库提供各种数据服务的整个过程进行规划,使数据能够满足各种业务的使用需要。

应用数据库主要是为交易中心主要的业务支撑系统和内部管理系统的应用提供数据存储和访问。在应用数据库只存储支撑本系统运行的数据资源,以满足本系统的使用要求。应用数据库的数据在进行日常业务处理的过程中,不断的进行更新,以便同实际的业务情况保持一致。

数据管理平台

应用数据库的数据,经过统一的清洗和转换后,进入数据管理平台进行统一的存储管理。在数据管理平台,将通过建立统一的数据视图,为各种数据服务提供数据。数据管理平台的数据更新根据不同的数据需求和应用系统的实际情况进行区分,通过实时的数据采集和批量数据采集两种方式进行。

数据仓库

数据仓库是为了满足某一特定的决策支持和联机分析而建立的结构化。交易中心在进行业务活动和内部管理的过程中形成了大量的数据资源,利用数据仓库,对已有的数据资源进行深入的挖掘和联机分析,即可以满足交易中心日常的数据查询要求;又可充分挖掘数据内涵的意义,为中心的各项业务决策提供良好的支持。例如,根据交易中心目前的使用要求,建立交易信息、企业信息、专家信息的主题数据仓库,为中心的各项活动提供业务支持。

元数据管理

元数据是关于数据的数据,元数据主要用于在数据仓库里描述数据及其环境,它是在数据仓库建设过程中所产生的有关数据源定义,目标定义,转换规则等相关的关键数据。因此,元数据的管理对于数据仓库有着重要的意义。

在目前的数据管理平台上,将提供对各数据的实体定义和流程管控管理两方面的元数据进行管理。其中,数据实体管理是对各个数据实体来进行实体定义,对实体之间的关系进行约束,实现对数据管理平台里所有数据实体的管理。对于流程管控管理方面,通过制定规范的数据流程制度,严格控制数据的流向以及数据在各流程中的情况,对数据管理平台中的各项数据流程进行管控。

主数据管理

主数据是描述核心业务实体(如招标项目、企业和专家)的一个或多个属性,主数据管理具有很高的重要性。首先,完善的主数据管理可以使各个业务视角能获得一致的数据基础,减少数据差异带来的业务错误和客户投诉,还可以充分发挥各个业务视角数据管理和维护的能力,而不加重业务部门的负担,另外,主数据管理是SOA实施过程中,关键业务对象抽象的重要基础。主数据管理具备以下功能特点:

整合:在组织层面上整合了现有应用系统的主数据信息,进行主数据的集中处理。

共享:主数据作为组织权威的统一、一致的数据,为组织各应用系统提供准确的共享数据。

统一:实现对于客户、产品和供应商都通用的主数据形式,加速数据输入、检索和分析。

并行管理:支持数据的多用户管理,包括限制某些用户添加、更新或查看维护主数据的流程的能力。

集成能力:集成产品信息管理、客户关系管理、客户数据集成以及可对主数据进行分析的其他解决方案。

在交易中心的系统中,主要的主数据为招投标项目主数据、企业主数据和专家主数据,各个主数据又由若干个相关实体组成。通过统一的主数据管理,可以规范数据的录入和使用,使得数

通过对于系统的整合和主数据管理后,对于数据的使用和管理都更为明晰,使得系统间的数据交互更加清晰,系统间的耦合程度大为降低,系统的效率大为提高。

数据质量管理

数据质量的好坏是数据应用的基础,因此,在数据管理平台中,对于数据质量的管理也是数据管理的重点。对于数据质量的管理,主要分为对数据使用的流程进行管理,以保证数据的使用符合规范的流程,保证了数据使用的规划;对数据使用的应用服务进行管理,以便对于各项数据服务的情况有一个全面、细致的了解;最后,对于数据服务的信息进行监测,对于异常情况进行预警,并输出服务信息报表,以便对服务情况进行分析。

服务共享

数据共享的基本思路是将现存系统中点对点的网状结构改造为基于数据总线的模式。通过运用数据总线的模式,通过统一规范的数据共享机制使得对于数据管理的可

数据交换情况,并以此进行数据总线的改造,形成基于总线的数据共享模式,以期达到服务共享的目的。

整合前的系统之间的数据交互关系复杂,且企业库等系统同交易系统形成一个大的系统,不便于数据服务的共享。运用数据总线的思想,我们构建了基于总线的数据服务形式,情况如下图所示。

如图所示,通过数据总线的形式,我们整合了所有系统的数据,并通过数据总线的形式,提供了统一的数据服务,使得数据的管理和使用能够有一个统一的机制,以便能够更好的达到服务共享的目的。

服务治理

在总线上实现数据服务共享后,为了使用户更好的了解数据服务的应用情况,需要在为系统上搭建数据服务的维护管理功能。用户可通过图形化的方式实现对数据服务的监控、统计和分析。

服务治理功能主要用来对众多的服务进行管理和控制(包括此处的数据服务,也包括今后将实现的业务服务),为服务消费者、服务供应商、SOA运营人员提供方便的服务治理工具。对于服务消费者,通过该模块可以更好的查找到需要的服务及更准确的使用服务。对于服务供应商,通过该模块可以方便的进行服务的注册和发布,解决目前ESB对服务的注册和发布过程复杂技术门槛高的问题。

此外,通过一系列的图形化的监控手段,使得监控管理人员能够清晰的查看目前的服务情况,并通过一系列的报表,对于整体的服务情况有了一个清晰的了解。对于SOA运营人员,通过该模块做到对服务的统一管理,统一控制、统一监视,将大大降低管理的成本和提高管理的效果。

数据管控规范标准[详]

1数据管理架构 1.1数据管理平台功能蓝图 数据管理就是对交易中心现有的业务支撑系统的数据进行统一的数据管理、质量管控、并且通过标准的共享模式,实现核心数据统一存储,维护和使用的问题,提升交易中心现有数据的安全存储和高效使用等能力,并更加深入地进行数据挖掘等工作,为中心创造更多的价值。未来的数据管理平台将对中心现有系统的数据进行统一的数据的整合、数据的管控,并运用数据进行统一的服务管控来提升服务共享的水平,为中心的服务提供全方面的数据支撑。数据管理平台的功能蓝图如图所示: ●数据整合域,是对现有业务系统的数据进行采集和清洗转换,并对采集过程中的数 据进行质量检测,来确保整合数据的准确性和可靠性。 ●数据管控域,对采集到数据按照其不同的属性进行分类存储管控,对数据的质量、 数据的安全以及信息的生命周期进行统一的管理,并对数据在使用过程的各种信息 进行统计分析。 ●服务共享域,利用数据管理平台已有的数据资源,进行自定义的数据服务配置, 定制出符合要求的服务,进行相关服务流程的编排,通过数据中心将服务进行发布。

●服务管理域,主要是对提供的服务进行管理,包括服务应用的管理,服务流程的管 理以及服务监控。 1.2数据集成 数据整合就是将离散于各个业务系统中的数据进行集中化。数据整合阶段主要分为以下三个步骤执行: ●数据类型识别 根据业务使用情况分析目前各个系统中的数据实体,其中哪些是主数据,哪些是非主数据但需要共享的数据,哪些是私有数据。数据类型会作为制定同步规则和清洗规则的重要依据。 ●数据同步规则确定 分析采集的各种数据需要达到的同步频率,从实时、准实时到天、月不等,针对不同的同步频率需求结合每次同步的数据量来选择同步方式,ETL(抽取-转化-加载)和ESB(企业服务总线)分别适用于不同场景。ETL本身也有多种具体的技术手段来实现各种情况下的同步,如Hotplug、全表对比、时间戳等。在这里,将根据不同的数据类别和数据使用频度和需求频度等情况,制定出相应的数据同步的机制,采用实时数据整合和批量数据整合两种方式进行数据的整合。 ●数据清洗规则确定 在进行数据整合过程中,由于不同系统中可能重复出现的数据,以及数据本身的缺失和错误等问题,为了避免由于不同系统中相同数据由于编码规则、格式之间的差异,在清洗过程中需要制定统一的数据清洗规则,对数据进行清洗和转换,确保数据管理平台中的数据能够保持一致性。 同时,在数据清洗的过程中,需要对采集数据的质量以及清洗后数据的质量进行检测。其中,在数据采集过程中,对采集的数据进行整合,确保采集的数据都能满足质量要求,能够通过正确的清洗和转换;对于转换完成的数据,通过再次的检测,保证转换数据的一致性和正确性,从而确保数据的准确行和权威性。

数据安全管理办法 解读

数据安全管理办法解读 第一章总则 第一条为了维护国家安全、社会公共利益,保护公民、法人和其他组织在网络空间的合法权益,保障个人信息和重要数据安全,根据《中华人民共和国网络安全法》等法律法规,制定本办法。 第二条在中华人民共和国境内利用网络开展数据收集、存储、传输、处理、使用等活动(以下简称数据活动),以及数据安全的保护和监督管理,适用本办法。纯粹家庭和个人事务除外。 法律、行政法规另有规定的,从其规定。 第三条国家坚持保障数据安全与发展并重,鼓励研发数据安全保护技术,积极推进数据资源开发利用,保障数据依法有序自由流动。 第四条国家采取措施,监测、防御、处置来源于中华人民共和国境内外的数据安全风险和威胁,保护数据免受泄露、窃取、篡改、毁损、非法使用等,依法惩治危害数据安全的违法犯罪活动。 第五条在中央网络安全和信息化委员会领导下,国家网信部门统筹协调、指导监督个人信息和重要数据安全保护工作。 地(市)及以上网信部门依据职责指导监督本行政区内个人信息和重要数据安全保护工作。

第六条网络运营者应当按照有关法律、行政法规的规定,参照国家网络安全标准,履行数据安全保护义务,建立数据安全管理责任和评价考核制度,制定数据安全计划,实施数据安全技术防护,开展数据安全风险评估,制定网络安全事件应急预案,及时处置安全事件,组织数据安全教育、培训。 第二章数据收集 第七条网络运营者通过网站、应用程序等产品收集使用个人信息,应当分别制定并公开收集使用规则。收集使用规则可以包含在网站、应用程序等产品的隐私政策中,也可以其他形式提供给用户。 第八条收集使用规则应当明确具体、简单通俗、易于访问,突出以下内容:(一)网络运营者基本信息; (二)网络运营者主要负责人、数据安全责任人的姓名及联系方式; (三)收集使用个人信息的目的、种类、数量、频度、方式、范围等; (四)个人信息保存地点、期限及到期后的处理方式; (五)向他人提供个人信息的规则,如果向他人提供的; (六)个人信息安全保护策略等相关信息; (七)个人信息主体撤销同意,以及查询、更正、删除个人信息的途径和方法; (八)投诉、举报渠道和方法等; (九)法律、行政法规规定的其他内容。

数据中心机房管理规范

永诚财产保险股份有限公司 数据中心机房管理规范 第一章总则 第一条为规范公司数据中心机房安全管理,保护和支持关键业务的设备免受各种环境威胁,根据《永诚财产保险股份有限公司机房管理办法》,特制定本规范。 第二条数据中心机房工作人员是指系统管理员、数据库管理员、网络管理员、机房管理员等。 第三条数据中心机房共分为3个区域,各区域的主要功能如下: (一)操作间:主要用于信息设备调试、信息资料及小配件等的存放区域。 (二)辅助机房:主要放置UPS、各运营商线路接入、桌面网络设备、桌面电话设备及测试和开发环境设备等的区域。 (三)主机房:是数据中心核心区域。主要放置公司生产环境的网络设备、安全设备、服务器设备、存储设备等的区域。 第四条数据中心机房由信息管理部门负责日常管理。 第二章机房出入 第五条数据中心机房是生产重地,未经许可,任何人员不得出入。 第六条任何人员因工作需要进入机房,均需填写《机房出入登记表》。

第七条获得出入权限的员工门禁卡仅限个人使用,任何情况下不得转借他人。 第八条确因工作需要,需外单位人员进机房进行相关工作时,须填写《机房工作申请表》,并由相关设备管理员确认签字后方可进入机房进行相关工作,工作完毕后由机房管理员签字确认后方可离开。 第九条确因工作需要,需带领非本公司人员进入机房参观,须填写《机房参观申请表》,并经信息管理部负责人同意后由机房工作人员陪同下方可进入机房。 第十条机房管理员应定期对《机房出入登记表》以及《机房工作申请表》进行检查,确保所有进入机房的人员均已授权并通过适当的审批,以确保机房设备的运行。 第三章机房卫生 第十一条机房管理员每月定期对机房进行除尘,保证机房内环境、设备的清洁。 第四章机房设备管理 第十二条机房管理员应使用设备管理软件或电子表格对机房内设备做好登记,以便跟踪设备变化。 第十三条机房工作人员对机房设备的操作必须严格按照操作程序进行。 第十四条非机房工作人员未经允许,不得擅自对机房设备进行操作。

软件质量管理部规范文档

软件质量管理部规范文档 1部门职责 1.1质量管理部 部门职责: 接受公司所有系统的质量测试任务 发现并提出系统存在的缺陷,间接保证上线系统无缺陷或在允许缺陷范围内 协助项目经理重现、分析系统缺陷 提供系统测试报告并做可上线结论定性 系统上线质量跟踪 部门经理: 部门日常行政事务管理、人力资源招聘、分配及管理 制定或协助测试工程师制定项目测试计划 制定或协助测试工程师制定项目测试进度 检查项目测试用例 测试过程管理、保证系统测试的全面性、完整性 保证项目测试结果的高质量性 审核测试报告 测试人力资源培训及技能提高管理 系统上线质量跟踪 测试工程师: 接受部门经理分配的测试任务 制定项目测试计划 制定项目测试进度 高质量完成测试任务 编写测试报告 系统上线质量跟踪 2工作流程及制度 2.1进度表编写及更新 测试进度 在接受《功能需求说明书》及项目《详细设计》、《数据字典》等资料后,质量

管理部经理需主导及督促测试工程师制定项目测试计划及测试进度,审核 通过后纳入项目开发进度表一起形成整体进度表。 进度变更申请 申请条件:涉及功能变更、人力资源、外部因素、进度制定估计严重不足的情况。 申请时间:前置一个工作日以上的当前工作日下班内申请,进度过期再申请按项目非正当延迟纳入考核。 审核人:中心经理。 项目立项后,需要出具测试进度安排表; 进度表相关的注意事项: (1)进度安排表: 先安排第一轮测试所使用的时间,回归测试要等第一轮测试完成后,根据BUG数量,BUG牵涉面等来综合考虑,给出回归测试进度安排后,要及时更新到project上; (2)测试报告不算在测试时间内; (3)性能测试,安排的进度表,也是第一轮测试所需的时间,测试完成后,提交报告给开发,进行软硬件调整后,再根据需要配合开发做后续调整工作; 但过程中可以先反馈一些情况给开发,让他们做调整准备; 2.2项目立项流程管理 流程中与测试经理及测试人员相关的步骤包含如下: (1)需求评审: 主持人:产品经理 参与人:产品部经理、产品经理、项目经理、测试经理及测试工程师,及其它须邀请人员目的:评审直至《功能需求说明书》被项目组接受 注:需求确认将穿插与后续需求分析的全过程,涉及后续开发中需求变更内容,项目经理需会知产品经理以保持开发与功能需求的一致性,产品经理须承担起功能变更管理职责 (2)编写测试计划: 编写人:质量管理部经理、测试工程师 产物:《测试计划》 标准:项目经理、质量管理部经理、中心经理审核通过 (3)编写测试用例: 编写人:测试工程师 产物:测试用例,见TD 编写依据:《功能需求说明书》为主《详细设计》、《数据字典》为辅 标准:项目经理、质量管理部经理、中心经理审核通过

数据管理办法.doc

数据管理办法 第一章总则 第一条为适应集团信息化发展要求,充分利用数据资源为生产、经营、管理和决策服务,保证各类信息合理、有序流动和信息安全,确保集团信息化建设快速协调有序安全发展,根据国家有关法律法规以及《集团信息安全管理办法》(中平〔2013〕188号)、等规定,特制定本管理办法。 第二条本办法适用于集团各职能部室,直属和特设机构、专业化公司、事业部、区域公司及其所属各单位(以下简称各单位)。 第二章管理范围 第三条本办法管理范围包括:各单位与生产、经营、办公、安全等相关的应用系统和数据,以及为其提供支撑的基础设施资源、计算存储资源和办公终端资源等。 第三章组织机构和工作机制 第四条集团信息化领导小组是集团数据资源管理体系的最高层,负责审定集团有关数据资源管理的规章、制度、办法,负责审核有关标准、规范、重要需求等。集团信息化领导小组办公室(以下简称集团信息办)负责集团数据管理的监督、检查和考核,指导集团数据管理工作,查处危害集团数据安全的事件。各单位负责本单位数据的采集、传输、使用、安防、备份等管理

工作。中国平煤神马集团平顶山信息通信技术开发公司(以下简称信通公司)作为技术支撑及运维部门,负责集团数据中心的运维和运营工作。 第四章数据分级管理 第五条根据数据在生产、经营和管理中的重要性,结合有关保密规定,按照集团级应用系统和数据、厂矿级应用系统和数据、区队(车间)级应用系统和数据分别制定管理标准。 第六条集团级应用系统和数据,技术管理由集团信息办负责,业务管理由相关业务处室负责,运维管理由信通公司负责。厂矿级应用系统和数据由各单位信息管理部门管理,集团需要利用的管理数据和生产数据要同步上传到集团数据中心。区队(车间)级应用系统和数据由各单位信息管理部门管理和维护。 第五章数据标准管理 第七条集团信息办负责集团数据编码和接口标准的统一规划和标准制定,负责对集团及各单位应用系统的数据标准管理进行引导和考核。各单位新建应用系统应严格执行集团下发的数据编码和接口标准,在用应用系统应根据自身实际逐步按照集团标准进行完善。 第八条数据编码和接口标准应符合以下要求: (一)数据编码应能够保证同一个对象编码的唯一性及上下游管理规范的一致性;

数据中心机房管理制度规范

机房设备操作及维护管理制度 (试行) 第一条定期检查、整理设备线路,检查硬件运行状态。定期查看软硬件运行日志记录,并做好数据和配置备份。 第二条严禁在设备上随意安装、拆卸硬件或更改设备连线,严禁随意进行硬件安装。 第三条严禁在机房设备上进行试验性质或与工作无关的任何操作。 第四条对机房设备进行位置、配置调整前须提交申请,经信息中心同意后,由专业技术人员进行操作,并做好详细记录。 第五条对重要设备配置更改前,须做好数据备份和备品备件准备工作,并在专用测试服务器上验证通过后进行操作。 第六条机房内服务器不得擅自安装与系统无关的软件;软件安装前须对安装文件进行病毒检测,发现病毒后及时清理,并做好记录;不得擅自在服务器上使用U盘、外存储设备;定期对服务器系统的杀毒软件进行升级;每月对服务器进行安全扫描和漏洞修补,并做好记录。 第七条根据实际情况,实时调整机房内相关安全设备的防范策略,并做好记录。 第八条每季度对机房精密空调室外机组和过滤网进行一次冲洗,每年对精密空调全部电器控制系统和制冷、除湿及进出水道进行一次全面检查。 第九条定期检查机房供配电、消防设备运行状态,确保其正常运行。

(试行) 第一条机房钥匙、门禁卡配发由信息中心管理,不得私自配制或借给他人使用。来访人员因工作需要进入机房须经信息中心同意后由机房管理人员陪同进入,并做好记录。任何人未经许可,严禁在机房内随意触摸设备、拍照或录像。 第二条每日定期检查机房内烟感、温感、声光报警器、安全出口指示标志、气体灭火设备及消防控制线路,确保其运行正常。 第三条机房内严禁存放和使用易燃易爆物品,严禁吸烟和携带使用明火,严禁在消防设备周围堆放杂物。 第四条气体消防系统灭火设备应设专人管理(消防运维单位),任何人不得擅自操作、更改消防系统工作状态、设备位置。每月定期进行钢瓶间设备巡检,发现过期或低压失效的消防设备,应及时进行维护更换。 第五条每季度定期检查机房配电柜、UPS设备、精密空调的运行状况,监测输入输出电流、电压是否正常、有无异常噪音及声、光报警。监控电池间运行环境。 第六条每日定期对机房的设备和线路进行安全检查,发现故障、老化、破损、绝缘不良等不安全因素,必须及时报修,并做好记录备案。 第七条严禁随意对设备断电、更改设备供电线路,严禁随意串接、并接、搭架各种供电线路。 第八条防雷接地系统按国家有关部门的管理要求,每年由防雷中心对机房防雷系统进行一次全面的安全技术检测。

数据质量监控管理制度

1 目的 加强对ERP基础数据和业务数据监控,确保数据准确及各业务操作规范,以提升各业务水平。 2 适用范围 本制度适用于集团各ERP上线单位。 3 关键控制指标 ERP基础数据包括物料主数据、物料清单、工艺路线、供应商数据、客户主数据、工作中心等。 ERP业务数据包括计划、制造、采购、物流、营销等模块的业务数据。 检查方式:必检为存在财务风险的数据(包括收付款、成本、存货等);抽检为对业务有影响,但无财务风险的数据。 4 岗位职责 业务部门对本部门业务规范情况进行自查,及时处理异常业务数据,并出具周报。 事业部IT部负责对过程控制指标和关键绩效指标的提升进行分析提出改进措施,并出具周报。 各职能总部负责对不规范业务数据处理情况进行检查,发布半月报。 IT总部ERP管理部负责对通报与监控情况进行检查,每半月通报一次,并每月发布ERP绩效指标考核情况。 5 程序要求及关键控制点 事业部各业务部门每天对业务数据规范性情况自行检查并处理(监控内容方法见附一),每周二出具周报并抄送责任人、事业部IT部和IT总部、职能总部。 事业部IT部每周三对过程控制指标及关键绩效指标提升进行分析并提出改进措施,OA通报抄送IT 总部ERP管理部和各业务部门领导。 职能总部对业务部门提交的监控周报中的不规范业务数据进行监督处理,并于每周三出具上周异常数据处理情况通报,逾期未处理完成按附件细则处罚责任人。(通报抄送各业务部门领导和IT总部)。 IT总部ERP管理部不定期对各事业部IT部的监控工作进行抽查与评价,并对事业部的业务提升措施进行指导。 IT总部ERP管理部于IT双周例会对各事业部ERP 绩效指标提升进行通报和排名考核。 IT总部ERP管理部对所有ERP系统内业务数据进行归口检查和管理。 6 激励措施 业务部门未按时提交数据监控周报处罚部门主管2分/次。 各IT部未按时提交过程控制指标和绩效指标提升分析周报处罚IT部长2分/次。 各职能总部未按时出具异常数据处理情况检查通报,处罚责任人2分/次。 各业务部门限期未整改的,对业务部门主管处罚5分/项,责任人按细则处罚。 对ERP绩效指标排名前三和后三的IT部长和业务部门主管1比2给予10分、5分、2分/次奖罚。事业部IT部通报中如有虚假行为处罚IT部长30分/次,IT总部如发现业务部门有虚假提升指标行为,事业部IT部未通报的,对IT部长处罚20分,对业务部门主管处罚50分。 7 相关文件 《物料主数据管理规定》 《标准成本维护控制制度》 《物料清单维护管理制度》 《工艺流程维护管理制度》 《三一集团全面数据质量管理技术标准》 8 附加说明 本制度由IT总部ERP管理部起草,并归口管理。 9 附件 附件一:《ERP数据监控明细》 附件二:《ERP过程控制指标、关键绩效指标一览表》附件三:《ERP数据监控通报模板》

大数据安全运维服务

大数据安全运维服务 服务方式及内容: 以驻场服务的方式派驻技术人员在客户现场提供服务,以规范化的安全运维工作流程和标准规范为基础,帮助用户从安全防护及检测、事件响应和安全改进三方面控制安全风险,积极开展落实日常安全工作。 一、安全防护运维服务 1.1安全设备巡检 信息系统运行过程中,可能面临安全产品运行异常、安全事件的发生等情况,为有效应对这些情况的出现需要开展长期的安全产品运行监测工作,以及时发现并按照流程有效处理。定期对用户已有安全设备的规则库、策略库和日志进行巡检,出具巡检分析对比报告,提供相关的策略优化建议等。 1.2策略配置 通过全面落实安全策略、合理配置安全产品防护规则,对来自各网络区域的网络攻击行为进行防护规则库升级 1.3产品升级设及策略备份 定期对安全设备的软件版本、特征库进行升级,确保安全设备的安全稳定运行的同时,也确保安全设备规则的最新。 1.4信息安全预警通告 信息安全预警通告服务通过收集最新的信息安全咨询,为用户提供全面、准确的信息安全预警通告服务 1.5漏洞扫描 定期对用户的服务器、网络设备、数据库和应用进行扫描,发现信息系统中存在的安全隐患,并提供相关的解决方案,协助用户对漏洞进行修补。 二、安全事件响应服务 2.1、安全事件处置 配合客户对日常安全运维中发现的各类安全事件进行处置,对客户单位的各类信息安全相关工作提供安全技术支持等。 2.2、重要时期保障 根据客户提出的重要时期保障工作要求,确认工作内容,并详细了解客户现

场环境,为保障工作做准备。加强驻场和二线人力保障。 2.3安全应急演练 配合用户开展应急演练工作,通过应急演练工作验证应急流程的经济性、合理性和可操作性,评估各方面人员应对安全突发事件的组织指挥能力和应急处置能力,提高应急人员应急工作熟练程度,提升全员安全意识 三、协助落实安全工作 3.1协助安全检查 协助制定安全自查计划并开展自查工作,在安全自查和安全整改以及国家相关部门的信息安全检查期间提供全过程的技术支持,帮助客户全面掌握信息安全现状,及时发现安全问题并进行完善性修复,切实提高信息安全保障水平,顺利通过安全检查工作。 3.2协助处置通报 在接到主管单位的内部通报后,驻场人员对通报内容进行分析,以通报内容为线索,对全厅网络进行检查,追溯溯源,通报的内容包括但不限于: 1. 信息安全事件 2. 病毒通报 3. 漏洞通报 4. 其他安全工作 3.3其他定制化的安全服务 根据用户自身的需求,配合用户完成相关定制化的服务 2018年3月20日

数据中心信息安全管理及管控要求正式版

Guide operators to deal with the process of things, and require them to be familiar with the details of safety technology and be able to complete things after special training.数据中心信息安全管理及管控要求正式版

数据中心信息安全管理及管控要求正 式版 下载提示:此操作规程资料适用于指导操作人员处理某件事情的流程和主要的行动方向,并要求参加施工的人员,熟知本工种的安全技术细节和经过专门训练,合格的情况下完成列表中的每个操作事项。文档可以直接使用,也可根据实际需要修订后使用。 随着在世界范围内,信息化水平的不断发展,数据中心的信息安全逐渐成为人们关注的焦点,世界范围内的各个机构、组织、个人都在探寻如何保障信息安全的问题。英国、美国、挪威、瑞典、芬兰、澳大利亚等国均制定了有关信息安全的本国标准,国际标准化组织(ISO)也发布了ISO17799、ISO13335、ISO15408等与信息安全相关的国际标准及技术报告。目前,在信息安全管理方面,英国标准 ISO27000:2005已经成为世界上应用最广泛与典型的信息安全管理标准,它是在

BSI/DISC的BDD/2信息安全管理委员会指导下制定完成。 ISO27001标准于1993年由英国贸易工业部立项,于1995年英国首次出版BS 7799-1:1995《信息安全管理实施细则》,它提供了一套综合的、由信息安全最佳惯例组成的实施规则,其目的是作为确定工商业信息系统在大多数情况所需控制范围的唯一参考基准,并且适用于大、中、小组织。1998年英国公布标准的第二部分《信息安全管理体系规范》,它规定信息安全管理体系要求与信息安全控制要求,它是一个组织的全面或部分信息安全管理体系评估的基础,它可以作为一个正式认证方案的根据。ISO27000-1与ISO27000-2经

银行监管统计数据质量管理良好标准(DOC版)

银行监管统计数据质量管理良好标准 (试行DOC版) 本标准适用范围为根据《银行业监管统计管理暂行办法》(2004年第6号主席令)开展监管统计工作的全部银行业金融机构(下文简称“银行”)。标准的总体框架包含5方面要素,分别为:组织机构及人员,制度建设,系统保障和数据标准,数据质量的监控、检查与评价,数据的报送、应用和存储。5方面要素下共有15项原则,每项原则下有若干具体标准,共61条标准。 (一)组织机构及人员 原则1 组织领导 银行董事会和高级管理层高度重视并积极推动本行数据质量管理和监管统计工作,明确政策和目标,建立机制和流程,落实各环节责任。 具体标准: 1.1银行董事会制定明确的政策,将本行数据质量管理纳入内控合规体系和战略规划之中,并定期对其有效性和执行情况进行评估。 1.2银行高级管理层确立数据质量管理的目标,建立机制和流程,明确职权和责任,定期对本行数据质量管理水平进行评估,并有效落实数据质量问责制。

1.3银行法定代表人或主要负责人对本行监管统计数据的真实性负责,亲自或委派领导班子成员(以下简称“主管领导”)组织领导监管统计工作,对制度性变革等重大监管统计事项能够及时研究部署,在资源调配方面予以充分支持和保障。 原则2 归口管理 银行对监管统计工作实行统一管理、分级负责的管理体制,确定归口管理部门组织管理本机构的监管统计工作。 具体标准: 2.1银行总行确定监管统计归口管理部门,授权其负责全行监管统计领导、组织、协调和管理工作。 2.2总行归口管理部门根据授权负责制定全行监管统计工作制度和流程,提出监管统计数据质量管理措施,协调和督促其他相关业务部门,共同做好监管统计工作,定期检查并发现监管统计数据质量存在的问题,提出合理化建议,向主管领导报告。 2.3银行各级分支机构确定相应的归口管理部门,负责本级机构监管统计工作,在总行归口管理部门统一领导下,有效履行监管统计相关职责。 原则3 岗位设置 银行在监管统计归口管理部门和其他相关业务部门设立相应的监管统计岗位,岗位职责明确,并配备能满足岗位履职所需的资源。 具体标准: 3.1银行在监管统计归口管理部门设立与本行业务规模和复

公司数据安全管理规范

******有限公司数据安全管理规范 为了确保ERP系统的安全和保密管理,保障公司各项数据的安全准确,特制定本制度。 1、信息部是公司信息系统的管理部门,负责全公司信息化设备的管理、ERP系统的正常运行,基本参数的设置,系统用户权限的划分管理,系统数据的提取变更。信息部门负责人为公司信息安全第一责任人,负责信息安全和保密管理。 2、信息部指派专人负责按照本规范所制定的相关流程执行操作,用户授权和权限管理采取保守原则,选择最小的权限满足使用者需求。 3、公司ERP系统权限管理遵循以下原则: (1)为各部门各门店管理人员统一发放系统登陆账号,账号专人专用,账号下发后需立即更改初始密码,严禁使用他人工号或泄露密码。一经发现处以500元每次罚款,并永久性取消登录权限,由此造成的后果个人承担责任;情节严重的予以辞退。 (2)公司非一线销售部门如人事、企划、行政等只开通OA系统权限。各门店楼层主管和经理只有本楼层销售查询权限。各门店店长和招商经理有各自门店销售查询权限。运营中心总监有百货、时代、车南外租区和自营品牌的权限。(3)如需信息部配合提取系统销售数据或者需变更工号操作权限,需填写业务联系函写明原因并由部门负责人和执行副总签字,否则信息部不予配合。(4)人事部每月应将主管级以上人员离职名单传递信息中心,信息部接到通知后立即给予权限终止,防止数据外泄。 (5)公司员工计算机内涉及公司机密数据的,应给计算机设定开机密码并把文件进行加密处理,非工作需要不得以任何形式进行转移,不得随便拷贝到移动存储设备。 (6)离开原工作岗位的员工,各部门负责人需把其工作资料进行回收保存,并通知信息部对其电脑进行相关处理。公司人员岗位内部调拨的,电脑保留原岗位不变。 (7)公司内部经信息部确认需要送外维修的电脑,送修前需联系信息部拆除电脑的存储设备并由信息部保管,维修好后再联系信息部进行安装。 (8)对于公司连接外网的电脑,不得浏览来历不明的网站或下载不明网站的程

大数据中心信息数据管理制度

大数据数据中心信息数据管理制度 为进一步加强和规范数据管理,保障数据安全,提高开放共享水平,支撑政府治理能力现代化,制定本制度。 一、数据管理遵循分级管理、安全可控、充分利用的原则,明确数据的采集生产、加工整理、开放共享和管理使用等活动的责任主体,加强能力建设,促进开放共享。 二、数据采集生产、使用、管理活动应当遵守有关法律法规及规章,不得利用科学数据从事危害国家安全、社会公共利益和他人合法权益的活动。 三、贯彻落实国家数据管理政策;建立健全管理政策和制度;指导相关单位加强和规范数据管理。 四、引导督促数据产生者要按照相关标准规范组织开展数据采集生产和加工整理,形成便于使用的数据库,保证数据的准确性和可用性。 五、引导督促相关单位要对数据进行分级分类,明确数据的密级和保密期限、开放条件、开放对象和审核程序等,按要求公布数据开放目录,通过在线下载、系统共享或定制服务等方式向社会开放共享。 六、对于政府决策、公共安全、国防建设、环境保护、防灾减灾、公益性科学研究等需要使用数据的,应当无偿提供;确需收费的,应按照规定程序和非营利原则制定合理的

收费标准,向社会公布并接受监督。对于因经营性活动需要使用数据的,当事人双方应当签订有偿服务合同,明确双方的权利和义务。法律法规有特殊规定的,遵从其规定。 七、涉及国家秘密、国家安全、社会公共利益、商业秘密和个人隐私的数据,不得对外开放共享;确需对外开放的,要对利用目的、用户资质、保密条件等进行审查,并严格控制知悉范围。 八、涉及国家秘密的数据按照国家有关保密规定执行。建立健全涉及国家秘密的数据管理与使用制度,对制作、审核、登记、拷贝、传输、销毁等环节进行严格管理。 九、按照网络安全管理规定,建立网络安全保障体系,采用安全可靠的产品和服务,完善数据管控、属性管理、身份识别、行为追溯、黑名单等管理措施,健全防篡改、防泄露、防攻击、防病毒等安全防护体系。 十、建立应急管理和容灾备份机制,按照要求建立应急管理系统,对重要的数据进行异地备份。

银行监管统计数据质量管理良好标准试行银监发

银行监管统计数据质量管理良好标准试行银监 发 SANY标准化小组 #QS8QHH-HHGX8Q8-GNHHJ8-HHMHGN#

附件一: 银行监管统计数据质量管理良好标准 (试行) 本标准适用范围为根据《银行业监管统计管理暂行办法》(2004年第6号主席令)开展监管统计工作的全部银行业金融机构(下文简称“银行”)。标准的总体框架包含5方面要素,分别为:组织机构及人员,制度建设,系统保障和数据标准,数据质量的监控、检查与评价,数据的报送、应用和存储。5方面要素下共有15项原则,每项原则下有若干具体标准,共61条标准。 (一)组织机构及人员 原则1 组织领导 银行董事会和高级管理层高度重视并积极推动本行数据质量管理和监管统计工作,明确政策和目标,建立机制和流程,落实各环节责任。 具体标准: 银行董事会制定明确的政策,将本行数据质量管理纳入内控合规体系和战略规划之中,并定期对其有效性和执行情况进行评估。

银行高级管理层确立数据质量管理的目标,建立机制和流程,明确职权和责任,定期对本行数据质量管理水平进行评估,并有效落实数据质量问责制。 银行法定代表人或主要负责人对本行监管统计数据的真实性负责,亲自或委派领导班子成员(以下简称“主管领导”)组织领导监管统计工作,对制度性变革等重大监管统计事项能够及时研究部署,在资源调配方面予以充分支持和保障。 原则2 归口管理 银行对监管统计工作实行统一管理、分级负责的管理体制,确定归口管理部门组织管理本机构的监管统计工作。 具体标准: 银行总行确定监管统计归口管理部门,授权其负责全行监管统计领导、组织、协调和管理工作。 总行归口管理部门根据授权负责制定全行监管统计工作制度和流程,提出监管统计数据质量管理措施,协调和督促其他相关业务部门,共同做好监管统计工作,定期检查并发现监管统计数据质量存在的问题,提出合理化建议,向主管领导报告。 银行各级分支机构确定相应的归口管理部门,负责本级机构监管统计工作,在总行归口管理部门统一领导下,有效履行监管统计相关职责。 原则3 岗位设置

数据质量管理

数据质量管理 定义: 是指对数据从计划、获取、存储、共享、维护、应用、消亡生命周期的每个阶段里可能引发的各类数据质量问题,进行识别、度量、监控、预警等一系列管理活动,并通过改善和提高组织的管理水平使得数据质量获得进一步提高。 目录 1数据质量管理 2数据质量管理评估维度 3分析影响数据质量的因素 4MTC-DQM 数据质量管理的方法与步骤 一数据质量管理 数据质量管理是循环管理过程,其终极目标是通过可靠的数据提升数据在使用中的价值,并最终为企业赢得经济效益。 二数据质量管理评估维度 由于数据清洗(DataCleaning)工具通常简单地被称为数据质量(Data Quality)工具,因此很多人认为数据质量管理,就是修改数据中的错误、是对错误数据和垃圾数据进行清理。 这个理解是片面的,其实数据清洗只是数据质量管理中的一步。数据质量管理(DQM),不仅包含了对数据质量的改善,同时还包含了对组织的改善。针对数据的改善和管理,主要包括数据分析、数据评估、数据清洗、数据监控、错误预警等内容;针对组织的改善和管理,主要包括确立组织数据质量改进目标、评估组织流程、制定组织流程改善计划、制定组织监督审核机制、实施改进、评估改善效果等多个环节。 任何改善都是建立在评估的基础上,知道问题在哪才能实施改进。通常数据质量评估和管理评估需通过以下几个维度衡量。

1 数据质量评估维度 完整性Completeness:完整性用于度量哪些数据丢失了或者哪些数据不可用。 规范性Conformity:规范性用于度量哪些数据未按统一格式存储。 一致性Consistency:一致性用于度量哪些数据的值在信息含义上是冲突的。 准确性Accuracy:准确性用于度量哪些数据和信息是不正确的,或者数据是超期的。 唯一性Uniqueness:唯一性用于度量哪些数据是重复数据或者数据的哪些属性是重复的。 关联性Integration:关联性用于度量哪些关联的数据缺失或者未建立索引。 2 管理质量评估维度 配置管理Config Management:此维度用于度量数据在其生命周期内的一切资源是否得到了控制和规范,即数据的计划、产生、变更直至消亡的过程中,与数据相关的计划、规范、描述是否收到控制。评估指标包括:评估配置项的细化粒度、评估基线准确度和频度以及变更流程是否合理完善等。 培训 Training:此维度用于度量数据的生产和使用者在数据生命周期内的一切活动中是否经过了知识和技能的培训、培训效果是否满足岗位需要;受训的知识和技能是否经过审核和确认,受训的内容是否与企业文化和价值观一致;培训流程是否合理完善等; 验证和确认Verify & Validation:此维度用于度量数据在其生命周期内是否得到验证和确认。评估内容包括是否通过验证流程确保工作产品(数据)满足指定的要求、是否通过“确认”流程保证工作产品(数据)在计划的环境中满足使用的要求;“验证”和“确认”的流程是否完善; 监督和监控Monitoring:此维度用于度量产生和使用数据的流程在数据的整个生命周期内是否真正受控。脱离监控的信息、技术、计划、流程、制度,会导致数据质量低下。监督和监控的流程是否完善。 三分析影响数据质量的因素 影响数据质量的因素主要来源于四方面:信息因素、技术因素、流程因素和管理因素

数据安全管理规范

业务平台安全管理制度 —数据安全管理规范 XXXXXXXXXXX公司网络运行维护事业部

目录 一. 概述 (1) 二. 数据信息安全管理制度 (2) 2.1数据信息安全存储要求 (2) 2.2数据信息传输安全要求 (2) 2.3数据信息安全等级变更要求 (3) 2.4数据信息安全管理职责 (3) 三. 数据信息重要性评估 (4) 3.1数据信息分级原则 (4) 3.2数据信息分级 (4) 四. 数据信息完整性安全规范 (5) 五. 数据信息保密性安全规范 (6) 5.1密码安全 (6) 5.2密钥安全 (6) 六. 数据信息备份与恢复 (8) 6.1数据信息备份要求 (8) 6.1.1 备份要求 (8) 6.1.2 备份执行与记录 (8) 6.2备份恢复管理 (8)

一. 概述 数据信息安全,顾名思义就是要保护数据信息免受威胁的影响,从而确保业务平台的连续性,缩减业务平台有可能面临的风险,为整个业务平台部门的长期正常运行提供强有力的保障。 为加强数据信息的安全管理,保证数据信息的可用性、完整性、机密性,特制定本规范。

二. 数据信息安全管理制度 2.1 数据信息安全存储要求 数据信息存储介质包括:纸质文档、语音或其录音、输出报告、硬盘、磁带、光存储介质。 存储介质管理须符合以下规定: ◆包含重要、敏感或关键数据信息的移动式存储介质须专人值守。 ◆删除可重复使用存储介质上的机密及绝密数据时,为了避免在可移动介质上遗留信 息,应该对介质进行消磁或彻底的格式化,或者使用专用的工具在存储区域填入无 用的信息进行覆盖。 ◆任何存储媒介入库或出库需经过授权,并保留相应记录,方便审计跟踪。 2.2 数据信息传输安全要求 ◆在对数据信息进行传输时,应该在风险评估的基础上采用合理的加密技术,选择和 应用加密技术时,应符合以下规范: ?必须符合国家有关加密技术的法律法规; ?根据风险评估确定保护级别,并以此确定加密算法的类型、属性,以及所用密 钥的长度; ?听取专家的建议,确定合适的保护级别,选择能够提供所需保护的合适的工具。 ◆机密和绝密信息在存储和传输时必须加密,加密方式可以分为:对称加密和不对称 加密。 ◆机密和绝密数据的传输过程中必须使用数字签名以确保信息的不可否认性,使用数 字签名时应符合以下规范: ?充分保护私钥的机密性,防止窃取者伪造密钥持有人的签名。 ?采取保护公钥完整性的安全措施,例如使用公钥证书; ?确定签名算法的类型、属性以及所用密钥长度; ?用于数字签名的密钥应不同于用来加密内容的密钥。

大数据标准体系

附件1 大数据标准体系 序号一级分类二级分类国家标准编号标准名称状态 1 基础标准总则信息技术大数据标准化指南暂时空缺 2 术语信息技术大数据术语已申报 3 参考模型信息技术大数据参考模型已申报 4 数据处理数据整理GB/T 18142-2000 信息技术数据元素值格式记法已发布 5 GB/T 18391.1-2009 信息技术元数据注册系统(MDR)第1部分:框架已发布 6 GB/T 18391.2-2009 信息技术元数据注册系统(MDR)第2部分:分类已发布 7 GB/T 18391.3-2009 信息技术元数据注册系统(MDR)第3部分:注册系统元模型与基本属性已发布 8 GB/T 18391.4-2009 信息技术元数据注册系统(MDR)第4部分:数据定义的形成已发布 9 GB/T 18391.5-2009 信息技术元数据注册系统(MDR)第5部分:命名和标识原则已发布 10 GB/T 18391.6-2009 信息技术元数据注册系统(MDR)第6部分:注册已发布 11 GB/T 21025-2007 XML使用指南已发布 12 GB/T 23824.1-2009 信息技术实现元数据注册系统内容一致性的规程第1 部分:数据元已发布 13 GB/T 23824.3-2009 信息技术实现元数据注册系统内容一致性的规程第3 部分:值域已发布 14 20051294-T-339 信息技术元模型互操作性框架第1部分:参考模型已报批 15 20051295-T-339 信息技术元模型互操作性框架第2部分:核心模型已报批 16 20051296-T-339 信息技术元模型互操作性框架第3部分:本体注册的元模型已报批 17 20051297-T-339 信息技术元模型互操作性框架第4部分:模型映射的元模型已报批 18 20080046-T-469 信息技术元数据模块(MM) 第1 部分:框架已报批

数据中心安全管理制度

益阳市紧急医疗救援指挥中心 数据中心安全管理制度 为保证数据中心中的设备及数据的安全,中心办公室设立以下管理规定,所有授权进出数据中心的人员必须严格遵守此规定。 一、硬件安全 1. 数据中心机房只有授权人员才可以进入,其他公司技术和管理人员获得邀请并登记后也可以进入数据中心。 2. 离开数据中心前应确保关闭机柜门、整理好有关设备、离开时必须关闭数据中心大门。 3. 进入数据中心操作时应穿防静电鞋套,保持服装整洁,以防带入灰尘。 4. 进入数据中心后应关闭大门,以免灰尘飘入数据中心。 5. 数据中心内禁止饮食、吸烟,禁止带入不相关的东西。 6. 数据中心专用工具及软件应由系统管理员统一注册、并统一保管,外借工具应登记(借出、借入方均需签名)并应在两工作天内归还,借出者负责跟进收回工具。 7. 系统管理员必须定期检查所有设备是否工作正常,包括检查网络是否畅通、散热设备是否运转、设备是否过热及服务器状态是否良好等等,一般可定一星期检查一次。 二、软件安全 1. 所有数据中心设备(包括服务器、路由器、交换机及精密空调等等)均需设置密码进行保护。 2. 密码最少八位长度,必须由数据中心管理人员一人或多人完全掌握。 核心数据密码不宜写在纸上或文件中,并要求至少三个月更新一次。 3. 控制系统操作人员权限,数据库及应用系统超级管理员权限只能赋予数据中心内部人员,开发运维商只能赋予普通用户权限,开发运维商如需登录数据库或应用系统时须在数据中心内部人员的陪同下进行。 4. 更新/维护设备或软件时,必须至少提前一天通知受影响用户,紧急情况

时应尽量将影响程度降至最低。 5. 按需求安装软件时,必须在其它机器中测试并验证可用后,才可以在服务器中安装。 6. 服务器中软件均为正版软件,禁止在服务器中安装没有授权证(License)的软件,不应在服务器中安装测试版软件。

数据管控规范

1数据管理架构 1.1 数据管理平台功能蓝图 数据管理就是对交易中心现有的业务支撑系统的数据进行统一的数据管理、质量管控、并且通过标准的共享模式,实现核心数据统一存储,维护和使用的问题,提升交易中心现有数据的安全存储和高效使用等能力,并更加深入地进行数据挖掘等工作,为中心创造更多的价值。未来的数据管理平台将对中心现有系统的数据进行统一的数据的整合、数据的管控,并运用数据进行统一的服务管控来提升服务共享的水平,为中心的服务提供全方面的数据支撑。数据管理平台的功能蓝图如图所示: ●数据整合域,是对现有业务系统的数据进行采集和清洗转换,并对采集过程中的数 据进行质量检测,来确保整合数据的准确性和可靠性。 ●数据管控域,对采集到数据按照其不同的属性进行分类存储管控,对数据的质量、 数据的安全以及信息的生命周期进行统一的管理,并对数据在使用过程的各种信息 进行统计分析。 ●服务共享域,利用数据管理平台已有的数据资源,进行自定义的数据服务配置, 定制出符合要求的服务,进行相关服务流程的编排,通过数据中心将服务进行发布。

●服务管理域,主要是对提供的服务进行管理,包括服务应用的管理,服务流程的管 理以及服务监控。 1.2 数据集成 数据整合就是将离散于各个业务系统中的数据进行集中化。数据整合阶段主要分为以下三个步骤执行: ●数据类型识别 根据业务使用情况分析目前各个系统中的数据实体,其中哪些是主数据,哪些是非主数据但需要共享的数据,哪些是私有数据。数据类型会作为制定同步规则和清洗规则的重要依据。 ●数据同步规则确定 分析采集的各种数据需要达到的同步频率,从实时、准实时到天、月不等,针对不同的同步频率需求结合每次同步的数据量来选择同步方式,ETL(抽取-转化-加载)和ESB(企业服务总线)分别适用于不同场景。ETL本身也有多种具体的技术手段来实现各种情况下的同步,如Hotplug、全表对比、时间戳等。在这里,将根据不同的数据类别和数据使用频度和需求频度等情况,制定出相应的数据同步的机制,采用实时数据整合和批量数据整合两种方式进行数据的整合。 ●数据清洗规则确定 在进行数据整合过程中,由于不同系统中可能重复出现的数据,以及数据本身的缺失和错误等问题,为了避免由于不同系统中相同数据由于编码规则、格式之间的差异,在清洗过程中需要制定统一的数据清洗规则,对数据进行清洗和转换,确保数据管理平台中的数据能够保持一致性。 同时,在数据清洗的过程中,需要对采集数据的质量以及清洗后数据的质量进行检测。其中,在数据采集过程中,对采集的数据进行整合,确保采集的数据都能满足质量要求,能够通过正确的清洗和转换;对于转换完成的数据,通过再次的检测,保证转换数据的一致性和正确性,从而确保数据的准确行和权威性。 1.3 数据管控 数据管控就是对于进行整合后的数据进行相关的管控,使其能够满足交易中心管理对于

大数据中心建设功能要求技术规范word

大数据中心建设功能要求技术规范WORD版本下载后可编辑

一、数据服务中心建设规划 数据服务中心是整个智慧旅游大数据项目核心组成部分,在规划建设过程中,坚持以数据资源为核心,面向数据应用与服务、信息数据资源标准化与管理,实现数据资源横向集成、纵向贯通、全局共享的运转模式。数据服务中心数据流转图和逻辑架构如下图。 数服务中心逻辑架构图 整个数据服务中心逻辑组成部分有:数据存储、数据组织、数据处理、资源管理、数据服务支撑。 数据存储:基于大规模并行处理(Massively Parallel Processing,简称MPP)、Hadoop等分布式计算平台进行搭建,以满

足旅游行业结构化、图像视音频等非结构化多种类型格式的海量数据资源存储需求。 数据组织:对各类数据资源进行逻辑组织,形成基础数据资源库、专题应用资源库以及资源管理库,满足旅游行业数据资源应用、管理与服务的需求。 数据处理:主要包括数据整合汇集、数据标准化处理、通用数据处理、专题数据处理。从多个层面对数据资源进行分析挖掘,为不同业务需求提供数据处理服务支撑。 资源管理:资源管理从应用资源、数据资源、服务资源以及标准资源多个层面实现数据服务中心信息资源的管理与标准建设。 数据服务支撑:数据服务中心实现了智慧旅游云数据资源的存储和组织。主要包括基础数据资源库、专题应用资源库和资源管理库。 数据分析处理:面向具体业务需求,建立对应的数据分析处理模型,实现对数据资源的深度挖掘和综合利用。 1.1大数据平台建设 数据集中统一管理后,由于一体化业务为在线运行的系统,为避免大数据应用对现有生产系统造成影响,本期单独建设一套大数据平台,通过ETL将生产数据抽取到大数据平台中,进行分析处理,建立数据仓库,为上层应用提供支撑。 基于大数据等新先进理念,融合MPP、Hadoop、OLTP以及HDFS分布式文件系统等数据处理技术,构建具有海量数据处理能力

相关主题
文本预览
相关文档 最新文档