精选人工智能大数据平台规划方案共25页
- 格式:ppt
- 大小:2.55 MB
- 文档页数:25


大数据资源平台建设方案目录1 资源平台建设方案 (5)1.1平台总体架构 (5)1.2数据交换子平台建设 (6)1.2.1 建设方案概述 (6)1.2.1.1 架构设计 (7)1.2.2 数据交换配置 (8)1.2.3 数据交换前置 (9)1.2.4 数据共享服务 (10)1.2.4.1 数据服务注册 (11)1.2.4.2 数据服务申请 (11)服务申请 (11)申请审核 (11)申请查看 (12)申请撤销 (12)1.2.4.3 数据服务监控 (12)1.2.5 数据共享接口 (13)1.2.6 数据交换监控 (13)1.3数据治理子平台建设 (14)1.3.1 建设方案概述 (15)1.3.1.1 平台整体架构 (15)1.3.1.2 平台技术架构 (16)1.3.2 建设数据资源中心 (17)1.3.3 资源目录管理 (19)1.3.3.1 资源梳理 (19)1.3.3.2 资源编目 (20)1.3.3.3 目录提交 (22)1.3.3.4 目录审核 (22)1.3.3.5 目录发布 (22)1.3.3.6 汇总管理 (22)1.3.3.8 资源挂载 (23)1.3.4 数据标准管理 (23)1.3.4.1 数据标准管理规范 (23)1.3.4.2 数据项标准 (26)1.3.4.3 数据维度标准 (26)1.3.4.4 数据字典标准 (27)1.3.4.5 数据命名标准 (27)1.3.5 元数据管理 (28)1.3.5.1 元数据管理内容 (28)1.3.5.2 元数据管理分类 (28)1.3.5.3 元数据管理组织 (30)1.3.5.4 元数据管理流程 (30)1.3.5.5 元数据管理功能 (30)1.3.6 数据质量管理 (33)1.3.6.1 质量模型配置 (33)1.3.6.2 质量规则管理 (34)1.3.6.3 方案配置调度 (36)1.3.6.4 质检结果查看 (36)1.3.6.5 质检分析报告 (37)1.3.7 数据开发平台 (37)1.3.7.1 数据开发能力 (37)数据源适配 (37)数据清洗 (38)数据转换 (38)1.3.7.2 数据开发平台 (39)1.3.8 统一调度管理 (40)1.3.8.1 时间调度 (40)1.3.8.2 事件调度 (40)1.3.8.5 任务调度 (42)1.3.9 数据资产管理 (43)1.3.9.1 数据资产注册管理 (43)1.3.9.2 数据资产分类管理 (44)1.3.9.3 数据资产目录管理 (45)1.3.9.4 数据资产可视化视图 (46)1.4数据资源门户建设 (49)1.4.1 门户首页设计 (50)1.4.2 统一用户管理 (50)1.4.3 统一认证授权 (51)1.4.3.1 身份认证 (52)1.4.3.2 用户授权 (52)1.4.4 整合资源管理 (53)1.4.5 统一审批管理 (54)1.4.6 资源目录服务 (54)1.4.7 统一消息管理 (55)1.4.7.1 消息类型管理 (55)1.4.7.2 消息渠道管理 (55)1.4.7.3 通用规则管理 (56)1.4.7.4 用户自定义规则管理 (56)1.4.7.5 消息过期 (56)1.4.7.6 消息发送处理 (56)1.4.8 统一日志管理 (57)1.4.8.1 日志审计管理 (58)1.4.8.2 安全日志统计 (59)1.4.9 统一监控运维 (60)1.4.9.1 监控资源管理 (60)1.4.9.2 基础资源监测 (62)1.4.9.5 平台运维管理 (65)1资源平台建设方案1.1平台总体架构区级大数据资源平台的总体架构由支撑体系(标准规范支撑体系、管理运行维护支撑体系、安全支撑体系)、网络系统、信息资源平台软硬件系统环境、平台应用系统(数据支撑底座、数据交换子平台、数据整理治理子平台、数据资源门户),以及数据资源中心(数据湖、基础库、主题库、专题库)组成。
大数据平台建设方案完整详细版 (一)随着数字化时代的到来,各类数据随之爆增,但是如何完善数据的管理和利用成为了一个重要问题。
而大数据平台就是解决这个问题的有效工具。
下面将介绍一份完整详细版的大数据平台建设方案。
一、需求分析在构建一套大数据平台之前,我们需要明确自己的需求,这包括以下两个方面:1、业务需求:指的是企业在业务运营过程中需要采集、处理、分析的数据类型和数量。
2、管理需求:指的是对大数据平台本身进行管理的需求,包括安全性、可靠性、扩展性等。
二、架构设计在需求分析的基础上,需要进行架构设计。
下面是一种比较常见的大数据平台架构设计方案:该架构主要由数据采集、数据存储、数据处理和数据分析四个模块构成。
1、数据采集数据采集模块负责采集各种形式的数据,并将其转换成统一的数据格式。
常用的数据采集方式包括以下几种:(1)ETL工具(Extract-Transform-Load):可以从多种数据源中提取数据,并对数据进行转换和清洗,最后加载到数据存储模块中。
(2)消息队列:可以实现多个数据源的异步数据收集,并把数据存入到后端的存储层中。
(3)API接口:可以通过API接口来获取数据,并将数据存储到后端的存储层中。
2、数据存储将采集的数据存储到后端的存储层中,主要分为两个层面:(1)大数据存储层:使用Hadoop生态圈的HDFS或者S3存储海量数据。
(2)NoSQL数据库:使用NoSQL数据库,如MongoDB等,存储非结构化数据,如文本、图像、音频等。
3、数据处理数据处理模块主要负责对数据进行实时或离线的处理,常见的数据处理技术包括:(1)流式计算(Stream Computing):对流数据进行实时处理,如Apache Storm、Flink等。
(2)批量计算(Batch Computing):对批量数据进行离线处理,如Apache Spark、Hadoop MapReduce等。
4、数据分析数据分析模块主要是对处理后的数据进行挖掘和分析。
人工智能AI城市数据大脑平台建设方案该项目的建设主要包括:数据大脑平台、“互联网+政务服务”一体化服务平台、“我的XX”—移动综合服务平台、智慧党建、智慧医疗、智慧医保、智慧文旅;力求通过中台服务及智慧应用场景,全面提升包括便民惠民、服务触达、数据服务、联合监管、决策指挥、政务治理、共治共管以及产业服务等城市能力;最终形成具备多维敏捷感知、海量数据共享、全局实时洞察、持续迭代进化的城市智能中枢,为XX市新型智慧城市发展提供智慧支撑。
本期项目建设内容:主要包括数据大脑平台的应用中台、数据中台、AI 中台、中台云服务管理平台、中台安全管理平台、中台运维管理平台、数据治理服务体系和应用推广服务体系,以及“互联网+政务服务”一体化服务平台、我的XX-城市移动综合服务平台、智慧党建、智慧医疗、智慧医保和智慧文旅。
1)、基础云平台专注实现多云的管理和调度,对网络、存储、计算统一管理,以服务的方式实现对上层调用的无感知,本层将实现基础资源的统一资源调度、统一资源适配、统一用量评估、统一安全保障、统一运维保障、统一服务发布、统一自助服务;2)、数据大脑平台的中台以贴合应用、共性聚合、快速服务、开放包容的方式支撑智慧应用建设。
其中应用中台建设关注系统的融合、整合服务能力,持续完善业务应用支撑服务体系;数据中台以数据需求为切入点,数据资源目录为抓手,数据治理为管控,通过数据运营的方式形成面向应用协调、数据共享和大数据分析等场景的数据服务,提升数据应用价值;人工智能(AI)中台专注人工智能支撑服务建设,提供基于人脸识别、图像识别、语音识别、语义理解等原子能力,依托面向应用需求的能力编排,形成场景式的服务能力。
3)、“互联网+政务服务”一体化服务平台项目建设是整合现有相关系统建设市、县、乡镇、村全面覆盖的四级线上、线下一体化平台,实现全市“一网通办”、“全城通办”,提升政务服务效率。
4)、我的XX-城市移动综合服务平台项目通过建设多终端统一管理平台实现政务服务和民生服务的入口和出口统一,实现XX市民“一屏智享生活”。