大数据及其典型应用54页PPT

详细描述
用户画像构建：通过 收集和分析用户的浏 览记录、购买记录、 搜索历史等数据，构 建用户画像，了解用 户的兴趣偏好和消费 习惯。
商品推荐算法：基于 用户画像和商品属性 数据，利用推荐算法 为用户推荐最符合其 需求的商品，提高转 化率和用户满意度。
实时更新与优化：根 据用户反馈和行为数 据进行实时更新和优 化推荐算法，确保推 荐结果的准确性和有 效性。
总结词
城市管理者通过大数据分析，可以更好地规划和管理城市资源，提高公共服务质量和效 率。
详细描述
城市管理者可以利用大数据分析城市的人口分布、交通流量、环境质量等信息，以优化 城市规划和资源配置。例如，通过分析交通流量数据，可以合理规划道路网络和公共交 通线路，缓解交通拥堵问题。同时，大数据还可以用于公共安全、应急管理和环境保护
04
流行病监测与防控：通过对疫情数据、人口流动数据等进行实时监测 和分析，及时发现和预防流行病的爆发和传播。
04
大数据挑战与未来发展
数据质量与治理
数据质量评估
数据安全与隐私保护
评估数据的准确性、完整性、一致性 和及时性，确保数据质量符合要求。
采取加密、脱敏等技术手段，确保数 据安全和用户隐私不受侵犯。
数据分析
利用统计学、机器学习等 方法，对数据进行深入挖 掘，发现数据背后的规律 和趋势。
数据安全与隐私保护
数据加密
采用加密技术对数据进行 加密存储和传输，保证数 据的安全性。
访问控制
通过设置访问权限和身份 认证，控制对数据的访问 和使用，防止未经授权的 访问和泄露。
隐私保护
采用匿名化、去标识化等 技术，保护用户隐私，避 免数据泄露和滥用。
数据清洗与整理
对数据进行清洗、去重、格式转换等 操作，确保数据准确无误。

32 32
大数据商业价值---企业经营决策
某商店卖 牛奶，通过数据分 析，知道在本店买 了牛奶的顾客以后 常常会再去另一店 买包子，人数还不 少，那么这家店就 可以考虑与包子店 合作，或直接在店 里出售包子。
33 33
大数据商业价值---个性化营销
银行与客户的交 流渠道进行了整合，只要 某个客户在网上点击查询 了有关房贷利率的信息， 系统就会提示呼叫中心在 电话交流时推荐房贷产品， 如果发现顾客确实对此感 兴趣，销售部门就会发送 推介信息给客户，如果这 位顾客到银行网点办事， 业务人员就会详细介绍房 贷产品，开始只有少量的 线索，但通过多渠道的与 顾客交互接触，在这个过 程中，令顾客体验了银行 精准、体贴的服务，其结 果是营业收入大为增加， 成本大幅降低，
31•顺应客户购买行为习惯
31
大数据商业价值---大数据为“未来的新石油”
2013年，世界上存储的数 据预计能达到约1.2泽（约12亿TB） 字节，如果把这些数据全部印刷成 书，这些书可以覆盖整个美国52次， 如果将之存储于标准的光盘，这些 光盘可以堆成五堆，每一堆都可以 伸到月球。
2012年3月22日，奥巴马 政府宣布投资2亿美元拉动大数据相 关产业发展，将“大数据战略”上 升为国家战略。奥巴马政府甚至将 大数据定义为“未来的新石油”。
从范围来看，
传统数据管理方式
外部性管理，依赖管理力度和执行自律，成难毁 易。
元数据
数据 稽核
管理 制度
从内涵来看，
非结构化数据、内外部数据混搭、 云化处理等都会冲击传统管理模式
挑战1
从形式来看，
数据加工的复杂度和速度要求越来 越高，也对传统管理效率提出挑战
挑战2 6
资产验证

大数据的收集方式
物联网 云计算
移动互联网
车联网 手机、平板电脑、PC 遍布地球各个角落的各种各样的传感器
大数据的收集方式
物联网、云计算、移动互联网、车联网、手机、车联网、PC以及遍 布地球各个角落的各种各样的传感器，无一不是数据来源或者承载的方 式。
大数据领域的技术
Hadoop
Hadoop原本来自于谷歌一款名为MapReduce 的编程模型包。谷歌的MapReduce框架可以把一个 应用程序分解为许多并行计算指令，跨大量的计算 节点运行非常巨大的数据集。 Hadoop得以在大数据处理应用中广泛应用得益 于其自身在数据提取、变形和加载(ETL)方面上的天 然优势。Hadoop的分布式架构，将大数据处理引擎 尽可能的靠近存储，对例如像ETL这样的批处理操 作相对合适，因为类似这样操作的批处理结果可以 直接走向存储。Hadoop的MapReduce功能实现了 将单个任务打碎，并将碎片任务(Map)发送到多个 节点上，之后再以单个数据集的形式加载(Reduce)
其他大数据技术
Apache Drill
为了帮助企业 用户寻找更为有效、 加快Hadoop数据查
大数据的应用
大数据在风电领域的应用
首先，结合了大数据分析和天气建模技术的能源 电力系统能够提高风电的可靠性。以往对风资源的预 测不够精准，在风能无法贡献预期功力时，火电就要 作为后备电力。这样，电网对风电的依赖程度越高， 需要建设后备电站的成本就越高。另外，启用火电站 的就等于向环境中释放碳排。然而，在大数据分析的 帮助下，温度、气压、湿度、降雨量、风向和风力等 变量都得到充分考虑，对风电的预测更加精准。电网 调度人员可以提前做好调度安排，也有助于电网消纳 更多风torm的话，可能会是这样： 分布式实时计算系统。按照storm作者的说法，storm 对于实时计算的意义类似于hadoop对于批处理的意 义。 在淘宝，storm被广泛用来进行实时日志处理， 出现在实时统计、实时风控、实时推荐等场景中。一 般来说，我们从类kafka的metaQ或者基于hbase的 timetunnel中读取实时日志消息，经过一系列处理， 最终将处理结果写入到一个分布式存储中，提供给应 用程序访问。我们每天的实时消息量从几百万到几十 亿不等，数据总量达到TB级。对于我们来说，storm

.
17
大数据技术介绍
何为大数据
技术能力视角
大数据指的是规模超过现有数据库工具获取、 存储、管理和分析能力的数据集额，并同时强 调并不是超过某个特定数量级的数据集才是大 数据
大数据内涵视角
大数据是具备海量、高速、多样、可变等特征 的多维数据集，需要通过可伸缩的体系结构实 现高效的存储、处理和分析。
.
• 实时数据流处理的要求，是区别大数 据引用和传统数据仓库技术，BI技术 的关键差别之一；
• 1s 是临界点，对于大数据应用而言, 必须要在1秒钟内形成答案，否则处 理结果就是过时和无效的；
.
30
中央政府对大数据的重视程度
习近平 政府管理不仅要讲究策略，还要讲究手段，比如大数据技术
的应用，2014年3月8日 “大数据”首次写入政府工作报告
该是一种什么样的体验。（其实你的信息，什么时候想要什么东西都
已经被商户预测啦，已经提前将商品运往目的地。甚至你路过的广告
屏，视频网站，包括使用的APP都将引导你消费。）
3.数据足够大就称呼其为大数据吗？（其实不然，关键在于其中承载
的信息。数据处理之后才可以称之为信息或者叫做知识。其实大数据
可以这样理解，当数据增长速度超过了计算机处理能力的增长速度，
大量的不相关信息；对未来趋势与模式的可预测分析；深度 复杂分析（机器学习、人工智能Vs传统商务智能）
实时分析而非批量式分析；数据输入、处理与丢弃； 立竿见影而非事后见效
.
26
大数据技术
Volume
1Bity
1K B
1 M B
1G B
1T B
1P B
1E B
1Z B
1Y B
1PB相当于50%的全美学术研究图书馆藏书信息内容 5EB相当于至今全世界人类所讲过的话语 1ZB如同全世界海滩上的沙子数量总和 1YB相当于7000位人类体内的微细胞总和

END
大数据 亲和力 。 27、自信是人格的核心。
28、目标的坚定是性格中最必要的力 量泉源 之一， 也是成 功的利 器之一 。没有 它，天 才也会 在矛盾 无定的 迷径中 ，徒劳 无功。- -查士 德斐尔 爵士。 29、困难就是机遇。--温斯顿．丘吉 尔。 30、我奋斗，所以我快乐。--格林斯 潘。
16、业余生活要有意义，不要越轨。——华盛顿 17、一个人即使已登上顶峰，也仍要自强不息。——罗素·贝克 18、最大的挑战和突破在于用人，而用人最大的突破在于信任人。——马云 19、自己活着，就是为了使别人过得更美好。——雷锋 20、要掌握书，莫被书掌握；要为生而读，莫为读而生。——布尔沃