大数据高并发解决方案

⾼并发、⼤流量解决⽅案

⼀、⾼并发架构相关概念1、并发：是指并发的访问，也就是某个时间点，有多少个访问同时到来；

通常如果⼀个系统的⽇PV在千万以上，有可能是⼀个⾼并发的系统；2、具体关⼼什么？

QPS：每秒请求或查询的数量，在互联⽹领域，指每秒响应请求数；

吞吐量：单位时间内处理的请求量（通常由QPS与并发数决定）

响应时间：从请求发出到收到响应花费的时间，例如⼀个系统处理⼀个HTTP请求需要100ms，这个100ms就是系统的响应时间；PV：综合浏览量，即页⾯浏览量或者点击量，⼀个访客在24⼩时内访问的页⾯数量；

UV：独⽴访客 ，即⼀定时间范围内相同访客多次访问⽹站，只计算为⼀个独⽴的访客；

带宽：计算带宽⼤⼩需要关注两个指标，峰值流量和页⾯的平均⼤⼩；

⽇⽹站带宽=pv/统计时间（换算到秒）*平均页⾯⼤⼩（单位kB）*8

峰值⼀般是平均值的倍数；QPS不等于并发连接数，QPS是每秒HTTP请求数量，并发连接数是系统同时处理的请求数量；

峰值每秒请求数（QPS） = (总PV书*80%)/（6⼩时秒数*20%）

压⼒测试：测试能承受的最⼤并发，测试最⼤承受的QPS值

测试⼯具（ab）：⽬标是URL，可以创建多个访问线程对同⼀个URL进⾏访问（Nginx）；ab的使⽤：模拟并发请求100次（100个⼈），总共请求5000次（每个⼈请求5000次）

ab -c 100 -n 5000 待测试⽹站（内存和⽹络不超过最⾼限度的75%）

QPS达到50：⼀般的服务器就可以应付；

QPS达到100：假设关系型数据库的每次请求在0.01秒完成（理想），假设单页⾯只有⼀个SQL查询，那么100QPS意味着1秒中完成100次

请求，但此时我们不能保证数据库查询能完成100次；

⽅案：数据库缓存层、数据库的负载均衡；QPS达到800：假设我们使⽤ 百兆宽带，意味着⽹站出⼝的实际带宽是8M左右，假设每个页⾯是有10k，在这个并发的条件下，百兆带宽已

黑马程序员郑州中心 编著 黑马程序员：高并发解决方案

一、什么是高并发

高并发（High Concurrency）是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。高并发相关常用的一些指标有响应时间（Response Time），吞吐量（Throughput），每秒查询率QPS（Query Per Second），并发用户数等。

响应时间：系统对请求做出响应的时间。例如系统处理一个HTTP请求需要200ms，这个200ms就是系统的响应时间。

吞吐量：单位时间内处理的请求数量。

QPS：每秒响应请求数。在互联网领域，这个指标和吞吐量区分的没有这么明显。

并发用户数：同时承载正常使用系统功能的用户数量。例如一个即时通讯系统，同时在线量一定程度上代表了系统的并发用户数。

二、什么是秒杀

秒杀场景一般会在电商网站举行一些活动或者节假日在12306网站上抢票时遇到。对于电商网站中一些稀缺或者特价商品，电商网站一般会在约定时间点对其进行限量销售，因为这些商品的特殊性，会吸引大量用户前来抢购，并且会在约定的时间点同时在秒杀页面进行抢购。 黑马程序员郑州中心 编著 此种场景就是非常有特点的高并发场景，如果不对流量进行合理管控，肆意放任大流量冲击系统，那么将导致一系列的问题出现，比如一些可用的连接资源被耗尽、分布式缓存的容量被撑爆、数据库吞吐量降低，最终必然会导致系统产生雪崩效应。

一般来说，大型互联网站通常采用的做法是通过扩容、动静分离、缓存、服务降级及限流五种常规手段来保护系统的稳定运行。

三、扩容

由于单台服务器的处理能力有限，因此当一台服务器的处理能力接近或已超出其容量上限时，采用集群技术对服务器进行扩容，可以很好地提升系统整体的并行处理能力，在集群环境中，节点的数量越多，系统的并行能力和容错性就越强。

在无状态服务下，扩容可能是迄今为止效果最明显的增加并发量的技巧之一。

高并发网站系统架构解决方案

一个小型的网站，比如个人网站，可以使用最简单的html静态页面就实现了，配合一些图片达到美化效果，所有的页面均存放在一个目录下，这样的网站对系

统架构、性能的要求都很简单，随着互联网业务的不断丰富，网站相关的技术经过这些年的发展，已经细分到很细的方方面面，尤其对于大型网站来说，所采用的技 术更是涉及面非常广，从硬件到软件、编程语言、数据库、WebServer、防火墙等各个领域都有了很高的要求，已经不是原来简单的html静态网站所能 比拟的。

大型网站，比如门户网站。在面对大量用户访问、高并发请求方面，基本的解决方案集中在这样几个环节：使用高性能的服务器、高性能的数据库、高效率的编程语言、还有高性能的Web容器。但是除了这几个方面，还没法根本解决大型网站面临的高负载和高并发问题。

上面提供的几个解决思路在一定程度上也意味着更大的投入，并且这样的解决思路具备瓶颈，没有很好的扩展性，下面我从低成本、高性能和高扩张性的角度来说说我的一些经验。

1、HTML静态化

其实大家都知道，效率最高、消耗最小的就是纯静态化的html页面，所以我们尽可能使我们的网站上的页面采用静态页面来实现，这个最简单的方法其实也是 最有效的方法。但是对于大量内容并且频繁更新的网站，我们无法全部手动去挨个实现，于是出现了我们常见的信息发布系统CMS，像我们常访问的各个门户站点 的新闻频道，甚至他们的其他频道，都是通过信息发布系统来管理和实现的，信息发布系统可以实现最简单的信息录入自动生成静态页面，还能具备频道管理、权限 管理、自动抓取等功能，对于一个大型网站来说，拥有一套高效、可管理的CMS是必不可少的。

除了门户和信息发布类型的网站，对于交互性要求很高的社区类型网站来说，尽可能的静态化也是提高性能的必要手段，将社区内的帖子、文章进行实时的静态化，有更新的时候再重新静态化也是大量使用的策略，像Mop的大杂烩就是使用了这样的策略，网易社区等也是如此。

银行大数据解决方案

一、项目背景

2015年8月31日，国务院印发了《促进大数据发展的行动纲要》，这一战略性文件为我国大数据发展与应用提供了指导纲领和政策保障。在数据已成为银行重要资产和宝贵资源的形势下，《纲要》也为银行利用大数据推动转型发展指明了方向和实施路径，带来了发展新机遇。

当前中国银行业正在步入大数据时代的初级阶段。经过多年的发展与积累，目前银行业的数据量已经达到100TB以上级别，并且非结构化数据量正在以更快的速度增长。银行业在数据方面有天然的优势：一方面，银行在业务开展过程中积累了包括客户身份、资产负债情况、资金收付交易等大量高价值密度的数据，这些数据在运用专业技术挖掘和分析之后，将产生巨大的商业价值；另一方面，银行具有较为充足的预算，可以吸引到实施大数据的高端人才，也有能力采用大数据的最新技术。

总体来看， 尽管大数据在银行业的应用刚刚起步，目前影响还比较小，但是从发展趋势来看，应充分认识大数据带来的深远影响。银行业需要进行统一的大数据平台建设，建立综合预测分析体系，整合生产系统数据资源。在此基础上与《纲要》规划的信用信息共享交换平台和公共机构数据统一开放平台有效对接，双管齐下扩展数据来源和采集渠道。这可以一方面高效收集、有效整合企业和社会公共数据，掌握企业真实需求，实现精准营销。尤其可通过农业农村信息综合服务和农业资源要素数据共享，获取三农数据和小微企业数据，解决数据挖掘和分析难点，提升三农和小微金融服务水平。另一方面利用平台动态监控企业经营及个人信用变化情况，强化信用风险智能化管理和预警，降低信用评估、风险控制的难度和不确定性，实现风险管控和精准营销的双重收益。

二、银行大数据平台总体框架

银行大数据平台框架概述

银行大数据建设是基于已有的信息化基础，充分利用和整合已有信息化资源，打破行业、部门之间的信息壁垒，运用大数据技术进行采集、加工、建模、分析，将数据价值融入到金融之中，从而提升创新能力和产品服务能力。