Array Networks
服务器负载均衡（SLB）解决方案Array Networks, Inc.
目录
一、应用系统概述及面临的挑战 (3)
二、应用系统现状及需求分析 (4)
2.1 应用系统现状说明 (4)
2.2 应用系统负载均衡需求分析 (5)
三、Array APV服务器负载均衡解决方案 (6)
3.1 应用APV系列产品满足应用系统的高可靠性和高可用性 (6)
3.1.1 APV系列产品在网络中的部署方式 (6)
3.1.2 Array APV SLB的工作模式 (9)
3.1.3 Array APV系列产品服务器负载均衡功能实现 (14)
3.1.4 SLB的负载均衡算法 (15)
3.1.5 SLB的负载均衡策略 (18)
3.1.6 Array的SLB健康检查 (19)
3.1.7集群（Cluster）功能实现 (21)
3.1.8端口冗余功能实现 (21)
3.1.9 Array的SLB的特点 (22)
3.2为应用平台提供更多的应用特性和性能增强功能 (22)
3.2.1 Array Networks基于SpeedStack核心技术 (22)
3.2.2 Array Networks基于SpeedCore核心架构 (22)
3.2.3提供状态检测防火墙和入侵防护功能 (23)
3.2.4 提供连接复用技术（Connection Multiplexing） (24)
3.2.5 提供Http压缩功能 (25)
3.2.6 Memory Cache功能 (26)
3.2.7 SSL加速功能 (27)
3.2.8 IPv6支持 (29)
3.2.9 虚拟化应用 (29)
四、解决方案为用户带来的益处 (30)
五、Array APV系列产品介绍 (32)
一、应用系统概述及面临的挑战
及时、灵活、优惠的应用服务是当前企业商务活动的基础，也是为用户提供全面高质量服务，提高市场竞争力的出发点。而随着应用系统应用的推广和访问用户的增多，传统应用系统将面临以下挑战：
1、系统应用服务器“多米诺”现象
在系统平台中，单台服务器设备的应用，会随着各种条件的影响，不可避免的出现单点故障等问题，而在系统的应用中，任何无备份系统的单点故障都将直接影响到业务的正常提供，造成极大的损失。
考虑到服务器的冗余备份，需要服务器冗余设置来处理和接管出现故障主机的工作。传统方式是通过一台或多台服务器，采用冷备份方式来实现，当主服务器出现故障时，进行人工切换到备份服务器上。但这样做，除了会产生实效性的问题外，还将无法同时利用所有服务器的资源，应用投资得不到充分保护。且当出现超过主服务器的负载情况时，所得到的将是“多米诺效应”，即包括冷备份服务器在内的服务器将依次被过高的负载压垮，直至无服务器可用。
2、处理能力有限且扩容能力有限
随着系统用户的增多和系统应用负载的增大，各个应用服务器，特别是前置服务器上所要处理的数据量将增大，从而影响针对使用者的响应效率，造成对访问者的请求回应越来越慢等严重影响系统服务质量的现象。在服务器端则直接表现为可容纳的连接数越来越小，系统性能严重下降。
此时，将需要考虑增加应用服务器和数据库服务器的数量来满足不断增大的应用负载需求。当仅通过服务器集群（Cluster）的方式实现扩容时，将存在成本较高，严重影响正常系统应用的提供等问题，且扩容能力有限，无法满足不断增长的系统应用的需要。
3、应用系统发展与网络结构调整的不平衡性
随着新功能的加入和用户数的增多，系统维护和网络拓扑的变化将随时有可能发生，完全依靠专业技术队伍通过更改服务器配置或网络拓扑等方式进行网络调整
的方式，将存在大风险、非实时性、缺乏灵活性等缺陷。如何能够在业务正常运行的情况下进行按需增长的、动态的、且对系统用户是透明的网络调整和更新扩容，已经成为系统应用中迫切需要解决的问题。
4、应用服务器“负载峰值”问题
系统应用处理过程中，各个应用服务器的负载存在“波峰”和“波谷”的规律或不规律的变化，即便在波峰时，负载的大小又是不规律的，这就很容易使服务器面临“峰值阻塞”的问题。传统方式是通过更换为具有更高处理能力的单台服务器主机的方式来满足峰值的负载访问请求，但这种方式投资成本极大，并存在很大的资源浪费情况。
5、系统维护升级等问题将给相关人员造成极大的压力
系统平台的稳定运行，离不开应用系统的日常维护，而在线系统的维护操作，将会给正常应用中的系统应用带来了安全隐患。在主机操作系统和应用程序的调整和升级过程中，将会由于需要重新启动正在提供服务的应用程序，甚至重新启动操作系统而使此类工作很难进行下去。有限的维护、升级时间，将对应用造成很大风险的同时，给各个方面的相关人员造成很大的压力。
二、应用系统现状及需求分析
2.1 应用系统现状说明
在当前运行的应用系统中，大部分是通过前台Web/APP应用服务器采用多个端口提供服务的方式满足所有用户的应用接入要求。
使用示意图如下所示：
2.2 应用系统负载均衡需求分析
使用如上图所述的系统，目前系统的分发存在以下问题：
（1）应用服务器负载不均衡的问题
（2）由于采用软件分发方式，将带来软件不稳定的问题
（3）提供服务端口较多，用户登陆不方便的问题
为了解决接入负载不均等所造成的应用系统的应用缓慢的问题，建议选用Array APV系列产品，通过对应用系统的负载均衡功能实现，来满足以上应用需求。
Array产品系列提供一个将诸多复杂Web设备化零为整的解决方案，可以完全解决网上应用系统存在的问题。它是第一个真正的将众多重要的网络功能合为一体的集成化应用系统，这些网络功能包括服务器负载均衡（SLB），全局服务器负载均衡（GSLB），SSL加速， WebWall安全，链路负载平衡（LLB），HTTP压缩以及
SSL VPN解决远程安全访问等。
三、Array APV服务器负载均衡解决方案
应用系统通常采用Web Server /Application Server/Database Server多层结构设计，支持前端浏览器访问或客户端访问方式。
在应用系统平台中，通过Array AVP系列产品的应用，在实现Web服务器组、应用服务器组的负载均衡功能的同时，还可以实现Web应用的加速功能。从处理能力、扩展能力、安全性、应用的便利性等方面提供了流量管理和性能增强功能，能够在满足系统应用平台对持续性和稳定性的需求的基础上，提高应用系统的处理能力，在同样主机及网络平台下满足更多用户应用的访问需求。
3.1 应用APV系列产品满足应用系统的高可靠性和高可用性
Array APV服务器负载均衡解决方案中所指的高可用性，同时也是确保应用系统正常运行所需考虑的，主要是指以下几点：
1.使数据始终以一个稳定、安全的方式处理，在应用系统平台中，即便存在
单台设备不能提供服务时，仍能保持数据的完整性。通过智能识别检查，使整体应用持续稳定运行，即便发生单点或多点故障仍然能够保证正常提供服务。
2.使整个应用网络环境能够更好的被管理，提供APV设备本身容灾集群
（cluster）功能、服务器集群共享、应用和后台服务器方便维护等特点。
3.使前期设备投入有更好的效益和最佳的扩充能力，即在保证数据完整性的
同时，提供应用系统持续运行的能力，并实现当用户量的增大的情况下，在不影响应用的情况下，通过增加服务器的方式，响应用户负载的增加，保证了原有企业投资具有很高回报。
4.即便在应用软件不够完善，如经常出现故障不能提供服务的情况下，仍然
能够持续保证应用系统持续在线能力。
3.1.1 APV系列产品在网络中的部署方式
可通过以下两种拓扑结构满足当前系统应用需求：
串联连接部署方式
（Array APV服务器负载均衡功能串联实现拓扑结构图）
如上图所示，将两台APV产品串联连接在网络中，所有访问后台服务器的数据必须经过APV系列产品处理，每台APV产品各使用两组端口分别与上下两组交换机相连，AVP的每组端口中包含两个物理端口，通过端口冗余功能提高链路的可靠性。
当三层架构的应用系统正常工作情况下， Web服务器、应用服务器组、数据库服务器组中的所有应用服务器均正常提供服务，Array APV设备对三层架构中的各个服务器组实现服务器负载分担功能和有针对性的性能增强功能，并能够隐藏后台服务器组的IP地址和拓扑结构，仅向访问用户提供有限的一个或几个IP地址和端口，以供用户进行访问。
例如：通过配置，通过两个Virtual IP（IP_A和IP_B）地址的配置生效，对最终用户通过APV上的Virtual Service（IP地址和端口）提供服务的所有功能，接受用户的访问请求。当客户端向APV上的Virtual Service发起访问请求后，APV能够根据后台服务器健康检查的结构（健康状况），将用户访问请求分配到后台不同服务器进行处理。
IP_A对应服务器1和服务器3上的提供服务的端口，对服务器1和服务器3的各个提供服务的端口及应用实现负载均衡功能。
IP_B对应服务器2和服务器4上的提供服务的端口，对服务器2和服务器4的各个提供服务的端口及应用实现负载均衡或热备的功能。
旁路连接部署方式
（Array APV服务器负载均衡功能旁路实现拓扑结构图）
如上图所示，可使用APV的两个端口将Array APV产品分别连接在两个核心交换设备上，以避免单台核心交换机故障时对应用造成影响。
APV在进行服务器负载均衡功能时具有两种可选工作模式（详见以下负载均衡功能描述）：“反向代理模式”和“透明模式”。
如选择反向代理工作模式，在保证应用的同时，后台服务器收到的从APV 转发过来的访问请求的源IP地址将是APV的端口IP地址，此时后台服务
器的默认网关无需进行特殊设置，只需要从APV到后台服务器的数据包路
由可达（或同一网段）即可。
此模式下的网络连接方式下，对现有的网络拓扑及后台服务器几乎不做更
改，仅在APV上配置Virtual Server，同时接收用户的访问请求即可提供
服务。同时对系统的维护及数据上传下载工作可实现不经过APV处理，而
直接经过交换路由实现。
如选择透明代理工作模式，在保证应用的同时，后台服务器收到的从APV 转发过来的访问请求的源IP地址将是真实的客户端IP地址和端口，此时
后台服务器的默认网关一定要指向APV（如Virtual IP），从而保证请求
的回程正确。
此模式下对后台服务器的IP地址不需进行更改，只需要更改服务器的网
关即可。
如应用系统必须得知访问客户端的源IP地址，在不影响应用的前提下，建议采用“透明模式”。
如应用系统对客户端源IP地址无要求，则建议采用“反向代理模式”。
（具体两种模式的工作方式描述，详见3.1.2中描述）
3.1.2 Array APV SLB的工作模式
Array APV的服务器负载均衡可以以三种模式执行：Reverse Proxy Mode（反向代理模式）、Transparent Mode（透明模式）和Triangle Mode（三角传输模式）。
（1）Reverse Proxy Mode（反向代理模式）
使用Array APV的反向代理服务可以将请求转发给内部的服务器，让Array APV将请求均匀地转发给多台内部服务器之一上，从而达到负载均衡的目的。这种代理方式与普通的代理方式有所不同，标准代理方式是客户使用代理访问多个外部服务器，而这种代理方式是多个客户使用它访问内部服务器，因此也被称为反向代
理模式。其传输流程如下所示：
反向代理模式的优点：
－可以采用One-armed的结构部署；
－可以通过连接池技术增强系统性能。
反向代理模式的局限性：
－服务器无法记录哪些IP的客户端曾进行访问
解决办法: Array TM可以在用户的HTTP包头中加入X-Forwarded-For字段，用它记录客户端的IP地址。
（2）Transparent Mode（透明模式）
Array APV 的透明模式是指Array APV在转发用户请求时，透明地将客户端的连接定向到特定的服务器上，即用户的源IP地址对服务器是透明的，服务器可以
知道哪个客户对其进行了访问。其传输流程如下：
透明模式的优点：服务器可以记录哪些IP的客户端曾进行访问。
透明模式的局限性：
－结构/路由设计必须保障从源服务器端来的响应必须经过APV；
－One-armed的结构有可能不能实现；
－由于每个请求的源IP地址都不一样，因此无法利用连接池技术改善系统性能。
（3）Triangle Mode（三角传输模式）
Array的三角传输模式是为那些低输入、高输出的应用系统而特别设计的，例如：VOD系统，从而能更好的提升服务效率。
三角传输模式保证了流媒体服务的高性能，在该模式下，用户请求通过Array APV被分担到某一个服务器上，而服务器返还的响应数据则可以不通过APV而直接
发送到客户端。其传输流程如下：
1.客户端经路由器向APV上的VIP（10.3.61.80）发送请求。
2.APV转发请求至后台应用服务器10.
3.60.11。
3.由于在服务器上同样配置了Loopback接口地址10.3.61.80，而且缺省网关
地址指向10.3.61.1，因此在收到客户端的请求后，将以10.3.61.80为源地址，直接经过路由器回送相应信息。
4.请求报文必须经过APV，而回应报文则不必经过APV，由服务器直接回应给
客户端。
注意：三角传输模式下的健康检测是基于服务器的真实地址做的，而不是Loopback地址。这就意味着，该服务器的健康检测是UP时，服务器所提供的真实服务并不一定是可用的。
3.1.3 Array APV系列产品服务器负载均衡功能实现
对于应用系统而言，访问时延和服务器的可靠性是非常重要的问题。而随着业务的增长，对拥有多台服务器的客户来说，不是全部服务器都发挥了其应有的效力。
在各个服务器组均能够正常提供服务时，客户端人员仅需向APV上的特定的对外提供服务的IP地址（VIP）和端口发起访问请求，既能得到所有应用功能实现。后台真实提供服务的IP地址和端口将被APV隐藏起来。
Array APV设备能够根据预先负载均衡功能配置，将用户访问请求发送到后台最合适的服务器上进行处理，在实现了将大量访问负载分担到多台应用服务器上进行处理的同时，还可以在今后通过增加应用服务器数量的方式提高整个应用平台的处理能力和响应速度。
在进行服务器负载均衡功能时（四层负载均衡功能、七层负载均衡功能），APV中提供了多种丰富的策略和算法以满足不同应用系统的特定需求。
Array APV提供的负载均衡服务（SLB），使每台服务器的处理能力都能得到充分的发挥。SLB可以实现如下的功能：
提供真正面向应用层的WWW等，以及基于固定端口的TCP/UDP等应用的负载均衡；
无需改动网络拓扑结构，即可实现功能；
功能强大，支持路由功能- 根据实际响应时间的负载平衡算法来实现真正的合理的流量分配。
使用特有的连接复用技术和连接池技术，有效减少后台服务器的负载，保护企业的投资成本。
Array APV系列集成了各种网络流量高速的管理功能，包括紧密结合的4~7
层服务器负载平衡（SLB）、全局服务器负载平衡（GSLB）、高速缓存（Caching）、链路负载平衡（Link Load Balancing）、SSL加速、HTTP压缩（HTTP Compressing）、集群（Clustering）、Webwall安全等功能。客户可以随
着自身的业务增加同步扩充系统规模，只需获取软件许可证即可迅速添加新的功能。
Array APV提供了功能强大的Web数据管理平台，使网络内容的传送更加快捷和顺畅。传统的解决方案往往由多个单功能设备组成，而Array APV则具备高性能、高可靠性和可扩充性特点，可以为客户节省大量的硬件、安装、维护、机架空间和人力方面的投入。
为了改善性能，Array Network 应用了突破性的SpeedStack TM 技术，采用高性能数据包处理内核，包括GB级TCP/IP和SSL处理，HTTP处理内核和全代理内核，IP 数据包对全部的网路功能仅需在TCP/IP堆栈中分析一次，可避免重复性的数据包处理工作。
Array APV安装非常简单，并具有用户友好的Web界面（WebUI）和命令行接口（CLI），CLI可以通过控制台或SSH提供。为确保系统管理员的访问是安全的，不允许采用Telnet登录方式。Array APV的管理工具包可以迅速配置和启动服务。此外，Array APV具有完整的SNMP和XML－RPC管理选项，为保护现有技术投资，Array APV非常便于补充或替代现有的网络设备。
3.1.4 SLB的负载均衡算法
SLB的负载均衡算法分为Policy 和 Method 两种，Policy 是指virtual service 和Group 的之间，对不同组的均衡选择算法，而Method 是指在一个组内部的多个服务器之间的均衡算法。
我们先看Method ，Array APV支持多种服务器负载均衡算法（持续性的、非持续性的、SNMP-Based），包括轮循算法、最少连接算法、最短响应时间算法、散列算法等等。此外实际服务器可以被分配不同的加权值来调整被分配的流量。可以使性能高的大型服务器支持更多的负载。为了避免服务器因过载而崩溃，可为实际服务器指定最大连接阈值来避免该服务器过载。任何服务器可被指定为另一台服务器的备份服务器或溢出服务器，从而进一步保证了应用可用性。
?非持续性算法（Non-Persistent）：一个客户端的不同的请求可能被分配到一
个实服务组中的不同的实服务器上进行处理。主要有：轮循算法、最少连接算法、响应速度算法等。
●轮循算法（Round Robin）：每一次来自网络的请求轮流分配给内部中
的每台服务器，从1至N然后重新开始。此种均衡算法适合于服务器组中
的所有服务器都有相同的软硬件配置并且平均服务请求相对均衡的情况；
●最少连接算法（Least Connection）：客户端的每一次请求服务在服务
器停留的时间都可能会有较大的差异，随着工作时间的加长，如果采用简
单的轮循或随机均衡算法，每一台服务器上的连接进程可能会产生极大的
不同。最少连接数均衡算法对内部中有负载的每一台服务器记录正在处理
的连接数量，当有新的服务连接请求时，将把当前请求分配给连接数最少
的服务器，使均衡更加符合实际情况，负载更加均衡。此种均衡算法适合
长时间处理的请求服务。
●最短响应时间算法（Response Time）：负载均衡设备对内部各服务器
发出一个探测请求（例如Ping），然后根据内部中各服务器对探测请求
的最快响应时间来决定哪一台服务器来响应客户端的服务请求。此种均衡
算法能较好地反映服务器的当前运行状态，但最快响应时间仅仅指的是负
载均衡设备与服务器间的最快响应时间，而不是客户端与服务器间的最快
响应时间。
?持续性算法（Persistent）：从一个特定的客户端发出的请求都被分配到一个
实服务组中的同一个实服务器上进行处理。主要包括：
A．基于IP的算法
●Persistent IP (pi)：基于用户IP地址来选择服务器。
●Hash IP (hi) ：基于用户IP地址的HASH值，来选择服务器
●Consistent Hash IP (chi)
B．基于报头/请求的算法
●Hash Header (hh)：基于用户请求报中HTTP报头来选择服务器；
●Persistent Hostname (ph) ：基于用户请求报中HTTP报头的
Hostname的HASH值，来选择服务器；
●Persistent URL (pu)：基于对URI Tag 和值的静态对应关系来选择服
务器。SSL Session ID (sslsid)：基于SSL会话ID来选择服务器。
●SSL Session ID(sslid): 这是基于应用服务采用的时ssl 协议,每个ssl
session 都有一个特定的ssl sessionID, 根据这个ID的保持行算法
就是SSLID
C．基于Cookie的算法
●Persistent Cookie (pc) ：选择服务器基于用户请求包用Cookie
Name / Value 的静态对应关系；
●Hash Cookie (hc) ：选择服务器基于用户请求包用Cookie Name /
Value 的Hash 值对应关系；
●Insert Cookie (ic) ：选择服务器基于Array 向服务器响应包中插入
Cookie；
●Re-write Cookie (rc)：选择服务器基于Array 向服务器响应包中重写
Cookie值。（必须为重写指定Cookie值的偏移量
●Embed Cookie: 选择服务器基于Array 向服务器响应包中嵌入
Cookie,它会见查会话已有的cookie；
?SNMP-based算法：基于特定的SNMP信息选择合适的服务器，例如：CPU利
用率，硬盘的型号以及内存的状态。
APV将定期发送SNMP请求到真实服务器，并根据服务器回应的数据从而实现服务器负载均衡的目的。
参与的后台服务必须安装有 SNMP 服务软件，并有相应配置。这个功能在保护后台服务地同时，极大地帮助了对客户请求的处理。
?基于优先级的算法：可以对每个后台服务器设定一个不同的优先级，正常情况
下，客户端的请求总选择一个优先级最高的可用后台服务器，优先级低的不接受请求。当优先级最高的后台服务器不能提供服务时，由次优先级的可用后台服务器接管，以此类推。
3.1.5 SLB的负载均衡策略
一个Virtual Service 可能对应多个组，SLB 的负载均衡策略时服务选择定义的组的策略,主要有三大类：基础性策略、保持性策略、QOS策略。
（1）基础性策略
●Static ：在Virtual service 和 Real service 之间建立静态的对应关系
●Default：缺省策略，在没有七层匹配策略时生效。
●Backup ：在匹配一条策略成功，但组内的real services比可用，或
组内的Method匹配失败时生效。
（2）保持性策略，同上一部分Method的匹配规则。须和Method 配合使用。
●Persistent URL
●Persistent Cookie
●Rewrite Cookie
●Insert Cookie
●Header
（3）QOS 策略：七层的负载均衡策略可以根据应用的Header进行更加智能的负载均衡策略
●QOS Cookie ：根据请求的Cookie的值进行均衡
●QOS Hostname ：根据访问的包头中的Hostname 包头进行均衡
●QOS URL：根据URL 字符串进行组的选择
●QOS Network ：根据客户端的源IP地址进行均衡。
●Regular Expression ：更灵活的表达式
●Header : 根据特定的包头进行均衡
●Redirect：将客户端的http request 从一个host 转向到另一个
host 。
3.1.6 Array的SLB健康检查
在进行服务器负载均衡功能的同时，Array APV能够实现对服务器应用的实时健康检查，当应用系统工作异常时，APV能够及时发现并将接下来的访问请求转发到其它能够正常工作的服务器上进行处理，以保证数据流量会自动绕过故障服务器或不可用服务器。当APV的健康检测机制，检测到服务器重新恢复正常以后，将使该服务器可以自动回到服务器群之中继续接收处理用户访问请求，且所有这些服务器故障的处理，对进行操作的用户是完全透明的。
Array APV对服务器的健康检查，可采用如下多种方式：
?适用于3层类型的应用服务检查：
●ICMP检查：利用ICMP可检查服务器的网络工作是否正常。
?适用于4层类型的应用服务检查：
●TCP检查：Array APV可与服务器之间，利用服务器的服务端口建
立TCP连接，检查服务器的服务是否正常。
●UDP检查：Array APV针对DNS服务进行检查，可及时判断DNS
服务是否正常。
●TCPS检查：对与Real services 的SSL 协议握手是否成功进行检查
?适用于7层类型的应用服务检查：
●HTTP检查：Array APV采用HTTP的检查，来验证服务器提供的服
务是否正常。
●Script TCP 和Script UDP检查：通过脚本检查TCP服务或UDP服
务工作是否健康，这种方法更加灵活。
●DNS 检查、Radius 检查：检查DNS服务器和Radius服务器的健康
状态。
?高级Script健康检查方式：
●Script TCP 和Script UDP检查：通过脚本检查TCP服务或UDP服
务工作是否健康，这种方法更加灵活。
?Web 页面的关键词检查：
●HTTP健康检查支持后台服务响应页面的关键词匹配。HTTP健康检
查模块在后台服务的回答中查找关键词，如果找到了，该后台服务
是好的，否则后台服务不正常。
通过这些机制，确保服务器为用户提供正确可靠的服务。用户再也不会得到这样请求的响应“404 Object Not Found”，或响应内容不正确。
通过服务器健康检查功能实现，当其中的任何一台或几台服务器需要离线进行维护或出现故障时，Array APV设备能够通过预先配置的多种智能健康检查机制，及时发现不能正常处理应用的应用服务器，并将接下来的用户访问请求发送到其它能够正常处理的应用的服务器上，从而避免了由于某台服务器的故障而影响了整体的应用业务的提供，保证了业务的高可用性。
HUAWEI USG6000V系列NFV防火墙技术白皮书之---服务器负载均衡技术白皮书 华为技术有限公司 Huawei Technologies Co., Ltd.
目录 1背景和概述 (2) 2全局服务器负载均衡（GSLB） (3) 3本地服务器负载均衡（LSLB） (4) 3.1使用目的MAC地址转换的服务器负载均衡（DR） (4) 3.2使用网络地址转换实现的服务器负载均衡（L4 SLB） (5) 3.3使用轻量代理和网络地址转换的服务器负载均衡（L4 lwProxy SLB） (7) 3.4使用全量Socket 代理的服务器负载均衡（L7 Socket Proxy SLB） (9) 3.4.1socket代理加业务会话关联保持 (9) 3.4.2根据URL类型不同的分担，静态资源访问和动态计算访问分开多种服务 器10 3.4.3SSL卸载 (10) 3.4.4链路优化：压缩、协议优化、本地cache、多路复用 (11) 3.5业务保持技术 (13) 4华为USG防火墙支持的SLB功能列表 (14)
1 背景和概述 随着互联网的快速发展，用户访问量的快速增长，使得单一的服务器性能已经无法满足大量用户的访问，企业开始通过部署多台服务器来解决性能的问题，由此就产生了服务器负载均衡的相关技术方案。 在实际的服务器负载均衡应用中，由于需要均衡的业务种类以及实际服务器部署场景的不同（比如是否跨地域、跨ISP数据中心等），存在多种负载均衡的技术。如下典型的组网方式如图所示： 服务提供方为了支撑大批量的用户访问，以及跨不同地域、不同接入ISP的用户都能够获得高质量的业务访问体验，其已经在不同地域、不同ISP数据中心搭建了服务器，这样就带来一个需求，也就是客户的访问能够就近、优先选择同一个ISP数据中心的服务器，从而获得高质量的业务访问体验。 同时，基于单台服务器能够提供的业务访问并发是有限的，那么就自然想到使用多台服务器来形成一个“集群”，对外展现出一个业务访问服务器，以满足大量用户访问、而且可以根据业务访问量的上升可以动态的进行业务能力扩容的需要。
Tomcat集群与负载均衡（转载） 在单一的服务器上执行WEB应用程序有一些重大的问题，当网站成功建成并开始接受大量请求时，单一服务器终究无法满足需要处理的负荷量，所以就有点显得有点力不从心了。另外一个常见的问题是会产生单点故障，如果该服务器坏掉，那么网站就立刻无法运作了。不论是因为要有较佳的扩充性还是容错能力，我们都会想在一台以上的服务器计算机上执行WEB应用程序。所以，这时候我们就需要用到集群这一门技术了。 在进入集群系统架构探讨之前，先定义一些专门术语： 1. 集群(Cluster)：是一组独立的计算机系统构成一个松耦合的多处理器系统，它们之间通过网络实现进程间的通信。应用程序可以通过网络共享内存进行消息传送，实现分布式计算机。 2. 负载均衡(Load Balance)：先得从集群讲起，集群就是一组连在一起的计算机，从外部看它是一个系统，各节点可以是不同的操作系统或不同硬件构成的计算机。如一个提供Web服务的集群，对外界来看是一个大Web服务器。不过集群的节点也可以单独提供服务。 3. 特点：在现有网络结构之上，负载均衡提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。集群系统(Cluster)主要解决下面几个问题： 高可靠性（HA）：利用集群管理软件，当主服务器故障时，备份服务器能够自动接管主服务器的工作，并及时切换过去，以实现对用户的不间断服务。 高性能计算（HP）：即充分利用集群中的每一台计算机的资源，实现复杂运算的并行处理，通常用于科学计算领域，比如基因分析，化学分析等。 负载平衡：即把负载压力根据某种算法合理分配到集群中的每一台计算机上，以减轻主服务器的压力，降低对主服务器的硬件和软件要求。 目前比较常用的负载均衡技术主要有： 1. 基于DNS的负载均衡 通过DNS服务中的随机名字解析来实现负载均衡，在DNS服务器中，可以为多个不同的地址配置同一个名字，而最终查询这个名字的客户机将在解析这个名字时得到其中一个地址。因此，对于同一个名字，不同的客户机会得到不同的地址，他们也就访问不同地址上的Web服务器，从而达到负载均衡的目的。 2. 反向代理负载均衡（如Apache+JK2+Tomcat这种组合） 使用代理服务器可以将请求转发给内部的Web服务器，让代理服务器将请求均匀地转发给多台内部Web服务器之一上，从而达到负载均衡的目的。这种代理方式与普通的代理方式有所不同，标准代理方式是客户使用代理访问多个外部Web服务器，而这种代理方式是多个客户使用它访问内部Web服务器，因此也被称为反向代理模式。 3. 基于NAT（Network Address Translation）的负载均衡技术（如Linux Virtual Server，简称LVS）
服务器负载均衡的设计与实现 在该架构中OpenFlow控制器可以获取每个服务器的运行状态，并根据运行状态分发用户请求，最大程度地利用每台服务器的计算资源，并且可以在系统运行期间动态地添加或删除服务器，使系统具备很高的灵活性。 1、动态负载均衡架构的整体设计 负载均衡架构是在一个非结构化的网络中使用集中式的控制器实现多台服务器共同对外提供服务。OpenFlow网络中的所有交换机都连接在一个控制器上，每台服务器有两块网卡，一块网卡连接到OpenFlow网络对用户提供网络服务，另一块通过以太网交换机和控制器相连，以便控制器通过SNMP协议获取服务器的运行状态，具体架构如图所示。 在上述负载均衡架构中控制器是网络的核心，其主要功能有四个，分别为： 保证网络正常的通信、获取服务器的运行状态、通过负载均衡算法计算服务器的综合负载、向交换机下发流表项以转发用户请求；控制器的模块设计如图所示。 本文阐述的负载均衡架构可以工作在任意openflow网络中，而不是专门为某个服务器
所设计的负载均衡，控制器的首要任务就是保证网络可以提供正常的数据转发服务，为了保证网络既可以为其他服务提供基础支持又保证负载均衡能够正常工作，在控制器的转发控制中有两个模块，第一个模块负责负载均衡服务，第二个模块负责网络的基本通信。当一个数据包到达Openflow交换机后，如果交换机找不到可以匹配的流表项，就会向控制发送packet-in消息，控制器收到packet-in消息之后首先交给负载均衡模块，由负载均衡模块处理该消息，如果该数据包的目的IP 不是负载均衡所负责的网络服务，如果该数据包的目的IP不是负载均衡所负责的网络服务，负载均衡模块就不会做任何处理而是直接packet-in 消息传递给网络通信模块，以保证其它业务正常通信。如果该数据包的目的IP是负载均衡所负责的网络服务，负载均衡模块就向交换机下发流表项让交换机完成负载均衡服务。 为了有效地利用计算资源，控制器还需要根据服务器的运行状态转发用户请求，因此控制器还要完成这方面的工作。在此架构中每台服务器都有一块通过以太网交换机和控制器相连的网卡，控制器通过以太网交换机和服务器通信，利用SNMP协议获取服务器的运行状态。在此架构中就算没有和服务器相连的网卡，控制器也可以通过Openflow网络和服务器通信，本文之所以没有这么做是因为控制器直接和连接在openflow网络中的服务器通信需要交换机把所有服务器所发送的消息封装成packet-in消息发送给交换机，控制器也必须通过向交换机发送packet-out消息才能把数据发送给服务器，这样做会给交换机和控制器同时带来很大的压力。 因为服务器的运行状态必须由多条信息才能描述清楚，所以就算得到服务器的运行状态之后，也无法根据多条信息判断哪台服务器的负载最低。因此本文在控制器中运行了一个负载均衡算法，控制器会把服务的运行状态作为负载均衡算法的参数代入到服务器综合负载的运算中，计算出服务器的综合负载，并根据综合负载得到负载最小的服务器。 负载均衡的核心内容就是让交换机分发用户的请求，用户请求的第一个数据包到达交换级之后，交换机会通过packet-in消息把数据包发送给控制器，控制器中的负载均衡模块会通过SNMP协议获取所有服务器的运行状态，并根据运行状态计算服务器的综合负载，之后把用户的请求转发给综合负载最小的服务器。 2、动态负载均衡架构的设计与实现 负载均衡常用的算法有随机、轮训和最小连接数，原因是这三种算法很容易用硬件实现，这三种算法中最小连接数算法的效果是最理想的，但是如果集群中的服务器在CPU、内存、网络带宽上的配置不相同，这三个算法都不能充分地发挥服务器集群的计算能力。在openflow网络中，网络的控制层由软件制定，负载均衡算法也可以集成在控制器中，使用软件完成，这样可以更准确地评估服务器的负载情况。本文阐述的负载均衡方案中就设计了一个负载均衡算法，根据服务器的运行状态计算服务器的综合负载，并返回综合负载最小的服务器。该算法可以在服务器性能差距较大的集群中充分发挥每一台服务器的计算能力，算法的具体实现过程如下： 1）动态反馈当前服务器负载量 主要收集每台服务器CPU和内存的使用率，这些信息并不能直接表示一台服务器的负载情况，所以使用公式1把CPU和内存信息转换为服务器的负载量，其中LC为第i台服务器CPU的使用率，LM为第i台内存的使用率，r1和r2为权值，用于强调该服务类型对各个部分的不同影响程度，r1+r2=1,LS为计算得出的第i台服务器负载量 LS=r1LC+r2*LM 2）服务器处理能力计算； 集群中服务器的性能也可能不同，在计算服务器负载的时候还要考虑服务器的处理能力，第i台服务器的处理能力使用C(i)表示，C的计算方法如公式所示，其中P为第i台服务器CPU的个数，M为第i台服务器内存的大小，r1和r2为权值，r1+r2=1。
双节点数据库负载均衡解决方案 问题的提出？ 在SQL Server数据库平台上，企业的数据库系统存在的形式主要有单机模式和集群模式（为了保证数据库的可用性或实现备份）如：失败转移集群（MSCS）、镜像（Mirror）、第三方的高可用（HA）集群或备份软件等。伴随着企业的发展，企业的数据量和访问量也会迅猛增加，此时数据库就会面临很大的负载和压力，意味着数据库会成为整个信息系统的瓶颈。这些“集群”技术能解决这类问题吗？SQL Server数据库上传统的集群技术 Microsoft Cluster Server(MSCS) 相对于单点来说Microsoft Cluster Server(MSCS)是一个可以提升可用性的技术，属于高可用集群，Microsoft称之为失败转移集群。 MSCS 从硬件连接上看，很像Oracle的RAC，两个节点，通过网络连接，共享磁盘；事实上SQL Server 数据库只运行在一个节点上，当出现故障时，另一个节点只是作为这个节点的备份； 因为始终只有一个节点在运行，在性能上也得不到提升,系统也就不具备扩展的能力。当现有的服务器不能满足应用的负载时只能更换更高配置的服务器。 Mirror 镜像是SQL Server 2005中的一个主要特点，目的是为了提高可用性，和MSCS相比，用户实现数据库的高可用更容易了，不需要共享磁盘柜，也不受地域的限制。共设了三个服务器，第一是工作数据库（Principal Datebase），第二个是镜像数据库（Mirror），第三个是监视服务器（Witness Server，在可用性方面有了一些保证，但仍然是单服务器工作；在扩展和性能的提升上依旧没有什么帮助。
F5双机热备实施说明 2012/12/4
一、项目拓扑图及说明 两台F5负载均衡设备采用旁挂的方式连接至交换机，设备地址和虚拟地址在服务器的内网地址段中划分；使用F5为认证应用服务器进行流量负载均衡。 二、设备信息及IP分配表 F5：型号BIG-IP LTM 1600 软件版本：V10.2.4 对外地址对外端口内网地址内网端口协议设备名备注 192.168.100.21 https://www.doczj.com/doc/954912404.html, F5-1IP地址 192.168.100.22 https://www.doczj.com/doc/954912404.html, F5-2IP地址 192.168.100.23 F5浮动地址 10.168.100.21 F5-1数据同步 10.168.100.22 F5-2数据同步 192.168.100.150 80 192.168.100.4 80 TCP 认证服务器1 192.168.100.5 80 TCP 认证服务器2 三、实施步骤及时间
3.1、F5设备加电测试 3.2、配置F5及F5双机，需2.5小时 3.3、测试F5双机切换，需0.5小时，这部分作为割接准备工作。3.4、先添加认证服务器单节点到F5设备192.168.100.150的虚拟服务中，在内网测试应用，需0.5小时 3.5、将应用服务器从双机模式更改为集群模式，将认证服务器两个节点添加到F5设备，这个时间取决于服务器模式更改的时间。 3.6、在防火墙上更改认证服务器的映射地址，将原来的地址更改为F5设备上的虚拟服务IP地址192.168.100.150 ，TCP 协议80端口。 四、回退方法 在外部网络不能访问认证服务时，回退的方法是在防火墙上把F5设备虚拟服务器192.168.100.150地址映射，更改为原单台认证服务器IP地址，将认证服务器集群模式退回双机模式。 五、F5设备配置步骤 5.1、设置负载均衡器管理网口地址 F5 BIG-IP 1600 设备的面板结构: BIG-IP 1600应用交换机具备四个10/100/1000M自适应的网络接口及二个光纤接口. 10/100/1000 interface — 4个10/100/1000 M 自适应的网络接口 Gigabit fiber interface — 2个1000M 多模光纤接口
大家都知道一台服务器的处理能力，主要受限于服务器自身的可扩展硬件能力。所以，在需要处理大量用户请求的时候，通常都会引入负载均衡器，将多台普通服务器组成一个系统，来完成高并发的请求处理任务。 之前负载均衡只能通过DNS来实现，1996年之后，出现了新的网络负载均衡技术。通过设置虚拟服务地址（IP），将位于同一地域（Region）的多台服务器虚拟成一个高性能、高可用的应用服务池；再根据应用指定的方式，将来自客户端的网络请求分发到
服务器池中。网络负载均衡会检查服务器池中后端服务器的健康状态，自动隔离异常状态的后端服务器，从而解决了单台后端服务器的单点问题，同时提高了应用的整体服务能力。 网络负载均衡主要有硬件与软件两种实现方式，主流负载均衡解决方案中，硬件厂商以F5为代表目前市场占有率超过50%，软件主要为NGINX与LVS。但是，无论硬件或软件实现，都逃不出基于四层交互技术的“转发”或基于七层协议的“代理”这两种方式。四层的转发模式通常性能会更好，但七层的代理模式可以根据更多的信息做到更智能地分发流量。一般大规模应用中，这两种方式会同时存在。 2007年F5提出了ADC（Application delivery controller）的概念为传统的负载均衡器增加了大量的功能，常用的有：SSL卸载、压缩优化和TCP连接优化。NGINX也支持很多ADC的特性，但F5的中高端型号会通过硬件加速卡来实现SSL卸载、压缩优化这一类CPU密集型的操作，从而可以提供更好的性能。 F5推出ADC以后，各种各样的功能有很多，但其实我们最常用的也就几种。这里我也简单的总结了一下，并和LVS、Nginx对比了一下。
一、用户需求 本案例公司中现有数量较多的服务器群： WEB网站服务器 4台 邮件服务器 2台 虚拟主机服务器 10台 应用服务器 2台 数据库 2台（双机+盘阵） 希望通过服务器负载均衡设备实现各服务器群的流量动态负载均衡，并互为冗余备份。并要求新系统应有一定的扩展性，如数据访问量继续增大，可再添加新的服务器加入负载均衡系统。 二、需求分析 我们对用户的需求可分如下几点分析和考虑： 1.新系统能动态分配各服务器之间的访问流量；同时能互为冗余，当其中 一台服务器发生故障时，其余服务器能即时替代工作，保证系统访问的 不中断； 2.新系统应能管理不同应用的带宽，如优先保证某些重要应用的带宽要 求，同时限定某些不必要应用的带宽，合理高效地利用现有资源；
3.新系统应能对高层应用提供安全保证，在路由器和防火墙基础上提供了 更进一步的防线； 4.新系统应具备较强的扩展性。 o容量上：如数据访问量继续增大，可再添加新的服务器加入系统； o应用上：如当数据访问量增大到防火墙成为瓶颈时，防火墙的动态负载均衡方案，又如针对链路提出新要求时关于Internet访问 链路的动态负载均衡方案等。 三、解决方案 梭子鱼安全负载均衡方案总体设计 采用服务器负载均衡设备提供本地的服务器群负载均衡和容错，适用于处在同一个局域网上的服务器群。服务器负载均衡设备带给我们的最主要功能是：
当一台服务器配置到不同的服务器群（Farm）上，就能同时提供多个不同的应用。可以对于每个服务器群设定一个IP地址，或者利用服务器负载均衡设备的多TCP端口配置特性，配置超级服务器群（SuperFarm），统一提供各种应用服务。
Radware负载均衡解决实施方案
————————————————————————————————作者：————————————————————————————————日期：
Radware WSD 服务器负载均衡解决方案
1.1 WSD ―服务器负载均衡 1.1.1Radware 网络应用系统负载均衡的基本工作原理 Radware的WSD通过对于数据包的4－7层信息的检查来进行负载均衡的判断，服务器负载均衡是最普遍的一种4－7层交换的例子，下面我们就以服务器负载均衡的整个流程来介绍Radware WSD的工作原理： 1.1.1.1 会话“session”。 请看下面会话的例子： 为了识别会话，客户机和服务器都使用TCP“埠”。客户机和服务器之间的TCP会话由四个参数定义：客户机IP地址、客户机TCP端口、服务器IP地址和服务器TCP端口。所以，如果IP地址为199.1.1.1的客户机使用TCP端口1234与IP地址为145.145.100.100的服务器（TCP埠80）建立会话，则该会话定义如下： （clntIP,clntPORT,srvrIP,crvrPORT ）= (199.1.1.1,1234,145.145.100.100,80) 1.1.1.2 服务器负载均衡 假设图1中所示的样例，客户机通过访问服务器负载均衡设备WSD的虚拟地址145.1.1.1 进行HTTP应用的访问。再假设选择服务器145.145.100.100响应此客户机，则客户表的记录如下所示：
如果启用此记录，WSD 会执行以下两个任务： 1． 所有从客户机199.1.1.1发送到服务器群145.145.1.1且目标TCP 端口为80的数据包将被发送到服务器145.145.100.100。 2． 所有从服务器145.145.100.100发送到客户机199.1.1.1且源TCP 端口为80的数据包将被改为源地址145.145.1.1发送出去。 即:对于用户199.1.1.1 来说，145.145.1.1 是他要访问的服务器IP 地址，当WSD(145.145.1.1)，收到用户请求后，会根据后面2台服务器的“健康状况”和负载均衡算法将用户的请求转发到某一台服务器145.145.100.100 1.1.1.3 健康检查 由于负载均衡设备同应用的关系比较紧密，所以需要对负载均衡的元素进行“健康”检查，如果负载均衡设备不能在应用进行健康检查，就无法做到对应用的高可靠性的保障。 Radware 的高级健康检查模块，可以准确的做到应用层的健康检查。这种新的模块与流量复位向模块紧密相连， 可以提前检验所有应用和网络部件的可用
集群的负载均衡技术综述 摘要：当今世界，无论在机构内部的局域网还是在广域网如Internet上，信息处理量的增长都远远超出了过去最乐观的估计，即使按照当时最优配置建设的网络，也很快会感到吃不消。如何在完成同样功能的多个网络设备之间实现合理的业务量分配，使之不致于出现一台设备过忙、而别的设备却未充分发挥处理能力的情况，负载均衡机制因此应运而生。本组在课堂上讲解了《集群监控与调度》这一课题，本人在小组内负责负载均衡部分内容，以及PPT的制作。 关键词：负载均衡集群网络计算机 一、前言 负载均衡建立在现有网络结构之上，它提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务：解决网络拥塞问题，服务就近提供，实现地理位置无关性；为用户提供更好的访问质量；提高服务器响应速度；提高服务器及其他资源的利用效率；避免了网络关键部位出现单点失效。 其实，负载均衡并非传统意义上的“均衡”，一般来说，它只是把有可能拥塞于一个地方的负载交给多个地方分担。如果将其改称为“负载分担”，也许更好懂一些。说得通俗一点，负载均衡在网络中的作用就像轮流值日制度，把任务分给大家来完成，以免让一个人累死累活。不过，这种意义上的均衡一般是静态的，也就是事先确定的“轮值”策略。 与轮流值日制度不同的是，动态负载均衡通过一些工具实时地分析数据包，掌握网络中的数据流量状况，把任务合理分配出去。结构上分为本地负载均衡和地域负载均衡(全局负载均衡)，前一种是指对本地的服务器集群做负载均衡，后一种是指对分别放置在不同的地理位置、在不同的网络及服务器群集之间作负载均衡。 服务器群集中每个服务结点运行一个所需服务器程序的独立拷贝，诸如Web、FTP、Telnet或e-mail服务器程序。对于某些服务（如运行在Web服务器上的那些服务）而言，程序的一个拷贝运行在群集内所有的主机上，而网络负载均衡则将工作负载在这些主机间进行分配。对于其他服务（例如e-mail），只有一台主机处理工作负载，针对这些服务，网络负载均衡允许网络通讯量流到一个主机上，并在该主机发生故障时将通讯量移至其他主机。 二、负载均衡技术实现结构 在现有网络结构之上，负载均衡提供了一种廉价有效的方法扩展服务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。它主要完成以下任务： 1.解决网络拥塞问题，服务就近提供，实现地理位置无关性 2.为用户提供更好的访问质量 3.提高服务器响应速度
轻松实现Apache,Tomcat集群和负载均衡 作者:罗代均 ldj_work#https://www.doczj.com/doc/954912404.html,,转载请保持完整性 0，环境说明 Apache :apache_2.0.55 1 个 Tomcat: apache-tomcat-5.5.17 (zip版) 2个 mod_jk:: mod_jk-apache-2.0.55.so 1个 第一部分：负载均衡 负载均衡，就是apache将客户请求均衡的分给tomcat1,tomcat2....去处理 1.安装apche,tomcat https://www.doczj.com/doc/954912404.html,/下载Apache 2.0.55 https://www.doczj.com/doc/954912404.html,/download-55.cgi下载tomcat5.5 zip版本（解压即可，绿色版） https://www.doczj.com/doc/954912404.html,/tomcat/tomcat-connectors/jk/binaries/win32/jk-1.2.15/下载mod_jk,注意和 apache版本匹配 按照jdk,我的路径为:E:\ide\apache\Apache2 解压两份Tomcat, 路径分别为 E:\ide\tomcat1,E:\ide\tomcat2
下载mod_jk
2.修改Apache配置文件http.conf 在apache安装目录下conf目录中找到http.conf 在文件最后加上下面一句话就可以了 include "E:\ide\apache\Apache2\conf\mod_jk.conf"
2. http.conf 同目录下新建mod_jk.conf文件，内容如下 #加载mod_jk Module LoadModule jk_module modules/mod_jk-apache-2.0.55.so #指定 workers.properties文件路径 JkWorkersFile conf/workers.properties #指定那些请求交给tomcat处理,"controller"为在workers.propertise里指定的负载分配控制器JkMount /*.jsp controller 3.在http.conf同目录下新建 workers.properties文件，内容如下 worker.list = controller,tomcat1,tomcat2 #server 列表 #========tomcat1======== worker.tomcat1.port=8009 #ajp13 端口号，在tomcat下server.xml配置,默认8009 worker.tomcat1.host=localhost #tomcat的主机地址，如不为本机，请填写ip地址 worker.tomcat1.type=ajp13 worker.tomcat1.lbfactor = 1 #server的加权比重，值越高，分得的请求越多 #========tomcat2======== worker.tomcat2.port=9009 #ajp13 端口号，在tomcat下server.xml配置,默认8009 worker.tomcat2.host=localhost #tomcat的主机地址，如不为本机，请填写ip地址 worker.tomcat2.type=ajp13 worker.tomcat2.lbfactor = 1 #server的加权比重，值越高，分得的请求越多
1、Linux集群主要分成三大类( 高可用集群，负载均衡集群，科学计算集群)（下面只介绍负载均衡集群） 负载均衡集群(Load Balance Cluster) 负载均衡系统：集群中所有的节点都处于活动状态，它们分摊系统的工作负载。一般Web服务器集群、数据库集群和应用服务器集群都属于这种类型。 负载均衡集群一般用于相应网络请求的网页服务器，数据库服务器。这种集群可以在接到请求时，检查接受请求较少，不繁忙的服务器，并把请求转到这些服务器上。从检查其他服务器状态这一点上看，负载均衡和容错集群很接近，不同之处是数量上更多。 2、负载均衡系统：负载均衡又有DNS负载均衡（比较常用）、IP负载均衡、反向代理负载均衡等，也就是在集群中有服务器A、B、C，它们都是互不影响，互不相干的，任何一台的机器宕了，都不会影响其他机器的运行，当用户来一个请求，有负载均衡器的算法决定由哪台机器来处理，假如你的算法是采用round算法，有用户a、b、c，那么分别由服务器A、B、C来处理； 3、分布式是指将不同的业务分布在不同的地方。 而集群指的是将几台服务器集中在一起，实现同一业务。 分布式中的每一个节点，都可以做集群。 而集群并不一定就是分布式的。 举例：就比如新浪网，访问的人多了，他可以做一个群集，前面放一个响应服务器，后面几台服务器完成同一业务，如果有业务访问的时候，响应服务器看哪台服务器的负载不是很重，就将给哪一台去完成。 而分布式，从窄意上理解，也跟集群差不多，但是它的组织比较松散，不像集群，有一个组织性，一台服务器垮了，其它的服务器可以顶上来。 分布式的每一个节点，都完成不同的业务，一个节点垮了，哪这个业务就不可访问了。
1SJ tit works ***** 单位 A10负载均衡解决方案 A10 Networks Inc. 1SJ tit works
目录 1.项目概述 (1) 2.需求分析及讨论 (1) 2.1应用系统所面临的共性问题 (1) 2.2需求分析 (2) 3.A10公司负载均衡解决方案 (3) 3.1网络结构图 (3) 3.2A10负载均衡解决方案 (3) 3.2.1APP Server负载均衡的实现 (4) 3.2.2应用优化的实现 (4) 3.3解决方案说明 (5) 3.4方案的优点 (6) 4.A10 AX的优点及各型号指标总结 (7) 5.A10公司简介 (7) 6.AX介绍 (8) 6.1 A10公司AX简介 (8) AX系列功能 (8)
1. 项目概述 2. 需求分析及讨论 2.1应用系统所面临的共性问题 随着用户量增大及业务的发展，一个应用系统往往会出现各种问题。瓶颈可能出现在服务器、存储、网络设备，带宽等的性能不足，而运行一旦出现故障给业务带来的影响范围是巨大的，服务器可能出现的问题表现为如下几点： ?高可用问题 关健性应用要求7*24稳定运行不被中断，高可用性问题被放在首要位置。 ?利用“不平衡”现象 数据的大集中使得服务器的访问压力日益增大，服务器性能往往会成为一个系统的瓶颈，随着性能问题的产生，单点故障的发生也将比较频繁，为了解决这些问题，传统的方式多为采取更换更好的服务器并且采用双机备份系统提供服务的方式，这样必然存在 一半的资源浪费的情况，而在压力不断上升的情况下，这种动作讲不断的重复，不但服务器的利用率不平衡，而且持续引起投资的浪费。 ?“峰值”问题 服务器的处理多存在“波峰”和“波谷”的变化。而且“波峰”时，业务量大小的变化又不规律，这就使服务器不得不面对“峰值堵塞”问题。原有解决方法为增加服务器或主机数量，提高处理能力。但仍存在性能不平衡问题，且这样做，投资成本大。 ?多米诺”现象 单台服务器的设置，不可避免会出现“单点故障”，需要进行服务器“容错”。为实现容错，往往在主服务器旁安置一台或多台备份服务器。但这样做，平时只有一台服务器工作，其它服务器处于空闲状态，无法完全利用所有服务器的处理资源，当出现“峰值堵塞”时，“多米 诺”效应往往会发生，即所有服务器连续被“堵”至“死”。最终的结果将导致系统的瘫痪。 ?“扩展”不便 随着物理和应用的集中，服务器上所要处理的数据量(traffic )增大，客户交易产生
服务器集群方案 LVS项目简介 LVS--Linux Virtual Server（Linux虚拟服务器）。针对高可伸缩、高可用网络服务的需求，LVS采用了基于IP层和基于内容请求分发的负载平衡调度解决方法，并在Linux内核中实现了这些方法，将一组服务器构成一个实现可伸缩的、高可用网络服务的虚拟服务器。一组服务器通过高速的局域网或者地理分布的广域网相互连接，在它们的前端有一个负载调度器。负载调度器能无缝地将网络请求调度到真实服务器上，从而使得服务器集群的结构对客户是透明的，客户访问集群系统提供的网络服务就像访问一台高性能、高可用的服务器一样。客户程序不受服务器集群的影响不需作任何修改。系统的伸缩性通过在服务机群中透明地加入和删除一个节点来达到，通过检测节点或服务进程故障和正确地重置系统达到高可用性。二、IP虚拟服务器软件IPVS 在调度器的实现技术中，IP负载均衡技术是效率最高的。在已有的IP负载均衡技术中有通过网络地址转换（Network Address Translation）将一组服务器构成一个高性能的、高可用的虚拟服务器，称之为VS/NAT技术（Virtual Server via Network Address Translation），大多数商品化的IP负载均衡调度器产品都是使用此方法，如Cisco的LocalDirector、F5的Big/IP和 Alteon的ACEDirector。在分析VS/NAT的缺点和网络服务的非对称性的基础上，LVS提供通过IP隧道实现虚拟服务器的方法VS/TUN （Virtual Server via IP Tunneling），和通过直接路由实现虚拟服务器的方法VS/DR （Virtual Server via Direct Routing），它们可以极大地提高系统的伸缩性。所以，IPVS软件实现了这三种IP负载均衡技术，它们的大致原理如下： 1、Virtual Server via Network Address Translation（VS/NAT）通过网络地址转换，调度器重写请求报文的目标地址，根据预设的调度算法，将请求分派给后端的真实服务器；真实服务器的响应报文通过调度器时，报文的源地址被重写，再返回给客户，完成整个负载调度过程。 2、Virtual Server via IP Tunneling（VS/TUN）采用NAT技术时，由于请求和响应报文都必须经过调度器地址重写，当客户请求越来越多时，调度器的处理能力将成为瓶颈。为了解决这个问题，调度器把请求报文通过IP隧道转发至真实服务器，而真实服务器将响应直接返回给客户，所以调度器只处理请求报文。由于一般网络服务应答比请求报文大许多，采用 VS/TUN技术后，集群系统的最大吞吐量可以提高10倍。
Apache+Tomcat+mod_jk实现负载均衡方案 一、概述： 原理图： 提高系统可用性，对系统性能影响较小。对于一台服务器Down机后，可自动切换到另 最少需要两台机器，Tomcat1 和Tomcat2可在同一台服务器上。若条件允许最好是各用一台服务器。 二、详细配置步骤： 1、Apache http Server安装 32位的按照提示操作即可。 64位系统的不是安装包。 64位安装配置： 以管理员身份运行cmd 执行：httpd -k install 若无法运行并提示配置错误，请先安装vcredist_x64.exe后再执行。 安装后在Testing httpd.conf...时会报错，不影响。 httpd -k start 启动Apache、httpd -k shutdown 停止Apache 、httpd -k restart重启测试Apache：
在IE中输入：127.0.0.1 打开网页显示It work就OK 2、将Mod_jk的压缩包解压，找到mod_jk.so 复制到Apache目录下modules目录下 64位的下载mod_jk1.2.30_x64.zip 32位的下载tomcat-connectors-1.2.35-windows-i386-httpd-2.0.x.zip 3、修改Apache conf目录下的httpd.conf文件 在最后增加:Include conf/extra/mod_jk.conf 4、在conf/extra 下创建mod_jk.conf文件 增加如下： #load module mod_jk.so LoadModule jk_module modules/mod_jk.so #mod_jk config #load workers JkWorkersFile conf/workers.properties #set log file JkLogFile logs/mod_jk.log #set log level JkLogLevel info #map to the status server #mount the status server JkMount /private/admin/mystatus mystatus JkMount /* balance 5.在conf目录下创建workers.properties文件 增加：worker.tomcat1 中的tomcat1和tomcat2必须和Tomcat中的配置相同。Tomcat配置下面介召 worker.list=balance,mystatus #first worker config worker.tomcat1.type=ajp13 worker.tomcat1.host=192.168.8.204 worker.tomcat1.port=8009 #Tomcat的监听端口 worker.tomcat1.lbfactor=1 worker.tomcat1.socket_timeout=30 worker.tomcat1.socket_keepalive=1 #second worker config worker.tomcat2.type=ajp13 worker.tomcat2.host=192.168.8.204 worker.tomcat2.port=8010 #Tomcat的监听端口实验是在同一机器上做的，所以两个不同
F5服务器负载均衡解决方案 目录 一．大量数据处理所面临的问题 (2) 1．目前存在隐患 (3) 2．应用系统问题综述 (3) 1)“峰值”问题 (4) 2)多米诺”现象 (4) 3)“N+1”方式 (4) 4)“扩展”不便 (5) 5)“免疫力”差 (5) 6)“容灾”.................................................................................... 错误!未定义书签。 7)应用与网络脱节 (6) 二．F5解决方案 (6) 2.1 网络结构 (6) 2.2 方案优势 (7) 2.2.1避免“不平衡”现象 (7) 2.2.2解决因“峰值堵塞”带来的性能调整“不平衡” (9) 2.2.3避免“多米诺”现象 (9) 2.2.4更好的提供系统容错，提高系统可靠性 (10) 2.2.5“扩展”灵活 (11) 2.2.6“免疫力”强 (12) 2.2.7“容灾” (13) 2.2.8网络感知应用，应用控制网络 (14) 三．相关技术资料 (17) BIG-IP提供支持99.999%的正常运行 (17) 四．成功案例 (19) F5为中国某税务机关提供高可用性解决方案 (19)
一．大量数据处理所面临的问题 在现今的企业中，不论是否提供关键性任务的服务，都需要一个持续运行不断的高可用性网络计算环境以维持不间断的高品质服务。所谓高可用性的环境，也是信息管理人员所必须考虑的四件事： 1.使数据有一个安全的存储和运作方式，即使在设备故障时仍能保持数据的完整 一致。 2.使服务器系统持续运行，即使发生故障仍然让服务持续下去。 3.使整个计算环境能更好的管理，如何容错、容灾、集群共享。 4.如何使投资有最好的效益，使系统有最佳的扩充能力，有最低的整体拥有成本， 也就是在任何情况之下均能确保数据的完整一致，系统持续运行，使服务不间 断，同时有最好的投资回报率。 高可用性被定义为计算系统的连续运行。根据故障停机的业务影响，应用系统需要不同的可用性水平。要想实现一个应用系统的高可用性，所有组件(包括应用和数据库服务器、存储设备以及端到端网络)都需要提供连续的服务。 企业和机构对网络化应用及Internet 的日益依赖，加上语音和数据的集成，创造了对高可用性应用的增加需求。任何类型的系统故障停机都可能意味着收入、信誉和客户满意的巨大损失。 高度网络可用性的利用，企业实施高可用性网络来： ?防止财务损失 ?防止生产力损失 ?改进用户满意度 ?改进客户满意/信任 ?降低反应性IT支持成本，提高IT生产力 ?部署关键任务应用支持新业务实践的好处 ?典型的业务要求 为了实现高度的网络可用性，需要部署下列组件：
架构设计：负载均衡层设计方案（7） 1、概述 上篇文章《架构设计：负载均衡层设计方案（6）——Nginx + Keepalived构建高可用的负载层》 (https://www.doczj.com/doc/954912404.html,/yinwenjie/article/details/47130609) 我们讲解了Nginx的故障切换，并且承诺各位读者会尽快讲解LVS + Keepalived + Nginx的安装和配置。在中间由于工作的原因，我又插写了三篇关于zookeeper的原理使用的文章。今天这边文章我们回归主题，为各位读者讲解LVS + Keepalived + Nginx的安装及配置。 2、安装计划和准备工作 下图，我们表示了本篇文章要搭建的整个集成架构的抽象结构： 我们采用两个LVS节点（141和142），但是一个时间工作的只有一个LVS节点，另一个始终处于热备standby状态，由keepalived监控这两个节点的工作状态并完成切换。 在LVS节点下，我们采用LVS-DR工作模式挂载了两个Nginx节点（131、132）。并最终将外网请求交由这两个节点进行处理。注意：在实际工作中，Nginx下面一般就是访问静态资源、动态资源的配置了。
2-1、准备两个keepalived节点 首先我们在将要安装LVS的两个节点上，先安装keepalived，并保证这两个keepalived节点能够正常工作（监控批次的状态）。当然，您也可以先准备LVS，在准备keepalived。 我想准备keepalived节点，大家应该轻车熟路了吧，在《架构设计：负载均衡层设计方案（6）——Nginx + Keepalived 构建高可用的负载层》这篇文章中详细介绍了keepalived的最简配置方式。为了大家阅读方便，我们在这里再进行依次简要说明。准备keepalived的整个过程包括： 安装必要的支撑组件，源码安装keepalived 将keepalived注册成节点的服务，以便保证keepalived在 节点启动时就开始工作 更改keepalived的配置文件，让其可以正常工作 验证准备工作 =============安装keepalived [root@lvs1 ~]# yum install -y zlib zlib-devel gcc gcc-c++ openssl openssl-devel openssh [root@lvs1 ~]# tar -zxvf keepalived-1.2.17.tar.gz [root@lvs1 ~]# cd keepalived-1.2.17 [root@lvs1 ~]# ./configure --perfix=/usr/keepalived-1.2.17
集群和负载均衡的概念 什么是集群(Cluster) 所谓集群是指一组独立的计算机系统构成的多处理器系统，每台服务器都具有等价的地位，它们之间通过网络实现进程间的通信。应用程序可以通过网络共享内存进行消息传送，实现分布式计算机。集群也是指多台计算机共同协作运行一个应用。 可分为以下几种： （1）高可靠性（HA）。利用集群管理软件，当主服务器故障时，备份服务器能够自动接管主服务器的工作，并及时切换过去，以实现对用户的不间断服务。 （2）高性能计算（HP）。即充分利用集群中的每一台计算机的资源，实现复杂运算的并行处理，通常用于科学计算领域。 （3）负载平衡（Load Balance）。负载均衡就是集群功能其中的一种。即把负载压力根据某种算法合理分配到集群中的每一台计算机上，以减轻主服务器的压力，降低对主服务器的硬件和软件要求。 负载均衡是指将计算请求分配到集群中以使集群中的计算机的计算负载均衡。 负载均衡有两方面的含义： 1：大量的并发访问或数据流量分担到多台节点设备上分别处理，减少用户等待响应的时间。 2：单个重负载的运算分担到多台节点设备上做并行处理，每个节点设备处理结束后，将结果汇总，返回给用户，系统处理能力得到大幅度提高。实现起来可分为： （1）基于服务器软件的集群负载均衡。（在服务器上实现。） （2）NAT的集群负载均衡（在放火墙上，或在交换机上实现。） （3）基于DNS的集群负载均衡（在DNS服务器上实现。） （4）也可以用ISA放火墙实现集群负载均衡,但是需要有ISA服务器本人认为可行性不大。 基于服务器软件的集群负载均衡 microsoft的产品4种集群技术： 1：microsoft 集群服务(MSCS) 2：网络负载均衡（NLB） 3：组件负载均衡（CLB） 4：application center（应用负载均衡） linux 的集群技术：LVS(Linux VirtualServer) LVS对Linux的kernel进行了修改和增加所以要重新编译linux 内核。包名linux-2.4.20-ipvs-*.*.*.patch.gz 基与nat的集群负载均衡（在放火墙上，或在交换机上实现。） NAT（Network Address Translation 网络地址转换）简单地说就是将一个IP地址转换为另一个IP地址。一般用于内部地址与合法的转换。适用于解决Internet IP地址紧张、不想让网络外部知道内部网络结构等的场合下。 NAT负载均衡将一个外部IP地址映射为多个内部IP地址，对每次连接请求动态地转换为一个内部服务器的地址，将外部连接请求引到转换得到地址的那个服务器上，从而达到负载均衡的目的。 基于DNS的集群负载均衡（在DNS服务器上实现。） DNS负载均衡技术是在DNS服务器中为同一个主机名配置多个IP地址，在应答DNS查询时，DNS服务器对每个查询将以DNS文件中主机记录的IP地址按顺序返回不同的解析结果，将客户端的访问引导到不同的机器上去，使得不同的客户端访问不同的服务器，从而达到负载均衡的目的。