linux下多路径的介绍和安装配置
- 格式:docx
- 大小:1021.99 KB
- 文档页数:10
一、什么是多路径普通的电脑主机都是一个硬盘挂接到一个总线上,这里是一对一的关系。
而到了有光纤组成的SAN环境,或者由iSCSI组成的IPSAN环境,由于主机和存储通过了光纤交换机或者多块网卡及IP来连接,这样的话,就构成了多对多的关系。
也就是说,主机到存储可以有多条路径可以选择。
主机到存储之间的IO由多条路径可以选择。
每个主机到所对应的存储可以经过几条不同的路径,如果是同时使用的话,I/O流量如何分配?其中一条路径坏掉了,如何处理?还有在操作系统的角度来看,每条路径,操作系统会认为是一个实际存在的物理盘,但实际上只是通向同一个物理盘的不同路径而已,这样是在使用的时候,就给用户带来了困惑。
多路径软件就是为了解决上面的问题应运而生的。
多路径的主要功能就是和存储设备一起配合实现如下功能:1.故障的切换和恢复2.IO流量的负载均衡3.磁盘的虚拟化由于多路径软件是需要和存储在一起配合使用的,不同的厂商基于不同的操作系统,都提供了不同的版本。
并且有的厂商,软件和硬件也不是一起卖的,如果要使用多路径软件的话,可能还需要向厂商购买license才行。
比如EMC公司基于linux下的多路径软件,就需要单独的购买license。
好在, RedHat和Suse的2.6的内核中都自带了免费的多路径软件包,并且可以免费使用,同时也是一个比较通用的包,可以支持大多数存储厂商的设备,即使是一些不是出名的厂商,通过对配置文件进行稍作修改,也是可以支持并运行的很好的。
二、Linux下multipath介绍,需要以下工具包:在CentOS 5中,最小安装系统时multipath已经被安装,查看multipath是否安装如下:1、device-mapper-multipath:即multipath-tools。
主要提供multipathd和multipath 等工具和 multipath.conf等配置文件。
这些工具通过device mapper的ioctr的接口创建和配置multipath设备(调用device-mapper的用户空间库。
PowerPath 7.2 for Linux 文档概述本文档将介绍 PowerPath 7.2 for Linux 的功能、安装步骤以及常用命令。
PowerPath是Dell EMC公司的一款存储资源管理软件,提供了高可用性和负载均衡技术,可帮助用户优化存储资源的管理和利用。
PowerPath for Linux 是 PowerPath 软件在 Linux 操作系统上的一个版本。
功能PowerPath for Linux 版本 7.2 提供了以下主要功能: 1. 多路径支持:PowerPath 可以在存储和服务器之间建立多个传输路径,实现存储的冗余和负载均衡。
当主路径失效时,PowerPath可以实时切换到备用路径,确保数据的可用性和连续性。
2. 负载均衡:PowerPath 可以根据各路径的负载情况,智能地分配数据传输负载,确保多路径的均衡使用。
3. 自动优化:PowerPath 可以实时监控存储环境,并根据负载情况自动优化存储资源的使用,提升性能和可靠性。
4. 可视化管理:PowerPath 提供了直观易用的用户界面,方便管理员进行集中管理和监控存储资源。
系统要求安装 PowerPath for Linux 需要满足以下系统要求:操作系统:主流的 Linux 发行版,例如 Red Hat Enterprise Linux、SUSE Linux Enterprise等。
处理器:64位处理器,如Intel Xeon 或 AMD Opteron。
内存:建议至少 2GB 内存。
存储:建议至少 1GB 空闲磁盘空间。
网络:支持以太网。
安装步骤以下是安装 PowerPath for Linux 的步骤:步骤一:PowerPath 安装包1.打开 Dell EMC 官方网站。
2.导航到 PowerPath for Linux3.页面。
4.根据系统要求选择适合的版本并5.安装包(通常是一个压缩文件)。
Linux Device Mapper Multipathing技术在SAN存储网络中,冗余地访问存储设备是整个系统的关键技术之一,在Linux平台,开源的解决方案之一是DM-Multipath。
Device Mapper Multipathing ( DM-Multipath )允许在服务器节点和存储阵列之间配置多个I/ O路径但仍视为一个单一存储设备。
这些I/O路径是物理SAN连接,可以包含独立的数据线,交换机和控制器。
多路径集成了I/O路径,创建了包含集成多路径的一个新设备。
本文主体是基于Red Hat管理手册Red Hat Enterprise Linux 5 DM Multipath –DM Mult ipath Configuration and Administration Edition 3结合项目实施过程中的实践撰写的。
文档以Re d Hat英文管理手册翻译为主,并完整经过实践。
DM-Multipath 概述DM-Multipath 可以提供:•冗余DM-Multipath 可以在active/passive 配置中提供failover。
在一个active/passive 配置中,对于I/O任何时候只使用一半的路径。
如果一个I/O路径的任何组成部分(数据线,交换机或控制器)出现故障,DM-Multipath将切换到一个替换路径上。
•性能提高DM-Multipath 可以配置为active/active 模式,这样I/O采用round-robin 方式分摊到多路径上。
在一些配置中,DM-Multipath 可以检测到I/O路径的负载并可以动态重平衡负载。
•Active/Passive Mulstipath Configuration with one RAID Devices配置说明:•o提供了HBA,FC cable,SAN switch和阵列控制器failovero不支持硬件存储阵列故障failover•更为复杂的Active/Passive Mulstipath Configuration with one RAID Devices配置说明:•o支持全冗余硬件failovero数据冗余需要通过软件来实现存储阵列支持默认情况下,DM-Multipath 支持大多数支持DM-Multipath 技术的常用存储。
LINUX下多路径(multi-path)介绍及使用一、什么是多路径普通的电脑主机都是一个硬盘挂接到一个总线上,这里是一对一的关系。
而到了有光纤组成的SAN环境,或者由iSCSI组成的IPSAN环境,由于主机和存储通过了光纤交换机或者多块网卡及IP来连接,这样的话,就构成了多对多的关系。
也就是说,主机到存储可以有多条路径可以选择。
主机到存储之间的IO由多条路径可以选择。
每个主机到所对应的存储可以经过几条不同的路径,如果是同时使用的话,I/O流量如何分配?其中一条路径坏掉了,如何处理?还有在操作系统的角度来看,每条路径,操作系统会认为是一个实际存在的物理盘,但实际上只是通向同一个物理盘的不同路径而已,这样是在使用的时候,就给用户带来了困惑。
多路径软件就是为了解决上面的问题应运而生的。
多路径的主要功能就是和存储设备一起配合实现如下功能:1.故障的切换和恢复2.IO流量的负载均衡3.磁盘的虚拟化由于多路径软件是需要和存储在一起配合使用的,不同的厂商基于不同的操作系统,都提供了不同的版本。
并且有的厂商,软件和硬件也不是一起卖的,如果要使用多路径软件的话,可能还需要向厂商购买license才行。
比如EMC公司基于linux下的多路径软件,就需要单独的购买license。
好在,RedHat和Suse的2.6的内核中都自带了免费的多路径软件包,并且可以免费使用,同时也是一个比较通用的包,可以支持大多数存储厂商的设备,即使是一些不是出名的厂商,通过对配置文件进行稍作修改,也是可以支持并运行的很好的。
二、Linux下multipath介绍,需要以下工具包:在CentOS 5中,最小安装系统时multipath已经被安装,查看multipath是否安装如下:1、device-mapper-multipath:即multipath-tools。
主要提供multipathd和multipath等工具和multipath.conf等配置文件。
RHEL系统带有iSCSI initiator软件,下面描述如何配置iSCSI Initiator实现对ISCSI卷的访问1.Linux iscsi 介绍(这一条介绍了linux iscsi的基本原理和相关命令,具体配置时可略过)在Linux内核中提供了iscsi驱动,iSCSI 驱动(driver)使主机拥有了通过IP网络访问存储的能力,驱动在主机(Initiator)和服务端(Target)间使用iSCSI协议在TCP/IP 网上传输SCSI请求和响应,在构建上,iSCSI驱动与TCP/IP栈、网络驱动和网络接口卡(NIC)结合,其等同于SCSI或光纤通道卡适配器驱动对主机总线卡(HBA)的作用。
驱动采用采用模块的方式,具体模块包括iscsi_tcp, libiscsi, libiscsi_tcp。
Initiator守护进程介绍:/etc/iscsi/iscsid.conf --initiator配置文件/sbin/iscsiadm --initiator管理工具open-iscsi包括两个守护进程iscsid和iscsi,其中iscsid是主进程,iscsi进程则主要负责根据配置,在系统启动时进行发起端(Initiator)到服务端(target)的登录,建立发起端与服务端的会话,使主机在启动后即可使用通过iSCSI提供服务的存储设备。
iscsid 进程实现iSCSI协议的控制路径以及相关管理功能。
例如守护进程(指iscsid)可配置为在系统启动时基于持久化的iSCSI数据库内容,自动重新开始发现(discovery)目标设备。
Initiator配置介绍(前提是已经安装iSCSI initiator)1> iSCSI initiator 名称设置initiator名称用来唯一标识一个iSCSI Initiator端。
保存此名称的配置文件为 /etc/iscsi/initiatorname.iscsi,命名规则可采用iqn-type格式,利用 iscsi-iname命令可产出一个名称,将此名称输入到initiatorname.iscsi配置文件即可。
在Linux系统中,多路径(Multipath)是一种提高存储系统可靠性和性能的技术,通常用于连接主机和存储设备的复杂存储网络中。
多路径技术允许多条路径同时连接主机和存储设备,提高系统的冗余性和负载均衡性。
以下是一些与Linux 多路径相关的概念和操作:1. 多路径概念:1. 路径(Path):-指连接主机和存储设备之间的物理通道。
一个存储设备可以有多个路径。
2. 多路径设备(Multipath Device):-将多个路径组合在一起,形成一个逻辑上的多路径设备。
这个设备会在主机上被当作一个单一的设备来使用,但它会通过多个路径连接到存储设备。
3. 多路径I/O(Multipath I/O):-主机使用多个路径同时进行I/O 操作,以提高性能和可靠性。
2. 多路径软件:1. Device Mapper(DM):-Linux 中使用Device Mapper 实现多路径支持。
multipathd是Device Mapper 的用户空间管理工具,用于检测和管理多路径设备。
2. Multipath Configuration Files:- /etc/multipath.conf是Multipath 的配置文件,可以定义多路径设备的行为、超时设置、路径选择策略等。
3. 操作和命令:1. 安装Multipath 工具:-使用包管理工具安装Multipath 工具,如在基于Debian/Ubuntu 的系统中可以使用apt-get,在基于Red Hat/CentOS 的系统中可以使用yum。
# Debian/Ubuntusudo apt-get install multipath-tools# Red Hat/CentOSsudo yum install device-mapper-multipath2. 配置Multipath:-编辑/etc/multipath.conf文件,配置多路径设备的行为和参数。
LINUX下多路径(multi-path)介绍及使用一、什么是多路径普通的电脑主机都是一个硬盘挂接到一个总线上,这里是一对一的关系。
而到了有光纤组成的SAN环境,或者由iSCSI组成的IPSAN环境,由于主机和存储通过了光纤交换机或者多块网卡及IP来连接,这样的话,就构成了多对多的关系。
也就是说,主机到存储可以有多条路径可以选择。
主机到存储之间的IO由多条路径可以选择。
每个主机到所对应的存储可以经过几条不同的路径,如果是同时使用的话,I/O流量如何分配?其中一条路径坏掉了,如何处理?还有在操作系统的角度来看,每条路径,操作系统会认为是一个实际存在的物理盘,但实际上只是通向同一个物理盘的不同路径而已,这样是在使用的时候,就给用户带来了困惑。
多路径软件就是为了解决上面的问题应运而生的。
多路径的主要功能就是和存储设备一起配合实现如下功能:1.故障的切换和恢复2.IO流量的负载均衡3.磁盘的虚拟化由于多路径软件是需要和存储在一起配合使用的,不同的厂商基于不同的操作系统,都提供了不同的版本。
并且有的厂商,软件和硬件也不是一起卖的,如果要使用多路径软件的话,可能还需要向厂商购买license才行。
比如EMC公司基于linux下的多路径软件,就需要单独的购买license。
好在, RedHat和Suse的2.6的内核中都自带了免费的多路径软件包,并且可以免费使用,同时也是一个比较通用的包,可以支持大多数存储厂商的设备,即使是一些不是出名的厂商,通过对配置文件进行稍作修改,也是可以支持并运行的很好的。
二、Linux下multipath介绍,需要以下工具包:在CentOS 5中,最小安装系统时multipath已经被安装,查看multipath是否安装如下:1、device-mapper-multipath:即multipath-tools。
主要提供multipathd和multipath 等工具和 multipath.conf等配置文件。
普通的电脑主机都是一个硬盘挂接到一个总线上,这里是一对一的关系。
而到了有光纤组成的SAN环境,由于主机和存储通过了光纤交换机连接,这样的话,就构成了多对多的关系。
也就是说,主机到存储可以有多条路径可以选择。
主机到存储之间的IO由多条路径可以选择,如下图:根据上图所示,每个主机到所对应的存储可以经过几条不同的路径,如果是同时使用的话,I/O流量如何分配?其中一条路径坏掉了,如何处理?还有在操作系统的角度来看,每条路径,操作系统会认为是一个实际存在的物理盘,但实际上只是通向同一个物理盘的不同路径而已,这样是在使用的时候,就给用户带来了困惑。
多路径软件就是为了解决上面的问题应运而生的。
多路径的主要功能就是和存储设备一起配合实现如下功能:1.故障的切换和恢复2.IO流量的负载均衡3.磁盘的虚拟化由于多路径软件是需要和存储在一起配合使用的,不同的厂商基于不同的操作系统,都提供了不同的版本。
并且有的厂商,软件和硬件也不是一起卖的,如果要使用多路径软件的话,可能还需要向厂商购买license 才行。
比如EMC公司基于linux下的多路径软件,就需要单独的购买license。
好在,RedHat和Suse 的2.6的内核中都自带了免费的多路径软件包,并且可以免费使用,同时也是一个比较通用的包,可以支持大多数存储厂商的设备,即使是一些不是出名的厂商,通过对配置文件进行稍作修改,也是可以支持并运行的很好的。
---Linux 内置HBA 驱动程序和内置多路径计划(HP)从Red Hat RHEL 5.2 和Novell SLES 10 SP2 开始的惠普支持的客户选项选项一:惠普提供的Emulex HBA 驱动程序和Multipulse 故障转移,或者惠普提供的Emulex HBA 驱动程序和内置Device Mapper Multipathing选项二:惠普提供的QLogic HBA 驱动程序和QLogic 故障转移,或者惠普提供的单一路径模式QLogic HBA 驱动程序和内置Device Mapper Multipathing选项三:内置HBA 驱动程序和内置Device Mapper Multipathing。
在linux下安装HP多路软件步骤(Device Mapper Multipath Enablement Kit for HP StorageWorks Disk Arrays)各位兄弟,因为本人早就开始接触到HP EVA4400的存储,但是一直都是在windows或者VMware下解决多路径的问题。
今天刚好在Redhat Enterprise Linux 5.5解决,顺便也写成文档,免得自己老了,记不了。
这里要感谢一下广军,感谢他对我的信任和支持。
以下是客户的环境:服务器:4台HP DL580G7服务器OS:Redhat Enterprise Linux 5.5存储:EVA4400步骤一、确认信息1、确认HBA卡驱动是否正常,系统是否能识别到。
注意:有部份博科的HBA卡是不能直连的,只能通过光纤交换机才能连接的。
可以使用lspci命令查看。
(别的牌子没有测试过还不知道)。
2、确认HBA卡的驱动是否加载到内核里面,可以使用lsmod命令查看。
3、确保系统已经安装已下的rpm包:可以使用rpm –qa|grep device* 查看是否安装For RHEL 4 Update 7:∙device-mapper-1.02.25-2.el4 or later∙device-mapper-multipath-0.4.5-31.el4 or later∙For RHEL 4 Update 8:∙device-mapper-1.02.28-2.el4 or later∙device-mapper-multipath-0.4.5-35.el4 or later∙For RHEL 5 Update 2:∙device-mapper-1.02.24-1.el5 or later∙device-mapper-multipath-0.4.7-17.el5 or later∙For RHEL 5 Update 3:∙device-mapper-1.02.28-2.el5 or later∙device-mapper-multipath-0.4.7-23.el5 or later∙For RHEL 5 Update 4:∙device-mapper-multipath-0.4.7-30.el5 or later∙device-mapper-1.02.32-1.el5 or later∙For RHEL 5 Update 5:∙device-mapper-multipath-0.4.7-34.el5 or later∙device-mapper-1.02.39-1.el5 or later∙For SLES 10 SP2:∙device-mapper-1.02.13-6.14 or later∙device-mapper-devel-1.02.13-6.14 or later∙multipath-tools-0.4.7-34.43 or later∙For SLES 10 SP3:∙device-mapper-1.02.13-6.14 or later∙device-mapper-devel-1.02.13-6.14 or later∙multipath-tools-0.4.7-34.50.10 or later∙For SLES 11:∙device-mapper-1.02.27-8.6 or later∙multipath-tools-0.4.8-40.4.1 or later步骤二、安装HPDM Multipath Enablement在HP的官网上有很多版本,可以根据自己需要下载(/bizsupport/TechSupport/SoftwareIndex.jsp?lang=en&cc=us&pro dNameId=3559652&prodTypeId=18964&prodSeriesId=3559651&swLang=13&taskId=135&swEnv OID=4004)下载完成后,进入文件目标,例如:/tmp# cd /tmp# tar -zxvf HPDMmultipath-<version>.tar.gz# cd HPDMmultipath-<version># ./INSTALL这样HPDM Multipath Enablement就安装完成了。
HP P2000+RHEL 5.5多路径配置由于最新的HP多路径驱动HPDMmultipath-4.4.1最高只支持到RHEL5.5,所以5.6及以上版本的系统无法直接安装该驱动。
肯定有人想到了vi一下multipath.conf来解决问题,实际上未必能行得通,本人就经历过一次失败。
因为HPDMmultipath-4.4.1在安装的时候会检察操作系统的版本,高于5.5的话肯定要报错,安装失败。
解决的办法很简单,修改文件。
将安装包用tar命令解开后,直接编辑install文件,修改sub check_OS_version() {字段里的内容,可以照抄添加一行"@rhel55arr=("RHEL5", "release 5", "5.6", "RHEL5U6", "RHEL5.4", 0, 0);”,也可以直接修改。
保存并退出后,直接就可以执行安装了配置好LUN之后在主机上执行一下操作:multipath -llfdisk -l1.执行以下操作chkconfig --add multipathdchkconfigmultipathd onmodprobe dm-multipathmodprobe dm-round-robinservice multipathd startmultipath –v22.安装HP多路径软件;tar -xzvf HPDMmultipath-4.4.1.tar.gzcd /tmp/HPDMmultipath-4.4.1[root@localhost HPDMmultipath-4.4.1]# ./INSTALL** HPDMmultipath-4.4.1 kit Installation. Date : Tue Feb 14 15:58:58 CST 2012 **Checking for the Operating System version. Please wait...HP Device Mapper Multipath v4.4.1 kit - Installation Menu1. Install HPDM Multipath Utilities2. Uninstall HPDM Multipath Utilities3. ExitEnter choice [1/2/3] : 1Note: This will install HPDMmultipath-4.4.1 tools for HP StorageWorks disk arrays.Warning: If you are retaining the existing /etc/multipath.conf file, you will have to manually edit the file with HP recommended parameters.Please refer user documentation for more details.Would you like to overwrite the existing /etc/multipath.conf file with the new multipath configuration file ? (y/n) : ySaving /etc/multipath.conf file to /etc/multipath.conf.savefileCopying new multipath configuration file multipath.conf to /etc directory Configuring multipath services to start at boot time....OKInstallation completed successfully!3. vi /etc/multipath.conf### Donot edit the first two lines of this file or remove this file### HP Device Mapper Multipath Enablement Kit v4.4.1### The Device Mapper Multipath Template configuration file for RHEL5U4 ### or later releases to be used with HP Storageworks Arrays.### Use this configuration file as your /etc/multipath.conf file.### If you already have a valid working configuration file, refer here### for the recommended configuration for HP arrays.### For a list of configuration options with descriptions, please refer### to /usr/share/doc/<multipath-tools-version>/multipath.conf.annotated # The defaults sectiondefaults {udev_dir/devpolling_interval10selector"round-robin 0"path_grouping_policyfailovergetuid_callout"/sbin/scsi_id -g -u -s /block/%n"prio_callout"/bin/true"path_checkerturrr_min_io100rr_weight uniformfailbackimmediateno_path_retry12user_friendly_namesyes}# The blacklist section - use this to blacklist a multipath device based on# it's wwid ( using wwid ) or device names ( using devnode ) or# vendor and product id ( using device block).blacklist {#wwid26353900f02796769devnode"^(ram|raw|loop|fd|md|dm-|sr|scd|st)[0-9]*"devnode "^hd[a-z][[0-9]*]"#devnode"^cciss!c[0-9]d[0-9]*"#device {#vendor "HP"#product"OPEN-*"#}}# The blacklist_exceptions section - to list device names to be treated# as multipath candidates even if they are on the blacklist.# Note: blacklist exceptions are only valid in the same class.# It is not possible to blacklist devices using the devnode keyword# and to exclude some devices of them using the wwid keyword.#blacklist_exceptions {#wwid2345234245647657#devnode"sda"#device {#vendor"HP"#product"OPEN-*"#}#}# The multipaths section - uncomment this section to define a per multipath # device settings.multipaths {# uncomment the multipath block to modify the settings of a multipath device # based on its wwidmultipath {wwid 3600c0ff000134c44f69f3a4f01000000alias mpath1path_grouping_policy group_by_priopath_selector "round-robin 0"failback immediaterr_weight uniformno_path_retry 10rr_min_io 100}multipath {wwid 3600c0ff000134c44bc9f3a4f01000000alias mpath0path_grouping_policy group_by_priopath_selector "round-robin 0"failback immediaterr_weight uniformno_path_retry 10rr_min_io 100}# The devices section - used to define per storage array model settings devices {# If you are already using a valid configuration file and do not have a# device subsection for HP arrays, please add the appropriate device subsection # for the respective arrays from the entries below.# If you already have a device subsection for HP arrays which has different# parameters from the entries below, modify it appropriately.# For EVA A/A arrays#device {#vendor"HP|COMPAQ"#product "HSV1[01]1 \(C\)COMPAQ|HSV2[01]0|HSV300|HSV4[05]0"#path_grouping_policygroup_by_prio# getuid_callout"/sbin/scsi_id -g -u -s /block/%n"# path_checkertur# path_selector"round-robin 0"# prio_callout"/sbin/mpath_prio_alua /dev/%n"# rr_weightuniform# failbackimmediate#hardware_handler"0"# no_path_retry18#rr_min_io100#}# For HP P2000 familydevice {vendor "HP"product "P2000 G3 FC|P2000G3 FC"path_grouping_policy group_by_priogetuid_callout "/sbin/scsi_id -g -u -s /block/%n"path_checker turpath_selector "round-robin 0"prio_callout "/sbin/mpath_prio_alua /dev/%n"rr_weight uniformfailback immediatehardware_handler "0"no_path_retry 18rr_min_io 100}# For XP arrays#device {# vendor"HP"# product"OPEN-.*"# path_grouping_policymultibus# getuid_callout"/sbin/scsi_id -g -u -s /block/%n"#path_selector"round-robin 0"# rr_weightuniform# path_checkertur#hardware_handler"0"# failbackimmediate# no_path_retry18#rr_min_io1000#}# For MSA A/A arrays#device {# vendor "HP"# product "MSA VOLUME*"# path_grouping_policy group_by_prio# getuid_callout "/sbin/scsi_id -g -u -s /block/%n"# path_checker tur# path_selector "round-robin 0"# prio_callout "/sbin/mpath_prio_alua /dev/%n"# rr_weight uniform# failback immediate# hardware_handler "0"# no_path_retry 18# rr_min_io 100#}# For MSA2xxxsa arrays#device {# vendor "HP"# product "MSA2012sa|MSA2312sa|MSA2324sa"# path_grouping_policy group_by_prio# getuid_callout "/sbin/scsi_id -g -u -n -s /block/%n"# path_checker tur# path_selector "round-robin 0"# prio_callout "/sbin/mpath_prio_alua %d"# rr_weight uniform# failback immediate# hardware_handler "0"# no_path_retry 18# rr_min_io 100#}# For MSA23xxfc and MSA23xxi arrays#device {# vendor "HP"# product "MSA2312fc|MSA2324fc|MSA2312i|MSA2324i" # path_grouping_policy group_by_prio# getuid_callout "/sbin/scsi_id -g -u -s /block/%n"# path_checker tur# path_selector "round-robin 0"# prio_callout "/sbin/mpath_prio_alua /dev/%n"# rr_weight uniform# failback immediate# hardware_handler "0"# no_path_retry 18# rr_min_io 100#}# For MSA20xxfc, MSA22xxfc and MSA20xxi arrays#device {# vendor"HP"# product"MSA2[02]12fc|MSA2012i"# path_grouping_policymultibus# getuid_callout"/sbin/scsi_id -g -u -s /block/%n"#path_selector"round-robin 0"# rr_weightuniform# path_checkertur#hardware_handler"0"# failbackimmediate# no_path_retry18#rr_min_io100#}# To blacklist a device by vendor and product say, to blacklist a XP device # uncomment the below block#device {#vendor"HP"#product_blacklist"OPEN-.*"#}}4. 重启机器或者重启multipath服务service multipathd restart5.查看多路径和磁盘的信息;multipath -llfdisk -l。
多路径网络存储配置指南目录多路径网络存储配置指南 (1)1准备工作 (2)2安装配置target服务 (2)2.1安装target软件 (2)2.2配置target (2)2.3网卡设置 (2)2.4启动target服务 (3)2.5查看target (3)3客户端软件安装配置 (4)3.1安装iSCSI Initiator客户端 (4)3.1.1安装 (4)3.1.2设置运行级别: (5)3.1.3修改配置 (5)3.1.4网络存储网卡配置 (5)3.1.5创建接口文件 (6)3.2安装配置multipath (6)3.2.1安装 (6)3.2.2修改配置 (8)3.2.3重启multipath (9)4硬盘使用 (9)4.1侦测target (9)4.2设置启动自动连接 (9)4.3重启iscsi 查看磁盘 (10)4.4固定multipath设备的命名 (10)4.5分区并格式化 (11)4.6挂载 (12)1准备工作多路径的支持准备工作:网卡:磁盘服务器配置两块以上网卡,提供多条链路来链接,这里配置了eth0 : 192.168.2.205 , eth1 : 192.168.2.204防火墙:target用到的端口3260端口,需要打开3260端口。
2安装配置target服务2.1安装target软件查看磁盘服务器是否安装target软件# rpm –q scsi-target-utils如果没有安装,执行命令安装:# yum -y install scsi-target-utils2.2配置target安装完成后配置target服务配置文件,target的主配置文件为/etc/tgt/targets.conf # vi /etc/tgt/targets.conf在该文件最后添加如下配置<target iqn.2017-06.dev.ruijie-xcache:iscsi1>backing-store /dev/sdd</target>说明:iqn.2017-06.dev.ruijie-xcache:iscsi1iqn.年份-月份.ruijie-xcache.设备识别backing-store /dev/sdd1添加的设备/dev/sdd,如果有多快设备则配置多条backing-store。
一文档说明以iSCSI磁盘阵列为例,详细叙述在RHEL 4,RHEL 5,RHEL 6和SLES 10,SLES 11上的device-mapper-multipath的安装、配置和使用。
将iSCSI盘阵的主机端口和服务器的端口直连,每个链路配置不通网段的IP地址,测试单链路的性能和多路径的性能。
device-mapper-multipath可以实现故障切换,性能和单端口相同。
例如:将磁盘阵列的chl 0主机通道和服务器上的ech 0网口直连,chl 1和ech 1直连,将磁盘阵列上的同一个Partition分别映射给chl 0和chl 1主机通道。
二RHEL 42.1 IP配置默认安装完成系统后默认只配置了网卡eth0的IP地址,须配置其它和盘阵主机端口直连的网卡的IP地址。
配置网卡eth1的IP地址步骤:1)编辑配置文件cd /etc/sysconfig/network-scripts/vi ifcfg-eth1DEVICE=eth1ONBOOT=yesBOOTPROTO=staticIPADDR=192.168.3.4NETMASK=255.255.255.0GATEWAY=’192.168.3.1’HWADDR=00:0C:29:EC:4E:EF2)重启网络服务service network restart3)查看网卡详细ifconfig2.2 iscsi-initiator-util安装与配置1)安装系统时默认没有安装iscsi-initiator-utils包,在安装盘里找到后安装。
rpm –ivh iscsi-initiator-utils-4.*.rpm安装后查询如下:rpm –qa|grep iscsi2)查看并配置IQN查看IQNcat /etc/initiatorname.iscsi如果有类似如下的信息就直接进入下一步:如果只有“InitiatorName=”则使用如下命令添加IQN。
多路径管理软件的主要功能屏蔽冗余LUN存储通过Fabric网络的Zone和存储的LUNMasking/LUN Mapping建立与服务器的关系,服务器上就可以识别存储的LUN。
在多路径组网的存储区域网络中,当未安装多路径管理软件的服务器通过每条路径都会发现一个LUN,此时存储上同一个LUN,在服务器端会被认为是两个或多个不同的LUN,即出现了冗余LUN。
服务器端上显示的LUN实际上仅是路径不同。
当安装了多路径管理软件之后,冗余的LUN会被聚合为虚拟LUN,操作系统识别虚拟LUN,并直接对虚拟LUN进行I/O操作,I/O数据流经过多路径管理软件后,按照多路径管理软件设置的策略与存储进行I/O操作。
选择最优路径存储系统为了保证业务运行的稳定性和连续性,一般会配置两个或者多个控制器,实现部件冗余。
存储系统中每个LUN都有一一对应的所属控制器,所属控制器是存储系统为LUN指定的一个特定控制器,用来避免两个或多个控制器同时对同一个LUN进行操作,防止写冲突损坏存放的数据。
在日常运行过程中,如果服务器通过非所属控制器来访问LUN,最终需要转给LUN的所属控制器进行处理,直接通过所属控制器访问对应的LUN可获得最快的I/O速率。
在多路径组网环境下,服务器上虚拟LUN对应的存储系统上LUN的所属控制器,称为该LUN的优选控制器。
因此,安装多路径管理软件的服务器会优先选择通过优选控制器来访问存储系统上的LUN,获得最快的I/O速率。
连接到优选控制器的路径就是最优I/O访问路径。
多路径管理软件能够获取LUN的优选控制器信息,能够自动为数据流选择优选控制器上的一条或多条路径进行访问以获得最佳的I/O速率。
故障切换和故障恢复通常多路径管理软件在路径故障时可以自动将I/O转移到其他可用路径,例如:当服务器上的应用通过多路径管理软件管理的虚拟LUN进行I/O操作,多路径管理软件选择一条最优路径,向存储提交I/O请求,如果这条路径故障,导致下发到存储的I/O请求失败,多路径管理软件会得到失败的返回值,此时多路径管理软件会重新选择另一条路径,再次向存储提交I/O请求,如果路径正常,I/O下发到存储成功,多路径管理软件会接收到成功的返回值,并且把相应的状态信息反馈给操作系统和应用。
一、什么是多路径普通的电脑主机都是一个硬盘挂接到一个总线上,这里是一对一的关系。
而到了有光纤组成的SAN环境,或者由iSCSI组成的IPSAN环境,由于主机和存储通过了光纤交换机或者多块网卡及IP来连接,这样的话,就构成了多对多的关系。
也就是说,主机到存储可以有多条路径可以选择。
主机到存储之间的IO由多条路径可以选择。
每个主机到所对应的存储可以经过几条不同的路径,如果是同时使用的话,I/O流量如何分配?其中一条路径坏掉了,如何处理?还有在操作系统的角度来看,每条路径,操作系统会认为是一个实际存在的物理盘,但实际上只是通向同一个物理盘的不同路径而已,这样是在使用的时候,就给用户带来了困惑。
多路径软件就是为了解决上面的问题应运而生的。
多路径的主要功能就是和存储设备一起配合实现如下功能:1.故障的切换和恢复2.IO流量的负载均衡3.磁盘的虚拟化由于多路径软件是需要和存储在一起配合使用的,不同的厂商基于不同的操作系统,都提供了不同的版本。
并且有的厂商,软件和硬件也不是一起卖的,如果要使用多路径软件的话,可能还需要向厂商购买license才行。
比如EMC公司基于linux下的多路径软件,就需要单独的购买license。
好在, RedHat和Suse的2.6的内核中都自带了免费的多路径软件包,并且可以免费使用,同时也是一个比较通用的包,可以支持大多数存储厂商的设备,即使是一些不是出名的厂商,通过对配置文件进行稍作修改,也是可以支持并运行的很好的。
二、Linux下multipath介绍,需要以下工具包:在CentOS 5中,最小安装系统时multipath已经被安装,查看multipath是否安装如下:1、device-mapper-multipath:即multipath-tools。
主要提供multipathd和multipath 等工具和 multipath.conf等配置文件。
这些工具通过device mapper的ioctr的接口创建和配置multipath设备(调用device-mapper的用户空间库。
创建的多路径设备会在/dev /mapper中)。
2、 device-mapper:主要包括两大部分:内核部分和用户部分。
内核部分主要由device mapper核心(dm.ko)和一些target driver(md-multipath.ko)。
核心完成设备的映射,而target根据映射关系和自身特点具体处理从mappered device 下来的i/o。
同时,在核心部分,提供了一个接口,用户通过ioctr可和内核部分通信,以指导内核驱动的行为,比如如何创建mappered device,这些divece的属性等。
linux device mapper的用户空间部分主要包括device-mapper这个包。
其中包括dmsetup工具和一些帮助创建和配置mappered device的库。
这些库主要抽象,封装了与ioctr通信的接口,以便方便创建和配置mappered device。
multipath-tool的程序中就需要调用这些库。
3、dm-multipath.ko和dm.ko:dm.ko是device mapper驱动。
它是实现multipath的基础。
dm-multipath其实是dm的一个target驱动。
4、scsi_id:包含在udev程序包中,可以在multipath.conf中配置该程序来获取scsi设备的序号。
通过序号,便可以判断多个路径对应了同一设备。
这个是多路径实现的关键。
scsi_id是通过sg驱动,向设备发送EVPD page80或page83 的inquery命令来查询scsi 设备的标识。
但一些设备并不支持EVPD 的inquery命令,所以他们无法被用来生成multipath设备。
但可以改写scsi_id,为不能提供scsi设备标识的设备虚拟一个标识符,并输出到标准输出。
multipath程序在创建multipath设备时,会调用scsi_id,从其标准输出中获得该设备的scsi id。
在改写时,需要修改scsi_id程序的返回值为0。
因为在multipath程序中,会检查该直来确定scsi id是否已经成功得到。
三、multipath在CentOS 5中的基本配置过程:1、安装和加载多路径软件包# yum –y install device-mapper device-mapper-multipath# chkconfig –level 2345 multipathd on #设置成开机自启动multipathd# lsmod |grep dm_multipath #来检查安装是否正常如果模块没有加载成功请使用下列命初始化DM,或重启系统---Use the following commands to initialize and start DM for the first time:# modprobe dm-multipath# modprobe dm-round-robin# service multipathd start# multipath –v22、配置multipath:Multipath的配置文件是/etc/multipath.conf , 如需要multipath正常工作只需要如下配置即可:(如果需要更加详细的配置,请看本文后续的介绍)blacklist {devnode "^sda"}defaults {user_friendly_names yespath_grouping_policy multibusfailback immediateno_path_retry fail}# vi /etc/multipath.conf3、multipath基本操作命令# /etc/init.d/multipathd start #开启mulitipath服务# multipath -F #删除现有路径# multipath -v2 #格式化路径# multipath -ll #查看多路径如果配置正确的话就会在/dev/mapper/目录下多出mpath0、mpath1等之类设备。
用fdisk -l命令可以看到多路径软件创建的磁盘,如下图中的/dev/dm-[0-3]4、multipath磁盘的基本操作要对多路径软件生成的磁盘进行操作直接操作/dev/mapper/目录下的磁盘就行.在对多路径软件生成的磁盘进行分区之前最好运行一下pvcreate命令:# pvcreate /dev/mapper/mpath0# fdisk /dev/mapper/mpath0用fdisk对多路径软件生成的磁盘进行分区保存时会有一个报错,此报错不用理会。
fdisk对多路径软件生成的磁盘进行分区之后,所生成的磁盘分区并没有马上添加到/dev/目录下,此时我们要重启IPSAN或者FCSAN的驱动,如果是用iscsi-initiator来连接IPSAN 的重启ISCSI服务就可以发现所生成的磁盘分区了# service iscsi restart# ls -l /dev/mapper/如上图中的mpath0p1和mpath1p1就是我们对multipath磁盘进行的分区# mkfs.ext3 /dev/mapper/mpath0p1 #对mpath1p1分区格式化成ext3文件系统# mount /dev/mapper/mpath0p1 /ipsan/ #挂载mpath1p1分区四、multipath的高有配置以上都是用multipath的默认配置来完成multipath的配置,比如映射设备的名称,multipath负载均衡的方法都是默认设置。
那有没有按照我们自己定义的方法来配置multipath呢,当可以。
1、multipath.conf文件的配置接下来的工作就是要编辑/etc/multipath.conf的配置文件multipath.conf主要包括blacklist、multipaths、devices三部份的配置blacklist配置blacklist {devnode "^sda"}Multipaths部分配置multipaths和devices两部份的配置。
multipaths {multipath {wwid **************** #此值multipath -v3可以看到alias iscsi-dm0 #映射后的别名,可以随便取path_grouping_policy multibus #路径组策略path_checker tur #决定路径状态的方法path_selector "round-robin 0" #选择那条路径进行下一个IO操作的方法}}Devices部分配置devices {device {vendor "iSCSI-Enterprise" #厂商名称product "Virtual disk" #产品型号path_grouping_policy multibus #默认的路径组策略getuid_callout "/sbin/scsi_id -g -u -s /block/%n" #获得唯一设备号使用的默认程序prio_callout "/sbin/acs_prio_alua %d" #获取有限级数值使用的默认程序path_checker readsector0 #决定路径状态的方法path_selector "round-robin 0" #选择那条路径进行下一个IO操作的方法failback immediate #故障恢复的模式no_path_retry queue #在disable queue之前系统尝试使用失效路径的次数的数值rr_min_io 100 #在当前的用户组中,在切换到另外一条路径之前的IO请求的数目}}如下是一个完整的配置文件blacklist {devnode "^sda"}defaults {user_friendly_names no}multipaths {multipath {wwid 14945540000000000a67854c6270b4359c66c272e2f356321alias iscsi-dm0path_grouping_policy multibuspath_checker turpath_selector "round-robin 0"}multipath {wwid 14945540000000000dcca2eda91d70b81edbcfce2357f99eealias iscsi-dm1path_grouping_policy multibuspath_checker turpath_selector "round-robin 0"}multipath {wwid 1494554000000000020f763489c165561101813333957ed96alias iscsi-dm2path_grouping_policy multibuspath_checker turpath_selector "round-robin 0"}multipath {wwid 14945540000000000919ca813020a195422ba3663e1f03cc3alias iscsi-dm3path_grouping_policy multibuspath_checker turpath_selector "round-robin 0"}}devices {device {vendor "iSCSI-Enterprise"product "Virtual disk"path_grouping_policy multibusgetuid_callout "/sbin/scsi_id -g -u -s /block/%n"path_checker readsector0path_selector "round-robin 0"}}获取wwid的方法:(1)默认情况下,将使用 /var/lib/multipath/bindings 内的配置设定具体每个多路径设备名,如果在/etc/multipath.conf中有设定各wwid 别名,别名会覆盖此设定。