201207 RedHat Enterprise Linux 5网卡多路径

普通的电脑主机都是一个硬盘挂接到一个总线上，这里是一对一的关系。

而到了有光纤组成的SAN环境，由于主机和存储通过了光纤交换机连接，这样的话，就构成了多对多的关系。

也就是说，主机到存储可以有多条路径可以选择。

主机到存储之间的IO由多条路径可以选择，如下图：根据上图所示，每个主机到所对应的存储可以经过几条不同的路径，如果是同时使用的话，I/O流量如何分配？其中一条路径坏掉了，如何处理？还有在操作系统的角度来看，每条路径，操作系统会认为是一个实际存在的物理盘，但实际上只是通向同一个物理盘的不同路径而已，这样是在使用的时候，就给用户带来了困惑。

多路径软件就是为了解决上面的问题应运而生的。

多路径的主要功能就是和存储设备一起配合实现如下功能：1.故障的切换和恢复2.IO流量的负载均衡3.磁盘的虚拟化由于多路径软件是需要和存储在一起配合使用的，不同的厂商基于不同的操作系统，都提供了不同的版本。

并且有的厂商，软件和硬件也不是一起卖的，如果要使用多路径软件的话，可能还需要向厂商购买license 才行。

比如EMC公司基于linux下的多路径软件，就需要单独的购买license。

好在，RedHat和Suse 的2.6的内核中都自带了免费的多路径软件包，并且可以免费使用，同时也是一个比较通用的包，可以支持大多数存储厂商的设备，即使是一些不是出名的厂商，通过对配置文件进行稍作修改，也是可以支持并运行的很好的。

---Linux 内置HBA 驱动程序和内置多路径计划(HP)从Red Hat RHEL 5.2 和Novell SLES 10 SP2 开始的惠普支持的客户选项选项一：惠普提供的Emulex HBA 驱动程序和Multipulse 故障转移，或者惠普提供的Emulex HBA 驱动程序和内置Device Mapper Multipathing选项二：惠普提供的QLogic HBA 驱动程序和QLogic 故障转移，或者惠普提供的单一路径模式QLogic HBA 驱动程序和内置Device Mapper Multipathing选项三：内置HBA 驱动程序和内置Device Mapper Multipathing。

Red Hat Enterprise Linux 8配置设备映射器多路径配置和管理设备映射器多路径功能Last Updated: 2023-12-21Red Hat Enterprise Linux 8 配置设备映射器多路径配置和管理设备映射器多路径功能法律通告Copyright © 2023 Red Hat, Inc.The text of and illustrations in this document are licensed by Red Hat under a Creative Commons Attribution–Share Alike 3.0 Unported license ("CC-BY-SA"). An explanation of CC-BY-SA is available at/licenses/by-sa/3.0/. In accordance with CC-BY-SA, if you distribute this document or an adaptation of it, you must provide the URL for the original version.Red Hat, as the licensor of this document, waives the right to enforce, and agrees not to assert, Section 4d of CC-BY-SA to the fullest extent permitted by applicable law.Red Hat, Red Hat Enterprise Linux, the Shadowman logo, the Red Hat logo, JBoss, OpenShift, Fedora, the Infinity logo, and RHCE are trademarks of Red Hat, Inc., registered in the United States and other countries.Linux ® is the registered trademark of Linus Torvalds in the United States and other countries. Java ® is a registered trademark of Oracle and/or its affiliates.XFS ® is a trademark of Silicon Graphics International Corp. or its subsidiaries in the United States and/or other countries.MySQL ® is a registered trademark of MySQL AB in the United States, the European Union and other countries.Node.js ® is an official trademark of Joyent. Red Hat is not formally related to or endorsed by the official Joyent Node.js open source or commercial project.The OpenStack ® Word Mark and OpenStack logo are either registered trademarks/service marks or trademarks/service marks of the OpenStack Foundation, in the United States and other countries and are used with the OpenStack Foundation's permission. We are not affiliated with, endorsed or sponsored by the OpenStack Foundation, or the OpenStack community.All other trademarks are the property of their respective owners.摘要使用设备映射器多路径（DM Multipath），您可以将服务器节点和存储阵列间的多个 I/O 路径配置为单一设备。

RedHat Linux 5.4下双光口绑定方法具体步骤如下：1、通过system-config-network查看得知Eth0和Eth1是光口网卡，芯片为intel82572，集成网卡为eth2和eth3，芯片为intel82576，需要将eth0和eth1绑定。

2、进入/etc/sysconfig/ network-scripts/查看目前网卡配置文件：3、生成ifcfg-bond0的绑定网卡文件，如下图：4、创建配置文件 ifcfg-bond0 ：vi ifcfg-bond0添加以下内容：DEVICE=bond0ONBOOT=yesBOOTPROTO=noneIPADDR=192.168.1.5(实际的虚拟IP地址) NETMASK=255.255.255.0（实际的虚拟IP的网关）BCAST=192.168.1.255（实际的广播地址）保存退出（wq）。

5、修改 eth0 和 eth1 的配置文件vi ifcfg-eth0DEVICE=eth0ONBOOT=yesBOOTPROTO=noneMASTER=bond0SLAVE=yesHWADDR=XX:XX:XX:XX:XX:XX注：以上的缺一不可vi ifcfg-eth1DEVICE=eth1ONBOOT=yesBOOTPROTO=noneMASTER=bond0SLAVE=yesHWADDR=XX:XX:XX:XX:XX:XX注：以上的缺一不可6、编辑配置文件 /etc/modprobe.conf 和 /etc/rc.local在 modprobe.conf 中添加以下内容：alias bond0 bondingoptions bond0 miimon=100 mode=1（说明：miimon是用来进行链路监测的。

比如:miimon=100，那么系统每100ms监测一次链路连接状态，如果有一条线路不通就转入另一条线路；mode的值表示工作模式，他共有0，1,2,3四种模式，常用的为0,1两种。

S T A R S I N OLINUX multi-path安装配置测试报告RenYang2013.12目录一、测试环境摘要 (4)二、检查安装multipath (4)2.1检查是否已安装 (4)2.2若未安装则安装 (4)2.2.1搭建yum源 (4)2.2.2通过yum源安装并自启动 (4)2.3核查安装是否成功 (5)2.4设为开机自动启动 (5)三、配置multipath (5)3.1创建配置脚本 (5)3.2赋予脚本执行权限 (7)3.3执行脚本 (8)3.4确认配置结果 (8)3.5正常使用磁盘 (9)四、测试 (9)4.1负载均衡测试 (9)4.2路径切换测试 (9)五、常用操作命令 (10)5.1启停mulitipath服务 (10)5.2删除现有路径 (10)5.3格式化路径（重新扫描） (10)5.4查看多路径 (10)5.5重载multipathd服务 (10)5.6查看所有磁盘wwid (10)5.7显示当前device mapper信息 (11)说明：本文档中安装部署部分所提到的步骤都在测试环境中通过。

可以作为安装部署参考手册。

但因环境不同而无法保证在其他环境中准确无误（配置请按照特定环境自行修改）。

本文档仅供参考，建议按照官方手册安装配置。

蓝色字体—命令行绿色字体—脚本或输出结果暗红字体—表示变量（可更改）红色字体—需注意之处# — root用户下执行一、测试环境摘要FreeNAS模拟iSCSI存储并划分空间分配给Linux5系统二、检查安装multipath2.1检查是否已安装[root@linux5 ~]# rpm -qa|grep mapperdevice-mapper-1.02.55-2.el5device-mapper-1.02.55-2.el5device-mapper-event-1.02.55-2.el5device-mapper-multipath-0.4.7-42.el52.2若未安装则安装2.2.1搭建yum源mkdir -p /mnt/yummount /dev/cdrom /mnt/yum如果从ISO挂载，则使用如下命令：mount -o loop -t iso9660 /tmp/Redhat_5.0_U6_64.ISO /mnt/yumecho "[yum]">/etc/yum.repos.d/yum.repoecho "name=yum">>/etc/yum.repos.d/yum.repoecho "baseurl=file:///mnt/yum/Server">>/etc/yum.repos.d/yum.repo echo "enabled=1">>/etc/yum.repos.d/yum.repoecho "gpgcheck=1">>/etc/yum.repos.d/yum.repoecho"gpgkey=file:///mnt/yum/RPM-GPG-KEY-redhat-release">>/etc/yum.repos .d/yum.repo2.2.2通过yum源安装并自启动yum –y install device-mapper device-mapper-multipath2.3核查安装是否成功[root@linux5 ~]# lsmod |grep dm_multipathdm_multipath 56921 0scsi_dh 42177 1 dm_multipathdm_mod 101393 4 dm_mirror,dm_multipath,dm_raid45,dm_log 如果模块没有加载成功请使用下列命初始化DM，或重启系统：modprobe dm-multipathmodprobe dm-round-robinservice multipathd startmultipath –v22.4设为开机自动启动chkconfig --level 2345 multipathd on三、配置multipath3.1创建配置脚本Multipath的配置文件是/etc/multipath.conf，为了快速进行配置，可直接在linux系统任意目录创建一个脚本并将以下内容复制到脚本中：cp /etc/multipath.conf /etc/multipath.conf.bakecho 'blacklist {devnode "^(ram|raw|loop|fd|md|dm-|sr|scd|st)[0-9]*"devnode "^hd[a-z]"devnode "^cciss!c[0-9]d[0-9]*"devnode "^sd[a-b]"}defaults {udev_dir /devpolling_interval 10failback immediateno_path_retry 5rr_min_io 100path_checker turselector "round-robin 0"path_grouping_policy failoveruser_friendly_names yes}multipaths {'>/etc/multipath.conffor pv in `cat /proc/partitions|awk '{print $4}'|grep sd|grep [a-z]$`;do echo "`scsi_id -g -u -s /block/$pv`">>$$.wwid; donefor wwid in `awk 'NF' $$.wwid|sort|uniq|awk '{print $1}'`;doecho "Found a device:"for pv in `cat /proc/partitions|awk '{print $4}'|grep sd|grep [a-z]$`;doif [[ `scsi_id -g -u -s /block/$pv` = $wwid ]];then echo " $pv: `scsi_id -g -u -s /block/$pv`";fidonestop=0while [[ $stop -lt 1 ]];doread -p "Whether to add $wwid? [y,n,q] (y) " addif [[ -z "$add" || "$add" = "y" ]];thenecho " multipath {">>/etc/multipath.confecho " wwid $wwid">>/etc/multipath.confread -p "alias: (none) " aliasif [[ -n "$alias" ]];then echo " alias $alias">>/etc/multipath.conf;firead -p "gid: (none) " gidif [[ -n "$gid" ]];then echo " gid $gid">>/etc/multipath.conf;firead -p "uid: (none) " uidif [[ -n "$uid" ]];then echo " uid $uid">>/etc/multipath.conf;firead -p "mode: [0600,none] (none) " modeif [[ $mode = "0600" ]];then echo " mode $mode">>/etc/multipath.conf;fiecho " }">>/etc/multipath.confstop=1else if [[ $add = "n" ]];then stop=1else if [[ $add = "q" ]];then rm -fr $$.wwid;break 2;fi fi fidonedoneecho "}">>/etc/multipath.confrm -fr $$.wwid备注：1、红色字体部分根据现场环境进行修改；2、也可以按wwid或device进行排除（示例如下）：➢按wwid方式：blacklist {wwid 26353900f02796769}➢按device方式：blacklist {device {vendor "IBM"product "3S42" #DS4200 Product 10}device {vendor "HP"product "*"}}3、也可以选择性使用blacklist_exceptions进行排除：例如：如果有大量设备，但只有一个需要多路径（WWID为 112233445566），此时不需要将想要使用多路径的设备之外的每个设备单独加入黑名单，只需要将所有设备都加入黑名单，然后只允许想要使用多路径的设备即可：blacklist {wwid "*"}blacklist_exceptions {wwid "112233445566"}3.2赋予脚本执行权限chmod +x tmp.sh3.3执行脚本[root@linux5 ~]# ./tmp.shFound a device:sdd: 3300000001f548fcaWhether to add 3300000001f548fca? [y,n,q] (y)回车alias: (none) test1gid: (none) 1300uid: (none) 1101mode: [0600,none] (none) 0600略去N字……备注：根据提示操作即可，alias、gid、uid、mode非强制要求，根据具体环境及需求选择。

如何在红帽企业Linux 4中设置 device-mapper 的多路径管理? 解决方法:相关版本：红帽企业Linux 4 UPDATE 2 为了设置 device-mapper-multipathing，需要完全的升级操作系统。

早期的红帽企业Linux 4 不包含这个功能。

编辑文件/etc/multipath.conf。

在文件头部注释掉如下内容：devnode_blacklist {devnode "*"}如下例：# devnode_blacklist {# devnode "*"# }取消文件 /etc/multipath.conf中这段的注释，这段内容可以让device-mapper multipathing 不用扫描所有的设备。

etc/multipath.conf file:defaults {multipath_tool "/sbin/multipath -v0"udev_dir /devpolling_interval 10default_selector "round-robin 0"default_path_grouping_policy multibusdefault_getuid_callout "/sbin/scsi_id -g -u -s /block/%n"default_prio_callout "/bin/true"default_features "0"rr_wmin_io 100failback immediate} devnode_blacklist {wwid 26353900f02796769devnode "^(ram|raw|loop|fd|md|dm-|sr|scd|st)[0-9]*"devnode "^hd[a-z][[0-9]*]"devnode "^cciss!c[0-9]d[0-9]*[p[0-9]*]"}这段设置了默认的 device-mapper 的动作，并且去出了通常不会有多路径的设备，如IDE 硬盘和软盘。

解决Redhat下多路径问题。

就是从存储--光纤交换机--Server，有一个图可以简单的解释这种情况：首先在Redhat网站找到一个关于多路径的软件，和相关技术说明，如下链接：/docs/manuals/csgfs/browse/4.6/DM_Multipath/inde x.html事实上，在IBMDS4800--X3650的环境中，这个软件无法正常收敛多路径。

经过多次尝试，求教IBM人员，方知需安装一个IBM的软件：RDAC。

终于在今天早上得以解决，简单写了个步骤，积累一下：Redhat下多路径解决--IBM RDAC1.到IBM网站下载RDAC软件。

软件版本需考虑几个因素：A.存储机器的型号。

此处为DS4800，可选在DS4000系列。

B.Redhat版本kernel。

此处为Linux 2.6.18-8.el5xen #1 SMP Fri Jan 26 14:29:35 EST 2007 x86_64 x86_64 x86_64 GNU/Linux。

需具体到2.6.18。

在软件下载界面的相关txt文档查找kernel版本。

参考链接：https:///systems/support/supportsite.wss/selectproduct taskind=2&brandind=5000028&familyind=5329626&typeind=0&modelind=0&os ind=0&psid=sr&continue.x=1&matrix=Y#Storage%20Manager2.Down下来之后版本为rdac-LINUX-09.02.C5.13-source.tar.gz上传rdac-LINUX-09.02.C5.13-source.tar.gz到机器上，然后tar zxvfrdac-LINUX-09.02.C5.13-source.tar.gz。