LINUX多路径配置
- 格式:docx
- 大小:31.74 KB
- 文档页数:10
Linux6.5_x64+oracle11.2.0.4+RoseHA9.0一、设备信息及规划Dell R730服务器:2*E5-2643v3 3.4GHz6C/4*16G DDR4memory/3*300GB15K RPM SAS/Raid/2*2Port1000M/dual power supply/DVD/2*single port FC HBA card/3year overseas warranty其中磁盘0、1做Raid1,磁盘2做热备Dell MD3800f:7*600GB15K RPM SAS/2*16G FC,2U MD38xxF,8G CF cache,4*5m fiber/3year overseas warranty其中磁盘0、1、2、3、4、5做Raid10,磁盘6做热备Lun1=1.7T做数据存储,Lun2=3G做oracle仲裁,Lun3=2G预留BOSS仲裁。
二、R730安装配置1、开机设置Raid1服务器开机,系统自检,加载到PERC卡自检界面的时候,按<CTRL+R>进入PERC BIOS管理界面查看磁盘列表,各个磁盘状态为“Ready”高亮选中需要管理的PERC卡,按F2,选择弹出菜单里的“Create New VD”。
然后根据提示,选择slot0和slot1两块盘,创建Raid1。
高亮选中已创建的磁盘组,按F2,选择弹出菜单里的“Manage Ded.HS”选中对应的热备盘热备盘添加成功清除磁盘数据将Raid信息清除,然后重建Raid信息,选中ID:0的虚拟磁盘后按F2在选项中选择Fast Init就能清除数据。
2、HBA卡安装注意事项在安装HBA卡时就记住WWN号码和端口顺序,MD3800f存储每次刷新时显示顺序都会不一样。
3、linux 6.5安装(略)三、Dell MD3800f初始安装配置1、连接管理网口在电脑中安装Dell PowerVault MD Storage Manager,开机并连接到管理网口,将电脑的IP设置成与192.168.129.101同一网段的IP,通过Dell PowerVault MD Storage Manager连接到DELL MD3800f测试。
在Linux系统中,分配和管理SCSI磁盘的机制遵循以下步骤和原则:1. 发现与识别:- 当Linux系统启动时,其内核会通过SCSI子系统自动检测连接到系统的SCSI控制器及其挂载的物理磁盘设备。
- 系统通过scsi midlayer(SCSI中间层)扫描SCSI总线,找到所有可用的SCSI设备,并为每个设备分配一个唯一的设备名称,例如:/dev/sda、/dev/sdb等。
2. 分区创建:- 发现新的SCSI磁盘后,管理员可以通过fdisk、parted 或其他分区工具为其创建逻辑分区。
这些分区将被赋予独立的设备文件名,如/dev/sda1、/dev/sda2等。
- 分区信息存储在硬盘上的分区表(MBR或GPT)中。
3. 格式化与挂载:- 创建完分区后,需要对分区进行格式化,比如使用mkfs 命令创建ext4、xfs等文件系统。
- 格式化完成后,可以使用mount命令将分区挂载至Linux文件系统的某个目录下,使其可被操作系统及用户访问。
4. LVM管理:- 对于更高级的磁盘管理,Linux支持逻辑卷管理器(LVM),允许在SCSI磁盘上创建逻辑卷,提供动态调整大小、快照等功能。
5. udev规则:- 在现代Linux系统中,udev负责设备节点的创建和命名规则。
当新SCSI磁盘加入系统时,udev会根据预定义的规则生成相应的设备文件,确保设备文件名的稳定性以及设备间的映射关系。
6. 多路径管理:- 在SAN(Storage Area Network)环境中,可能会有多条路径通往同一块SCSI磁盘。
这时,Linux系统通过多路径软件(如Device Mapper Multipath)来管理和平衡这些路径,提高数据传输的可靠性和性能。
7. 权限控制:- Linux通过文件系统的权限设置来控制对SCSI磁盘及其分区的访问权限,确保只有授权用户和进程能够对其进行读写操作。
总之,Linux通过一系列内建工具和系统服务,实现了对SCSI 磁盘从发现、初始化到最终使用的全生命周期管理。
iSCSI initiator在windows和linux下的安装方法及配置指南一、Windows平台iSCSI initiator安装方法Step 1:从下列网址下载Microsoft iSCSI Initiator/windowsserversystem/storage/technologies/iscsi/default.mspx Step 2:安装iSCSI initiator双击“initiator-x86free-version.msi” ,然后一直“next” “next”….Step3:iSCSI配置文件注:开始配置之前,确保主机的IP设置,使主机能够连接上RAStor4000控制器,即在一个子网段内,互相能够ping通。
双击桌面上的“Microsoft iSCSI Initiator”图标。
出现如下界面:该界面是用来添加Target,稍后进行配置。
首先,切换到“Initiator Settings”属性页,如下图所示,记下nitiator node name,这个ID 便是将来RAStor4000中添加主机时所需要使用的WWN,也可以自己改变,但要保证是唯一的。
由于该主机为NF280,主机名为nf280,因此系统会自动给出initiator node name为“.microsoft:nf280”。
然后返回开始属性页“Target Portals”,通过单击“Add。
”,添加RAStor4000的控制器IP,如下图:其中“192.168.0.1”为RAStor4000的控制器0 IP地址,3260为默认的iscsi service端口号。
单击“Advanced…”可以设置连接方式,也可以设置为default。
source IP选择initiator主机的IP Address:192.168.0.5设置完,单击确定,再单击“Add Target Portal”对话框中的OK,进入如下界面:添加完成后,激活Target,激活会话,需要完成以下几步:单击“Log On…”选择第一个复选框,暂时不选择多路径,单击OK。
1、准备服务器驱动光盘和驱动U盘。
-在服务器机箱内。
2、手动加载浪潮驱动lsi2.1、将浪潮驱动光盘和U盘接入PC2.2、双击光驱2.3、点击创建驱动程序2.4、选择OS版本2.5、点击驱动制作2.6、对应实际情况,输入浪潮驱动U盘盘符;2.7、点击OK;2.8、检查是否成功。
3、安装linux3.1、/boot 200M ,swap 和内存一样大, / 剩余全部可用空间3.2、安装包安装市检察院要求安装。
右键全选。
3.3、将linux 5.9安装光盘放入cdrom等待自行加载到安装界面直接输入linuxdd然后按回车键,进入加载驱动盘界面。
切记点击’yes’,然后,会有驱动器列表,/dev/sda、/dev/sdb之类的,不要怕选错,从最后一个开始,选择后有驱动器的分区列表,/dev/sdb1、/dev/sdb2之类的,一个个进去试。
直到找到然后安装即可。
3.4、安装完成后,配置关闭防火墙,关闭selinux4、linux 5.9下,HBA卡驱动安装如果不确定是否安装好驱动,或者确定需要安装驱动,先联系浪潮客服,确定HBA卡型号!!以QlogicQLE2672为例4.1、检查系统是否有驱动在终端中输入/sbin/modinfo qla2xxx|head如果返回结果如上,则驱动已经有了。
因为不同HBA卡,和不同驱动版本问题,还有lsmod|grepqlelsmod|grepqla等方法。
可以逐一验证!4.2、安装驱动新装服务器的HBA卡,如果是Qlogic的可以到他的官网/pages/default.aspx选择对应型号和系统版本来搜索下载。
选择对应型号和系统版本来搜索下载。
4.3、比如QLE2672/QLogicDriverDownloads_UI/SearchProductPreviousRelea se.aspx?ProductCategory=39&Product=1179&Os=65&ResourceCategory=Drivers&grid=1找到对应系统版本驱动。
浪潮存储平台用户手册文档版本发布日期适用版本尊敬的用户:衷心感谢您选用浪潮存储!浪潮存储秉承“云存智用运筹新数据”的新存储之道,致力于为您提供符合新数据时代需求的存储产品和解决方案。
本手册用于帮助您更详细地了解和便捷地使用本存储,涉及的截图仅为示例,最终界面请以实际设备显示的界面为准。
由于产品版本升级或其他原因,本手册内容会不定期进行更新,如有变动恕不另行通知。
除非另有约定,本手册仅作为使用指导,本手册中的所有陈述、信息和建议不构成任何明示或暗示的担保。
浪潮拥有本手册的版权,保留随时修改本手册的权利。
未经浪潮许可,任何单位和个人不得以任何形式复制本手册的内容。
如果您对本手册有任何疑问或建议,请向浪潮电子信息产业股份有限公司垂询。
技术服务电话:4008600011地址:中国济南市浪潮路1036号浪潮电子信息产业股份有限公司邮编:250101在您正式使用本存储之前,请先阅读以下声明。
只有您阅读并且同意以下声明后,方可正式开始使用本存储。
如果您对以下声明有任何疑问,请和您的供货商联系或直接与我们联系。
如您在开始使用本系统前未就以下声明向我们提出疑问,则默认您已经同意了以下声明。
1.请不要自行拆卸本存储的机箱及机箱内任何硬件设备。
在本存储出现任何硬件故障或您希望对硬件进行任何升级时,请您将机器的详细硬件配置反映给我们的客户服务中心。
2.请不要将本存储的设备与任何其他型号的相应设备混用。
本存储的内存、CPU、CPU散热片、风扇、硬盘托架、硬盘等都是特殊规格的。
3.在使用本存储时遇到任何软件问题,请您首先和相应软件的提供商联系。
由提供商和我们联系,以方便我们共同沟通和解决您遇到的问题。
对于数据库、网络管理软件或其他网络产品的安装、运行问题,我们尤其希望您能够这样处理。
4.上架安装本存储前,请先仔细阅读相关产品手册中的快速安装指南。
我们致力于产品功能和性能的持续提升,部分功能及操作与手册描述可能会有所差异,但不会影响使用。
常见的多路径管理软件Multipath I/O (多路径)在计算机存储技术里,多路径提供了容错和性能提高,在计算机系统里CPU有多条物理路径通道,块存储设备通过总线,控制器,交换设备以及桥接设备来连接。
简单举例同一台计算机里1块SCSI磁盘连接2个SCSI控制器或者磁盘连接到两个FC端口。
如果其中1个控制器,端口或交换设备故障,那操作系统就会自动切换I/O路径到冗余的控制器为应用程序使用,但这样可能会增加延迟.一些多路径软件可以利用冗余的路径提高性能,例如:Dynamic load balancing 动态负载均衡Traffic shaping 流量控制Automatic path management 自动路径管理Dynamic reconfiguration 动态设置Multipath I/O software implementations 多路径软件工具一些操作系统自带支持多路径功能,如下SGI IRIX - using the LV, XLV and later XVM volume managers (1990s and onwards)AIX - MPIO Driver, AIX 5L 5.2 (October 2002) and laterHP-UX 11.31 (2007)Linux - Device-Mapper Multipath . Linux kernel 2.6.13 (August 2005) OpenVMS V7.2 (1999) and laterSolaris Multiplexed I/O (MPxIO), Solaris 8 (February 2000) and later Windows MPIO Driver, Windows Server 2003 and Windows Server 2008 (April 2003)FreeBSD - GEOM_FOX moduleMac OS X Leopard and Mac OS X Leopard Server 10.5.2Multipath software products: (软件产品)AntemetA. Multipathing Software solution for AIX for HP EVA Disk Arrays NEC PathManagerEMC PowerPathFalconStor IPStor DynaPathFujitsu Siemens MultiPath for Linux and Windows OSFujitsu ETERNUS Multipath Driver (ETERNUSmpd) for Solaris, Windows, Linux and AIX.Hitachi HiCommand Dynamic Link Manager (HDLM)HP StorageWorks Secure PathNCR UNIX MP-RAS EMPATH for EMC Disk ArraysNCR UNIX MP-RAS RDAC for Engenio Disk ArraysONStor SDM multipathIBM System Storage Multipath Subsystem Device Driver (SDD), formerly Data Path OptimizerAccusys PathGuardInfortrend EonPathSun Multipath failover driver for Windows and AIXSun StorEdge Traffic Manager Software, included in Sun Java StorEdgeSoftware suiteLinuxmultipath-tools, used to drive the Device Mapper multipathing driver, first released on September 2003Fibreutils package for QLogic HBAsRDAC package for LSI disk controllerslpfcdriver package for Emulex HBAsVeritasVeritas Storage Foundation (VxSF)Veritas Volume Manager (VxVM)Pillar Data SystemsAxiom Path Manager for AIX, Windows, Linux, and SolarisAreca Multipath failover driver for Windows。
服务器多路径挂载FC存储一、物理连接1、打开服务器,将HBA卡插入插槽,并将光线连接到光线交换机。
注意光线如果插反会无法正常通信,也不会亮。
二、存储设置2、进入存储管理界面,进行分配存储空间与映射三、服务器设置rpm常用命令参数说明:rpm -e xxxxx --nodeps ##### RPM强制卸载rpm -ivh xxxxxx --replacepkgs ##### RPM将忽略软件包已被安装强行安装rpm -ivh xxxxxx --replacefiles ##### RPM将忽略文件冲突强行安装[root@DCXZM-SR43-NF5270M3 home]# rpm -e kpartx-0.4.9-87.el6.x86_64 –nodeps[root@DCXZM-SR43-NF5270M3 home]# rpm -ivh kpartx-0.4.9-93.el6.x86_64.rpm Preparing... ########################################### [100%]1:kpartx ########################################### [100%][root@DCXZM-SR43-NF5270M3 home]# rpm -ivh device-mapper-multipath-libs-0.4.9-93. el6.x86_64.rpmPreparing... ########################################### [100%]1:device-mapper-multipath########################################### [100%][root@DCXZM-SR43-NF5270M3 home]# rpm -ivh device-mapper-multipath-0.4.9-93.el6.x 86_64.rpmPreparing... ########################################### [100%]1:device-mapper-multipath########################################### [100%][root@DCXZM-SR43-NF5270M3 home]# service multipathd statusmultipathd is stopped[root@DCXZM-SR43-NF5270M3 home]# service multipathd startStarting multipathd daemon: [ OK ][root@DCXZM-SR43-NF5270M3 home]# chkconfig multipathd on通过mulitpath –l查看磁盘所有路径,然后通过multipath –f删除磁盘。
LINUX操作系统多路径配置在Linux和AIX平台都有一部分存储产品使用操作系统自带的多路径软件,包括最常见的HP和IBM 的部分存储产品,在Linux自带的多路径软件叫做 multipath,这篇文章以IBM N系列存储在Linux平台的使用为例,讨论Linux平台multipath的使用。
1.确保安装以下的包:device-mapperdevice-mapper-multipath2.编辑配置文件/etc/multipath.confRHEL6.4配置文件在/usr/share/doc/device-mapper-multipath-0.4.9/multipath.conf复制一份到/etc目录3.启动multipathd服务,及设置其自动启动。
执行以下的命令:#service multipathd restart#chkconfig --level 345 multipathd on#chkconfig --list | grep multipathd4、修改配置文件[root@rac01 ~]# vi /etc/multipath.conf# This is a basic configuration file with some examples, for device mapper# multipath.# For a complete list of the default configuration values, see# /usr/share/doc/device-mapper-multipath-0.4.7/multipath.conf.defaults# For a list of configuration options with descriptions, see# /usr/share/doc/device-mapper-multipath-0.4.7/multipath.conf.annotated# Blacklist all devices by default. Remove this to enable multipathing# on the default devices.#排除本地磁盘,不做多路径blacklist {devnode "^sda"}## By default, devices with vendor = "IBM" and product = "S/390.*" are## blacklisted. To enable mulitpathing on these devies, uncomment the## following lines.#blacklist_exceptions {# device {# vendor "IBM"# product "S/390.*"# }#}## Use user friendly names, instead of using WWIDs as names.#defaults {# user_friendly_names yes#}#### Here is an example of how to configure some standard options.###defaults {udev_dir /devpolling_interval 10selector "round-robin 0"path_grouping_policy multibusgetuid_callout "/sbin/scsi_id -g -u -s /block/%n"prio_callout /bin/truepath_checker readsector0rr_min_io 100max_fds 8192rr_weight prioritiesfailback immediateno_path_retry failuser_friendly_names yes}#### The wwid line in the following blacklist section is shown as an example ## of how to blacklist devices by wwid. The 2 devnode lines are the## compiled in default blacklist. If you want to blacklist entire types## of devices, such as all scsi devices, you should use a devnode line.## However, if you want to blacklist specific devices, you should use## a wwid line. Since there is no guarantee that a specific device will ## not change names on reboot (from /dev/sda to /dev/sdb for example)## devnode lines are not recommended for blacklisting specific devices.###blacklist {# wwid 26353900f02796769# devnode "^(ram|raw|loop|fd|md|dm-|sr|scd|st)[0-9]*"# devnode "^hd[a-z]"#}#multipaths {# multipath {# wwid 3600508b4000156d700012000000b0000# alias yellow# path_grouping_policy multibus# path_checker readsector0# path_selector "round-robin 0"# failback manual# rr_weight priorities# no_path_retry 5# }# multipath {# wwid 1DEC_____321816758474# alias red# }#}#devices {# device {# vendor "COMPAQ "# product "HSV110 (C)COMPAQ"# path_grouping_policy multibus# getuid_callout "/sbin/scsi_id -g -u -s /block/%n"# path_checker readsector0# path_selector "round-robin 0"# hardware_handler "0"# failback 15# rr_weight priorities# no_path_retry queue# }# device {# vendor "COMPAQ "# product "MSA1000 "# path_grouping_policy multibus# }#}#下面的注释配置不是必须的,配置之后可以固定系统设备的名称,这在服务器重启设备文件对应的磁盘设备发生变化的情况下使用。
multipaths {multipath {wwid 36005076305ffd648000000000000101dalias data1}multipath {wwid 36005076305ffd6480000000000001028alias data2}multipath {wwid 36005076305ffd648000000000000101ealias data3}multipath {wwid 36005076305ffd6480000000000001029alias data4}multipath {wwid 36005076305ffd648000000000000101falias data5}multipath {wwid 36005076305ffd648000000000000102aalias data6}multipath {wwid 36005076305ffd648000000000000102balias data7}multipath {wwid 36005076305ffd648000000000000102calias data8}multipath {wwid 36005076305ffd648000000000000102dalias data9}}补充如何获取磁盘WWID[root@jceqdw1 ~]# multipath -v3 |grep undef36005076305ffd648000000000000101e 6:0:0:1 sdc 8:32 1 undef ready IBM,21079 36005076305ffd648000000000000102b 6:0:0:6 sdh 8:112 1 undef ready IBM,21079 36005076305ffd648000000000000101f 6:0:0:2 sdd 8:48 1 undef ready IBM,21079 36005076305ffd6480000000000001028 6:0:0:3 sde 8:64 1 undef ready IBM,21079 36005076305ffd648000000000000101d 6:0:0:0 sdb 8:16 1 undef ready IBM,21079 36005076305ffd648000000000000102d 6:0:0:8 sdj 8:144 1 undef ready IBM,21079 36005076305ffd6480000000000001029 6:0:0:4 sdf 8:80 1 undef ready IBM,21079 36005076305ffd648000000000000102c 6:0:0:7 sdi 8:128 1 undef ready IBM,21079 36005076305ffd648000000000000102a 6:0:0:5 sdg 8:96 1 undef ready IBM,21079 36005076305ffd648000000000000101d 7:0:0:0 sdk 8:160 1 undef ready IBM,21079 36005076305ffd648000000000000101e 7:0:0:1 sdl 8:176 1 undef ready IBM,21079 36005076305ffd6480000000000001028 7:0:0:3 sdn 8:208 1 undef ready IBM,21079 36005076305ffd648000000000000101f 7:0:0:2 sdm 8:192 1 undef ready IBM,21079 36005076305ffd6480000000000001029 7:0:0:4 sdo 8:224 1 undef ready IBM,2107936005076305ffd648000000000000102b 7:0:0:6 sdq 65:0 1 undef ready IBM,21079 36005076305ffd648000000000000102a 7:0:0:5 sdp 8:240 1 undef ready IBM,21079 36005076305ffd648000000000000102c 7:0:0:7 sdr 65:16 1 undef ready IBM,21079 36005076305ffd648000000000000102d 7:0:0:8 sds 65:32 1 undef ready IBM,21079或者使用multipath -ll[root@jceqdw1 ~]# multipath -llDec 12 17:46:35 | multipath.conf line 33, duplicate keyword: defaultsDec 12 17:46:35 | multipath.conf line 36, invalid keyword: selectorDec 12 17:46:35 | multipath.conf line 39, invalid keyword: prio_calloutdata9 (36005076305ffd648000000000000102d) dm-5 IBM,2107900size=536G features='0' hwhandler='0' wp=rw`-+- policy='round-robin 0' prio=1 status=active|- 6:0:0:8 sdj 8:144 active ready running`- 7:0:0:8 sds 65:32 active ready runningdata8 (36005076305ffd648000000000000102c) dm-7 IBM,2107900size=536G features='0' hwhandler='0' wp=rw`-+- policy='round-robin 0' prio=1 status=active|- 6:0:0:7 sdi 8:128 active ready running`- 7:0:0:7 sdr 65:16 active ready runningdata7 (36005076305ffd648000000000000102b) dm-1 IBM,2107900size=536G features='0' hwhandler='0' wp=rw`-+- policy='round-robin 0' prio=1 status=active|- 6:0:0:6 sdh 8:112 active ready running`- 7:0:0:6 sdq 65:0 active ready runningdata6 (36005076305ffd648000000000000102a) dm-8 IBM,2107900size=536G features='0' hwhandler='0' wp=rw`-+- policy='round-robin 0' prio=1 status=active|- 6:0:0:5 sdg 8:96 active ready running`- 7:0:0:5 sdp 8:240 active ready runningdata5 (36005076305ffd648000000000000101f) dm-2 IBM,2107900size=536G features='0' hwhandler='0' wp=rw`-+- policy='round-robin 0' prio=1 status=active|- 6:0:0:2 sdd 8:48 active ready running`- 7:0:0:2 sdm 8:192 active ready runningdata4 (36005076305ffd6480000000000001029) dm-6 IBM,2107900size=536G features='0' hwhandler='0' wp=rw`-+- policy='round-robin 0' prio=1 status=active|- 6:0:0:4 sdf 8:80 active ready running`- 7:0:0:4 sdo 8:224 active ready runningdata3 (36005076305ffd648000000000000101e) dm-0 IBM,2107900size=536G features='0' hwhandler='0' wp=rw`-+- policy='round-robin 0' prio=1 status=active|- 6:0:0:1 sdc 8:32 active ready running`- 7:0:0:1 sdl 8:176 active ready runningdata2 (36005076305ffd6480000000000001028) dm-3 IBM,2107900 size=536G features='0' hwhandler='0' wp=rw`-+- policy='round-robin 0' prio=1 status=active|- 6:0:0:3 sde 8:64 active ready running`- 7:0:0:3 sdn 8:208 active ready runningdata1 (36005076305ffd648000000000000101d) dm-4 IBM,2107900 size=536G features='0' hwhandler='0' wp=rw`-+- policy='round-robin 0' prio=1 status=active|- 6:0:0:0 sdb 8:16 active ready running`- 7:0:0:0 sdk 8:160 active ready running5.检查multipath聚合后的设备名,以及设备对应的链路情况。