下载文档原格式
numactl参数及说明为了最大化服务器的性能和资源利用率，许多服务器都采用了非一致性内存访问（NUMA）架构。
NUMA架构引入了多个内存节点，每个节点都有自己的处理器和内存。
在这样的架构下，针对内存的访问可能会存在延迟和性能下降的问题。
为了优化在NUMA架构下的内存访问和性能，Linux系统引入了numactl工具。
numactl是一个命令行工具，用于管理和调整NUMA架构下的内存性能。
它提供了一组参数，可以帮助管理员对服务器进行优化和调整，以获得更好的性能。
下面，我们将介绍一些常用的numactl参数及说明：1. --hardware参数numactl --hardware命令可以显示服务器上的NUMA架构和节点拓扑信息。
它可以告诉你服务器上有多少个NUMA节点以及每个节点的内存大小和可用性信息。
这对于了解服务器的具体配置非常有用。
2. --cpunodebind参数numactl --cpunodebind=<numa节点id>命令可以将进程绑定到指定的NUMA节点上。
这可用于优化内存访问，确保进程在访问内存时尽可能地接近。
要使用该参数，你需要指定要绑定的NUMA节点ID。
例如，如果你想将进程绑定到第一个NUMA节点上，可以使用--cpunodebind=0参数。
3. --membind参数numactl --membind=<numa节点id>命令可以将进程的内存分配限制在指定的NUMA节点上。
这可以确保进程分配的内存在访问时与其所在的NUMA节点相近，避免延迟和性能下降。
要使用该参数，你需要指定要限制的NUMA节点ID。
例如，如果你想将进程的内存分配限制在第一个NUMA节点上，可以使用--membind=0参数。
4. --interleave参数numactl --interleave命令可以将进程的内存分配在所有可用的NUMA节点之间进行均匀分配。
这个参数适用于那些不需要特定的内存分配策略的应用程序。
numa 分配策略
Numa（Non-uniform Memory Access，非统一内存访问）是一种多处理器计算机体系结构，在该体系结构中，每个处理器核心连接到一个或多个内存区域，并且内存访问延迟可能会因为距离处理器核心的距离而不同。
为了最大程度地减少内存访问延迟，需要使用合适的Numa分配策略。
下面是常见的Numa分配策略：
1. 首次访问者策略（First Touch Policy）：将内存分配给第一次访问该内存的处理器核心。
当一个处理器核心访问一个新页时，操作系统会将其分配给与该核心关联的本地内存，这样可以尽量减少内存访问延迟。
2. 非本地性优先策略（Remote First Policy）：将内存分配给非本地核心。
这种策略可以减少本地核心的内存压力，将非本地性访问的内存分配给其他核心，从而实现负载均衡。
3. 近邻分配策略（Nearest Neighbor Policy）：将内存分配给最近的处理器核心。
这种策略基于Numa体系结构的特点，将内存分配给距离最近的处理器核心，以最大程度地减少内存访问延迟。
4. 平衡分配策略（Balanced Policy）：将内存均匀地分配给所有可用的处理器核心。
这种策略可以提供一种均衡的访问模式，从而实现较低的内存访问延迟和
更好的负载均衡。
选择合适的Numa分配策略需要考虑具体的应用场景和硬件配置。
不同的处理器架构和操作系统可能会提供不同的Numa分配策略。
numa 分配原理-回复关于[numa 分配原理]的文章。
第一部分：什么是NUMA？非一致性存储访问（Non-Uniform Memory Access，NUMA）是一种计算机体系结构，旨在优化多处理器系统中的内存访问速度。
它是通过将处理器和内存资源分为多个节点（也称为域）来实现的。
每个节点都包含一个或多个处理器核心和一部分内存。
这样，每个节点可以独立地访问其本地内存，提供更短的访问时间。
然而，当一个处理器核心需要访问其他节点的内存时，可能会引入延迟。
NUMA架构通常用于大型的多处理器系统，例如服务器或高性能计算集群。
它在提高系统整体性能的同时，还可以提供更好的扩展性和内存利用率。
第二部分：NUMA分配原理是什么？NUMA分配原理是指操作系统如何将任务和内存资源分配给每个NUMA节点的过程。
这个过程旨在优化系统的性能，并确保每个节点的负载均衡。
NUMA分配原理可以归纳为以下几个步骤：1.识别NUMA拓扑结构：操作系统首先需要识别系统中存在的NUMA 节点以及它们之间的连接方式。
这通常通过读取系统中的硬件信息或者通过BIOS设置来完成。
2.任务分配：一旦NUMA节点的拓扑结构被确定，操作系统可以根据负载均衡算法将任务分配给每个节点。
这可以通过各种算法来完成，例如轮询，最小负载，或者基于任务类型的特定算法。
3.内存分配：对于NUMA架构，内存管理也是非常重要的一环。
操作系统需要确保任务可以访问到其所需的内存资源。
为此，可以使用不同的算法来分配内存，例如静态映射或动态映射。
静态映射将内存固定到特定的节点上，而动态映射允许内存在不同节点之间进行迁移。
第三部分：NUMA分配原理的优缺点是什么？NUMA分配原理的优点包括：1. 提高内存访问性能：由于每个节点都包含一部分本地内存，NUMA架构可以将内存访问速度最小化。
这对于那些需要频繁访问内存的任务来说尤为重要。
2. 提供更好的扩展性：NUMA架构可以支持大型多处理器系统，通过添加更多的节点和处理器核心，系统的规模可以很容易地扩展。
numa 分配原理
NUMA，全称为Non-Uniform Memory Access，中文译为“非一致性内存访问”。
这是一种特殊构架，它将不同的内存器件和CPU核心划分到不同的Node上，每个Node都拥有自己的集成内存控制器（IMC，Integrated Memory Controller）。
在Node内部，其架构与SMP（对称多处理）类似，使用IMC Bus进行不同核心间的通信；在不同的Node之间，则通过主板上的共享总线来访问其他Node的Remote Memory。
在Linux系统中，一旦识别到NUMA架构，默认的内存分配方案会优先从本地分配内存。
这是为了减少在同一node上的内存访问拥塞。
当本地内存不足时，系统会优先淘汰本地内存中无用的内存，尽可能让内存页和调用线程处在同一个node上。
此外，系统在启动时，为了进一步优化内存分配和访问，会选择以round-robin/interleave的形式在各个node 上分配内存，等到init进程启动后，再切换到默认的local模式。
这在NUMA里被称为memory policy。
NUMA的设计理念是将CPU和主存储器进行分区自治（即Local NUMA node），又可以跨区合作（即Remote NUMA node），以此方式缓解单一内存总线存在的瓶颈。
这里的关键是，不同的NUMA node都拥有几乎相等的资源。
在Local NUMA node内部，会通过自己的存储总线访问Local Memory；而对于Remote NUMA node，则可以通过主板上的共享总线来访问其他Node上的Remote Memory。
NUMA架构的优缺点numa把⼀台计算机分成多个节点(node),每个节点内部拥有多个CPU，节点内部使⽤共有的内存控制器，节点之间是通过互联模块进⾏连接和信息交互。
因此节点的所有内存对于本节点所有的CPU都是等同的，对于其他节点中的所有CPU都不同。
因此每个CPU可以访问整个系统内存，但是访问本地节点的内存速度最快(不经过互联模块),访问⾮本地节点的内存速度较慢(需要经过互联模块)，即CPU访问内存的速度与节点的距离有关，该距离成为Node Distance。
查看当前numa的节点情况：numactl --hardware节点之间的距离(Node Distance)指从节点1上访问节点0上的内存需要付出的代价的⼀种表现形式。
Numa内存分配策略有⼀下四种:缺省default:总是在本地节点分配(当前进程运⾏的节点上)。
绑定bind:强制分配到指定节点上。
交叉interleavel:在所有节点或者指定节点上交叉分配内存。
优先preferred:在指定节点上分配，失败则在其他节点上分配。
查看当前系统numa策略：numactl --show因为numa默认的内存分配策略是优先在进程所在CPU的本地内存中分配，会导致CPU节点之间内存分配不均衡，当某个CPU节点内存不⾜时，会导致swap产⽣，⽽不是从远程节点分配内存，这就是swap insanity现象。
MySQL服务器为什么需要关闭numa?MySQL是单进程多线程架构数据库，当numa采⽤默认内存分配策略时，MySQL进程会被并且仅仅会被分配到numa的⼀个节点上去。
假设这个节点的本地内存为10GB,⽽MySQL配置20GB内存，超出节点本地内存部分(20GB-10GB)Linux会使⽤swap⽽不是使⽤其他节点的物理内存。
在这种情况下，能观察到虽然系统总的可⽤内存还未⽤完，但是MySQL进程已经开始在使⽤swap了。
如果单机只运⾏⼀个MySQL实例，可以选择关闭numa，关闭nuam有两种⽅法：1.硬件层，在BIOS中设置关闭;2.OS内核，启动时设置numa=off。
linux numa内存分配策略NUMA(Non-UniformMemoryAccess)是一种计算机架构，用于处理多处理器系统中的内存访问问题。
NUMA 可以将计算机内存分为多个本地节点和远程节点，每个节点可以由一个或多个处理器访问。
在 NUMA 架构下，内存分配策略非常重要。
Linux 内核为 NUMA 提供了一些内存分配策略，包括：1. 使用本地节点分配：当一个进程需要分配内存时，Linux 内核会尝试使用本地节点分配内存。
这意味着内存将从本地节点中的可用内存池中分配，从而最大限度地减少内存访问延迟。
2. 使用远程节点分配：如果本地节点没有足够的可用内存，则内核将尝试从远程节点中分配内存。
这将增加内存访问延迟，但仍然比从本地节点以外的节点中分配内存更好。
3. 使用任意节点分配：如果本地节点和远程节点都没有足够的可用内存，则内核将尝试从任意节点中分配内存。
这将增加内存访问延迟，并可能导致性能下降。
4. 使用交错节点分配：交错节点内存分配将内存块交错存储在多个本地节点中，这可以在多个节点之间分配内存，从而提高内存带宽。
但是，在某些情况下，交错内存分配可能会导致性能下降，因为它增加了内存访问延迟。
可以使用 Linux 的 numactl 工具来控制 NUMA 内存分配策略。
numactl 工具可以设置进程亲和性，这使得进程将分配到本地或远程节点的内存。
此外，numactl 工具还可以设置交错内存分配策略和其他 NUMA 相关的内核参数。
总之，NUMA 内存分配策略非常重要，可以显著影响系统的性能和可伸缩性。
Linux 内核提供了多种内存分配策略，可以通过numactl 工具进行控制。
在 NUMA 架构下，使用正确的内存分配策略可以提高系统的性能和可伸缩性。
numactl原理-回复numactl（Non-uniform memory access control）是一个在多节点非统一内存访问系统中管理内存访问的工具。
它通过管理内存和处理器之间的关系，帮助程序员在NUMA架构中优化内存访问和提高性能。
NUMA架构是一种处理器和内存直接连接在不同节点上的体系结构。
与传统的统一内存访问（UMA）架构不同，NUMA架构通过将处理器和内存划分为多个节点，并将它们直接连接，以支持更高的可扩展性和更好的性能。
每个节点具有自己的本地内存，处理器可以直接访问其本地内存，但访问其他节点的内存则需要通过交换数据的方式。
在NUMA架构中，节点之间的访问延迟是不均匀的。
由于节点之间的通信需要通过更长的物理距离和其他节点上的内存控制器，因此访问远程节点的内存速度将比访问本地节点的内存速度慢得多。
这就是所谓的“非统一内存访问”。
对于开发人员而言，了解和优化NUMA架构是至关重要的。
numactl提供了一组工具和库，用于管理内存并控制程序在NUMA架构中的内存访问方式。
下面将详细介绍numactl的原理和使用方法。
首先，numactl通过两种方式来管理内存：绑定和分配。
绑定可以将进程或线程固定在特定的NUMA节点上，以确保其访问本地内存。
分配则用于将内存分配给特定的NUMA节点，并使其成为了这个节点上最近的内存，从而减少远程访问的开销。
使用numactl绑定一个进程或线程到特定的NUMA节点，可以通过在命令行前加上"numactl cpunodebind=<node>"来实现。
例如，"numactl cpunodebind=0"将进程或线程绑定到NUMA节点0上。
绑定之后，进程或线程将只在绑定的节点上运行，从而保证了其内存访问的本地性。
分配内存给特定的NUMA节点，可以通过在命令行前加上"numactl membind=<node>"来实现。
numa和内存对应关系在计算机领域中，NUMA（Non-Uniform Memory Access）是一种多处理器架构，它允许多个处理器通过高速互联网络连接到共享内存系统。
NUMA架构的出现是为了解决传统对称多处理（SMP）架构中内存访问延迟和带宽瓶颈的问题。
NUMA架构通过将内存划分为多个节点，并将每个节点与特定的处理器核心关联，从而提供更高的内存访问性能。
在NUMA架构中，每个节点都有自己的本地内存和处理器核心。
当一个处理器核心需要访问内存时，它首先会尝试访问本地节点的内存。
如果所需的数据在本地节点的内存中，则可以直接访问，从而实现低延迟和高带宽的内存访问。
然而，如果所需的数据不在本地节点的内存中，处理器核心就需要通过互联网络访问其他节点的内存。
这种访问方式会导致较高的延迟和较低的带宽。
NUMA架构中的内存对应关系是通过内存节点和处理器核心之间的映射来实现的。
每个内存节点都与一个或多个处理器核心关联，并且只能由这些处理器核心访问。
这种映射关系可以通过操作系统的内存管理单元（MMU）来实现。
MMU负责将虚拟内存地址转换为物理内存地址，并根据NUMA架构的配置将内存访问路由到正确的节点。
在NUMA架构中，内存对应关系的优化是非常重要的。
合理地分配内存节点和处理器核心之间的映射关系可以最大程度地减少内存访问延迟和提高内存带宽。
一种常见的优化策略是将内存节点与最常访问的处理器核心关联，以便最大程度地减少远程内存访问。
此外，还可以通过合理地分配任务和数据来减少内存访问的竞争，从而提高系统的整体性能。
然而，NUMA架构也存在一些挑战和限制。
首先，由于内存节点之间的访问延迟和带宽差异，程序的性能可能会受到影响。
特别是在多线程程序中，如果线程之间的数据访问不均衡，就可能导致性能下降。
其次，NUMA架构需要操作系统和应用程序对内存访问进行显式管理，这对开发人员来说可能是一项挑战。
最后，NUMA架构的成本相对较高，因为它需要更多的硬件资源和复杂的互联网络。
memory allocation policy 内存分配策略-回复内存分配策略是计算机系统中的重要组成部分，用于决定如何为程序运行时提供存储空间。
不同的内存分配策略可以对程序的性能、资源利用和系统稳定性产生巨大影响。
本文将介绍内存分配策略的基本概念、常见类型和实施方法，并论述各种策略的优缺点。
一、内存分配策略的基本概念内存分配策略是操作系统或编程语言决定如何管理和分配程序所需内存的方式。
它在程序运行时负责为程序分配、回收和管理内存空间。
内存分配策略的目标是优化程序的性能和资源利用，同时保证系统的稳定性。
二、常见的内存分配策略类型1. 静态内存分配策略：在程序编译阶段，内存空间的分配是在编译时确定的。
程序在执行过程中无法动态分配或释放内存空间。
这种策略的优点是简单、高效，并且不会造成内存碎片。
然而，缺点是无法适应复杂的程序运行时内存需求变化。
2. 动态内存分配策略：在程序运行时，根据实际需要来动态分配和回收内存空间。
这种策略允许程序根据实际情况灵活地利用内存资源，但也容易导致内存碎片。
常见的动态内存分配方法包括堆、栈、全局内存等。
三、常见的内存分配策略实施方法1. 首次适应算法（First Fit）：根据内存空闲列表，从头开始查找第一个满足大小要求的空闲块进行分配。
这种方法简单直接，但容易导致内存碎片。
2. 最佳适应算法（Best Fit）：根据内存空闲列表，从所有满足大小要求的空闲块中选择最小空闲块进行分配。
这种方法能够最小化碎片化，但会增加搜索时间。
3. 最坏适应算法（Worst Fit）：根据内存空闲列表，从所有满足大小要求的空闲块中选择最大空闲块进行分配。
这种方法可以减少频繁的内存分配和释放操作，但可能导致大量碎片化。
4. 快速适应算法（Quick Fit）：将内存空闲列表按大小进行分组，根据程序所需内存的大小选择相应的空闲块进行分配。
这种方法提高了搜索效率，但会增加内存空闲列表的维护开销。
NUMA的取舍与优化设置在os层numa关闭时,打开bios层的numa会影响性能，QPS会下降15-30%;在bios层⾯numa关闭时，⽆论os层⾯的numa是否打开，都不会影响性能。
安装numactl:#yum install numactl -y#numastat 等同于 cat /sys/devices/system/node/node0/numastat ，在/sys/devices/system/node/⽂件夹中记录系统中的所有内存节点的相关详细信息。
#numactl --hardware 列举系统上的NUMA节点#numactl --show 查看绑定信息Redhat或者Centos系统中可以通过命令判断bios层是否开启numa# grep -i numa /var/log/dmesg如果输出结果为：No NUMA configuration found说明numa为disable，如果不是上⾯内容说明numa为enable,例如显⽰：NUMA: Using 30 for the hash shift.可以通过lscpu命令查看机器的NUMA拓扑结构。
当发现numa_miss数值⽐较⾼时，说明需要对分配策略进⾏调整。
例如将指定进程关联绑定到指定的CPU上，从⽽提⾼内存命中率。
---------------------------------------------现在的机器上都是有多个CPU和多个内存块的。
以前我们都是将内存块看成是⼀⼤块内存，所有CPU到这个共享内存的访问消息是⼀样的。
这就是之前普遍使⽤的SMP模型。
但是随着处理器的增加，共享内存可能会导致内存访问冲突越来越厉害，且如果内存访问达到瓶颈的时候，性能就不能随之增加。
NUMA（Non-Uniform Memory Access）就是这样的环境下引⼊的⼀个模型。
⽐如⼀台机器是有2个处理器，有4个内存块。
我们将1个处理器和两个内存块合起来，称为⼀个NUMA node，这样这个机器就会有两个NUMA node。
