王栋：携程技术保障中心数据库专家，对数据库疑难问题的排查和数据库自动化智能化运维工具的开发有强烈的兴趣。
【问题描述】我们知道当mysqld进程使用到SWAP时，就会严重影响到MySQL的性能。SWAP的问题比较复杂，本文会从SWAP的原理开始，分享我们碰到的案例和分析思路。
【SWAP原理】swap是把一部分磁盘空间或文件，当作内存来使用。它有换出和换入两种方式，换出是进程把不活跃的内存数据存储到磁盘上，并释放数据占用的内存空间，换入是进程再次访问这部分数据的时候，从磁盘读到内存中。
swap扩展了内存空间，是为了回收内存。内存回收的机制，一种是当内存分配没有足够的空间时，系统需要回收一部分内存，称为直接内存回收。另外还有一个专门的kswapd0进程用来定期回收内存。为了衡量内存的使用情况，定义了三个内存阀值，分为页最小水位（min）、页低水位（low）、页高水位（high）
执行下面命令，可以看到水位线对应的值，如下图所示
内存回收行为主要有
1、当系统剩余内存低于low时，kswapd开始起作用进行内存回收，直到内存达到high水位。
2、当剩余内存达到min时就会触发直接回收。
3、当触发全局回收，并且file+free<=high时，一定会进行针对匿名页的swap。 【NUMA与SWAP】
有些案例我们发现系统还有大量剩余空间的情况下，已经使用了swap。这正是NUMA架构导致的。NUMA架构下每个Node都有本地的内存空间，Node间内存使用不均衡，当某个Node的内存不足时，就可能导致swap的产生。
【swappiness】我们大概理解了内存回收的机制，回收的内存包括文件页和匿名页。对文件页的回收就是直接回收缓存，或者把脏页写回到磁盘再进行回收。对匿名页的回收，就是通过swap，将数据写入磁盘后再释放内存。
通过调整/proc/sys/vm/swappiness的值，可以调整使用swap的积极程度，swappiness值从0-100，值越小，倾向于回收文件页，尽量少的使用swap。我们最初将这个值调整为1，但发现并不能避免swap的产生。实际上即使将这个值设置0，当满足file+free<=high时，还是会发生swap。
在NUMA开启的情况，由于NUMA节点间内存使用不均衡，可能导致swap，解决这个问题主要有下面一些方案
2、 Linux Kernel启动参数中加上numa=off，需要重启服务器
3、 在BIOS层面关闭NUMA
4、 MySQL 5.6.27/5.7.9开始引用innodb_numa_interleave选项
对于2、3、4关闭NUMA的方案比较简单，不做详细描述，下面重点描述下方案1 【开启numa interleave访问的步骤】 1、 yum install numactl -y 2、修改/usr/bin/mysqld_safe文件 cmd="`mysqld_ld_preload_text`$NOHUP_NICENESS"下新增一条脚本 cmd="/usr/bin/numactl --interleave all $cmd" 3、service mysql stop 4、写入硬盘，防止数据丢失 sync;sync;sync 5、延迟10秒 sleep 10 6、清理pagecache、dentries和inodes sysctl -q -w vm.drop_caches=3 7、service mysql start 8、验证numactl –interleave all是否生效，可以通过下面命令，interleave_hit是采用interleave策略从该节点分配的次数，没有启动interleave策略的服务器，这个值会很低 numastat -mn -p `pidof mysqld`
至此我们MySQL5.6的服务器通过上面方案解决了由于NUMA Node间内存分配不均导致的swap的问题。对于MySQL5.7.23版本的服务器，我们使用了innodb_numa_interleave选项，但问题并没有彻底解决。
【使用MySQL5.7新增innodb_numa_interleave选项的问题】在开启innodb_numa_interleave选项的服务器中，仍然会存在NUMA Node间内存分配不均衡的问题，会导致swap产生。针对这个问题做了进一步分析：
1、 MySQL 版本为5.7.23，已经开启了innodb_numa_interleave
2、 使用命令查看mysqld进程的内存使用情况，numastat -mn `pidof mysqld`
可以看出Node 0使用了约122.5G内存，Node 1使用了约68.2G内存，其中Node0上的可用空间只剩566M，如果后面申请Node 0节点分配内存不足，就可能产生swap
Node 0 Node 1 Total
--------------- --------------- ---------------
Huge 0.00 0.00 0.00
Heap 0.00 0.00 0.00
Stack 0.01 0.07 0.09
Private 125479.61 69856.82 195336.43
---------------- --------------- --------------- ---------------
Total 125479.62 69856.90 195336.52
3、是innodb_numa_interleave没有生效吗，通过分析/proc/1801/numa_maps文件可以进一步查看mysqld进程的内存分配情况
以其中一条记录为例，
interleave:0-1 表示内存所用的NUMA策略，这里使用了Interleave方式
anon=5734148 匿名页数量
dirty=5734148 脏页数量
active=5728403 活动列表页面的数量
N0=3607212 N1=2126936 节点0、1分配的页面数量
kernelpagesize_kB=4 页面大小为4K
7f9067850000 interleave:0-1 anon=5734148 dirty=5734148 active=5728403 N0=3607212 N1=2126936 kernelpagesize_kB=4