![SequoiaDB分布式数据库权威指南](https://wfqqreader-1252317822.image.myqcloud.com/cover/100/43738100/b_43738100.jpg)
3.1.2 Linux的推荐配置
本节将介绍在安装SequoiaDB(巨杉数据库)前,用户应如何调整Linux操作系统的环境配置,以保障操作系统稳定且高效地运行。需要调整的配置包括ulimit、内核参数、transparent_hugepage(挂载参数)和NUMA。
1.调整ulimit
SequoiaDB相关进程以数据库管理用户(安装SequoiaDB时指定,默认为sdbadmin)权限来运行。因此,建议调整数据库管理用户的ulimit配置。可以参照以下2个步骤来完成该配置。
(1)在配置文件/etc/security/limits.conf中进行如下设置:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_52_4.jpg?sign=1739278073-ttzbKz7PAcOVM7gFHUjlWKOxaNhwDzoh-0-c826b3a3d3a4478dafcee8d362e4b33a)
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_53_1.jpg?sign=1739278073-BNixyC6VbkxLVQQwYWbSsj05ejnTkgew-0-6df54ce929cb3df301ac2921ba6c6b7c)
具体参数说明如下。
● core:在数据库出现故障时,是否产生core文件来进行故障诊断。在生产系统中建议用户关闭此功能。
● data:数据库进程所允许分配的数据内存大小。
● fsize:数据库进程所允许寻址的文件大小。
● rss:数据库进程所允许的最大resident set大小。
● as:数据库进程所允许的最大虚拟内存寻址空间。
● nofile:数据库进程所允许打开的最大文件数。
(2)在配置文件/etc/security/limits.d/90-nproc.conf中进行如下设置:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_53_2.jpg?sign=1739278073-xg8tTIR3maJEIZVquGg44SIBzSqyT5KI-0-44fbc45de577ab9fddcdc6110ea93232)
其中,参数nproc表示数据库所允许的最大线程数限制。要注意,每台作为数据库服务器的机器都需要配置,而且更改配置后需要重新登录,以确保配置生效。
2.调整内核参数
用户可以参照以下步骤来调整内核参数。
(1)备份系统原始的vm参数:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_53_3.jpg?sign=1739278073-bgXciQyntbhG28VoxgsuhybycGYRzIgY-0-78f29bb9bed951a1e87eb0d177bb8584)
(2)修改文件/etc/sysctl.conf,添加如下内容:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_1.jpg?sign=1739278073-4efLWjNJoY07XIR3v9L9dRlwZ8CtDm52-0-ab908a7c1b2b6aac28ce3846b3c8fc9e)
注意:当数据库可用物理内存不足8GB时无须设置vm.swappiness=0。上述dirty类参数(控制系统的flush进程只采用脏页超时机制刷新脏页,而不采用脏页比例超支刷新脏页)所给的只是建议值,具体参数值可根据实际情况进行设置。如果用户采用SSD(固态磁盘),建议设置vm.dirty_expire_centisecs=1000。
(3)执行如下命令,使配置生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_2.jpg?sign=1739278073-LAQF9t4R4XRqSW8r7PuPY2U5oxfMWXOz-0-1a102119544e11d7949aac57cbca8d09)
3.调整文件系统的挂载参数
SequoiaDB推荐使用ext4格式的文件系统。同时,建议在/etc/fstab文件中添加noatime挂载参数,以提升文件系统的性能。
下面以块设备/dev/sdb(假设其UUID为993c5bba-494f-44ae-b543-a109f3598777,挂载目录为/data/disk_ssd1)为例,介绍具体操作步骤。如果数据盘需要使用多个块设备,则需要对所有块设备进行设置。
首先,检查目标磁盘的文件系统状态:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_3.jpg?sign=1739278073-a1BnYSva67kJhkTiikia9qBrz0iL5iTX-0-195dfe8d937ab4fc7b9614ea811bfd6f)
如果输出结果中显示文件系统为ext4格式的,并且挂载参数中包含noatime,则表示已完成设置;如果输出为其他参数,则需要通过后续步骤进行配置。
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_54_4.jpg?sign=1739278073-6rziUQZon8qG8DeIDPgpQBOSkPyQCYFz-0-a0e94dc58bef0f624f0b71bf00e8afef)
其次,对已挂载的块设备进行设置。如果块设备已创建分区且文件系统为ext4格式的,但其挂载参数不包含noatime,可通过如下操作步骤进行设置。
(1)卸载已挂载的数据盘:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_1.jpg?sign=1739278073-yzLJtKeow0ka2XGNTafPbgSPlHoS1kKG-0-2e6c05c55f89498a38fe86e6611c8681)
(2)编辑/etc/fstab文件:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_2.jpg?sign=1739278073-PY8dq56pxycawqM46W4l7AEQ9rfn8POb-0-0dc00bb08091e704178c167a63522203)
(3)将块设备/dev/sdb的挂载参数调整为如下内容:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_3.jpg?sign=1739278073-G9HKT4K4HiRoUGDrUnx91iW1PcDqdBQQ-0-0875c4140427a687843b1fabb4859103)
(4)挂载块设备:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_4.jpg?sign=1739278073-ixcLzQe0jWJkI8CklYnNHyFggnBy4XUf-0-f1a8be6e77c23e690ce4edd32f0aaf30)
(5)检查挂载参数是否生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_5.jpg?sign=1739278073-SWuE3VmHegaOlZhSt3JEOXMnlD27YnAa-0-4cf4b2f2c2867760b37cd816e680df16)
最后对新块设备进行设置。对于新增的块设备,可以进行如下设置。
(1)查看块设备情况:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_6.jpg?sign=1739278073-zsnHKOEnOrheECfkdrdNGyqlhV48fTAY-0-901232b4e156c048a73077dd55ade87d)
(2)创建分区:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_7.jpg?sign=1739278073-gCYku3bujsXwfFbwofVZUlQri1s4o7Zg-0-567abc26549593d31fc27d1474299b67)
(3)将文件系统格式化为ext4格式的:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_8.jpg?sign=1739278073-udWKgsIUU18wXpEQOXBJTcEemrHRpuTF-0-52900349429d0c281693a0ca8168f41d)
(4)查看数据盘分区的UUID:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_9.jpg?sign=1739278073-3B20BJfXlzMArgFDi2mxihMW0hwiQAXV-0-098045ec3281c2d841739fa68a658b24)
输出结果如下:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_55_10.jpg?sign=1739278073-7YFtOgl3EipM5g1CRtAEuVIcVVWig7Zh-0-f358563a40152b8c1a1d8da6f2493c83)
(5)创建需要挂载的数据目录:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_1.jpg?sign=1739278073-WY6fPcfVyHqRFd6TXRFx0JK8KxOoyaQw-0-689f1ad9564e763bbe7685300b5844b9)
(6)编辑/etc/fstab文件:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_2.jpg?sign=1739278073-pQvJepUgvrOeIekeiyCuWe6kBOcmgrS2-0-cc0e1c715fe8cc51e84a8419409cb6f4)
添加如下内容:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_3.jpg?sign=1739278073-nz7KtpiaWv95nVzxxX8Z0O1J5SPxqHGG-0-9847a91527f83a30c7e6269f05a493f0)
(7)挂载数据盘:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_4.jpg?sign=1739278073-htZaVV4bqwlBCuUd3PdsvHVc0uLiD5Ax-0-19126cf8ef6bb6d2655103ffbb343850)
(8)检查挂载参数是否生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_5.jpg?sign=1739278073-tb4MqY4hQQwcbDQvUlzRHO7gW34JsNcW-0-90c1ad10758c088b48f13c850166a560)
4.关闭transparent_hugepage
具体操作步骤如下。
(1)编辑/etc/rc.local,在第一行#!/bin/sh下添加如下两行:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_6.jpg?sign=1739278073-DaEdJUeSKicvSAmEjNR2xMuYkM9qk2wr-0-15108c2ca43b338a42e20a494f900325)
(2)执行如下命令使配置生效:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_7.jpg?sign=1739278073-J2UxYuEQfNgSEO1ycCH9Te1Jw5CxmyTw-0-08e7402ad5a197c021518b13f928c768)
(3)依次执行如下两条命令,验证关闭操作是否成功:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_56_8.jpg?sign=1739278073-FBFIMOqspfNMcRDelegoYMbPbY4F7ca2-0-b3ed3182a16bedb6eedc13b11eafdc66)
如果两条命令执行后均显示always madvise [never],则说明关闭操作成功。
5.关闭(禁用)NUMA
Linux操作系统默认情况下会开启NUMA(Non Uniform Memory Access),其优先在进程所在的CPU节点本地进行内存分配。这种内存分配策略的初衷是,让内存更接近需要它的进程。但是,这不利于充分利用系统的物理内存,所以这种内存分配策略不适合数据库这种大规模使用内存的场景,它会导致CPU节点间内存分配得不均衡。比如,当某个CPU节点的内存不足时,NUMA非但不从有充足物理内存的远程节点分配内存,而且还会直接导致“swap”过高。因此,建议用户在使用SequoiaDB时关闭NUMA。
首先我们要检查NUMA的状态,查看是否已关闭NUMA,具体步骤如下。
(1)安装numactl工具:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_1.jpg?sign=1739278073-yoiWTiFxWdRzladzAzF8At8pGDc7Pjt9-0-1ec090aab44ccd9a5fa2a133970a2464)
或
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_2.jpg?sign=1739278073-HWMJ7ubHktb2Y5dhY2rmYw7AG6Bvoc58-0-aa2096190d173a8a16f037144baf49e9)
(2)检查是否已关闭NUMA:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_3.jpg?sign=1739278073-J9VFtRpCNC3G4yZ4UCboqtWhIKn1LWZs-0-4dc40822c413bf4438404dd1ce82f893)
如果输出结果中只有node0,则表示已关闭NUMA;如果有node1等其他节点出现,则表示未关闭NUMA:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_4.jpg?sign=1739278073-aaF8xXMxMiVnMm1QgYI6mLhdzsa4tGGW-0-ae7a63ef0f145be3b9e6ae6ae983b016)
关闭NUMA的方法有两个:一是通过BIOS(Basic Input Output System)设置来关闭NUMA;二是通过修改gurb的配置文件来关闭NUMA。首选是第一个方法:开机后按快捷键进入BIOS设置界面,关闭NUMA,之后保存设置并重启。不同品牌的主板或服务器,具体操作略有差异,此处不做详述。
对于第二个方法,CentOS、SUSE、Ubuntu的grub配置文件有差异,在同一款Linux的不同版本中也略有不同。
对于CentOS 6/Red Hat 6,关闭NUMA的步骤如下。
(1)修改文件/boot/grub/grub.conf:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_57_5.jpg?sign=1739278073-vhndLvxmFhwwDxgFewzr8GWsmqfgd9zM-0-6c9addcd965e37464a1a7c546ec6083d)
(2)找到“kernel”引导行(不同版本的内容略有差异,但其开头均有“kernel/vmlinuz-”字样):
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_1.jpg?sign=1739278073-ZIsMGoF5WrfaMvXipLlyjYncfejHekKf-0-4095a7ddb72a3e3f0013ca2535e88a77)
(3)在“kernel”引导行的末尾加上空格和“numa=off”:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_2.jpg?sign=1739278073-R2ZjE8mT3i0c19Rw6PhhupmndiMTCvEY-0-44f74032909b884e5b80e5ab486b2f6e)
要注意的是,如果该配置文件中存在多个“kernel”引导行,则每个引导行都需要进行修改。
(4)重启操作系统:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_3.jpg?sign=1739278073-jKQKtFA4phiqOK052GZK0PQfdgWBseha-0-edaf870b223d4361850f770b72b0d521)
而对于CentOS 7/Red Hat 7/CentOS 8/Red Hat 8/Suse 12/openEuler/中标麒麟/Ubuntu 16/统信UOS等系统,关闭NUMA的步骤如下。
(1)修改文件/etc/default/grub:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_4.jpg?sign=1739278073-cGaGW83TG5iV57TQ6QaFlBDXdVndnstt-0-eb2d1e36eb2cc2f9145d21aa651f183e)
(2)找到配置项“GRUB_CMDLINE_LINUX”:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_5.jpg?sign=1739278073-lhuc9GKE9uFFfjTWbylWRRu85ULNW8kQ-0-11e894a5f5857cfdb5717cc262abf85e)
(3)在配置项“GRUB_CMDLINE_LINUX”的最后加上空格和“numa=off”:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_6.jpg?sign=1739278073-fF7a3xBLIatCSBk7uer0k0bq34dc6ugN-0-d1091d64d28d389a1bb2c731b6740291)
(4)重新生成grub引导文件。
对于CentOS 7/Red Hat 7/CentOS 8/Red Hat 8,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_7.jpg?sign=1739278073-U2ThWWtGYu9z3PjXy0YmFgZDC2WydXTg-0-e417e9e59f87137a9e88c4d81115ed3c)
对于Suse12,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_8.jpg?sign=1739278073-n0m5lZhlq1qaliXjytd5AeunhpVtAnDe-0-1a7ae6d7cd49b475a5b686af54a98bdb)
对于openEuler/中标麒麟,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_58_9.jpg?sign=1739278073-JEN0Nqk5DCFK4sGePyXekhORueiC5X2U-0-c3ada2a05708c5c75a37ec66c47b0e67)
对于Ubuntu 16/统信UOS,用户需要执行如下命令:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_59_1.jpg?sign=1739278073-5YeEPGFsxFwAZjEA0mxNDcUh0GhAiopR-0-fd62f295dc339916884763b212255422)
(5)关闭NUMA后,需要重启操作系统:
![](https://epubservercos.yuewen.com/4CE233/23020641509740506/epubprivate/OEBPS/Images/42291_59_2.jpg?sign=1739278073-zNzoaJm8PB5DDLUX4gBZuWTHmidTo0rX-0-6a1c8a9efd31bfba7d50b434b9df816e)