运营商核心系统国产数据库迁移实践

测试结论：

根据测试数据分析，仓数为500仓，进程数在32-512区间，cpu、内存使用率与订单处理量持续增长；进程数达到512时，tpcc orders最高达到400000，达到性能峰值；进程数512-4096时，CPU与内存使用率同步增长，但磁盘IO承载达到上限，可以看到tpmc orders的值持续回落伴随CPU上下文频繁切换，说明负载已经达到测试极限。

基于本次测试的服务器配置及结果分析，我们推荐设置的参数值设定分享如下：

1）shared_buffers 参数

参数说明：

设置数据库服务器使用共享内存缓冲区的大小。

经验参考：

shared_buffers设置为物理内存的40%，同时AntDB同样依赖操作系统的高速缓冲区。

建议设置为shared_buffers = '200GB'

2）effective_cache_size 参数

参数说明：

优化器假设可以用于单个查询的磁盘缓存的有效大小，值越大，使用索引扫描的可能性就越大；值越小，使用顺序扫描的可能性就越大。

经验参考：

建议设置为effective_cache_size=‘400GB’

3）max_wal_size 参数

参数说明：

设置2个自动checkpoint之间允许增长最大的wal日志的大小，默认为1GB，使用方法依赖checkpoint的操作频率，checkpoint频率太快设置得大一些，会提升性能，但也是会消耗更多空间，同时会延长崩溃恢复所需要的时间。

经验参考：

建议设置为max_wal_size = '64GB'

4）checkpoint_completion_target 参数

参数说明：

该参数使AntDB尽可能慢地去写脏数据，在checkpoint_completion_target*checkpoint_timeout。

设置的时间内，使IO操作(写数据到磁盘)的更慢点，同时留给部分IO操作给其他任务。

经验参考：

通常设置0.5-0.9之间，是防止巨大的I/O写入，巨大的IO写入会严重影响并发的查询性能。该参数的设置，主要依赖2个条件，一个是shared_buffer的大小，另外就是磁盘的IO带宽，IO越高该参数设置的越大。同样100G的shared_buffer脏数据在高IO和低IO的场景下，相同的heckpoint_timeout是所设置的checkpoint_completion_target是不一样的，高IO的设置的就大一点，低IO的就设置的小一点缓解checlpoint的时候造成的间歇性的IO波动。

建议设置为checkpoint_completion_target = '0.9'

5）checkpoint_timeout 参数

参数说明：

自动WAL检查点之间的最长时间（默认为5分钟），增加此参数可能会增加崩溃恢复所需的时间。

经验参考：

设置该参数需要评估1分钟产生wal日志尺寸，在结合平均磁盘刷写的IO速度，和磁盘每秒写入次数。

建议设置为checkpoint_timeout = '15min'

6）wal_keep_size 参数

参数说明：

在复制环境中，保存在pg_wal目录中wal日志文件段的数量，以防止stadnby服务器进行流复制所需的wal日志被主库删除。

经验参考：

依赖于wal日志产生的速度和磁盘空间的大小，太大浪费空间，太小wal日志会被删除。

建议设置为wal_keep_size = '512GB'

7）max_parallel_maintenance_workers 参数

参数说明：

数据库执行vacuum、create index时，能够启动的并行worker最大数目。

经验参考：

通常设置低于8，并行worker从max_worker_processes创建的进程池中取出，数量由max_parallel_workers控制，资源限制由maintenance_work_mem控制。

建议设置为max_parallel_maintenance_workers = '8'

8）max_parallel_workers 参数

参数说明：

数据库最大并行worker的数量，不能超过max_worker_processes的数量。

经验参考：

依赖于服务器的cpu资源，不要超过cpu的核心数的一半，尽量使的每个核心都运行一个任务，不能出现cpu资源争抢或者排队的情况。

建议设置为max_parallel_workers = '128'

9）max_parallel_workers_per_gather参数

参数说明：

设置单个Gather或者Gather Merge节点能够工作的workers的最大数量。并行workers会从max_worker_processes建立的进程池中取得，数量由max_parallel_workers限制。

经验参考：

默认为2，开启大表的并行在执行计划中就可以看到Gather或者Gather Merge的节点，同时会占用更多的资源，消耗更多的CPU资源和I/O带宽，建议默认即可。

建议设置为max_parallel_workers_per_gather = '2'

10）maintenance_work_mem参数

参数说明：

维护性操作(例如VACUUM，CREATE INDEX和ALTER TABLE ADD FOREIGN KEY)中使用的最大的内存量。

经验参考：

建议设置为maintenance_work_mem = '4GB'

11）bgwriter_delay参数

参数说明：

将shared_buffers中的脏数据使用bgwriter进程写入磁盘，执行「脏数据」写入时候的延迟值。默认为200ms。即此次写入操作执行完后等待200ms继续下次脏数据写入。

经验参考：

控制Bgwriter进程写入脏数据的频率，IO性能高的设置的小一点，IO性能差的设置大一些，脏数据占用共享缓冲区也多一些。

建议设置为bgwriter_delay = '10ms'

12）autovacuum_max_workers参数

参数说明：

Autovacuum清理的最大进程数，和数据库数目有关系，做到每个库都有一个清理进程去工作，太少的话会在下一个周期去清理没清理的库，每一个autovacuum_max_workers的进程都要消耗maintenance_work_mem的值对应的内存大小，例如maintenance_work_mem = 64MB时，autovacuum_max_workers = 3 需要消耗64*3=192MB内存。autovacuum_max_workers = 4 需要消耗64*3=256MB内存。

经验参考：

如果只有一个活跃业务db，那么不管设定的autovacuum_max_workers多大，永远只会启动一个worker来对该db进行清理。如果有多个活跃业务db，单纯提高autovacuum_max_workers而不提高autovacuum_vacuum_cost_limit（默认值为vacuum_cost_limit，即200）的值也没有用。原因是autovacuum_vacuum_cost_limit对成本的限制是全局的，该参数控制了PostgreSQL实例所有worker在运行时可达到的「成本」上限，其计算公式为：autovacuum_vacuum_cost_limit/autovacuum_max_workers。一旦达到成本上限，worker就会进入休眠，sleep时间为参数vacuum_cost_delay所设定的值（然后再继续处理）。

建议设置为autovacuum_max_workers = '5'

13）autovacuum_analyze_scale_factor参数

参数说明：

声明在判断是否触发一个ANALYZE时增加到autovacuum_analyze_threshold 参数里面的表尺寸的分数，比如100行的表垃圾数据的行数就是1行。

经验参考：

autovacuum_vacuum_threshold,autovacuum_vacuum_threshold (integer)

autovacuum_vacuum_scale_factor

autovacuum_vacuum_scale_factor

autovacuum_analyze_threshold

autovacuum_analyze_scale_factor

autovacuum_vacuum_cost_delay, autovacuum_vacuum_cost_delay

autovacuum_vacuum_cost_limit, autovacuum_vacuum_cost_limit

建议设置为autovacuum_analyze_scale_factor = '0.01'

14）autovacuum_analyze_threshold参数

参数说明：

声明在任何表里触发ANALYZE所需最小的行插入、更新、删除数量

经验参考：

autovacuum_analyze_threshold

autovacuum_analyze_scale_factor

autovacuum_vacuum_cost_delay

autovacuum_vacuum_cost_limit

建议设置为autovacuum_analyze_threshold = '1000'

15）autovacuum_naptime参数

参数说明：

在每次执行完一次自动清理操作后，autovacuum 进程会等待 autovacuum_naptime 指定的时间，然后再开始下一次清理操作。

经验参考：

建议设置为autovacuum_naptime = '1min'

16）autovacuum_vacuum_cost_delay参数

参数说明：

声明将在自动VACUUM操作里使用的开销延迟数值。

经验参考：

建议设置为autovacuum_vacuum_cost_delay = '10ms'

17）autovacuum_vacuum_cost_limit参数

参数说明：

声明将在自动VACUUM操作里使用的开销限制数值。

经验参考：

建议设置为autovacuum_vacuum_cost_limit = '4000'

18）autovacuum_vacuum_scale_factor参数

参数说明：

声明在判断是否触发一个VACUUM时增加到autovacuum_vacuum_threshold参数里面的表的行数。

经验参考：

建议设置为autovacuum_vacuum_scale_factor = '0.01'

19）autovacuum_vacuum_threshold参数

参数说明：

声明在任何表里触发VACUUM所需最小的行更新或删除数量。

经验参考：

建议设置为autovacuum_vacuum_threshold = '1000'

20）work_mem参数

参数说明：

写到临时磁盘文件之前被内部排序操作和哈希表使用的内存量。

经验参考：

建议设置为work_mem=」16MB」

2、高可用测试