首页
产品
CLup:PostgreSQL高可用集群平台CData高性能数据库云一体机CBackup数据库备份恢复云平台CPDA高性能双子星数据库机
解决方案
数据库专业技术服务全栈式PostgreSQL解决方案Oracle分布式存储化数据库云
文章
客户及伙伴
中启开源
关于我们
公司简介 联系我们
中启开源

1. 前言

中启乘数科技是一家专注于PostgreSQL数据库的各项新技术和开源技术的公司,ZQPool是由中启乘数科技开源的一款PostgreSQL数据库连接池软件。

2. 开发ZQPool的背景

使用数据库连接池的主要目的有两个:

  1. 减少到数据库上的连接数。应用程序到连接池软件上有M个连接,这M个连接不是同时都繁忙的,这M个连接上同一个时刻发来的并发SQL可能只有N个(N通常大大小于M),这样连接池软件只需要在后端数据库上建N个连接。就可以满足了要求。这个场景通常是java应用。 我们可以想象一个场景:一个java应用可能部署在200台主机上,而每个主机上java应用自身会开启一个java连接池,这个java连接池假设开20个连接,这时到数据库上就有200*20=4000个连接,这些连接实际上多数时间都是空闲的,少数时间才是活跃的。 4000个连接,PostgreSQL数据库就需要启动4000个进程,太多连接会降低数据库的效率。

  2. 减少短连接应用花在新建数据库连接的时间。PostgreSQL数据库对每一个连接需要fork出一个新的进程来提供服务,而每次fork一个进程是需要时间的。而连接池软件可以预先建好到数据库的连接,应用程序连接到连接池软件后,连接池软件可以从池中取一个已经建好的连接马上提供服务,这样就大大减少了新连接的时间。这个场景的典型应用是php应用。php应用到数据库通常是短连接。

而PostgreSQL数据库中流行的连接池软件pgbouncer通常解决不了上面的第一个问题(java应用):即减少到数据库上连接的目的。

要减少到数据库上的连接数,pgbouncer连接池的模式只能配置成语句级或事务级,不能配置成会话级。因为pgbouncer在会话级下,前面来多少个连接,到数据库也必须建多少个连接,起不到减少数据库连接的目的。

当我们把pgbouncer配置成语句级或事务级时,java应用连接pgbouncer会报错:

  1. org.postgresql.util.PSQLException: ERROR: prepared statement "S_1" already exists

这个原因是jdbc执行SQL是分两个步骤的:

  1. 先使用Prepare的SQL,即:“prepare S_1 as select * from test01 where id=$1;”
  2. 然后再“execute S1(1);”

当“prepare S_1 as select * from test01 where id=$1;” 这条SQL来的时候,从连接池中拿一个连接,执行了后,就释放了此连接;

这时来了另一个SQL,可能从连接池中取到的还是之前的连接,然后再执行“prepare S_1 as select * from test02 where id=$1;”,

但这个prepare SQL 的名字S_1已经被前面的SQL占用,这时就报上面的错了。

注:jdbc实际的行为比上面的更复杂,但原理大致就是上面描述的这个过程。

而ZQPool通过记录一个连接上的Prepare SQL的名字,并替换成不重复的名字的方式解决了这个问题。

pgbouncer还有一个缺点,处理SQL的转发只能用到CPU的一个核,即pgbouncer是单线程程序。对于高并发的情况下,超过单核的性能时,就立即回出现瓶颈。而ZQPool是使用golang的协程技术,可以利用了多核的性能,下面是我们在一台物理机上做的测试:

这是pgbouncer的测试情况:

  1. [postgres@csyun01 ~]$ pgbench -h 10.197.160.18 -p 6432 -Uu01 -S -P 2 -T 30 -c 32
  2. pgbench (14.3)
  3. starting vacuum...end.
  4. progress: 2.0 s, 30407.5 tps, lat 1.050 ms stddev 0.180
  5. progress: 4.0 s, 30108.6 tps, lat 1.062 ms stddev 0.182
  6. progress: 6.0 s, 30231.5 tps, lat 1.058 ms stddev 0.179
  7. progress: 8.0 s, 31157.9 tps, lat 1.026 ms stddev 0.176
  8. progress: 10.0 s, 30491.7 tps, lat 1.049 ms stddev 0.178
  9. progress: 12.0 s, 30463.0 tps, lat 1.050 ms stddev 0.180
  10. progress: 14.0 s, 30366.2 tps, lat 1.053 ms stddev 0.179
  11. progress: 16.0 s, 30177.5 tps, lat 1.060 ms stddev 0.180
  12. progress: 18.0 s, 30067.1 tps, lat 1.064 ms stddev 0.181
  13. progress: 20.0 s, 30420.1 tps, lat 1.051 ms stddev 0.177
  14. ...
  15. ...
  16. ...

这是使用ZQPool测试的情况:

  1. [postgres@csyun01 ~]$ pgbench -h 10.197.160.18 -p 5436 -Uu01 -S -P 2 -T 30 -c 32
  2. Password:
  3. pgbench (14.3, server 10.5)
  4. starting vacuum...end.
  5. progress: 2.0 s, 111134.7 tps, lat 0.213 ms stddev 0.058
  6. progress: 4.0 s, 112688.1 tps, lat 0.209 ms stddev 0.058
  7. progress: 6.0 s, 114570.8 tps, lat 0.207 ms stddev 0.054
  8. progress: 8.0 s, 107305.3 tps, lat 0.216 ms stddev 0.066
  9. progress: 10.0 s, 108680.1 tps, lat 0.215 ms stddev 0.063
  10. progress: 12.0 s, 108867.6 tps, lat 0.214 ms stddev 0.064
  11. ...
  12. ...
  13. ...

可以看到ZQPool的tps可以到10万每秒,而pgbouncer最多到3万每秒就上不去了。

3. ZQPool的资料

ZQPool开源在gitee.com上:

在此网站上由详细的使用方法。