IP | 應(yīng)用 | 版本 |
---|---|---|
10.10.10.56 | postgresql | 9.2.15 |
10.10.10.57 | postgresql | 9.2.15 |
10.10.10.56 | pgpool-II | 3.5 |
環(huán)境說明:兩臺postgresql,pgpool和其中一臺postgresql在一臺服務(wù)器上。
測試需求:測試pgpool實現(xiàn)postgresql的復(fù)制和負載均衡
1.源碼安裝
wget http://www.pgpool.net/download.php?f=pgpool-II-3.5.3.tar.gz tar -zxvf pgpool-II-3.5.3.tar.gz cd pgpool-II-3.5.3 ./configure --prefix=/usr/local/pgpool --with-openssl #報錯configure: error: libpq is not installed or libpq is old #安裝 yum install postgresql-devel即可 make make install
2.安裝pgpool-regclass
使用 PostgreSQL 8.0 至 PostgreSQL 9.3,強烈推薦在需要訪問的 PostgreSQL 中安裝 pgpool_regclass 函數(shù),因為它被 pgpool-II 內(nèi)部使用。 如果不這樣做,在不同的 schema 中處理相同的表名會出現(xiàn)問題(臨時表不會出問題);而PostgreSQL 9.4或更高版本則不需要
cd pgpool-II-3.5.3/src/sql/pgpool-regclass make make install -bash-4.2$ psql -f pgpool-regclass.sql template1 或 psql template1 =# CREATE EXTENSION pgpool_regclass;
應(yīng)在每臺通過 pgpool-II 訪問的數(shù)據(jù)庫中執(zhí)行 pgpool-regclass.sql 或者 CREATE EXTENSION。 你不需要在你執(zhí)行“psql -f pgpool-regclass.sql template1” 或者 CREATE EXTENSION 后建立的數(shù)據(jù)庫中這么做, 因為這個模板數(shù)據(jù)庫將被克隆成新建的數(shù)據(jù)庫。
3.建立insert_lock表
如果你在復(fù)制模式中使用了 insert_lock ,強烈推薦建立 pgpool_catalog.insert_lock 表,用于互斥。 到現(xiàn)在為止,insert_lock 還能夠工作。但是,在這種情況下,pgpool-II 需要鎖定插入的目標表。 這種行為和 pgpool-II 2.2 和 2.3 系列類似。由于表鎖與 VACUUM 沖突,所以 INSERT 操作可能因而等待很長時間。
cd pgpool-II-3.5.3/src/sql/ psql -f insert_lock.sql tempalte1
應(yīng)在在每臺通過 pgpool-II 訪問的數(shù)據(jù)庫中執(zhí)行 insert_lock.sql。 你不需要在你執(zhí)行“psql -f insert_lock.sql template1”后建立的數(shù)據(jù)庫中這么做, 因為這個模板數(shù)據(jù)庫將被克隆成新建的數(shù)據(jù)庫。
4.安裝pgpool_recovery
如果你使用在線回復(fù),需要以下一些函數(shù): pgpool_recovery, pgpool_remote_start, pgpool_switch_xlog。
另外,附帶工具pgpoolAdmin 控制 pgpool-II 啟停和重新連接后端的 PostgreSQL 節(jié)點, 它需要函數(shù) pgpool_pgctl;而且 pgpoolAdmin 需要函數(shù) pgpool_pgctl 來對 PostgreSQL 進行停止/重啟/重新加載參數(shù)操作。
可以使用和安裝 pgpool_regclass 一樣的方法安裝著四個函數(shù)。 不過和 pgpool_regclass 不同的是,你只需要在 template1 數(shù)據(jù)庫中安裝這些函數(shù)。
cd pgpool-II-3.5.3/src/sql/pgpool-recovery make make install psql -f pgpool-recovery.sql template1 或 psql template1 =# CREATE EXTENSION pgpool_recovery
1.配置pcp.conf
pgpool提供pcp接口,可以查看,管理pgpool的狀態(tài),并且可以遠程操作pgpool,pcp.conf用來對pcp相關(guān)命令認證的文件
cd /usr/local/pgpool cp etc/pcp.conf.sample etc/pcp.conf bin/pg_md5 -m -u pgpool -p 會自動生成pool_passwd postgres:md533c14731dfdfsdfsdf91e8d10c4bff5 cat etc/pcp.conf pgpool:md533c14731dfdfsdfsdf91e8d10c4bff5
2.配置pool_hba.conf
通過pool_hba.conf可以進行相關(guān)權(quán)限設(shè)置,類似于postgresql的pg_hba.conf
cd /usr/local/pgpool cp etc/pool_hba.conf.sample etc/pool_hba.conf bin/pg_md5 -m -u postgres -p 會自動生成pool_passwd postgres:md533c14731dfdfsdfsdf91e8d10c4bff5
**注意:
1.pool_hba.conf中的加密方式必須和pg_hba.conf中的加密方式一樣,都為mds、trust或其他方式。若不一樣會報錯。
2.pool_hba.conf中的用戶必須在postgresql數(shù)據(jù)庫中存在
**
3.配置pgpool.conf
cd /usr/local/pgpool cp etc/pgpool.conf.sample etc/pgpool.conf #創(chuàng)建相關(guān)目錄 mkdir -p /var/run/pgpool mkdir -p /usr/local/pgpool/logs vim etc/pgpool.conf listen_addresses = '*' port = 9999 socket_dir = '/tmp' listen_backlog_multiplier = 2 serialize_accept = off pcp_listen_addresses = '*' pcp_port = 9898 pcp_socket_dir = '/tmp' backend_hostname0 = '10.10.10.56' backend_port0 = 5432 backend_weight0 = 1 backend_data_directory0 = '/data/pgsql/data' backend_flag0 = 'ALLOW_TO_FAILOVER' backend_hostname1 = '10.10.10.57' backend_port1 = 5432 backend_weight1 = 1 backend_data_directory1 = '/data/pgsql/data' backend_flag1 = 'ALLOW_TO_FAILOVER' enable_pool_hba = on pool_passwd = 'pool_passwd' debug_level = 0 pid_file_name = '/var/run/pgpool/pgpool.pid' logdir = '/usr/local/pgpool/logs' replication_mode = on load_balance_mode = on master_slave_mode = off
其中:
replication_mode = on 復(fù)制模式打開,可以在兩臺postgresql數(shù)據(jù)庫上進行實時備份
load_balance_mode = on 負載均衡模式打開,可以實現(xiàn)負載均衡
3.啟動pgpool
/usr/local/pgpool/bin/pgpool
4.連接pgpool
psql -U postgres -p 9999 -h 10.10.10.56 Password for user postgres: psql (9.2.15) Type "help" for help. postgres=#
1.創(chuàng)建bench_replication數(shù)據(jù)庫
psql -U postgres -p 9999 -h 10.10.10.56 Password for user postgres: psql (9.2.15) Type "help" for help. postgres=#create database bench_replication;
我們可以分別登陸56、57上的postgresql進行查看
psql -U postgres -p 5432 -h 10.10.10.56 Password for user postgres: psql (9.2.15) Type "help" for help. postgres=# \list List of databases Name | Owner | Encoding | Collate | Ctype | Access privileges -------------------+----------+----------+-------------+-------------+----------------------- bench_replication | postgres | UTF8 | en_US.UTF-8 | en_US.UTF-8 | postgres | postgres | UTF8 | en_US.UTF-8 | en_US.UTF-8 | template0 | postgres | UTF8 | en_US.UTF-8 | en_US.UTF-8 | =c/postgres + | | | | | postgres=CTc/postgres template1 | postgres | UTF8 | en_US.UTF-8 | en_US.UTF-8 | =c/postgres + | | | | | postgres=CTc/postgres (4 rows)
可以看到兩臺postgresql都創(chuàng)建了bench_replication數(shù)據(jù)庫,因此pgpool的復(fù)制是成功的。
2.pgbench測試
#安裝pgbench yum install postgresql-contrib pgbench -i -h 10.10.10.56 -U postgres -p 9999 bench_replication
在所有pgsql節(jié)點中,下面列出的表和數(shù)據(jù)都被建立了,說明復(fù)制運行正常。
表名 | 行數(shù) |
---|---|
branches | 1 |
tellers | 10 |
accounts | 100000 |
history | 0 |
以上只是簡單介紹了pgpool-II的復(fù)制和負載均衡作為入門,還有很多功能沒有介紹,需要我們繼續(xù)探索。
補充:pgpool使用中遇到的坑總結(jié)
最早時候使用的是復(fù)制模式,數(shù)據(jù)到pgpool然后pgpool分別寫入n個postgres.發(fā)現(xiàn)經(jīng)常出現(xiàn)數(shù)據(jù)不一致問題,導(dǎo)致最終只有一個數(shù)據(jù)庫可用
基于PIRT的online recovery 配置復(fù)雜
這個用到postgres9的新特性,前期配置測試都很easy,failover 也很好用,但是當服務(wù)連接上pgpool時,事務(wù)往往報錯 postgres error : failed to read kind from backend,這個我在之前的文章中提到過,至今無法解決。
num_init_children 原來理解成了一個池的大小,如果超過了會自動擴增,但是實際上往往不夠用,確切的說該值也是 pgpool-II 支持的從客戶端發(fā)起的最大并發(fā)連接數(shù)。
所以這個值配的盡量大些,并且對這個值的更改必須重啟pgpool.
當一個客戶端在執(zhí)行最后一條查詢后如果空閑到了 client_idle_limit 秒數(shù), 到這個客戶端的連接將被斷開.連接不應(yīng)該讓pgpool來斷開,應(yīng)該是應(yīng)用主動去斷開。如果讓pgpool去斷開,會導(dǎo)致客戶端不可用。
當然pgpool也有一個好處,能夠快速找到連接的應(yīng)用。因為每個連接都是單獨的進程,所以啟動后會有num_init_children 個進程可以接受連接
使用# ps -ef |grep pgpool 可以看到
pgpool: wait for connection request 的進程是空進程,等待連接。
pgpool: postgres dbtest 10.115.53.167(51883) idle 這些進程是使用中的進程,并且可以看到是來自哪臺機器,什么用戶,連接的是什么數(shù)據(jù)庫。
當然使用select * from pg_stat_activity 也能查到 連接情況
以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方,望不吝賜教。