Greenplum 日常维护手册
1.数据库启动:gpstart
常用可选参数:-a : 直接启动,不提示终端用户输入确认
-m:只启动master 实例,主要在故障处理时使用
2.数据库停止:gpstop:
常用可选参数:-a:直接停止,不提示终端用户输入确认
-m:只停止master 实例,与gpstart –m 对应使用
-M fast:停止数据库,中断所有数据库连接,回滚正在运
行的事务
-u:不停止数据库,只加载pg_hba.conf 和postgresql.conf中
运行时参数,当改动参数配置时候使用。
-f:强制停止数据库
-r:重启数据库
3.查看实例配置和状态
select * from gp_segment_configuration order by 1 ;
主要字段说明:
Content:该字段相等的两个实例,是一对P(primary instance)和M(mirror Instance)
Isprimary:实例是否作为primary instance 运行
Valid:实例是否有效,如处于false 状态,则说明该实例已经down 掉。
Port:实例运行的端口
Datadir:实例对应的数据目录
注实例配置的数据表:gp_segment_configuration 、pg_filespace_entry、gp_fault_strategy;
其它常用的系统表:pg_class,pg_attribute,pg_database,pg_tables……
可以用tab来匹配表名;
4.gpstate :显示Greenplum数据库运行状态,详细配置等信息
常用可选参数:-c:primary instance 和mirror instance 的对应关系
-m:只列出mirror 实例的状态和配置信息
-f:显示standby master 的详细信息
-s:查看详细状态,如在同步,可显示数据同步完成百分比
--version,查看数据库version
(也可使用pg_controldata查看数据库版本和postgresql版本)该命令默认列出数据库运行状态汇总信息,常用于日常巡检。
5.查看用户会话和提交的查询等信息
select * from pg_stat_activity该表能查看到当前数据库连接的IP 地址,用户
名,提交的查询等。另外也可以在master 主机上查看进程,对每个客户端连接,master 都会创建一个进程。ps -ef |grep -i postgres |grep -i con
pg_backend_pid();
pg_cancel_backend(integer)
6.查看数据库、表占用空间
select pg_size_pretty(pg_relation_size('schema.tablename'));(与pg_tables子查询查看所有表的占用空间)
select pg_size_pretty(pg_database_size('databasename));
必须在数据库所对应的存储系统里,至少保留30%的自由空间,日常巡检,要检查存储空间的剩余容量。
set gp_enable_multiphase_agg=on;
7.收集统计信息,回收空间
定期使用Vacuum analyze tablename 回收垃圾和收集统计信息,尤其在大数据量删除,导入以后,非常重要、需要定期对数据字典做vacuum和reindex ,如
pg_class,pg_attribute等系统表。
可以gp_toolkit.gp_bloat_diag看膨胀很大的表;
Alter table可以用来代替vacuum full 回收空间(除了系统表):
alter table test set with (reorganize=true);
8.查看数据分布情况
两种方式:
●Select gp_segment_id,count(*) from tablename group by 1 ;
●在命令运行:gpskew -t public.ate -a postgres
如数据分布不均匀,将发挥不了并行计算的优势,严重影响性能。
9.登录每一个实例数据库的方法
PGOPTIONS='-c gp_session_role=utility' psql dbname –p xxxx
可以通过这个命令登录实例,一般用于检测单个实例是否运行正常,还有就是用于在集群发生不一致时(只有在非常特殊的情况下才有可能发生,如表不一致等),进行表维护
10.实例恢复:gprecoverseg
通过gpstate 或gp_segement_configuration 发现有实例down 掉以后,使用该命令进行恢复。
gprecoverseg -F强制恢复
11.查看锁信息:
注:在Greenplum里(截至到4.0版本),INSERT 和COPY都是行级锁,
UPDATE/DELETE都是表级锁;
SELECT locktype, database, c.relname, l.relation,
l.transactionid, l.transaction, l.pid, l.mode, l.granted,
a.current_query
FROM pg_locks l, pg_class c, pg_stat_activity a
WHERE l.relation=c.oid AND l.pid=a.procpid ORDER BY c.relname;
主要字段说明:
relname: 表名
locktype、mode 标识了锁的类型
注:也可以通过pgadminIII的工具->服务器状态查看当前运行的SQL及锁等待情况。
发生Deadlock时,系统自动让其中一个SQL失败,并提示deadlock信息。12.explain:在提交大的查询之前,使用explain分析执行计划、发现
潜在优化机会,避免将系统资源熬尽。
explain analyze sql,将执行一次SQL,并行将过程中的具体cost和运行情况记录下来
也可以用pgadminIII进行explain的图形化显示,进而来优化执行路径,如表关联策略等。
注:可以在Master的postgresql.conf中修改
log_min_duration_statement=5000s,SQL运行耗时超过这个值得都在pg_log纪录SQL的实际耗时,用来监控耗时的SQL。
13.数据库并行备份
gp_dump:
常用参数:-s: 只导出对象定义(表结构,函数等)
-n: 只导出某个schema
gp_dump 默认在master 的data 目录上产生这些文件:
gp_catalog_1_
gp_cdatabase_1_
gp_dump_1_
gp_dump_status_1_
在每个segment instance 上的data目录上产生的文件:
gp_dump_0_
gp_dump_status_0_
gpcorndump:
可以用于备份数据库配置文件和全局数据(如角色、资源队列等)
Example:gpcrondump -x mydatabase –u /xxx/ -c -g –G –a –q >>$DATE.log
-g 备份postgresql.conf、pg_hba.conf、pg_ident.conf
-G 备份全局对象
-u 备份到的目录(如果没有-u,则数据备份到每个数据目录里面)
gpcrondump的文件可以用gp_restore恢复
gp_restore --gp-c --gp-d=/data/backup/db_dumps// --gp-k=328 -d gpadmin
也可以用gpdbresotre恢复:(需要数据在一个Host上)
gpdbrestoree -R master=/data/backup/db_dumps/
-T 可以只恢复其中的某表(比gp_dump多这个参数)
gpdbrestore -t 541 -T public.account
14.数据库恢复gp_restore
必选参数:--gp-k=key :key 为gp_dump 导出来的文件的后缀时间戳
-d dbname :将备份文件恢复到dbname
15.串行备份
pg_dump/pg_dumpall
一般用于环境迁移和DDL、FUNCTION等备份;
如:pg_dump -s -n public demodb –f demodb.sql ,将只备份demodb数据库中的public 下的所有DDL和FUNCTION,-s表示不备份数据;
恢复时,使用psql -d demodb –f demodb.sql
16.数据库僵尸进程处理
首先使用kill -15 去停止进程,kill -15 不响应,再用kill -11;一般情况下,不要用kill -9,否则可能导致数据库宕机且状态不一致,严重的导致数据库不能重新启动,可能需要用pg_resetxlog去重置日志,有可能导致数据丢失;
17.参数更改
通过gpconfig配置Master和所有Segment的postgresql.conf中参数。
EXAMPLES
gpconfig -c work_mem -v 120MB –masteronly
修改master上的work_mem =120MB
gpconfig -c max_connections -v 100 -m 10
修改Master上max_connections=10,Segment上修改成100
gpconfig -r default_statistics_target
注释参数,使用缺省参数
gpconfig –l
列出所有的参数
gpconfig -s max_connections
显示某个参数
18.Greenplum其它常用命令
gpssh -f all_hosts—通过SSH同时访问多个节点,并可同时执行shell
gpcheckperf --检查网络和硬盘性能
checkos -f all_hosts –检查OS内核和参数
如:
检查Disk性能:
gpcheckperf -d /data/gpdb_p1 -d /data/gpdb_p2 -d /data/gpdb_p3 -d /data/gpdb_p4 -d /data/gpdb_p5 -d /data/gpdb_p6 -d /data/gpdb_p7 -d /data/gpdb_p8 -S 64GB -r ds -D -v -f hosts-setup
检查网络性能:
gpcheckperf -d /data/gpdb_p1 -r N -f hosts-net0
gpcheckperf -d /data/gpdb_p1 -r N -f hosts-net1
gpcheckperf -d /data/gpdb_p1 -r N -f hosts-net2
gpcheckperf -d /data/gpdb_p1 -r N -f hosts-net3
19.Greenplum升级和扩容
1)Upgrade
--小版本升级:4.0.4 —> 4.0.5
替换/usr/local/greenplum-db即可
--大版本升级:3.3.7 —> 4.0.4
$gpmigrator
2)扩容
$gpexpand
CREATE EXTERNAL TABLE test_ext
(
id integer,
name varchar(10),
dt date
)
LOCATION ('gpfdist://master:8081/test.txt')
FORMAT 'text' (delimiter ',' null '\\N' escape '\\')
ENCODING 'gb18030'
LOG ERRORS INTO error_table SEGMENT REJECT LIMIT 3 ;
nohup gpfdist -d /tmp/ -p 8081 &