?介绍
本文介绍Pivotal Greenplum Database数据库（以下简称：Greenplum数据库，或GPDB）的最佳实践。
最佳实践是指能持续产生比其他方法更好结果的方法或者技术，它来自于实战经验，并被证实了遵循这些方法可以获得可靠的预期结果。本最佳实践旨在通过利用所有可能的知识和技术为正确使用GPDB提供有效参考。
本文不是在教您如何使用Greenplum数据库的功能，而是帮助您在设计、实现和使用Greenplum数据库时了解需要遵循哪些最佳实践。关于如何使用和实现具体的Greenplum 数据库特性，请参考gpdb.docs.pivotal.io 上的Greenplum数据库帮助文档以
及https://www.doczj.com/doc/1618538705.html, 上的Sandbox和实践指南。
本文目的不是要涵盖整个产品或者产品特性，而是概述GPDB实践中最重要的因素。本文不涉及依赖于GPDB具体特性的边缘用例，后者需要精通数据库特性和您的环境，包括SQL访问、查询执行、并发、负载和其他因素。
通过掌握这些最佳实践知识，会增加GPDB集群在维护、支持、性能和可扩展性等方面的成功率。
第一章最佳实践概述
本部分概述了Greenplum数据库最佳实践所涉及的概念与要点。
数据模型
GPDB 是一个基于大规模并行处理(MPP)和无共享架构的分析型数据库。这种数据库的数据模式与高度规化的事务性SMP数据库显著不同。通过使用非规化数据库模式，例如具有大事实表和小维度表的星型或者雪花模式，GPDB在处理MPP分析型业务时表现优异。
跨表关联(JOIN)时字段使用相同的数据类型。
详见数据库模式设计（后续章节)
堆存储和追加优化存储(Append-Optimized，下称AO)
若表和分区表需要进行迭代式的批处理或者频繁执行单个UPDATE、DELETE或INSERT操作，使用堆存储。
若表和分区表需要并发执行UPDATE、DELETE或INSERT操作，使用堆存储。
若表和分区表在数据初始加载后更新不频繁，且仅以批处理方式插入数据，则使用AO存储。
不要对AO表执行单个INSERT、UPDATE或DELETE操作。
不要对AO表执行并发批量UPDATE或DELETE操作，但可以并发执行批量INSERT操作。
详见堆存储和AO存储（后续章节)
行存储和列存储
若数据需要经常更新或者插入，则使用行存储。
若需要同时访问一个表的很多字段，则使用行存储。
对于通用或者混合型业务，建议使用行存储。
若查询访问的字段数目较少，或者仅在少量字段上进行聚合操作，则使用列存储。
若仅常常修改表的某一字段而不修改其他字段，则使用列存储。
详见行存储和列存储（后续章节)
压缩
对于大AO表和分区表使用压缩，以提高系统I/O。
在字段级别配置压缩。
考虑压缩比和压缩性能之间的平衡。
详见压缩（后续章节)
分布
为所有表定义分布策略：要么定义分布键，要么使用随机分布。不要使用缺省分布方式。
优先选择可均匀分布数据的单个字段做分布键。
不要选择经常用于 WHERE 子句的字段做分布键。
不要使用日期或时间字段做分布键。
分布键和分区键不要使用同一字段。
对经常执行JOIN操作的大表，优先考虑使用关联字段做分布键，尽量做到本地关联，以提高性能。
数据初始加载后或者每次增量加载后，检查数据分布是否均匀。
尽可能避免数据倾斜。
详见分布（后续章节)
存管理
设置vm.overcommit_memory 为 2
不要为操作系统的页设置过大的值
使用gp_vmem_protect_limit 设置单个节点数据库（Segment Database）可以为所有查询分配的最大存量。
不要设置过高的gp_vmem_protect_limit 值，也不要大于系统的物理存。
gp_vmem_protect_limit 的建议值计算公式为： (SWAP + (RAM *
vm.overcommit_ratio)) * 0.9 / number_Segments_per_server
使用statement_mem 控制节点数据库为单个查询分配的存量。
使用资源队列设置队列允许的当前最大查询数（ACTIVE_STATEMENTS）和允许使用的存大小（MEMORY_LIMIT）。
不要使用默认的资源队列，为所有用户都分配资源队列。
根据负载和时间段，设置和队列实际需求相匹配的优先级（PRIORITY）。
保证资源队列的存配额不超过gp_vmem_protect_limit。
动态更新资源队列配置以适应日常工作需要。
详见存和负载管理（后续章节)
分区
只为大表设置分区，不要为小表设置分区。
仅在根据查询条件可以实现分区裁剪时使用分区表。
建议优先使用围 (Range) 分区，否则使用列表 (List) 分区。
根据查询特点合理设置分区。
不要使用相同的字段即做分区键又做分布键。
不要使用默认分区。
避免使用多级分区；尽量创建少量的分区，每个分区的数据更多些。
通过查询计划的 EXPLAIN 结果来验证查询对分区表执行的是选择性扫描（分区裁剪）。
对于列存储的表，不要创建过多的分区，否则会造成物理文件过多： Physical files = Segments * Columns * Partitions。
详见分区（后续章节)
索引
一般来说GPDB中索引不是必需的。
对于高基数的列存储表，如果需要遍历且查询选择性较高，则创建单列索引。
频繁更新的列不要建立索引。
在加载大量数据之前删除索引，加载结束后再重新创建索引。
优先使用 B 树索引。
不要为需要频繁更新的字段创建位图索引。
不要为唯一性字段，基数非常高或者非常低的字段创建位图索引。
不要为事务性负载创建位图索引。
一般来说不要索引分区表。如果需要建立索引，则选择与分区键不同的字段。
详见索引（后续章节)
资源队列
使用资源队列管理集群的负载。
为所有角色定义适当的资源队列。
使用 ACTIVE_STATEMENTS 参数限制队列成员可以并发运行的查询总数。
使用 MEMORY_LIMIT 参数限制队列中查询可以使用的存总量。
不要设置所有队列为 MEDIUM，这样起不到管理负载的作用。
根据负载和时间段动态调整资源队列。
详见配置资源队列（后续章节)
监控和维护
根据《Greenplum数据库管理员指南》实现该书推荐的监控和管理任务。
安装Greenplum数据库前建议运行gpcheckperf，安装后定期运行。保存输出结果，随着时间推移对系统性能进行比较。
使用所有您可用的工具，以了解系统不同负载下的表现。
检查任何不寻常的事件并确定原因。
通过定期运行解释计划监控系统查询活动，以确保查询处于最佳运行状态。
检查查询计划，以确定是否按预期使用了索引和进行了分区裁剪。
了解系统日志文件的位置和容，定期监控日志文件，而不是在出现问题时才查看。
详见系统监控和维护以及监控GPDB日志文件。（后续章节)
ANALYZE
不要对整个数据库运行 ANALYZE，只对需要的表运行该命令。
建议数据加载后即刻运行 ANALYZE。
如果INSERT、UPDATE 和 DELETE 等操作修改大量数据，建议运行 ANALYZE。
执行 CREATE INDEX 操作后建议运行 ANALYZE。
如果对大表ANALYZE耗时很久，则只对JOIN字段、WHERE、SORT、GROUP BY 或 HAVING 字句的字段运行 ANALYZE。
详见使用ANALYZE更新统计信息。（后续章节)
Vaccum
批量 UPDATE 和 DELETE 操作后建议执行 VACUUM。
不建议使用 VACUUM FULL。建议使用 CTAS（CREATE TABLE...AS）操作，然后重命名表名，并删除原来的表。
对系统表定期运行 VACUUM，以避免系统表臃肿和在系统表上执行 VACUUM FULL 操作。
禁止杀死系统表的 VACUUM 任务。
不建议使用 VACUUM ANALYZE。
数据库的查询优化方法分析 i=r 随着计算机应用的深入 ,计算机技术的成熟 , 各种应用软件 的普及,应用数据也随着日常工作而迅速增长 , 作为数据仓库的 数据库的重要性也日益显著。 数据库系统作为管理信息系统的核心 , 各种基于数据库的联 机事务处理以及联机分析处理正慢慢的转变成为计算机应用的 最为重要的部分 ,根据以往大量的应用实例来看 , 在数据库的各 种操作中 ,查询操作所占的比重最大 , 而在查询操作中基于 SELECT 吾句在SQL 语句中又是代价最大的语句。如果在使用中 采用了优秀的查询策略 ,往往可以降低查询的时间 , 提高查询的 效率,由此可见查询优化在数据库中的重要性。本文就数据库查 询优化中的策略进行介绍及探索。 1 基于索引的优化 数据库的优化方法多种多样 , 不同的方法对提高数据库查询 效率也不相同。 索引作为数据库中的重要数据结构 , 它的根本目的就是为 了提高查询的效率。而优化查询的重要方法就是建立索引 因为查询而造成的输入输出开销 , 有效提高数据库数据的查 询速 度, 优化了数据库性能。然而在创建索引时也增加了系统时间和 空间的开销。所以创建索引时应该与实际查询需求相结合 , 这样 才能实现真正的优化查询。 1.1 判断并建立必要的索引 对所要创建的索引进行正确的 判断 ,使所创建的索引对数据库的工作效率提高有所帮助。为了 实现这一点 , 我们应做到以下要求 : 在熟记数据库程序中的相关 适合关系数据库系统的索引 , 这样就可以避免表扫描 , 并减少了 , 建立
SQL语句的前提下，统计出常用且对性能有影响的语句;判断数据库系统中哪些表的哪些字段要建立索引。其次 , 对数据库中操作频繁的表 , 数据流量较大的表 , 经常需要与其他表进行连接的表等，要进行重点关注。这些表上的索引将对 SQL语句的性能产生重要的影响。 1.2对索引使用的一些规则索引的使用在一些大型数据库系统中会经常使用到 , 这样可以有效的提高数据库性能 , 使数据库的访问速度得到提高。但索引的使用要恰倒好处 , 所以我们在使用索引时应遵守使用原则 : 建立索引可以提高数据库的查询速度, 但索引过多 ,不但不能实现优化查询 ,反而会影响到数据库的整体性能。索引作为数据库中实际存在的对象 , 每个索引都要占用一定的物理空间。所以对于索引的建立要考虑到物理空间容量以及所建立索引的必要性和实用性。 1.3合理的索引对SQL语句的意义索引建立之后，还要确保其得到了真正的使用 , 发挥了其应有的作用。首先 , 可以通过 SQL语句查询来确定所建立的索引是否得到了使用，找出没有使用到的索引。分析索引建立但没有使用的原因 , 使其真正发挥作
目录 .GreenPlum数据库概述........................................ .GreenPlum数据库架构原理.................................... 2.SUSELinuxEnterprise1164-bit操作系统安装过程..................... .初始化阶段 ................................................. .系统分区 ................................................... .软件选择和系统任务 ......................................... .语言选择 ................................................... .Kdump设置.................................................. .安装过程 ................................................... 3.配置网卡IP...................................................... 4.GreenPlum中Master配置过程...................................... .建立gpadmin用户 ........................................... .关闭防火墙 ................................................. .启动FTP.................................................... .使用FlashXP上传GreenPlum数据 ............................. .使用工具配置GreenPlum数据库 ............................... .GreenPlum数据库配置详情.................................... GrennPlum数据库的初始化............................... 修改GreenPlum数据库账户的权限........................ 附录A............................................................... 附录B...............................................................
龙源期刊网 https://www.doczj.com/doc/1618538705.html, 如何优化数据库，提高查询效率 作者：代鸿彬 来源：《学习与科普》2019年第10期 摘要：随着信息时代的到来，生活和工作当中已经无法避免的需要和计算机打交道，和 计算机打交道的同时就必须要用到数据库。数据库系统是计算机当中的一项重要系统，储存在用户的关键信息，不仅对个人影响很大，同时对企事业单位也有着重要影响。 关键词：信息时代；数据库；索引 数据库是信息的载体也是数据的最佳表现形式，它的共享性导致了数据会被大量的搜索查询，为了提高查询的效率，就不得不对数据库进行优化。 一、利用索引进行优化。 索引是数据库的重要组成部分，也是使用者根据需要进行查询最直接的方法，优化索引可以提高查询的效率。当前的数据库当中大部分还是使用国际商业机器公司以前的索引顺序存取方法，对于用户来说肯定会选择方便、快捷的索引方式，怎么方便怎么来。在建立索引的时候针对不同的内容，需要建立不同的连接方式，但是随着用户的增多，查询内容和方向的多元化，这就造成了在实际工作当中经常会有使用频率很少的索引出现，甚至也会出现没有查询所需的索引，这种情况可以通过查询优化器进行自动生成的索引进行查询。对于使用频率较为频繁的列，需要对其进行排序或者分组的列上建立索引时，要优化索引提高效率，对于使用频率很少的列可以不建立索引。 二、简化排序进行优化。 对于部分企事业单位需要排序的内容很多时，就要使用大型数据表来满足查询需求，但是大型数据表涉及的内容很多，为了避免出现重复排序的现象需要对数据表进行简化。在大型数据表当中有一部分的内容可以自动进行排序的次序输出，这时就可以直接利用查询优化器进行优化，将复杂的排序简单化，从而提高索引查询效率。需要排序的列对索引优化影响较大，就像语言当中的ORDER BY 或者GROUP BY句子当中的列次序和索引当中的列次序基本是不同的，但是排序的列可通过表的不同形式表现出来。通过简化排序避免了重复的排序，并且将数据库进行了合理的合并。如果不进行简化排序，就需要将排序的范围进行缩小简化，从而提高查询使用的效率。 三、大型表行数据库存取的合理消除。 数据库系统的存储量是有上限的，所有的索引内容都占有数据库空间，尤其是大型数据表占有的空间更大，将会造成索引时间变长。但是大型表行数据有些内容是不必要的，在进行索引查詢时，数据表当中的存取顺序对查询的效率有直接的影响。例如需要采用存取策略时，通
SQL Server 2008数据查询的优化方法研究摘要 随着数据存储需求的日益增长，对关系数据的管理和访问就成为数据库技术必须解决的问题。本文主要论述关系数据库查询优化技术，并从它的优化技术进行深入探讨，对系统实现做了一定的论述，并进行了部分的程序实现。 关键词：数据库查询系统优化 引言 SQLServer是是由微软公司开发的基于Windows操作系统的关系型数据库管理系统，它是一个全面的、集成的、端到端的数据解决方案，为企业中的用户提供了一个安全、可靠和高效的平台用于企业数据管理和商业智能应用。目前，许多中小型企业的数据库应用系统都是用SQLServer作为后台数据库管理系统设计开发的。设计一个应用系统并不难，但是要想使系统达到最优化的性能并不是一件容易的事。根据多年的实践，由于初期的数据库中表的记录数比较少，性能不会有太大问题，但数据积累到一定程度，达到数百万甚至上千万条，全面扫描一次往往需要数十分钟，甚至数小时。20％的代码用去了80％的时间，这是程序设计中的一个著名定律，在数据库应用程序中也同样如此。如果用比全表扫描更好的查询策略，往往可以使查询时间降为几分钟。而且我们知道，目前数据库系统应用中，查询操作占了绝大多数，查询优化成为数据库性能优化最为重要的手段之一。 影响查询效率的因素 SQLServer处理查询计划的过程是这样的：在做完查询语句的词法、语法检查之后，将语句提交给SQLServer的查询优化器，查询优化器通过检查索引的存在性、有效性和基于列的统计数据来决定如何处理扫描、检索和连接，并生成若干执行计划，然后通过分析执行开销来评估每个执行计划，从中选出开销最小的执行计划,由预编译模块对语句进行处理并生成查询规划，然后在合适的时间提交给系统处理执行，最后将执行结果返回给用户。所以，SQLServer中影响查询效率的因素主要有以下几种： 1．没有索引或者没有用到索引。索引是数据库中重要的数据结构，使用索引的目的是避免全表扫描，减少磁盘I/O，以加快查询速度。 2．没有创建计算列导致查询不优化。 3．查询出的数据量过大（可以采用多次查询，其他的方法降低数据量）。 4．返回了不必要的行和列。 5．查询语句不好，没有优化。其中包括：查询条件中操作符使用是否得当;查询条件中的数据类型是否兼容;对多个表查询时,数据表的次序是否合理;多个选择条件查询时,选择条件的次序是否合理;是否合理安排联接选择运算等。 SQLServer数据查询优化方法 1、避免使用不兼容的数据类型。例如float和int、char和varchar、binary和varbinary 是不兼容的。数据类型的不兼容可能使优化器无法执行一些本来可以进行的优化操作。例如: select name from employee where salary ＞60000
Greenplum 日常简明维护手册 1.数据库启动：gpstart 常用参数：-a : 直接启动，不提示终端用户输入确认 -m:只启动master 实例，主要在故障处理时使用访问单个数据实例： PGOPTIONS='-c gp_session_role=utility' psql template1 -p 5432 启动某个segment instance ：pg_ctl stop/start -D /datadir/ 取端口号： select * from gp_segment_configuration 启动以后会在/tmp/ 下生成一个.lock 隐藏文件，记录主进程号。
2.数据库停止：gpstop： 常用可选参数：-a：直接停止，不提示终端用户输入确认 -m：只停止master 实例，与gpstart –m 对应使用 -f：停止数据库，中断所有数据库连接，回滚正在运 行的事务 -u：不停止数据库，只加载pg_hba.conf 和postgresql.conf中 运行时参数，当改动参数配置时候使用。 连接数，重启 3.查看实例配置和状态 select * from gp_segment_configuration order by content ; select * from pg_ ; 主要字段说明： Content：该字段相等的两个实例，是一对Ｐ（primary instance）和Ｍ（mirror Instance) Isprimary：实例是否作为primary instance 运行 Valid：实例是否有效，如处于false 状态，则说明该实例已经down 掉。 Port：实例运行的端口 Datadir:实例对应的数据目录
SQL SERVER性能优化综述 近期因工作需要，希望比较全面的总结下SQL SERVER数据库性能优化相关的注意事项，在 网上搜索了一下,发现很多文章,有的都列出了上百条,但是仔细看发现，有很多似是而非或 者过时(可能对SQL SERVER6.5以前的版本或者ORACLE是适用的)的信息，只好自己根据以 前的经验和测试结果进行总结了。 我始终认为，一个系统的性能的提高，不单单是试运行或者维护阶段的性能调优的任务，也不单单是开发阶段的事情，而是在整个软件生命周期都需要注意，进行有效工作才能达到的。所以我希望按照软件生命周期的不同阶段来总结数据库性能优化相关的注意事项。 一、分析阶段 一般来说，在系统分析阶段往往有太多需要关注的地方，系统各种功能性、可用性、可靠性、安全性需求往往吸引了我们大部分的注意力，但是，我们必须注意，性能是很重要的非功能 性需求，必须根据系统的特点确定其实时性需求、响应时间的需求、硬件的配置等。最好能 有各种需求的量化的指标。 另一方面，在分析阶段应该根据各种需求区分出系统的类型，大的方面，区分是OLTP（联机事务处理系统）和OLAP（联机分析处理系统）。 二、设计阶段 设计阶段可以说是以后系统性能的关键阶段，在这个阶段，有一个关系到以后几乎所有性能 调优的过程—数据库设计。 在数据库设计完成后，可以进行初步的索引设计，好的索引设计可以指导编码阶段写出高效 率的代码，为整个系统的性能打下良好的基础。 以下是性能要求设计阶段需要注意的： 1、数据库逻辑设计的规范化 数据库逻辑设计的规范化就是我们一般所说的范式，我们可以这样来简单理解范式： 第1规范：没有重复的组或多值的列，这是数据库设计的最低要求。 第2规范: 每个非关键字段必须依赖于主关键字，不能依赖于一个组合式主关键字的某些组 成部分。消除部分依赖，大部分情况下，数据库设计都应该达到第二范式。 第3规范: 一个非关键字段不能依赖于另一个非关键字段。消除传递依赖，达到第三范式应该是系统中大部分表的要求，除非一些特殊作用的表。 更高的范式要求这里就不再作介绍了，个人认为，如果全部达到第二范式，大部分达到第三
高并发分布式服务架构方案 下图是一个非常全面的架构蓝图，针对不同的应用系统需要的模块各有不同。此架构方案主要包括以下几个方面的设计：数据存储和读取，基础服务，应用层（APP/业务/Proxy），日志监控等，下面对这些主要的问题提供具体的各项针对性技术方案。 数据的存储和读取 分布式系统应该根据应用对数据不同的一致性、可用性等要求和数据的不同特性，采用不同的数据存储和读取方案，主要有以下几种可选方案： 1)内存型数据库。内存型的数据库，以高并发高性能为目标，在事务性方面没那么严格， 适合进行海量数据的存储和读取。例如开源nosql数据库mongodb、redis等。 2)关系型数据库。关系型数据库在满足并发性能的同时，也需要满足事务性，可通过 读写分离，分库分表来应对高并发大数据量的情况。例如Oracle，Mysql等。 3)分布式数据库。对于数据的高并发的访问，传统的关系型数据库提供读写分离的方案， 但是带来的确实数据的一致性问题提供的数据切分的方案；对于越来越多的海量数据，传统的数据库采用的是分库分表，实现起来比较复杂，后期要不断的进行迁移维护；对
于高可用和伸缩方面，传统数据采用的是主备、主从、多主的方案，但是本身扩展性比较差，增加节点和宕机需要进行数据的迁移。对于以上提出的这些问题，分布式数据库HBase有一套完善的解决方案，适用于高并发海量数据存取的要求。 基础服务 基础服务主要是指数据层之上的数据路由，Cache，搜索等服务。 1)路由Router。对于数据库切分方案中的分库分表问题，需要解决在请求对应的数据时 定位需要访问的位置，可根据一致性Hash，维护路由表至内存数据库等方案解决。 2)Cache。对于高并发的系统来讲，使用Cache可以减轻对后端系统的压力，所有Cache 可承担大部分热数据的读操作。当前用的比较多的是redis和memcache，redis比memcache有丰富的数据操作的API，redis对数据进行了持久化，而memcache没有这个功能，因此memcache更加适合在关系型数据库之上的数据的缓存。 3)搜索。搜索可以支持应用系统的按照关键词的检索，搜索提示，搜索排序等功能。开源 开源的企业级搜索引擎主要有lucene, sphinx，选择搜索引擎主要考虑以下三个方面： a)搜索引擎是否支持分布式的索引和搜索，来应对海量的数据，支持读写分离，提高 可用性 b)索引的实时性 c)搜索引擎的性能 Solr是基于Lucene开发的高性能的全文搜索服务器，满足以上三个方面的考虑，而且目前在企业中应用非常广泛。 应用层 应用层主要包括面向用户的应用，网站、APP等，还包括相关的业务处理的运算等。 1)负载均衡-反向代理。一个大型的平台包括很多个业务域，不同的业务域有不同的集群， 可以用DNS做域名解析的分发或轮询，DNS方式实现简单。但是因存在cache而缺乏灵活性；一般基于商用的硬件F5、NetScaler或者开源的软负载lvs在做分发，当然会采用做冗余(比如lvs+keepalived)的考虑，采取主备方式。Nginx是基于事件驱动的、异步非阻塞的架构、支持多进程的高并发的负载均衡器/反向代理软件，可用作反向代理的工具。
分布式数据库查询优化技术 摘要在分布式数据库中，由于高可靠性和高速度性是其重要特点，所以对查询执行的要求也就更高。而查询执行中查询优化是执行的关键环节，查询优化在很大程度上决定查询的效率或快慢。本文讨论的重点是对分布式查询执行的全局处理策略进行优化，尽可能避免通信代价的开销，并着眼于查询执行的实际代价，从分布式系统中选出一个最优的执行节点。从查询执行的效果出发，通过统计的方式，不断从最近的查询执行代价学习纠正最近查询执行的统计代价，为查询的全局处理提供参考，以达到优化执行、提高执行效率和速度的目的。 1 分布式数据库概述 1.1 分布式数据库的定义 所谓分布式数据库系统就是由分布于多个计算机结点上的若干个数据库组成, 每个子数据库系统都是一个独立的数据库系统，它们都拥有各自的数据库、中央处理机、终端，以及各自的局部数据库管理系统，分布式数据库在使用上可视为一个完整的数据库,而实际上它是分布在地理分散的各个结点上。当然,分布在各个结点上的子数据库在逻辑上是相关的。简单的说，分布式数据库系统是一系列集中式数据库系统的联合。它们在逻辑上属于同一系统，但在物理结构上是分布式的[1]。 1.2 分布式数据库系统的组成 如图1-1所示，分布式数据库系统由以下述成分组成: (1)多台计算机设备，并由计算机网络连接。 (2)计算机网络设备，网络通讯的一组软件。 (3)分布式数据库管理系统，它包括GDBMS、LDBMS、CM,除了具有全局用户接口由GDBMS连接外，还可以具有自治场地用户接口，由场地DBMS，并持有独立的场地目录。 (4)分布式数据库管理者（DDB），包括全局数据库(GDB)和局部数据库(LDB)以及自制场地的自治场地数据库。 (5)分布式数据库管理者(DDBA)，它可分为二级，一级为全局数据库管理者(GDBA),另一级问局部或自治场地数据库管理者，统称为局部数据库管理者(LDBA)。 (6)分布式数据库系统软件文档，这是一组与软件相匹配的软件文档及系统各种使用说明和文件。 图1-1 分布式数据库系统的结构 1.3 分布式数据库系统的功能 通常的集中式数据库管理系统应具备以下几个基本的功能[2]: (1)数据库定义功能; (2)数据存取功能; (3)数据库运行管理; (4)数据库的建立和维护功能。 分布式数据库除了须具备以上集中式数据库的功能外，一般还须具有以下几个方面的功能: (1)分布在网络中的各节点的数据库，其物理位置对用户透明; 在用户眼里见到的只是整个系统中有哪些数据库，无论是本地还是远程数据库，用户操纵某一数据库就像操纵本地数据库一样。 (2)处于网络中的各数据库共享的数据应保证一致性:
G r e e n P l u m数据库详 细安装过程 文件排版存档编号：[UYTR-OUPT28-KBNTL98-UYNN208]
目录
1.概述 1.1.GreenPlum数据库概述 1.2.GreenPlum数据库架构原理 本系统中GreenPlum由一个主节点（master）和四个从节点(segment)构成，主节点和从节点由一台千兆交换机进行连接。客户端（Client） 发送的命令通过主节点的主控作用，然后分发到从节点；从节点将用户 需要的结果汇总到主节点，由主节点进行整合然后再将结果返回给客户端。 主节点与从节点的链接规则是保证每台服务器中网口的IP地址不是 互联互通的，但是与其他的服务器之间可以通信。换句换说保障同一台 服务器中的IP地址不是处于同一网段，但是不同服务器中的相同网口属于同一网段。在此需要特别提醒用户Master中一共拥有五块网卡，第五块网卡是与client进行连接的网口。负责外部用户的访问和数据传输。 网线连接顺序 GP数据库网线的接线示意图 2.SUSELinuxEnterprise1164-bit操作系统安装过程 安装GreenPlum数据库的服务器，在安装SUSELinuxEnterprise11操作系统之前首先需要进行磁盘阵列的设置。本系统的GP数据库中磁盘阵列选择Raid5的方式（未完待续…）。在主节点服务器的安装过程中尤
其需要注意：主节点比从节点多一块网卡，在服务器的外面可以很容易的看到主节点的网口为5个，其余从节点的网口为4个。 2.1.初始化阶段 服务器的磁盘阵列做完之后，进入服务器的BIOS将服务器的硬盘分Raid5，Raid5做好后设置BIOS的启动项为光驱启动。然后将SUSE系统安装光盘放入服务器的光驱进入系统安装界面，选择第二项“Installation”，然后按回车键。 接收许可协议如下图中的红色框内，点击下一步 校验光盘系统完整性，完成后，点击下一步 选择安装模式“NewInstallation”，点击下一步 选择时区与时钟，Region选择“亚洲”（Asia），Time_Zone选择“北京”（Beijing）。注意：此处需要将左下角的“HardWareclockSettoUTC”去掉勾选。然后点击下一步 2.2.系统分区 本系统需要分成4个分区，其中数据分区（/data）要求容量最大，其余的分区在满足系统正常运行的前提下保证使用的容量最小。本系统中每个节点的硬盘为八块1T，做完磁盘阵列后，系统硬盘的总容量大约为7T。系统分区建议表 系统分区建议
1性能优化基本步骤 1.1定位跟踪耗费资源较多的SQL语句步骤 1.1.1 通过SQL查询 (1): 查询出最耗费资源的SQL语句 select t1.SID, t1.SERIAL#, tt.HASH_VALUE, tt.ADDRESS, tt.BUFFER_GETS, --读内存次数 tt.DISK_READS, --磁盘物理读次数 tt.EXECUTIONS, --语句的执行次数 tt.BUFFER_GETS / tt.EXECUTIONS, --平均读内存次数 tt.SQL_FULLTEXT from v$sqlareatt, v$session t1 where (tt.BUFFER_GETS>100000 or tt.DISK_READS>100000) and tt.HASH_VALUE = t1.SQL_HASH_VALUE and tt.ADDRESS = t1.SQL_ADDRESS and t1.STATUS = 'ACTIVE' orderby tt.BUFFER_GETS desc (2)：根据客户端程序发出的SQL来定位需要跟踪的session select s.sid sid, s.SERIAL# "serial#", https://www.doczj.com/doc/1618538705.html,ername, s.machine, s.program, s.server, s.LOGON_TIME from v$session s 1.1.2 通过Oracle提供的SQL TRACE进行SQL跟踪 (1)：跟踪前设定相应参数 1．查询得到需要跟踪的session 2．打开时间开关
Show parameter timed_statistics alter session set timed_statistics=true; execsys.dbms_system.set_bool_param_in_session(sid => 8,serial# => 3,parnam => 'timed_statistics',bval => true); 3．设置跟踪文件存放位置 Show parameter user_dump_dest alter system set user_dump_dest='c:\temp'; (2)：启动跟踪功能并让系统运行一段时间 alter session set sql_trace=true; execsys.dbms_system.set_sql_trace_in_session(8, 3, true); (3)：关闭跟踪功能 alter session set sql_trace=false; execsys.dbms_system.set_sql_trace_in_session(8, 3, false); (4)：格式化跟踪数据文件，并分析跟踪结果文件 tkprof dsdb2_ora_18468.trc dsdb2_trace.txt EXPLAIN=SCOTT/TIGER tkprof各参数含义： ' traced_file ' 指定输入文件，即oracle产生的trace文件 'formatted_file'指定输出文件，即我们想得到的易于理解的格式化文件 'EXPLAIN' 利用哪个用户对trace文件中的sql进行分析得到该sql语句的执行计划1.2查看分析执行计划 1.2.1查看执行计划 (1)：Sqlplus中可按F5查看执行计划 (2)：使用执行计划表进行查看 使用语句将SQL语句的执行计划装入plan_table表，然后进行分析查看explainplansetstatement_id = 'dd'into plan_table for select t.type_name,t.source_value,t.standard_value from ODS_STD_COMP t,ODS_STD_COMP_BAK t1 where t.system_id = t1.system_id and t.type = t1.type and t.source_value = t1.source_value (3)：示例演示 1．让ORALCE自动选择最优的执行计划，不人为干预 explainplansetstatement_id = 'dd'into plan_table for select t.type_name,t.source_value,t.standard_value from ODS_STD_COMP t,ODS_STD_COMP_BAK t1 where t.system_id = t1.system_id and t.type = t1.type and t.source_value = t1.source_value
?介绍 本文介绍Pivotal Greenplum Database数据库（以下简称：Greenplum数据库，或GPDB）的最佳实践。 最佳实践是指能持续产生比其他方法更好结果的方法或者技术，它来自于实战经验，并被证实了遵循这些方法可以获得可靠的预期结果。本最佳实践旨在通过利用所有可能的知识和技术为正确使用GPDB提供有效参考。 本文不是在教您如何使用Greenplum数据库的功能，而是帮助您在设计、实现和使用Greenplum数据库时了解需要遵循哪些最佳实践。关于如何使用和实现具体的Greenplum 数据库特性，请参考gpdb.docs.pivotal.io 上的Greenplum数据库帮助文档以 及https://www.doczj.com/doc/1618538705.html, 上的Sandbox和实践指南。 本文目的不是要涵盖整个产品或者产品特性，而是概述GPDB实践中最重要的因素。本文不涉及依赖于GPDB具体特性的边缘用例，后者需要精通数据库特性和您的环境，包括SQL访问、查询执行、并发、负载和其他因素。 通过掌握这些最佳实践知识，会增加GPDB集群在维护、支持、性能和可扩展性等方面的成功率。 第一章最佳实践概述 本部分概述了Greenplum数据库最佳实践所涉及的概念与要点。 数据模型 GPDB 是一个基于大规模并行处理(MPP)和无共享架构的分析型数据库。这种数据库的数据模式与高度规化的事务性SMP数据库显著不同。通过使用非规化数据库模式，例如具有大事实表和小维度表的星型或者雪花模式，GPDB在处理MPP分析型业务时表现优异。 跨表关联(JOIN)时字段使用相同的数据类型。 详见数据库模式设计（后续章节)
江西移动Greenplum 数据库安装
修改记录
目录 1物理环境部署................................................................................... 错误!未定义书签。 Greenplum物理架构设计.................................................... 错误!未定义书签。 磁盘硬件RAID设计........................................................... 错误!未定义书签。 网络IP规划 ......................................................................... 错误!未定义书签。2软件环境安装配置........................................................................... 错误!未定义书签。 操作系统安装配置............................................................... 错误!未定义书签。 操作系统参数设置............................................................... 错误!未定义书签。 操作系统安全配置............................................................... 错误!未定义书签。 操作系统用户组和用户....................................................... 错误!未定义书签。 网络配置............................................................................... 错误!未定义书签。 集群NTP服务时钟同步配置............................................... 错误!未定义书签。3数据库系统安装配置....................................................................... 错误!未定义书签。 Greenplum软件安装............................................................ 错误!未定义书签。 数据库初始化....................................................................... 错误!未定义书签。4数据库参数....................................................................................... 错误!未定义书签。 数据库参数设置................................................................... 错误!未定义书签。 调整连接控制参数............................................................... 错误!未定义书签。5Command center安装 ...................................................................... 错误!未定义书签。
关于数据库优化方面的文章很多，但是有的写的似是而非，有的不切实际，对一个数据库来说，只能做到更优，不可能最优，并且由于实际需求不同，优化方案还是有所差异，根据实际需要关心的方面（速度、存储空间、可维护性、可拓展性）来优化数据库，而这些方面往往又是相互矛盾的，下面结合网上的一些看法和自己的一些观点做个总结。 一个系统的性能的提高，不单单是试运行或者维护阶段的性能调优，也不单单是开发阶段的事情，而是在整个软件生命周期都需要注意。所以我希望按照软件生命周期的不同阶段来总结数据库性能优化相关的注意事项。 一、分析阶段 一般来说，在系统分析阶段往往有太多需要关注的地方，系统各种功能性、可用性、可靠性、安全性需求往往吸引了我们大部分的注意力，但是，我们必须注意，性能是很重要的非功能性需求，必须根据系统的特点确定其实时性需求、响应时间的需求、硬件的配置等。最好能有各种需求的量化的指标。 另一方面，在分析阶段应该根据各种需求区分出系统的类型，大的方面，区分是OLTP(联机事务处理系统)和OLAP(联机分析处理系统)。 二、设计阶段 设计阶段可以说是以后系统性能的关键阶段，在这个阶段，有一个关系到以后几乎所有性能调优的过程—数据库设计。 在数据库设计完成后，可以进行初步的索引设计，好的索引设计可以指导编码阶段写出高效率的代码，为整个系统的性能打下良好的基础。 以下是性能要求设计阶段需要注意的： 1、数据库逻辑设计的规范化 数据库逻辑设计的规范化就是我们一般所说的范式，我们可以这样来简单理解范式：第1规范：没有重复的组或多值的列，这是数据库设计的最低要求。 第2规范: 每个非关键字段必须依赖于主关键字，不能依赖于一个组合式主关键字的某些组成部分。消除部分依赖，大部分情况下，数据库设计都应该达到第二范式。 第3规范: 一个非关键字段不能依赖于另一个非关键字段。消除传递依赖，达到第三范式应该是系统中大部分表的要求，除非一些特殊作用的表。 更高的范式要求这里就不再作介绍了，个人认为，如果全部达到第二范式，大部分达到第三范式，系统会产生较少的列和较多的表，因而减少了数据冗余，也利于性能的提高。 2、合理的冗余 完全按照规范化设计的系统几乎是不可能的，除非系统特别的小，在规范化设计后，有计划地加入冗余是必要的。 冗余可以是冗余数据库、冗余表或者冗余字段，不同粒度的冗余可以起到不同的作用。 冗余可以是为了编程方便而增加，也可以是为了性能的提高而增加。从性能角度来说，冗余数据库可以分散数据库压力，冗余表可以分散数据量大的表的并发压力，也可以加快特殊查询的速度，冗余字段可以有效减少数据库表的连接，提高效率。 3、主键的设计 主键是必要的，SQL SERVER的主键同时是一个唯一索引，而且在实际应用中，我们往往选择最小的键组合作为主键，所以主键往往适合作为表的聚集索引。聚集索引对查询的影响是比较大的，这个在下面索引的叙述。 在有多个键的表，主键的选择也比较重要，一般选择总的长度小的键，小的键的比较速度快，同时小的键可以使主键的B树结构的层次更少。 主键的选择还要注意组合主键的字段次序，对于组合主键来说，不同的字段次序的主键的性能差别可能会很大，一般应该选择重复率低、单独或者组合查询可能性大的字段放在前
MySQL数据库查询优化技术 MySQL是高效能高稳定的开源数据库产品，由于其超低成本和操作简易便利，在互联网等行业被广泛使用，几乎99%以上的网站都乐于采用mysql作为后台数据库，自从被Oracle收购后，Mysql更是从站长们的宠儿一举成为企业级应用的红人。在当今灸手可热的BAT，Mysql被大量使用。对于想进入互联网行业发展的数据库工程师和DBA们，熟练的Mysql技术无疑是一块很好的敲门砖。炼数成金在过去已经成功举办多种数据库课程，覆盖Oracle，DB2和多种NoSQL数据库，现在再推出MySQL系列，更加丰富了课程线路，也希望可以为大家带来更多学习知识提升价值的机会。 公益性培训课程: 《MySQL数据库查询优化技术》课程概述： 该课程通过15次课程，系统地讲解MySQL数据库的查询优化技术 课程语言：SQL 课程大纲： 第1课数据库与关系代数 综述数据库、关系代数、查询优化技术 综述数据库调优技术 预计时间1小时 第2课数据库查询优化技术总揽 综述查询优化技术范围，包括查询重用、查询重写规则、查询算法优化、并行查询优化等 综述逻辑查询优化，包括子查询的优化、视图重写、等价谓词重写、条件化简、连接消除、非SPJ的优化等 综述逻辑物理优化，包括单表扫描算法、两表连接算法、多表连接算法、基于代价的算法等 初步理解MySQL的查询执行计划。 预计时间1小时
第3课查询优化技术理论与MySQL实践（一）------子查询的优化（一） 第4课查询优化技术理论与MySQL实践（二）------子查询的优化（二） 从理论看，子查询包括的内容和范围，建立清晰的概念 从实践看，MySQL的子查询优化技术的内容和范围，明确掌握子查询优化手段预计时间2小时，每小时一个课程段（子查询是SQL查询优化的重点内容，务必掌握好） 第5课查询优化技术理论与MySQL实践（三）------视图重写与等价谓词重写什么是视图重写？哪些类型的视图可以被优化？MySQL是怎么优化视图的？从而明白在MySQL中怎么写与视图相关的查询语句才能有好的效果？ 什么是等价谓词重写？MySQL中怎么写WHERE子句有利于提高查询效率？ 预计时间1小时 第6课查询优化技术理论与MySQL实践（四）------条件化简 什么是条件化简？MySQL中对什么样的条件自动进行优化？如何写出可利用索引的条件语句？ 预计时间1小时 第7课查询优化技术理论与MySQL实践（五）------外连接消除、嵌套连接消除与连接消除 连接方式有些什么类型？不同类型的连接又是怎么优化的？外连接优化的条件是什么？MySQL中怎么写出可优化的连接语句？MySQL是否支持嵌套连接消除？MySQL是否支持连接消除？MySQL中书写SQL连接查询语句时的优化技巧。 预计时间1小时 第8课查询优化技术理论与MySQL实践（六）------数据库的约束规则与语义优化 数据库的参照完整性（CHECK t NULL等）。什么是语义优化？MySQL是否支持语义优化？怎么利用语义优化的思路人工进行SQL语句的优化？ 预计时间1小时 第9课查询优化技术理论与MySQL实践（七）------非SPJ的优化
ＳＱＬＳｅｒｖｅｒ数据查询的优化方法聂文燕 摘要：SQLServer是一种功能强大的数据库管理系统，许多数据库应用系统都是以它作为后台数据库。本文在分析影响SQLSERVER数据查询效率的因素的基础上，提出了几种优化数据查询的方法。 关键词：SQLServer，数据，查询，优化 一、引言 SQLServer是是由微软公司开发的基于Windows操作系统的关系型数据库管理系统，它是一个全面的、集成的、端到端的数据解决方案，为企业中的用户提供了一个安全、可靠和高效的平台用于企业数据管理和商业智能应用。目前，许多中小型企业的数据库应用系统都是用SQLServer作为后台数据库管理系统设计开发的。设计一个应用系统并不难，但是要想使系统达到最优化的性能并不是一件容易的事。根据多年的实践，由于初期的数据库中表的记录数比较少，性能不会有太大问题，但数据积累到一定程度，达到数百万甚至上千万条，全面扫描一次往往需要数十分钟，甚至数小时。20％的代码用去了80％的时间，这是程序设计中的一个著名定律，在数据库应用程序中也同样如此。如果用比全表扫描更好的查询策略，往往可以使查询时间降为几分钟。而且我们知道，目前数据库系统应用中，查询操作占了绝大多数，查询优化成为数据库性能优化最为重要的手段之一。 二、影响查询效率的因素 SQLServer处理查询计划的过程是这样的：在做完查询语句的词法、语法检查之后，将语句提交给SQLServer的查询优化器，查询优化器通过检查索引的存在性、有效性和基于列的统计数据来决定如何处理扫描、检索和连接，并生成若干执行计划，然后通过分析执行开销来评估每个执行计划，从中选出开销最小的执行计划,由预编译模块对语句进行处理并生成查询规划，然后在合适的时间提交给系统处理执行，最后将执行结果返回给用户。所以，SQLServer中影响查询效率的因素主要有以下几种：1．没有索引或者没有用到索引。索引是数据库中重要的数据结构，使用索引的目的是避免全表扫描，减少磁盘I/O，以加快查询速度。 2．没有创建计算列导致查询不优化。 3．查询出的数据量过大（可以采用多次查询，其他的方法降低数据量）。 4．返回了不必要的行和列。 5．查询语句不好，没有优化。其中包括：查询条件中操作符使用是否得当;查询条件中的数据类型是否兼容;对多个表查询时,数据表的次序是否合理;多个选择条件查询时,选择条件的次序是否合理;是否合理安排联接选择运算等。 三、SQLServer数据查询优化方法 3.1建立合适的索引索引是数据库中重要的数据结构，它的根本目的就是为了提高查询效率。当根据索引码的值搜索数据时，索引提供了对数据的快速访问。事实上，没有索引,数据库也能根据SELECT语句成功地检索到结果，但随着表变得越来越大，使用“适当”的索引的效果就越来越明显。索引的使用要恰到好处，其使用原则有： (1)对于基本表，不宜建立过多的索引； (2)对于那些查询频度高，实时性要求高的数据一定要建立索引，而对于其他的数据不考虑建立索引； (3)在经常进行连接，但是没有指定为外键的列上建立索引； (4)在频繁进行排序或分组（即进行groupby或orderby操作）的列上建立索引；