Google bigtable
- 格式:ppt
- 大小:163.00 KB
- 文档页数:15
BigTable数据库概况摘要Bigtable是一个分布式的结构化数据存储系统,它被设计用来处理海量数据,通常是分布在数千台普通服务器上的PB级的数据。
Google的很多项目使用Bigt able存储数据,包括Web索引、Google Earth、GoogleFinance。
这些应用对Bigtable提出的要求差异非常大,无论是在数据量上(从URL 到网页到卫星图像)还是在响应速度上(从后端的批量处理到实时数据服务)。
尽管应用需求差异很大,但是,针对Google的这些产品,Bigtable还是成功的提供了一个灵活的、高性能的解决方案。
本论文描述了Bigtable的特点、发展史、目前应用现状、数据库存储技术、存储架构及查询、更新技术。
1 介绍BigTable是非关系的数据库,是一个稀疏的、分布式的、持久化存储的多维度排序Map。
Bigtable的设计目的是可靠的处理PB级别的数据,并且能够部署到上千台机器上。
Bigtable已经实现了下面的几个目标:适用性广泛、可扩展、高性能和高可用性,且已经在超过60个Google的产品和项目上得到了应用,包括Goog le Analytics、Google Finance、Orkut、Personalized Search、Writely和Google Earth。
这些产品对Bigtable提出了迥异的需求,有的需要高吞吐量的批处理,有的则需要及时响应,快速返回数据给最终用户。
它们使用的Bigtable集群的配置也有很大的差异,有的集群只有几台服务器,而有的则需要上千台服务器、存储几百TB的数据。
在很多方面,Bigtable和数据库很类似。
它使用了很多数据库的实现策略。
并行数据库和内存数据库已经具备可扩展性和高性能,但是Bigtable提供了一个和这些系统完全不同的接口。
Bigtable不支持完整的关系数据模型。
与之相反,Bigtable为客户提供了简单的数据模型,利用这个模型,客户可以动态控制数据的分布和格式,用户也可以自己推测底层存储数据的位置相关性。
谷歌BigTable数据库Bigtable包括了三个主要的组件:链接到客户程序中的库、一个Master服务器和多个Tablet服务器。
针对系统工作负载的变化情况,BigTable可以动态的向集群中添加(或者删除)Tablet服务器。
Master服务器主要负责以下工作:为Tablet服务器分配Tablets、检测新加入的或者过期失效的Table服务器、对Tablet服务器进行负载均衡、以及对保存在GFS上的文件进行垃圾收集。
除此之外,它还处理对模式的相关修改操作,例如建立表和列族。
每个Tablet服务器都管理一个Tablet的集合(通常每个服务器有大约数十个至上千个Tablet)。
每个Tablet服务器负责处理它所加载的Tablet的读写操作,以及在Tablets过大时,对其进行分割。
和很多Single-Master类型的分布式存储系统【17.21】类似,客户端读取的数据都不经过Master服务器:客户程序直接和Tablet服务器通信进行读写操作。
由于BigTable的客户程序不必通过Master服务器来获取Tablet的位臵信息,因此,大多数客户程序甚至完全不需要和Master服务器通信。
在实际应用中,Master服务器的负载是很轻的。
一个BigTable集群存储了很多表,每个表包含了一个Tablet的集合,而每个Tablet包含了某个范围内的行的所有相关数据。
初始状态下,一个表只有一个Tablet。
随着表中数据的增长,它被自动分割成多个Tablet,缺省情况下,每个Tablet的尺寸大约是100MB到200MB。
我们使用一个三层的、类似B+树[10]的结构存储Tablet的位臵信息(如图4)。
第一层是一个存储在Chubby中的文件,它包含了Root Tablet的位臵信息。
Root Tablet包含了一个特殊的METADATA表里所有的Tablet 的位臵信息。
METADATA表的每个Tablet包含了一个用户Tablet的集合。
1、Google 云计算文件系统GFS/GFSIIGFSII cell 是Google 文件系统中最基础的模块。
任何文件和数据都可以利用这种底层模块。
GFSII 通过基于Linux 分布存储的方式,对于服务器来说,分成了主服务器(Master Servers)和块存储服务器(Chunk Servers),GFS上的块存储服务器上的存储空间以64MB为单位,分成很多的存储块,由主服务器来进行存储内容的调度和分配。
每一份数据都是一式三份的方式,将同样的数据分布存储在不同的服务器集群中,以保证数据的安全性和吞吐的效率提高。
当需要对于文件、数据进行存储的时候,应用程序之间将需求发给主服务器,主服务器根据所管理的块存储服务器的情况,将需要存储的内容进行分配,并将可以存储的消息(使用那些块存储服务器,那些地址空间),有应用程序下面的GFS 接口在对文件和数据直接存储到相应的块存储服务器当中。
块存储服务器要定时通过心跳信号的方式告知主服务器,目前自己的状况,一旦心跳信号出了问题,主服务器会自动将有问题的块存储服务器的相关内容进行复制。
以保证数据的安全性。
2、Google 并行计算构架–Mapreduce有了强大的分布式文件系统,Google 遇到的问题就是怎么才能让公司所有的程序员都学会些分布式计算的程序呢?于是,那些Google 工程师们从lisp和其他函数式编程语言中的映射和化简操作中得到灵感,搞出了Map/Reduce 这一套并行计算的框架。
Map/Reduce 被Google 拿来重新了Google Search Engine的整个索引系统。
而Doug Cutting同样用Java 将这一套实现和HDFS合在一起成为Hadoop的Core。
MapReduce是Google 提出的一个软件架构,用于大规模数据集(大于1TB)的并行运算。
概念“Map(映射)”和“Reduce(化简)”,和他们的主要思想,都是从函数式编程语言借来的,还有从矢量编程语言借来的特性。
Google的十个核心技术曾任职于IBM中国研究院,从事与云计算相关研究的CSDN博客专家吴朱华曾写过一篇文章《探索Google App Engine背后的奥秘(1)--Google的核心技术》,对Google 的核心技术和其整体架构进行详细的分析,现转载于此,供大家学习。
本篇将主要介绍Google的十个核心技术,而且可以分为四大类:1.分布式基础设施:GFS,Chubby和Protocol Buffer。
2.分布式大规模数据处理:MapReduce和Sawzall。
3.分布式数据库技术:BigTable和数据库Sharding。
4.数据中心优化技术:数据中心高温化,12V电池和服务器整合。
分布式基础设施GFS由于搜索引擎需要处理海量的数据,所以Google的两位创始人Larry Page和Sergey Brin在创业初期设计一套名为“BigFiles”的文件系统,而GFS(全称为“Google File System”)这套分布式文件系统则是“BigFiles”的延续。
首先,介绍它的架构,GFS主要分为两类节点:1.Master节点:主要存储与数据文件相关的元数据,而不是Chunk(数据块)。
元数据包括一个能将64位标签映射到数据块的位置及其组成文件的表格,数据块副本位置和哪个进程正在读写特定的数据块等。
还有Master节点会周期性地接收从每个Chunk节点来的更新(”Heart- beat”)来让元数据保持最新状态。
2.Chunk节点:顾名思义,肯定用来存储Chunk,数据文件通过被分割为每个默认大小为64MB的Chunk的方式存储,而且每个Chunk有唯一一个64位标签,并且每个Chunk都会在整个分布式系统被复制多次,默认为3次。
下图就是GFS的架构图:图1. GFS的架构图接着,在设计上,GFS主要有八个特点:1.大文件和大数据块:数据文件的大小普遍在GB级别,而且其每个数据块默认大小为64MB,这样做的好处是减少了元数据的大小,能使Master节点能够非常方便地将元数据放置在内存中以提升访问效率。
Google_云计算三大论文中文版Google公司是全球最大的搜索引擎和云计算服务提供商之一。
Google的云计算架构和算法在业界受到广泛关注,其通过一系列论文来介绍这些技术,并分享了它们的最佳实践。
本文将针对Google公司发表的三篇云计算论文(论文名称分别为《MapReduce:Simplified Data Processing on Large Clusters》、《The Google File System》、《Bigtable: A Distributed Storage System for Structured Data》),进行分类讲解,以帮助读者更好地了解云计算领域的相关技术。
一、MapReduce:Simplified Data Processing on Large ClustersMapReduce论文是Google公司云计算领域中的重要代表作之一,它的作者是Jeffrey Dean和Sanjay Ghemawat。
MAPREDUCE是一种大规模数据处理技术,其主要目的是在一个大型集群中分Distribute and Parallel Execution(分布式和并行执行)处理任务。
MapReduce将计算逻辑分解成两个部分- Map阶段和Reduce阶段。
在Map阶段,数据被按键提取;在Reduce阶段,数据被收集以计算结果。
这两个阶段可以在许多物理节点上并行执行,大大提高了计算效率。
此外,该论文引入了GFS分布式文件系统,为MapReduce提供了强大的文件系统支持。
二、The Google File SystemGFS是由Sanjay Ghemawat、Howard Gobioff和Shun-TakLeung共同编写的一篇论文。
它旨在解决分布式文件系统上的问题,以应对Google的大规模数据集和两台甚至三台以上的机器发生故障的情况。
GFS可以处理超过100TB以上的数据集,加速数据读取和写入,处理大规模数据存储集群。
Google Bigtable系统的可信性研究
魏兵;姚敏;沈志荣
【期刊名称】《信息网络安全》
【年(卷),期】2011(000)012
【摘要】Bigtable作为Google云计算的一项关键技术,在需要海量的存储要求的Google地图、GoogleEarth、Gmail、Youtube等上面得到了成功的应
用.Bigtable是基于GFS和Chubby开发的分布式存储系统,能够处理Google中海量繁杂的数据类型,也能够将不同应用的数据分布地存储到数千台服务器上.文章介绍了Bigtable的数据模型、设计和实现,并引入了随机Petri网对Bigtable系统的可信性进行模拟和量化分析,提出了云计算环境下Key/value存储系统的发展趋势,并从理论上得出Bigtable系统的高可用性和高可靠性.
【总页数】5页(P27-30,39)
【作者】魏兵;姚敏;沈志荣
【作者单位】清华大学,北京 100084;清华大学,北京 100084;清华大学,北京100084
【正文语种】中文
【中图分类】TP393.08
【相关文献】
1.基于 Google Bigtable 的海量数据存储探索 [J], 李红
2.Bigtable系统主服务器检查点的实现 [J], 王金锁;康林;费江涛;齐学玲
3.分布式海量数据管理系统Bigtable主服务器设计 [J], 张晓清;费江涛;潘清
4.Bigtable系统的负载平衡技术研究 [J], 王映东;匡艺;费江涛
5.可信性概念与可信性计算系统的研究 [J], 袁由光;李海山
因版权原因,仅展示原文概要,查看原文内容请购买。
常用列式数据库常用列式数据库概述列式数据库是一种基于列而非行的数据存储方式,它将同一列的数据存储在一起,而不是将整行数据存储在一起。
这种存储方式可以提高查询效率,并且适用于大型数据集和复杂的分析查询。
本文将介绍几种常用的列式数据库,包括Apache Cassandra、Google Bigtable、Amazon Redshift和Vertica。
Apache CassandraApache Cassandra是一个开源分布式NoSQL数据库系统,最初由Facebook开发。
它使用了类似于Google Bigtable的数据模型,并且具有高可扩展性和高可用性。
特点:1. 分布式架构:Cassandra可以在多个节点上运行,并且支持自动分2. 数据复制:Cassandra可以自动将数据复制到多个节点上,以提高可用性和容错性。
3. 数据模型:Cassandra使用了类似于Google Bigtable的数据模型,即键值对+列族。
每个键值对都包含一个主键和多个列族。
4. 支持ACID事务:Cassandra支持原子性、一致性、隔离性和持久性(ACID)事务。
5. 灵活的查询语言:Cassandra支持类似于SQL的查询语言(CQL),同时还支持更灵活的查询方式,如范围查询和分页查询。
Google BigtableGoogle Bigtable是一个高性能、高可扩展性的分布式列式数据库系统,用于存储大型数据集。
它最初由Google开发,并且作为Google Cloud Platform的一部分提供。
特点:1. 分布式架构:Bigtable可以在多个节点上运行,并且支持自动分片2. 数据模型:Bigtable使用了类似于哈希表的数据模型,即键值对+列族。
每个键值对都包含一个行键、一个列族和一个时间戳,而每个列族包含多个列。
3. 高性能:Bigtable具有高性能的读写能力,并且可以处理大量并发请求。
4. 可扩展性:Bigtable可以轻松地扩展到数百甚至数千台服务器,以适应不断增长的数据集。
Google云计算的关键技术(一)Google云计算的关键技术主要包括:Google文件系统GFS、分布式计算编程模型MapReduce、分布式锁服务Chubby和分布式结构化数据存储系统BigTable等。
其中:1)GFS提供了海量数据存储和访问的能力;2)MapReduce使得海量信息的并行处理变得简单易行;3)Chubby保证了分布式环境下并发操作的同步问题;4)BigTable使得海量数据的管理和组织十分方便。
●GFSGFS是一个面向海量数据密集型应用的、可伸缩的分布式文件系统,它为Google云计算提供了海量存储的能力,处于整个Google云计算技术体系的最底层。
GFS使用廉价的商用机器构建分布式文件系统,将容错的任务交由文件系统来完成,利用软件的方法解决系统可靠性的问题,不但使得存储的成本成倍下降,更是很好地在频繁的故障中确保了数据存储的安全和数据存储服务的连续性,从整体上确保了整个系统的可靠性,进而可以为大量客户机提供高性能的服务。
一、架构一个GFS集群包含一个单独的Master逻辑节点、多台Chunk服务器,并且同时被多个客户端访问,如下图所示。
GFS存储的文件都被分割成固定大小的Chunk。
在Chunk创建的时候,Master服务器会给每个Chunk分配一个不变的、全球唯一的64位的Chunk标识。
Chunk服务器把Chunk以linux文件的形式保存在本地硬盘上,并且根据指定的Chunk标识和字节范围来读写块数据。
出于可靠性的考虑,每个块都会复制到多个块服务器上。
缺省情况下,我们使用3个存储复制节点,不过用户可以为不同的文件命名空间设定不同的复制级别。
Master节点管理所有的文件系统元数据,在逻辑上只有一个。
这些元数据包括名字空间、访问控制信息、文件和Chunk的映射信息、以及当前Chunk的位置信息;Master节点还管理着系统范围内的活动,比如Chunk在Chunk服务器之间的迁移等。
google表格使用方法
Google表格是一种基于云端的电子表格应用程序,它使您可以轻松地创建、编辑和分享电子表格。
以下是使用Google表格的一些基本步骤:
1.登录Google账户:首先,登录您的Google账户,然后访问Google表格应用程序。
2.创建新的电子表格:点击“新建”按钮,然后选择“电子表格”,或者从模板库中选择一
个现成的模板。
3.添加数据:在新建的电子表格中,您可以添加数据。
单击单元格,然后键入数据或
公式。
4.自定义电子表格:使用工具栏上的按钮来自定义您的电子表格。
您可以调整单元格
的大小、格式、字体和颜色等。
5.共享电子表格:使用“共享”按钮,您可以将电子表格分享给其他人。
您可以选择允许
他们编辑、评论或只能查看。
6.导入和导出数据:使用“导入”和“导出”按钮,您可以将数据导入到电子表格中,或将
电子表格导出为其他格式,如CSV、PDF等。
Google搜索引擎架构研究【摘要】 google做为世界上最成功的网络公司之一,以其巨大,快速的搜索引擎而著名。
但很少有人了解能了解如何将数万台pc组织成为一个强大的,可靠的,可扩展的分布式系统。
本文简要介绍的google的主要后台架构gfs,mapreduce和bigtable。
【关键词】 google gfs mapreduce bigtable1 google要解决的问题(1)web是非常巨大的,并且以指数级别在增长。
(2)web中存在不同形式的资源:word,html,pdf,ascii,images(3)检索时间要极短不能让用户等待。
(4)各种民族各种语言不同,需要不同的分词方法。
(5)系统能够每天承受每天上亿次的检索。
(6)优化结果的排序规则,把用户最需要的信息展现在最前面。
2 google的分布式设计结构google的分布式设计是一项伟大的设计,它建立在上万台计算机上。
面的上万台的复杂系统结构google在设计系统的开始就有一个假设:“机器是会出问题的。
”“容许机器出问题,但机器必需自动跳过或自动修复这些问题。
”如图1所示,是一张google分布式设计的基本结构图。
2.1 抓取部分url server:存储url列表,这些url都是将要被抓取的对象。
crawler:一组进行并行检索的爬虫程序,每个爬虫都有自己的dns缓冲池,并且能够在同一时间打开300个网络连接。
store server:压缩并且存储爬虫爬取来的网易。
repository:包含每个网页的全部信息,每个文档都被标记为docid,length,url。
indexer:解压缩文档并且解析每个文档,并把其中的连接存储在anchors中。
anchors:专门存储解析而来的新的连接。
url resolver:把相对路径url转换为绝对路径的url。
其中,repository是压缩存储的,压缩率一般超过60%。
2.2 索引部分url resover:将绝对路径的url映射为docid并且存储在doc index中,将anchor text存储到barrels。
一种No SQL数据库-Google Big Table的综述赵小溪经管会计 201411036022摘要本文对一种主流No SQL数据库,即Google的BigTable进行了综述。
对其实现细节进行了表述,深入了解了BigTable的架构,介绍了其读写操作,并提出了其存在的几个问题并给出了解决办法。
对BigTable进行了总结和展望。
并对No SQL数据库的发展现状和趋势作了简单介绍。
引言出现于1998年的No SQL是Carlo Strozzi开发的一个轻量、开源、不提供SQL功能的关系数据库。
在2009年,Johan Oskarsson发起了一次关于分布式开源数据库的讨论,来自Rackspace(全球三大云计算中心之一)的Etic Evans再次提出了No SQL的概念,这时的No SQL 主要指非关系型、分布式、不提供ACID的数据库设计模式。
2009年在亚特兰大举行的no:sql(east)讨论会是一个里程碑,会上对No SQL最普遍的解释是非关系型的,强调键一—值对存储和文档数据库的优点,而不是单纯的关系型数据库。
No SQL是Not Only SQL的简写,其含义是“不仅是结构化查询”,是不同于传统的关系型数据库的数据库管理系统的统称。
No SQL与SQL的最显著的区别是No SQL不使用SQL作为查询语言,其数据存储不需要固定的表格模式,也避免使用SQL的JOIN操作,具有水平可扩展性。
CAP、BASE和最终一致性是No SQL数据库存在的3大基石。
No SQL存储满足了数据存储的横向伸缩性的需求。
No SQL以其运行在PC服务器集群上,突破了性能瓶颈,没有过多的需求,支持者源于社区,弹性扩展,大数据量,灵活的数据模型,经济效率高等特点为大数据的存储、传输与处理创造了生态环境,并逐渐走向成熟并广泛应用。
Big Table作为一种非关系型数据库,是一个稀疏的、分布式的、持久化存储的多维度排序映射。
BigTable-列族存储BigTable 其实就是 Google 设计的分布式结构化数据表.Bigtable 的设计动机:1. 需要存储的数据种类繁多,包括URL、⽹页内容、⽤户的个性化设置在内的数据都是Google需要经常处理的2. 需要存储的数据种类繁多海量的服务请求,Google运⾏着⽬前世界上最繁忙的系统,它每时每刻处理的客户服务请求数量是普通的系统根本⽆法承受的.3. 商⽤数据库⽆法满⾜需求,⼀⽅⾯现有商⽤数据库的设计着眼点在于其通⽤性。
另⼀⽅⾯对于底层系统的完全掌控会给后期的系统维护、升级带来极⼤的便利为了解决上述的问题, Google 才提出了 BigTable 的概念.Bigtable 应达到的基本⽬标1. ⼴泛的适⽤性, Bigtable是为了满⾜⼀系列 Google 产品⽽并⾮特定产品的存储要求。
2. 很强的可扩展性, 根据需要随时可以加⼊或撤销服务器.3. ⾼可⽤性, 确保⼏乎所有的情况下系统都可⽤.4. 简单性, 底层系统的简单性既可以减少系统出错的概率,也为上层应⽤的开发带来便利Bigtable 数据的存储格式Bigtable is a sparse, distributed, persistent multidimensional sorted map.Bigtable 是⼀个分布式, 多维, 映射表. 表中的数据通过⼀个⾏关键字(Row Key)、⼀个列关键字(Column Key)以及⼀个时间戳(Time Stamp)进⾏索引. 在Bigtable中⼀共有三级索引. ⾏关键字为第⼀级索引,列关键字为第⼆级索引,时间戳为第三级索引。
Bigtable的存储逻辑可以表⽰为:(row:string, column:string, time:int64)→stringrow 的特点Bigtable 的⾏关键字可以是任意的字符串,但是⼤⼩不能够超过 64KB表中数据都是根据⾏关键字进⾏排序的,排序使⽤的是词典序同⼀地址域的⽹页会被存储在表中的连续位置倒排便于数据压缩,可以⼤幅提⾼压缩率需要特别注意的是对于⼀个⽹站存储在 Bigtable 中的格式是 n.www这样倒排的好处是,对于同⼀域名下的内容,我们可以进⾏更加快速的索引.column 的特点将其组织成列族(Column Family)族名必须有意义,限定词则可以任意选定, ⽐如 “contents”, “title” 等等.组织的数据结构清晰明了,含义也很清楚族同时也是 Bigtable 中访问控制(Access Control)的基本单元我们从 Bigtable 中读取数据先找到哪⼀⾏然后再去选择读取那个⼀个 column.time 的特点Google的很多服务⽐如⽹页检索和⽤户的个性化设置等都需要保存不同时间的数据,这些不同的数据版本必须通过时间戳来区分。
Google系统架构在伸缩性上可以说称王了,Google一直的目标就是构建高性能高伸缩性的基础组织来支持它们的产品。
平台Linux使用大量开发语言:Python,Java,C++状态∙在2006年大约有450,000台廉价服务器;∙在2005年Google索引了80亿Web页面,现在没有人知道数目;∙目前在Google有超过200个GFS集群。
一个集群可以有1000或者甚至5000台机器。
成千上万的机器从运行着5000000000000000字节存储的GFS集群获取数据,集群总的读写吞吐量可以达到每秒40兆字节;∙目前在Google有6000个MapReduce程序,而且每个月都写成百个新程序;∙BigTable伸缩存储几十亿的URL,几百千千兆的卫星图片和几亿用户的参数选择;堆栈Google形象化它们的基础组织为三层架构:1、产品:搜索,广告,email,地图,视频,聊天,博客;2、分布式系统基础组织:GFS,MapReduce和BigTable;3、计算平台:一群不同的数据中心里的机器;4、确保公司里的人们部署起来开销很小;5、花费更多的钱在避免丢失日志数据的硬件上,其他类型的数据则花费较少;可信赖的存储机制-谷歌文件系统GFS(Google File System)1、可信赖的伸缩性存储是任何程序的核心需求,谷歌文件系统GFS就是Google的核心存储平台;2、Google File System - 大型分布式结构化日志文件系统,Google在里面扔了大量的数据;3、为什么构建GFS而不是利用已有的东西?因为可以自己控制一切并且这个平台与别的不一样,G oogle需要:-跨数据中心的高可靠性;-成千上万的网络节点的伸缩性;-大读写带宽的需求;-支持大块的数据,可能为上千兆字节;-高效的跨节点操作分发来减少瓶颈;4、系统有Master和Chunk服务器-Master服务器在不同的数据文件里保持元数据。
精品文档Google 云计算技术架构:Google 云计算技术架构应用均依赖于四个基本组件1.分布式文件存储(GFS),2,并行数据处理模型(MapReduce).3分布式锁(Chubby).4,结构化数据表(BigTable).Chubby的作用:1.为GFS提供锁服务,选择Master节点:记录Master的相关描述信息;2:通过独占锁记录Chunk Server 的活跃情况;3:为BigTable提供锁服务,记录子表信息(如子表文件信息,子表分类信息,子表服务信息);4:记录MapReduce的任务信息;5:为第三方提供锁服务与文件存储.GFS的作用:1.存储Bigtable的子表文件,2:为第三方应用提供大尺寸文件存储功能;3:文件读操作流程(API与Mater 通信,获取文件元信息,根据指定的读取位置与读取长度,API发动兵发起操作,分别从若干ChunkServer上读取数据,API组装所得数据,返回结果.BigTable的作用:1.为Google云计算应用(或第三方应用)提供数据结构化存储功能;2:类似于数据库;3:为应用提供简单数据查询功能(不支持联合查询);4:为MapReduce提供数据源或者数据结果存储.BigTable的存储于服务请求的响应:1.换分为子表存储,每一个子表对应一个子表文件,子表文件存储于GFS 上;2:bigTable通过元数据组织子集;3:每个子集都被分配给一个子表服务器;4:一个子表服务器可同时分配多个子表;4:子表服务器负责对外提供服务,响应查询请求.MapReduce的作用:对BigTable中的数据进行并行计算处理;2使用BigTable或者GFS存储计算结果Google Analytics:免费的企业级网络分析解决方案;2:帮助企业了解网站流量和营销效果;3:能以灵活的反噬(各类报表)查看并分析流量数据Google网站流量分析的基本功能:统计网站的基本数据,包括会话,综合浏览量,点击量和字节流量;2:分析网站页面关注度,帮助企业调整或者增删页面;3:分析用户浏览路径,优化页面布局;4:分析用户访问来源连接,提供广告投资回报;5:分析用户访问环境,帮助美化页面EC2:Eastic Compute Cloud)简言之,EC2就是一部具有无限采集能力的虚拟计算机,用户能够用来执行一些处理任务EC2的主要特征:1:灵活性,可以自行配置的实例类型,数量,还可以选择实例运行的地理位置,可以根据影虎的需求随时改变实例的使用数量;2:低成本:SSH,可配置的防火墙机制,监控等;3:易用性:用户可以根据亚马逊提供的模块自由构建自己的应用程序,同时EC2还会对用户的服务请求自动进行负载均衡;3:容错性,弹性IP简单队列服务SQS:目标:解决低耦合系统间的通信问题,支持分布式计算机系统之间的工作流,简单队列服务SQS:特点:简单,无处不在简单队列服务SQS:的机制:冗余存储,给予加权随机分布的消息取样,并发管理和故障排除,消息的可见性超时值与生命周期SDB与S3的区别:S3是专为大型,费结构化的数据块设计的;SimpleDB是为复杂的,结构化数据建立的,支持数据的查找,删除,插入等操作.。