搜索引擎基本原理
一．全文搜索引擎
在搜索引擎分类部分我们提到过全文搜索引擎从网站提取信息建立网页数据库的概念。搜索引擎的自动信息搜集功能分两种。一种是定期搜索，即每隔一段时间（比如Google一般是28天），搜索引擎主动派出“蜘蛛”程序，对一定IP地址范围内的互联网站进行检索，一旦发现新的网站，它会自动提取网站的信息和网址加入自己的数据库。
另一种是提交网站搜索，即网站拥有者主动向搜索引擎提交网址，它在一定时间内（2天到数月不等）定向向你的网站派出“蜘蛛”程序，扫描你的网站并将有关信息存入数据库，以备用户查询。由于近年来搜索引擎索引规则发生了很大变化，主动提交网址并不保证你的网站能进入搜索引擎数据库，因此目前最好的办法是多获得一些外部链接，让搜索引擎有更多机会找到你并自动将你的网站收录。
当用户以关键词查找信息时，搜索引擎会在数据库中进行搜寻，如果找到与用户要求内容相符的网站，便采用特殊的算法——通常根据网页中关键词的匹配程度，出现的位置/频次，链接质量等——计算出各网页的相关度及排名等级，然后根据关联度高低，按顺序将这些网页链接返回给用户。
二．目录索引
与全文搜索引擎相比，目录索引有许多不同之处。
首先，搜索引擎属于自动网站检索，而目录索引则完全依赖手工操作。用户提交网站后，目录编辑人员会亲自浏览你的网站，然后根据一套自定的评判标准甚至编辑人员的主观印象，决定是否接纳你的网站。
其次，搜索引擎收录网站时，只要网站本身没有违反有关的规则，一般都能登录成功。而目录索引对网站的要求则高得多，有时即使登录多次也不一定成功。
尤其象Yahoo!这样的超级索引，登录更是困难。（由于登录Yahoo!的难度最大，而它又是商家网络营销必争之地，所以我们会在后面用专门的篇幅介绍登录Yahoo雅虎的技巧）
此外，在登录搜索引擎时，我们一般不用考虑网站的分类问题，而登录目录索引时则必须将网站放在一个最合适的目录（Directory）。
最后，搜索引擎中各网站的有关信息都是从用户网页中自动提取的，所以用户的角度看，我们拥有更多的自主权；而目录索引则要求必须手工另外填写网站信息，而且还有各种各样的限制。更有甚者，如果工作人员认为你提交网站的目录、网站信息不合适，他可以随时对其进行调整，当然事先是不会和你商量的。
目录索引，顾名思义就是将网站分门别类地存放在相应的目录中，因此用户在查询信息时，可选择关键词搜索，也可按分类目录逐层查找。如以关键词搜索，返回的结果跟搜索引擎一样，也是根据信息关联程度排列网站，只不过其中人为因素要多一些。如果按分层目录查找，某一目录中网站的排名则是由标题字母的先后顺序决定（也有例外）。
目前，搜索引擎与目录索引有相互融合渗透的趋势。原来一些纯粹的全文搜索引擎现在也提供目录搜索，如Google就借用Open Directory目录提供分类查询。而象 Yahoo! 这些老牌目录索引则通过与Google等搜索引擎合作扩大搜索范围。在默认搜索模式下，一些目录类搜索引擎首先返回的是自己目录中匹配的网站，如国内搜狐、新浪、网易等；而另外一些则默认的是网页搜索，如Yahoo。
搜索大法——浅谈搜索引擎
一、什么叫搜索引擎？
在Internet上有上百亿可用的公共Web页面，即使是最狂热的冲浪者也不会访问到所有的页面，而只能看到其中的一小部分，更不会在这浩瀚的Web海洋中发现你那即使精彩却渺小的一隅。当然你可以为你的存在做广告，可以用大大的字把你的URL刻在你的身体上，然后裸体穿过白宫草坪，但你得保证媒体正好在那里，并注视到了这一切。与其这样做，不如好好去理解搜索引擎是如何工作的？又怎样选择和使用"keywords"（关键词）等等。
本文的目的就是让众多的页面设计者在了解搜索引擎的基础上，寻求如何使自己的页面在搜索引擎索返回的列表中获得好的排列层次的方法。
"搜索引擎"这个术语一般统指真正意义上的搜索引擎（也就是全文检索搜索引擎）和目录（即目录式分类搜索引擎），其实他们是不一样的，其区别主要在于返回的搜索结果列表是如何编排的。
1、目录
目录（比如Yahoo!）返回的列表是由人工来编排的。
这类引擎提供了一份人工按类别编排的网站目录，各类下边排列着属于这一类别的网站的站名和网址链接，再记录一些摘要信息，对该网站进行概述性介绍（摘要可能是你提交过去的，也可以是引擎站点的编辑为你的站点所做的评价）。人们搜索时就按相应类别的目录查询下去。
这类引擎往往还伴有网站查询功能，也称之为网站检索，即提供一个文字输入框和一个按钮。我们可以在文字框中输入要查找的字、词或短语，再点击按钮，便会在目录中查找相关的站名、网址和内容提要，将查到的内容列表送过来。目前国内Sohoo、常青藤等都是这种搜索方式。
2、搜索引擎
搜索引擎看起来与目录的网站查询非常相似，也提供一个文字输入框和按钮，使用方法也相同，而且有些也提供分类目录，但两者却有本质上的区别。
目录的资料库中，搜集保存的是各网站的站名、网址和内容提要；搜索引擎的资料库中，搜集保存的则是各网站的每一个网页的全部内容，范围要大得多。
搜索引擎是以全文检索的方式工作的。全文检索查到的结果不是站名、网址和内容提要，而是与你输入的关键词相关的一个个网页的地址和一小段文字。在这段文字中，可能没有你输入的那个关键词，它只是某一网页的第一段话，甚至是一段无法看懂的标记，但在这个网页中，一定有你所输入的那个关键词，或者相关的词汇。打个比方说，网站查询可以查到网上有哪些报纸，如《文汇报》、《大公报》，而全文检索则可以查到网上这些报纸的每一篇文章中的词汇。
3、两者相结合的搜索引擎
某些搜索引擎同时也提供目录。包含在搜索引擎中的目录通常质量比较高，也能从那里找到许多好站点。因为即使你把你的站点提交过去，也并不能保证一定被加到目录中去，他们把注意力放在那些已经在别的目录中存在的站点上，并有选择地寻找有吸引力的加到自己的目录中。
搜索引擎和目录各有各自不可替代的功用。目录比较简单，要想获得一个好的排列层次，除了你努力创建一个好内容的高品质站点外别无他法。搜索引擎复杂得多，它们随时都在自动地索引众多WEB站点的最新网页，所以常常会发现目录所不能得到的信息。如果你改动了你的页面，搜索引擎还随时会发现这个变化，并重新排列你在列表中的位置。而目录就做不到。下面专门讨论搜索引擎的工作原理以及如何提高在搜索引擎列表中的排列位置。
二、搜索引擎是如何工作的？
搜索引擎有三个主要的基本部分。
1、搜索引擎蜘蛛
搜索引擎首先利用的是一种俗称蜘蛛（Spider)或爬虫（Crawler)的软件。搜索引擎蜘蛛访问到一个页面，读取它，然后跟随这个页面链接到这个站点的其他页面，这就是人们所说的站点被套住了或者被爬过了。蜘蛛会按照固定的时间不断的回来访问这个站点，如每月或每两个月，以便查看页面的变化。
2、索引
蜘蛛所找到的每一个页面放入搜索引擎的第二部分--索引。索引也可以说是目录册，就像一本巨大的书，书中包含了蜘蛛所找到的每个Web页的拷贝。如果Web页改变了，这本书当然也会更新。但有时蜘蛛发现了新的Web页和Web页的变化，并不是马上加到索引中去，当中间隔一段时间，就是说一个Web页被爬过了，但却不能被索引，直到这个Web页被加到了索引里才可用于搜索引擎的搜索。
3、分析软件
搜索引擎分析软件是一个搜索引擎的第三部分。这个程序详细审查记录在索引中的成百上亿的Web页，找出与搜索要求相匹配的那些，并按他认为最合适的相关性排列出列表，呈现在冲浪者的面前。
三、搜索引擎如何排列Web页面
用你所喜欢的搜索引擎搜索任何东西，搜索引擎几乎立刻就从他知道的几百万的页面中挑选出与你的主题相匹配的那些，呈现在你的荧屏上。这些网页按一定的顺序排列起来，最相关的排在最前面。
但搜索引擎并不是图书管理员，他没有能力一再地询问有关的问题来更好地定位搜索的目标，也不能依靠智力判断和过去的经验来排列网页，而人可以做到。智能化是发展的方向，但还有一段很长的路要走。
那么搜索引擎是怎样决定相关性的呢？他们依靠一套规则，主要的规则是页面中关键词出现的位置和频率，我们把这称做"位置/频率法"。
1、位置
如果你到图书馆去寻找有关旅游方面的书，管理员首先会去查找题目中有"旅游"的书籍。搜索引擎也一样，关键词（即"旅游"）出现在题目（Title)中的页面比那些Title中不出现关键词的页面更相关。
搜索引擎还会检查关键词是否出现在页面的顶部，如文章标题中或前面的几个段落。他们认为与搜索主题相关的页面在开始都会提到那些词语。
2、频率
频率是相关性的另外一个主要因素。搜索引擎会分析页面中关键词相对其他词语所出现的频率，频率越高，就越具相关性。
3、搜索引擎在排列网页时有一定的差异
所有的搜索引擎都有以上提到的三个基本部分，在一定程度上都符合“位置/频率法”，但在具体实施上又有区别，这就是为什么我们用不同的搜索引擎做同样的搜索时会产生不同结果的原因。
首先，有些搜索引擎会索引到更多的Web页面，有些又会比其他引擎更新索引的频率快，所以搜索引擎索引中不可能收集完全一样的Web页面。
其次，出于某种原因，有些搜索引擎也可能给某些Web页面在排列层次上有优先权。如Excite用链接的流行度作为排列网页的一个因素，他知道在索引中哪些页面有许多指向他们的链接，他在排列时就给这些页面小小的奖励，将他们适当提前。这也是合理的，因为在Internet上有越多指向他们的链接，就说明这些页面更被大家看重。
另外，一些混合结构（搜索引擎和目录共存）的搜索引擎可能会把那些目录中已存在的站点的网页靠前，理由是一个站点足够好才能放到目录中，就应该有机会比那些不被列在目录中的站点的网页靠前。
最后要强调的是，许多Web页面设计者错误地认为"Meta tags"是将Web页提到列表前列的秘密，实际上有些搜索引擎会把那些"Meta tags"中有keywords 的页面靠前，有些搜索引擎根本就不读"Meta tags"。"Meta tags"是解决问题的一个方面，但并不是什么必需的绝密武器。
四、如何提高Web页面的相关性
搜索引擎的一次搜索会返回成百上千的相关网页，一般情况下首先呈现出来的是10个最相关的页面。任何站点都想被列在前10位，因为大多数的用户都喜欢从前10位中找到他所要的结果，排在第11位以下就意味着许多人不会访问到你的站点。下面就来看看如何能使你的网页排在列表前列。
1、选择合适的关键词（Keywords）
大胆地设想别人在搜索引擎的搜索框内正好输入的是你页面的Title中选择的关键词，那该多好啊！例如，如果你有一个有关邮票收藏的网页，如果你想别人任何时候在搜索框里输入"邮票收藏"时你能排在前10位，那么就为这个页面选择"邮票收藏"这个关键词吧！
网站的每一个页面都应该有反映网页内容的关键词，并且关键词至少由2个以上的字或词组成。通常与单个的字或词相关的网站太多太多，例如"邮票"就比"邮票收藏"所相关的网页多得多，那么竞争就激烈，网页排在前列的概率就相对低一些。所以不要怕花费时间，尽量选择2个以上的字或词组成的短语，成功的可能性会大得多。
最后，假设适当地扩展文章的涉及范围，多选几个关键词又会怎么样呢？例如，一个邮票收藏的网页可能会提到"收藏家"和"收藏"，那么扩展开来，用"邮票收藏家"和"邮票收藏"增加关键词的数量也是合理的。可不是没有问题，因为你的网页实际上是关于邮票收藏的精典网页，应该出现在邮票收藏一类网页的前列，但你在关键词上扩展了页面的涉及范围，可能就会无意识地降低页面对于"邮票收藏"的相关性。如何决定更好，看你的想法了！
2、关键词（Keywords）出现的位置
选择好关键词后还要确保关键词出现在至关重要的位置。首先页面的题目(Title)是最重要的地方，忽略将关键词放进页面的题目中是许多本身具备良好相关性的网页被排在底层的原因。
其次像前面提到的，搜索引擎也看中关键词出现在页面前面的网页，所以有可能的话就把关键词作为大标题，并使得关键词出现在网页的第一段。
特别注意的是使用表格会把网页的正文推到网页的更下面，就会造成相关性的降低。例如，画一个有两列的表格，第一列放的是对其他网页的链接，第二列才是含有关键词的正文。浏览看到的网页是这样的：
主页邮票收藏
邮票历史邮票收藏爱好者遍布世界各地。每天都有成
邮票价格千上万的人在对邮票津津乐道，并且每天的邮票
邮票展览交易额达数百万元。点击各个栏目，你就可以得
邮票精品到许多邮票的知识。
而搜索引擎看这个页面是这样的：
主页
邮票历史
邮票价格
邮票精品
邮票收藏邮票收藏爱好者遍布世界各地。每天都有成千上万的人在对邮票津津乐道，并且每天的邮票交易达数百万元。点击各个栏目，你就可以得到许多邮票的知识。
显然，关键词"邮票收藏"移到了下面！在这种情况下，除了使用metatags 外，没有其他更好的办法。使用metatags对那些读metatags的搜索引擎有帮助，对其他不读metatags的搜索引擎也不是什么大不了的问题。你认为表格对你的页面很有影响，也没有必要放弃他们，喜欢的话就继续使用，不能因个别搜索引擎而破坏页面的整体性。
大量的JavaScript也和表格有一样的影响。搜索引擎首先读JavaScript
语句，引起正常的HTML正文排后一些。这样，如有可能的话，把JavaScript
语句放到页面后面一点。也可以使用metatags来帮助解决问题。
3、页面有相关的内容
如果页面没有相关的内容，即使改变页面的题目或使用metatags都不会对你在搜索引擎的位置有何帮助。就是说你使用的关键词要反映页面的内容。
有些页面出现的是大量的图形，看起来非常漂亮，但搜索引擎却不能读这些图形，他们就得不到文字来决定页面的相关性。有些搜索引擎也可能将ALT包含的文字和metatags结合起来索引。但为保险起见，建议尽可能用HTML文字，访问者也喜欢这些实质性的东西。
另外，要保证HTML文字是可见的。有些页面设计者想通过用微小的字体或把字体颜色设置成和背景颜色一致的方法在正文中重复关键词。虽然浏览器是看不见了，但搜索引擎却能识破这种类似的诡计。料想浏览器都看不见的东西，搜索引擎也不应该索引到它。这些页面是搜索引擎的垃圾，应该摈弃它们。
4、避免搜索引擎阻塞
有些搜索引擎看WEB页面，就像一个人使用非常旧的版本的浏览器一样。他们不能读图像映像（image maps），不能读框架结构（frames）。你必须考虑到这些问题，否则搜索引擎也许根本就不可能索引到你的任何页面。（1）要有HTML 文字链接。页面设计者经常在主页上只是用图像映像来链接子页面，那么不能跟随这种链接的搜索引擎就不能到达站点的子页面。最不幸的是，子页面常常比主
页更有相关性。所以建议在主页底部加一些在文字上所做的HTML超链接来链接各个子页面，搜索引擎就会发现他们，并跟随进去。你也可以考虑制作一个带有文字链接的本站导航页来链接网站的所有页面。然后递交这个页面，帮助搜索引擎查找站点的其他所有网页。（2）框架结构是致命的一击。一些主要的搜索引擎都不能跟随框架里的链接。你只好使用meta tags或另外的巧妙设计来解决它。（3）动态页面的阻塞。有些搜索引擎也不可能索引由CGI或数据库所生成的动态页面，所以尽量使用静态页面。宁愿用数据库来修改页面，也不要动态生成它们。还要避免在URL上使用符号，尤其是问号"？"，如
（https://www.doczj.com/doc/398977654.html,/scripts/labor/bbs/bbs.asp?09），因为搜索引擎往往因它而阻塞。
5、使用meta tags
正如前面所提到的，metatags能帮助你解决表格、框架等其他麻烦所带来的问题。metatags也帮助你能在支持metatags的搜索引擎中控制你的站点描述语言。但须记住的是：metatags并不一定就能保证站点排在前列，他们并不是改变站点排列低落状态的魔术弹。
6、杜绝搜索引擎垃圾
首先要知道，垃圾并不一定被搜索引擎接受，搜索引擎可能会发现你的这种想把垃圾网页提到前列的行为，并在列表中取缔你的网页。
一般来说，搜索引擎垃圾是想通过加上最流行的关键词来达到排在前列的目的，这是不道德的行为。网页应该以真实的内容让搜索引擎来决定其相关性，而不是毫无道理地凭借重复关键词来击败其他网页。是金子总会发光！
我们将搜索引擎的垃圾和垃圾邮件比较一下。没人喜欢垃圾邮件，发送垃圾邮件的站点经常面临的是来自那些接受方的反击。制造搜索引擎垃圾的站点降低了搜索引擎返回列表的质量。随着问题的越来越严重性，这些站点也会面临和垃圾邮件所带来的一样的反击。
7、提交关键页面
大多数的搜索引擎是从你提交过去的一个页面开始索引站点的其他页面的。所以最好提交最能概括站点的前面2到3个页面。
也不要太信任自动提交服务程序的自动提交过程，有些是很优秀的。但有些搜索引擎太重要了，还是人工提交比较好，以便你能看看提交有没有何问题。
更不要怕麻烦提交2到3个页面。当搜索引擎在一个页面上遇到问题时，它还可以从另一个页面开始爬你的站点。
8、定期检查和维护你的列表位置
一旦你的页面被搜索引擎列表，最好是每到一至两个星期监控一下列表，可能会有一些奇怪的事情发生：页面消失了；链接不对了；.....。那么重新提交你的站点吧。
当你对页面做了重大改动的时候最好也要重新提交站点。搜索引擎本来是按固定的周期反复访问站点的，然而一些搜索引擎很灵敏，它们知道有些站点一年只做一到两次的改动，它们可能就不会经常去访问这些站点，那就发现不了站点的变化。在重大改动后重新提交将确保你的站点内容是最新的。
五、结束语
对于页面设计者来说，花一些心思和精力与搜索引擎建立起良好的关系是值得的，往往稍做一些改动就可能得到很大的好处。即使没有进入前10名，也在相关性上得到了一个改进。
同时，如自己的站点没有运气进入前10名，还应该考虑与排列前10名的站点进行互惠互利的链接。虽然他们是竞争对手，但你也会因此而得到许多意想不到的回报，你会发现网上指向自己站点的链接多了，这时你只要稍微注意一下关键词的使用，你就可能跑到列表前列。何况链接也是人们找到你的站点的最好方式之一。
最后要说的是：搜索引擎是人们寻找Web站点的主要方式，但不是唯一的方式。人们也从以下的方式获得站点，如口传、传统广告、传统媒体、新闻组、Web 目录和其他站点来的链接等。有时候，这些形式比搜索引擎更有效。所以千万不要被搜索引擎的排列位置所困扰，一个页面设计者更多的时间应该放在制作更好的网页上。
搜索引擎原理概述及其在星空黄页网站中的应用
陈哲倪俊峰
引言
搜索引擎（Search Engine）已经成为大家在工作、学习、娱乐中不可或缺的神兵利器。通过使用搜索引擎，使得我们检索信息的能力获得了极大的提高，成本有效地降低。可以说，搜索引擎是现代的计算机技术，因特网技术与传统的索引理论相结合的成功典范。搜索引擎是在因特网普及的大背景下应运而生的，它出生伊始就带有浓烈的平民色彩，走出了象牙塔、实验室，走进了寻常巷、百姓家。最早搜索引擎应用于门户网站，获得了极大的成功，如今，它已广泛地应用于各行各业，以它为核心引发了所谓的搜索经济，成为大家关注的焦点。
本文对回顾了搜索引擎发展的简要历史、对它的分类和实现原理进行了分析，并介绍了国内一些主要搜索引擎的特点。星空黄页是中国电信黄页已有八年历史的提供全国企业信息的专业网站，随着数据量的快速增长，用户查询习惯的改变，对黄页网站的检索技术也提出了新的挑战。搜索引擎技术成为改造黄页网站的首选，本文也介绍了搜索引擎技术在黄页网站的应用情况。
1．搜索引擎的历史
曾有人说搜索引擎的鼻祖就是黄页，诞生于十九世纪末。因为黄页，在电话诞生后成为了以电话为主体的信息门户，而且黄页把有电话的企业分门别类，的确与现在的搜索引擎有异曲同工之妙。不过，这更多地是从这两者的形式和用途做的类比，事易时移，今天我们所谓的搜索引擎，是以计算机，网络，大信息量，自动化为特征的新型检索工具。
现在意义上的搜索引擎其实是在近十年的不断发展中逐步形成的，它建立在因特网和诸多计算机技术之上，所以很难把搜索引擎的缘起与哪个具体的产品对应起来。但是我们知道，在它逐步发展过程中，一些关键的产品成为了里程碑。
1993年10月Martijn Koster创建了ALIWEB(Martijn Koster Annouces the Availability of Aliweb)，它相当于Archie的HTTP版本。ALIWEB不使用网络搜寻Robot，如果网站主管们希望自己的网页被ALIWEB收录，需要自己提交每一个网页的简介索引信息，类似于后来大家熟知的Yahoo。1993年2月，6个Stanford(斯坦福)大学生的想法是分析字词关系，以对互联网上的大量信息作更有效的检索。这就是Excite。后来曾以概念搜索闻名。1994年1月，第一个既可搜索又可浏览的分类目录EINet Galaxy(Tradewave Galaxy)上线。除了网站搜索，它还支持Gopher和Telnet搜索。Lycos是搜索引擎史上又一个重要的进步。Carnegie Mellon University的Michael Mauldin将John Leavitt的spider 程序接入到其索引程序中，创建了Lycos。除了相关性排序外，Lycos还提供了前缀匹配和字符相近限制，Lycos第一个在搜索结果中使用了网页自动摘要。1998年10月之前，Google只是Stanford大学的一个小项目BackRub。1999年2月，Google完成了从Alpha版到Beta版的蜕变。Google在Pagerank、动态摘要、网页快照、DailyRefresh、多文档格式支持、地图股票词典寻人等集成搜索、多语言支持、用户界面等功能上的革新，象Altavista一样，再一次永远改变了搜索引擎的定义。
2．搜索引擎的分类
搜索引擎并没有一个精确的定义，大致可以分为两大类：全文搜索引擎（FullText Search Engine）和分类目录(Directory)。
全文搜索引擎通过一个叫网络机器人（Spider）或叫网络蜘蛛（crawlers）的软件，自动分析网络上的各种链接并获取网页信息内容，按规则加以分析整理，记入数据库。Google、百度就是比较典型的全文搜索引擎系统。
分类目录则是通过人工的方式收集整理网站资料形成数据库的，比如雅虎中国以及国内的搜狐、新浪、网易分类目录。
全文搜索引擎的使用以关键词和一定的语法为特点，而分类目录则通过建立多级目录对网站进行分类。它们在使用上各有长短。全文搜索引擎因为依靠网络机器人搜集数据，所以数据库的容量非常庞大，但是，它的查询结果往往不够准
确；分类目录依靠人工收集和整理网站，能够提供更为准确的查询结果，但收集的内容却非常有限。
此外，基于这两类搜索引擎，还衍生了其它的搜索服务，主要有所谓元搜索引擎(META Search Engine)。和集成搜索引擎（All－in－One Search Page）等，就不一一介绍了。
搜索引擎既然没有明确的定义，一般就以其发展中一些里程碑式的应用标志其阶段。业界普遍的共识是“第一代搜索引擎”是依靠于人工分拣的分类目录搜索，以"雅虎"为标志；而"第二代搜索引擎"则是依靠于机器抓取，并建立在超链分析技术基础之上的网页搜索，以"Google"为代表，其信息量大、更新及时、但返回信息过多，可能有很多无关信息。而"第三代搜索引擎"则把"智能化"、"人机交互"等功能融入了主流。将自动分类技术、中文内容分析技术及区域识别技术应用到大型搜索引擎中，除了在信息检索速度、更新频率等基本技术指标方面处于领先地位外，它的网页相关检索、拼音纠错、模糊查询、口音查询技术也具有很高的水准。此外，还同时兼备了新闻、MP3、图片、FLASH搜索功能，已成为能够提供全面、综合的信息搜索服务。
这里介绍的是在国内外影响比较大的主要的一些搜索引擎和分类目录站点，
1、Google（https://www.doczj.com/doc/398977654.html,/）
⒉、百度（https://www.doczj.com/doc/398977654.html,/）。
3、中国搜索（https://www.doczj.com/doc/398977654.html,/）。
4、搜狗（https://www.doczj.com/doc/398977654.html,）
5、雅虎一搜（https://www.doczj.com/doc/398977654.html,/）。
6、新浪查博士（https://www.doczj.com/doc/398977654.html,/）。
3．搜索引擎的基本原理
全文搜索引擎并不真正搜索互联网，它搜索的实际上是预先整理好的网页索引数据库。“网络机器人”或“网络蜘蛛”是一种网络上的软件，它遍历Web 空间，能够扫描一定IP地址范围内的网站，并沿着网络上的链接从一个网页到
另一个网页，从一个网站到另一个网站采集网页资料。它为保证采集的资料最新，还会回访已抓取过的网页。网络机器人或网络蜘蛛采集的网页，还要有其它程序进行分析，根据一定的相关度算法进行大量的计算建立网页索引，才能添加到索引数据库中。我们平时看到的全文搜索引擎，实际上只是一个搜索引擎系统的检索界面，当你输入关键词进行查询时，搜索引擎会从庞大的数据库中找到符合该关键词的所有相关网页的索引，并按一定的排名规则呈现给我们。不同的搜索引擎，网页索引数据库不同，排名规则也不尽相同，所以，当我们以同一关键词用不同的搜索引擎查询时，搜索结果也就不尽相同。
大型全文搜索引擎的数据库储存了互联网上几亿至几十亿的网页索引，数据量达到几千G甚至几万G。但即使最大的搜索引擎建立超过二十亿网页的索引数据库，也只能占到互联网上普通网页的不到30%，不同搜索引擎之间的网页数据重叠率一般在70%以下。我们使用不同搜索引擎的重要原因，就是因为它们能分别搜索到不同的内容。而互联网上有更大量的内容，是搜索引擎无法抓取索引的，也是我们无法用搜索引擎搜索到的。
和全文搜索引擎一样，分类目录的整个工作过程也同样分为收集信息、分析信息和查询信息三部分，只不过分类目录的收集、分析信息两部分主要依靠人工完成。分类目录一般都有专门的编辑人员，负责收集网站的信息。随着收录站点的增多，现在一般都是由站点管理者递交自己的网站信息给分类目录，然后由分类目录的编辑人员审核递交的网站，以决定是否收录该站点。如果该站点审核通过，分类目录的编辑人员还需要分析该站点的内容，并将该站点放在相应的类别和目录中。所有这些收录的站点同样被存放在一个“索引数据库”中。用户在查询信息时，可以选择按照关键词搜索，也可按分类目录逐层查找。如以关键词搜索，返回的结果跟全文搜索引擎一样，也是根据信息关联程度排列网站。需要注意的是，分类目录的关键词查询只能在网站的名称、网址、简介等内容中进行，它的查询结果也只是被收录网站首页的URL地址，而不是具体的页面。分类目录就像一个电话号码薄一样，按照各个网站的性质，把其网址分门别类排在一起，大类下面套着小类，一直到各个网站的详细地址，一般还会提供各个网站的内容简介，用户不使用关键词也可进行查询，只要找到相关目录，就完全可以找到相
关的网站（注意：是相关的网站，而不是这个网站上某个网页的内容，某一目录中网站的排名一般是按照标题字母的先后顺序或者收录的时间顺序决定的）。
由此可见，分类目录引擎的收集信息、分析信息和查询信息方式是非常类似于当前黄页网站分类查询体系，不同的是黄页收集信息主要来自电信渠道，普通的分类目录引擎一般都是由站点管理者递交自己的网站信息给分类目录，然后由分类目录的编辑人员审核递交的网站，以决定是否收录该站点。
4．搜索引擎技术在星空黄页网站的应用
星空黄页搜索（SYP－Search Yellow Pages），是中国电信黄页2004年8月推出，是在中国电信集团黄页信息有限公司覆盖全国数以千万企业信息资源的基础上，推出的专业企业信息搜索服务。
有别于主流的搜索引擎网站，星空黄页搜索是以站内数据搜索为核心，基于全国号码资源数据库为基础的企业搜索，正是由于数据采集渠道来自电信集团内部，所以无论企业是否上网，只要企业信息存在于电信黄页的号码资源数据库中，该企业的信息都能在星空黄页中搜索到。用户可以通过企业名称、产品、电话、地址等任何与企业相关的搜索请求，找到需要的企业信息，还可以按照省、市分地区进行本地化的企业搜索。在部分开通地图服务的城市中还能进一步提供企业地图信息。
星空黄页搜索引擎的建设采取了合作开发模式，采用百度公司网事通系统来提供大数据量搜索。
系统主要有三个体系子系统构成：
1）用户数据库子系统：
本子系统由用户的数据库管理系统（用户所有）与数据库监视和导出系统（百度所有）共同组成。
数据库监视和导出系统负责监视数据库的改变，并将相应信息传输给“信息
获取和索引子系统”。
2）信息获取和索引子系统：
该子系统主要有以下两项功能：
（1）接收用户数据库子系统传送来的数据，整理，并建立检索索引。
（2）保证检索数据与用户数据的同步和一致。
3）信息检索服务子系统：
信息检索服务子系统响应来自internet的检索请求，处理该请求，将检索结果返回给检索请求用户。该子系统是与internet的接口。
该系统的功能特点如下：
a功能全面，支持多种搜索特性，提供丰富的选择
1)支持大数据量下的全文检索，在G级数据量下保证亚秒响应速度；
2)支持关键字的实时全文检索，即一旦有数据加入到数据库中就可以立刻被
检索到；
3)支持大数据量下的高效全文检索，100万条记录数的相应时间小于1秒；
4)支持对一个字段以及多个字段的复合检索；
5)支持二次检索和各种逻辑检索；
b智能化全文检索保证最准确的结果
1）百度特有的自动词汇切分技术，充分考虑了中文语言的特点帮助您找到最准确的关键字，从而大大提高查询的准确率；
2）支持Big5、GB、GBK、GBK2312等多种汉字编码，并支持英文检索，对于英文的大小写可以自动转换；
3）支持查询任何词汇，数字、短语等；
4）支持中文或英文的单独检索；
5）支持中英文的混合检索；
c实时查询
1) 用户可以对数据库进行实时查询，根据时间排序；
2) 用户数据库中的任何改变，如加入、修改、删除信息可以实时的传送给索
引服务器；
d高可配置性
1) 支持字段的添加和删除，而无需对程序进行修改；
2) 用户可以随意创建、修改、删除数据库中的信息，信息的变化可以被百度
网事通DB检索系统实时自动识别；
3) 百度网事通DB检索系统和网站之间通过TIP/IP协议通讯，用户可以自己
定义检索结果页面的模版；
4) 用户可以自己定义检索规则，即可支持按字段检索又可以支持全文查询。
星空黄页搜索服务推出以后，大大提高了用户的搜索体验，也为黄页提供了新的商机。
5．结论
本文对搜索引擎的历史、分类和原理进行了介绍。概述了搜索引擎发展的演
进过程，介绍了当前业界主要的搜索引擎的类别：全文搜索和分类目录。对搜索引擎的工作过程和原理进行了概要的介绍。着重介绍了搜索引擎技术在星空黄页网站中的应用，描述了黄页搜索引擎的体系结构和功能特点。
搜索引擎的出现很大程度上改变了人们对信息的使用习惯，提高了信息的使用效能，它发轫于因特网，但现在已经渗透到了各个行业，了解搜索引擎，研究搜索引擎，应用搜索引擎，具有广阔的发展空间。
参考文献
1 杨兴平《揭开神秘面纱，搜索引擎原理浅析》
2 HISTORY: W
3 SEARCH ENGINES http://vlib.iue.it/history/search/
搜索引擎基本工作原理 目录 1工作原理 2搜索引擎 3目录索引 4百度谷歌 5优化核心 6SEO优化 ?网站url ? title信息 ? meta信息 ?图片alt ? flash信息 ? frame框架 1工作原理 搜索引擎的基本工作原理包括如下三个过程：首先在互联网中发现、搜集网页信息；同时对信息进行提取和组织建立索引库；再由检索器根据用户输入的查询关键字，在索引库中快速检出文档，进行文档与查询的相关度评价，对将要输出的结果进行排序，并将查询结果返回给用户。 1、抓取网页。每个独立的搜索引擎都有自己的网页抓取程序爬虫（spider）。爬虫Spider顺着网页中的超链接，从这个网站爬到另一个网站，通过超链接分析连续访问抓取更多网页。被抓取的网页被称之为网页快照。由于互联网中超链接的应用很普遍，理论上，从一定范围的网页出发，就能搜集到绝大多数的网页。 2、处理网页。搜索引擎抓到网页后，还要做大量的预处理工作，才能提供检索服务。其中，最重要的就是提取关键词，建立索引库和索引。其他还包括去除重
复网页、分词（中文）、判断网页类型、分析超链接、计算网页的重要度/丰富度等。 3、提供检索服务。用户输入关键词进行检索，搜索引擎从索引数据库中找到匹配该关键词的网页；为了用户便于判断，除了网页标题和URL外，还会提供一段来自网页的摘要以及其他信息。 搜索引擎基本工作原理 2搜索引擎 在搜索引擎分类部分我们提到过全文搜索引擎从网站提取信息建立网页数据库 的概念。搜索引擎的自动信息搜集功能分两种。一种是定期搜索，即每隔一段时间（比如Google一般是28天），搜索引擎主动派出“蜘蛛”程序，对一定IP 地址范围内的互联网站进行检索，一旦发现新的网站，它会自动提取网站的信息和网址加入自己的数据库。 另一种是提交网站搜索，即网站拥有者主动向搜索引擎提交网址，它在一定时间内（2天到数月不等）定向向你的网站派出“蜘蛛”程序，扫描你的网站并将有关信息存入数据库，以备用户查询。由于搜索引擎索引规则发生了很大变化，主动提交网址并不保证你的网站能进入搜索引擎数据库，因此目前最好的办法是多获得一些外部链接，让搜索引擎有更多机会找到你并自动将你的网站收录。 当用户以关键词查找信息时，搜索引擎会在数据库中进行搜寻，如果找到与用户要求内容相符的网站，便采用特殊的算法——通常根据网页中关键词的匹配程度，
搜索引擎基本原理 一．全文搜索引擎 在搜索引擎分类部分我们提到过全文搜索引擎从网站提取信息建立网页数据库的概念。搜索引擎的自动信息搜集功能分两种。一种是定期搜索，即每隔一段时间（比如Google一般是28天），搜索引擎主动派出“蜘蛛”程序，对一定IP地址范围内的互联网站进行检索，一旦发现新的网站，它会自动提取网站的信息和网址加入自己的数据库。 另一种是提交网站搜索，即网站拥有者主动向搜索引擎提交网址，它在一定时间内（2天到数月不等）定向向你的网站派出“蜘蛛”程序，扫描你的网站并将有关信息存入数据库，以备用户查询。由于近年来搜索引擎索引规则发生了很大变化，主动提交网址并不保证你的网站能进入搜索引擎数据库，因此目前最好的办法是多获得一些外部链接，让搜索引擎有更多机会找到你并自动将你的网站收录。 当用户以关键词查找信息时，搜索引擎会在数据库中进行搜寻，如果找到与用户要求内容相符的网站，便采用特殊的算法——通常根据网页中关键词的匹配程度，出现的位置/频次，链接质量等——计算出各网页的相关度及排名等级，然后根据关联度高低，按顺序将这些网页链接返回给用户。 二．目录索引 与全文搜索引擎相比，目录索引有许多不同之处。 首先，搜索引擎属于自动网站检索，而目录索引则完全依赖手工操作。用户提交网站后，目录编辑人员会亲自浏览你的网站，然后根据一套自定的评判标准甚至编辑人员的主观印象，决定是否接纳你的网站。 其次，搜索引擎收录网站时，只要网站本身没有违反有关的规则，一般都能登录成功。而目录索引对网站的要求则高得多，有时即使登录多次也不一定成功。
尤其象Yahoo!这样的超级索引，登录更是困难。（由于登录Yahoo!的难度最大，而它又是商家网络营销必争之地，所以我们会在后面用专门的篇幅介绍登录Yahoo雅虎的技巧） 此外，在登录搜索引擎时，我们一般不用考虑网站的分类问题，而登录目录索引时则必须将网站放在一个最合适的目录（Directory）。 最后，搜索引擎中各网站的有关信息都是从用户网页中自动提取的，所以用户的角度看，我们拥有更多的自主权；而目录索引则要求必须手工另外填写网站信息，而且还有各种各样的限制。更有甚者，如果工作人员认为你提交网站的目录、网站信息不合适，他可以随时对其进行调整，当然事先是不会和你商量的。 目录索引，顾名思义就是将网站分门别类地存放在相应的目录中，因此用户在查询信息时，可选择关键词搜索，也可按分类目录逐层查找。如以关键词搜索，返回的结果跟搜索引擎一样，也是根据信息关联程度排列网站，只不过其中人为因素要多一些。如果按分层目录查找，某一目录中网站的排名则是由标题字母的先后顺序决定（也有例外）。 目前，搜索引擎与目录索引有相互融合渗透的趋势。原来一些纯粹的全文搜索引擎现在也提供目录搜索，如Google就借用Open Directory目录提供分类查询。而象 Yahoo! 这些老牌目录索引则通过与Google等搜索引擎合作扩大搜索范围。在默认搜索模式下，一些目录类搜索引擎首先返回的是自己目录中匹配的网站，如国内搜狐、新浪、网易等；而另外一些则默认的是网页搜索，如Yahoo。
作者声明 本人郑重声明：所呈交的学位是本人在导师的指导下独立进行研究所取得的研究成果。除了文中特别加以标注引用的内容外，本不包含任何其他个人或集体已经发表或撰写的成果作品。 本人完全了解有关保障、使用学位的规定，同意学校保留并向有关学位管理机构送交的复印件和电子版。同意省级优秀学位评选机构将本学位通过影印、缩印、扫描等方式进行保存、摘编或汇编；同意本被编入有关数据库进行检索和查阅。 本学位内容不涉及国家机密。 题目：全文搜索引擎的设计与实现 作者单位：江汉大学数学与计算机科学学院 作者签名：XXX 20XX年 5 月 20 日
学士学位 题目全文搜索引擎的设计与实现 （英文） Full-text search engine design and Implementation 学院数学与计算机科学学院 专业计算机科学与技术 班级 B09082021 姓名 XXX 学号 20XX08202137 指导老师 YYY 20XX 年5月20日
摘要 目前定制和维护搜索引擎的需求越来越大，对于处理庞大的网络数据，如何有效的去存储它并访问到我们需要的信息，变得尤为重要。Web搜索引擎能有很好的帮助我们解决这一问题。 本文阐述了一个全文搜索引擎的原理及其设计和实现过程。该系统采用B/S模式的Java Web平台架构实现，采用Nutch相关框架，包括Nutch，Solr，Hadoop,以及Nutch 的基础框架Lucene对全网信息的采集和检索。文中阐述了Nutch相关框架的背景，基础原理和应用。 Nutch相关框架的出现，使得在java平台上构建个性化搜索引擎成为一件简单又可靠的事情。Nutch 致力于让每个人能很容易, 同时花费很少就可以配置世界一流的Web 搜索引擎。目前国内有很多大公司，比如百度、雅虎，都在使用Nutch相关框架。由于Nutch是开源的，阅读其源代码，可以让我们对搜索引擎实现有更加深刻的感受，并且能够更加深度的定制需要的搜索引擎实现细节。 本文首先介绍了课题研究背景，然后对系统涉及到的理论知识，框架的相关理论做了详细说明，最后按照软件工程的开发方法逐步实现系统功能。 关键词 Nutch、Solr、Hadoop、Lucene、搜索引擎
搜索引擎工作原理 在搜索引擎的后台，有一些收集网页信息的程序。收集到的信息一般是能够表明网站内容的关键词或短语。然后，信息的索引存储在数据库中。 搜索引擎的系统架构和操作模式吸收了信息检索系统设计中的许多宝贵经验，并根据万维网数据和用户的特点进行了许多修改。其核心文档处理和查询处理的过程基本上是类似传统信息检索系统的工作原理,但它处理的数据对象的复杂特征,也就是说,万维网数据,确定搜索引擎系统必须调整其系统结构,以满足数据处理和用户查询的需求搜索引擎的基本工作原理包括如下三个过程：首先在互联网中发现、搜集网页信息；同时对信息进行提取和组织建立索引库；再由检索器根据用户输入的查询关键字，在索引库中快速检出文档，进行文档与查询的相关度评价，对将要输出的结果进行排序，并将查询结果返回给用户。 3、1、抓取网页。每个独立的搜索引擎都有自己的网页抓取程序爬虫（spider）。爬虫Spider顺着网页中的超链接，从这个网站爬到另一个网站，通过超链接分析连续访问抓取更多网页。被抓取的网页被称之为网页快照。由于互联网中超链接的应用很普遍，理论上，从一定范围的网页出发，就能搜集到绝大多数的网页。 4、2、处理网页。搜索引擎抓到网页后，还要做大量的预处理工作，才能提供检索服务。其中，最重要的就是提取关键词，建立索引库和索引。其他还包括去除重复网页、分词（中文）、判断网页类型、分
析超链接、计算网页的重要度/丰富度等。 5、提供检索服务。用户输入关键词进行检索，搜索引擎从索引数据库中找到匹配该关键词的网页；为了用户便于判断，除了网页标题和URL外，还会提供一段来自网页的摘要以及其他信息。 在搜索引擎分类部分我们提到过全文搜索引擎从网站提取信息建立网页数据库的概念。搜索引擎的自动信息搜集功能分两种。一种是定期搜索，即每隔一段时间（比如Google一般是28天），搜索引擎主动派出“蜘蛛”程序，对一定IP地址范围内的互联网站进行检索，一旦发现新的网站，它会自动提取网站的信息和网址加入自己的数据库。 另一种是提交网站搜索，即网站拥有者主动向搜索引擎提交网址，它在一定时间内（2天到数月不等）定向向你的网站派出“蜘蛛”程序，扫描你的网站并将有关信息存入数据库，以备用户查询。由于搜索引擎索引规则发生了很大变化，主动提交网址并不保证你的网站能进入搜索引擎数据库，因此目前最好的办法是多获得一些外部链接，让搜索引擎有更多机会找到你并自动将你的网站收录。 当用户以关键词查找信息时，搜索引擎会在数据库中进行搜寻，如果找到与用户要求内容相符的网站，便采用特殊的算法——通常根据网页中关键词的匹配程度，出现的位置、频次，链接质量等——计算出各网页的相关度及排名等级，然后根据关联度高低，按顺序将这些网页链接返回给用户。
以及其他信息。 搜索引擎基本工作原理
与全文搜索引擎相比，目录索引有许多不同之处。 首先，搜索引擎属于自动网站检索，而目录索引则完全依赖手工操作。用户提交网站后，目录编辑人员会亲自浏览你的网站，然后根据一套自定的评判标准甚至编辑人员的主观印象，决定是否接纳你的网站。 其次，搜索引擎收录网站时，只要网站本身没有违反有关的规则，一般都能登录成功。而目录索引对网站的要求则高得多，有时即使登录多次也不一定成功。尤其象Yahoo!这样的超级索引，登录更是困难。 此外，在登录搜索引擎时，我们一般不用考虑网站的分类问题，而登录目录索引时则必须将网站放在一个最合适的目录（Directory）。 最后，搜索引擎中各网站的有关信息都是从用户网页中自动提取的，所以用户的角度看，我们拥有更多的自主权；而目录索引则要求必须手工另外填写网站信息，而且还有各种各样的限制。更有甚者，如果工作人员认为你提交网站的目录、网站信息不合适，他可以随时对其进行调整，当然事先是不会和你商量的。 目录索引，顾名思义就是将网站分门别类地存放在相应的目录中，因此用户在查询信息时，可选择关键词搜索，也可按分类目录逐层查找。如以关键词搜索，返回的结果跟搜索引擎一样，也是根据信息关联程度排列网站，只不过其中人为因素要多一些。如果按分层目录查找，某一目录中网站的排名则是由标题字母的先后顺序决定（也有例外）。 目前，搜索引擎与目录索引有相互融合渗透的趋势。原来一些纯粹的全文搜索引擎现在也提供目录搜索，如Google就借用Open Directory目录提供分类查询。而象Yahoo! 这些老牌目录索引则通过与Google等搜索引擎合作扩大搜索范围（注），在默认搜索模式下，一些目录类搜索引擎首先返回的是自己目录中匹配的网站，如国内搜狐、新浪、网易等；而另外一些则默认的是网页搜索，如Yahoo。 新竞争力通过对搜索引擎营销的规律深入研究认为：搜索引擎推广是基于网站内容的推广——这就是搜索引擎营销的核心思想。这句话说起来很简单，如果仔细分析会发现，这句话的确包含了搜索引擎推广的一般规律。本文作者在“网站推广策略之内容推广思想漫谈”一文中提出一个观点：“网站内容不仅是大型ICP网站的生命源泉，对于企业网站网络营销的效果同样是至关重要的”。因为网站内容本身也是一种有效的网站推广手段，只是这种推广需要借助于搜索引擎这个信息检索工具，因此网站内容推广策略实际上也就是搜索引擎推广策略的具体应用。 百度谷歌 编辑 查询处理以及分词技术 随着搜索经济的崛起，人们开始越加关注全球各大搜索引擎的性能、技术和日流量。作为企业，会根据搜索引擎的知名度以及日流量来选择是否要投放广告等；作为普通网民，会根据搜索引擎的性能和技术来选择自己喜欢的引擎查找资料；作为技术人员，会把有代表性的搜索引擎作为研究对象。搜索引擎经济的崛起，又一次向人们证明了网络所蕴藏的巨大商机。网络离开了搜索将只剩下空洞杂乱的数据，以及大量等待去费力挖掘的金矿。
全文搜索引擎的设计与实现 前言 面对海量的数字化信息，搜索引擎技术帮助我们在其中发现有价值的信息与资源。我们可以通过google、百度这样的搜索引擎服务提供商帮助我们在Internet上搜索我们需要的信息。但是在一些没有或不便于连入Internet的内部网络或者是拥有海量数据存储的主机，想要通过搜索来发现有价值的信息和资源却不太容易。所以开发一个小型全文搜索引擎，实现以上两种情况下的信息高效检索是十分有必要的。本设计着眼于全文搜索引擎的设计与实现，利用Java ee结合Struts,Spring,Hibernates以及Ajax等框架技术，实现基于apache软件基金会开源搜索引擎框架Lucene下的一个全文搜索引擎。 正文 搜索引擎技术起源1990年，蒙特利尔大学学生Alan Emtage、Peter Deutsch和Bill Wheelan出于个人兴趣，发明了用于检索、查询分布在各个FTP主机中的文件Archie，当时他们的目的仅仅是为了在查询文件时的方便，他们未曾预料到他们的这一创造会成就日后互联网最的广阔市场，他们发明的小程序将进化成网络时代不可或缺的工具——搜索引擎。1991年，在美国CERFnet、PSInet及Alternet网络组成了CIEA （商用Internet 协会）宣布用户可以把它们的Internet子网用于商业用途，开始了Internet商业化的序幕。商业化意味着互联网技术不再为科研和军事领域独享，商业化意味着有更多人可以接触互联网，商业化更意味着潜在的市场和巨大的商机。1994年，Michael Mauldin推出了最早的现代意义上的搜索引擎Lycos，互联网进入了搜索技术的应用和搜索引擎快速发展时期。以上是国际互联网和搜索引擎发展历史上的几个重要日子。互联网从出现至今不过15年左右时间，搜索引擎商业化运作也就10年左右。就在这短短的10年时间里，互联网发生了翻天覆地的变化，呈爆炸性增长。于此同时也成就了google、百度这样的互联网巨头。今天，当我们想要在这片广阔的信息海洋中及时获得想要查找的信息时，已经离不开搜索引擎了。 相关技术
第二讲：百度搜索引擎及工作原理 一、百度搜索引擎及工作原理？ 1、抓取： 搜索引擎蜘蛛又叫爬虫或机器人，是一套信息抓取的程序，百度蜘蛛是通过网络上链接来爬取、搜集网页上的内容信息。 分为深度抓取和广度抓取，怎么让蜘蛛来抓取呢？一般有三种途径：外链、主动提交链接、蜘蛛自己来。我们可以通过服务器日志及百度站长平台抓取频率来判断蜘蛛是否来抓取网页了。在抓取的过程当中影响蜘蛛抓取的因素有路径（过长、中文）以及服务器打开速度。 2、过滤： 通过过滤系统将一些低质量的垃圾内容过滤掉,比如说复制来的，采集来的，主题内容不相关的无价值内容，不够丰富的内容（内容是否为高质量、稀缺性内容）通通过滤掉。 另外，对于一些无法识别的：js、没有添加alt属性的图片、视频上下方没有加加文字说明的、flash、iframe框架结构、登录页面都会过滤掉。 3、收录：
将通过过滤模块的页面储存在索引库里，我们称之为收录。 怎么查询呢？直接在搜索框内输入网址即可查询是否被收录了，查询整个网站收录量用到site指令：site+域名 收录了并不一定有排名，它是网页参与排名的前提条件并非充分条件。只有网站单个页面权重提升了整个网站权重才会更高更强大。 搜索引擎对网站的信任度非常重要，是一个长期积累过程，最终可以达到一个秒收的程度。 4、排序： 通过百度算法系统进行评分，来计算页面的综合得分情况进行排序，最后展现在搜索引擎的搜索结果页中。 因此，我们必须研究搜索引擎排名机制和影响页面排名的因素有哪些。 二、你知道网站不收录的原因有哪些？ 1、有没有通知蜘蛛来或对蜘蛛有没有进行封禁 2、页面内容质量低 3、排名周期（观察期） 4、网页内容是否能够被蜘蛛识别
搜索引擎到工作原理 第一节搜索引擎的定义和功能构成 所谓“搜索引擎”，说到底是一个计算机应用软件系统，或者说是一个网络应用软件系统。从网络用户的角度看，它根据用户提交的类自然语言查询词或者短语，返回一系列很可能与该查询相关的网页信息，供用户进一步判断和选取。为了有效地做到这一点，它大致上被分成三个功能模块，或者三个子系统：即网页搜集，预处理和查询服务。 应该指出，在实践中这三个部分是相对独立的，它们的工作形成了搜索引擎工作的三个阶段，通常分别由人工启动。同时我们注意到，在早期的搜索引擎中，系统处理的网页数量少，预处理部分的工作比较简单，只是涉及到汉语的分词（英文还没有这个问题）和建索引，因此也有将分词合并到网页搜集过程中，将建索引归到查询服务子系统中，从而整个系统看起来只有两个模块的安排。 图片一：搜索引擎三段式工作原理模式图 第二节、网页搜集 搜索引擎这样一个软件系统应该是何种工作方式？如果说软件系统是工作在某还是即时。我们都有经验，在网络比较畅通的引擎服务的基础应该是一批预先搜集好的网页个数据集合上的程序的话，这个软件系统操作的数据不仅包括内容不可预测的用户查询，还要包括在数量上动态变化的海量网页，并且这些网页不会主动送到系统来，而是需要由系统去抓取。 首先，我们考虑抓取的时机：事先情况下，从网上下载一篇网页大约需要1秒钟左右，因此如果在用户查询的时候即时去网上抓来成千上万的网页，一个个分析处理，和用户的查询匹配，不可能满足搜索引擎的响应时间要求。不仅如此，这样做的系统效益也不高（会重
复抓取太多的网页）；面对大量的用户查询，不可能想象每来一个查询，系统就到网上“搜索”一次。 因此我们看到，大规模引擎服务的基础应该是一批预先搜集好的网页（直接或者间接1）。这一批网页如何维护？可以有两种基本的考虑。 定期搜集，每次搜集替换上一次的内容，我们称之为“批量搜集”。由于每次都是重新来一次，对于大规模搜索引擎来说，每次搜集的时间通常会花几周。而由于这样做开销大，较通常两次搜集的间隔时间也不会很短（例如早期天网的版本大约每3个月来一次，Google在一段时间曾是每隔28天来一次）。这样做的好处是系统实现比较简单，主要缺点“是时新性”（freshness）不高，还有重复搜集所带来的额外带宽的消耗。 增量搜集，开始时搜集一批，往后只是（1）搜集新出现的网页，（2）搜集那些在上次 搜集后有过改变的网页，（3）发现自从上次搜集后已经不再存在了的网页，并从库中删除。由于除新闻网站外，许多网页的内容变化并不是很经常的（有研究指出50%网页的平均生 命周期大约为50天，这样做每次搜集的网页量不会很大（例如我们在2003年初估计中 国每天有30-50万变化了的网页），于是可以经常启动搜集过程（例如每天）。30万网页，一台PC机，在一般的网络条件下，半天也就搜集完了。这样的系统表现出来的信息时 新性就会比较高，主要缺点是系统实现比较复杂；这种复杂还不仅在于搜集过程，而是还 在于下面要谈到的建索引的过程。 上面讲的是系统网页数据库维护的基本策略。在这两种极端的情况之间也可能有一些折中的方案，J. Cho博士在这方面做过深入的研究[Cho and Garcia-Molina,2000]，[Cho,2002]， 根据一种网页变化模型和系统所含内容时新性的定义，提出了相应优化的网页搜集策略。其 中一个有趣的结论是：在系统搜集能力一定的情况下，若有两类网页（例如“商业”和“教育”），它们的更新周期差别很大（例如“商业”类网页平均更新周期是“天”，而“教育”类 网页平均更新周期是“月”），则系统应该将注意力放在更新慢的网页上[Cho and Garcia-Molina,2000]，以使系统整体的时新性达到比较高的取值。 在具体搜集过程中，如何抓取一篇篇的网页，也可以有不同的考虑。最常见的一种是所 谓“爬取”：将Web上的网页集合看成是一个有向图，搜集过程从给定起始URL集合S （或者说“种子”）开始，沿着网页中的链接，按照先深、先宽、或者某种别的策略遍历，不 停的从S中移除URL，下载相应的网页，解析出网页中的超链接URL，看是否已经被访 问过，将未访问过的那些URL加入集合S。整个过程可以形象地想象为一个蜘蛛（spider）在蜘蛛网（Web）上爬行（crawl）。后面我们会看到，真正的系统其实是 多“个蜘蛛”同时在爬。 这种方式的好处除了概念很漂亮，一般实现起来也不困难外，还有很重要的一条是容易通过一定的策略，使搜集到的网页相对比较“重要”。前面提过，任何搜索引擎是不可能将Web 上的网页搜集完全的，通常都是在其他条件的限制下决定搜集过程的结束（例如磁盘满，或者搜集时间已经太长了）。因此就有一个尽量使搜到的网页比较重要的问题，这对于那些并不追求很大的数量覆盖率的搜索引擎特别重要。研究表明，按照先宽搜索方式得到的网页集合要比先深搜索得到的集合重要（这里当然有一个重要性的指标问题）。这种方式的一个困难是要从每一篇网页中提取出所含的URL。由于HTML的灵活性，其中出现URL的方式各种各样，将这个环节做得彻底不容易（例如我们现在还没有很好的简单办法从JavaScript 脚本中提取URL）。同时，由于Web 的“蝴蝶结”形状，这种方式搜集到的网页不大会超过所有目标网页数量2的2/3。 另外一种可能的方式是在第一次全面网页搜集后，系统维护相应的URL集合S，往 后的搜集直接基于这个集合。每搜到一个网页，如果它发生变化并含有新的URL，则将它们 对应的网页也抓回来，并将这些新URL也放到集合S中；如果S中某个url对应的
参数，然后对相应站点进行抓取。 在这里，我要说明一下，就是针对百度来说，site的数值并非是蜘蛛已抓取你页面的数值。比 如site:https://www.doczj.com/doc/398977654.html,，所得出的数值并不是大家常说的百度收录数值，想查询具体的百度收录量应该在百度提供的站长工具里查询索引数量。那么site是什么？这个我会在今后的文章中为大家讲解。 那么蜘蛛如何发现新链接呢？其依靠的就是超链接。我们可以把所有的互联网看成一个有向集合的聚集体，蜘蛛由起始的URL集合A沿着网页中超链接开始不停的发现新页面。在这个过程中，每发现新的URL都会与集合A中已存的进行比对，若是新的URL，则加入集合A中，若是已在集合A中存在，则丢弃掉。蜘蛛对一个站点的遍历抓取策略分为两种，一种是深度优先，另一种就是宽度优先。但是如果是百度这类商业搜索引擎，其遍历策略则可能是某种更加复杂的规则，例如涉及到域名本身的权重系数、涉及到百度本身服务器矩阵分布等。 二.预处理。 预处理是搜索引擎最复杂的部分，基本上大部分排名算法都是在预处理这个环节生效。那么搜索引擎在预处理这个环节，针对数据主要进行以下几步处理： 1.提取关键词。 蜘蛛抓取到的页面与我们在浏览器中查看的源码是一样的，通常代码杂乱无章，而且其中还有很多与页面主要内容是无关的。由此，搜索引擎需要做三件事情：代码去噪。去除掉网页中所有的代码，仅剩下文本文字。②去除非正文关键词。例如页面上的导航栏以及其它不同页面共享的公共区域的关键词。③去除停用词。停用词是指没有具体意义的词汇，例如“的”“在”等。 当搜索引擎得到这篇网页的关键词后，会用自身的分词系统，将此文分成一个分词列表，然后储存在数据库中，并与此文的URL进行一一对应。下面我举例说明。 假如蜘蛛爬取的页面的URL是https://www.doczj.com/doc/398977654.html,/2.html，而搜索引擎在此页面经过上述操作后提取到的关键词集合为p，且p是由关键词p1,p2,……,pn组成，则在百度数据库中，其相互间的关系是一一对应，如下图。
认识搜索引擎 作者：中国点击金灵 发布日期：10-14-2003 发送本文给你的朋友生成打印机友好页面 从用户角度来看，搜索引擎(Search Engine)是互联网上查找信息的重要工具，帮助人们在茫茫网海中搜寻到所需要的信息；从技术角度来看，搜索引擎一个对互联网上的信息资源进行搜集整理，然后供用户查询的技术和系统，它包括信息搜集、信息整理和用户查询三部分。 按照搜索引擎的工作方式，分为下列4种类型的搜索引擎： （一）以蜘蛛程序为基础的全文搜索引擎(Crawler Based Search Engine) 这种搜索引擎通过蜘蛛程序（英文叫做Robot,Spider或Crawler）自动收录网页，是真正意义上的搜索引擎，国外的Google、Fast(AllTheWeb)、AltaVista、Inktomi都是属于这种类型的搜索引擎。国内的百度过去也是纯粹的全文搜索引擎，后来在搜索结果中引入竞价排名收费模式，当有关键字广告时，所有关键字广告出现在自然搜索结果的前面，国外还没有一个全文搜索引擎敢这么做，因为这会影响搜索引擎的质量。如果百度把关键字广告放在自然搜索结果的边上，而不是直接出现在自然搜索结果中，将是既不影响赚钱又不影响搜索质量的完美做法。 它的工作原理如下： 1.收集网页 搜索引擎定期派出蜘蛛程序自动访问互联网及网站，并沿着网页中的链接爬到其它网页，把爬过的所有网页收集回来。 2.建立网页索引数据库 由搜索引擎的分析索引系统程序对收集回来的网页进行分析，提取相关网页信息（包括网页所在URL、编码类型、页面内容包含的所有关键词、关键词位置、生成时间、大小、与其它网页的链接关系等），根据搜索引擎的相关法算法进行大量复杂的计算，得到每一个网页针对网页内容中及超链中关键词的相关度，然后用这些相关信息建立网页索引数据库。 3.在网页索引数据库中搜索排序 当用户在搜索引擎网站输入关键词搜索后，由搜索引擎的搜索系统程序从网页索引数据库中找到符合该关键词的所有相关网页。因为所有相关网页针对该关键词的相关度早已算好，所以只需按照现成的相关度数值排序，相关度越高，排名越靠前。最后，由搜索引擎的页面生成系统将搜索结果的链接地址和页面内容摘要等内容组织起来返回给用户。 （二）以人工为基础的分类目录(Editor Based Directory) 分类目录索完全依赖手工操作，用户提交网站后，目录编辑人员会亲自浏览所递交的网站，然后根据一套自定的评判标准甚至编辑人员的主观印象，来决定是否接纳所递交的网站，只有接纳的网站才被按照分类存入网址数据库中。分类目录将网站分门别类地存放在相应的目录中，因此用户在查询信息时，可选择关键词搜索，也可按分类目录逐层查索引找。分类目录虽然有搜索功能，但在严格意义上算不上是真正的搜索引擎，仅仅是按目录分类的网站链接列表而已。用户完全可以不用进行关键词查询，仅靠分类目录也可找到需要的信息。具有代表性的分类目录有雅虎(https://www.doczj.com/doc/398977654.html,)，Open Directory Project(https://www.doczj.com/doc/398977654.html,)、LookSmart(https://www.doczj.com/doc/398977654.html,)，国内的搜狐、新浪、网易上的目录索引服务也都属于这一类。 （三）以其它搜索引擎为基础的元搜索引擎(Meta Search Engine)
课题：信息检索工具的工作原理 课型：新授课 课时：1 课时 教学目标： 1．了解常用的英特网信息检索工具类型；能描述信息检索工具的基本工作原理和特点。 2．体验因特网信息检索工具的优缺点。 3. 掌握常用因特网信息检索工具的使用方法，能熟练使用信息检索工具获取所需信息。 内容分析： 本节为“因特网信息资源检索”中的重点部分，介绍了全文和目录索引类搜索引擎的工作原理，这是学习的重点。教材中通过搜索奥运信息的例子来说明在网上检索信息的过程， 以达到简化原理、帮助学生理解的目的。教学中应尽量选取贴近生活的例子来说明复杂的工 作原理，降低难度，以提高学生的检索能力为最终目的。 教学过程： 1．情境引入 已搜索一首歌曲为基础，提出问题：同学们想像一下信息检索工具该如何工作呢？有几种方法能达到，让学生们互相讨论，并展开对比讨论，选出最恰当的方法。 2．教学过程 方法一：全文搜索引擎的工作原理 （1）提出问题 ①去超市购买一枝钢笔的过程。 购物→描述商品特征→取货→交给顾客 ②利用全文搜索引擎查找夏季奥运会的由来，并观察操作的一般过程。如图 1-1 ～ 1-3 所示。 图 1-1 百度检索首页
图 1-2 百度检索结果页面 图 1-3 百度检索答案举例页面 总结 全文搜索引擎检索信息的过程： 搜索关键字或词→数据库中检索→搜索结果。 （2）通过上述范例引申 从专业的角度拓展给学生讲解搜索引擎的组成。 ①搜索器：负责定期地自动到各个网站上，把网页抓下来，并顺着上面的链接，持 续不断地抓取网页。 ②索引器：把搜索器抓来的网页进行分析，按照关键词句进行索引，并存入服务器 的数据库中。 ③检索器：面向用户，接收用户提交的查询字串，在索引数据库中查询，并将结果 反馈给用户。 巩固练习：搜索江苏省2012年高考方案 进一步总结，得出全文搜索引擎的工作包括三个过程。 ①搜索器在因特网中发现、搜集网页信息。 ②索引器对所搜集的信息进行提取和组织，并建立索引库。 ③由检索器根据用户输入的查询关键词，在索引库中快速检出相关文档，进行文档与查询内容的相关比较，对检出的结果进行排序，并将查询结果返回给用户。 方法二：目录索引类搜索引擎的基本工作原理 （1）提出问题 ①如果去学校图书馆借阅“短篇小说集”，该怎么去做，描述一般过程。 借阅图书→找书目→找相应书籍→从书架拿出 ②利用目录类搜索引擎查找“北京大学”的信息，如图 1-4 ～ 1-7所示。
搜索引擎按其工作方式主要可分为三种，分别是全文搜索引擎（Full Text Search Engine）、目录索引类搜索引擎（Search Index/Directory）和元搜索引擎（Meta Search Engine）。 全文搜索引擎是名副其实的搜索引擎，国外具代表性的有Google、Fast/AllTheWeb、AltaVista、Inktomi、Teoma、WiseNut等，国内著名的有百度（Baidu）。它们都是通过从互联网上提取的各个网站的信息（以网页文字为主）而建立的数据库中，检索与用户查询条件匹配的相关记录，然后按一定的排列顺序将结果返回给用户，因此他们是真正的搜索引擎。 从搜索结果来源的角度，全文搜索引擎又可细分为两种，一种是拥有自己的检索程序（Indexer），俗称“蜘蛛”（Spider）程序或“机器人”（Robot）程序，并自建网页数据库，搜索结果直接从自身的数据库中调用，如上面提到的7家引擎；另一种则是租用其他引擎的数据库，并按自定的格式排列搜索结果，如Lycos引擎。 目录索引 目录索引虽然有搜索功能，但在严格意义上算不上是真正的搜索引擎，仅仅是按目录分类的网站链接列表而已。用户完全可以不用进行关键词（Keywords）查询，仅靠分类目录也可找到需要的信息。目录索引中最具代表性的莫过于大名鼎鼎的Yahoo雅虎。其他著名的还有
Open Directory Project（DMOZ）、LookSmart、About等。国内的搜狐、新浪、网易搜索也都属于这一类。 元搜索引擎 (META Search Engine) 元搜索引擎在接受用户查询请求时，同时在其他多个引擎上进行搜索，并将结果返回给用户。著名的元搜索引擎有InfoSpace、Dogpile、Vivisimo等（元搜索引擎列表），中文元搜索引擎中具代表性的有搜星搜索引擎。在搜索结果排列方面，有的直接按来源引擎排列搜索结果，如Dogpile，有的则按自定的规则将结果重新排列组合，如Vivisimo。 搜索引擎？有哪些分类？ 1、全文搜索引擎又成为“关键字查询” 原理：参看以下资料 方法：参看以下资料 代表性的网站：百度
搜索引擎分类及工作原 理 WEIHUA system office room 【WEIHUA 16H-WEIHUA WEIHUA8Q8-
搜索引擎的分类及工作原理 姓名:XXX 班级:XXX 摘要：这篇论文是关于搜索引擎的分类及原理的分析。在浩瀚的网络资源中，搜索引擎（Search Engine）是一种网上信息检索工具，它能帮助用户迅速而全面地找到所需要的信息。它是一个集中了千千万万个站点的地方,主要功能是给人们搜索这些站点。它还会分门别类的把一些好的站点列出来，以方便人们查找资料，有了搜索引擎你就能很容易的找到你想要的内容或站点，因此掌握好使用搜索引擎对于任何上网的用户至关重要。一个好的搜索引擎，不仅数据库容量要大，更新频率、检索速度要快，支持对多语言的搜索，而且随着数据库容量的不断膨胀，还要能从庞大的资料库中精确地找到正确的资料。 关键词：搜索引擎工作原理分类蜘蛛搜集网站 1.前言 获得网站网页资料，能够建立数据库并提供查询的系统，我们都可以把它叫做搜索引擎。搜索引擎并不真正搜索互联网，它搜索的实际上是预先整理好的网页索引数据库。真正意义上的搜索引擎，通常指的是收集了因特网上几千万到几十亿个网页并对网页中的每一个词（即关键词）进行索引，建立索引数据库的全文搜索引擎。 当用户查找某个关键词的时候，所有在页面内容中包含了该关键词的网页都将作为搜索结果被搜出来。在经过复杂的算法进行排序后，这些结果将按照与搜索关键词的相关度高低，依次排列。 2.搜索引擎分类
搜索引擎按其工作方式主要可分为三种，分别是全文搜索引擎（Full Text Search Engine）、目录索引类搜索引擎（Search Index/Directory）和元搜索引擎（Meta Search Engine）。 全文搜索引擎 全文搜索引擎是从网站提取信息建立网页数据库。搜索引擎的自动信息搜集功能分两种。一种是定期搜索，即每隔一段时间搜索引擎主动派出“蜘蛛”程序，对一定IP地址范围内的互联网站进行检索，一旦发现新的网站，它会自动提取网站的信息和网址加入自己的数据库。 另一种是提交网站搜索，即网站拥有者主动向搜索引擎提交网址，它在一定时间内（2天到数月不等）定向向你的网站派出“蜘蛛”程序，扫描你的网站并将有关信息存入数据库，以备用户查询。由于近年来搜索引擎索引规则发生了很大变化，主动提交网址并不保证你的网站能进入搜索引擎数据库，因此目前最好的办法是多获得一些外部链接，让搜索引擎有更多机会找到你并自动将你的网站收录。 当用户以关键词查找信息时，搜索引擎会在数据库中进行搜寻，如果找到与用户要求内容相符的网站，便采用特殊的算法——通常根据网页中关键词的匹配程度，出现的位置/频次，链接质量等——计算出各网页的相关度及排名等级，然后根据关联度高低，按顺序将这些网页链接返回给用户。 目录索引 首先，搜索引擎属于自动网站检索，而目录索引则完全依赖手工操作。用户提交网站后，目录编辑人员会亲自浏览你的网站，然后根据一套自定的评判标准甚至编辑人员的主观印象，决定是否接纳你的网站。
一、搜索引擎引题 搜索引擎是什么？ 这里有个概念需要提一下。信息检索(Information Retrieval 简称IR) 和搜索(Search) 是有区别的，信息检索是一门学科，研究信息的获取、表示、存储、组织和访问，而搜索只是信息检索的一个分支，其他的如问答系统、信息抽取、信息过滤也可以是信息检索。 本文要讲的搜索引擎，是通常意义上的全文搜索引擎、垂直搜索引擎的普遍原理，比如Google、Baidu，天猫搜索商品、口碑搜索美食、飞猪搜索酒店等。 Lucene 是非常出名且高效的全文检索工具包，ES 和Solr 底层都是使用的Lucene，本文的大部分原理和算法都会以Lucene 来举例介绍。 为什么需要搜索引擎？ 看一个实际的例子：如何从一个亿级数据的商品表里，寻找名字含“秋裤”的商品。 使用SQL Like select * from item where name like '%秋裤%' 如上，大家第一能想到的实现是用like，但这无法使用上索引，会在大量数据集上做一次遍历操作，查询会非常的慢。有没有更简单的方法呢，可能会说能不能加个秋裤的分类或者标签，很好，那如果新增一个商品品类怎么办呢？要加无数个分类和标签吗？如何能更简单高效的处理全文检索呢？
使用搜索引擎 答案是搜索，会事先build 一个倒排索引，通过词法语法分析、分词、构建词典、构建倒排表、压缩优化等操作构建一个索引，查询时通过词典能快速拿到结果。这既能解决全文检索的问题，又能解决了SQL查询速度慢的问题。 那么，淘宝是如何在1毫秒从上亿个商品找到上千种秋裤的呢，谷歌如何在1毫秒从万亿个网页中找寻到与你关键字匹配的几十万个网页，如此大的数据量是怎么做到毫秒返回的。 二、搜索引擎是怎么做的？ Part1. 分词 分词就是对一段文本，通过规则或者算法分出多个词，每个词作为搜索的最细粒度一个个单字或者单词。只有分词后有这个词，搜索才能搜到，分词的正确性非常重要。分词粒度太大，搜索召回率就会偏低，分词粒度太小，准确率就会降低。如何恰到好处的分词，是搜索引擎需要做的第一步。 正确性&粒度 分词正确性 “他说的确实在理”，这句话如何分词？ “他-说-的确-实在-理”[错误语义] “他-说-的-确实-在理”[正确语义] 分词的粒度 “中华人民共和国宪法”，这句话如何分词？
搜索引擎的分类及工作原理 姓名:XXX 班级:XXX 摘要：这篇论文是关于搜索引擎的分类及原理的分析。在浩瀚的网络资源中，搜索引擎（Search Engine）是一种网上信息检索工具，它能帮助用户迅速而全面地找到所需要的信息。它是一个集中了千千万万个站点的地方,主要功能是给人们搜索这些站点。它还会分门别类的把一些好的站点列出来，以方便人们查找资料，有了搜索引擎你就能很容易的找到你想要的内容或站点，因此掌握好使用搜索引擎对于任何上网的用户至关重要。一个好的搜索引擎，不仅数据库容量要大，更新频率、检索速度要快，支持对多语言的搜索，而且随着数据库容量的不断膨胀，还要能从庞大的资料库中精确地找到正确的资料。 关键词：搜索引擎工作原理分类蜘蛛搜集网站 1.前言 获得网站网页资料，能够建立数据库并提供查询的系统，我们都可以把它叫做搜索引擎。搜索引擎并不真正搜索互联网，它搜索的实际上是预先整理好的网页索引数据库。真正意义上的搜索引擎，通常指的是收集了因特网上几千万到几十亿个网页并对网页中的每一个词（即关键词）进行索引，建立索引数据库的全文搜索引擎。 当用户查找某个关键词的时候，所有在页面内容中包含了该关键词的网页都将作为搜索结果被搜出来。在经过复杂的算法进行排序后，这些结果将按照与搜索关键词的相关度高低，依次排列。 2.搜索引擎分类 搜索引擎按其工作方式主要可分为三种，分别是全文搜索引擎（Full Text Search Engine）、目录索引类搜索引擎（Search Index/Directory）和元搜索引擎（Meta Search Engine）。 2.1全文搜索引擎 全文搜索引擎是从网站提取信息建立网页数据库。搜索引擎的自动信息搜集功能分两种。一种是定期搜索，即每隔一段时间搜索引擎主动派出“蜘蛛”程
【关键字】教学 全国中小学“教学中的互联网搜索”优秀教学案例评选 《全文搜索引擎的使用技巧》教案设计 一、教案背景 1、面向学生：中学 2、学科：信息技术 2、课时：1 二、教材分析 本节是宁夏回族自治区教育厅中小学教材审查委员会审定，电子工业出版社的《信息技术》八年级上第3单元利用网络资源中获得因特网上的资源，搜索引擎的使用技巧这一内容。在网络成为人们获得信息的主要来源之一的今天，利用网络来获得信息，也必然是学生必须学习的重要手段。搜索引擎的使用在小学四年级下册教材中学生已经学习过了，学生已经知道如何使用搜索引擎进行信息和资源的检索，在本课中教材着重要求学生归纳网络搜索引擎的使用技巧，并引导学生形成合法使用网络的意识，培养学生使用网络获得信息的能力。 三、教学目标： 1、知识与技能 ⑴了解搜索引擎的概念。 ⑵掌握全文搜索引擎的使用方法。 ⑶培养查找信息时关键词的提取和搜索方法的使用素养。 2、过程与方法 创设情境引入搜索引擎的使用，以任务驱动展开搜索引擎的学习。 3、情感态度与价值观 ⑴在日常生活和学习中遇到的问题我们可以使用搜索引擎来解决。 ⑵关注家乡，热爱生活，激发学生学习兴趣。 四、教学重点与难点： 全文搜索引擎的使用方法。（重点） 对查询信息关键词的分析提取及搜索引擎的使用方法的选择。（难点） 五、教学方法 任务驱动法，分组合作学习 导入：进入了信息时代，利用互联网帮助我们解决在学习和生活中遇到的问题，已经成为了现代人必须掌握的一项基本技能。如何通过搜索引擎在海量的网络世界中快速、准确地找到我们需要的信息则是这项技能的最高要求。中学生对网络已有所接触，不少学生可能也使用过搜索引擎，但事实上许多初中生对搜索引擎的基础知识和使用方法还只是一知半解，因此，通过信息技术课的学习使初中生对搜索引擎有一个简单的了解，并掌握搜索引擎基本的使用方法显得非常及时和必要。
搜索引擎的工作原理大致可以分为： 1、搜集信息：搜索引擎的信息搜集基本都是自动的。搜索引擎利用称为网络蜘蛛(spider)的自动搜索机器人程序来连上每一个网页上的超连结。机器人程序根据网页链到其他中的超链接，就象日常生活中所说的“一传十，十传百……”一样，从少数几个网页开始，连到数据库上所有到其他网页的链接。理论上，若网页上有适当的超连结，机器人便可以遍历绝大部分网页。 2、整理信息：搜索引擎整理信息的过程称为“建立索引”。搜索引擎不仅要保存搜集起来的信息，还要将它们按照一定的规则进行编排。这样，搜索引擎根本不用重新翻查它所有保存的信息而迅速找到所要的资料。想象一下，如果信息是不按任何规则地随意堆放在搜索引擎的数据库中，那么它每次找资料都得把整个资料库完全翻查一遍，如此一来再快的计算机系统也没有用。 3、接受查询：用户向搜索引擎发出查询，搜索引擎接受查询并向用户返回资料。搜索引擎每时每刻都要接到来自大量用户的几乎是同时发出的查询，它按照每个用户的要求检查自己的索引，在极短时间内找到用户需要的资料，并返回给用户。目前，搜索引擎返回主要是以网页链接的形式提供的，这些通过这些链接，用户便能到达含有自己所需资料的网页。通常搜索引擎会在这些链接下提供一小段来自这些网页的摘要信息以帮助用户判断此网页是否含有自己需要的内容。 以上是在百度搜索的结果。 下面谈一下我个人对FTP搜索的见解。 首先是第一步，搜集信息。每隔一段时间，派出“蜘蛛”程序。（我想这里的蜘蛛程序跟网页搜索引擎的“蜘蛛”程序是有所区别的。网页搜索引擎的“蜘蛛”程序是指自动访问互联网，并沿着任何网页中的所有URL爬到其它网页，不断重复这过程，并把爬过的所有网页收集回来的程序。而这里的“蜘蛛”程序，我猜是在某一个时刻，利用文件系统方面的类方法，自动历遍所有的已知的校内FTP站点的文件夹，然后把每一个文件的名字、大小、类型、地址、路径等相关信息收集回来的程序。） 第二步，整理信息。“蜘蛛”程序搜集回来的信息，输入数据库，这样的话，用户要查询的文件可以很快地得出，并且用户可以不必按照文件的名字来查询，以类型、大小等查询也是可以的，同时在给出查询结果的时候，可以按照大小、日期等来排序。 第三步，接受查询。用户登陆一个门户网站，就像北大天网那样，在搜索框里填入关键词，查询的类型，是否模糊查找等，这个页面就可以会把表单的内容传到服务器上、查询数据库，然后返回查询结果。还有支持用链接的方式，点击分类，然后可以浏览这个方面的信息，如下载排行、推荐下载等。 关于疑问方面，就是那个PNG图的构架不是很清楚，sniffer跟spider是什么关系呢？ 还有一个就是ipv6的问题，人大内不是有个ipv6的ftp吗？查询结果要标注是ipv6吗？