计算机新技术论文
论文题目：搜索引擎索引技术
课程名称：计算机新技术
专业：
班级：
学号：
姓名：
搜索引擎索引技术
摘要:近期两类国内搜索引擎技术的研究状况:爬虫系统性能优化技术研究及高级文件搜索引擎核心技术研究。爬虫系统性能优化侧重于:对爬行方式的优化实现海量信息源的高效索引;对URL 数据库存取算法的优化提高用户检索的响应速度。高级文件搜索引擎研究是通过对字符串匹配的扩展、属性过滤的扩展、查询结果优化排序、输出结果的优化选择等7 种核心技术的有效结合,丰富了文件搜引擎的功能。
关键词：互联网搜索引擎爬虫技术检索技术
搜索引擎作为网络信息搜寻的工具,它以一定的策略在互联网中搜集、发现信息,对信息进行理解、提取、组织和处理,并为用户提供检索服务。早期的搜索引擎将互联网中的资源服务器做为搜索的目标,并将收集的数据按概念进行分类,用户从分类引导中索取所需的信息资源。随着网络资源成几何量级增长, 这种方式很快就被淘汰。1994年,Spider 程序被应用到索引程序中,Yahoo 、Google等相继出现,搜索引擎技术在应用和性能方面得到长足进步。但至今,功能再强大的搜索引擎都仍然存在信息丢失、招回率不高、精确率不高等问题。用户需要更快、更准、更方便、更有效的查询服务成为搜索引擎技术发展研究追求的目标。2003 年3 月“全国首届搜索引擎和网上信息挖掘学术研讨会”在北京大学举行,该会收录论文30篇,基本反映了当前国内研究状况及进展,本文将其中最具代表性的Igloo1. 2 版网络搜索引擎和天网FTP 搜索引擎关键技术的研究状况做一介绍。
现在的数据库通常只是将信息简单地数字化和有序化,无法根据各类读者的需要组合成特定的知识体系。怎样让读者在众多信息源中迅速、直接选中自己所要检索的相关信息,能不能将信息整理、筛选,划分成许多类别分明、有特色的“知识块”,以利于读者使用呢? 知识仓库的出现,为我们解决相关问题提供了有效的技术手段。20 世纪90 年代,西方管理学家提出了知识管理的概念,认为采用现代信息技术和手段将信息加工整理成为知识,并对这些知识按照某种知识结构进行有效的管理,形成具有规定使用功能的数据仓库,也就是知识仓库。数字图书馆应用系统是进行数字化建设及整合各类数字资源的基础平台,它支持对知识和数字资源的采集、加工、处理、存储、归档、组织、发布和利用等全过程。知识仓库是数字图书馆资源建设的核心内容之一。随着信息数字化进程的加快,图书馆的工作重心开始向数字信息的描述、管理和服务转移。利用现代信息技术将更多的特色资源和常用资源数字化,通过DC 元数据的应用,可以对知识资源实现横向和纵向整合,通过建立DC、MARC 等多种元数据的关联,并以XML 结构的RDF 资源描述体系封装整合多种元数据,实现对数字资源的综合整合,最终实现文本、图像、音频、视频等不同媒体,图书、期刊、会议录、学位论文等不同类型,书目、文摘、索引、引文、综述、评论、全文等不同级次资源的链接,建立起文献、机构、人
物等科学研究所需的知识元素之间的联系和整合,从而形成知识因子的有序化,使知识的条目、事件、来源线索等相关信息形成有机的联系,成为具有特定知识结构功能的知识仓库。
1.爬虫系统性能优化技术研究
上海交通大学叶允明等的国家自然科学基金重大国际合作研究项目“Igloo 分布式爬虫系统的性能优化”研究介绍了一个大型的分布式爬虫系统Igloo1. 2 版所采用的性能优化的措施。
1.1高速通信与优雅爬行的折中
问题提出:
1)Web 资源的海量性,用15 天爬行全部网页的30 %(约10 亿个网页) 对“网络爬虫(Crawler) ”是巨大的挑战,如何在一个有效的时间内完成一次爬行互联网的任务?
2)Web 服务器同时有许多TCP 链接或在很短时间内下载大量的数据给服务器造成很大的负担,服务器将拒绝Crawler 访问,如何不影响Web 服务器和网络正常运行?
3) 分布式Crawler 中有大量的线程并行爬行,要同时访问DNS 服务器以对URL 进行域名解释,会给DNS 服务器造成很大的负载并可能导致它无法响应。
解决方案:
1) Igloo 分布式爬虫系统采用多机并行工作,它由多个爬虫组成,每个爬虫分布在不同的计算机上各自承担一部分网页的爬行任务,协同完成工作;系统采用多线程机制,让每个爬虫启动多线程并发的网页爬行,提高爬行速度。
2) 系统内设置一台主机担任任务协调器,协调器采用哈希分配算法为每个爬虫分配爬行的URL范围,确保每个爬虫根据分配策略均衡快速爬行。
3) 系统通过DNS 缓存机制来解决:DNS 解析器在解析URL 时,首先在本地的DNS 缓存中查找,如果找不到才转发给DNS 服务器,否则直接将缓存中的DNS 解析项返回。系统同时设计一个具有超时控制的DNS 解析器,保证DNS 解析的高效性。
1.2 URL 数据库快速存取
问题提出:
系统瓶颈的另一个因素是URL 数据库的存取操作,它关系到用户检索的响应速度。URL 数据库是以Trie 数据结构实现的,Trie 是一种快速索引的数据结构,而检索速度与URL 长度有关。但URL 数据结构无法全部存储在内存之中。
解决方案:
URL 数据库存取算法采用基于“滞后合并策略”,即URL 存取操作在内存中完成,使URL 存取客户不会因为磁盘I/ O 而阻塞,当该数据结构占用的内存空间超过一定的大小或每隔一定的周期,才启动一个线程将该内存驻留的Trie 与磁盘
文件中存储的Trie 数据结构进行合并,在合并时进行URL 的检索比较和插入。系统采用磁盘和内存交换的方式存取大数据结构的策略,保证Crawler 搜索到的百万级以上的数量级的URL 存取的高性能,URL 的内存命中率将近100 % ,同时也避免了DNS 服务器负载过重。
Web Crawler 是搜索引擎和Web 信息检索系统的基础,也是Web 挖掘中的模式抽取、链接分析等研究的必要前提。Crawler 系统Igloo1. 2 版采用分布式的系统结构,设计二级哈希映射算法对URL 进行高效分配;采用有效的性能优化方法保证爬行的同时不影响Web 服务器和网络的正常运行,目前Igloo系统作为Luka 搜索引擎的信息收集代理已正常运行了近两年,系统进一步完善研究仍在进行中。
2.高级文件搜索引擎核心技术研究
文件搜索引擎作为专业网络资源门户的搜索工具越来越受重视,其技术发展也日新月异,北京大学计算机科学系陈华等研究的国家985 项目,介绍“天网文件搜索引擎”从简单的FTP 搜索引擎发展成具有强大功能的高级文件搜索引擎的技术和方法。
早期的FTP 搜索引擎功能项比较简单,仅支持一些简单的操作,查询结果一般以换页方式显示。目前搜索引擎基本上可以实现指定站点的站内文件结果排序,以及在排序分类目录中二次查询。“天网文件搜索引擎”提供更加强大的搜索功能,介绍如下:
2.1 字符串匹配的扩展
问题提出:
早期搜索引擎可以实现字符串匹配功能,但对于大数据量请求,仍然影响搜索速度。
解决方案:
字符串匹配扩展可以增加搜索速度。以用户的查询串作为标签,把匹配结果建索引表,同时将索引表有时间限制地保存在文件Cache 中。再次查询时,可以先直接在Cache 中查看是否命中。该方案使再查询变得十分简便。以此逻辑,还可以将“子查询字符串+ 父查询字符串”作为标签进行保存。
2.2 属性过滤的扩展
问题提出:
文件属性和路径信息是一种非结构化数据,不能与时间等结构化的数据混在一起保存。
解决方案:
属性过滤的扩展可以实现文件分类与站内查询。
1) 将文件格式按文件扩展名进行分类,如图像(jpg、gif 、bmp. . . ) 、声音
(mp3、wav、cda. . . ) 、视频、压缩、文档、程序、源代码、目录、其他等,将其归属的所有扩展名统统集合在对应属性之下,建立文件类型库,以此解决非结构数据的文件类别过滤问题。只要文件属性中的站点IP 与用户要求的IP 相同,则属性过滤通过。
2) 建立两种搜索模式:简单搜索模式:属性过滤仅对文件类型和站点IP ;复杂搜索模式:属性过滤还包括文件大小、文件最后修改时间、精确匹配等较少用的操作。该方案区分不同请求的用户而建立的对应搜索模式,无疑加快了搜索速度,缩短显示结果的时间。
2.3 查询结果优化排序
解决方案:
1) 在现成的查询结果排序算法如快速排序、堆排序中加一个参数,解决同一个算法的各个不同属性间的排序,实现查询结果灵活、多种的优化排序。
2) 排序工作必须放在属性过滤之前,其服务器流程是:获得用户查询参数- 用户查询串与文件名字符串匹配(包括Cache 命中检测) - 结果排序- 属性过滤- 结果输出。
2.4 输出结果的优化选择
解决方案:
1) 智能式换页方案:将输出结果当前的起始显示项号对应的链接放在系统链接表中,以最大显示项数为间距生成有限个向前和向后的链接,实现用户保持鼠标不动情况下以相同间距的翻页。智能式换页中的CGI 程序向服务器提供起始显示结果号和每页的最大显示项数,然后经过服务器过滤,将可显示的结果信息返回给CGI ,这样大大的减少网络流量,降低运算代价。
2) 使用模板技术:新的模板技术将算法与界面分离,该方法使得搜索结果界面更为灵活,已实现提供中文简体、繁体,英文3 个版本。
2.5 支持分布搜集和分布搜索
问题提出:
处理大用户量请求和搜集范围的扩大。
解决方案:
1)将收集数据和查询服务分离,不影响用户的查询结果界面。
2)均衡多个查询服务器的查询负载。
2.6 外挂在线分析系统
问题提出:
FTP 站点的不稳定性,如何让用户在查询时既不影响查询速度,又能了解站点链接情况?解决方案:
1) 应用外挂的在线分析系统。系统每5 分钟扫描所有站点,记录站点链接情况,
对不在线的站点列表索引;查询服务器每10 分钟链接到外挂的已经按IP 顺序排列的系统中获得列表并输出站点是否链接的结果。
2) 将输出的结果按IP 属性存放在Cache 中,以便减少判断IP 是否在线工作的时间。
2.7 外挂分类目录列表
问题提出:
一方面,搜索引擎如果只提供一个输入框和一大堆复杂的表单对于普通用户会不知所措;另一方面,用户搜索的关键词十分有限,搜索请求经常无法返回。
解决方案:
1) 搜索引擎建立文件分类目录。分类目录可以较准确地对应查询结果,系统在每个分类目录中,保存常用的快捷方式,用户应用查询快捷方式获取查询结果。
2) 系统提供自动的快捷方式与文件分类相结合功能。当快捷方式增多时,系统自动进行两级分类,第一级分类与文件格式分类类似,如电影、音乐、程序等;第二级分类将上述类别再次按内容分类,如电影之下又分:动作片、言情片、侦探片等。上述方法既提高用户查询的精确度,又确保查询速度。近年来的研究使FTP 使用功能越来越方便,查全率和查准率大大提高,从专业化的工具变成大众化的网络文件资源的搜索入口。“天网文件搜索引擎”作为国内比较知名的FTP 搜索引擎已能胜任千万级文件的搜索任务,日访问人数已超过40 万人次,成为国内最大的,也是最主要的查找文件资源门户网站。我们期待着性能更加优化的、人性化的搜索引擎引导用户信息获取和利用。
搜索引擎检索技巧
搜索引擎 搜索引擎(search engine),1995年开始搜索引擎以一定的策略从网络收集、发现信息，对信息进行理解、提取、组织和处理，并为用户提供检索服务，从而起到信息导航的目的。 搜索引擎站－－－“网络门户”
1、搜索引擎的工作原理 信息的收集处理 信息的检索输出
2、搜索引擎的分类 搜索引擎按其工作方式主要可分为三种: 目录索引类搜索引擎（Search Index/Directory） 机器人搜索引擎(全文搜索引擎)（Full Text Search Engine）元搜索引擎（Meta Search Engine）
2、搜索引擎的分类（续） 目录式搜索引擎 目录式搜索引擎：以人工方式或半自动方式搜集信息，由编辑员查看信息之后，人工形成信息摘要，并将信息置于事先确定的分类框架中。信息大多面向网站，提供目录浏览服务和直接检索服务。 该类搜索引擎因为加入了人的智能，所以信息准确、导航质量高，缺点是需要人工介入、维护量大、信息量少、信息更新不及时。 这类搜索引擎的代表是：yahoo!、Galaxy、Open Directory……
2、搜索引擎的分类（续） 机器人搜索引擎 由一个称为蜘蛛（Spider）的机器人程序以某种策略自动地在互联网中搜集和发现信息，由索引器为搜集到的信息建立索引，由检索器根据用户的查询输入检索索引库，并将查询结果返回给用户。服务方式是面向网页的全文检索服务。 该类搜索引擎的优点是信息量大、更新及时、毋需人工干预，缺点是返回信息过多，有很多无关信息，用户必须从结果中进行筛选。 这类搜索引擎的代表是：AltaVista、Northern Light、Excite、Infoseek、Inktomi、FAST、Lycos、Google；国内代表为：百度等。
搜索引擎基本工作原理 目录 1工作原理 2搜索引擎 3目录索引 4百度谷歌 5优化核心 6SEO优化 ?网站url ? title信息 ? meta信息 ?图片alt ? flash信息 ? frame框架 1工作原理 搜索引擎的基本工作原理包括如下三个过程：首先在互联网中发现、搜集网页信息；同时对信息进行提取和组织建立索引库；再由检索器根据用户输入的查询关键字，在索引库中快速检出文档，进行文档与查询的相关度评价，对将要输出的结果进行排序，并将查询结果返回给用户。 1、抓取网页。每个独立的搜索引擎都有自己的网页抓取程序爬虫（spider）。爬虫Spider顺着网页中的超链接，从这个网站爬到另一个网站，通过超链接分析连续访问抓取更多网页。被抓取的网页被称之为网页快照。由于互联网中超链接的应用很普遍，理论上，从一定范围的网页出发，就能搜集到绝大多数的网页。 2、处理网页。搜索引擎抓到网页后，还要做大量的预处理工作，才能提供检索服务。其中，最重要的就是提取关键词，建立索引库和索引。其他还包括去除重
复网页、分词（中文）、判断网页类型、分析超链接、计算网页的重要度/丰富度等。 3、提供检索服务。用户输入关键词进行检索，搜索引擎从索引数据库中找到匹配该关键词的网页；为了用户便于判断，除了网页标题和URL外，还会提供一段来自网页的摘要以及其他信息。 搜索引擎基本工作原理 2搜索引擎 在搜索引擎分类部分我们提到过全文搜索引擎从网站提取信息建立网页数据库 的概念。搜索引擎的自动信息搜集功能分两种。一种是定期搜索，即每隔一段时间（比如Google一般是28天），搜索引擎主动派出“蜘蛛”程序，对一定IP 地址范围内的互联网站进行检索，一旦发现新的网站，它会自动提取网站的信息和网址加入自己的数据库。 另一种是提交网站搜索，即网站拥有者主动向搜索引擎提交网址，它在一定时间内（2天到数月不等）定向向你的网站派出“蜘蛛”程序，扫描你的网站并将有关信息存入数据库，以备用户查询。由于搜索引擎索引规则发生了很大变化，主动提交网址并不保证你的网站能进入搜索引擎数据库，因此目前最好的办法是多获得一些外部链接，让搜索引擎有更多机会找到你并自动将你的网站收录。 当用户以关键词查找信息时，搜索引擎会在数据库中进行搜寻，如果找到与用户要求内容相符的网站，便采用特殊的算法——通常根据网页中关键词的匹配程度，
中外搜索引擎研究的现状与发展 夏旭李健康 （第一军医大学图书馆广州510515） 摘要: 以WWW网络搜索引擎的发展历程为基础，综述了WWW网络搜索引擎的定义、检索机制、检索规则、词表应用、分类研究、比较研究等方面取得的新进展，探讨搜索引擎发展走向与思路。同时就目前中外搜索引擎普遍存在的问题进行分析，希能对国内中文搜索引擎的开发和准确、快速、全面检索WWW网络乃至因特网信息资源有所启示。 关键词：搜索引擎研究进展综述信息资源管理 由于因特网上信息资源内容广泛、时效性强、访问快速、网络交互搜寻、动态更新，而且还提供快速访问网上信息资源的各种搜索引擎(Search Engines)，用于快速搜索WWW网络乃至因特上的有用信息，使得通过WWW网络获取网络信息资源成为国内外研究的一大热点。基于网络的搜索引擎的研制与开发应用成为当前网络信息资源开发应用研究领域的热点。英文搜索引擎“GOOGLE”和中文搜索引擎“百度搜索”的推出，拉开了搜索引擎核心技术争夺战的序幕。可以预言，在今后一段相当长的时间里，搜索引擎还将有长足的发展和进步，检索功能将更趋向于集成化和更具亲和力、更显人性化。 1 搜索引擎的定义、检索机制、检索规则和词表应用 1.1 定义 搜索引擎，Search engines，又称搜索机，Web搜索器，是伴随WWW网络出现的检索网上信息资源的新工具。实质上是一种网页网址检索系统，有的提供分类和关键词检索途径，有的仅提供关键词检索途径。它根据检索规则和从其他信息服务器上得到数据并对数据进行加工处理，自动建立索引，并通过检索接口为用户提供信息查询服务，能够自动对WWW资源建立索引或进行主题分类，并通过查询语法为用户返回匹配资源的系统。搜索引擎主要是由Crawler、Spider、Worm、Robot等计算机软件程序自动在因特网上漫游，不断搜集各类新网址及网页，形成数以千万甚至上亿条记录的数据库。它是通过采集标引众多网络站点来提供全局性网络资源控制与检索机制、将全球WWW网络中所有信息资源作一完整的集合、整理和分类、方便用户查找所需信息的网络检索软件。具有检索面广、信息量大、信息更新速度快，特定主题的检索专指性强等特点。 1.1.1 常规搜索引擎和元搜索引擎 自带索引数据库的搜索引擎通常被称为常规搜索引擎或独立搜索引擎，相应地，集多种常规搜索引擎于一体的搜索引擎则称为（多）元搜索引擎。元搜索引擎是国外搜索引擎开发者新设计的一种集成型搜索引擎，与独立搜索引擎的区别在于：它是通过一个统一的用户界面帮助用户在多个独立搜索引擎中选择和利用合适的搜索引擎，甚至是同时利用多个搜索引擎来实现检索操作。元搜索引擎没有自己独立的数据库，却更多地提供统一界面，形成一个由多个搜索引擎构成的具有独立功能的虚拟逻辑体，通过元搜索引擎的功能实现对这个虚拟逻辑体中各搜索引擎数据库的查询等一切操作。由于元搜索引擎预先配置好多个搜索引擎，每条检索指令都自动通过预先配置的搜索引擎执行，免去了用户逐一记忆和单独使用每个搜索引擎的麻烦。主要的元搜索引擎有ALL-IN-ONE、CUSI、Fun City Web Search、HyperNews、Linksearch、Savvysearch、Metacrawler、Best Search、W3Search Engines、WebSearch、Profusion、Mamma、Avenuesearch、Dogpile、Kwikseek、Findspot、Bytesearch、Webferret、Bluesquirrel Webseeker等。Metacrawler (http://www. https://www.doczj.com/doc/8c7573358.html,)能同时调用６个搜索引擎；Savvysearch (http://www. https://www.doczj.com/doc/8c7573358.html,)可有选择地调用21个独立的搜索引擎，检索Web、Usenet 新闻组、软件、参考工具、技术报告等信息，每次最多并行检索５个搜索引擎的数据库。Profusion (http://www. https://www.doczj.com/doc/8c7573358.html,)最多同时调用９个独立的搜索引擎，调用方式有全部调用、系统自动选择最好的３个、系统自动选择最快的３个、用户从中选取任意个搜索引擎。最新出现的桌面型离线式搜索引擎如Webcompass、WebSeeker、WebFerret、Echosearch、Copernic98等也是元搜索引擎。 1.1.2 集中式搜索引擎和分布式搜索引擎
如何测试搜索引擎的索引量大小（前篇） 背景知识：搜索引擎的质量指标一般包括相关性（Relevance）、时效性（Freshness）、全面性（Comprehensiveness）和可用性（Usability）等四个方面，今天我们要谈的索引量就属于完整性指标的范畴。 首先需要注意的是，对于搜索引擎，网页的索引量和抓取量是不同的概念。搜索引擎的网页抓取数量一般都要远大于索引量，因为抓取的网页中包括很多内容重复或者作弊等质量不高的网页。搜索引擎需要根据算法从抓取的网页当中取其精华，去其糟粕，挑选出有价值的网页进行索引。因此，对用户而言，搜索引擎的索引量大小才更有意义。 其次，无限制增大索引量并不一定能保证搜索质量的提升。一方面，在全面性指标中，除索引量外，还需要考虑到收录网页的质量和不同类型网页的分布。另一方面，搜索引擎的质量指标体系要保证四方面的均衡发展，不是依靠单个指标的突破就可以改善的。目前包括雅虎中国在内的主流中文搜索引擎的网页索引量都在20 亿量级，基本上可以满足用户的日常查询需求。 然而，由于从外部无法直接测算出搜索引擎网页索引量的绝对值大小，很多搜索引擎服务商喜欢对外夸大自己的收录网页数，作为市场噱头。从1998年开始，Krishna Bharat和Andrei Broder就开始研究，如何通过第三方来客观比较不同搜索引擎索引量的大小。8年后，在今年5月份的WWW2006大会上，来自以色列的Ziv Bar-Yossef和Maxim Gurevich由于这方面的出色研究成果夺得了大会唯一的最佳论文奖。他们的研究算出了主流英文搜索引擎的索引量相对大小：雅虎是Google的1.28倍，Google是MSN的1.36倍。他们是如何算出这些数字的呢？下面我们将为搜索引擎爱好者介绍这个算法，以及探讨在中文搜索引擎上是如何应用的。 概述 搜索引擎的索引量或称覆盖率对搜索结果的相关性、时效性和找到率都具有深远的影响。出于市场运作的考虑，各大互联网搜索引擎不时对外公布自己索引的文档数量，然而这些数据往往不同程度地被加入了一些水份，可信度上有一个问号。因此，如何通过搜索引擎的公共接口，也就是通常所说的搜索框，比较客观、准确地测试它的索引量就成为了一个令人关注的问题。 图1 对搜索引擎的索引采样
实验一：全文搜索引擎和目录索引引擎的区别是什么？ 全文搜索引擎因为依靠软件进行，所以数据库的容量非常庞大，但是，它的查询结果往往不够准确。 分类目录依靠人工收集和整理网站，能够提供更为准确的查询结果，但收集的内容却非常有限。 1搜索引擎属于自动网站检索，而目录索引则完全依赖手工操作。 2搜索引擎收录网站时，只要网站本身没有违反有关的规则，一般都能登录成功；而目录索引对网站的要求则高得多，有时即使登录多次也不一定成功。 3当用于在登录搜索引擎时，我们一般不用考虑网站的分类问题，而登录目录索引时则必须将网站放在一个最合适的目录（Directory）。 4搜索引擎中各网站的有关信息都是从用户网页中自动提取的，所以用户的角度看，我们拥有更多的自主权；而目录索引则要求必须手工另外填写网站信息，而且还有各种各样的限制。因此，分类目录型搜索引擎营销方法与技术性搜索引擎的方式有很大的不同，需要充分了解这种区别，才能充分发挥各种不同搜索引擎的作用。 实验二：百度的广告策略如何策划的。谈谈你的看法。 百度的广告策略主要是通过搜索推广、网盟推广、增值服务（百度指数、百度统计、百度推广助手、百度商桥）、其他推广服务（百度图片推广、百度品牌专区、百度火爆地带）、专业客户服务等几项来进行的。 百度推广流程是： 1. 搜索：网民在百度搜索自己关注的关键词信息 2. 推广：企业的推广信息展现在关键词对应的搜索结果页 3. 点击：用户点击推广信息进入企业网站 4. 成交：通过沟通了解，双方达成交易 百度将互联网众多内容网站整合，建立了国内最具实力的联盟体系；百度联盟囊括了24个行业类别的优质网站，加盟合作网站累计超过30万家，影响力覆盖95%以上的中国网民。 百度品牌专区是在网页搜索结果最上方为著名品牌量身定制的资讯发布平台，是为提升网民搜索体验而整合文字、图片、视频等多种展现结果的创新搜索模式。 百度火爆地带是一种针对特定关键词的网络推广方式，按时间段固定付费，出现在百度网页搜索结果第一页的右侧，不同位置价格不同。 百度图片推广是一种针对特定关键词的网络推广方式，按时间段固定付费，出现在百度图片搜索结果第一页的结果区域，不同词汇价格不同。企业购买了图片推广关键词后，就会被主动查找这些关键词的用户找到并向其展示企业推广图片，给企业带来商业机会！ 实验三：各个搜索引擎对同类网站的收录情况是否相同？如果不相同，各个搜索引擎有什么特点？ 各个搜索引擎对同类网站的收录情况不尽相同。百度与谷歌属于全文引擎搜索，其网页数据库的更新速度也不相同，但收录网页数与更新的速度是谷歌比百度更快，内容更丰富。而雅
.html .asp/.aspx .php .jsp Html语言变量、函数、组建、流程、循环、结构 代码结构进行优化 URL 统一资源定位符号universal resources locator 网络地址 Filetype Intitle Inurl 美萍点播系统VOD down:43 Site: 在站内进行检索 Intext: Seo搜索引擎优化-》sem搜索引擎营销-》网络营销 【项目背景介绍】 信息社会，信息以爆炸式的方式增长，网络环境下，搜索引擎是我们通往目的地的必备武器，但是在浩如烟海的网络信息里面，很多网友都只会简单的搜索，往往不能够很好的达到搜索的目的，因此也无法完成对海量信息的综合处理。作为电子商务专业学生，如何高效的完成信息检索，无论是对个人依托网络进行的学习还是今后的网络商务工作，都十分重要。 【项目工具简介和环境要求】 互联网机房 能正常访问互联网、IE插件正常 【项目延伸思考题】 搜索引擎的商用价值 各类搜索引擎通用的高级搜索命令 提高网站被检索可能性的建议 【项目教学难点】 网站备案机制 网站支付流程的合理性 网站联系信息的真实性判断 【项目实施步骤】 项目简介—快速测试—软件包传送—学生自我摸索（安装、调试、搜索等）—手把手—应用场合分析—新模式联想 随着网络技术尤其是WWW站点的快速发展和普及，人们通过Internet获取全球信息的可能性越来越大。可以说，我们所需要的信息，绝大部分都可以通过因特网获取。但是网络信息内容庞杂、分散无序，各种有价值、所需的信息资源淹没在信息的“汪洋大海”中，给人们查询和利用网络信息资源带来了极大的不便。为了更有效地开发和利用网络信息资源，人们研制了许多网络信息检索工具，其中WWW是Internet上增长最快、使用最方便灵活的多媒体信息传输与检索系统，越来越多的用户将自己的信息以WWW的方式在网上发布。WWW服务器已称为互联网上数量最大和增长最快的信息系统，因而可以检索WWW网址网页以及新闻论坛、BBS文章的检索工具——搜索引擎称为查询网络信息的最主要的检索工具。 有人说，会搜索才叫会上网，搜索引擎在我们日常生活中的地位已是举足轻重。你也许是个刚买了“猫”兴冲冲地要上网冲浪，也许已经在互联网上蛰伏了好几年，无论怎样，要想在浩如烟海的互联网信息中找到自己所需的信息，都需要一点点技巧。对于企业而言，学习搜索，提高技巧，就能找到更多的潜在客户。
一种应用于搜索引擎的索引结构研究 ① 刘 畅 张 辉 (北京航空航天大学计算机学院 北京 100083) 摘 要 索引结构是搜索引擎的核心,直接影响着搜索引擎的检索性能。 本文提出了一种新的索引结构,该结构充分利用字符串前缀个数及排列顺序的潜在规律,在查找过程中有效地重用了先前的匹配信息,提高了检索的效率。 关键词:索引结构 搜索引擎 倒排文件中图分类号:TP391.1 Study of Index Structure which Supports the High E ff iciency of Searching Liu Chang Zhang H ui (Dept.of Computer Science and Technology ,BUAA ,Beijing 100083) Abstract :Index structure is the core of a search engine ,it has an influence on the performance of whole search engine direct 2ly.In this paper ,a new index structure is presented ,which takes full advantage of the latent rules about the suffix number and the order of string ,makes full use of the match information got in searching process ,consequently improves the searching efficiency. K ey w ords :structured text ,index structure ,inverted files Class number :TP391.1 1 引言 一个良好的索引结构可以在被检索数据规模庞大的情况下保证检索操作的速度,是实现高效率检索的一个决定性因素[1]。常用的文本索引形式有三类,分别是倒排文件,后缀数组和签名文件。一个搜索引擎可以选用上述任何一种形式的索引结构,但其中应用范围最广的是倒排文件[2]。 本文在倒排文件的基础上,充分利用了字符前缀及字符串排列顺序在索引结构及查找过程中的特点,提出了一种支持高效检索的索引结构。 2 搜索引擎的总体框架 本文所描述的搜索引擎的系统框架如图1所 图1 搜索引擎的基本组成 示,主要包含以下几个主要功能模块: (1)数据预处理,对数据进行预处理,形成一定格式的结构化文本文档。 (2)词语切分,对被检索文本进行切词处理,提取有独立意义的词语。 (3)索引建立,将切分后的词语及其相关信息提交给索引器,使其以一定格式保存在索引数据库中。 (4)查询预处理,调用词法分析器将查询表达式中的词语或模式分离出来,提交检索。 (5)检索,从索引数据库中获取匹配信息。(6)组合排序,对所有匹配信息进行组合和排序处理,实现词组查询、邻近查询或布尔查询等具体处理步骤,得到最终检索结果。 由上可知,索引数据库是整个搜索引擎框架的核心部分,索引器和检索器都是在此基础上工作的,它直接关系到整个搜索引擎的性能。下一节我们将详细介绍索引结构的设计。 3 索引结构的设计 对本文所述搜索引擎,为每个参加索引的文档 分派一个唯一的文档编号,将文本中所出现有独立意义的字符串称为项。我们将数据处理成为结构 ①收到本文时间:2005年1月17日
web搜索引擎的设计与实现
摘要 随着网络的迅猛发展。网络成为信息的极其重要的来源地，越来越多的人从网络上获取自己所需要的信息，这就使得像Google[40]，百度[39]这样的通用搜索引擎变成了人们寻找信息必不可少的工具。 本文在深入研究了通用搜索引擎基本原理、架构设计和核心技术的基础上，结合小型搜索引擎的需求，参照了天网，lucene等搜索引擎的原理，构建了一个运行稳定，性能良好而且可扩充的小型搜索引擎系统，本文不仅仅完成了对整个系统的设计，并且完成了所有的编码工作。 本文论述了搜索引擎的开发背景以及搜索引擎的历史和发展趋势，分析了小型搜索引擎的需求，对系统开发中的一些问题，都给出了解决方案，并对方案进行详细设计，编码实现。论文的主要工作及创新如下： 1.在深刻理解网络爬虫的工作原理的基础上，使用数据库的来实现爬虫部分。 2.在深刻理解了中文切词原理的基础之上，对lucene的切词算法上做出了改进的基础上设计了自己的算法，对改进后的算法实现，并进行了准确率和效率的测试，证明在效率上确实提高。 3.在理解了排序索引部分的原理之后，设计了实现索引排序部分结构，完成了详细流程图和编码实现，对完成的代码进行测试。 4.在完成搜索部分设计后，觉得效率上还不能够达到系统的要求，于是为了提高系统的搜索效率，采用了缓存搜索页面和对搜索频率较高词语结果缓存的两级缓存原则来提高系统搜索效率。 关键词：搜索引擎，网络爬虫，中文切词，排序索引
ABSTRACT With the rapidly developing of the network. Network became a vital information source, more and more people are obtaining the information that they need from the network,this making web search engine has become essential tool to people when they want to find some information from internet. In this paper, with in-depth study of the basic principles of general search engines, the design and core technology architecture, combining with the needs of small search engine and in the light of the "tianwang", lucene search engine, I build a stable, good performance and can be expanded small-scale search engine system, this article not only completed the design of the entire system, but also basically completed all the coding work. This article describle not only the background of search engines, but also the history of search engine developing and developing trends,and analyse the needs of small search engines and giving solutionsthe to the problems which was found in the development of the system ,and making a detailed program design, coding to achieve. The main thesis of the article and innovation are as follows: 1.with the deep understanding of the working principle of the network spider.I acheived network spider with using database system. 2.with the deep understanding of Chinese segmentation and segmentation algorithm of lucene system,I made my own segmentation algorithm,and give a lot of tests to my segmentation algorithm to provide that my segmentation algorithm is better. 3.with the deep understanding of sorted and index algorithm,I designed my own sorted and index algorithm with the data-struct I designed and coding it ,it was provided available after lots of tests. 4.after design of search part,I foud the efficiency of the part is not very poor,so I designed two-stage cache device to impove the efficiency of the system. Key words: search engine,net spider, Chinese segmentation,sorted and index
详细介绍常用的几类搜索引擎技术 因特网的迅猛发展、WEB信息的增加，用户要在信息海洋里查找信息，就像大海捞针一样，搜索引擎技术恰好解决了这一难题，它可以为用户提供信息检索服务。目前，搜索引擎技术正成为计算机工业界和学术界争相研究、开发的对象。 搜索引擎（Search Engine）是随着WEB信息的迅速增加，从1995年开始逐渐发展起来的技术。 据发表在《科学》杂志1999年7月的文章《WEB信息的可访问性》估计，全球目前的网页超过8亿，有效数据超过9TB，并且仍以每4个月翻一番的速度增长。例如，Google 目前拥有10亿个网址，30亿个网页，3.9 亿张图像，Google支持66种语言接口，16种文件格式，面对如此海量的数据和如此异构的信息，用户要在里面寻找信息，必然会“大海捞针”无功而返。 搜索引擎正是为了解决这个“迷航”问题而出现的技术。搜索引擎以一定的策略在互联网中搜集、发现信息，对信息进行理解、提取、组织和处理，并为用户提供检索服务，从而起到信息导航的目的。 目前，搜索引擎技术按信息标引的方式可以分为目录式搜索引擎、机器人搜索引擎和混合式搜索引擎；按查询方式可分为浏览式搜索引擎、关键词搜索引擎、全文搜索引擎、智能搜索引擎；按语种又分为单语种搜索引擎、多语种搜索引擎和跨语言搜索引擎等。 目录式搜索引擎 目录式搜索引擎（Directory Search Engine）是最早出现的基于ＷＷＷ的搜索引擎，以雅虎为代表，我国的搜狐也属于目录式搜索引擎。 目录式搜索引擎由分类专家将网络信息按照主题分成若干个大类，每个大类再分为若干个小类，依次细分，形成了一个可浏览式等级主题索引式搜索引擎，一般的搜索引擎分类体系有五六层，有的甚至十几层。 目录式搜索引擎主要通过人工发现信息，依靠编目员的知识进行甄别和分类。由于目录式搜索引擎的信息分类和信息搜集有人的参与，因此其搜索的准确度是相当高的，但由于人工信息搜集速度较慢，不能及时地对网上信息进行实际监控，其查全率并不是很好，是一种网站级搜索引擎。 机器人搜索引擎 机器人搜索引擎通常有三大模块：信息采集、信息处理、信息查询。信息采集一般指爬行器或网络蜘蛛，是通过一个URL列表进行网页的自动分析与采集。起初的URL并不多，随着信息采集量的增加，也就是分析到网页有新的链接，就会把新的URL添加到URL列表，以便采集。
搜索引擎分析 在当今的社会，上网成为了我们大部分人每天必不可少的一部分，网络具有太多的诱惑和开发的潜力，查询资料，消遣娱乐等等，但是这些大部分都离不开搜索引擎技术的应用。今天在我的这篇论文里将会对搜索引擎进行一个分析和相关知识的概括。就如大家所知道的互联网发展早期，以雅虎为代表的网站分类目录查询非常流行。网站分类目录由人工整理维护，精选互联网上的优秀网站，并简要描述，分类放置到不同目录下。用户查询时，通过一层层的点击来查找自己想找的网站。也有人把这种基于目录的检索服务网站称为搜索引擎，但从严格意义上讲，它并不是搜索引擎。1990年，加拿大麦吉尔大学计算机学院的师生开发出Archie。当时，万维网还没有出现，人们通过FTP来共享交流资源。Archie能定期搜集并分析FTP服务器上的文件名信息，提供查找分别在各个FTP主机中的文件。用户必须输入精确的文件名进行搜索，Archie告诉用户哪个FTP服务器能下载该文件。虽然Archie搜集的信息资源不是网页，但和搜索引擎的基本工作方式是一样的：自动搜集信息资源、建立索引、提供检索服务。所以，Archie被公认为现代搜索引擎的鼻祖。 搜索引擎是指根据一定的策略、运用特定的计算机程序从互联网上搜集信息，在对信息进行组织和处理后，为用户提供检索服务，将用户检索相关的信息展示给用户的系统。搜索引擎包括全文索
引、目录索引、元搜索引擎、垂直搜索引擎、集合式搜索引擎、门户搜索引擎与免费链接列表等。百度和谷歌等是搜索引擎的代表。那么搜索引擎将来的发展方向和发展的前景又是如何？我们就先从以下的各类主流搜索引擎先进行一个大致的分析。 1.全文索引 全文搜索引擎是当今主要网络搜素时所应用的搜索引擎，在网络上也是大家所熟知的，比如google和百度都是我们平时经常使用的。它们从互联网提取各个网站的信息，建立起数据库，并能检索与用户查询条件相匹配的记录，按一定的排列顺序返回结果。根据搜索结果来源的不同，全文搜索引擎可分为两类，一类拥有自己的检索程序，俗称“蜘蛛”程序或“机器人”程序，能自建网页数据库，搜索结果直接从自身的数据库中调用，上面提到的Google 和百度就属于这种类型；另一类则是租用其他搜索引擎的数据库，并按自定的格式排列搜索结果，如Lycos搜索引擎。在搜索引擎分类部分提到过全文搜索引擎从网站提取信息建立网页数据库的概念。搜索引擎的自动信息搜集功能分两种。一种是定期搜索，就是每隔一段时间，搜索引擎就会发启“蜘蛛”程序，对一定IP 地址范围内的互联网站进行检索，一旦发现新的网站，它会自动提取网站的信息和网址加入自己的数据库。而另一种是提交网站搜索，即网站拥有者主动向搜索引擎提交网址，它在一定时间内定向向你的网站派出“蜘蛛”程序，扫描你的网站并将有关信息存入数据库，以备用户查询。由于近年来搜索引擎索引规则发生很
实验五搜索引擎使用实验一、实验目的 1．了解搜索引擎的发展情况和现状；理解搜索引擎的工作原理；2．了解中英文搜索引擎的基本知识和种类； 3. 掌握中英文搜索引擎的初级检索与高级检索两种方式； 4. 分析和对比各种中英文搜索引擎的共性与区别; 5. 了解网络促销的主要方式二、实验内容： 1. 找网上的中英文搜索引擎,并列出5个中文搜索引擎和5个英文搜索引擎的名称； 2．掌握google、百度中高级搜索语法应用方法。 3. 用3个中文、2个英文搜索引擎对同一主题\同一检索词（关键词）进行检索，从检索效果分析得到的检索结果，并比较分析你所选择的搜索引擎的共性与区别。 4．了解网络促销的应用方式和网络广告促销的特点三、实验步骤 1. 搜索引擎的关键词检索（1）进入Google，熟悉并掌握以下功能：掌握Google 的网站检索功能，选取一些关键词在主页上使用“所有网页”检索网页，并通过使用运算符提高查准率；同时使用“高级检索”功能；掌握Google的图像检索功能；掌握Google的网上论坛功能；掌握Google的主题分类检索功能。（2）进入百度，熟悉并掌握Baidu各功能。搜索到至少两个专利介绍网站，并搜索一条关于手机防盗产品的专利技术，写出检索步骤并截图。 2. 搜索引擎的高级搜索语法应用（百度或谷歌） 3．浏览不同类型的网络广告。四、实验报告 1．进入Google，
搜索关键词“搜索引擎优化”，要求结果格式为Word格式；搜索关键词“电子商务”，但结果中不要出现“网络营销”字样；分别写出检索步骤并截图。 2. 精确匹配——双引号和书名号，分别加和不加双引号搜索“山东财经大学”，查看搜索结果。分别加和不加书名号搜索“围城”，查看搜索结果。 3. 搜索同时包含“山东财经大学”和“会计学院”的网页，并查看数量。 4．利用百度搜索两个专利介绍网站，并搜索一条关于手机防盗产品的专利技术，写出检索步骤并截图。 5．选择使用Google和百度，查询某商务信息（自定，如“海尔2012年销售额” ）。要求写出：搜索引擎的名称、检索信息的主题、检索结果（列出前5个）。6．分析实验中所使用搜索引擎的优缺点。 7．比较说明中国和美国的网络广告发展情况。五．实验操作答案 1.（1）可以直接搜索word版的搜索引擎优化即可。如下图 （2）操作和上面差不多，看下图 2.不加引号搜索“山东财经大学”时，没有结果；而加引号时则有许多搜索结果。但是加不加引号搜索“围城”时，结果却是相同的。 3.大多为关于山东财经大学的信息，而会计学院则是属于山财的分支。 4． 1.进入
SE搜索引擎 参考文献：卜庆锋电子商务 140403115 定义 一个搜索引擎由搜索器、索引器、检索器和用户接口四个部分组成。搜索器的功能是在互联网中漫游，发现和搜集信息。索引器的功能是理解搜索器所搜索的信息，从中抽取出索引项，用于表示文档以及生成文档库的索引表。检索器的功能是根据用户的查询在索引库中快速检出文档，进行文档与查询的相关度评价，对将要输出的结果进行排序，并实现某种用户相关性反馈机制。用户接口的作用是输入用户查询、显示查询结果、提供用户相关性反馈机制。 工作原理 第一步：爬行 搜索引擎是通过一种特定规律的软件跟踪网页的链接，从一个链接爬到另外一个链接，像蜘蛛在蜘蛛网上爬行一样，所以被称为“蜘蛛”也被称为“机器人”。搜索引擎蜘蛛的爬行是被输入了一定的规则的，它需要遵从一些命令或文件的内容。 第二步：抓取存储 搜索引擎是通过蜘蛛跟踪链接爬行到网页，并将爬行的数据存入原始页面数据库。其中的页面数据与用户浏览器得到的HTML是完全一样的。搜索引擎蜘蛛在抓取页面时，也做一定的重复内容检测，一旦遇到权重很低的网站上有大量抄袭、采集或者复制的内容，很可能就不再爬行。 第三步：预处理 搜索引擎将蜘蛛抓取回来的页面，进行各种步骤的预处理。 ⒈提取文字 ⒉中文分词 ⒊去停止词 ⒋消除噪音（搜索引擎需要识别并消除这些噪声，比如版权声明文字、导航条、广告等……） 5.正向索引 6.倒排索引 7.链接关系计算 8.特殊文件处理 除了HTML 文件外，搜索引擎通常还能抓取和索引以文字为基础的多种文件类型，如PDF、Word、WPS、XLS、PPT、TXT 文件等。我们在搜索结果中也经常会看到这些文件类型。但搜索引擎还不能处理图片、视频、Flash 这类非文字内容，也不能执行脚本和程序。 第四步：排名 用户在搜索框输入关键词后，排名程序调用索引库数据，计算排名显示给用户，排名过程与用户直接互动的。但是，由于搜索引擎的数据量庞大，虽然能达到每日都有小的更新，但是一般情况搜索引擎的排名规则都是根据日、周、月阶段性不同幅度的更新。
各类搜索引擎的分类、特点、工作原理及代表 1,图片搜索引擎 图片搜索是通过搜索程序，向用户提供互联网上相关的图片资料的服务。 从所使用的技术上来分类，可分为： (1) 基于上下文本（context）的图片搜索,传统意义上图片搜索通常是通过Alt等锚来索引，搜索的，《浅谈图片搜索引擎的实现》中提出了跨越性的图片搜索的实现，具有很高的参考价值。如果这一设想可以实现，那将极大的改变人们的生活具有很高的参考价值。(2) 基于图片内容的搜索基于文本的图片搜索涉及了数据库管理、计算机视觉、图像处理、模式识别、信息检索和认知心理学等诸多学科，其相关技术主要包括:图像数据模型、特征提取方法、索引结构、相似性度量、查询表达模式、检索方法等。相似图片的检测主要涉及特征表示和相似性度量这两类关键技术。图像特征的提取与表达是基于内容的图像处理技术的基础。从广义上讲，图像的特征包括基于文本的特征(如关键字、注释等)和视觉特征(如颜色、纹理、形状等)两类。 2.全文索引 全文搜索引擎的代表是网络爬虫，网络爬虫是一个自动提取网页的程序，它为搜索引擎从Internet网上下载网页，是搜索引擎的重要组成。传统爬虫从一个或若干初始网页的URL 开始，获得初始网页上的URL，在抓取网页的过程中，不断从当前页面上抽取新的URL放入队列,直到满足系统的一定停止条件。聚焦爬虫的工作流程较为复杂，需要根据一定的网页分析算法过滤与主题无关的链接，保留有用的链接并放入等待抓取的URL队列。然后，它将根据一定的搜索策略从队列中选择下一步要抓取的网页，并重复上述过程，直到达到系统的某一条件时停止。所有被爬虫抓取的网页将会被系统存贮，进行一定的分析、过滤，并建立索引，以便之后的查询和检索；对于聚焦爬虫来说，这一过程所得到的分析结果还可能对以后的抓取过程给出反馈和指导。 爬虫设计是否合理将直接影响它访问Web的效率,影响搜索数据库的质量,另外在设计爬虫时还必须考虑它对网络和被访问站点的影响,因为爬虫一般都运行在速度快,带宽高的主机上,如果它快速访问一个速度较慢的目标站点,可能导致该站点出现阻塞。Robot应遵守一些协议,以便被访问站点的管理员能够确定访问内容,Index是一个庞大的数据库,爬虫提取的网页将被放入到Index中建立索引,不同的搜索引擎会采取不同方式来建立索引,有的对整个HTML文件的所有单词都建立索引,有的只分析HTML文件的标题或前几段内容,还有的能处理HTML文件中的META标记或特殊标记。 3.目录索引 目录搜索引擎的数据库是依靠专职人员建立的,这些人员在访问了某个Web站点后撰写一段对该站点的描述,并根据站点的内容和性质将其归为一个预先分好的类别,把站点URL 和描述放在这个类别中,当用户查询某个关键词时,搜索软件只在这些描述中进行搜索。很多目录也接受用户提交的网站和描述,当目录的编辑人员认可该网站及描述后,就会将之添加到合适的类别中。 目录的结构为树形结构,首页提供了最基本的入口,用户可以逐级地向下访问,直至找到自己的类别,另外,用户也可以利用目录提供的搜索功能直接查找一个关键词。由于目录式搜索引擎只在保存了对站点的描述中搜索,因此站点本身的变化不会反映到搜索结果中,这也是目录式搜索引擎与基于Robot的搜索引擎之间的区别。分类目录在网络营销中的应用主要有下列特点： 通常只能收录网站首页(或者若干频道)，而不能将大量网页都提交给分类目录；网站一旦被收录将在一定时期内保持稳定；无法通过"搜索引擎优化"等手段提高网站在分类目录中
搜索引擎 一、（1）什么是搜索引擎？ 答：搜索引擎指自动从因特网上获取信息，经过一定整理后，提供给用户进行查询的系统。因特网上的信息浩瀚万千，而且毫无秩序，所有的信息像汪洋上的一座座小岛，网页链接是这些小岛之间纵横交错的桥梁，而搜索引擎则为你绘制一幅一目了然的信息地图，供你随时查阅。 （2）搜索引擎的工作原理 1、搜集信息：搜索引擎的信息搜集基本都是自动的。搜索引擎利用称为网络蜘蛛（spider）的自动搜索机器人程序来连上每一个网页上的超链接。机器人程序根据网页链到其他中的超链接，就像日常生活中所说的“一传十、十传百…….”一样，从少数几个网页开始，练到数据库上所有到其他网页的链接。理论上，若网页上有适当的超链接，机器人便可以遍历绝大部分网页。 2、整理信息：搜索引擎整理信息的过程称为“建立索引”。搜索引擎不仅要保存搜集起来的信息，还要将他们按照一定的规则进行编排。这样，搜索引擎根本不用重新翻查他所有保存的信息而快速查到所要的资料。想象一下，如果信息不按任何规则地随意堆放在搜索引擎的数据库中，那么它每次找资料都得把整个资料库完全翻一遍，如此一来，再快的计算机也没有用。 3、接受查询：用户向搜索引擎发出查询，搜索引擎接受查询并向客户返回查询资料。搜索引擎每时每刻都要接到来自大量用户的几乎是同时发出的查询，它按照每个用户的需要检查自己的索引，在极短时间内找到用户需要的资料，并返回给用户。目前，搜索引擎返回主要是以网页链接的形式提供的，这些通过这些链接，用户便能到达含有自己需要的资料的网页。通常搜索引擎会在这些链接下提供一小段来自这些网页的摘要信息以帮助用户判断此网页是否会有自己需要的内容。 二、搜索引擎的分类 百度、搜狗搜索，谷歌搜索、雅虎搜索、腾讯搜索、迅雷搜索、微软搜索、有道搜索 三、搜索引擎的原理概述 搜索引擎通常指的是收集了因特网上几千万到几十亿个网页并对网页中的每一个词进行搜索，建立索引数据库的全文搜索引擎。当用户查找某个关键词的时候，所有在页面内容中包含了该关键词的网页都将作为搜索结果被搜索出来。在经过复杂的算法进行排序后，这些结果将按照与搜索关键词的相关度高低，依次排列。根据自己的优化程度，获得相应的名词次。在搜索引擎的后台，有一些用于搜集网页信息的程序。所搜集的信息一般是能表明网站内容（包括网页本身、网页的URL地址、构成网页的代码以及进出网页的连接）的关键词或者短语。接着将这些信息的索引存放到数据库中。 建立索引 蜘蛛抓取的页面文件分解、分析，并以巨大表格的形式存入数据库，这个过程即是索引（index).在索引数据库中，网页文字内容，关键词出现的位置、字体、颜色、加粗、斜体等相关信息都有相应记录。 搜索词处理 用户在搜索引擎界面输入关键词，单击“搜索”按钮后，搜索引擎程序即对搜索词进行处理，如中文特有的分词处理，去除停止词，判断是否需要启动整合搜索，判断是否有拼写错误或错别字等情况。搜索词的处理必须十分快速。 排序 对搜索词处理后，搜索引擎程序便开始工作，从索引数据库中找出所有包含搜索词的网页，
实验A 讨论思考： 全文搜索引擎和目录索引引擎的区别是什么？ 全文搜索引擎因为依靠软件进行，所以数据库的容量非常庞大，但是，它的查询结果往往不够准确。 分类目录依靠人工收集和整理网站，能够提供更为准确的查询结果，但收集的内容却非常有限。 搜索引擎属于自动网站检索，而目录索引则完全依赖手工操作。 搜索引擎收录网站时，只要网站本身没有违反有关的规则，一般都能登录成功；而目录索引对网站的要求则高得多，有时即使登录多次也不一定成功。 当用于在登录搜索引擎时，我们一般不用考虑网站的分类问题，而登录目录索引时则必须将网站放在一个最合适的目录（Directory）。 搜索引擎中各网站的有关信息都是从用户网页中自动提取的，所以用户的角度看，我们拥有更多的自主权；而目录索引则要求必须手工另外填写网站信息，而且还有各种各样的限制。 因此，分类目录型搜索引擎营销方法与技术性搜索引擎的方式有很大的不同，需要充分了解这种区别，才能充分发挥各种不同搜索引擎的作用。 实验B 讨论思考： 百度的广告策略如何策划的。谈谈你的看法。 百度的广告策略主要是通过搜索推广、网盟推广、增值服务（百度指数、百度统计、百度推广助手、百度商桥）、其他推广服务（百度图片推广、百度品牌专区、百度火爆地带）、专业客户服务等几项来进行的。
百度推广流程是： 1.搜索：网民在百度搜索自己关注的关键词信息 2.推广：企业的推广信息展现在关键词对应的搜索结果页 3.点击：用户点击推广信息进入企业网站 4.成交：通过沟通了解，双方达成交易 百度将互联网众多内容网站整合，建立了国内最具实力的联盟体系；百度联盟囊括了24个行业类别的优质网站，加盟合作网站累计超过30万家，影响力覆盖95%以上的中国网民。 百度品牌专区是在网页搜索结果最上方为著名品牌量身定制的资讯发布平台，是为提升网民搜索体验而整合文字、图片、视频等多种展现结果的创新搜索模式。 百度火爆地带是一种针对特定关键词的网络推广方式，按时间段固定付费，出现在百度网页搜索结果第一页的右侧，不同位置价格不同。 百度图片推广是一种针对特定关键词的网络推广方式，按时间段固定付费，出现在百度图片搜索结果第一页的结果区域，不同词汇价格不同。企业购买了图片推广关键词后，就会被主动查找这些关键词的用户找到并向其展示企业推广图片，给企业带来商业机会！ 实验C 讨论思考： 各个搜索引擎对同类网站的收录情况是否相同？如果不相同，各个搜索引擎有什么特点？ 各个搜索引擎对同类网站的收录情况不尽相同。百度与谷歌属于全文引擎搜索，其网页数据库的更新速度也不相同，但收录网页数与更新的速度是谷歌比百度更快，内容更丰富。而雅虎属于目录索引搜索引擎，其网站专业分类性