基于web挖掘的个性化推荐服务研究

  • 格式:pdf
  • 大小:1.10 MB
  • 文档页数:50

中南民族大学 硕士学位论文 基于Web挖掘的个性化推荐服务研究 姓名:*** 申请学位级别:硕士 专业:计算机应用技术 指导教师:*** 20080527 中南民族大学硕士学位论文 摘 要 网络技术的不断发展,需要利用数据挖掘技术从大量的网络信息中挖掘出对人们有 用的资源。目前比较成熟的信息推荐技术是采用面向网络信息来解决以上问题的。但是, 这种方式很难执行好用户个性化的检索需求,因此提出了面向用户的个性化推荐模型。 本文首先简要介绍了数据挖掘及 Web 数据挖掘的基本概念及相关技术,然后详细 分析了基于 Web 的个性化推荐技术。 在对基于 Web 的个性化推荐的相关研究基础上,设计了一个基于 Web 挖掘的个性 化在线信息推荐系统(PIRS),并给出了相关的推荐策略和算法。PIRS 系统包括数据预 处理模块、挖掘处理模块、在线推荐模块和用户界面模块。在该系统中我们所提出的推 荐策略也考虑针对不同类型的用户采用不同的推荐算法。本系统给出了基于关联规则挖 掘和基于用户事务模式聚类 2 种推荐算法。基于关联规则挖掘的推荐方法利用用户自己 的用户事务模式文件,生成聚集树,然后利用用户访问操作和聚集树来发现关联规则, 最终生成推荐集。它的特点是快速、准确,但是对于新用户、访问站点较少的用户以及 具有新颖性信息需求的用户不太适合。基于用户事务模式聚类的推荐方法,将相似的用 户事务模式聚类到一起,生成用户事务聚类模式,然后将用户访问操作与用户事务聚类 模式进行匹配,最后形成推荐集。它比较适合新用户、访问站点较少的用户和新颖性信 息需求的用户。 关键词:数据挖掘;用户事务模式;关联规则;个性化 I 基于 Web 挖掘的个性化推荐服务研究 Abstract With the development of network technology, there is a requirement that use the data mining technologies to mine the useful resource from massive network information. Web has come to be a hot research area in the information search field. Now the popular and mature IR(information recommandation) technologies settle these problems in a network information objected method. However, the network information oriented IR technologies cannot understand and execute users’ personal need. In this dissertation, we bring forward a new model for information recommendation in Web, user-oriented information recommendation model. Firstly,this article introduces basic definition of data mining and Web data mining and their related content. By the related reseach about Web personalization recommandtion, we designs a personalized information recommendation system based on data mining(PIRS),and gives a recommendation strategy and algorithms respectively. PIRS includes:data preprocessing module、mining treatment module、on-line recommendation module and user interface module. We put forward on-line recommendation strategy in PIRS ,and different recommendation algorithms according different users. The system gives two kinds of recommendation algorithms based on association rule mining and user’s transaction pattern clustering. The recommendation method based on association rule mining is to take advantage of user’s own transction pattern file to produce assembly tree,then association rules by user’s session and assembly tree,finally recommendation sets ensues. It possessers two characteristics:fast speed and exactness. However,it does not fit new user、less-time visitors and users who need fresh information. As to the second kind is to assemble similar user’s transaction patterns,produces user’s transaction clustering patterns,then match user’s session and user’s transaction clustering patterns, finally produce recommendation sets. It fits new users、less-time visitor and users who need fresh information. Key words: Data mining; user’s transaction pattern; Association rule; Personalization II 中南民族大学 学位论文原创性声明 本人郑重声明:所呈交的论文是本人在导师的指导下独立进行研究所取得的 研究成果。除了文中特别加以标注引用的内容外,本论文不包含任何其他个人或 集体已经发表或撰写的成果作品。对本文的研究做出重要贡献的个人和集体,均 已在文中以明确方式标明。本人完全意识到本声明的法律后果由本人承担。 作者签名: 日期: 年 月 日 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定,同意学校保 留并向国家有关部门或机构送交论文的复印件和电子版,允许论文被查阅和借 阅。本人授权中南民族大学可以将本学位论文的全部或部分内容编入有关数据库 进行检索,可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。 本学位论文属于 1、保密□,在______年解密后适用本授权书。 2、不保密√。 (请在以上相应方框内打“√”) 作者签名: 导师签名: 日期: 日期: 年 年 月 月 日 日 中南民族大学硕士学位论文 第 1 章 绪论 随着大规模的工业生产过程的自动化、商务贸易电子化及企业和政府事物电子化的 迅速普及以及科学计算的日益增长,产生了大规模的数据源。计算机网络技术的长足进 步也为数据的传输和远程交互提供了技术手段,特别是互联网的迅速发展更是将全球的 信息源纳入了一个共同的数据环境中[1]。日益成熟的数据库系统和数库管理系统都为这 些海量数据的存储和管理提供了技术保证,为步入信息时代奠定了基础,这些庞大的数 据库及其中的海量数据是极其丰富的信息源。 在这些信息源中隐含了许多有潜在价值的知识,如何发现这些有用的知识是人工智 能、数据库等领域的研究焦点之一。但是仅仅依靠传统的数据检索机制和统计分析方法 已经远远不能满足需要了。因此,随之出现了知识获取提取技术——数据挖掘。数据挖 掘旨在从数据库中提取正确的、非平凡的、未知的、有潜在应用价值的并最终可为用户 理解的模式。它的出现为自动和智能地把海量的数据转化成有用的信息和知识提供了手 段。数据挖掘涉及到诸如机器学习、模式识别、统计学、数据库和人工智能等众多学科, 是数据库理论和机器学习的交叉学科。 1.1 数据挖掘 数据挖掘和知识发现 KDD(Knowledge Discovery in Database)有密切的联系。知识发 现(KDD)[2]是指从数据库中发现有用知识的整个过程,数据挖掘是这一过程中的一个特 定步骤,知识发现包括数据选择、预处理、数据转换、数据挖掘、模式解释和知识评价 等多个步骤,是应用特定数据挖掘算法和评价解释模式的一个循环反复过程,并要对发 现的知识不断求精深化,使其易于理解;数据挖掘是知识发现过程中的一个关键步骤。 数据挖掘(Data Mining)是从大量的、不完全的、有噪声的、模糊的、随机的数据中提取 潜在的、不为人知的有用信息、模式和趋势。数据挖掘的目的是提高市场决策能力;检 测异常模式;在过去的经验基础上预言未来趋势等[3]。这些知识和规则是隐含的、先前 未知的、对决策有潜在价值的有用信息。通过数据挖掘,有价值的知识、规则或高层次 的信息就能从数据库的相关数据集合中抽取出来,为决策提供依据,从而使数据库作为 一个丰富可靠的资源,为知识归纳服务。 1 基于 Web 挖掘的个性化推荐服务研究 与传统的数据库查询系统相比较,数据挖掘技术有以下不同[4]: (1) 传统的数据库查询一般都具有严格的查询表达式,可以用 SQL 语句描述,而数 据挖掘则不一定具有严格的要求,常常表现出即时、随机的特点,查询要求也不确定。 (2) 整个挖掘过程也无法仅用 SQL 语言就能完整表达,实际上,数据挖掘常常用一 种类似 SQL 语言来描述。 (3) 传统的数据库查询一般生成严格的结果集,但数据挖掘可能并不生成严格的结 果集。挖掘过程往往基于统计规律,产生的规则并不要求对所有的数据项总是成立,而 是只要达到一定的事先给定的阈值就可以了。 (4) 通常情况下,数据库查询只对数据库的原始字段进行,而数据挖掘则可能在数 据库的不同层次上发掘知识规则。 从广义上讲,数据挖掘分为 3 种类型:全自动、半自动和全交互式。对于全自动技 术,一旦系统被创建,无需人的任何干预,它能在后台自动进行操作;对于半自动技术, 系统或者在后台操作,或者采用全交互方式;对于全交互式技术,是一种简单的数据挖 掘,它由用户设置每次操作的参数,然后等待相应结果。 数据挖掘在解决实际问题时,经常要同时使用多种模式。一个数据挖掘系统或仅仅 一个数据挖掘查询就可能生成成千上万的模式,但是并非所有的模式都是令人感兴趣。 这里有一个重要的概念,兴趣度(Interestingness),通常是用来衡量模式的总体价值,它 包括正确性(Validity)、新奇性(Novelty)、可用性(Usefulness)和简洁性(Simplicity)。数据 挖掘工具还要求具有开放性,它的开放性体现在 2 个方面:能与各种数据源集成;分析 的结果是通用的或易于转化的。数据挖掘工具相互差别很大,这不仅体现在关键技术上, 还体现在运行平台、数据存取和价格等方面。从运行平台来看,简单的工具可运行在 PC 的 DOS 或 Windows 上,复杂的工具要求运行在 Unix 工作站或并行处理平台上;从 数据存取来看,简单工具处理的数据以文件形式输入,复杂工具要求大型的数据库环境。 数据挖掘已成为计算机科学研究中的一个十分活跃的领域,并在市场分析、金融投资、欺诈甑 别、医疗卫生、环境保护、产品制造和科学研究等许多领域获得了广泛的应用,取得了十分可观的 社会效益和经济效益。同时,知识发现和数据挖掘的研究和应用,对于人工智能这门前沿学科的发 展注入了新的活力,有力地促进了计算机科学朝着纵深方向顺利发展。 2