基于SVD的协同过滤推荐算法研究

第２５卷第１期　２ｏ１５年３月　湖南工程学院学报　Ｊｏｕｒｎａｌ　ｏｆ　Ｈ　ｕｎａｎ　Ｉｎｓｔｉｔｕｔｅ　ｏｆ　Ｅｎｇｉｎｅｅｒｉｎｇ　Ｖｏｌ＿２５．Ｎｏ．１　Ｍａｒ．２Ｏ１５　

基于ＳＶＤ矩阵分解技术和ＲｋＮＮ算法的　

协同过滤推荐算法　

刘　洋　

（信阳职业技术学院数学与计算机科学学院，信阳４６４０００）　

摘　要：针对现有协同过滤算法具有的可扩展性较低、数据稀疏和计算量较大缺点，提出一种基于　ＳＶＤ矩阵分解技术和ＲｋＮＮ算法的协同过滤推荐算法．本算法经ＳＶＤ矩阵简化处理和ｋＮＮ和ＲｋＮＮ　

的协作过滤，增强了用户的影响集，实现了测试集的未知预测评分功能．经仿真实验表明，稀疏性、可扩　展性和计算量都得到有效改善，系统预测评分与用户实际评分接近，为用户提供了良好的使用体验．该　

算法获得了更好的预测性能，同时具有良好的可扩展性．　关键词：ＳＶＤ影响集；协作过滤；推荐算法；ＲｋＮＮ影响集　中图分类号：ＴＰ１８　文献标识码：Ａ　文章编号：１６７１—１ｌ９Ｘ（２０１５）０１—００４４—０４　

０　前　言　

在科技日益发达的今天，计算机网络已经覆盖　于社会的每一个角落．以百度、搜狗为代表的搜索引　擎开始出现在我国人民的视野之中，为中国人的日　

常生活和工作带来了极大的便利．现阶段我国搜索　引擎具有个性化的特点，其推荐的系统多为基于用　

户推荐、基于项目推荐、基于内容推荐，上述的这些　协同过滤算法具有数据稀疏、可扩展性差和用户相　似性难分辨的特点，对推荐系统的质量产生负面影　响．随着科学技术的发展，越来越多的专家学者开始　

关注到推荐系统领域，针对传统算法所存在的问题　也做出了针对性改善，其中可扩展性差和系统数据　

稀疏的问题可通过矩阵分解方式来改善，例如ＰＣＡ　（主成分分析）、ＮＭＦ（￣负矩阵分解）、ＳＶＮ（奇异值　

分解）等算法，都可用于降低数据的稀疏性和维度．　

１协同过滤算法基础　

解决资源和用户的关系是推荐系统中的主要内　容，这里用ｍ×　表示用户与资源之间的关系，其中　ｍ代表用户，７／代表项目，用户ｉ对项目Ｊ的评分用　

基于SVD的推荐系统研究及其应用

太原理工大学硕士研究生学位论文

目录

第一章绪论 (1)

1.1课题研究背景及其研究意义 (1)

1.2国内外研究现状 (2)

1.2.1国外研究现状 (2)

1.2.2国内研究现状 (3)

1.3存在问题 (5)

1.4本课题研究内容与论文安排 (5)

1.4.1本课题主要研究内容 (5)

1.4.2论文结构安排 (6)

第二章个性化推荐系统及相关算法 (9)

2.1个性化推荐系统 (9)

2.2协同过滤推荐算法 (9)

2.2.1基于内存的协同过滤推荐算法 (10)

2.2.2基于模型的协同过滤推荐算法 (13)

2.3基于内容的推荐算法 (14)

2.4基于标签的推荐算法 (15)

2.5基于关联规则的推荐算法 (15)

2.6混合推荐算法 (16)

2.7本章小结 (16)

第三章基于SVD的推荐算法的研究 (17)

3.1SVD基本算法 (17)

3.1.1SVD背景介绍 (17)

3.1.2SVD基本原理 (17)

3.2梯度下降法 (19)

3.3基于SVD改进的推荐算法 (20)

3.3.1LFM (20) 3.3.2Bias SVD (21)

3.3.3SVD++ (23)

3.3.4实验设计及算法性能比较 (25)

3.4本章小结 (27)

VII

太原理工大学硕士研究生学位论文

第四章改进学习率的一种高效SVD++推荐算法 (29)

4.1引言 (29)

4.2SVD++模型的学习方法 (30)

4.2.1已有学习率方法 (30)

4.2.2本文学习率方法 (30)

4.3改进学习率的SVD++算法推荐模型 (31)

4.4实验及分析 (32)

4.4.1实验设计 (32)

4.4.2实验结果及分析 (34)

4.5本章小结 (36)

第五章基于Apriori算法重组标签的HOSVD推荐算法 (39)

5.1引言 (39)

5.2Apriori及HOSVD标签推荐算法介绍 (40)

基于协同过滤算法的推荐系统研究

一、引言

在互联网时代，信息爆炸的背景下，推荐系统一度成为了各大互联网平台必备的技术。推荐系统通过分析用户历史行为或者使用其他算法，为用户推荐个性化的产品，极大提升了用户体验。协同过滤算法是推荐系统的核心算法之一，本文将会系统地研究基于协同过滤算法的推荐系统。

二、协同过滤算法

协同过滤算法是一种基于用户之间的相似度或物品之间的相似度，来预测用户对物品的评价的算法。协同过滤算法有两种实现方式：基于用户的协同过滤算法和基于物品的协同过滤算法。

基于用户的协同过滤算法是指通过分析用户历史行为，找出跟目标用户行为最相似的一些用户，然后将这些用户评价高的物品推荐给目标用户。而基于物品的协同过滤算法则是指通过分析物品的评价数据，找出被目标用户喜欢的物品，然后推荐与这些物品相似的物品给目标用户。

协同过滤算法的优点是适用于各种类型的数据，缺点则在于数据稀疏问题，即对于少有人评价的物品，难以通过协同过滤算法来推荐给目标用户。

三、推荐系统架构设计 推荐系统的架构设计分为三个阶段：数据处理、推荐算法和推荐结果的展示。数据处理阶段主要需要对原始数据进行清洗处理，并将处理后的数据存储到数据仓库中。推荐算法阶段需要选择适合场景的协同过滤算法，并通过模型训练与优化来提升推荐效果。最后，推荐结果的展示需要在用户界面上呈现最终的推荐结果，包括推荐物品、推荐理由等。

四、协同过滤算法优化

协同过滤算法存在的问题主要有三个：数据稀疏问题、冷启动问题和推荐结果的解释问题。

数据稀疏问题可以通过引入隐语义模型、奇异值分解（SVD）等技术来解决。隐语义模型是一种通过对物品和用户进行向量表示，并通过矩阵分解找到对应的相似度，来解决数据稀疏问题的模型。SVD是一种将矩阵分解成三个矩阵的方法，通过优化这三个矩阵，可以得到非常好的预测效果。

冷启动问题则可以通过引入基于内容的推荐算法来解决。基于内容的推荐算法是一种通过分析物品的内容特征，来推荐类似的物品给目标用户的方法。

基于矩阵填充的SVD协同过滤算法研究

王祥德;雷玉霞;闫昱姝

【摘 要】对协同过滤推荐算法中数据稀疏问题,提出矩阵填充策略,分析矩阵填充技术的优劣,选择非精确拉格朗日乘子法对稀疏矩阵填充,对填充的矩阵使用SVD协同过滤算法进行推荐,对推荐结果分别用平均绝对误差、均方根误差和标准平均绝对误差方法进行评估.实验结果表明,运用矩阵填充的推荐算法提高了推荐的质量.

【期刊名称】《微型机与应用》

【年(卷),期】2017(036)019

【总页数】4页(P55-57,61)

【关键词】协同过滤;SVD协同过滤;矩阵填充

【作 者】王祥德;雷玉霞;闫昱姝

【作者单位】曲阜师范大学 信息科学与工程学院,山东 日照276800;曲阜师范大学

信息科学与工程学院,山东 日照276800;曲阜师范大学 信息科学与工程学院,山东

日照276800

【正文语种】中 文

【中图分类】TP301.6

随着互联网规模的扩大，数据呈现爆炸式增长，传统的信息搜索方法搜索到的符合要求的结果变得越来越多，这就增加了用户获取有价值信息的难度。弥补信息检索存在的这些缺陷，个性化推荐系统应运而生。

个性化推荐系统从2000年开始得到广泛应用，明尼苏达大学的Sarwar教授的文章[1]详细地介绍了基于项目的协同过滤算法，是学者们研究协同过滤推荐算法常引用的文章。2004年以后，推荐算法开始融合基于内容和基于模型的推荐，之后Sarwar等人[2]将SVD引入到协同过滤推荐算法中。在推荐数据中，有些信息是涉及用户隐私的数据，这一部分数据有可能影响推荐的准确性。Polat等人[3]给出了带有隐私的SVD协同过滤算法，优化了这一问题。针对现有协同过滤算法具有的可扩展性较低、数据稀疏和计算量较大的缺点，刘洋等人[4]提出一种基于SVD矩阵分解技术和RkNN算法的协同过滤推荐算法。陈清浩等人[5]提出了梯度下降法改进的SVD协同过滤算法。本文在SVD协同过滤算法的基础上，将矩阵填充技术引入其算法中。