个性化推荐系统中的多样性综述

A Survey of Diversity in Personalized Recommendation Systems

摘要: 多样性已成为推荐系统研究的主要方向之一，提高推荐内容的多样性不仅是解决过度拟合问题的重要方法，也是提高用户体验满意度的方法。为了更好地阐述推荐多样性领域的工作，本文分别从多样性的定义和评价、多样性对推荐质量的影响以及多样化算法本身的发展三个方面对多样性推荐进行了介绍。

Abstract: Diversity has become one of the main directions of recommendation system research. Improving the diversity of recommendation content is not only an important way to solve the problem of over-fitting, but also a way to improve user’s experience satisfaction. In order to elaborate the work in the field of recommendation diversity, this paper introduces diversity recommendation from three aspects: the definition and evaluation of diversity, the impact of diversity on recommendation quality and the development of diversity algorithm.

1. 引言

随着移动互联技术的发展，人们拥有越来越多的方法和途径随时随地地访问各种互联网内容，也能够更加便捷地直接或者间接参与到访问内容的选择中。互联网带来的另一个影响是人们可以更加便捷地接触到海量数据，但是选择过程因为数据量的增大而变得繁琐和复杂。

个性化推荐系统的出现有效地解决了这一问题，不需要用户太多互动，却能够向用户推荐其感兴趣的一系列项目内容供用户选择。推荐系统定义为通过对用户、项目以及用户和项目关联的信息进行分析来预测用户的偏好，进而推荐给特定用户最适合的项目 [1] 。发展推荐系统的目的是从海量数据中检索出最有价值的相关信息和服务，降低信息过载，从而提供个性化的服务。

推荐系统最早出现在上世纪80年代，随着其不断发展，研究领域不断扩展，从营销到购物，从电影到图书馆，推荐系统已经覆盖到用户需要做决定的所有方面 [1] 。推荐系统的研究也从简单地开发新的推荐方法发展到优化推荐算法以及如何在推荐过程中充分利用用户的个性化信息。其中一种优化的方式就是引入了多样化，多样化是相对较新的研究领域，为推荐系统的研究发展提供了很多活力，另外多样化不仅解决了过度拟合的问题，同时相对于推荐系统的其他问题更加强调以人为本的个性化服务。不同用户对多样化的感知和理解是不同的，所以多样化推荐系统模型的建立需要大量用户的参与才能完成。

2. 推荐系统概述

推荐系统早期的研究诞生于信息检索和过滤技术的发展，在20实际90年代，推荐技术逐渐发展为一个独立的研究领域，并且研究人员开始专注于基于用户评分的推荐问题。推荐系统根据不同的标准有几种不同的分类标准，例如根据用户模型创建方法可以分为基于内容的推荐、协同过滤推荐、基于知识的推荐以及混合推荐等。根据特定的预测生成算法分为词向量算法 [2] [3] ，决策树算法 [4] ，贝叶斯分类树算法 [3] ，k最近邻算法 [5] ，支持向量机(SVM)算法 [6] [7] 等。

2.1. 推荐系统的应用范围

推荐系统的最初用于互联网文档搜索领域 [8] [9] [10] 。随着互联网和多媒体内容的快速增长，推荐系统迅速应用到覆盖范围更广的服务和内容领域。

随着在线存储容量的提升以及云服务出现，大量用户的自媒体内容上传到互联网，这为用户提供存储和分享这些内容的便捷方法。用户和内容项目数量的快增加，导致了智能内容检索的问题。推荐系统帮助用户从海量信息中找到最感兴趣的内容。

当用户面临大量的项目或内容选择时，同时用户也陷入了困境，海量的信息往往会阻止用户选择尝试新奇的内容。在这种情况下，个性化服务对用户有很大帮助。这些服务通过跟踪用户的浏览/购物历史，发现用户的购物偏好，为用户提供了感兴趣的商品信息。

此外，个性化推荐还广泛应用于社交、电子学习、网络资讯等领域。

2.2. 推荐流程

所有的推荐系统的工作流程基本相似，首先是分析用户的可用信息。然后根据分析结果创建用户模型(或用户配置文件)，该模型包含推荐过程所需的信息，然后选择最合适的项目(s)推荐给当前用户。最后(也是最重要的)是为用户提供一个反馈机制，使得推荐系统能够跟踪用户的满意度相应地调整用户模型。

1) 用户模型

用户模型在一些推荐系统模型中作为单独的数据结构独立于算法本身 [4] [11] ，而在另一些模型中作为算法的一部分 [12] 或被作为一个项目评分向量的集合。无论如何应用，用户模型的目的是存储推荐算法所需的信息。这些信息包括用户基本信息(如性别、年龄、姓名等)，访问或者购买历史，用户的反馈(评分、评论)，以及算法的具体数据(SVM向量，特征值，最近邻居列表等等)。因此，用户模型根据推荐算法不同而不同，这些不同严重限制了用户模型在不同系统和内容类型之间的可移植性。

2) 生成推荐

当用户访问该系统时，系统生成当前用户系统模型，根据用户的在该模型中的信息并依据具体实现的算法生成推荐。算法包括基于内容的推荐(CBR)，协同过滤推荐(CF)以及其他推荐算法。无论采用哪种算法，系统计算每个项目的相关性得分，并按照从高到低的方式排序，选择列表中前N项作为最终推荐项目，推荐列表的呈现形式取决于平台的类型和内容，最后，系统还会跟踪用户是否从列表中选择任何项目，并收集反馈信息 [13] 。

反馈信息是推荐过程的一个重要组成部分，因为推荐系统通过分析用户与项目的交互信息来优化推荐系统模型，反馈信息包括直接反馈和间接反馈两个方面。

近年来，推荐系统领域的研究已经从简单的项目预测转移预测过程中方法的优化，个性化推荐目前遇到的挑战主要包括数据稀疏性、冷启动、大数据问题以及过度拟合等。

推荐系统成功的建立用户模型，并为用户持续的提供最适合的项目，这时就产生了新的问题，因为系统会一直根据用户的兴趣偏好进行推荐，而这种推荐所涉及的项范围往往非常窄。而当用户表现出对某一项目强烈的偏好，并提供明确的反馈时，这一问题表现得尤为显著。导致这一问题的原因是系统根据用户的偏好创建一个偏好明显的推荐模型，因此无法检测任何其他类型的新奇的项目 [14] ，这种情况被称为过度拟合。

3. 多样化

多样化方法的引入对于解决过度拟合提供了一个有效的解决方案，并在过去的几年里成为很多研究人员研究的热点方向，涌现出了大量的相关研究文献。多样性的重要性在于它有双重目的：提高用户对所提出推荐的满意度，有效减轻过度拟合问题。

布拉德利 [2] 在文章中第一次提到推荐多样性，建议在推荐过程中引入多样化方法，并设计实现和评估一种基于多样化推荐的新算法。目前多样化研究领域的研究进展主要集中在多样性的定义、多样化的影响评价以及多样化算法的优化和评价等方面。

3.1. 多样性的定义和评价

2007年由Fleder和hosanagar [15] 的一项实验表明，大多数个性化推荐系统因为推荐的精确性而降低推荐项目的多样性。克拉克 [16] 尝试将多样性和新颖性结合为一个新的检索文档相关性的方法。2011年巴尔加斯 [17] 定义了一个基于递减折扣函数的项目浏览场景中的多样性评估指标。卡斯特 [18] 做了进一步的研究，并在确定推荐列表的多样性时同时考虑了项目的位置和相关性。胡和浦 [19] 的研究则主要集中在如何确定用户对推荐多样性的感知程度。Vargas [20] 随后提出了一种形式化的多样化方法和评价技术，同时也考虑到推荐程序的重要性和相关性。

2013年castagos [21] 进行了一项关于用户研究，通过向用户提供多样化的推荐列表，对比用户的接受度和满意度发现，更加多元化的推荐降低了用户的接受率，但同时也增加了用户对系统的满意度。Hullier [22] 设计了一个音乐推荐系统并进行了类似的实验，记录用户的喜好，背景和所有音乐项目的多样性。江 [23] 从不同的角度讨论了多样性评价问题，并基于选择概率提出了多样性的评价方法，其研究的目标是将评价的相关性和多样性结合成一个单一的衡量标准。

3.2. 多样性对推荐质量的影响

一些研究人员把研究重点放在多样化对推荐质量的影响上，为了能够准确评价推荐质量，采用了融合多样性和现有的推荐系统评价指标(如F值、MAE和NMAE)的综合评价方式，来确定多样化对推荐系统的整体性能的影响。

Adomavicius和Kwon [24] 评价几项排名技术，指出这几种推荐技术都考虑了多样化的因素，并且在推荐的准确度上仍然保持了较高的水平。Hurley和Zhang [25] 也研究了多样性和准确性之间权衡的二元优化问题。Gee等 [26] 从一个不同的角度进行了一系列的实验，确定了推荐列表中高多样性项目的影响。Tintarev等 [27] 进行了一项有趣的研究，他们没有把重点放在多样化对推荐质量的影响上，而是关注多样化对不同个性特征的用户的影响，研究发现喜欢新鲜体验的用户更喜欢多样性的推荐。Aytekin和Karakaya [27] 为了衡量用户的偏好和满意度，对多样性进行更为直接的控制。Ekstrand [28] 等人做了进一步探讨，进行了用户评价，不仅用户包括对推荐列表多样性的反馈，而且还提供了新颖性、准确性、满意度以及个性化程度风方面的反馈。Javari等人 [29] 设计了一种可以在准确性和多样性之间权衡的可调节的混合推荐系统。里贝罗等人 [30] 将这一问题归纳为一个多目标推荐问题，目的是将多种推荐方法结合起来，力求最大限度地提高准确性和多样性。

3.3. 多样化算法

很多研究人员已经意识到，推荐系统的其他方面对于用户满意度也是至关重要的。其中一个重要的方面是推荐多样性。推荐多样性有两个层次：一个是个体层次，也就是个体多样性，另一个是系统层次，也就是总体多样性。因此对于多样性的研究法也分为个体多样性和总体多样性两方面。Boim等 [31] 提出了一种主题多样化的方法，使推荐列表多样化，涵盖更广泛的用户感兴趣的主题。B. Smyth和P. McClave [32] 是对基于用户的协同过滤算法进行的后过滤方法。G. Adomavicius和Y. Kwon [33] 提出一种基于近邻评分差异的后过滤方法。Zhang和Hurley [34] 采用二次规划的方法权衡准确性和多样性。A. Pathak和B. K. Patra [35] 提出了一种基于聚类后过滤方法的多样化优化策略。Vargas [36] 随后提出了一种形式化的多样化方法和评价技术，同时也考虑到推荐过程的重要性和相关性。

Park提出一种基于已知评分值或评分次数进行聚类的推荐方法，提高了一些长尾商品的预测评分，进而提高推荐总体多样性 [37] 。Adomavicius等提出了一种改进的项目排序技术，以提高系统的总体多样性。D. Fleder等研究了推荐系统对销售多样性的影响，研究结果表明，即使是一些知名的推荐系统也可能会导致销售多样性的减少，因为这些系统都是在销售和评分基础上推荐产品 [38] 。Adomavicius提出用传统的协同过滤算法产生推荐列表，并通过设定阈值来过滤推荐列表中的项目，然后依据项目的流行度或平均评分对推荐列表进行重新排序，进而平衡推荐列表准确性和总体多样性 [39] 。另一类方法通过修改推荐模型来实现。周涛等在用户—物品二部图网络结构基础上，采用两步传递方法合理地提高推荐多样性，给用户推荐那些“不太流行的冷门项目” [40] 。T. Bobadilla等提出了几种基于优化的方法，以提高总体多样性，包括贪婪算法、基于最大流的方法和整数规划方法。

Basille等人 [40] 提出了一种基于特殊语义特征的结合了现有的几种算法实现高多样性的方法。Ho等人 [41] 将多样化作为解决长尾问题中评分项目稀疏性问题的解决方法，并发现它们能够推荐更好的项目来改进用户的经验。Lee [42] 提出了一种基于图论的推荐算法，该算法使用用户的评分来创建无向图，然后使用熵计算来找到新颖的和多样的推荐项目。Ren等人 [43] 采用跨学科的方法，提出了一种定向加权传导多样化算法，该算法以Gini指数和热传导过程为基础，以改进推荐的新颖性和多样性。Bedi等人 [44] 提出一种聚类方法为新闻推荐引入合理的多样性，并且也为新颖的推荐提供了解释，进一步提高了用户体验质量。Di Noia等人 [45] 通过用户多样性偏好建模的方式来解决多样性问题，然后使用该模型对推荐列表进行再次排序。

很多多样性方法都是通过对现有的方法生成的推荐列表进行重新排序的方法，统称为后过滤技术。实际上现有的算法已经实现了一定程度上的多样性，再次排序的目的是进一步提升多样性。这些算法大多采用的是协同过滤 [41] [42] 或基于内容的推荐。Choi等 [34] 提出的方法明显不同于上述方法，他们是在推荐过程中进行项目的多样化。Lathia [37] 并没有提出多样化的推荐方法而是着眼于在不改变任何的项目的前提下测量推荐列表的整体多样性。

4. 存在的问题

目前多样性的研究还存在两个主要的问题：第一所有研究人员都认为多样性是重要的并且应该进行正确评价，但在评价标准上却很难取得一致。一些评价指标(如推荐列表的多样性)经常会被研究人员使用，但是仍然没有一个统一的标准作为首选的多样性度量指标。第二是根据许多研究结果，多样性的增加并不一定意味着牺牲准确性，因为使用正确的方法实际上会使两者的同时增加。这是非常重要的，因为这给新算法的设计提供了更大的灵活性，也意味着还有改进的空间。多样化研究领域很多挑战依然存在，主要可以总结为下面几个方面：

1) 尽管目前的很多研究都是针对实时用户的研究，但是真正从用户的角度来研究多样性还不够充分。用户如何定义多样性，用户如何理解和感受多样性，不同的用户对于多样性的需求又有什么不同，考虑这些内容后如何利用这些知识来制定适当的多样性措施，扩展多样性定义。所以对于对用户问题的进一步研究有助于对多样性的完整客观的认识。

2) 对于多样性的研究至少在某些方面是高度主观的，因此在研究中可能需要用到包括心理学等在内的一些其它研究领域的知识来制定新的多样性措施。

3) 在推荐过程中应考虑多样性，而不仅仅是在后推荐过程中。如果推荐系统出现过度拟合的情况，所推荐项目或多或少都会出现相似的情况，导致多样化过程失败。因此，多样化过程应该从推荐过程开始时开始，并贯穿整个推荐过程，包括预测评分、相似性计算等。

5. 结束语

推荐系统的多样化已成为解决过度拟合问题的主要策略之一。在很多文献中，多样性也作为一项研究挑战被提出来，证明了研究的重要性。准确性与总体多样性、准确性与个体多样性或者总体多样性与个体多样性之间的关系是未来多样性研究的重要领域，如何有效地设计推荐方法，协调三者之间的关系，这也是多样性研究的下一步内容。

基金项目

天津市自然科学基金企业科技特派员项目(17JCTPJC55100)。