常用推荐算法介绍
在本文中,作者主要是介绍了常见推荐算法的基本原理。
0. 从余弦公式讲起
先思考一个问题,我们怎么量化两个事物的相似度呢?当然,这也是推荐系统需要多次面临的问题。
我们知道向量的概念,可以形象化地表示为带箭头的线段。二维空间向量表示方法为,多维空间向量表示为,向量是描述事物一种很好模型。
比如,假设用户有5个维度:
- 对服装的喜欢程度(1~5分)
- 对家居的喜欢程度(1~5分)
- 对3C的喜欢程度(1~5分)
- 对图书的喜欢程度(1~5分)
- 对化妆品的喜欢程度(1~5分)
- 一个用户A:对服装的喜欢程度3,对家居的喜欢程度1,对3C的喜欢程度4,对图书的喜欢程度5,对化妆品的喜欢程度0,用户A可以用向量表示为
- 一个用户B:对服装的喜欢程度3,对家居的喜欢程度4,对3C的喜欢程度5,对图书的喜欢程度0,对化妆品的喜欢程度2,用户B可以用向量表示为
这两个用户的相似程度是多大呢?既然我们把这两个用户表示为向量,那么我们可以考虑向量怎么判断相似性。没错,看这两个向量的夹角。夹角约小,则相似度越大。
对于向量和而言,他们的在多维空间的夹角可以用向量余弦公式计算:
余弦相似度的值本身是一个0~1的值,0代表完全正交,1代表完全一致。就刚才用户A和用户B的例子而言,我们可以知道他们的相似度为:
余弦公式本身应用范围很广,量化相似度在搜索推荐,商业策略中都是常见问题,余弦公式是很好的解决方案。就推荐本身而言,计算内容的相似度,计算用户的相似度,计算用户类型的相似度,计算内容类型的相似度,这些都是可以应用的场景。
1. 推荐的本质是什么
推荐和搜索本质有相似的地方。搜索满足用户从海量数据中迅速找到自己感兴趣内容的需求,属于用户主动获取。推荐则是系统从海量数据中根据获取到的用户数据,猜测用户感兴趣的内容并推荐给用户,属于系统推荐给用户。本质上都是为了在这个信息过载的时代,帮助用户找到自己感兴趣的东西。
推荐系统有很多种形式。运营或者编辑筛选出自己认为最好的内容放在首页,广义上讲这也是一种推荐。不过这个不在我们本期文章的讨论范围,本期主要是讨论系统级别的推荐。这里主要介绍四类常见的推荐方法:
- 基于内容的推荐
- 基于内容的协同过滤
- 基于用户的协同过滤
- 基于标签的推荐
2. 基于内容的推荐
基于内容的推荐是基础的推荐策略。如果你浏览或购买过某种类型的内容,则给你推荐这种类型下的其他内容。
以电影推荐为例。比如你之前看过《盗梦空间》,则系统会关联数据库中盗梦空间的信息。系统会推荐克里斯托弗·诺兰导演的其他作品,比如《致命魔术》;系统会推荐主演里昂纳多的其他作品,比如《第十一小时》。
如果这个电影系统的数据被很好地分类,那么推荐系统也会给用户推荐这个分类下的其他作品。盗梦空间如果被归为科幻作品,那么可能会推荐其他科幻作品,比如《星际迷航》。
基于内容的推荐好处在于易于理解,但是坏处是推荐方式比较依赖于完整的内容知识库的建立。如果内容格式化比较差,那么基于内容的推荐就无法实行。同时如果用户留下的数据比较少,则推荐效果很差,因为无法扩展。
3. 基于内容的协同过滤
协同过滤(Collaborative Filtering)与传统的基于内容过滤直接分析内容进行推荐不同,协同过滤会分析系统已有数据,并结合用户表现的数据,对该指定用户对此信息的喜好程度预测。
基于内容的协同过滤(item-based CF),通过用户对不同内容的评分来评测内容之间的相似性,基于内容之间的相似性做出推荐;最典型的例子是著名的“啤酒加尿布”,就是通过分析知道啤酒和尿布经常被美国爸爸们一起购买,于是在尿布边上推荐啤酒,增加了啤酒销量。
需要计算用户u对物品j的兴趣,公式如下:
这里N(u)表示用户有关联的商品的集合,wji表示物品j和i的相似度,rui表示用户u对物品i的打分,示例如下:
这里还有两个问题没有仔细描述,如何打分,如何计算相似度。
打分的话需要根据业务计算,如果有打分系统最好,没有打分系统,则需要根据用户对这个物品的行为得到一个分数。
计算相似度除了之前我们提到的余弦公式,还可以根据其他的业务数据。比如对于网易云音乐而言,两首歌越多的被加入两个歌单,可以认为两首歌越相似。对于亚马逊而言,两个商品越多的被同时购买,则认为两个商品相似。这里其实是需要根据产品的具体情况进行调整。
4. 基于用户的协同过滤
基于用户的协同过滤(user-based CF),通过用户对不同内容的行为,来评测用户之间的相似性,基于用户之间的相似性做出推荐。这部分推荐本质上是给相似的用户推荐其他用户喜欢的内容,一句话概括就是:和你类似的人还喜欢下列内容。
需要计算用户u对物品i的兴趣,公式如下(可以和基于物品的协同过滤仔细对比):
这里N(i)表示对物品i有过行为的用户集合,wuv使用用户u和用户v的相似度,rvi表示用户v对物品i的打分,示例如下:
同样的,这里计算相似度如果用到余弦公式,其实最主要的是选好维度。对于音乐而言,可能是每首歌都作为一个维度,对于电商而言,也可以是每个商品都是一个维度。当然,用一些可理解的用户标签作为维度也是可以的。
5. 基于标签的推荐
标签系统相对于之前的用户维度和产品维度的推荐,从结构上讲,其实更易于理解一些,也更容易直接干预结果一些。关于tag和分类,基本上是互联网有信息架构以来就有的经典设计结构。内容有标签,用户也会因为用户行为被打上标签。通过标签去关联内容。
需要计算用户u对物品i的兴趣,公式如下(可以和基于物品的协同过滤仔细对比):
这里N(u.,i)表示用户u和物品i共有的标签,wuk使用用户u和标签k的关联度,rki表示标签k和物品i的关联性分数,示例如下:
标签查找的方法这里有很大可以发挥的空间,比如,通过知识库进行处理,或者语义分析处理。而对于一些设计之初就有标签概念的网站, 就比较容易,比如豆瓣和知乎。对于知乎而言,公共编辑的标签是天然的标签内容,对于知乎的用户而言,浏览回答关注等行为则是天然的用户标签素材。
6. 总结
对于推荐而言,这几种基本的方法彼此之前都有些应用场景的差别:比如基于知识的推荐,这是比较老旧的推荐方法,但是对于系统和结构比较好的内容,则低成本且高效。比如基于内容的协同过滤,就适用于内容比较有限,但是用户数特别多的情况,比如电商公司。比如基于用户的协同过滤,则比较容易根据用户的兴趣点,发觉热点内容,比如新闻门户。对于基于标签的推荐,有标签系统的很占便宜,它在灵活性和可控制性上都好一些,但是做好很难。
本期主要是介绍了常见推荐算法的基本原理,那么在推荐系统策略设计的时候,有哪些需要特别注意的地方呢?我们怎么衡量一个推荐系统的优劣呢?推荐系统有哪些典型的应用场景呢?欢迎关注专栏,继续阅读下期。
#专栏作家#
潘一鸣,公众号:产品逻辑之美,人人都是产品经理专栏作家。毕业于清华大学,畅销书《产品逻辑之美》作者;先后在多家互联网公司从事产品经理工作,有很多复杂系统的构建实践经验。
本文原创发布于人人都是产品经理。未经许可,禁止转载。
买了你的书了,好好看看先
“比如对于网易云音乐而言,两首歌越多的被加入两个歌单,可以认为两首歌越相似。”你好,这个是不是写错了呢?两首歌越多被加入同一个歌单,可认为两首歌越相似?(不知道是不是我理解有偏差。)
最好举一些例子,这样看起来很生硬,若不是提前看了别人的文章,根本不懂
作者一个文科产品经理,懂了这些数学知识,不简单了
对于一个文科生。表示一脸懵逼。
对于刚入搜索和数据分析的新人,入门学习,有没有推荐的书籍呢(淘宝电商)
写的真好,学到很多东西
“余弦相似度的值本身是一个0~1的值”,这句话不够严谨。
写的很好,果然是没有对比就没伤害!!!
对于刚入搜索行业的产品运营新人,想快速了解推荐及搜索的相关内容,有没有推荐的书籍呢(新闻类产品)
《推荐算法实践》,这个作者写的这四种方法,都可以归纳为基于物与物的推荐和基于人与人的推荐。
请教作者前辈一个问题:对于刚上线的项目,应用第3类和第4类算法时如果没有最初始的种子数据,也就是没有“1.6”或者“0.8”这样的初值,如何启动这个推荐呢?
冷启动问题。我们项目中采取的方法是采用基于内容推荐的算法为用户推荐相似的item作为过渡,待积累了用户行为数据之后可以切换至CF或者多种推荐算法结合的方式。
基于内容的推荐虽然难做,但却是用户体验最好的一种,因为它能真正做到关联推荐,而不是相似推荐。所有基于相似的推荐最大的问题就是重复推荐,我刚买量自行车还给我推荐自行车,这时候推荐任何周边产品都可以就是不该推荐重复品类的东西,可是目前大多网站都在犯这类错误。
推荐算法不是相似推荐,而是相关推荐。内容推荐上限是远低于推荐算法的推荐的。
基于内容推荐特别难做,需要产品有一个完整的内容体系,并且这些内容还要在某一个场景有所联系最好。这也是我最近在给界面添加一些推荐功能时所烦躁的,只能一个流程需要一个功能时临时添加,等这些界面功能都添加好了我还要想办法让它们有联系,做到这些不容易。。。哎
谢谢分享,很棒
从第三段开始,三个图看不懂,能不能解释下?
图只是在解释上面的公式。如果仔细看还没看明白的话,可以看下书《推荐系统实践》。
写的很完整,收藏了慢慢看。
挺好,学渣看看公式表示看不懂
不愧是THU出来的学院派
客气了 😳