一文搞懂工程化协同推荐算法(一)

数据森麟

共 2475字,需浏览 5分钟

 · 2020-03-17

4b8aa392c3cd847be1d02dbb12052715.webp


     作者:livan


     来源:数据EDTA

前言


23fd620532d49057ccd058f3d82bbfde.webp


推荐系统的重要性已经不需要过多的强调了,随处一搜索就能看到各领域的大佬告诉你推荐系统的构建方法,面试的时候不讲几个协同都不好意思说自己懂算法,各个资料都会对协同的每一个细节详细描述,但是,不知大家看完之后有没有一个感触:各个知识点都了解了,就是串不起了,而且也多少会有些疑惑,就这么简单?被全宇宙的人推崇的推荐算法就是简单的几个表的来回计算吗?那平时我们应用的机器学习的各种算法都去哪里了?




23fd620532d49057ccd058f3d82bbfde.webp


e17530132a9df3b088b09ed7d1aaf67a.webp

1、协同推荐算法数理表达


23fd620532d49057ccd058f3d82bbfde.webp


市面上能接触到的推荐内容主要有两类:一类是协同,多个表之间的计算推导,有一些机器学习的影子,但是明显感觉到机器学习算法是对协同的一次次补充,不是推荐的主流算法,再深究一下,很多人就开始大肆宣传深度学习的神奇之处,用深度学习进行推荐推演是多么的精准高效。一时间搞的笔者一头雾水。笔者也就这个问题咨询过一些老牌的推荐大佬,得到了各种各样的答案。深思良久,笔者将自己对推荐算法的一些理解整理出来,有不足之处欢迎大家批评指正。


23fd620532d49057ccd058f3d82bbfde.webp


23fd620532d49057ccd058f3d82bbfde.webp


1) 推荐算法本质上不是一个技术问题,而是一个用技术解决问题的解决方案。
推荐的产生是由于产品越来越多,而由于精力、手机屏幕大小的限制,客户能看到的范围有限,长尾现象越来越严重,为了方便客户获取到想要的产品,各个公司开始考虑根据用户的喜好推荐客户有倾向的产品,尽量减少马太效应,推荐系统应运而生。
2) 推荐算法不是一个算法,而是一套算法集合,其算法范围无所不包容。
推荐算法是由一系列算法组合而成,每个算法应用场景不一样,各个公司根据各自的客户特征和商品属性,挑选适合本公司使用的推荐逻辑,使用的算法也不完全一样。协同推荐算法是比较早被研发出来的推荐逻辑,因为其逻辑较为清晰、可解释性比较强、数据兼容性、可执行性和工程化比较好,所以一直被各个公司应用,后期推出的基于模型的推荐、基于深度学习的推荐也都能看到协同推荐的影子,可以说协同推荐是现在各个公司推荐系统的基础逻辑。





23fd620532d49057ccd058f3d82bbfde.webp


23fd620532d49057ccd058f3d82bbfde.webp


    本文从推荐基础的角度,将各个协同推荐的逻辑串联在一起,希望能将协同推荐的基本结构描述清楚,如有不足之处请指正:
协同推荐的基本内容主要有三部分:

1) 基于用户相似的推荐:
    主要是找寻兴趣喜好相似的用户,然后根据用户购买的商品将商品推荐给相似的用户。


1582e116772d9992131d3670e5621e3c.webp


    u, v用户是相似用户,v用户购买了商品i,则为u用户推荐i商品。    用户相似度(以余弦定理计算):

b37682ad71dd676fd271efbd7907941c.webp

    

    其中,用户u和用户v,令N(u)表示用户u曾经有过正面反馈的物品集合。    用户对物品的感兴趣程度:


c3a42a8a3a16f2e3b0d496469613470d.webp


    其中,S(u,K)包含和用户u兴趣相近的K个用户,N(i)是对物品i有过行为的用户集合。Wuv是用户u和用户v的相似度,rvi代表用户v对物品i的兴趣,以评分表中的评分表示。



23fd620532d49057ccd058f3d82bbfde.webp


23fd620532d49057ccd058f3d82bbfde.webp


2 ) 基于物品相似的推荐:
主要是找寻相似的商品,然后根据用户购买的商品清单将相似商品推荐给用户。

cd9b273d77dd9c20d4d9118f254dd3d2.webp


物品i和物品j是相似产品,用户u喜欢物品j,故向用户u推荐物品i。物品相似度为:

69abbd24b27e7485d4854f74cb0ec5ee.webp


其中,N(i)是喜欢物品i的用户数。75a4aa5abf2418b4bd7f4f2f3ff60a38.webp是同时喜欢物品i和j的用户数。用户对物品的喜好程度为:


88b0aed1dcfdb04e8258770249db11f4.webp


其中,N(u)是用户u喜欢的物品集合,S(j,K)是和物品j最相似的K个物品集合,Wij是物品i和j的相似度,rui是用户u对物品i的兴趣,以评分表中的评分表示。





23fd620532d49057ccd058f3d82bbfde.webp


23fd620532d49057ccd058f3d82bbfde.webp


3) 基于标签的推荐:


本文没有专门描述基于内容的推荐算法,而是将其融入到基于标签的推荐算法中,主要是因为基于内容的推荐是在用户和物品之间找寻中间因子,而基于标签的推荐是在物品和用户之间找寻相关标签(如果我理解的不正确,请指正~),笔者认为这两个算法的原理相同,因此只介绍标签的推荐算法。
标签系统的主要原理是通过一定的方式标记出用户和商品的标签,进而通过标签关联用户和商品。


f682e1d3d01c6b793ff3566b280250ea.webp


商品的标签添加方式有很多种,很多公司会选择人工的方式,为每一个商品添加对应的标签,然后计算每个用户对各个标签的喜好程度。
用户对标签的喜好程度为Pre(u,t)


9ae20d4d0fb96333088f277c81bcce26.webp


其中:


e682151808a867411fe14adfbeaa6c42.webp


TF-IDF(u,t)是指用户u对标签t的依赖度,TF(u,t)是指用户u使用标签t标记的概率,IDF(u,t)表示标签t的热门程度,即一个标签被不同的用户使用的概率,n(u,ti)表示用户u使用标签ti标记的次数,d99f9b6871778bff7c6c39115f5fdd29.webp表示用户u使用所有标签标记的次数和,d880b5becee302c9f1358466295b1ef4.webp表示所有用户对所有标签的标记计数和,487c23a568a289237102426a2904722c.webp表示所有用户对标签t的标记计数和。


773d53db9d5d19ffd7c9f73596abb877.webp


其中,rate(u,t)表示用户u对t的喜好程度,rate(u,i)表示用户u对物品i的喜好程度,rel(i,t)表示物品i与标签t的相关度,k为平滑因子,ca45fe2971aff141f020e2fe8bb27c88.webp为用户u的所有评分的平均值。


23fd620532d49057ccd058f3d82bbfde.webp


23fd620532d49057ccd058f3d82bbfde.webp




4) 基于上下文的推荐:


基于上下文的推荐是在上面三种协同推荐的基础上添加上下文的因素,常见的上下文场景即为:“热门惩罚”、“时间衰退”。
常规的基于用户协同的推荐为:


c3a42a8a3a16f2e3b0d496469613470d.webp


在此基础上修改计算方法为:


1e8d3feb32207dbcc5f342efb37d01a1.webp


其中,fce2f80d04a9292cc63b4da8c377adfc.webp为计算用户相似度时的时间衰减函数,N(i)为对物品i产生过行为的用户个数,a为时间衰减因子,a685b222402b878a94f3760d6759dbce.webp为热门惩罚函数。


d3e9bab659e35b57ab8a24aaed48237d.webp

   

     其中,fe80a44bbd0cd87ace98738771c6bac7.webp为用户对物品评分时的时间衰减函数。


由此可以得出新的推荐计算方式。





23fd620532d49057ccd058f3d82bbfde.webp


23fd620532d49057ccd058f3d82bbfde.webp


通过上面的描述,大家是不是对推荐算法有一个数理方面的了解呢?不知道有多少大佬看到这里,接下来我们用库表的语言再进行一次汇总描述,毕竟,我们的所有计算最终都是要落到数据仓库中的,表的形式表达是IT人员的必经之路。


23fd620532d49057ccd058f3d82bbfde.webp


abb68dc7cbc129bd9a5cb5da24cbd90c.webp

◆ ◆ ◆  ◆ 




长按二维码关注我们



数据森麟公众号的交流群已经建立,许多小伙伴已经加入其中,感谢大家的支持。大家可以在群里交流关于数据分析&数据挖掘的相关内容,还没有加入的小伙伴可以扫描下方管理员二维码,进群前一定要关注公众号奥,关注后让管理员帮忙拉进群,期待大家的加入。


管理员二维码:



猜你喜欢

 笑死人不偿命的知乎沙雕问题排行榜

 用Python扒出B站那些“惊为天人”的阿婆主!

 互联网大佬学历&背景大揭秘,看看是你的老乡还是校友

 上万条数据撕开微博热搜的真相!

 你相信逛B站也能学编程吗? 

浏览 17
点赞
评论
收藏
分享

手机扫一扫分享

举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

举报