学途无忧

标题: 推荐系统三十六式-刑无刀 极客时间 [打印本页]

作者: admin    时间: 2020-5-22 18:17
标题: 推荐系统三十六式-刑无刀 极客时间
推荐系统三十六式-刑无刀  极客时间

由于工作需要,开始学习推荐算法,参考【极客时间】->【刑无刀大牛】的【推荐系统三十六式】,学习并整理。

1. 概念篇
1.1 什么是推荐系统
推荐系统:它是一种信息过滤系统,手段是预测用户(User)对物品(Item)的评分和偏好。

1.1.1 它能做什么?

推荐系统可以把那些最终会在用户(User)和物品(Item)之间产生的连接提前找出来。

1.1.2 它需要什么?

推荐系统需要已经存在的连接(可理解为原料),从已有的连接去预测未来的连接。

1.1.3  怎么做?

机器学习和人工推荐,也就是通常说的“个性化推荐”和“编辑推荐”。两者之间还存在现在最常见的领域专家推荐,也就是网红推荐。

1.2 推荐系统的问题模式
1.2.1 推荐系统的预测问题模式,从达成的连接目标角度区分,有两大类:

1、评分预测

Netflix 比赛的评判标准就是 RMSE ,即均方根误差,怎么算的呢?



t 表示每一个样本,

n 表示总共的样本数,

有帽子的 yt  就是模型预测出的分数,是我们交的作业,

秃顶的 yt  就是用户自己打的分数,是标准答案,

然后一个样本一个样本地对答案,模型预测分数和用户自己打分相减,这就是我们预测的误差


2、行为预测

根据用户爸爸使用App或浏览网站的行为:登录、点击率、刷新、收藏、阅读完成、评论、添加购物车、推荐好友、分享、购买、评价等,进行推测。

行为预测说白了,就是利用隐式反馈数据预测隐式反馈的发生概率;也因此,各家互联网产品要高度重视隐式反馈,归纳起来有以下几点原因:

1. 数据比显式反馈更加稠密。诚然,评分数据总体来说是很稀疏的,之前 Netflix 的百万美元挑战赛给出的数据稀疏度大概是 1.2%,毕竟评分数据是要消耗更多注意力的数据。

2. 隐式反馈更代表用户的真实想法,比如你不是很赞成川普的观点,但还是想经常看到他的内容(以便吐槽他),这是显式反馈无法捕捉的。而人们在 Quora 上投出一些赞成票也许只是为了鼓励一下作者,或者表达一些作者的同情,甚至只是因为政治正确而投,实际上对内容很难说真正感兴趣。

3. 隐式反馈常常和模型的目标函数关联更密切,也因此通常更容易在 AB 测试中和测试指标挂钩。这个好理解,比如 CTR 预估当然关注的是点击这个隐式反馈。

1.2.2 推荐系统的隐藏顽疾,即没有很好的通用解决方案。

1、冷启动问题

推荐系统是数据贪婪型应用,就是对数据的需求绝无足够的那一天。

新用户或者不活跃用户,以及新物品或展示次数较少的物品,这些用户和物品,由于缺乏相关数据,很是空虚寂寞冷,因此就是冷启动问题的关注对象。

因为通常的解决方式就是给它加热:想办法引入数据,想办法从已有数据中主动学习(一种半监督学习)。我们会在后面的文章中详细讨论冷启动的问题。

2、探索与利用问题

探索与利用,行话又叫做 EE 问题。假如我们已经知道了用户的喜好,一般有三种对待方式:

1. 全部给他推荐他目前肯定感兴趣的物品;

2. 无视他的兴趣,按照其他逻辑给他推荐,如编辑推荐、随机推荐、按时间先后推荐等等;

3. 大部分给他推荐感兴趣的,小部分去试探新的兴趣,如同一边收割长好的韭菜,一边播种新的韭菜。

显然是第三种,那么如何平衡这里的“大部分”和“小部分”呢?这就是 Exploit 和 Explore 问题的核心了。Exploit 意为“开采”,对用户身上已经探明的兴趣加以利用,Explore 意为“探索”,探明用户身上还不知道的兴趣。

3、安全问题

如果你正在一款流量非常大的产品上构建推荐系统,那么一定要考虑推荐系统攻击问题。推荐系统被攻击的影响大致有以下几个:

1. 给出不靠谱的推荐结果,影响用户体验并最终影响品牌形象;

2. 收集了不靠谱的脏数据,这个影响会一直持续留存在产品中,很难完全消除;

3. 损失了产品的商业利益,这个是直接的经济损失。

1.3 对关键元素重要性的认识
要开发一个推荐系统产品,有这么四个关键的元素需要注意:

1. UI 和 UE;

2. 数据;

3. 领域知识;

4. 算法。

重要性依次递减,权重大致是 4-3-2-1。

1.4 目标思维和不确定性思维
推荐系统这种信息过滤系统,追求的是指标的增长,背后思想强调是目标和不确定性:我们并不能很确定地模拟每个人将会看到什么,也不能很好地复现一些操作过程,充满了不确定性,但是在推荐系统未动的情形下,目标先行则是常识。

关于目标思维,如果了解机器学习的人会很好理解。通常来说,训练机器学习模型是一个不断最小化(或者最大化)目标函数的过程,先设定一个目标函数,然后通过不断迭代让这个函数值到最小值(或者最大值)。

不确定性思维就是:不用因果逻辑严丝合缝地提前推演,而是用概率的眼光去看结果。



为什么负责推荐系统产品的人一定要有不确定性思维呢?原因有以下几个:

1. 绝大多数推荐算法都是概率算法,因此本身就无法保证得到确切结果,只是概率上得到好的效果;

2. 推荐系统追求的是目标的增长,而不是一城一池的得失;

3. 如果去花时间为了一个 Case 而增加补丁,那么付出的成本和得到的收益将大打折扣;

4. 本身出现意外的推荐也是有益的,可以探索用户的新兴趣,这属于推荐系统的一个经典问题:EE 问题,后面会有记录。





作者: ggamma    时间: 2020-5-22 19:57
推荐系统三十六式-刑无刀 极客时间
作者: Superset    时间: 2020-5-22 22:14
是的发生地方撒地方
作者: elin0512    时间: 2020-5-23 00:18
666666666666666666666666666666a
作者: robertal    时间: 2020-5-23 10:34
1111111111111111
作者: 休息中请勿    时间: 2020-5-24 19:36
邱文邱文邱文邱文邱文邱文邱文
作者: xiaolinzi    时间: 2020-5-26 16:07
66666666666666666666
作者: danvol    时间: 2020-5-26 18:26
GOOD!!!!!!!!!!!!!!!!!!!!!!
作者: qyx123    时间: 2020-5-27 10:07
推荐系统三十六式-刑无刀 极客时间
作者: yjj    时间: 2020-6-2 15:42
RE: 推荐系统三十六式-刑无刀
作者: 1468697939@qq    时间: 2020-6-9 14:19
666666666666
作者: 鸢雅    时间: 2020-6-18 16:09
推荐系统三十六式-刑无刀 极客时间
作者: 沱长    时间: 2020-6-25 00:23
推荐系统三十六式-刑无刀 极客时间
作者: 魅影之歌    时间: 2020-8-19 22:16
推荐系统三十六式-刑无刀 极客时间12
回复94
查看打印 上一主题 下一主题
作者: holmnan    时间: 2020-8-20 14:19
推荐系统三十六式-刑无刀 极客时间
作者: neal    时间: 2020-9-5 09:13
推荐系统三十六式-刑无刀 极客时间

作者: naice    时间: 2020-9-25 11:13
推荐系统三十六式-刑无刀
作者: 竹韵飘香    时间: 2020-9-29 17:38
1111111111111111
作者: 无语的小高    时间: 2020-11-23 23:23
谢谢楼主详细资料
作者: 什么情况    时间: 2021-1-25 21:25
来学习啦
作者: Horizon    时间: 2021-2-14 11:25
推荐系统三十六式
作者: simple    时间: 2021-5-13 10:20
k5an k5an k5an k5an
作者: cccccc    时间: 2021-5-20 15:17
66666666666666666666666
作者: wenwen    时间: 2021-5-23 11:06
学习学习!
作者: hibook    时间: 2021-5-23 14:48
推荐系统三十六式-刑无刀 极客时间
作者: lijm1206    时间: 2021-7-3 23:02
感谢分享
作者: hanmanhong    时间: 2021-7-8 22:40
66666666666
作者: __tian__    时间: 2021-10-13 08:38
dsfjkahfkajhflkasdf
作者: 1148861399    时间: 2021-12-31 17:07
111111111111111




欢迎光临 学途无忧 (http://xuetu123.com/) Powered by Discuz! X3.2