互联网大厂都在搞的新技术，突然就被人人喊打了？
自扎克伯格创立Facebook以来，“算法”就走进了大众的视线，成为了各大互联网巨头的好助手。随着互联网的快速发展，用户的信息数据也面临着被泄露的风险，政府部门也随即采取了一系列的保护措施。在这种发展情景下，作者在本文展开了关于“算法”的一些思考。一起来看看吧。
如果不是因为算法的存在，我们的社会绝不会进步得如此之快。
3月1日，随着《互联网信息服务算法推荐管理规定》的实施，各大APP均被强制要求在显眼的位置设置 “关闭个性化算法推荐” 按钮。
在不少用户眼中，关闭APP的个性化推荐甚至等同于关闭APP的广告、关闭APP的监听。有一说一， 虽然很多互联网公司做的APP确实不咋好，但是这个谣言是真的有点危言耸听。
就说一句话，如果APP真的在后台无时无刻的监听，那么你的手机电量根本受不了。
一、个性化推荐是什么？ 既然APP没有在后台监听我们，那么，为什么APP总是能知道我们想要什么呢？这就离不开个性化推荐（也被称为个性化营销）了。
1. 何为个性化推荐？ 简单说就是，APP（网页同理）基于营销目的，在你使用APP过程中，APP会根据你填写的资料、你在APP上的页面停留时长、你对相关事物的兴趣等综合因素，对你进行个性化的营销推送。
当下的互联网环境，为了拿到你的访问记录，甭管我们是打开APP还是登录网页，背后都有无数的跟踪器在默默分析着你的喜好。
在主流应用中，甭管是日活上亿的微信、抖音，还是淘宝、小红书这些APP，他们统统都在使用个性化推荐。可以说，个性化推送在当今社会，极为常见。
那么，这一套系统到底是怎样运作的呢？
2. 数据采集 对于“个性化推荐”我们可以这样理解：“个性化推荐”=“个性化”+“推荐”。在这个公式中，“个性化”是“个性化推荐”的前提， 而“个性化”前提则是海量数据做支撑。
（淘宝个性化推荐需要收集的数据）
可以这么说，没有足够的数据，就不会存在个性化推送。因此，有不少公司都走上了数据采集这条路子。
良心一点的公司，他会基于正常渠道获取到的用户数据，给用户打上一些正常的标签。但这些渠道的数据，通常不怎么值钱，也无法对个性化推荐起到有效的帮助。
于是，野路子的玩法就诞生了。
就比如在APP内嵌入SDK直接采集隐私信息。违不违规无所谓，对他们来说，把用户数据拿到手才是硬道理。
虽然很过分，但在黑马看来，这种已经算是“相对良心”。
因为在它之上，还有公司直接从流量源头出发，从发卡的运营商渠道直接非法收集用户的个人信息。就比如下面这家公司——瑞智华胜。
它通过竞标以合作供营销服务的方式取得运营商远程登陆权限，接着在运营商系统上装上能采集用户Cookie信息的木马和插件，达到清洗、采集用户Cookie还有访问记录等目的。
要知道，获取到一个人的Cookie，就意味着我们无需再次输入账号密码，就可以登录他的账号，从而获取他的购物、社交、开房记录等敏感内容。
说难听点就是，这家公司获取到你的Cookie信息之后，你在他们面前就几乎没有秘密了。
说实话，这种采集程度前所未有，其离谱程度更是超乎想象。不过这也恰恰说明了数据采集在个性化推荐中的重要性。
3. 推荐算法 说完了数据采集，我们再来聊聊 “推荐” 。
“推荐”的核心就在于怎样从海量的产品中，找出你最有可能感兴趣的那些。这时候，APP之前通过各种渠道采集到的数据就起到了作用。
不过想要进行高效的推荐我们还得引入推荐算法。因为我们采集到的数据实在是太多了，只有算法的加持才可以简化这个推荐过程。
通常情况下，开发者会用到协同过滤推荐算法。
它主要通过对用户历史行为数据的分析发现用户的偏好，然后再基于不同的偏好对用户进行群体划分，之后再对同类用户推荐相同的商品。
比如黑马和36最近在看摩托，虽然是两个账号，但是因为黑马和36的喜好和消费一致，那么这时候系统就会给黑马和36推荐相同的产品。
上面黑马也说了，协同过滤推荐算法比较简单，所以大家都在用。这也就导致一种情况，你有我有大家有，那不就是约等于没有嘛。
于是，聪明的开发者又开始引入了深度学习。
在深度学习的加持下， 推荐算法如虎添翼。
它不仅会从用户停留的页面采集数据，更是会根据用户点击的时间段、访问次数、访问渠道、留存率等更多因素多方面为用户建立模型。
比如字节跳动旗下的抖音。
你在平台上的每一次点击、观看时长、点赞、评论与转发等都被量化了。 之后，深度学习再根据这些数据设计出相关模型，用以预测同类用户群体的喜好。
在算法的加持下，抖音做到了比你还要了解你的喜好。越刷越有趣的抖音就此诞生。
二、个性化推荐存在的意义 通过上面这部分的介绍，想必大家应该知道个性化推荐是什么了。那么，个性化推荐算法存在的意义又是什么呢？
1. 提高效率 以YouTube为例，作为全球最大的视频网站，YouTube每分钟都有超过500小时时长的视频被上传（2018年的数据）。
简单换算一下就是，一天会有超过720000小时时长的视频被上传。抛开运营成本不说，视频网站最大的痛点就是，如何让用户查看到他感兴趣的内容。
于是我们可以看见， YouTube针对视频内容划分了类别，同时用户在注册时也需要选择感兴趣的内容类别。
这样一来，YouTube就可以针对用户喜好进行推荐筛选了。
接下来的流程则和国内的视频网站应用相差不大。
在推荐冷启动阶段，针对用户的反馈（观看时长、赞、评论与转发等）来更加精准的判定用户喜好什么类型的视频，同时对视频的标签进行优化。
为了提高信息的推荐效率， 视频网站这时候就会引入个性化推荐，用以帮助用户更快速地找到自己所需要的信息， 从而让用户觉得这个网站对其有所帮助增加用户的点击率。
2. 加强留存率 与之相对的是抖音。
作为短视频行业的老大， 抖音还率先引入了实时学习机制 ，它可以通过用户使用的数据快速提供反馈。
比如黑马一直喜欢的是机车的视频，但是某一天黑马突然在萌宠类视频上停留了较长的时间，那么这时候抖音就会根据这个改变快速推荐相似的视频。
这一点，相信大家都深有体会。
另外，根据纽约时报发布的《TikTok是如何让你上瘾的》文章描述，Tik Tok内部的一份文件《TikTok Algo 101》曝光了抖音算法的推荐逻辑：
为了追求公司增加日活用户的“终极目标”， 对提供给用户的视频内容流，Tik Tok选择性地优化了两大密切相关的指标： “留存率”——即用户是否回访——以及“访问时长”。
“算法透明”的创始人纪尧姆·查斯洛特说： “这种系统意味着观看时长才是重点。它的算法是为了让人上瘾，而不是给人们真正想要的东西。”
道理很简单，用户在APP中停留的时长越久，观看到广告的机会也就越多，平台的综合收益也就越大。
值得一提的是，文章提到的《TikTok Algo 101》是由抖音北京的工程团队编撰，同时也得到了Tik Tok发言人希拉里·麦奎德的证实，她表示， 这份文件旨在向非技术人员解释抖音算法工作原理。
至于国内的抖音推荐机制是否和国际版的Tik Tok一致，这里黑马就不做评判了。
不过，通过上面这两个例子，我们可以在这里简单总结一下： 个性化推荐算法在APP中被应用，最主要的目的就是为了提高信息推送效率、加强用户的留存率。
毕竟在互联网时代，用户留存率=钱。
常言道，“物极必反”。平台通过这些手段将用户留下来之后，就不会对用户造成什么影响吗？
这个问题，值得我们深入探讨一下。
三、个性化推荐造成的后果 就黑马个人而言的，体会最深刻的就是个性化推荐带来的冲动消费和信息茧房的问题。
1. 冲动消费 就拿冲动消费这事来说，淘宝曾有一个让黑马“惊为天人”的功能： 猜你喜欢 。
其离谱程度在于，它推荐的东西不一定是黑马的必需品，但它推荐超过90%的产品都是黑马喜欢的产品。每一次深夜逛淘宝，黑马就忍不住想要剁手。难不成，黑马的自制力就这么差？
黑马也咨询了一下身边的朋友，发现和黑马有着相同困境的人不在少数。
事实上，个性化推荐的最重要的目的之一就是 让人上瘾，形成冲动消费。
甭管你是逛淘宝还是刷抖音，对于这些平台而言最重要的就是 成瘾性 。因为只有让你上瘾了，才能让你产生一种别人有的我也要有，从而在不知不觉之间促使你完成消费。
黑马在以前的一篇文章中写过，移动支付的发达，降低了大家对于金钱的敏感度，“剁手”所带来的痛苦大幅降低，加上平台铺天盖地的宣传，很容易让人冲动消费。
就比如大家熟知的AJ，你可能不一定会买，但身边一定会有打扮得很Fashion的人穿AJ。
在品牌文化和平台的双重宣传之下，大家很自然的就会把AJ理解为“潮”，从而在不知不觉中花掉更多的钱。
不追潮牌的也别笑。
想想自己，明明一开始只是想买GTX1080，可是随着平台的推广和相关博主的使用体验种草，黑马最后还是“一不小心”就买了GTX1080Ti。本来自己的手机好好的，不卡顿也够用， 但就在每年手机厂商们各种发布会的轰炸下，我们总是花了大几千上万买一款新手机。
冲动消费带来的，不仅仅是个人财务状况的恶化，由于人的收入是有限的，对某一领域的冲动消费必然会挤压其他方面的消费，例如必需品的消费，所以我们会看到有些人宁愿每个月吃泡面也要买AJ、买神仙水。
如果进一步地讨论，冲动消费会进一步的影响我们的三观，因为我们重视消费品对我们外表和人格的“装扮”，也必然会导致拜金主义和金钱至上的社会现象，甚至导致掌握生产资料的少数人群与广大消费者群体的分化和对立。
又有谁能逃得过冲动消费的“荼毒”呢？
3. 信息茧房 除了让你上瘾、让你冲动消费，个性化推荐还会造成一个比较严重的后果—— 信息茧房。
“信息茧房”（Information Cocoons）是美国哈佛大学教授凯斯·桑斯坦在《信息乌托邦：众人如何生产知识》提出的概念。他认为信息在传播过程中，公众会偏向于选择那些他们感兴趣的信息，并对其他内容无视甚至排斥，久而久之便形成了“信息茧房”。
所谓“物以类聚人以群分”， 因为信息的单一化，所以陷入信息茧房的人颇有一种“找到知己”的感觉。
这时候，他们就很难容忍与他们不一样的声音。任何外界理性的看法，都将被其视为异己，更有甚者会试图消灭这种不同的声音。
如果感受不够明显的话，黑马推荐大家去看看微博的明星话题区，以及某些爆火电视剧中流量明星出现时的弹幕。倘若你敢随意指出某某明星的不足，那你的结局只有一个：因被该明星的粉丝群体疯狂攻击而炸号或狂怼。
随着个性化推荐的深入， 陷入信息茧房的人会逐渐变得 视野被固化 、不能接受外界的声音、极端化、丧失独立思考能力等，严重的甚至会激化不同群体和民族的对立。
法国社会心理学家古斯塔夫·勒庞曾在1895年出版了这样一本书——《乌合之众：大众心理研究》，书中详细的阐述了当个体融入群体之后，他的个体思想就会被群体思想所取代，从而产生情绪化、极端化、低智商等特征。
国外最大的社交媒体网站之一Facebook曾曝出了这样一个“丑闻”。
根据《华尔街日报》的文章揭露显示： Facebook的算法利用了人脑对分裂的吸引力，如果任其发展，Facebook将向用户提供越来越多的分裂内容，以努力获得用户的关注，并增加在平台上的停留时间。
也就是说，为了让用户的留存率更高，Facebook更倾向于向用户推荐极端内容，而随着用户的参与，算法更是会优化这种推送逻辑，从而让平台用户看见更多的极端内容。
社会学家兼Facebook研究员Monica Lee研究发现，近2/3加入极端主义小组的用户都是被Facebook推荐吸引而非主动检索① 。 深入想想，让人感到后怕，要知道，极端主义的孕育，会直接导致社会治安或者是恐怖主义的问题。
想要避免这种情况的发生，我们就不得不 对个性化推荐算法做出修改。
人民网早在2017年就曾发文，告知大家要 警惕算法走向创新的反面 。然而，平台为了更多的流量、更好的留存率选择了迎合用户的这种喜好，从而让互联网环境变成 “娱乐至死” 。
根据新华网做过的一次调查统计显示，有54%的95后最向往的新兴职业就是 主播和网红。
或许，出现这种情况，也离不开个性化推荐在背后的“推波助澜”。
三、关闭个性化推荐 就目前来看，个性化推荐有好有坏。
运用得当的话，它可以提高用户查找信息的效率、学习知识的效率，这一特点在现阶段信息爆炸的时代显得尤为重要。对于公司或平台而言， 它也能使公司在激烈的市场竞争中保持优势。 从技术发展的角度来看，个性化推荐必然会增强机器学习的能力，从而促进人工智能的发展，进而发展为人工智能主导下的各行业跨越式的进步。
然而，运用不当的话，它不仅侵犯用户隐私，而且会让用户形成冲动消费、信息茧房，让人在生活中变得更加焦虑、偏激和绝对，甚至孕育出社会层面大大小小的矛盾和严重后果。
那么，你有没有想过试着关闭个性化推荐呢？这不，黑马就试了试关闭个性化推荐。
1. 迎接枯燥的现实 然而，在关闭个性化推荐之后，黑马就后悔了。
因为关闭个性化推荐之后的世界，实在是太无趣了。
以淘宝为例，左边的图是关闭个性化推荐之前，它有黑马关心的头盔、射灯、摄影灯、记录仪等等；而在关闭之后，黑马感兴趣的东西都荡然无存，甚至还推荐了黑马最不爱吃的洋葱。
（左边为关闭前，右边为关闭后）
可以说关闭个性化推荐之前，淘宝就像是一个管理着巨大仓库的私人小秘书，能清楚的知道我们究竟想要什么。我们的每一次召唤需求，都被她了然于胸；
然而关闭个性化推荐之后，我们的私人小秘书就像是被开除了一样， 除了你自己，没有人知道你想要什么。 从此，甭管你想买啥，都只能靠自己在这个仓库中慢慢挑选。这也恰好说明了， 过去我们是有多么的依赖算法。
如果你选择关闭个性化推荐，就必须做好迎接这种枯燥现实的准备。
2. 拥抱多元化观点 根据牛津大学Seth Flaxman教授2018年发布了一篇研究指出， 互联网个体天生就偏爱极端的新闻。
道理也很简单，通常情况下，极端内容就意味着争议。而争议的背后，就是流量。对于互联网平台来说，不好好利用这个特性，绝不是一个合格的平台，于是我们看到了个性化推荐的盛行。
总的来说， 当代互联网将所有天南地北的人都囊括在一起，大家看的都是讨好自己的内容，而且算法还很方便的把相同观点的人凝聚在一起。
在这个过程中，因为固有认知，我们很容易走上极端，陷入争执。如果理性讨论倒也无可厚非，然而这样的环境，是无法让理性冒头的。
当线上非理性的声音占据上风，蔓延到线下就成为了一种必然，这也就形成了所谓的“开盒”。
虽然我们不一定能够完全避免这样的情况继续发生，但是我们选择关闭以算法为主导的推介。 在关闭个性化推荐之后，平台推送偏激内容的频率降低了，参与讨论的人数变少。 相应的，发生这种事情概率自然也就降低了。
我们不知道个性化推荐是否是“潘多拉”，但它所带来的问题，已切实可见。波兰诗人斯坦尼斯洛曾说过：“雪崩时，没有一片雪花是无辜的 ” 。
或许我们个人阻止不了雪崩的发生，但我们至少可以选择，让雪花飘得更远一些。
参考文献：https://www.huxiu.com/article/384364.html
作者：小仙；公众号：黑马公社
原文链接：https://mp.weixin.qq.com/s/ZpioqVuz4jvQpVJq5wWCWg
本文由 @黑马公社 授权发布于人人都是产品经理，未经许可，禁止转载。
题图来自 pexels，基于CC0协议。
