网飞的纪录片《social dilemma》真正揭开了科技(互联网)公司的神秘,让我们看到个人在一整套系统技术和盈利目标面前的脆弱。这种脆弱,有纯粹力量上的对比,但与历史上的技术变革影响相比,这一轮的科学技术利用人天性弱点的能力前无古人,助力背后操作者,甚至是操作者背后的人完成其目的。

在这部纪录片里,几个硅谷科技公司的早期员工、重要成员,相继表达了这样一个观点:“科技一开始是为了美好的目标,但走着走着就变了样子,我们根本没想到会这样。” 确实,google的提供信息,facebook的连接亲友,甚至美团的外卖速递,一开始都是为了满足人们正常的需求,让生活更美好。什么时候开始变糟了呢?

在这些互联网公司,所有的事物目标归根结底分为三类:engagement,growth,monetization。让用户停留尽量多的时间,让尽量多的用户加入,从他们身上尽量多的赚钱。再往前走一步,这其实就是从尽可能多的人身上长久地赚最多的钱,资本主义的典型状态。

然而这能怪资本主义吗?资本主义的逻辑是如此强大成熟,现代社会运行与之密不可分。与其从意识形态入手解决问题,不如降一格,从社会、政治、技术、制度层面尝试。

赚钱,本质上其实是一件中立的事,这个目的本身并不是罪恶的,或者对人有害的。目前来看,是商业模式只找到了最简单的赚钱方法,煽动人的情绪和本能来获取更多的注意力,并最终转化为赚钱。然而除了煽动情绪,难道没有别的选择吗?这确实是最便捷的路,但如果用更好的,稍微复杂的东西来代替它,是否可以一样保持赚钱,但同时又减少对社会和个人的伤害呢?

举个例子,约会软件。使用约会软件,人们很容易关注的是自己被多少人like,有多少match这些指标,但这些真的是人最需要的吗?被多少人like,match,背后是一种空洞的影响力和权力。相比之下,我觉得大部分人在约会软件上其实最想要得到的,是和真实的人的社交,无论是交朋友,还是情感,还是性。质比量重要。而约会软件大多把重点放在如何match人,match到了(或没match到)就不管了。就像爱情故事里结婚以后就happily ever after了,但真实的生活不是这样,产品应该帮助人更好地认识和应对真实的生活。

作为一个市场营销分析人士,我的日常工作就是计算用户购买商品的可能性,选出更有可能购买的用户,将邮件、信息推送给他们。在我做项目时,我看着千万级的用户,会把他们就当成数字,计算着销售额、购买率会有多少提升,不会想到这每一个数字背后都是一个个真实的家庭真实的人。

为了改变这种情况,当然可以用外部限制,比如政府立法。但有没有办法,企业自己找到别的对人有益的、更加理性的指标纳入考核标准?或者改变广告的商业模式,让企业明着支持广告,将自己的名字与社会责任联系起来?这需要多方面的改进。就像最近关于外卖骑手的讨论,算法只是中间的媒介,是投资者、消费者、经营者的思维传导媒介。要解决问题,需要社会各界的研究和努力。

我现在在和两个朋友尝试做一个线上辩论/讨论的app和插件,希望能改善互联网上的评论环境,通过将一个议题正反双方的观点同时展示在内容之下,减少有害言论,增强信息来源的展示以减少不实信息,根据成员发表的评论的复杂度和参与程度来进行engagement分层,来改善线上讨论的体验,让其更加理性,更加全面。

如果你想到什么相关的解决方法,或者相关的议题,欢迎讨论。


监视资本主义:智能陷阱The Social Dilemma(2020)

又名:社交困境 / 愿者上网(港) / 智能社会:进退两难(台)

上映日期:2020-09-09(美国)片长:94分钟

主演:杰伦·拉尼尔 罗杰·麦克纳米 斯凯勒·吉桑多 卡拉·海沃德  

导演:杰夫·奥洛威斯基 

监视资本主义:智能陷阱的影评