炒作机器：社交时代的群体盲区

·  虚假新闻为什么比真相传播得更快？我们有哪些防范方法？
·  “10万 ”“带节奏”，信息爆炸的时代我们还能不能独立思考？
·  社交媒体如何影响人类的大脑？个体意志能否对抗多巴胺的力量？
·  推荐算法、网红营销不断升级，品牌营销人员如何借科技控制人们的思想与行为？
·  科技巨头是否形成了垄断力量？它们应该被拆分吗？
人类一直是社交的动物。但在过去十几年间，随着社交媒体的出现，人类的社交方式出现了翻天覆地的变化。
在这本书中，作者提出了一个全新的概念——“炒作机器”，它是由社交网络、机器智能和智能手机三者共同构成的一个全球性的信息交流网络。炒作机器以我们每一个人的心理为目标，旨在操纵我们的选择，改变每一个人购物、投票甚至交友择偶的方式。它改变了原有的世界运行的规则，重新塑造了人们的思想、观点和行为。
这本书深入分析了炒作机器的运作机制，列举了利用虚假新闻进行信息操纵的典型案例，系统介绍了炒作机器对社会、商业甚至人类健康与进化的影响。

· 虚假新闻为什么比真相传播得更快？我们有哪些防范方法？
· “10万 ”“带节奏”，信息爆炸的时代我们还能不能独立思考？
· 社交媒体如何影响人类的大脑？个体意志能否对抗多巴胺的力量？
· 推荐算法、网红营销不断升级，品牌营销人员如何借科技控制人们的思想与行为？
· 科技巨头是否形成了垄断力量？它们应该被拆分吗？
人类一直是社交的动物。但在过去十几年间，随着社交媒体的出现，人类的社交方式出现了翻天覆地的变化。
在这本书中，作者提出了一个全新的概念——“炒作机器”，它是由社交网络、机器智能和智能手机三者共同构成的一个全球性的信息交流网络。炒作机器以我们每一个人的心理为目标，旨在操纵我们的选择，改变每一个人购物、投票甚至交友择偶的方式。它改变了原有的世界运行的规则，重新塑造了人们的思想、观点和行为。
这本书深入分析了炒作机器的运作机制，列举了利用虚假新闻进行信息操纵的典型案例，系统介绍了炒作机器对社会、商业甚至人类健康与进化的影响。

·  数据科学家，麻省理工学院社会分析实验室负责人。他在社交网络与传播领域探索了20多年，专注于研究资讯如何透过社交媒体扩散，影响市场与消费者行为。
·  企业家、投资人。他曾联合创办风险投资基金Manifest Capital，并与脸书、推特、微软等企业密切合作。
·  他还是英国艾伦·图灵数据科学研究所、英国国家数据科学研究所顾问委员会的成员。
 

推荐序 当社交媒体变成“炒作机器” / 胡钰 VII
第 1 章　新的社交时代 
10 天 002
虚假新闻在网上的传播 005
向马克·扎克伯格提问 008
信息战 010
炒作机器 013
我是谁 017
我的目标 023
十字路口 025
第 2 章　现实的终结 
百事可乐马失前蹄 032
一个因虚假新闻而声名狼藉的女演员 035
虚假新闻和金融市场 038
在政治上将错误信息武器化 040 
俄罗斯对选举干预的深度、广度以及目标的精准度 043
社交媒体的操控与投票 048
一个全球性的威胁 051
引发公共卫生危机的虚假新闻 052
脸书上的反疫苗之王 054
虚假新闻的科学 057
社交机器人和虚假新闻的传播 060
新奇性假设 063
我们对虚假新闻的敏感性 064
制造虚假新闻的经济动机 066
现实的终结 067
第 3 章　炒作机器 
社交网络就是电脑 073
炒作机器的结构 075
平衡炒作机器的杠杆：金钱、代码、规范以及法律 079
数字社交网络（底层） 081
这是一个很小的世界（聚类现象） 082
人以群分（同质性） 086
炒作机器的社交图谱 088
炒作环路（处理层） 093
“感知和建议”环路 099
炒作机器的视觉皮质 100
PYMK 算法 104
三元闭包 105
馈送算法 108
“消费和行动”环路 112
智能手机（媒介层） 115
炒作机器的框架 119
第 4 章　你的大脑和社交媒体 
与炒作机器的连接 126
神经生理学的抓钩 127
大脑的社会性假设 129
在社交媒体上的你的大脑 137
社会影响的神经基础 141
希望和风险并存 144
第 5 章　网络效应：网络产生的引力与其质量成正比 
网络产生的引力与其质量成正比 149
脸书是如何击败MySpace的 156
炒作机器的“围墙花园” 163
网络效应与互操作性 165
网络效应的黑暗面 167
战略撒手锏 169
第 6 章　个性化的群体说服力 
俄罗斯的干预实际上是一种数字营销 174
行为改变值、归因以及炒作机器的扭矩 176
炒作的收益 180
认真对待因果关系 183
数字营销集成 186
个性化的群体说服力 188
数字营销不可告人的秘密 192
好消息 196
宝洁公司如何削减数字营销并增加销售额 199
第 7 章　社会炒作的高度社交化 
追逐金牌 206
锻炼是否具有传染性 209
新闻的高度社交化 212
约会的高度社交化 215
慈善捐赠的高度社交化 217
情绪的高度社交化 218
高度社交化正在成为一种现实 221
第 8 章　如何面对一个通过炒作呈现高度社交化的世界 
朋友的偏好显示了你的偏好（目标网络定位） 224
朋友的说服影响了你的偏好（病毒式营销） 227
反射问题 231
了解朋友的喜好会影响你的喜好（社交广告） 238
设计产品和创意（病毒式设计） 245
网红真的能告诉我们如何购物、吃饭和投票吗（网红营销） 251
影响力化 258
第 9 章　注意力经济的制度化 
向加里·维提问 265
注意力经济 267
目标精细定位 270
剑桥分析公司 278
潮流的暴政 282
公布备忘录 285
注意力的不平等 288
新奇、震撼、真实 289
平均值毫无意义 291
第 10 章　群体智慧与群体疯狂 
社会影响的倾向性 297
星级评分的 J 形曲线 304
炒作机器阴影下的群体智慧 308
独立性 311
多样性 313
两极分化的悖论 315
炒作机器正在让我们出现两极分化吗 323
参与度和多样化的陷阱 326
平等性 331
群体智慧万岁 336
第 11 章　社交媒体带来的希望和并存的风险 
集体行动的问题 345
“我是查理” 347
俄罗斯的尼奥 349
VK 和白雪革命 352
数字集体行动的力量和脆弱性 354
Telegram 355
善与恶的传播渠道 358
透明度悖论 361
幸福是有代价的 366
不平等的机会 370
社交媒体监管：用手术刀，而不是大刀 376
第 12 章　打造更好的炒作机器：新社交时代的隐私、言论自由以及反垄断 
竞争、创新以及反垄断 380
针对脸书的反垄断提案 382
社交图谱和数据的可移植性 388
隐私和数据保护 394
虚假新闻和错误信息 401
选举诚信 406
言论自由和有害言论 412
一个关于技术和民主的国家委员会 418
建立一个更健康的社交生态系统 418
注　释 423

·  虚假新闻为什么比真相传播得更快？我们有哪些防范方法？
·  “10万 ”“带节奏”，信息爆炸的时代我们还能不能独立思考？
·  社交媒体如何影响人类的大脑？个体意志能否对抗多巴胺的力量？
·  推荐算法、网红营销不断升级，品牌营销人员如何借科技控制人们的思想与行为？
·  科技巨头是否形成了垄断力量？它们应该被拆分吗？
人类一直是社交的动物。但在过去十几年间，随着社交媒体的出现，人类的社交方式出现了翻天覆地的变化。
在这本书中，作者提出了一个全新的概念——“炒作机器”，它是由社交网络、机器智能和智能手机三者共同构成的一个全球性的信息交流网络。炒作机器以我们每一个人的心理为目标，旨在操纵我们的选择，改变每一个人购物、投票甚至交友择偶的方式。它改变了原有的世界运行的规则，重新塑造了人们的思想、观点和行为。
这本书深入分析了炒作机器的运作机制，列举了利用虚假新闻进行信息操纵的典型案例，系统介绍了炒作机器对社会、商业甚至人类健康与进化的影响。

·  数据科学家，麻省理工学院社会分析实验室负责人。他在社交网络与传播领域探索了20多年，专注于研究资讯如何透过社交媒体扩散，影响市场与消费者行为。
·  企业家、投资人。他曾联合创办风险投资基金Manifest Capital，并与脸书、推特、微软等企业密切合作。
·  他还是英国艾伦·图灵数据科学研究所、英国国家数据科学研究所顾问委员会的成员。
 

在每一天的每一分钟里，我们脚下的这颗行星上始终有数以万亿计的数字社交信号在空气中不断地传递，这些数字信号会通过各种状态更新、新闻报道、推特上的推文、脸书上的戳戳乐游戏、各种网站上的帖子、转发的链接、广告、来自不同机构的通知、各种形式的分享、登录信息，以及来自我们社交网络上的好友、新闻媒体、广告商和公众给出的各种评分对我们进行轰炸。这些信号通过脸书、Snapchat、Instagram、YouTube以及推特这样的平台被传送到我们“永远也不会关机”的移动设备上，同时它们在多种算法的帮助下，在人类的社交网络中不断地游走。

这些算法当初被设计出来，就是为了优化我们的网络连接，加速我们的互动，让我们限度地参与定制内容流。但与此同时，这些信号还携带着更加强大的变革性力量，它们让我们的社会因为过度炒作而变得社交化，并且在大规模地提升了这个社会的群体说服力之后，还创造出了一种潮流的暴政。它们通过在我们的日常决策中注入周围的人的影响，营造出一种在群体规模上的行为改变，并且通过强行推动注意力经济来实现这一点。我把社会炒作的高度社交化、个性化的群体说服力以及注意力经济的制度化称作“新社交时代的三部曲”。

但这个新社交时代真正让人感到惊讶的是，在15年之前，这种让人感觉嘈杂刺耳的数字社交信号还根本不存在。就在这短短的15年之前，我们用来搭建数字连接的媒介仍然是电话、传真机和电子邮件，但今天，随着越来越多新的社交技术开始上线，我们也越来越不了解这些技术是如何改变我们的。为什么网上虚假新闻的传播速度比真相要快很多？一则发布在推特上的虚假新闻是如何在几分钟的时间里把1390亿美元的市值从股票市场上抹去的？脸书又是如何通过调整一种算法改变了2012年美国总统选举的结果的？俄罗斯对社交媒体的操控真的反转了2016年美国总统选举的结果吗？当意大利威尼斯的慢跑者在社交媒体上公布他们的慢跑记录时，在加利福尼亚州威尼斯的慢跑者会因此而跑得更快吗？上面这些问题都在促使人们仔细思考社交媒体所具有的颠覆性力量。通过回答这些问题，我们就能够更好地理解炒作机器是如何影响这个世界的。

炒作机器在我们之间创造出了一种的相互依赖，同时，它还塑造了我们的思想、观点和行为。这种相互依赖是由脸书和推特这样的数字网络来实现，再由信息流和好友推荐算法这样的机器智能来引导的。数字网络和机器智能的结合正在重塑人类社交网络的演化过程，以及这些网络中的信息流动过程。这些数字网络将炒作机器的控制权暴露在了国家、企业以及个人的面前，而这些相关的实体和个人都迫切地希望能够通过操控全球的话语权来实现自己的目的，通过塑造公众舆论来终改变我们的行为。炒作机器的设计和我们使用这台机器的方式，正在重塑我们的组织和我们的生活。

到目前为止，我们所有人都已经听到了众多反对者的不和谐的声音，他们宣称，随着新的社交技术开始颠覆民主、扰乱经济秩序和公共健康，这个世界的秩序正在崩塌。我们还目睹了泛滥的虚假新闻、仇恨言论、旨在破坏市场的虚假推文、针对少数族裔群体的种族灭绝性暴力、死灰复燃的疾病、在民主选举过程中出现的外国干预，以及对隐私的严重侵犯。一桩接一桩的丑闻所引发的群体性反弹已经撼动了脸书、推特以及Instagram这样一些社交媒体巨头，而它们似乎根本无法从这样的打击中恢复过来。

但是，当社交媒体革命刚开始的时候，这个世界的所有社交平台都有一个理想化的愿景，那就是把这个世界连接在一起。它们计划让每一个人都能够自由地获取信息、知识和资源，而这些正是人们体验思想上的自由、在社会和经济上获得更多的机会、拥有更好的健康状态、享受工作的流动性，以及建立有意义的社会联系时所必需的。它们准备与压迫、孤独、不平等、贫穷以及疾病进行斗争。但今天，似乎正是它们加剧了这些人们原本想要减轻的社会病态。

我研究社交媒体至今已有20多年了，这些经历使我学到了一件事情，那就是社交媒体不仅拥有非同寻常的潜力，而且包含着巨大的风险，其中的潜力和风险都是不确定的。社交媒体可以给我们带来一波令人难以置信的生产力、创新、社会福利、民主化、平等、积极性、团结和进步的发展浪潮。但与此同时，如果我们任其发展，它也可能给民主、经济和公共健康带来致命的冲击。今天，我们正处在这样一种现实的十字路口。

在这本书中，我想表达的一个观点是，我们完全可以在实现社交媒体所带来的希望的同时避免其中的风险。但想要做到这一点，我们不能再对社交媒体影响我们的方式纸上谈兵或高谈阔论，而应该对社交媒体的运作方式建立起严谨的、科学的理解。通过仔细审视炒作机器内在的运行机制，并利用科学来解码它产生的影响力，我们所有人可以一起来引导这艘巨轮远离它正在逼近的礁石，帮助它驶入更加平静的水域。

不幸的是，我们对社交媒体的理解和研究被围绕着炒作机器的各种喧嚣所阻碍，我们被汹涌而来的大量书籍、纪录片以及针对一次性事件的研究所淹没，而那些一次性的事件都是为了吸引媒体的注意力而被专门设计出来的，所以缺乏基本的严谨性和普遍性。可以说，所有那些天花乱坠的炒作并没有给我们带来任何帮助，因为关于社交媒体会如何影响我们这个问题，正是这种喧嚣遮蔽了我们的双眼，使我们无法从科学的证据中看清楚什么是我们已知的，什么是我们未知的。

当我们关于社交媒体的论述被笼罩在情绪化的歇斯底里中时，处于争议中心的三个主要的利益相关者，即社交平台、政客和民众，却彼此指指点点。社交平台把我们的病态行为归咎于缺少监管，政府指责社交平台无视其技术被武器化，而民众则指责政府和社交平台毫无作为。但真相是，各方都没有尽到自己的职责。终，每一个人都必须为自己在炒作机器当下的发展方向中扮演的角色负责。

我们不仅要对这件事承担部分责任，而且要对接下来发生的事情承担部分责任。正如马克·扎克伯格曾经提到的，政府需要采取明智的、能够得到足够信息支持的监管措施；平台也需要改变其政策和产品设计；为了我们自己和我们的下一代，我们都需要为在当今的数字环境中使用社交媒体的具体方式承担起更多的责任。尽管对于当下的困境，我们并没有什么灵丹妙药，但我们相信还是可以找到一些可行的解决方案的。

如果你想在实现这个新的社交时代给我们带来的希望的同时，避开其中的风险，那么我们所有人——社交媒体的高层管理人员、立法者以及普通的市民——都需要仔细地思考，我们该如何面对这种新的社会秩序。作为这个社会的一分子，我们要真正地利用好手上的4根杠杆，即用来管理社交平台的代码、由社交网络的商业模式创造的激励机制、在使用这些系统时建立起来的规范，以及为了监管市场失灵而制定的法律。在这样做的同时，我们还要设计出能够平衡个人隐私、言论自由、错误信息、创新以及民主的科学解决方案。毫无疑问，这是一种非常重大的责任，但考虑到炒作机器对我们的生活所产生的压倒性影响，这也是我们根本无法放弃的责任。

信息媒介进步的内在驱动是技术，社交媒体进步的内在驱动更是技术。当算法技术、智能技术、感应技术等新技术愈来愈先进，社交媒体也就成为愈来愈聪明的机器，作者将这台机器命名为“炒作机器”。这本书是关于“炒作机器”的故事，讲述了这台机器是如何被设计出来、如何工作、如何影响大众的，当然，重要的是，大众应该如何去适应它。
胡钰
清华大学新闻与传播学院教授、博士生导师

当你以为自己很有见地的时候，你有可能隐隐感觉到，其实有人在操纵你的想法，你只是跟着走，但你可能不会知道操纵你的是社交机器人，你是被机器人带着走的。看一看这本书，你会对现在社交媒体中的种种现象有更多的了解。
罗家德
清华大学社科学院与公共管理学院合聘教授

现在，我们的友谊、经济、社会要靠全世界数十亿个社交媒体中的连接来维持，这个星球上没人比锡南·阿拉尔更了解它们。
埃里克·布莱恩约弗森（Erik Brynjolfsson）
《第二次机器革命》作者

这本书对我们这个时代重大的技术问题和民主的未来进行了非常有趣的、信息丰富且颇具挑衅性的观察。
伊莱·帕里泽（Eli Pariser）
《过滤泡》作者