网络社交平台整治关于网络的句子摘抄易经杂谈南怀瑾

　　一年前，沃西基 (Susan Wojcicki) 站在台上为 YouTube 辩护

　　一年前，沃西基 (Susan Wojcicki) 站在台上为 YouTube 辩护。她的公司因为助长了网络谣言而遭到了连续数月的抨击，随后又卷入了一场与阴谋论视频有关的风波。这段视频称佛罗里达州帕克兰高中枪击案的受害者是「危机演员」。

　　YouTube 的行政总裁沃西基并不情愿来当公关大使，但在奥斯汀的西南偏南大会 (South by Southwest) 上，她提出了一个消除阴谋论的解决方案：在那些质疑登月等公认事实的视频下面，放置一个来自维基百科等网站的小文字框，让观众可以获得真实资讯。

　　沃西基执掌的这个媒体巨兽一心想要超越电视媒体。它一年的销售额估计超过 160 亿美元。但是那天，沃西基却把这个视频网站比作了另一种机构。「我们真的更像一座图书馆，」她说，同时表明了作为言论自由捍卫者的熟悉的立场。「如果你回顾一下图书馆的历史，争议一直存在。」

　　自从沃西基上任以来，YouTube 平台上引发关注的阴谋论——一个关于儿童疫苗的；还有一个认为希拉里·克林顿 (Hillary Clinton) 与撒旦崇拜教有关——已经点燃了急于监管科技公司的议员们的怒火。一年之后，YouTube 与网络的更阴暗部分甚至有了更多关联。

　　问题不光是 YouTube 上出现了质疑登月或疫苗功效的视频。在没有任何编辑审核的情况下，使用者制造的庞大的「图书馆」里必然会有胡说八道。YouTube 的问题在于它允许这些无价值内容的泛滥。在有些情况下，凭借其庞大的人工智能系统，它甚至提供了帮助它们扩散的燃料。

　　沃西基和她的手下对此心知肚明。近年来，YouTube 和其所有者谷歌 (Google) 公司内部的数十人提出过对全世界最大视频网站制造和传播大量虚假、具有煽动性和有毒内容的担忧。一名员工曾想要标记出无法按仇恨言论内容处理的问题视频，停止向使用者推荐它们。有人想要用空白的表格程序来追踪这些视频，记录它们的受欢迎程度。还有人则担心「另类右翼」视频博主的传播，创建了一个内部的类别来反映它们的热度。每次他们获得的反馈都是相同的：别捣乱。

　　该公司多年来一直在追逐一个至高无上的商业目标：「参与度」。这个指标衡量的是观看次数、停留时间以及与网络视频的互动。与 20 多位任职于 YouTube 或刚离职不久的员工的对话显示，由于担心影响参与度，公司的领导层无法或不愿意对这些内部的警告采取行动。

　　沃西基的一名下属说，她「从来不过问这件事」。「她的观点是，『我的职责是管理公司，不是处理这种问题』。」与其他跟彭博新闻社交谈过的人一样，由于担心报复，此人要求不透露身份资讯。

　　YouTube 拒绝了彭博新闻社采访沃西基关于网络的句子摘抄、其他高层，谷歌的管理层以及其母公司 Alphabet 董事会的请求。上周，产品总监莫汉 (Neal Mohan) 告诉《纽约时报》(The New York Times)，公司在解决推荐视频和极端内容方面已经实现了「重大跨越」。

　　YouTube 的一名发言人反驳了沃西基对这些问题漠不关心的说法，并否认公司把使用者参与度放在至高无上的位置。相反，这位发言人说，公司过去两年完全专注于为内容的问题寻找解决方案。2017 年以来，YouTube 已经根据「责任」参数推荐视频，其中纳入了视频最后的满意度调查结果。YouTube 拒绝更全面地描述该行动，但表示每周能收到「数百万份」调查反馈。

　　「我们的关注焦点是解决一些最棘手的内容挑战，」发言人在一个通过邮件发送的声明中说。「我们采取了几个重要步骤，包括更新我们的推荐系统，从而防止有害虚假资讯的传播；改善 YouTube 上的新闻体验，让整个谷歌专注于内容问题的人数增加到 1 万人；投资机器学习，从而更快地找到和删除暴力内容；评估和更新我们的政策——我们光是在 2018 年就做了 30 条政策更新。这还没有结束：责任仍然是我们的头等大事。」

　　面对更重视增长而非安全的指责，Facebook 提出对核心产品进行彻底转型。YouTube 仍然难以向公众和投资者解释新的企业愿景——有时甚至对员工也是如此。过去两年从 YouTube 和谷歌离职的五名高阶员工私下里表示，平台无法约束极端和令人不安的视频是他们离职的原因。在谷歌内部，YouTube 无法解决问题仍然引发极大的不满。4 月 2 日谷歌在纽约交易所早盘末段股价下跌，今年迄今的涨幅达到 15%。在去年受到冲击之后，Facebook 股票 2019 年上涨了超过 30% 。

　　几周前，在一场致命的麻疹疫情引发公众对疫苗阴谋论的关注之后，YouTube 的惰性再次突显出来。伦敦研究极端主义的 Moonshot CVE 公司的最新资料显示，不到 20 个 Youtube 频道传播的虚假讯息已经影响到超过 1.7 亿名观众，许多人当时还被推荐了其他充斥着阴谋论的视频。

　　公司对针对儿童的不良视频的糟糕反应甚至招致了科技行业自身的批评。2016 年离职的前谷歌董事帕特里克·科普兰 (Patrick Copeland) 最近在 LinkedIn 上释出了对老东家的强烈指控。在观看 YouTube 视频时，科普兰的女儿被推荐了一段视频，主要内容包括一个具有夸张特征的白雪公主角色和一匹正在交配的马。「大多数公司都会解雇在上班时看这个视频的员工，」他写道。「难以置信！」在谷歌工作过 10 年的科普兰决定遮蔽网站。

　　迈卡·沙费尔 (Micah Schaffer) 于 2006 年加入 YouTube网络社交平台整治，当时距离公司被谷歌收购还有九个月，它也远远没有成为文化王国的一部分。他的任务是为这个不受约束的网站编写政策。当时关于网络的句子摘抄，YouTube 的工作重点是让人们相信，为什么要观看这些业余者拍的视频以及上传自己的视频。

　　几年后，当他离开 YouTube，这家网站仍然没盈利，且基本上因为轻浮无聊的内容而闻名（当年观看量排名第二的视频，是一个七岁的小男孩看完牙医，在药的作用下喋喋不休的视频。）但即便在当时关于网络的句子摘抄，不良内容的问题同样存在。当时，YouTube 发现赞美厌食症的视频越来越多。作为回应，员工论坛管理员开始疯狂地整理视频，设定年龄限制，将视频从推荐内容中删除，或者彻底删除。它们「威胁我们使用者的健康」，沙费尔回忆说。

　　最近，当宣传所谓的疫苗害处的视频在 YouTube 上传播时，他才想起了这段往事关于网络的句子摘抄。他认为，这在早期是非常简单的事。「我们会严格限制，或者彻底它们，」沙费尔说。「YouTube 永远不应该让危险的阴谋论成为平台文化的主流。」

　　他接着说，过去 10 年，YouTube 把追逐利润看得比使用者安全更加重要。「我们可能会损失很多钱，」他说。「但至少滑雪的狗狗不会让人丢掉性命。」

　　2009 年左右开始，谷歌加强了对 YouTube 的管控。它聘请了一些高管，比如曾供职于奈飞 (Netflix) 的销售总监罗伯特·金茨尔 (Robert Kyncl)，让他们制定一个科技战略和商业计划，从而保持公司的爆炸性增长。2012 年，YouTube 得出结论：观看人数越多，可以播放的广告就越多，而在视频旁边或者视频播放后出现的推荐视频，是让人们留在网站的最好办法。

　　于是，当时由谷歌资深高管萨拉尔·卡曼加 (SalarKamangar) 执掌的 YouTube 设立了一个全公司范围的目标——每天 10 亿小时的观看量，并为这个目标来重新编写推荐引擎。沃西基在约翰·多尔 (John Doerr) 2018 年的著作《Measure What Matters》中回忆说，当她 2014 年接管公司时，YouTube 的目标已经实现了三分之一。

　　「他们认为这会让网络崩溃！但在我看来如此明确和可以衡量的目标会让人们充满斗志，我给他们鼓劲，」沃西基告诉多尔。「每天数十亿小时的观看量是我们科技界人士的北极星，」2016 年 10 月，YouTube 实现了目标。

　　同年秋天，谷歌的三名程序设计师发表了一篇关于 YouTube 的推荐系统如何处理新上传视频的论文。它们描述了 YouTube 的神经网络——一个模仿人类大脑的人工智慧系统——如何能够更好地预测一名观众接下来想要看什么。研究指出，人工智慧还可以打击那些隐瞒真实内容的「点选诱饵」视频。

　　然而它没有提到那些隐患——虚假资讯、极端主义和令人反感的儿童视频内容。这些视频获得了数百亿观看量，此后令整个公司烦扰不堪。这些线 年美国大选之前很少被提及。「我们是如此急于实现我们的目标和驱动网站的使用量，」一名前高阶经理说。「我不知道我们是否应该骄傲。」

　　YouTube 目前并没有让视频疯狂传播的秘诀。但在追逐 10 亿小时目标的过程中，人们发现了一个规律：肆无忌惮会带来关注度易经杂谈南怀瑾。在边缘的人们很容易滥用这种方法，哈佛大学卡尔政策研究中心的学者布里坦·赫勒 (Brittan Heller) 说。「他们不懂演算法是如何运作的，」她说。「但是他们知道内容越肆无忌惮，观看量就越多。」

　　YouTube 内部员工知道这种关联。多年以来，人们曾经多次痛苦地讨论如何应对这些令人不安的视频——它们没有违反内容政策，所以仍然在网站上。一些软体工程师把这个问题称作「糟糕的热度」。

　　谷歌的隐私工程师约纳坦·尊格 (Yonatan Zunger,) 回忆起他在 2016 年离开 YouTube 之前给公司员工提出的建议。他提出了第三种分类：可以留在 YouTube 上，但是由于「接近被删除的红线」，将不会得到推荐。「这些糟糕的视频制作者很快便理解了边界在哪里，尽可能地不超越这条红线，」尊格说。

　　他的建议被交给了 YouTube 政策负责人，但遭到了否定。「我可以十分肯定地说，他们大错特错了，」他说。

　　YouTube 非但没有改进推荐引擎，还加大了推荐力度。2016 年报告中描述的这个神经网络是从 2015 年开始应用于 YouTube 的推荐系统的。根据可以获得的指标，它已经达到了把人们留在网站上的目标。

　　「这是一个让人上瘾的引擎，」曾经写文章批评 YouTube 人工智慧系统的电脑科学家弗朗西斯·欧文 (Francis Irving) 说。

　　欧文表示他的观点引起了 YouTube 员工的关注。他说，他们感到无法相信，或者表示没有动力改变软体的运作方式。「这不是一个灾难性的失败演算法，」欧文补充说。「它对于很多人来说非常有效关于网络的句子摘抄，它赚了很多钱。」

　　谷歌高阶工程师保罗·科温顿 (Paul Covington) 参与撰写了 2016 年的推荐引擎研究报告。他在随后 3 月份的一个会议上展示了研究成果。有人问他工程师们如何决定用演算法达到何种结果。「这是一种产品决策，」科温顿在会议上说。他指的是另外一个 YouTube 的部门。「产品部门告诉我们，我们想要增加这一指标，然后我们就会去增加它。因此并不是由我们决定的。」科温顿没有回应通过电子邮件发送的置评请求。

　　YouTube 的一位发言人称，从 2016 年末开始，公司就在推荐演算法中增加了「社会责任」的参数。其输入的资讯包括人们对视频进行分享和点选「喜欢」和「不喜欢」的次数。但 YouTube 拒绝分享关于这一指标或其影响的更多详细资讯。

　　唐纳德·特朗普 (Donald Trump) 当选三天后，沃西基召集全体员工召开每周例会。一名员工表达了对网站上与大选有关的热门视频的担忧。它们主要由布莱特巴特新闻网 (Breitbart News) 和 Infowars 这样的出版机构主导，以肆无忌惮和煽动性闻名。布莱特巴特有一个受欢迎的板块，叫做「黑色犯罪」。据一位参会者说，这个情况引发了广泛的讨论，但是没有立即释出政策命令。一名发言人拒绝评论这件事，但表示「总体上讲，极端内容在平台上不会有很好的表现。」

　　当时，YouTube 的管理层正集中精力应对另一个危机：上传视频的「制作人」的不满情绪。一些人抱怨费用问题，还有人公开威胁要加入竞争对手的网站。

　　沃西基及其助手起草了一份方案。YouTube 称之为 Project Bean，有时也叫做「煮沸海洋」，暗指这个任务的庞大规模。（有时他们把它叫做 BTO3 ——对 YouTube 的第三次大规模整改方案，此前的计划旨在提振手机观看和订阅量。）参与该行动的三名前高阶员工称，该计划是为了改变 YouTube 的整个商业模式。

　　它的核心是不再以广告为依据向视频制作者支付费用。YouTube 的付费依据是参与度——有多少人观看，观看了多长时间。一种特殊的演算法能够把现金集中起来，然后分配给制作者，即使他们的视频上没有广告。其主要目的是奖励那些被系统亏待的视频明星，比如性教育视频和音乐电视的制作者，品牌广告商往往认为它们风险太大，不愿提供赞助。

　　YouTube 的程序设计师至少努力了一年才让项目得以运作。但公司的管理人员未能预料到该计划可能产生的后果：根据参与度付费可能会让「糟糕热度」的问题更加严重，因为它可能会奖励一些通过出格行为来博取关注的视频。一名相关人士称，分配费用的演算法受到严密的保护。这位知情者表示，如果当时生效，很可能像亚历克斯·琼斯 (Alex Jones) 这样的人会一下子成为收入最高的 YouTube 明星。后者是 Infowars 视频的制作者和阴谋论者，在 YouTube 上有大量粉丝，去年 8 月被网站。

　　沃西基在 2017 年 10 月向谷歌的领导团队介绍了 Project Bean。那时，YouTube 和其他社交媒体网站因为「过滤气泡」——即把人们引向他们已经存在的观点，为他们提供更多相同内容——面临第一波审查。熟悉交易的两个人说，沃西基的老板桑达尔·皮查伊 (SundarPichai) 拒绝了 YouTube 的建议，部分原因在于他感到可能会让过滤气泡的问题更加严重。另外一名知情者说，行动被搁置是因为担心它会让付费的方式变得过于复杂。

　　2017 年 11 月，YouTube 终于对传播恶意视频的频道采取了果断行动，几乎在一夜之间让数千条视频无法再获得广告，或者从网站上彻底删除。视频制作者称之为「清洗运动」。公司当时正遭遇广告商的，但真正的催化剂是媒体关于针对儿童的不当视频的报道。其中最恶劣的是「玩具怪胎」(Toy Freaks)，一个父亲在这个频道上释出他和两个女儿的视频，有时会展示两个女儿呕吐或者极端痛苦的样子。YouTube 删除了「玩具怪胎」，很快跟它撇清了干系。

　　但是这个频道本身并不缺乏关注者。凭借 800 万订阅使用者，它据称已经成为网站上观看量排名前 100 的视频之一。一名前员工说，这些令人不安的视频种类在公司内部是一个公开的秘密，通常要靠言论自由的观点来证明存在的正当性。

　　YouTube 还卷入了另一场关于其儿童节目的争论网络社交平台整治。在释出专门针对儿童的应用程序 YouTube Kids 之前，几个人建议公司只提供经过精心挑选的视频，从而避免出现不当内容。这些观点没有被采纳，这款应用程序一直依靠演算法来选择视频。

　　YouTube 确实花了钱去解决内容方面的问题。它聘请了数千人来筛选视频，找出违反规定的视频。但是对于一些内部人士来说，这些补救措施来得太晚，而且远远不够。专门负责外语内容的前管理员说易经杂谈南怀瑾，截至 2017 年，YouTube 的内容管理员如何处理阴谋论的政策仍没有出台。

　　一名前员工说，到了年底，负责内容政策的「信任与安全」部门只有不到 20 人。这名知情者说，团队必须「使出浑身解数」才能从这家科技巨头获得更多资源。Youtube 的一名发言人称，该部门此后已经「显著」壮大，但是拒绝分享具体数字。

　　2018 年 2 月，称帕克兰枪击案受害者是「危机演员」的视频在 YouTube 的「时下流行网页」(trending page) 上被疯狂转发。没过多久，政策员工就建议在页面上只推荐经过审核的新闻来源。一名知情者称，YouTube 的管理团队拒绝了这个提议。该知情者不知道背后的原因，但是指出 YouTube 当时有意增加与新闻有关的视频的观看时长。

　　然而，YouTube 的确很快解决了有关新闻方面的内容问题。去年 7 月，YouTube 宣布在 YouTube 搜索内增加谷歌新闻的连结，开始在新闻版块推出来自知名媒体的「权威」讯息来源。YouTube 还给制作视频的新闻机构提供 2500 万美元的补助。2018 年最后一个季度，YouTube 称，已经撤下了 880 万个违反其规定的频道。这些措施旨在帮助清理有问题的视频，YouTube 公司认为这些行动反映了其对内容问题的关注。

　　然而在过去，YouTube 曾经积极扼杀员工的主动性。律师曾明确建议不负责管理内容的员工不要独立搜索有问题的视频，比如关于最高法院官露丝·巴德·金斯伯格 (Ruth Bader Ginsburg) 的谣言，对这种做法感到不满的前员工如是说。这名知情者表示，这个要求从来没有落到纸面上，但是资讯十分明确：如果 YouTube 知道这些视频的存在，其法律依据就会变得更加薄弱。联邦法律让 YouTube 和其他科技巨头免于为网站的内容负责，然而这些公司如果扮演积极的编辑角色，可能会失去这些保护。

　　一些员工还是会把这些视频找出来。一名知情者说，大约在 2018 年初发生的一件事颇能说明问题。一名员工决定创建一个新的 YouTube「类别」，让公司利用这个类别来为海量视频分类。此人把一些视频归类为想象中的「另类右翼」——一个与特朗普有点关系的派别。根据参与度，这个假设出来的「另类右翼」类别与音乐、体育和游戏成为了 YouTube 上最受欢迎的频道，此举证明了这些视频对 YouTube 的业务是多么重要。一名熟悉管理团队的人说，他们不记得看到过这次试验。

　　一些前员工指责沃西基在接管了这家以驱动观看量为核心的企业之后未能调整公司的方向。还有一些人责怪 YouTube 监管制作者关系和视频管理决定的商业负责人金茨尔。虽然沃西基和 YouTube 的产品负责人尼尔都发表过公开演讲，金茨尔在这个问题上一直很少发声。这名高层还采取了一些被谷歌内部人士视作自我宣传的其他公开行动。去年 8 月，在一篇关于 YouTube 上极端主义视频泛滥的报道发表一周之后，他在奢侈品牌布里奥尼 (Brioni) 广告里为西装代言。一名知情者说，在 YouTube 陷入风波期间播放的这个广告引发了关于金茨尔能否分清轻重缓急的担忧。公司的代表和金茨尔拒绝置评。

　　在刚刚过去的 1 月，YouTube 听从了前谷歌员工尊格的建议，为问题视频创建了新的类别。所谓的「边缘内容」不违反服务条款，仍然可以留在网站上，但不会得到推荐。一个月后，在关于疫苗阴谋的媒体报道之后，YouTube 表示，正在把一些视频归入这个类别。2 月，谷歌还发出了一份较长的文字，详细描述了如何处理其服务上的虚假资讯，包括 YouTube 上的。「我们的推荐系统的主要目标是为使用者打造一个受信任的积极的体验，」文字中写道。「YouTube 公司的目标不光是增长，而是『负责任的增长』。」

　　公司正在实施沃西基一年前提出的解决方案。YouTube 称，沃西基在奥斯汀提出的来自维基百科和其他来源的资讯内容，目前「每周被展示数千万次」。

　　YouTube「天然健康」频道的一个 2015 年视频，就附带了一个小小的灰色文字框，可以连结到「麻腮风三联疫苗」的维基百科页面。伦敦的反极端主义公司 Moonshot CVE 称，这个频道是 YouTube 上反疫苗理论的最持续的释出者。

　　但是 YouTube 似乎只偶尔才使用这个解决办法。 的一个最热门视频不是关于疫苗的。这个时长七分钟的视频的标题是：「每种癌症都能在几周内治愈。」虽然 YouTube 说不再向观众推荐这一视频，它的页面上并没有维基百科的入口。这段视频已经被观看超过 700 万次。