网络审查员

delete... ignore...

That's the two actions that a content moderator does every day.

"I protect the user who uses the app", said one of the moderators, as the president tried to protect his people by killing all the criminals.

"One of the misconceptions is that human nature is human nature, and then technologies are just useful tools: it's not amplifying anything - but this is not true, because technology does have a bias, and that bias has a goal, it's actually seeking a goal, it's the goal it's seeking that what will get the most number of people's attention, what tends to work on billions of people that's successfully attracting their attention out of that, and keep it; and not just getting their attention but getting them to share things, and so it turns out that our rage is actually good at doing so"(Cleaners, 2018, 1h6m).

“I sacrifice myself, yes, there will always be sacrifices, it will always be a part of life... it's my job to prevent the sinful images, I'm a preventer“(1h21m)

技术、媒介是中性的吗？傻子都知道不是。不然也不会有网瘾和杨永信了。

反过来看，而互联网曾经承诺的“连接每一个人”的乌托邦，在当今现实里的大图景到底是什么样子？

社交媒体，在总体上，是否将把我们的世界变得更好呢？

这几年对互联网和智能手机全球性地改变人的行为的嘲讽或自嘲也不少见了。

前不久又爆出脸书向剑桥分析泄露5000万用户而被用来操控选举的新闻。

上个月中下有哥本哈根纪录片电影节，偶然去看了这部 《清理者》The Cleaners。

片中播放了去年年末美国法庭关于 俄罗斯和2016年大选 Russia and 2016 Election Investigations 的调查。法官质疑，这三大公司的内容环境受到国际政治力量的左右，影响选民，以及被用来组织、散播、宣扬非人道的行动。唯唯诺诺中互联网公司的法律负责人（我不确定这里使用的名词是准确的）说到了自己外包了大量的员工来审核内容的事实。而脸书透露出，他们雇佣的审查者居然有数千人之众，而且未来还会继续增加人数。

——这些被雇佣的网管就是本片的主角，他们内部自称为“内容仲裁者”content moderator，所谓的“清理者”。这是一个驻扎在菲律宾马尼拉的公司，而他们的职业对于外界是一个秘密。

影片开始的时候，镜头在一间典型的现代白领办公室里，关着灯，只有一个人操作着一台亮着的电脑，并只能看到这个人面部的局部。背景音不断回放着，“删除”delete/“无视”ignore/“删除”delete/“无视”ignore……随后镜头跟随同一个主角描述ta夜晚上班的场景，穿过熙攘、喧闹、混杂的马尼拉的城市街道、高架桥，进入一栋漂亮的办公楼。在喧闹拥挤的亚洲城市里，做一项秘密却关乎数十亿人口的工作。这就是他们的工作内容，而操作看起来如此的简单，就是审核每天从全世界上传的上百亿的照片、图片，然后决定是要保留还是删除。

脸书内部关于上传信息内容规定的条例相当复杂，关于对暴力、色情的内容判定是否删除的规定，有一百多条。然而在去年被卫报曝出来以前鲜有人知。被采访者包括Google的负责人、工程师，面对镜头，检讨公司创始人们对中性技术的美好设想并没有尽到相关的责任；而另一方面也列出了关于支持自由者的质疑，包括一些内容被删的艺术家、摄影师。

“这些规定也让自由言论倡导者担忧。他们认为，Facebook可能已经成为了世界上最大的审查员，该事实敲响了言论自由的警钟。”

脸书提供的强大平台，涉及了一系列冲突明显的社会问题，包括美国内部的种族，西欧对移民的态度——到底是发泄不满，还是有组织的政治立场，这两者界限模糊。以ISIS为例的恐怖组织也在借脸书宣扬自己的。片中截取的片段。蛋最让我看不下去的是缅甸迫害罗兴亚人，一个母亲对着镜头哭诉自己的家庭怎样被迫害。——这种原本平缓融洽的文化混杂，被西方殖民者弄得互相仇视的例子早就不新鲜了。

传播能力的扩大，既然足够提供人与人的连接，也可以能让人与人更加分裂。爱是可以被传播的，那么仇恨也可以；敌意、仇视、偏见，技术本身不会过滤任何人人心里的东西。

回到清理者们，这项工作是否看起来十分简单？

然而，到目前为止机器/ AI还没有能力处理人类复杂的认知和表达。光是言论，根据不同的语境，是发泄情感还是表达真实意图都难以判断；再加上图像、视频中更加复杂微妙的视觉语言，机器对此无能为力。而这些内容仲裁者也有很大的负担：他们的神经每天要处理25000项图片或视频，而对每一张图片最多只有8秒钟做判断。这对大脑是巨大的负荷。

更糟糕的是，他们要经手的材料大多都是令人不适甚至不安的内容：色情、虐待、战争、恐怖组织的非人道行为——尽管在正式工作之前已经被训练去应对这些内容，但仍对他们的日常生活也造成困扰，也包括道德上的处境。

开头的场景展示了他们的两难处境，深处闹市，却做着全世界的网管，而工作内容也不能让身边的人知道——他们需要一个让自己心安理得的身份，当然也需要这份得体的薪水；他们不得不相信自己确实是在有尊严地维护秩序。很多人也因为上面这些原因放弃了这份工作。

技术到底带来了什么呢？纪录片的好处是，导演呈现给你的是各方视角和立场。这个问题暂且还不会有结论。

它是给我们所有人的问题。

片头片尾，截了两段扎克伯格对公众的演讲；看他如何表情坚定、豪迈地谈论脸书如何能够成就新的未来。

然后片尾字幕亮起，意味深长，留下片场一片唏嘘。

“太可怕了。太可怕了。”

我跟波兰的好朋友聊起感受，感觉出来的大概是对全球网络的这种无序状态和其无解的担忧。——就他所言，人们还是倾向于相信，世界是需要秩序的；但由谁来引导呢？现在的声音越来越多、越来越庞杂，到最后就是谁也不服谁。朋友说，这里为什么美国人会雇佣菲律宾人就很玩味了——菲律宾是个天主教国家，在价值观上跟西方基督教世界更相通。

技术悄然滋生的权力绕过了所有人的眼睛，但信息审查是真实存在的。（你看，我们的互联网环境在世界上也没有那么特殊嘛）

过去的“信息集权”提供了同一套世界的框架；哪怕你要质疑某个事实，要叫骂对着的也是同一个屏幕。而今天每个人都在自己的屏幕里接受现实，在传送到自己眼前的信息流里，营造自己世界的小泡泡——而且老一辈还带着上个时代的惯性：“那么多人都看了的信息，能不是真的吗？”。但外面还有个过滤的大泡泡呢。

信息是种权力无疑；我想对于很多人，这部片的隐喻是，我们以为今天的时代走向的是美丽新世界，其实背后并行着一个一九八四。——反正我对这种自由斗士的论调保持怀疑；有时不免有点“见到短袖子就想到裸体”的意思。

尼尔·波茨曼早在60年代就在《娱乐至死》里说过的话，到今天仍然适用：从有广播、新闻报纸、电视开始，这个世界的行动跟信息比率越来越小了，我们关注的大多跟自己眼前的事实、跟自己的生活无关。大多数事情不需要关注。而这个世界本身运行机制的复杂程度，远远超出一般普通人所能理解；这种理解也许是不必要的。 我们自己，是在为这个世界带来了更多的噪声，还是更多的秩序、平和呢？这个问题，互联网不会回答我们，技术也永远不会回答我们。

靠点击就能得来的东西并不真的属于我们自己。

这个世界会好的。不是因为技术，而是因为我们在把自己变好。

内容审查员就像是一名狙击手，我们的目标是违反应用程式规定的用户。 我妈妈总是告诉我，如果不好好读书，就只能跟她一样当个拾荒者，他们依赖捡垃圾为生，这是他们唯一知道的谋生方式。我害怕自己将来只能留下来跟着捡垃圾，这也是促使我用功念书的一个原因。 2016年1月，我画了一张男性器官很小的川普画像，叫做“让美国再次伟大”，它立刻爆红，数百万人在许多社群平台上疯传，几天后川普在竞选辩论中提到自己的器官尺寸，我记得有朋友打电话告诉我说，是你让川普在辩论中透露他的器官大小吗。 作为内容审查员，你必须要有原则，是你在决定人们是否该看到某张图片，所以头号重大错误就是批准裸照、 和女性胸部、男性器官，这没有容忍的余地。 一个虚构的作品，它并不暴力，也无关性爱，它只是一个人的裸体配上川普的脸，不懂为何人们会觉得人的裸体这么恶心。 这工作真的不好做，但最后却成了带罪恶感的乐趣，感到罪恶是因为我居然在看这样的东西，乐趣是因为我现在很享受看到的内容。 脸书基本上就是一家科技公司，有许多工程师经营，它重视自家产品，重视公司设施，它重视发展规模，重视用户体验，但它不是一家媒体公司，它不会考虑到内容或内容创作，或是内容编辑和审查的事，这些事并不在它的基因里面，只要脸书碰到有人说，“嘿，你们要为这内容负责的时候，他们的答复会是，‘哦，我们只是搞数学的，我们只负责写演算法，去提供你们想要的东西，我们不干涉编辑’”，但政治现实是在川普之后，在英国脱欧之后，这样的说法已经不行了，我们现在在一个点上，只要大众不接受现状，在某些点上政府就会立马介入，我认为脸书是了解这情况的。 YouTuBe一直希望能够跨越国界，因此从2007年左右，我们遭遇许多被封锁的情况，当土耳其政府不知如何与你取得联系时，他们索性关闭你在该国的服务。我们花了一段时间才弄清楚，是什么令他们感到不舒服，我们最后终于设法掌握了令他们不开心的特定影片，其中有些是关于凯末尔，有些则是他们声称违反土耳其法律的恐怖主义影片。我记得有一天我在凌晨两点，审查令土耳其政府感到不快的67个影片，从中做出哪些应该删除，哪些应该留下的决定，有个重点是对于一些影片来说，它们其实没有违反社群准则，所以一般不会从平台移除，可是却触犯了土耳其的法律，所以我们决定对土耳其用户采取IP位置封锁，土耳其用户将无法看到这些影片，我不喜欢这种解决方式，但这就是我们的做法。 街上聚集了许多了不起的人，警方在这里部署的人数相当多，我很好奇他们会在这里待多久，因为我知道只要他们一撤离，人们就会开始干架。 一些左派人士认为你政治不正确，我们这群人拥有枪支、子弹，受过训练，只要我们开始开枪射杀，我相信所有的赃东西很快就会消失。 人性归人性，而科技就只是种中性工具，并没有助长任何东西，但事实并非如此，因为科技确实存在偏见，偏见就是它实际追求的一个目标，那个目标就是什么才能得到最多人的关注，什么才能吸引数十亿人，成功转移他们的注意力，并且保持下去。 这项工作会损害你的大脑，让你觉得暴力是正常的，让你认为杀人，轰炸是正常的。 我不能让影片影响你，但这因人而异，有些人就是会受到画面的影响。 我突然自己，为什么要做这份工作，只是为了让人们认为上网是安全的，事实上在你的日常工作中，上处都是危险，我们在奴役自己，我们应该从麻木中觉醒，因为这并不安全，我们应该正视现实。 选择希望而非恐惧这需要勇气，期许我们可以建立比过去更加良好的环境，你必须乐观的认为你可以改变世界，我们投身其中，每一次都是一种联系，每一次都是一种创新，日复一日，日复一日，这就是为什么我认为我们一起投入的工作，现阶段比以往任何时候都重要。

这部纪录片真的非常值得看完了之后进行深思：

我仅敢列出以下的几个点供大家思考，而不敢自己妄下结论。

1.网络SC员通常被外包给第三世界国家的员工，差不多时薪为1美元。

2.长期成为网络SC员，精神上会受到长期的负面影响，因为黄色和暴力信息长期影响人体的身体健康。有的人为此而患上严重的精神疾病。有的人甚至宁愿捡真实世界的垃圾，也不愿意再干这个活。

3.如何鉴别信息不良不止是一个法律问题，有的时候还涉及到哲学上的争辩，比如电影中提到的例子：萨达姆被杀的过程与萨达姆尸体的影像之间的区别。

4.即使专家有的时候也很难做出选择，而这些审查员每天则要做出25000次选择，而其中如果漏判3次的话，就会失去工作。影响他们的是数量和绩效。 这是否导致SC员都会趋向于保守呢？

5.实际上我们现在看到的互联网就是，网络SC整理干净之后的互联网。而真正完整的互联网，可能只有审查员看到了。

6.我们也在用自己的键盘塑造着互联网。

7.互联网公司在各别国家和地区，可能要与这些政府达成协议的话，这样的行为究竟是该被定义为一个影响言论自由还是仅仅只是遵守当地法律的行为呢？这个问题本身还是很值得深思。（顺便提到，The Good Fight S03E08中就出现了一个例子，有一个律师就是利用好了这个争论，从而能够从互联网巨头身上敲上很大一笔竹杠，当然他并不是为了真的将这个话题在法庭上能够进行准确定义，而是为了能够对这个话题进行争论，并且利用媒体的报道对互联网公司进行公关方面的巨大压力，从而能够获得大笔的赔偿金。）

网络审查员，社交媒体的“清洁工”，日复一日地重复着高强度的工作。按照一定的指标，定时定量审阅、翻看各式文字信息、图片和视频。一般情况下，他们会签订不可外泄工作内容、工作情况的合同。换句话说，是在大众视野中“不存在”的职业。

网络审查的意义及局限

网络审查如同防波堤修筑，一方面，它阻止了常规意义上的违法信息（如涉及政治敏感话题、情色等内容的图片、视频）在社交网络平台、互联网空间上传播；另一方面却永久地改变了互联网的生态环境，对合理诉求范围内的自由表达、资源信息共享和完整程度造成了一定程度的损害。

网络审查，能够使平台监视发布内容并作合理化处理，包括防止儿童色情物品的扩散、察觉恐怖主义活动于未然、防止网络霸凌等。在目前的认知范围内，以及网络审查员们所接受的培训中获取的信息一样，这是有益于网络平台建设、为大众提供尽可能美好事物的工作。

但网络审查常规情况下分为发布前的审查和举报后的审查，一个可能削减用户体验，一个可能导致不良信息漏审漏查。因此在这种情况下，需要在人工智能识别的基础上，投入大量人力资源。局限也因此不可避免。

运营公司作为企业，其经营目的难免不以赚取利益为主。这也是为什么在像土耳其一样严格限制了Facebook、Twitter、YouTube等网络巨头的功能和内容后，各大公司依然不肯放弃此国市场一样。因此在相互妥协的情况下，就会增大网络审查力度的加大。同时由于不同地区国家对于敏感信息的定义不同，所以同一个视频、一张图片可能会被公司做上IP地址的屏蔽，来满足市场需求。

土耳其对互联网内容的审查非常严格

而协助完善网络审查的，是各个有着不同价值观但是却有着类似培训经验的人们。他们在平台、外包公司背后，进行着形形色色内容的审查，决定是应该“忽略”还是“删除”相关内容。虽然有着基本的规定，但也会因个人判断而产生对同一内容的判断出入。而上层决策者与基层执行者之间的断层，也会成为审查内容限制不一的原因之一。

对工作人员作出的判断，上司并不完全掌握。为评估审查员业绩而挑选的样本数量只占整体的3%。这就是业绩评估的现状。

数据流量峰值绘图

企业有意识地对用户发布内容进行裁量取舍，这一倾向逐年明显。他们利用了我们贪图轻松不胜其烦，不愿付出努力的弱点。或许为时已晚，但若长此以往，我们本来具备的批判性思维的能力、克服困难的能力都会衰退。对言论自由设限，也就是对挑战精神和奋斗精神设限，如果不允许刺激社会，今后人们所能获得的信息量将越来越少：尖锐意见、挑战性表达方式都将从网上销声匿迹。如此我们的社会很难称得上是丰富多彩的社会。

联合国言论自由特别报告员，戴维·凯伊在纪录片中说道。

而这一现象，恰恰很有可能造成人们批判性思维的逆向打压，通过身边熟悉的事物，一点点地增多门槛，最终促成个人、平台在日常表达上的自我审查。最终哪些是正确的，哪些是可以发布的内容，都已经无法判断了。

娱乐至死

8.5

[美] 尼尔·波兹曼 / 2015 / 中信出版社

初版诞生于1985年的《娱乐至死》，早已预见到，在信息碎片爆炸化的时代下，娱乐业的发达也会对人们健全思维的形成产生一定的影响。（虽然本书的观点有一部分比较偏激，但叙述中的可信服的还是存在）“娱乐至死”时代下的自我审查，无疑是社会进步的巨大绊脚石。

而纪录片中指责的承担这重大责任和社会意义的互联网公司，在相关领域的审查作用微乎其微。不仅无法为每天饱受各种图片、视频折磨的网络审查员足够的心理后盾支援，还在部分市场起到了消极的带头作用。透过各家网络审查员的叙述，我们可以窥到现状的轮廓：在可以无拘无束地片面、自由表达自己观点的今天，好的结果是赚取流量，成为网络红人；坏的结果顶多是发布内容的删除和帐号的封停。（在部分国家或地区）

贯穿影响现代人生命的互联网的影响力日渐提高，网络审查员的工作个体差异性太大且得不到保障。随着人工智能等科技的进一步发展，和“当代网络审查员”经验的积累，不久的将来，或许不会是硅谷“智者”们所期待的那样。

“Delete”“Ignore”......在反复不断的“删除”或是“忽略”的声音中，导演Hans Block和Moritz将我们代入了第三世界的网络审查员的视角。

社交媒体自诞生至今十五年以来，已经演化成为一件强大而危险的工具，在美国政选中，可以成为左右民主选举的强大异能，也能变成不知不觉改变民众思想的政治力量，比如俄罗斯通过操作社交媒体影响美国政选、英国脱欧民众受到媒体影响等事件曝光后，引起世界的一片哗然。

而这部纪录片作为尖锐的提醒：“我们可能会失去民主，因为我们愿意放弃。”但究竟谁有资格成为社交媒体的嘴巴，谁有权利决定信息流的审核？

《清道夫》通过选择拍摄观点对立的双方，来揭露互联网审查的矛盾。科技公司在第三世界菲律宾存在大量审核内容的审查员，而处于对外宣称外包公司的灰色地带，审查员们面对大量的暴力、色情内容时，一位匿名审查员这么说道：“感觉体内有种病毒在慢慢入侵我的大脑，然后我辞职，我需要停下，这工作有问题。”

科技公司需要有道德责任，于是建立起人工筛选过滤制度，而给审查员心理遭受的极度不健康影响并没有得到重视，而酿成了员工自杀的惨剧。作为第三世界的外包公司中的员工，他们像是一道道黑暗的闸门，阻止着社交媒体上仇恨的传播。其中就不乏极端组织的残忍处决、难民问题造成的儿童死亡、战乱现场......这些触目惊心的场景成为审核员的日常工作。

影片聚焦在这些审查员和不同立场的对象身上，通过采访的对白，一句句戳进互联网监管的内核，而导演的高明之处在于展现矛盾对立对象的平行对话，站在不同的视角，有着不同的利益和立场的人，是怎么思考和回应网络监管的问题：艺术家有自己强烈表达的欲望、科技公司屈于利益关系选择政治干预、第三世界审查员们局限的文化教育背景......

可就像这个不可调和的世界一样，纪录片无法改变只能作出回答：人性本身具有复杂的双面性，网络不过是放大它。而我们再怎么“Delete”或“Ignore”，也无法删除或忽视掉作为人类，我们不愿意面对的一面。