删除、忽视、删除、忽视…。在菲律宾不知名的密闭办公室里,上万人日复一日重复同样的动作,他们浏览世界各地的游客所上传到网络上的影片、照片,手握上架大权,麻木却又自律的看着色情、暴力、恐怖主义相关内容,一一审核是否该在社群平台上出现。在纪录片《网络监护人》,借由网络守门员现身说法,揭露社群平台所不为人知的一面,进而探讨网络世界中的言论自由与民主落实。导演汉斯.布洛克表示,片中的网络监护人是相当隐晦的工作,即使是为Facebook执行审核,但他们向外界提及任职公司,也只得用假名蒙混带过。「他们有私人保安公司,以确保没有任何人与记者交谈,员工也被警告如果与我们的拍摄团队谈话,会立即被解雇。」在《网络监护人》中,设立于菲律宾马尼拉的秘密网络审查团队,负责审核欧美地区的社群用户上传内容,平台包括了Facebook、Youtube及Twitter,菲律宾则为这份秘密行业最大国家。世新大学广播电视电影学系教授李泳泉表示,《网络监护人》反映出了言论自由与利益的拉扯,也探讨了网络守门员脚色在现实中的处境,「这些守门员每日所要处理的是一个又一个的抉择,是非常高压的工作,影片中也可以看到有员工不堪这样的压力而自杀。电影借由员工、网络研究学者、网络高层的访谈与交谈画面,反映出网络伦理问题,也带给观者们一些反思。」关注“新海外”
海外资讯一手掌握声明:本页面内容,旨在为满足广大用户的信息需求而免费提供,并非广告服务性信息。页面所载内容,仅供用户参考和借鉴。

图片 1

图片 2

近日,Facebook的CEO马克.扎克伯格宣布公司将会新增3000名内容审核员,他们负责审核平台上的内容,包括最近网上有出现的谋杀、自杀和强奸等视频。

你听说过“鉴黄师”吗?

科技巨头聘用大量人力来做内容审核,已经不算什么稀奇事。Google、百度、腾讯、新浪、今日头条都设置了类似岗位。对于做内容的平台,内容审核尤其重要,一旦没有处理好,很有可能影响到整个公司的前景。为什么在科技如此发达的今天,机器还没法完全替代传统的人工审核?各大巨头还需要人海战术来鉴黄呢?

很多人在第一次听到这个职业时,可能会露出谜一般的微笑,或许还会有人开玩笑,想自告奋勇报个名,去体验一把这份工作。

内容平台的阿克琉斯之踵

图片截取自知乎

今年4月,一位泰国男子在Facebook上直播杀害亲生女儿的画面,随后该男子自杀。视频在Facebook上挂了近24个小时,大量用户看到婴儿被杀害的过程。其中一段视频播放量超过25万次,视频还被其他用户上传到其他视频网站。

其实,所谓“鉴黄师”,说起来也很简单。

色情、暴力、犯罪,这些不良内容多次在Facebook上出现,这让Facebook陷入争议。今年3月,一名15岁美国少女被多名男子性侵犯并被直播到Facebook上,视频吸引了至少40万人关注。有人称,这样的画面让人感到害怕和不安,看了之后晚上都睡不着觉。

他们是那些审核恐怖黄暴及极端内容的网络工作者之一,看到少儿不宜的内容,一顿删删删,以此维护网络环境的纯净。

事发后,Facebook团队意识到问题的严重性。Facebook的CEO扎克伯格公开表示,Facebook将尽一切努力避免此类内容再出现,并且表示Facebook要变成一个健康而安全的网络社区,还有很多工作要做。

大家都乐于对此类特殊职业进行调侃,却经常会忽视其背后的压力与争议,也没人知道这些“把关者”,每天都在经历着什么。

扩招内容审核员正是Facebook为此做出的举措。此前,Facebook在全球已有4500名员工负责内容审核,此次扩招会让审核过程更加及时和准确。这些员工主要负责处理那些没有被审查到的、或者没有被立即删除的不良内容。

这也是纪录片《网络审查员》揭开的谜题。

社交媒体时代,每天都有大量的用户在不断地生产内容。对于平台而言,除了补贴内容生产方外,还需要支出更多的内容审核成本。但尽管如此,平台还是不惜人力和财力,去做好内容审核的工作。一方面是大量的不良内容,会使得用户产生反感,会降低使用产品的频率甚至远离产品。劣币驱逐良币,不利于平台的长期发展。另外一方面,不良内容的发布,很有可能导致触犯国家法律,引来平台的管制甚至关闭,今年年初,知名的同性社区ZANK就因为直播涉黄被整体关闭。

纪录片《网络审查员》

在国内,BAT许多平台都设有内容审核员一职。以新浪微博为例,新浪微博是国内最大的社交平台之一。对于内容,新浪微博仍主要采用人工审核的方式。除了色情、暴力等不良内容,平台还会留意政治、宗教等敏感内容。但是依然有各种擦边或者不良内容的漏网之鱼。内容的审核和把关,成了各大内容平台的阿克琉斯之踵,从初创公司到科技巨头,没有人敢放松这根神经。除非是别有用心的想利用情色来吸引用户,但那样肯定不会长久。

作为2018年圣丹斯电影节展映影片之一,《网络审查员》自上映以来就备受关注。

让人绝望的内容审核工作

这也是一部特殊的作品——由日本NHK出品、德国导演拍摄、拍摄地在菲律宾,内容却反映了欧美网络现状,如此错综复杂的阵容,似乎与纵横交错的互联网相映成趣。

2013年,百度、腾讯、金山等10多个互联网公司组成安全联盟,用20万高薪招聘首席淫秽色情鉴定官。上班能看片还拿着高薪,网友调侃简直没天理。

这也恰恰说明网络时代,没有人可以置身事外,人与人之间息息相关。地球另一端一群不知名的小人物,也在无形中影响世界。

其实,内容审核工作并没有想象中简单。以Facebook为例,Facebook已有的审核员每天要处理大量的UGC内容,他们需要审核包括色情、暴力、犯罪等多个方面的不良内容,在判断内容时会承受很大的压力。他们必须区分开普通儿童写真和儿童色情照片,还要分清楚这是朋友间的玩笑还是侵犯性内容。他们必须做到细致地归类,需要将内容放到具体语境下进行区分。要是没有审核到位,Facebook很有可能会被指责侵犯公民的言论自由。

这是全网络最脏的工作

审核员的工作,会对个人生活产生很大的负面影响。长期审查儿童色情作品后,他们会对接触孩子的人疑神疑鬼。观看太多色情图片甚至会影响他们的性生活和婚姻关系,他们已经对色情影像感觉到麻木。

美国加利福尼亚州的硅谷,阳光晴好。

今年1月,微软在线安全团队的成员向微软提起诉讼。因为他们每天被迫观看大量恐怖、色情和凶杀图片及视频,因此患上了心理后遗症,经常失眠、做恶梦,脑子里充满图片和视频内容。但微软官方表示,并不认同这两位前员工的观点,
公司每月都会对这些员工提供一定的心理支持。

这里是Facebook、谷歌、推特等互联网科技巨头的聚集地,全世界最聪明的脑袋汇聚于此,在谈笑风生之间悄然改变时代。

同样的情况,在中国也是普遍存在,尤其是在内容审核领域。不少公司会将内容审核交由外头公司承担,这些公司雇佣大量人力来做文字、图片、视频等内容的审核,审核员每天需要承担上百条甚至更多信息的审核工作。这些审核员领着3000到5000的月工资,大多生活在国内二、三线城市。路透社此前的一篇报道曾经将新浪微博的这项工作称为高压、无望的工作每人每小时至少要看3000条微博,不少人因为压力太大且看不到上升空间而离开。

在这里工作的大多数人,多多少少还是对从事的工作充满信心的,正如Facebook创始人小扎时常在演讲会上分享的那样:

人工智能时代的审核尴尬

社交媒体的诞生是新时代的福利,所有人都有机会、有权利,与他人分享任何事。

随着科技的发展,媒体和创业者都不断的勾画着,人工智能时代到来的激动场景,但时至今日,虽然通过机器学习,不断在提升系统对于内容类型的识别和判断概率。但对于内容的审核,科技巨头主要还是依赖人工,这真是特别的尴尬。

图片来源于纪录片《网络审查员》

机器在很长时间内,根本不能完全取代人工审核。以Google为例,Google有超过一万名员工充当着搜索结果评估者的角色。这家业界领先的科技巨头仍需雇佣大量的劳动力来改善自身产品,这或许说明了人工智能局限性机器还很难模拟出普通用户的使用体验,很难理解内容背后的深意,很难作出准确的人的判断。

Facebook产品经理马丁·尼兹也对此深信不疑,不过他在一开始的时候是认为,他们只是搞搞数学和算法,提供内容汇聚的平台。

而且,目前机器审核多用于文字内容。如机器检测到含有敏感词汇的内容,会将其删除或向用户发出警告。但对于图片、视频的审核,机器无法像对文字内容一样提取关键词,审核难度较大。在上述的Facebook杀童直播案中,机器就无法根据视频画面去鉴别内容性质。此时,人工审核将发挥其无可替代的作用。

他们本身,并不对平台上的内容负责。

对于Facebook这样拥有20亿用户的大型社交网站,除了人工审核,还有其他两种辅助审核渠道。一方面,Facebook引导用户使用举报功能。用户若发现色情视频、图片等不良信息,可以向平台举报。网站管理员收到信息后,会完成删图或者封号等后续处理。另一方面,Facebook也正在测试人工智能,希望进一步采用机器+人工的审核方法。比如,如果有一张裸体照片此前被删除,那么再次上传时就会被自动删除。

图片来源于纪录片《网络审查员》

在国内,人工+机器审核是目前科技公司常用的审核方法。以快手为例,快手拥有数百人的内容审核团队,每条快手短视频、直播的发布都要经过机器和人工等多道审核。同时,不少第三方公司提供内容审核服务,如万象优图、网易易盾、图普科技、阿里绿网等多个产品,都可以辅助平台进行机器审核。优酷、荔枝FM、映客直播、美拍等多个平台都有使用这些第三方服务。

直到越来越多的受众发现,猫咪栏目的视频里会混杂着性爱片段,美食图片集里也时不时会有血肉模糊的图片现身。

人工智能虽然取得了不错的发展,也在逐渐改变人们的生活方式,提升了社会效率。但是还远未到彻底解放人工的时代。对于内容审核的大量底层雇员来说,他们每天夹杂在科技巨头和海量信息之间,也许在将来,人工智能能彻底解放他们。不过真到了那一天,也就是他们失业的时候了。

有些事,仅靠“数学和算法”是无能为力的,必须有人来采取一些行动,比如在每分钟产出500小时视频的YouTube以及每分钟产生250万条信息的Facebook,进行筛选。

那些把关的人,也就是所谓的网络审查员。

图片来源于纪录片《网络审查员》

与硅谷明亮开放的景象不同,从事这部分工作的人们的工作环境,显得昏暗又逼仄。

他们也不在硅谷,而在菲律宾首都马尼拉。

因为这里“低端”劳动力密集,人工成本低廉,通过外包公司雇佣,时薪只要1美元。

图片来源于纪录片《网络审查员》

为了避免外界不必要的好奇与争议,这些工作人员一入职就签署了保密协议。他们被光鲜亮丽的科技公司藏匿在数字浪潮的海底,与全网络最肮脏、最恶心的工作为伴。

图片来源于纪录片《网络审查员》

上图这位面色凝重的大妈,就是其中一员。

她负责审核色情信息,每天的工作量是25000条图片或视频,如果遇到明显的裸体或性爱内容,需要她及时按下删除键。

大妈表示,自己原来也是一枚“小清新”,对色情俚语和情趣用品一窍不通,但从事的工作让她不得不正视这种传统文化的禁忌。

在入职培训中,她对那些原本不敢提的东西愈发熟悉,也会自发地在业余时间“学习”。

图片来源于纪录片《网络审查员》

当然,由于每天看太多男男女女的裸体,连做梦的内容都变得不可描述了起来。

这让她感到很罪恶,毕竟在亚洲人传统观念中,每天都沉浸于这些东西,“很不正经”。

图片来源于纪录片《网络审查员》

与满面尴尬的大妈相比,同为审核员的小姑娘丹尼斯,坦言这份工作是在挑战底线。

她负责审核的也是色情版块,只不过更多的与强暴、侵犯、恋童癖等有关。

图片来源于纪录片《网络审查员》


她看到过一个大约六岁的小女孩,被成年人肆意玩弄和凌辱,女孩脸上写满了惊慌。

“这些事情对于我而言,是不可饶恕的。”

图片来源于纪录片《网络审查员》

一开始接手工作,丹尼斯的日常是在流泪与呕吐中度过,但擦干眼泪,依旧要审核。

公司硬性规定,对于实在无法接受的画面,每天只有最多3次的“跳过”机会。

与公司签署的合同让她无法轻易退出,再怎么痛苦,也得完成每天日常工作量的KPI。

图片来源于纪录片《网络审查员》

另一位已经做了妈妈的审核员,倒是显得淡然许多。她负责的是恐怖、暴力行为版块,入职培训时就被要求,记清美国国土安全部加以封锁的37个恐怖组织名单,还必须对它们各自的口号、旗帜等等“如数家珍”。

图片来源于纪录片《网络审查员》

​不是没有过难以忍受的艰难时刻,尤其在生完宝宝后,看到恐怖分子所做的可怕行径,会对孩子未来成长的环境感到非常焦虑。

但久而久之,也就变得冷淡和麻木了。

毕竟,她是已经目睹过数百次斩首的人。

图片来源于纪录片《网络审查员》

她说,在审核视频时,如果看到恐怖分子拿的是大砍刀,会稍感宽慰,这意味着受害者被斩首时会少受一些苦,直接人头落地;

最绝望的是那种不锋利的小刀,受害者会被一点点割下头颅,整个过程持续几分钟。

她叹息道:“这真的是很难做的工作。”

图片来源于纪录片《网络审查员》

有人发疯,有人自杀

但他们别无选择

鲍勃是一个两岁孩子的父亲,也是自杀自残版块的网络审查员。

对外,他宣称自己为硅谷的大公司工作,在马尼拉担任的是类似数据分析员的岗位。

但只有他自己知道,每天是如何看着一个个鲜活生命自我伤害或离去,而无能为力。

图片来源于纪录片《网络审查员》

日复一日地沉浸于自杀及自残信息,每天8-10小时的高强度工作,让鲍勃疲惫不堪。

他身边有同事患上了抑郁症,也有人精神失常,最近还有一名同事上吊自杀。

对于这样的事情,公司内部总是讳莫如深的,他们不好问也不敢问每年到底有多少从事该工作的人出问题,只是小心观察着。

兴许坐你隔壁的人,明天就会传来坏消息。

图片来源于纪录片《网络审查员》

如果说有什么能支撑着鲍勃不在如此负面的日常中崩溃,那就是他的儿子。下班回家,他照例会在沉睡孩子的额上留下一个吻。

“你一定要为自己找到支撑点,家人也好爱好也好,要学会抵御负面信息的入侵。”

图片来源于纪录片《网络审查员》

另一位刚刚入职审查员的小伙子,则把这个支撑点定义为个人的兴趣爱好——打电玩、逛夜店或给自己心仪的女团打call。

总之,一定要让自己专注于美好的事物。

图片来源于纪录片《网络审查员》

不过无论是鲍勃还是这个小伙子,都有着一个共同的原因,让他们无法轻易辞职。

苛刻的入职合同及可能承担的高昂违约金是一个方面,另一方面是,他们真的需要钱。

作为贫富分化最为严重的发展中国家之一,菲律宾政府的一份官方报告把家庭年收入低端的30%归于贫困家庭,他们的平均年收入约1351.8美元,月收入约112.65美元。

其余的70%,月收入也只有490.22美元。

菲律宾首都马尼拉

相比较而言,在西方国家看来毫不起眼的“时薪1美元”,在菲律宾却是高薪,更何况,还有“硅谷大公司”的背书与诱惑力。

鲍勃要养家糊口,刚入职的小伙子也有一大家子人要养活,虽然受供养的家人,往往并不清楚家庭成员做的究竟是怎样的工作。

图片来源于纪录片《网络审查员》


​但他们有的选吗?并没有。

不要求很高的学历,没有高不可攀的专业门槛,培训后即可上岗,薪水也足够诱人。

底层的家庭条件和跨越阶级的美好理想才是网络审查员们选择这份工作的根本原因。

这也是为什么曾被性犯罪与儿童色情画面折磨得落泪的丹尼斯,仍旧选择留下来。

图片来源于纪录片《网络审查员》

从小在垃圾场长大、母亲是拾荒者的她,如果不做这个,她真的想不出还有哪些“时薪1美元”的工作是自己可以胜任的。

到头来,也许会重返垃圾场,捡破烂为生。

图片来源于纪录片《网络审查员》

片中透露,美国科技公司在菲律宾的外包内容审查员人数超过了100000人,Facebook在全球的外包雇佣工人已达20000名。

纪录片接触与采访到的网络审查员,也许仅是全员的几万分之一,但可以想象,他们从事这份工作的动机、面临的压力大同小异。

痛苦与坚持、无奈与忍受、怀疑与重塑……在我们看不到的角落,这群信息的把关者、垃圾内容的清道夫,正埋头苦干着。

理想主义的纯粹VS言论自由的质疑

虽然各有各的压力与崩溃、坚持与振作,这群受教育程度不高、家境贫寒的网络审查员们,却无一例外地显露出理想主义倾向。

有人觉得,身为网络环境的守护者,自己应该对这份难熬的工作充满热情。

图片来源于纪录片《网络审查员》

他们的责任,就是防堵网络上的罪恶。

图片来源于纪录片《网络审查员》

而全世界各地的人们之所以能够享受社交媒体带来的便利与有趣,也正是因为有他们,以牺牲个人为代价,付出最大的努力。

图片来源于纪录片《网络审查员》

籍籍无名的网络审查员坚持着内心认定的使命感,可他们的工作,并不能得到所有人的理解。因为在另一些人看来,提前按下“保留”或“删除”,是对言论自由的侵害。

图片来源于纪录片《网络审查员》

美国一位创作裸体画作的艺术家,一直不能理解为何只要有裸体存在,就一定会与色情挂钩。在她看来,裸体只是一种艺术表现形式,但根据网络审查员们的操作规则,只要有裸体出现,那么按下的一定是删除键。

这位艺术家也因此被封号多次。

图片来源于纪录片《网络审查员》

恐怖暴力内容也面临着类似的两难处境。

以萨达姆被施以绞刑的图片视频为例,从内容上来看,它涉及到恐怖主义及暴力血腥,是网络审查员们应该要清理的范畴。

但从其他角度来看,这是极为重要的历史事件和新闻素材,网络审查员并没有资格剥夺公众对此的知情权,到头来,他们可能会选择保留相关片段,关键部分加上马赛克。

图片来源于纪录片《网络审查员》

正如前谷歌及推特政策制定者Nocole
Wong所说,困境永远存在,但他们有责任做出决定,是非对错唯有留给历史去评判。

图片来源于纪录片《网络审查员》

但诸如谷歌推特之类的大公司真的有权利替人们做决定吗?联合国言论自由权特别报告员大卫
·
凯伊则认为,第一道信息的闸门长久地掌握在互联网科技公司手里,最终会对人们的批判性思考能力造成损害。

网络审查机制的存在,隐隐令人感到不安。

图片来源于纪录片《网络审查员》

网络审查员的存在,或许就像一个悖论。

我们无法去评价,审查员们主观选择删除的东西;也很难去批判,这些人和他们背后的公司,凭什么可以随便让一些内容消失。

如何在追求言论自由的前提下,又保证这种自由不会危及到我们自身,关于这个问题,人类唯有在不懈探寻中,方能找到答案。

References:

纪录片 网络审查员.The Cleaners.2018

‘The Cleaners’ Review | Hollywood Reporter

‘The Cleaners’ Review: Sundance Film Festival – Variety

‘The Cleaners’ documentary dishes dirt on social media – CNET

菲律宾经济状况,新浪财经

独立鱼电影《为了养家糊口,他们干着互联网最脏的工作》

电影杂志 《NHK拍纪录片揭秘「鉴黄师」:熟记暗语,每天看上万部视频》

好奇心日报 《一部聚焦网络审查员的纪录片,这个话题足够有讨论空间》

**作者:
克里斯,精英说90后小编,香港传媒小硕,一个脱离高级趣味涉猎广泛的嗷星人。**

**版权归精英说所有,精英说是全球精英、留学生的聚集地。每日发布海内外前沿资讯,这里有留学新知、精英故事及美国街头访问,全方位为你展现真实的海外生活。欢迎大家关注精英说。**

发表评论

电子邮件地址不会被公开。 必填项已用*标注