人工智能如此火热 但内容审核却取代不了人力

近日，Facebook的CEO马克.扎克伯格宣布公司将会新增3000名内容审核员，他们负责审核平台上的内容，包括最近网上有出现的谋杀、自杀和强奸等视频。科技巨头聘用大量人力来做内容审核，已经不算什么稀奇事。Google、百度、腾讯、新浪、今日头条都设置了类似岗位。对于做内容的平台，内容审核尤其重要，一旦没有处理好，很有可能影响到整个公司的前景。为什么在科技如此发达的今天，机器还没法完全替代传统的人工审核?各大巨头还需要人海战术来鉴黄呢?内容平台的阿克琉斯之踵今年4月，一位泰国男子在Facebook上直播杀害亲生女儿的画面，随后该男子自杀。视频在Facebook上挂了近24个小时，大量用户看到婴儿被杀害的过程。其中一段视频播放量超过25万次，视频还被其他用户上传到其他视频网站。色情、暴力、犯罪，这些不良内容多次在Facebook上出现，这让Facebook陷入争议。今年3月，一名15岁美国少女被多名男子性侵犯并被直播到Facebook上，视频吸引了至少40万人关注。有人称，这样的画面让人感到害怕和不安，看了之后晚上都睡不着觉。事发后，Facebook团队意识到问题的严重性。Facebook的CEO扎克伯格公开表示，Facebook将尽一切努力避免此类内容再出现，并且表示Facebook要变成一个健康而安全的网络社区，还有很多工作要做。扩招内容审核员正是Facebook为此做出的举措。此前，Facebook在全球已有4500名员工负责内容审核，此次扩招会让审核过程更加及时和准确。这些员工主要负责处理那些没有被审查到的、或者没有被立即删除的不良内容。社交媒体时代，每天都有大量的用户在不断地生产内容。对于平台而言，除了补贴内容生产方外，还需要支出更多的内容审核成本。但尽管如此，平台还是不惜人力和财力，去做好内容审核的工作。一方面是大量的不良内容，会使得用户产生反感，会降低使用产品的频率甚至远离产品。劣币驱逐良币，不利于平台的长期发展。另外一方面，不良内容的发布，很有可能导致触犯国家法律，引来平台的管制甚至关闭，今年年初，知名的同性社区ZANK就因为直播涉黄被整体关闭。在国内，BAT许多平台都设有内容审核员一职。以新浪微博为例，新浪微博是国内最大的社交平台之一。对于内容，新浪微博仍主要采用人工审核的方式。除了色情、暴力等不良内容，平台还会留意政治、宗教等敏感内容。但是依然有各种擦边或者不良内容的漏网之鱼。内容的审核和把关，成了各大内容平台的阿克琉斯之踵，从初创公司到科技巨头，没有人敢放松这根神经。除非是别有用心的想利用情色来吸引用户，但那样肯定不会长久。让人绝望的内容审核工作2013年，百度、腾讯、金山等10多个互联网公司组成安全联盟，用20万高薪招聘首席淫秽色情鉴定官。上班能看片还拿着高薪，网友调侃简直没天理。其实，内容审核工作并没有想象中简单。以Facebook为例，Facebook已有的审核员每天要处理大量的UGC内容，他们需要审核包括色情、暴力、犯罪等多个方面的不良内容，在判断内容时会承受很大的压力。他们必须区分开普通儿童写真和儿童色情照片，还要分清楚这是朋友间的玩笑还是侵犯性内容。他们必须做到细致地归类，需要将内容放到具体语境下进行区分。要是没有审核到位，Facebook很有可能会被指责侵犯公民的言论自由。审核员的工作，会对个人生活产生很大的负面影响。长期审查儿童色情作品后,他们会对接触孩子的人疑神疑鬼。观看太多色情图片甚至会影响他们的性生活和婚姻关系，他们已经对色情影像感觉到麻木。今年1月，微软在线安全团队的成员向微软提起诉讼。因为他们每天被迫观看大量恐怖、色情和凶杀图片及视频，因此患上了心理后遗症，经常失眠、做恶梦，脑子里充满图片和视频内容。但微软官方表示，并不认同这两位前员工的观点， 公司每月都会对这些员工提供一定的心理支持。同样的情况，在中国也是普遍存在，尤其是在内容审核领域。不少公司会将内容审核交由外头公司承担，这些公司雇佣大量人力来做文字、图片、视频等内容的审核，审核员每天需要承担上百条甚至更多信息的审核工作。这些审核员领着3000到5000的月工资，大多生活在国内二、三线城市。路透社此前的一篇报道曾经将新浪微博的这项工作称为高压、无望的工作每人每小时至少要看3000条微博，不少人因为压力太大且看不到上升空间而离开。人工智能时代的审核尴尬随着科技的发展，媒体和创业者都不断的勾画着，人工智能时代到来的激动场景，但时至今日，虽然通过机器学习，不断在提升系统对于内容类型的识别和判断概率。但对于内容的审核，科技巨头主要还是依赖人工，这真是特别的尴尬。机器在很长时间内，根本不能完全取代人工审核。以Google为例，Google有超过一万名员工充当着搜索结果评估者的角色。这家业界领先的科技巨头仍需雇佣大量的劳动力来改善自身产品，这或许说明了人工智能局限性机器还很难模拟出普通用户的使用体验，很难理解内容背后的深意，很难作出准确的人的判断。而且，目前机器审核多用于文字内容。如机器检测到含有敏感词汇的内容，会将其删除或向用户发出警告。但对于图片、视频的审核，机器无法像对文字内容一样提取关键词，审核难度较大。在上述的Facebook杀童直播案中，机器就无法根据视频画面去鉴别内容性质。此时，人工审核将发挥其无可替代的作用。对于Facebook这样拥有20亿用户的大型社交网站，除了人工审核，还有其他两种辅助审核渠道。一方面，Facebook引导用户使用举报功能。用户若发现色情视频、图片等不良信息，可以向平台举报。网站管理员收到信息后，会完成删图或者封号等后续处理。另一方面，Facebook也正在测试人工智能，希望进一步采用机器+人工的审核方法。比如，如果有一张裸体照片此前被删除，那么再次上传时就会被自动删除。在国内，人工+机器审核是目前科技公司常用的审核方法。以快手为例，快手拥有数百人的内容审核团队，每条快手短视频、直播的发布都要经过机器和人工等多道审核。同时，不少第三方公司提供内容审核服务，如万象优图、网易易盾、图普科技、阿里绿网等多个产品，都可以辅助平台进行机器审核。优酷、荔枝FM、映客直播、美拍等多个平台都有使用这些第三方服务。人工智能虽然取得了不错的发展，也在逐渐改变人们的生活方式，提升了社会效率。但是还远未到彻底解放人工的时代。对于内容审核的大量底层雇员来说，他们每天夹杂在科技巨头和海量信息之间，也许在将来，人工智能能彻底解放他们。不过真到了那一天，也就是他们失业的时候了。

分享到