内容审核向左,还是向右?

最近,各家新闻资讯App和直播平台都开始对内容审核人员的招聘情有独钟。

 

早在今年年初,今日头条就启动高达2000人的内容审核编辑招聘,并点出党员优先。而在4月10日,今日头条CEO张一鸣又在一份公开信中表示,会将现有6000人的运营审核队伍再度扩大——总人数达到10000人。

 

与今日头条“步调”一致的还有快手,快手CEO宿华在4月初发表反思言论之后,立马宣布急招3000人审核团队,将目前的审核团队从2000人扩大至5000人。

 

疯狂招人的背后,是相关部门的严监管。就拿今日头条而言,2018年以来,受到央视、工商行政管理局等有关部门的点名、批评或处罚就高达8次。

 

严监管只是影响结果的其中一个因素,但要把人工审核的“复兴”归结于它,就有点敷衍塞责了。那客观来说,内容审核复兴的根本原因是什么?

 

严监管是“果”,而不是“因”

 

首先得澄清下,严监管并不是今日头条、快手们疯狂招人的根本原因。

 

如果把目光从国内转向国外,你会发现,人工审核早就复兴了。

 

Facebook在2017年就宣布,将会新增3000名内容审核岗位。而到该年年中,Facebook审查员数目对比过去八个月几乎增加了一倍,其人员数量相当于当时的Twitter或Snapchat的员工总数。

 

除了Facebook之外,谷歌也在重新拥抱人工审核。谷歌旗下的YouTube在今年4月份对外表示,计划发布新版YouTube Kids App,该应用将取消算法推荐视频,转而全由YouTube员工纯手工推荐。

 

这样的转变为何?这得提下发生在去年的几件事。

 

2017年,美国一名男子在Facebook上直播枪杀一名无辜老人。隔了一段时间后,泰国一名男子又在Facebook直播杀死女儿,其残忍过程不仅让很多目睹,在视频发布后的24小时内,人们还可以在Facebook上看到视频。有点讽刺的是,而在稍早些时候,Facebook表示将用人工智能监测直播,防止用户自杀。然而,随后的几起事件显示,人工智能并没有起到相应的作用。

 

另一面,Youtube有一段时间充斥了以艾莎公主、米奇老鼠、蜘蛛侠、小猪佩奇等卡通形象为包装,故意充斥大量含有血腥暴力、恐怖、虐待、色情等内容,而算法却起到一个助纣为虐的角色。当点完一个之后,又会推荐更多相关的视频。甚至有人利用算法,去发展亚文化,并从中获利。

 

至此,我们明白:各大平台重新大量招募内容审核人员、相关部门执行严监管的背后,是大家发现被崇尚数年的AI算法有很多弊端,无法单独依靠算法来解决内容上的问题。

 

人工智能跌下内容神坛

 

如果说去年Facebook开始大规模招募内容审查,预示着今年人工审核的复兴,那么我们是不是可以把YouTube Kids App纯手工推荐也视为一个苗头,比如说——在内容领域,人工智能的应用不再风光,或者准确地说,其应用不再占主导地位。

 

人的认知是非常容易受影响的,“曾参杀人”、“三人成虎”的历史典故充分证明了这一点。对于一个谣言,一个说可能没有人相信,两个人说也许有一部分人会去相信,但是三个人或者更多人也这样说,那么人们大概率会认为这件事可能是真的了。

 

内容的推荐工作全部由机器完成,给我们的不是我们自己想要的东西,也不是对我们有好处的东西,而是我们实际关注的东西。也就是说,我们看某样东西越多,这方面的东西就会更集中的推向我们。而别有用心的人,就会利用算法这个特点,针对影响我们。

 

“我相信我们面临的最大风险是我们自己正在失去辨别现实的能力。”Reddit CEO Steve Huffman在其撰写的一篇文章中无不担忧地说。而这,也是Facebook数据泄露一事闹得沸沸扬扬的根本原因,如果再不对数据进行严格监管,我们就不是我们了。

 

张一鸣说,后续今日头条首先改变的是:将正确的价值观融入技术和产品。这也预示着今日头条拨乱反正,全面纠正算法和机器审核的缺陷。

 

技术不是万能的,很多事情并不是通过投入大量的工程师就可以解决。

 

朋友圈里某位老师说,产品需要价值观,消费至死和娱乐至死的确会有很大问题。从这来看,人工审核的“回归”就成了必然。

 

但人工审核,又是“一本万利”的生意吗?

 

今天的内容是海量的,依靠人工,成本会变得很高。就比如扩招2000人,一个人工资给4000元,一年光明面上的工资成本就近亿,企业的竞争力从何而来?并不是所有的公司都能像今日头条、Facebook那样,为了实现7X24小时全覆盖的审核,动辄就招聘数千名人员,规模维持上万,这是第一。

 

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/zwzdzy.html