第二，内容审核的工作看似要求不高，实则要求非常高。每天被迫观看大量恐怖、色情和凶杀图片及视频，很多人因此患上了心理后遗症——经常失眠、做恶梦，脑子里充满图片和视频内容。做内容审核的人，需要特别强大的排解和消化能力，能够承担情绪和思想上带来的负面影响，否则人非常容易被其“反噬”。
国外有一名内容审核人员描述了浏览这些暴力、色情和令人不安的内容给她留下的情绪损伤和心理影响，她说：“当我从MySpace离开的时候，我大概有3年的时间不肯和人握手，因为我觉得人们都很恶心。我无法触碰别人。”她称，世界上最普通的人也都是他妈的怪胎。“我从那里出来的时候对人性感到厌恶。我的同僚们，大多数也和我有一样的感觉，我们都对人性留下了可怕的观感。”
给员工带来伤害的同时，雇主有时也会牵连。外媒报道，去年年初，两位微软网络安全部门的员工将雇主告上了法庭，并寻求损害赔偿。他们因工作中需要观看可怕的视频，包括儿童色情和谋杀等图片和视频，而患上了PTSD（创伤后精神紧张性障碍）。
从这来看，人工审核又不见得是一个好的方案。
向左，还是向右？
笔者非常喜欢一个人取的花名——“行中”，名取自于易经，意为中间态、调和态做事。回到内容审核上，要想解决这个问题，也要行中。
抛除人的优势不说，当初之所以用算法取代人工审核和推荐，是因为人工有很多弊端，比如说效率、成本以及对人的影响。算法固然有缺陷，但其高效、低成本的优势也令人神往。人工+算法，实际上是天生的一对，没必要因为一时的“摩擦”，就拆散它们俩。
那我们不得不面对一个问题：有的公司其实也在“行中”，利用人工和算法结合去解决内容的问题，为什么不OK？
一位网易云易盾内容安全的专家就该问题剖析时指出，算法+人工是现在、也是未来一段时间最为合适的形态。当下并不是算法+人工不行，而是国内有些公司积累和沉淀太少，以为拿机器学习的框架再加一些数据喂一下就好。“网易之所以在内容安全上做的效果很不错，就是得益于其拥有的20年内容审核和技术经验。”这位从事多年安全业务的专家接着说，不积跬步，无以致千里，内容审核重中之重是要有足够的积累，得“经验”加持。
“这个积累有两方面，一个是有效性数据的持续积累，其次是内容运营和审核人员的经验和思考力的积累，二者结合，不断训练机器、不断抽象和校正方向，才能够得到一个合理的‘人工+智能’的结合边界，才能更加接近人的判断。”他强调，这不是一朝一夕的事情，也无法仅仅用工程师的堆砌来替代。
聊完后，笔者陷入进一步的思考中：人是有思想、有情感的，一些海量、重复性、低价值的工作肯定会被技术取代，而人则会做更高级、更有创造性的事情。
如果能跳到未来，是不是可以发现内容审核不会向左，也不会向右，而会朝着一个必然的方向发展——人与人工智能的默契配合。
结束语
文章的最后，想谈谈监管和商业利益。
从当下频频发力的监管政策来看，内容类产品要想获得快速发展，首先要迈过监管的门槛。在有些人眼中，则认为被念了紧箍咒，但笔者不这么认为。
大量的不良内容看似带来很多流量和商业利益，但劣币驱逐良币，注定着会失去高质量的用户，不利于平台的长期发展，甚至在激烈的竞争中逐渐被边缘化；其次，没有束缚的发展也意味着“断头”路，真到了那个时候，想改正问题会发现再也没机会了。
4月11日，今日头条CEO张一鸣的声明，如果用几句话来解读的话，大致意思是：
我是工程师出身，创业的初心是希望做一款产品，方便全世界用户互动和交流。过去几年间，我们把更多的精力和资源，放在了企业的增长上，却没有采取足够措施，来补上我们在平台监管、企业社会责任上欠下的功课，比如对低俗、暴力、有害内容、虚假广告的有效治理。
PS：以上为解读，张一鸣声明原文见：tech.163.com/18/0411/07/DF3IT0P300097U7R.html
网上有一张图盘点了今日头条被点名批评的历程。细数了下，一年四个月的时间被点名批评16次，平均一月一次。直到最近的一次，内涵段子被下令关停，再也回不来。