本文摘要：随着互联网的飞速发展和信息量的激增，大量的色情、暴力、政治脆弱、违法等不良信息夹杂着在其中，严重影响着互联网的身体健康发展。

随着互联网的飞速发展和信息量的激增，大量的色情、暴力、政治脆弱、违法等不良信息夹杂着在其中，严重影响着互联网的身体健康发展。特别是在是在UGC领域，每天都有大量的用户在大大地生产内容。对于互联网平台而言，必须开支十分大的成本来展开内容审查。

因为如果没作好内容审查的话，首先是大量的不当内容不会让平台用户产生不满，从而减少用于产品的频率，最后导致用户靠近产品，有利于平台的长年发展。然后，不当内容的公布，很有可能违反国家法律，惹来平台管制甚至是平台重开。

日前，全球社交巨头之一的Facebook，就因为内容审查问题遇上了极大的困难。4月25日，一名泰国男子在Facebook上公布了两则杀死11个月女儿的视频，随后该男子自杀身亡，该视频在24小时之后才被移除。其中第一段视频的播出量多达11万次，第二段视频播出量多达25万次，视频还被其他用户上传遍视频网站Youtube。这此事件，让Facebook陷于了争议，甚至逼FacebookCEO扎克伯格被迫在5月3日宣告，将在全球再行雇用3000余人，这些新的雇员将和现有的4500人构成网站社区运营团队，在世界范围内监控每周所有用户上载的数以百万条的内容，更慢地找到并处置那些包括仇恨犯罪和损害儿童内容的视频和帖子。

弊端渐渐显著，传统“鉴黄师”大势已去科技巨头聘请大量人力来做到内容审查，早已不是什么稀奇事。Google、百度、腾讯、新浪、今日头条都设置了类似于岗位。而这个岗位有一个让人想入非非的名字——“鉴黄师”。

鉴黄师是近年来随着网络视频行业的发展，特别是在是直播的蓬勃发展，而屡屡转入人们的视野一个类似岗位。其工作内容，就是将网站产生的内容一一审看，并根据内容展开鉴定结论。近两年，各大互联网公司为了确保自己所获取的内容不违反国家法律和法规，使得鉴黄工作显得尤为重要。

然而，随着互联网信息的公里／小时快速增长，人工鉴黄师的弊端渐渐显得显著。首先是，成本更加低。

鉴黄师只不过是一个管理制度门槛较为低的职位，有数据表明，鉴黄师的工作强度十分之大，往往一个人一天必须审查上万条信息，同时这份工作还要承受因为拒绝接受了大量的诸如色情、暴力等负面信息带给的心里问题。企业培育一个合格的鉴黄师往往必须大量的投放，可以说鉴黄师实质上是一种稀缺资源。然而，随着互联网信息的公里／小时快速增长，所必须去审查的信息也显得更加多，造成这个岗位的缺口更加大，而物以稀为贵，这就造成公司在内容审查上的成本也在很快快速增长。

第二、传统鉴黄师效率低落。人的精力是受限的，特别是在是反复做到一件完全相同的事情更是如此，有可能开始时效率十分低，但随着时间的流逝，效率不会较慢上升。

第三、人的主观性过于强劲，更容易影响辨别结果。只要是人，对于一个事物的辨别某种程度都会重新加入主观辨别，对于同一张图，两个有所不同的人，可能会得出几乎有所不同的结果，而没严苛根据辨别标准得出结果，不免有不少漏网之鱼，而如果要是审查过度，平台又不会被谴责侵害公民的言论自由。正是由于这种种弊端的经常出现，使得行业内对于成本更加较低、效率更高的内容审查方式明确提出了市场需求，而这种市场需求为人工智能内容审查带给了极大的市场。

人工智能内容审查如何展开？近年来，随着深度自学理论的突破，AI领域很多经典的难题都已被获得很好地答案，特别是在是计算机视觉领域，早已转入了有史以来最差的时代。深度自学在计算机视觉领域的应用于，给利用人工智能展开内容审查获取了基础。

那么人工智能内容审查一般从哪些方面展开检验呢？我们告诉如今互联网内容主要可以分类为：文字信息、图片信息和视频信息，其中视频信息可以再行细分为直播视频信息和在线视频信息，相对来说直播信息的辨别是可玩性仅次于的，也是不良信息的重灾区，是目前来说辨别市场需求尤为急迫的。我们就以视频直播内容的辨别来展开分析。

直播内容的智能审查主要倚赖图像识别技术。虽然说道审查的是视频内容，但是实质上因为视频内容涵括的信息更为简单，无法展开分析，因此智能审查并不以视频为单位，而是从视频内容中萃取适当的视频帧展开图像识别，同时相结合语音辨识等手段展开辨别。

直播视频的审查，一般可以分成以下几个步骤：辨识图像中否不存在人物体征，统计资料人数；辨识图像中人物的性别、年龄区间；辨识人物的肤色、肢体器官曝露程度；辨识人物的肢体轮廓，分析动作不道德；一般来说不会根据肤色露出程度、姿势、肢体轮廓辨别否牵涉到色情元素。除了图像识别之外，同时相结合语音辨识，辨别否不存在脆弱信息；同时对动态弹幕展开文字辨识，辨别当前视频否不存在违规行为。多种辨别方式的互相人组和印证大大提高了智能审查的准确性。

相对于传统鉴黄师人工智能内容审查优势确有？上文中早已提及过了利用人工展开内容审查的弊端，只不过与人工内容审查的弊端展开一一核对，就能得出结论人工智能内容审查的优势所在了。

本文来源：ku平台官方网站-www.tzzrzf.com