首页 科技快讯 YouTube用AI代替人工审核员后,又决定返聘

YouTube用AI代替人工审核员后,又决定返聘

来源:晰数塔互联网快讯 时间:2020年09月23日 09:44

本文来自微信公众号:HyperAI超神经(ID:HyperAI),作者:神经星星,头图来自:unsplash

YouTube 在今年初,将内容人工审核团队大量裁撤,全部替换成为 AI 进行内容审核。

所以,今年4月~6月整个第二季度里,YouTube 线上的所有视频,都是由 AI 进行官方的内容审核。这也是 YouTube 有史以来第一次整一季度,没有人工审核员参与内容初审。

这一大步跨越,带来了不小的后果,YouTube 在近期叫停这项举措,并且大批返聘在年初解雇的人工审核团队。 

 AI 替换人工:下架视频数创纪录

AI 审核被叫停的重要原因之一,就是 AI 审核的规则相较于人工,更为严格,甚至会导致误伤。

根据 Google 在定期的透明度报告中提到:在 2020 年 AI 接管内容审核的4月~6月中,共有 1100 万个视频被 AI 标记违规并下架,这些视频主要来自于美国、印度和巴西。

但是,在今年的第一季度里,被鉴定违规并下架的视频,仅仅只有 660 万。而从人工换成 AI 之后,被下架的视频数几乎翻了一番

因为 AI 审核遭下架的视频,占全部下架视频的 95%(数据来源:Google 官方透明度报告)

在被 AI 下架的 1100 万个视频中,多数为色情、虚假、涉恐犯罪类型,但是也有不少是误伤。

其中,就有 32 万个被 AI 标记下架的视频提出了申诉,最后近半数都通过二次审核,并重新上线。而在过去,进行申诉的视频,只有 25% 左右可能重新上线。

YouTube 的审核 AI,以一己之力,让 YouTube 的播主们瑟瑟发抖,花更多时间自查内容,一时间怨声载道让 YouTube 头疼不已;大量的申诉,还给 YouTube 团队,增加了不少重新审核的工作量。

人工再上位:时机尚未成熟,AI 仍需努力

在年初 YouTube 裁减人工审核团队前,全职或外包的审核岗位多达 10000 个。

这些人工审核员分布在 Google 的全球办公室,或是外包供应商的各个办公点。

 万人团队:巨大运营成本 

人工审核员的岗位要求并不低,比如要负责中东地区的内容审核岗位,需要掌握阿拉伯语和阿拉伯方言语系,并对中东地区上传视频进行审核,以便及时标记出涉及恐怖、暴力、煽动内容的视频。

这样的工作,每周需要审核 500 小时以上的视频,初级岗位的薪水可以达到 18.5 美元/小时,年薪可达 37000 美元左右。

再资深的内容审核岗位,需要掌握一些的法律知识,不仅能得到 Google 全职员工的待遇,还可以获得近 100000 美元的年薪。

风光的背后,Google 也同时在承担着不小的成本,这也导致了在今年疫情之际 YouTube 对人工审核岗位的裁撤。

这次返聘 YouTube 也提及:疫情让人工审核成本变高、难度加大。当初迫不得已,必须在人工干预不足和 AI 过度干预两者之中,选择了 AI。

人工审核:边缘职业身心俱疲 

内容审核不是一份简单的工作,不仅每周有固定的工作指标,还要长时间面对儿童色情、暴力、恐怖类型的画面,往往也会让人身心俱疲。

《华盛顿邮报》、《财富杂志》等美国主流媒体均对内容审核员这一职业,做出过深度报道。接受采访的内容审核员,无一例外都表达了这份职业,对自己的身心健康产生了强烈的负面影响。

媒体的舆论影响也敦促了科技公司对这类岗位进行了一系列的改善,比如限制每周观看不适视频的时间上限、定期的心理治疗等措施。

人工还是 AI:不用着急下定论

人工审核的支出、对人心理的伤害、机器学习的技术进步,这些都推动了近年各平台对自动化内容审核的研究和快速应用。

AI 虽然有一定的误伤几率,但是在对违规内容的审查中,的确展现了超过人工审核的高效。

YouTube 首席产品官 Neal Mohan 向英国《金融时报》回应人工审核重回岗位时,提到了一组数据“被 AI 标记删除的 1100 万个视频中,超过 50% 的视频,在没有用户播放前就被下架;超过 80% 的视频,播放 10 次以内就被下架。”

YouTube 作为大规模用 AI 代替人工的先行者,势必会踩坑,但同时也为其他公司甚至全社会,指明了人与 AI 协同关系中更加清晰的发展方向。

这样的实验虽然折腾,但着实有必要。这需要公司有吃螃蟹的精神、承担舆论非议的勇气和快速善后的决心。同样开放透明的数据,也让媒体和社会在接受未来的不确定性,有更多的共识和信心。

参考来源:

The Verge:《YouTube brings back more human moderators after AI systems over-censor》、《THE TERROR QUEUE》

Fortune:《Why Thousands of Human Moderators Won’t Fix Toxic Content on Social Media》

华盛顿邮报:《Content moderators at YouTube, Facebook and Twitter see the worst of the web — and suffer silently》

Wired:《As humans go home, Facebook and YouTube face a coronavirus crisis》

本文来自微信公众号:HyperAI超神经(ID:HyperAI),作者:神经星星

相关推荐

YouTube 用 AI 代替人工审核员后,又决定返聘
YouTube用AI代替人工审核员后,又决定返聘
AI机器人大规模上岗之后,我们会变得更好吗?
内容审核员成高危职业,互联网的黑暗面究竟有多可怕?
YouTube CEO:从没想过平台上会有这么多洗手视频
社交媒体时代的底层物语:那些为机器打工的Facebook神秘审核员
Facebook、YouTube都会遇到的内容审核难题,今日头条是怎么解决的?
微软用AI取代人工编辑,未来的新闻行业会由机器人统领吗?
用铺砖机器人代替一半的人工,「塑巢自动化」为装修降本增效
这家软件公司用菲律宾人工代替AI,还融到了1亿美元?

网址: YouTube用AI代替人工审核员后,又决定返聘 http://www.xishuta.com/newsview31471.html

所属分类:行业热点

推荐科技快讯