Facebook借助人工智能以帮助网络平台更好完成审核工作

Facebook 一直明确表示过要借助人工智能（AI）技术，以帮助该社交网络平台更好地完成审核工作。 当机器学习过滤器遇到被标记可能违反平台政策、或被用户投诉的内容时（包括但不限于垃圾邮件、仇恨言论、煽动暴力的帖子），系统就会及时响应并介入一些操作（比如删帖或对账户加以限制），以便宝贵的人工可用于审核其它案例。

FB 旧版审核系统，结合主动式的机器学习过滤 + 用户反溃

据悉，Facebook 在全球范围内雇佣了大约 1.5 万名审核人员，但过去因为没有给予这些雇员足够的支持而遭到批评。其主要工作是根据公司的平台政策，对标记的帖子进行分类。

以往的流程，或多或少地都是根据时间先后进行排序。不过现在，Facebook 更希望借助更多机器学习算法的力量，根据内容的权重进行审核排序，同时设定了传播度、敏感度、违规严重程度这三大参考原则。

FB 新版审核系统，借助更多的机器学习技能，帮助人工对待审核队列进行排序。

尽管尚不清楚这些标准的具体权重有何区别，但 Facebook 表示，其目标是有限处理那些最具破坏性的内容。换言之，传播后果越严重的帖子，就越会被优先处理。

比如涉及暴恐、剥削儿童或自我伤害等内容，将会受到实质性的人工审核。。同时垃圾信息等碍眼但后果不太严重的内容，将被 AI 判定为次优先级。

新引入的 WPIE 整体评估工具 + 各种内容排序用的机器学习算法。

Facebook 社区诚信团队产品经理 Ryan Barnes 在新闻发布会上向记者表示，该公司正在使用更好的算法，以评估所有违规内容的人工审核优先级，比如上图所示的 WPIE 完整性嵌入模型。

这意味着算法将共同判断给定帖子中的各种元素，试图找出图像、标题等共同显示的内容，此外新算法也有助于降低审核人员在处理某些恶劣违规内容是所遭受的心理创伤。
责任编辑：YYX

人工智能审核网络平台平台

免责声明：本网信息来自于互联网，目的在于传递更多信息，并不代表本网赞同其观点。其原创性以及文中陈述文字和内容未经本站证实，对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺，并请自行核实相关内容。本站不承担此类作品侵权行为的直接责任及连带责任。如若本网有任何内容侵犯您的权益，请及时联系我们，本站将会在24小时内处理完毕。