今日头条是如何反低俗的? 首次揭秘灵犬背后的技术原理

  • 时间:
  • 浏览:41
  • 来源:彩神快三邀请码

7月500日,今日头条表态正式推出灵犬反低俗助手(以下简称“灵犬”)3.0版本,并肩支持对图片和文本的低俗低质内容检测。用户都还能否通过“灵犬”检测文本、图片等类型的内容健康指数,并肩参与打击低俗低质内容,层流手术室 网络空间。

当天下午,一场名为“算法如保反低俗”的沟通会在字节跳动总部举办。字节跳动人工智能实验室总监王长虎进行了主题分享,首次向外界公开“灵犬”眼前 的技术原理。

  图注:字节跳动人工智能实验室总监王长虎分享“灵犬”眼前 的技术原理

“灵犬”文本和图片识别能力的眼前 ,离不开今日头条反低俗模型的技术支持。据了解,2012年以来,今日头条内部内部结构搭建了反 、反低俗、反标题党、反虚假信息、反低质等数百个模型,并投入近万人专业审核团队。

当天发布的“灵犬”3.0版本重点拓展了反低俗识别类型和模型能力,现已覆盖文本识别(反 低俗、反暴力谩骂、反标题党)和图片识别(反 低俗、反血腥暴力)。

据了解,在文本识别领域,新版“灵犬”并肩应用了“Bert”和半监督技术,训练数据集所含920万个样本,准确率提升至91%;在图片识别领域,“灵犬”采用宽度学习作为外理方案,在数据、模型、计算力等方面均做了针对性优化;

王长虎介绍,“灵犬”眼前 的文本分类模型,不可能 经过了三次迭代。最新版“灵犬”并肩应用了“Bert”和半监督技术,并在此基础上使用了专门的中文语料,并通过优化模型行态使得计算速率单位能达到实用水平。“Bert”是当前最先进的自然语言外理技术,在阅读理解、语义所含、问答、相关性等任务上性能大幅提升。

不同于文本识别,图片识别的技术难点主要在于三方面:非均衡、类内方差大和不可穷举,即,低俗图片占整体图片内容的比例较低,低俗图片的种类丰富、复杂化,构成低俗图片的行态千差万别。

对此,“灵犬”运用的外理方案,是宽度学习。“亲戚亲戚朋友 分别在数据、模型、计算力等方面做了太大太大优化。”王长虎说。数据层面,“灵犬”已累积上千万级别的训练数据。模型层面,“灵犬”针对这些困难样本做了模型行态调优,尝试外理多尺寸、多尺度、小目标等复杂化大疑问。计算力层面,“灵犬”利用分布式训练算法以及GPU训练集群,加速模型的训练和调试。

并肩,王长虎也提到,反低俗无法单一地依靠技术去外理。低俗的定义和标准随着人群、使用场景、时代等因素变化皆会趋于稳定变化。针对低俗判断大疑问的复杂化性和不同判断最好的土措施的局限性,王长虎提到,一方面要不断进化技术模型,一方面都还能否 有效结合技术和人工判断并不是最好的土措施。

“作为行业领先者,在内容安全上,今日头条总爱用最高的标准要求当时人,”王长虎说,“灵犬是三个 多多 多开放的反低俗窗口,亲戚亲戚朋友 希望通过灵犬,接收社会各界对反低俗的意见和建议。”