国内首款反低俗小程序上线,AI识别内容健康指数

2018-11-20 10:16

摘要:近日,今日头条正式推出小程序工具,“灵犬反低俗助手”成为首批小程序之一。“灵犬”基于今日头条反低俗模型,是国内首款使用人工智能技术反低俗的小程序。

近日,今日头条正式推出小程序工具,“灵犬反低俗助手”成为首批小程序之一。“灵犬”基于今日头条反低俗模型,是国内首款使用人工智能技术反低俗的小程序。用户在输入框内任意输入一段文字或文章链接,即可检测内容健康指数,并给出算法鉴定结果。

在今日头条App搜索“灵犬”,就可打开“灵犬反低俗助手”小程序页面。对于网民输入的文字或链接,“灵犬”会先进行提取、分词和语义识别,然后根据设定的规则,输出对应的分数、评级和结论。这里面,分数指的是“健康概率”,评级是“质量指数”,结论则会告知是否可以得到“算法推荐”。这是基于算法模型处理低俗内容的一般路径:“收集数据-标注样本-训练模型”。在人工智能反复训练中,灵犬会实现自我进化。

这个“反低俗”小程序在实际应用中有何用途呢?对于创作者来说,输入之后能够判断出自己的作品是否违规,是否涉嫌色情、抄袭、标题党等,也会得到一个结论:起这个标题或写这篇文章是否会被推荐;用户发现不良内容则可以举报,共同打击低俗内容;此外,“灵犬”系统是智能识别,本身对头条平台上的内容也会有个自动的监测过程,过滤掉低俗内容。

/

据了解,除了运用AI等技术手段,今日头条目前也已投入数千人的专业审核团队,并搭建色情、低俗、标题党、虚假信息、低质模型180多个,有效提升了内容审核的效率和准确度。后续头条还将对外开放更多技术模型,包括辟谣模型、打击标题党模型等。


微信小程序专题推荐: 锻炼小程序   段子小程序

参与讨论

发表评论

扫码添加专属客服即可随时咨询

还可领取小程序推广攻略

咨询热线

13312967497

扫码添加业务即可随时咨询 还可领取小程序推广攻略

业务咨询: 13312967497
扫码咨询

扫码咨询套餐

回到顶部