今日头条升级反“低俗”助手:新增反色情短文本和反谩骂模型

核心提示:截至目前,已有超60万人次使用了该反低俗助手。

5月16日,今日头条宣布,“灵犬反低俗助手”已完成服务升级,新增反色情短文本模型和反谩骂模型,同时,准确率也将从73%提升至82%。据统计,截至目前,已经有超过60万人次使用微信中的“灵犬”小程序,参与打击低俗,净化网络环境。

据悉,“灵犬”于2018年4月8日正式上线,是国内首款人工智能反低俗小程序。只需要一段文字或文章链接,“灵犬”就能检测内容健康指数,并返回鉴定结果。具体包括是否可以获得算法推荐,是否需要引入人工判断等。对于用户输入的内容,“灵犬”会先进行提取、分词和语义识别,然后根据算法规则,输出对应的分数、评级和结论。

今日头条总编辑张辅评表示,移动互联网时代,海量内容创作的快速增长,给内容识别带来很大挑战。今日头条开放灵犬,是为了汇聚全民力量打击低俗。

不过对于人工智能而言,目前开展反低俗工作还有三个难点:一是识别“内涵色情”,这类场景需要联想能力,对机器学习要求很高;二是短文本识别,一般来说,机器接收的上下文、语境越充分,判断准确度才会越高;三是对书面语和口头语的分辨,相比规范的书面语,口头语很随意,变化程度大,较难识别。

据张辅评介绍,为了解决以上难点,“灵犬”制定了专门的低俗分类标准,并新建反色情短文本模型,学习了近万个标准案例,重点加强对短文本、色情、内涵色情的识别,同时注意口语语言和标题语言两个维度的覆盖。“灵犬”还新建反谩骂模型,加强对谩骂内容的识别。

此外,“灵犬”还设有专门的“反馈有奖”入口,鼓励网民积极反馈,提供“灵犬”识别不准确的案例或任何改善意见建议,并给予实物奖励。

今日头条方面表示,目前在内容审核方面,除了配备“灵犬”,今日头条还投入了6000多人的专业审核团队,结合人工、技术手段,提升内容审核的效率和准确度。

(编辑:陆宇)