鲁网 > 法制频道 > 法制频道 > 司法广角 > 正文

低俗内容治理的算法创新

2019-07-31 18:39 来源:法制日报 大字体 小字体 扫码带走
打印
每天自媒体上传的各类信息数以千万计,人工审核是不可能完成这项任务的,这就需要人工智能+算法的审核、推送、拣选、屏蔽等技术要跟上网络发展规模。

   

  标题党、色情、暴力、虚假信息、谩骂、人肉搜索等违法违规现象,一直都是互联网内容信息传播治理的难题。特别是在自媒体平台,网民发布的音视频、文字和图片等信息,鱼龙混杂,对网络安全、未成年人权利保护、其他人合法权益和社会公共秩序造成了巨大隐患。

  “反低俗”之所以成为世界性难题,主要原因在于流量经济的影响,一方面,个别信息发布者和平台需要低俗信息吸引流量获利;另一方面,低俗内容与违法内容不同,监管者很难作出直接有效的判定,同时,自媒体上传信息庞杂,不可能完全依靠人工完成审核。

  从这个角度看,低俗内容治理的核心抓手在平台。首先,平台应主动承担包括法律责任、社会责任和道德责任在内的主体责任,不能以低俗换流量,需要有壮士断腕自我监管的勇气。其次,算法监管需要创新。每天自媒体上传的各类信息数以千万计,人工审核是不可能完成这项任务的,这就需要人工智能+算法的审核、推送、拣选、屏蔽等技术要跟上网络发展规模。最后,人工智能算法判断的模型很重要,但最重要的是给予人工智能足够量的数据,满足其学习的过程需求。

  不少平台都在进行反低俗人工智能的研发应用。据笔者观察,今日头条“灵犬”模式通过几版的迭代,在网络内容监管上实现反低俗的创新值得点赞。“灵犬”源自头条反低俗模型,对文字、图片、链接等相关信息能够进行检测扫描。值得注意的是,这种扫描不仅是平台自我审核时使用,一般用户也可以对自己或他人发送的网络信息进行监测,以确定是否存在低俗情况。

  “灵犬”系统的自我检测所起到的作用非常有意义。其一,用户通过检测自己上传的内容,能够对内容健康合法性作出整体判断,避免因内容信息违规承担责任。其二,监测的结果有一定的分值,达到一定的分值才有可能被算法推荐给他人,才能被算法推上“热门”。用户通过自我检测、修改和完善,能够增加被推荐“热门”几率。这种不依靠标题党、低俗等“打擦边球”的方式上热门,而通过去低俗化被推荐的做法会成为引导网民文明表达的重要方式。其三,任何人都可以检测平台上的内容,用户通过检测他人信息得出分数,如果发现分值过低的情况,完全可以按照网络安全法赋予的权利依法举报信息发布者。从这个角度讲,“灵犬”系统让每个网民都成为网络监督者,将极大减少低俗内容的产生,客观呈现“人人为我,我为人人”的网络共享共治局面。

  除了信息发布主体之外,对于网络评论、回复、转发等内容,“灵犬”人工智能也能够监测。按照国家网信办出台的《互联网跟帖评论管理规定》规定,评论、跟帖等内容也是网络内容安全重要组成方面。实践中,很多网络信息跟帖评论中广泛存在谩骂、色情、人肉搜索等违法违规信息,这块的监管不仅需要立法规定,还需要网络技术做好服务。“灵犬”监测的出现,会极大减少网络暴力和软色情的出现。

  毫无疑问,“灵犬”3.0版本中增加的对标题党、图片、色情血腥等违规信息和文本链接的识别,将极大促进我国网络法治化和文明化进程。不过,短视频、网络广告等新技术新应用也已经广泛存在,希望下一个版本能够针对这些进行进一步的完善。


初审编辑:李晨
分享到:
./W020190731672077438048.jpg