人工智能驱动下网络谣言治理的新动向.docx

人工智能驱动下网络谣言治理的新动向.docx

《人工智能驱动下网络谣言治理的新动向.docx》由会员分享，可在线阅读，更多相关《人工智能驱动下网络谣言治理的新动向.docx（12页珍藏版）》请在冰点文库上搜索。

人工智能驱动下网络谣言治理的新动向

人工智能驱动下网络谣言治理的新动向

【内容摘要】网络谣言此起彼伏、屡禁不止，借助社交媒体的传播力量如虎添翼，已经成为当下社会的一大公害。

网络谣言治理的难处在于谣言数量庞大、传播源头隐蔽、人工鉴别谣言成本高、辟谣程序繁琐等。

人工智能技术在经过六十年的发展后，已经有了比较成熟的应用技术基础，借助人工智能助力我国谣言治理智能化，提高谣言鉴别效率，缩短辟谣路径，成为谣言治理方式变革的一种可能。

本文从当前网络谣言治理的现状分析入手，在原有治理模式中对技术监督环节进行改造，增加人工智能技术的辅助功能，针对网络中大量存在的重复性谣言进行精准识别和治理，从而缩短谣言治理路径，提高谣言治理效率。

【关键词】网络谣言人工智能治理模式新动向

TheNewTrendofInternetRumorsGovernanceDrivenbyArtificialIntelligence

【Abstract】Internetrumorscomeandgohereandtheredespiterepeatedprohibitions,withthespreadofsocialmedia,evenmorepowerful,havebecomeanimportantpublicsocialproblem.Thedifficultiesofgoverninginternetrumorsarethehugenumbers,thehiddendisseminator,thehighcostofmanualidentification,thecumbersomegovernanceprocessandsoon.After60yearsdevelopment,artificialintelligencetechnologyalreadyhasthemorematurebaseofapplicationtechnology.Withthehelpofartificialintelligence,maybewecangoverninternetrumorsmoreintelligent,increasetheefficiencyofidentificationprocess,shortentherefutationpathandreformthewayofgovernanceinternetrumors.Bytheanalysisofthepresentsituationofthegovernanceinternetrumors,thispaperdevotestotransformingthetechnicalsupervisionoftheoriginalgovernancemodel,increasestheassistantoftheartificialintelligencetechnology,identifiesandgovernsagooddealofrepeatedinternetrumors,inordertoshortenthepathandincreasetheefficiencyofgovernanceinternetrumors.

【Keywords】InternetRumorsArtificialIntelligencetheGovernanceModeltheNewTrend

随着互联网的迅猛发展，人们获取信息的途径越来越多元化，同时互联网也为内容生产提供了方便快捷的平台。

用户生产内容难以保证信息的准确和真实，网络中“把关人”的缺位造成了虚假信息和垃圾信息的泛滥，谣言四起在所难免。

同时互联网和社交媒体加速了谣言的传播，谣言正在以前所未有的速度弥漫扩散。

另一方面，网络谣言的治理不仅关系到网络空间的信息安全，更与现实生活中人们的切身利益密切相关，因此网络谣言治理刻不容缓，必须加大网络谣言的治理力度，提高治理水平和效率。

但就当前网络谣言治理的现状来看，仅就投入的时间、金钱和精力来看，投入和成效并不成正比，往往是投入巨大但却成效不足，这与当前网络谣言的治理模式陈旧、治理路径过长有关。

一、当前网络谣言治理遭遇困境

（一）网络谣言治理的一般模式

现代社会中的谣言散布大多数都是依赖互联网进行的。

网络谣言的散布影响了正常的信息传播和社会秩序，因此，网络谣言的治理在各个国家都被提上了管理的议事日程。

纵观各国网络谣言治理的对策和经验，可以总结出网络谣言治理的一般模式，即网络谣言治理多是基于政府、媒体、公众三方建立有效沟通，从法律、管理、监督、自律等层面入手，综合运用各种手段来进行网络谣言治理。

图示1：

网络谣言治理的一般模式（图为作者自制）

网络谣言治理的一般模式中，法律是不可突破的上限，造谣传谣等行为对社会造成巨大危害，应该受到法律的惩治。

我国针对谣言治理出台的相关法律有《电信条例》、《网络信息安全法》等，2013年9月出台相关法规，明确规定谣言转发超过500次可判刑；2017年5月国家互联网信息办公室发布新的《互联网新闻信息服务管理规定》和《互联网新闻信息服务许可管理实施细则》，为谣言治理提供法律依据，这些都对打击谣言传播起到了巨大的威慑作用。

然而，法律手段虽然具有彻底根治的功效，但往往是在谣言对社会造成不可逆转的危害后才对造谣传谣者绳之以法，是谣言治理的最后一道关口，但却不是治理谣言的最佳手段。

在治理模式的第二层是管理环节，主要是通过政府信息公开、多渠道辟谣以及建立谣言预警机制等方式来治理谣言。

政府信息公开是减少谣言的根本手段，但在具体实施中也会遇到诸如“塔西佗陷阱”般的困境，政府公信力的下降导致公众不相信政府发布的任何信息，甚至会朝着与政府意图相反的方向行动。

因此，在谣言治理的管理环节中，最重要的是提供政府公信力，有序组织公众抵制谣言，及时公开事实真相。

监督环节是谣言治理的关键环节，主要是通过媒体发布权威信息来阐明真相，起到环境监测和社会协调的功能。

其次是通过技术手段对谣言信息进行拦截，但是目前的技术手段多是通过后台设置谣言监测关键词对相关信息进行拦截，这种方法对于诡谲多变的谣言来说不足以识破它的“真面目”，本文提出利用人工智能的自然语言处理技术治理谣言正是解决的这一问题。

另外监督环节中还可以通过专家和用户进行谣言举报，平台进行谣言处理的方式来治理谣言，但这一方式存在积极性不足和路径过长等问题。

最后一个环节是自律环节，一方面网民要自我约束上网行为，不蓄意造谣也不跟风传谣，另一方面要提高个人媒介素养和信息辨别的能力，尤其是要掌握潜在谣言的特征，熟悉网络谣言常用的“化妆术”，这样可以在很大程度上避免谣言的蛊惑。

自律环节对于谣言治理来说是其他环节的基础，只有消除谣言传播的群众基础，才能使谣言治理工作有序开展。

（二）网络谣言治理的困境

1.网络谣言治理难度大、成本高。

网络谣言数量十分庞大，超出了人工可以控制的规模，目前在微信平台上每天都能接到1-2万单谣言投诉，再加上网络谣言传播速度快、影响范围广，这就造成了谣言治理的难度大、成本高。

在众多的谣言中，常常会出现重复性的谣言，甚至是同一谣言常常只是改头换面，就又变成了一则新的谣言，这又增加了谣言辨识的难度和辟谣的成本。

2.网络谣言难以“斩草除根”

社交媒体传播路径复杂，谣言传播路径难以跟踪，再加上网络传播的匿名性，使得谣言的传播源头较为隐秘，难以从根源清理谣言。

以微博、微信为例，微博虽然更具开放性，自我净化功能较强，但是微博是建立在弱关系之上的连接，节点之间的连接更加分散，传播源头指向不明，即便有明确的指向，也难以遏制其他谣言接收者成为新的谣言传播者。

微信的封闭性、私密性和建立在强关系基础上的圈层化传播特征，使得微信谣言的传播路径难以通过正常手段进行监测。

3.网络谣言治理路径过长

传统的谣言治理路径通常是，通过用户举报等方式先发现谣言，继而邀请专家介入鉴定是否为谣言，对于已经鉴定为谣言的信息归入谣言样本库，再通过后台设置关键词进行技术拦截，最后才能通过平台对谣言进行处理，包括删帖、禁止转发、辟谣等。

这样一整个流程下来，谣言已经满天飞，辟谣效果难以超出谣言传播效果。

二、人工智能处理信息具有先天优势

（一）人工智能的起源和发展

1955年“人工智能”的概念首次出现在一份由麦卡锡、香农等人参与的研讨会提案中，他们对“人工智能”的定义为“尝试找到如何让机器使用语言、形成抽象和概念、解决现在人类还不能解决的问题、提升自己等等。

对于当下的人工智能来说首要问题是让机器像人类一样能够表现出智能。

”1956年的达特茅斯会议继续对“人工智能”这一主题进行讨论，被公认为“人工智能”研究的起点。

经过60多年的发展，人工智能正在逐渐从理论和技术层面走向实际应用领域。

在深度学习、海量数据和高性能计算的支撑下，人工智能现已进入产业化应用初期。

为抢占人工智能高地，谷歌、微软、IBM、Facebook等企业在人工智能领域的战略布局进一步突出。

美国、日本、韩国等国家均把人工智能上升为国家战略，推动人工智能的产业化进程。

我国目前也在积极推进人工智能的产业化发展，以XX、阿里巴巴、腾讯、科大讯飞为代表的中国企业在人工智能领域正在不懈努力。

（二）人工智能自然语言处理技术原理

自然语言是人类智慧的结晶，区别于计算机编程语言，具有较高的复杂性。

人类使用自然语言承载信息进行传播，达到相互沟通和交流的目的。

网络信息的载体也是人类使用的自然语言，对于网络谣言的识别和过滤就需要用到自然语言处理技术。

自然语言处理技术是人工智能的一个子领域，主要包括信息检索、语音识别、机器翻译、句法分析以及内容过滤等方面。

网络谣言治理需要运用的是自然语言处理技术中的内容过滤功能。

传统的内容过滤方法主要是采用关键词匹配，依据词形的一致，产生确定的二值结果。

由于自然文本中存在大量同义词和汉语的切分歧义现象，必然导致漏配和错配的情况发生，所以这种方法的覆盖率和精确性都有待提高。

陈阳贵等人在《基于自然语言处理的Web内容过滤模型》一文中提出了利用自然语言处理技术来提高过滤的精确性和覆盖率的方法，内容过滤的模型包括三个部分，一个简单的关键词扫描器，一个词典扩充器和一个Web过滤模块。

输入合乎语法的关键词短语经过关键词扫描及语法分析后，得到的所有过滤单词被记录到一个关键词链表中。

在关键词扫描过后，为避免出现词形一致而语义不一致的现象，为了提高过滤的覆盖率，需要在词典扩充器中建立并维护一个同义词词典，词典项以列表的形式存放，同时向Web代理服务器发送，作为内容过滤的依据。

需要过滤的内容经过过滤函数F和开关函数D的映射，根据映射结果可以对该内容作出判断。

这一模型的提出，网络谣言的识别工作提供了适用的模型，在自然语言处理技术的基础上，网络谣言的识别将变得更加自动化和智能化。

（三）人工智能处理信息具有先天优势

人工智能处理信息的三大核心要素是数据、算法和计算能力。

在数据方面人工智能拥有庞大的数据存储能力，并且互联网和移动互联网上已经积累了海量的数据；在算法方面凭借深度学习技术，随着数据量的增大，人工智能的算法表现会更加突出；在计算能力方面，云计算和大规模GPU并行计算的发展为深度学习的应用提供了计算基础。

庞大的数据存储量、超强的信息运算速度以及精准的信息处理技术，这些特征赋予了人工智能在信息处理方面的先天优势。

相较于人脑来说，人工智能在诸多方面都有着独特的先天优势。

1.信息检索精准快速

人工智能技术发展的标志就是运算速度的大幅提升，近年来随着GPU运算速度的提升，再加上云计算和大规模GPU并行运算，人工智能的计算能力越来越强，数据运算速度也成倍提升。

与此同时，人工智能的信息识别率和精准度也有明显的改善，人工智能的信息识别率在2011年尚且不足70%，现如今已超过95%，这表明人工智能技术在信息处理方面已经能够达到精准的程度。

2.高度理性的信息处理方式

对人工智能的认知可以按思考还是行动、像人还是理性两个维度分为四种，即像人一样行动、像人一样思考、合理地思考以及合理地行动。

前三种认知方式下的人工智能由于技术受限和其它一些原因，尚未实现大规模产业化应用。

目前以合理地行动为代表的人工智能带动了新一轮的人工智能浪潮。

基于深度学习技术的人工智能可以通过“感知+理解+决策”的模式尽可能做出合理的判断，从而实现高度理性的信息处理方式。

3.大大节省人力成本

人工智能高速运算的能力、处理庞大数据的能力以及算法自身更新迭代的能力，奠定了人工智能在信息处理领域应用的基础，也催生了人工智能在信息处理领域应用的社会需求。

将人工智能应用于信息处理领域，能够显著提高单位时间的信息处理效率。

从信息的处理方面来看,两台机器在处理同一信息时并无太大差别。

而同一句话，对于不同的两个人来说，得出的结论可能却大不相同。

另外，在两台机器之间进行数据复制很容易，而人与人的认知差别却难以抹平，因此人类处理信息的信度就难以保证，人工智能在这方面就有着过人的优势。

基于这样的优势，人工智能将在许多领域代替人类工作，这将大大节省人力成本。

三、人工智能参与网络谣言治理的未来图景

（一）人工智能参与网络谣言治理的可能性

在互联网上能够大肆传播的谣言绝大多数都是重复性的谣言或者是同一谣言经过改头换面后重新复出的谣言，传播影响力大的谣言总是具有“野火吹不尽，春风吹又生”的特殊“本领”。

也正是借助这一特性，人工智能在网络谣言治理中才有了用武之地。

1.互联网提供全样本的网络谣言数据库

互联网平台承载着全部的网络数据，网络谣言的传播范围也超不出互联网能够连接的范围，这就为谣言治理提供了全样本的网络谣言数据库。

利用人工智能治理网络谣言的前提就是向人工智能应用程序提供足够大量的谣言案例数据库，利用机器学习技术对算法程序做反复训练，算法程序识别谣言的准确率就会大大提升。

将训练后的算法程序放到互联网平台上，就可以对互联网中正在传播的谣言进行监测，算法程序一旦识别出谣言便可立即拦截，由监测平台方对谣言做出处理，这样就可以大大降低谣言的传播总量。

2.通过算法程序网络谣言的传播路径可监控

互联网相对于传统媒体来说，开放性提高的同时又具有相对的封闭性，网络的匿名性切断了信息追踪的路径，使得信息内容变成一个个“孤岛”。

信源缺失的状态下，信息的接收者只能依靠信息的内容做出判断，但互联网中大量的虚假信息已经使人们丧失了信息辨别的能力，潜在的谣言信息因为无法被辨识而广泛传播。

传统意义上的网络谣言治理都是通过后台设置关键词进行技术拦截或是用户举报谣言来进行谣言监测的，这样的监测方式准确性不高且效率较低，费时费力却成效不高。

算法程序通过对大量谣言案例的分析和归纳，总结出潜在谣言的特征，并能借助计算机语言对网络谣言的传播路径进行追踪和分析，被识别出来的谣言即可被监控和处理。

3.网络谣言传播效果可测量

网络的互动性赋予了网络媒体具有反馈机制，传统PC端一般通过点击率、浏览量来统计传播效果，社交媒体则通过转发量、评论量和点赞量等指标进行统计量化。

网络谣言通过互联网进行传播，其传播效果也可以通过发布谣言内容的网站的点击率、浏览量以及谣言传播账号的转发量、评论量和点赞量以及谣言传播涉及的用户数量等指标来测量。

同时，与谣言传播相关的因素如谣言传播的时间范围、发布者信息以及传播内容特征等都可以统计量化，这些因素往往是助推谣言大肆传播的重要原因。

4.网络谣言重复传播“自投罗网”

人工智能通过算法程序建立谣言识别模型，为类似谣言的再次传播布下“天罗地网”，随时等待目标的出现。

在对平台上新发布和传播的谣言进行监测时，应用程序也能像人类一样“思考”和“判断”，会根据谣言数据库中的谣言案例特征对潜在谣言进行判断，识破谣言的“真面目”，再将其加入谣言数据库中，这样在实践中反复训练就会使得人工智能应用程序变得越来越“聪明”。

（二）人工智能参与网络谣言治理的预期模式

针对传统网络谣言治理模式中遇到的困境，诸如网络谣言治理难度大、成本高，网络谣言难以“斩草除根”以及治理路径过长等问题，本文借助人工智能领域的自然语言处理技术，对传统网络谣言治理模式进行改造，以技术监督环节的变革为切入点，以期提高网络谣言识别的效率，缩短网络谣言治理的路径，增强网络谣言治理模式的智能化。

如图示2所示，人工智能参与网络谣言治理的预期模式在传统网络谣言治理模式的基础上，针对技术监督环节进行了如下改造。

原有的技术监督环节主要是通过后台设置关键词进行技术拦截，方式简单粗略，精准度和覆盖率不足以深度治理谣言。

改造过后的技术监督环节加入了人工智能自然语言处理技术的辅助，将谣言技术监督环节细化为谣言识别环节和谣言治理环节两部分，从提高精准度和覆盖率两个方面谋求突破。

在谣言识别环节，力求提高谣言识别的精准度和覆盖率，通过技术手段最大限度地精准识别网络中存在的谣言。

网络谣言是一种特殊的网络文本内容，可以通过人工智能自然语言处理技术进行内容识别。

借鉴陈阳贵等人在《基于自然语言处理的Web内容过滤模型》一文中提出的Web内容过滤模型，本文将这种Web

图示2：

人工智能参与网络谣言治理的预期模式（图为作者自制）

内容过滤模型引入到网络谣言治理中。

这一环节主要由三部分组成，关键词扫描器、词典扩充器和Web过滤模块。

关键词扫描器是一种建立在过滤短语词法和语法基础上的关键词提取程序；词典扩充器是一种关键词扩充程序，通过对关键词集合表中的每一个关键词进行同义词扩充，形成过滤词汇表；Web过滤模块是一个经过函数映射进行语义标记的内容过滤程序，函数映射由过滤函数和开关函数组成，过滤函数负责将网络中的信息与过滤词汇表对应匹配，与过滤词汇表匹配成功的信息即被视为谣言，开关函数负责信息过滤的开关状态，由此将谣言信息筛选出来。

谣言识别环节的具体流程为，首先将大量的已经确定为谣言的合乎语法规则的短语输入到关键词扫描器中，经过关键词扫描、语法分析，形成关键词链表。

接下来在同义词词典中寻找与关键词链表中的每个关键词相对应的同义词并加入过滤词汇集合，形成过滤词汇链，并发送至Web文档。

最后利用Web过滤模块中的函数运算对大量信息作出判断，即可快速识别网络中已经存在的谣言。

在谣言治理环节，人工智能的优势在于传播路径的可追踪性和传播效果的可观测性以及谣言治理的精准性。

传统的网络谣言治理模式中存在两大问题：

一是谣言传播隐秘性强，传播路径模糊不清，辟谣信息无的放矢，只能漫天撒网，辟谣信息的覆盖率较低，辟谣的针对性不强；二是传统的网络谣言治理模式缺少信息反馈机制，使得辟谣信息的传播效果难以测量，谣言治理遭遇瓶颈。

针对上述两大问题，人工智能为谣言治理提供了可能的解决方案，一方面人工智能具有强大的传播路径追踪功能，依靠人工智能算法程序的网络路径追踪功能，对网络谣言的传播路径进行追踪，并利用追踪到的谣言传播路径进行辟谣信息推送，使辟谣信息覆盖到所有谣言接收者；另一方面，借助互联网的反馈机制判断辟谣信息的传播效果，根据推送消息的读取状态，是已读还是未读，根据用户读取信息的长度、速度以及阅读后的互动行为包括点赞、转发、评论等，来测量辟谣信息的传播效果，为后续精准治理谣言提供参考，根据用户的信息反馈可以进行辟谣信息的二次推送，实现辟谣信息沿着谣言传播路径反向覆盖，这样有针对性的辟谣信息推送能够强化辟谣效果，增强谣言治理的彻底性。

（三）人工智能参与网络谣言治理的局限性

以上我们分析了人工智能参与网络谣言治理的可能性和预期模式，但需要说明的一点是，人工智能参与网络谣言治理同时也具有局限性，想要发挥人工智能治理谣言的强大功能受到许多条件的限制。

1.人工智能仅适用于已经存在于网络的重复性谣言。

人工智能处理信息的技术原理是自然语言处理技术中的内容过滤功能，对谣言内容过滤的前提是数据库中已有相关的谣言关键词和扩充词汇。

对于已经存在于网络的重复性谣言，人工智能可以发挥出巨大的优势，但是除了已经存在于网络的重复性谣言外，网络中还有大量新的谣言生成，对于新的谣言内容，由于谣言数据库中的数据有限，难以强大到具有谣言预测的功能，人工智能目前还难以精准识别和处理新的谣言。

因此，人工智能技术仅是在重复传播的网络谣言治理方面有较为突出的表现，对于新生成的谣言还需寻找其他解决办法。

2.人工智能投入应用的基础成本较高。

人工智能作为一项新兴高端技术，其研发成本和推广应用成本都是巨大的，不仅需要投入巨资引进人工智能技术，还需要有专门的技术人才对应用平台进行维护，相较于传统的谣言治理模式，人工智能参与下的网络谣言治理模式投入的技术成本、人才成本和金钱成本过高，在短时间内会加重谣言治理的成本。

不过，人工智能识别和治理谣言的效率和精准度远超单纯的人工识别，即原先依靠后台技术人员设置关键词搜索，再对信息进行一一筛选的过程，因此，人工智能参与网络谣言治理可大大减少人力投入，并且人工智能技术投入应用的边际成本较低，从长期应用来看，人工智能技术的平均成本会越来越低，只是在初期投入应用时的成本巨大，很多用户难以承受。

3.人工智能难以识破网络谣言传播的“反侦察手段”。

近年来，国家加大了对网络谣言的治理力度，网络谣言转发500次即可获刑，这对于那些蓄意制造和传播谣言的人来说又增加了谣言扩散的难度，然而谣言扩散者为了达到某种目的往往是无所不用其极，就像网络贴吧中为了规避因使用敏感词而被删帖的情况，谣言扩散者也使用类似的“化妆术”，在可能被识别的谣言关键词中间插入其他字符，或者用拼音代替，使用谐音、双关、隐喻等手法，这样的编码方式对于当前的人工智能技术来说还没有达到人类的理解高度，仍有待于智能化的进一步提升。

另外，网络谣言治理是一个复杂的系统工程，人工智能仅是技术环节的一项辅助性工具，并不能越俎代庖代替其他环节发挥作用，要想打好谣言“攻坚战”，就必须综合发挥谣言治理模式图中各个环节的作用，在新技术的辅助下提高谣言治理的效率。

四、结语与讨论

综上所述，人工智能在网络谣言治理方面应该有着较为广阔的应用前景。

本文通过讨论传统的网络谣言治理模式，从法律、管理、监督和自律四个环节进行分析，以监督环节中的技术监督为突破口，以人工智能技术为基础，试图对传统的网络谣言治理模式进行改造，探讨人工智能技术在网络谣言治理中的可能性、预期模式以及相应的适用性问题。

研究发现，人工智能在信息处理方面具有强大的先天优势，相较于传统技术监督环节中依靠人力识别和治理谣言，人工智能参与网络谣言治理的效率明显提升，治理路径大大缩短，精准度显著提升。

当然，人工智能并不是网络谣言治理的最终方案，它只是在这一特定领域中的特定范围内有着突出的表现，并不能够包治百病，人工智能的适用性问题应当成为今后将人工智能应用于网络谣言治理中需要注意的前提条件。

【参考文献】

1.匡文波.新媒体舆论[M].北京：

中国人民大学出版社，2014.

2.集智俱乐部.科学的极致：

漫谈人工智能[M].北京：

人民邮电出版社，2015.

3.周裕琼.当代中国社会的网络谣言研究[M].北京：

商务印书馆，2012.

4.匡文波.社会治理创新视域下的微信谣言治理[J].社会治理，2015，4：

118-123.

5.陈阳贵、袁卫忠、谢俊元.基于自然语言处理的Web内容过滤模型[J].计算机应用研究，2001，7：

125-128.

6.杜娟.网络谣言传播机制与治理研究[D].武汉理工大学，2015.

7.新智元.2016中国人工智能产业发展报告[R].北京：

2016.

8.于霄：

大数据如何参与谣言治理[EB/OL].