出品| 外言社 编译| kewell

那么问题来了,到底是造假的人高明还是防谣言的更厉害?

原标题:你的情绪是不是被“朋友圈幻觉”利用了

导语:抑制假新闻传播,事实核查很重要。Reddit
网站的试验算是迈出了新的一步,值得新闻媒体们借鉴。

“造谣一张嘴,辟谣跑断腿。”

近日,随着新冠肺炎疫情的发展,假新闻也随情境变化衍生出新的变种。其中,有旅游博主发现自己的照片被移接成“广州女毒王”,在网络上被大量转发;也有营销号被曝为吸引流量炮制数百篇“疫情下的××太难了”雷同文章。假新闻制造者利用人们的猎奇心理和信息不对称,贩卖、触发社会焦虑和恐慌,给社会秩序造成严重的负面影响。

为了控制假新闻传播,新闻机构和平台究竟应该依赖算法排除,还是靠受众自己分辨?最近,一项试验结果表明,这两者办法是可以被结合起来的。

随着互联网时代的发展,在造谣成本很低的网络空间,假新闻满天飞的情况屡见不鲜。

仔细分析疫情期间的假新闻,可以发现,其中有不少以受众情绪为“杠杆”,通过触发情绪进行病毒式传播,从而实现眼球经济背景下的商业目的。令人遗憾的是,这种利用传播学规律的做法,往往十分有效。

澳门新葡萄京所有网站 1

被假新闻蒙骗的受害者轻则损失财物,重则名誉和人身安全受损。
在搜索引擎框内轻轻一敲回车,是很多人上当受骗的开始。

首先,诉诸情绪能够减少受众核实信息来源、质疑新闻真实性的动力,客观上降低了假新闻传播的成本和阻力。一些假新闻看似在陈述“事实”,可是无论是在表达方式还是内容选取上,都被嵌入了一种观点倾向,也刻意挑动着某些特定情绪。正如安妮·杜克在《对赌》一书中所说:一些信念一旦被确立,就很难去除。已经得到强化的情绪和信念会使我们选择性接受新闻,而较少去质疑证据的有效性。

人工智能微调:将人为劝导和智能算法相结合

谷歌等主流搜索引擎都是以算法为准向用户推荐结果,而算法本身只计算了信息的流行程度,并不考虑信息的权威性和真实性。

比如,在郭某鹏等一些隐瞒接触史的真实案例被报道后,公众已经形成了对此类不负责行为的担忧和愤怒情绪。此后不少“毒王”假新闻与真假信息拼凑而成,迎合和激发着此类情绪。

Reddit 论坛的 “/r/worldnews”
板块和麻省理工大学的研究者通过合作调研发现,鼓励用户对潜在的假新闻和耸人听闻的报道进行事实核查,不但能让用户评论数量翻倍,同时还能让这些假新闻的
“得分(Reddit score)”
降低(即将权重被刷到页面底部),调查报告表示:“这项数据能显著影响文章在子板块(subreddit)里的排名。”

为了遏制愈演愈烈的假新闻传播,国外两大搜索引擎谷歌和必应(Bing)开始在搜索结果中显示“事实核查”(fact
check)的结果。

与平时相比,人们在疫情期间的情绪本来就有较大波动。焦虑、恐惧、愤怒等负面情绪很容易被不法者利用和消费。社会上固然存在少数不负责的疫情扩散行为,但是,假新闻的炮制和传播将个例普遍化,引发了不必要的恐慌和对立情绪。

澳门新葡萄京所有网站 2

当用户搜索某项实施性结论时,搜索引擎会在结果下方显示第三方核查机构给出的事实核查结果,帮助用户分辨判断新闻的真实性。脸书(Facebook)也跟进推出了相应的机制,防止假新闻传播。

与此同时,随着受众越来越多地从社交媒体上获取新闻,人们在接受信息本身的同时,往往会伴有社交“好友”转发时的评论,从而影响了自身对新闻的独立判断力。此时,受众很容易身陷“朋友圈幻觉”之中,被较为同质化的群体性情绪感染,降低对假新闻的警惕。

调研组组长、博士生内森-马提亚斯表示,这项研究证明了所谓
人工智能微调(AI nudge)
的能力,这种技术把人为劝导和智能算法结合起来实现理想的结果,同时也不增加任何影响用户习惯的规则。这个想法的灵感来源于理查德-泰勒和凯斯-桑斯坦的研究,他们相信,“微调”可适用于政府和其他机构。

如今,搜索引擎装上了“照妖镜”,假新闻的制作和传播者相信也会被群众的“火眼金睛”打回原形。

以情绪为“杠杆”的可怕之处还在于:与专业平衡的新闻报道相比,它们有时更容易激发受众转发、评论的冲动,从而扩大了假新闻的传播力和影响力。正如媒体人周轶君所说:与平衡的声音相比,反而是越偏激的声音跑得越快,因为它会引起情绪,而社交媒体的本质,就是传播一种情绪。数据上的“好看”,也使“标题党”“假新闻”显得有利可图,进而形成一种恶性循环。

澳门新葡萄京所有网站 3

必应搜索增加“事实核查”功能

回顾历史,我们可能会失望地发现:假新闻就像是一种久治不愈的“疑难杂症”,它会随着技术和平台的变化而不断迭代,对它的治理似乎难以毕其功于一役。不过,尽管表现形式千变万化,假新闻对于受众心理和情绪的利用机制却并无大的差别。随着假新闻“骗术”更加复杂和隐蔽,要想更有效地与其斗智斗勇,就需要社会各方从其制造和传播机制入手,合力应对。

马提亚斯说:“研究结果显示,我们关注的很多问题,比如假新闻泛滥,是由一系列人为和算法因素的综合作用造成的。通过劝导受众改变行为模式,我们甚至都不需要去控制算法系统。”

9月14日,微软旗下的搜索引擎必应发布官方声明:必应在搜索结果中加入了一个“事实检查”标签,以帮助用户判断互联网上哪些信息是值得信赖的。这些事实核查标签可以让用户方便地看到某条新闻是否属实。

一方面,要进一步压实平台责任,灵活、及时地予以审核,建立事实核查和辟谣平台,减少虚假消息的误导。另一方面,也要依法严格监管,完善相关法律法规,使假新闻不因“制造成本”过低而泛滥。

用户“怀疑+反对”新闻信息源

这些事实核查标签将直接出现在必应搜索结果的下方,包含了“真实(True)”、“虚假(False)”或“不确定(somewhere
in between)”的三种可能结果。

面对假新闻制造者为人们“量身定制”的情绪“病毒”,受众也有必要加固自身的心理防线。尽管要求受众事事都去核查并不现实,但还是可以从识别典型的套路入手,培养对各类新闻的合理质疑能力。比如,在接收一条内容耸动、引起强烈转发冲动的信息时,我们不妨先问问自己:我的情绪是不是被利用了?

他们的试验是这样进行的:子板块的版主提供了一系列 “总被举报” 的
”标题党、不实信息”
新闻消息源,名单们大部分是英国和澳大利亚的八卦小报(有趣的是,《纽约邮报》也在名单之中)。

澳门新葡萄京所有网站 4

这些在两个月的时间里被提交到子板块的网站链接要么无监管;要么有用户评论表示怀疑、需要事实核查,如果无法独立证实,还会给文章点
“反对(downvote)”。

放在以往,如果虚假新闻出现在用户的搜索结果中,用户根本无从判断它的真实性。但是有了事实核查标签之后,读者在点击某篇新闻稿件之前就可以判断该链接的真实性。

报告中表示:置顶评论带有怀疑倾向,往往会让评论区内包含至少一个链接的概率提升
1.28%;置顶评论中带有怀疑倾向同时还点反对的概率提升则为
1.47%。这两项的影响都是很显著的。

谷歌修改算法过滤假新闻

澳门新葡萄京所有网站 5

早在今年四月,谷歌就开始着手对推荐结果的算法进行修改,以增加对假新闻的过滤功能。

讨论 “r/worldnews”
板块里的小报内容如果鼓励事实核查链接,能把评论带链接的平均概率提升到
201%;如果鼓励怀疑真实性并点反对,可以把平均概率提升到 203%。

科技作家凯特曾对BBC表示:

总体来说,小报文章若有鼓励事实核查的置顶评论,其得分占到了没有置顶评论文章的
49.1%,效果显著。但置顶评论中包含鼓励反对的内容,却没有发现明显的数据改变。鼓励怀疑能让小报文章的得分增长放缓,鼓励怀疑和反对则能稍微主张这些文章流量的增长。

过去的算法都是最流行的的内容被优先考虑,它不知道如何区分真假,也不关心新闻的质量。

事实核查给向用户放权

在这种思维下,社交网站和搜索引擎推荐的“标题党”文章有时候令人惊讶错愕。

马提亚斯和合作伙伴梅瑞-莫的研究项目名叫
“CivilServant”,就是为了帮助和引导网络社区进行各种试验,议题包括管理、骚扰等等。马提亚斯选择
Reddit 的原因,也是因为这家论坛
“给了用户很大权力”,不管是自上而下的社区管理,还是自我监管。

像是“震惊:刚当选的美国总统唐纳德·特朗普生在巴基斯坦!”,以及“小野洋子:我和希拉里·克林顿的婚外情”这类标题,都曾出现在脸书向用户推荐的文章目录中。

因此,Reddit
是个理想的研究对象,论坛内容有其重要性,每天都影响着数百万人如何获取新闻信息。在其新用户的板块中,注册人数就超过
1500 万,每天文章发布量达到 450
篇,算得上是英文互联网上规模最大的世界新闻讨论单组了。所以如果能处理好不靠谱的新闻源,绝对能控制假新闻的传播。

现在,在谷歌搜索内容的用户可以清楚的看到谷歌提供的以下信息:是谁提出质疑、受到质疑的内容、质疑是否得到有公信力的来源的验证。

反作用:或反助长假消息传播

同时,如果用户对所提出的质疑的真实性有任何疑虑的话,他们还可以选择在列表下方提供反馈。

试验结果是乐观的,但研究者依然有他们的担忧。比如在事实核查的过程中,“/r/worldnews”
的用户不自觉就助长了这些信息的传播。因为 Reddit
网站的算法是受文章评论活跃度影响的,无法分辨这些评论的意图是什么。所以,事实核查评论突增,反而会让该文章更流行。

谷歌还表示,只有“权威信息来源”的网站才有资格展示提供事实核查的结果。

澳门新葡萄京所有网站 6

那么用户获得事实核查的界面是怎样的呢?下面的截图就是很好的例子。

这就是所谓的反作用了。早在 2010
年布伦丹-尼汉和杰森-雷弗勒发表的论文中就提到了这个概念,在某些情况下,修正虚假信息的举措反而会助长虚假信息的传播。去年还有一篇论文,则表示虽然这种反作用出现的频率并不高,但依然值得担忧。比如唐纳德-特朗普关于选举骗局的言论虽然引来了媒体疯狂的事实核查,但却导致更多人相信他的话。马提亚斯说:“这就是算法引发的结果。”

澳门新葡萄京所有网站 7

另外,建议用户点反对,效果并不明显。马蒂亚斯发现这些文章被点反对后,事实核查所造成的效果反而会被抹去,但因为缺乏相关数据,还很难寻找出原因。一个可能的理由,就是心理学上讲的
“逆反”——或许有用户不喜欢版主这样鼓励他人点反对的做法,反而去点赞了。

如果你输入“世界是平的”这句话,搜索框下方会显示出:

这项试验的很多结果都只适用于 Reddit
一家网站,马提亚斯也表示,有些结果也值得其他网站和新闻机构借鉴。

这句结论是由“地球平面说协会”提出的;这句结论被验证是错误的;给出验证结论的机构是Example网站。

“我希望这项试验能够激发新闻机构去思索受众的力量,跟他们合作,以应对像假新闻这样的挑战。”他说,“Reddit
的版主们完全可以选择找团队人工审查的办法,但我们还是找到了新办法,邀请规模更广的受众群体来一起处理这个问题。”

此外,除了“正确”、“错误”这类绝对化判断外,还有一种可能结果是“正误兼有(Mixture,即有对也有错)”。例如,在谷歌中搜索“特朗普将美国国家公园开设为煤矿开采地”,第三方机构Snopes便为此条新闻定性为“正误兼有”。

来自:网易新闻学院

脸书将禁止更改文章标题

脸书在2016年美国大选期间,曾被指控助长了虚假信息的大量传播。

为了解决这一顽疾,脸书曾试过推行“假新闻” 标签。

然而,假新闻的审核过程耗时费力,再加上假新闻传播速度非常快,有时候“假新闻”标签被打上时,该文章已被广泛传播了。所以这一招并没有取得显著的打假效果。

澳门新葡萄京所有网站 8

然而一计不成,再生一计。脸书在最近推出新规定,禁止非内容原生者转载时修改文章标题。

脸书公司发现,大量假新闻的制造方式是滥用标题、图片以及文章预览简介的编辑功能,更改这些内容误导大众。通过这个“禁止替换文章标题与简介”的新规定,Facebook
至少能够减少一项假新闻的主要制造方式。