出現(xiàn)這么多的虛假信息并不奇怪。首先，垃圾郵件和網(wǎng)絡(luò)欺詐對(duì)于犯罪分子來(lái)說(shuō)是有利可圖的；其次，政府和政治宣傳需要這些信息維護(hù)自己的黨派和經(jīng)濟(jì)利益。但是，低信譽(yù)內(nèi)容如此簡(jiǎn)單和迅速地傳播表明了，社交媒體平臺(tái)背后的人或者算法容易受到操縱。

 

喬凡尼·盧卡·錢帕格利亞（Giovanni Luca Ciampaglia）是印第安納大學(xué)網(wǎng)絡(luò)科學(xué)研究所助理研究員（Assistant Research Scientist，Indiana University Network Science Institute， Indiana University）；菲利普·門采爾（Filippo Menczer）是印第安納大學(xué)計(jì)算機(jī)科學(xué)與信息學(xué)教授（Professor of Computer Science and Informatics），同時(shí)他還是復(fù)雜網(wǎng)絡(luò)和系統(tǒng)研究中心主任（Director of the Center for Complex Networks and Systems Research，Indiana University）。在他們的研究中發(fā)現(xiàn)存在三種誤差，能夠使社交媒體生態(tài)系統(tǒng)有意或者無(wú)意的受到錯(cuò)誤信息的影響。同時(shí)，印第安那大學(xué)社交媒體觀察站（Observatory on Social Media）正在開發(fā)新的互聯(lián)網(wǎng)工具，幫助人們意識(shí)到這些漏洞并保護(hù)自己免受外部的惡意攻擊。

 

 

認(rèn)知偏差（cognitive biases）源自于大腦處理每天遇到的信息的方式。大腦只能處理有限數(shù)量的信息，而過(guò)多的傳入刺激可能會(huì)導(dǎo)致信息過(guò)載。這會(huì)使大腦在處理社交媒體信息時(shí)，對(duì)其質(zhì)量的判定產(chǎn)生嚴(yán)重的影響。對(duì)于用戶有限的關(guān)注而言，激烈的競(jìng)爭(zhēng)意味著即使人們更喜歡分享高質(zhì)量的內(nèi)容，一些質(zhì)量低下的信息也會(huì)鉆空子快速傳播。

 

為了避免這種情況，大腦會(huì)有應(yīng)對(duì)技巧。這些方法通常是有效的，但也可能在錯(cuò)誤的背景下產(chǎn)生誤差。當(dāng)一個(gè)人決定是否在社交媒體上分享某個(gè)故事時(shí)，大腦會(huì)產(chǎn)生一種認(rèn)知捷徑。雖然一篇文章的標(biāo)題不能很好的表示其準(zhǔn)確性，但人們受到標(biāo)題情感內(nèi)涵的影響很大，文章的作者會(huì)產(chǎn)生更大的影響。

 

為了應(yīng)對(duì)這種認(rèn)知偏差，并幫助人們?cè)诜窒碇�前更多地關(guān)注信息的來(lái)源，喬凡尼和菲利普?qǐng)F(tuán)隊(duì)開發(fā)了“辨假”（Fakey）應(yīng)用程序，它是一款模擬典型社交媒體新聞的游戲，給用戶推送來(lái)自主流新聞和低信譽(yù)來(lái)源的文章，用戶經(jīng)過(guò)篩選，通過(guò)分享可靠來(lái)源的新聞、標(biāo)記可疑內(nèi)容并進(jìn)行事實(shí)核查來(lái)獲取積分，這可以提高用戶的新聞素養(yǎng)。在這個(gè)過(guò)程中，他們學(xué)會(huì)識(shí)別信息來(lái)源的可信度，比如不同黨派的主張和情感豐富的新聞?lì)^條。

 

 

社會(huì)是偏差的另一個(gè)來(lái)源。當(dāng)人們直接與同齡人交往時(shí)，引導(dǎo)他們選擇朋友的社會(huì)偏見會(huì)影響他們看到的信息。

 

喬凡尼和菲利普?qǐng)F(tuán)隊(duì)的研究結(jié)果顯示，通過(guò)簡(jiǎn)單地查看其朋友的黨派偏好（partisan preferences）就可以確定推特（Twitter）用戶的政治傾向。他們通過(guò)對(duì)黨派傳播網(wǎng)絡(luò)結(jié)構(gòu)的分析發(fā)現(xiàn)，當(dāng)社交網(wǎng)絡(luò)緊密聯(lián)系在一起并與社會(huì)其他部分脫節(jié)時(shí)，不論信息準(zhǔn)確與否，它的傳播速度都很快。

 

不管是有意還是無(wú)意地，如果信息來(lái)源于人們自己的社交圈，那么對(duì)信息的評(píng)估都是可以操作的。例如，在多黨派競(jìng)爭(zhēng)中，如果有好友一直在耳邊宣傳某一黨派的優(yōu)勢(shì)，勢(shì)必會(huì)受到影響。這也解釋了為什么如此多的網(wǎng)絡(luò)對(duì)話最終轉(zhuǎn)變?yōu)椴煌�群體的對(duì)抗。

 

為了研究在線社交網(wǎng)絡(luò)的結(jié)構(gòu)如何使用戶容易受到虛假信息的影響，喬凡尼和菲利普?qǐng)F(tuán)隊(duì)制作了胡克西（Hoaxy），一個(gè)可以跟蹤低信譽(yù)信息的傳播途徑，并將這個(gè)過(guò)程可視化的系統(tǒng)。通過(guò)利用胡克西將2016年美國(guó)總統(tǒng)選舉期間收集的數(shù)據(jù)進(jìn)行分析得到，分享錯(cuò)誤信息的推特賬戶幾乎完全與事實(shí)核查員所做的修正切斷聯(lián)系。

 

當(dāng)深入了解傳播錯(cuò)誤信息的賬戶時(shí)，研究發(fā)現(xiàn)這些賬戶屬于同一個(gè)核心賬戶組，他們之間相互轉(zhuǎn)發(fā)的頻率非常密集，甚至有一些賬號(hào)是電腦操作的。而僅僅在質(zhì)疑其合法性或與他們的主張相反時(shí)，這些賬號(hào)才會(huì)引用或者提及事實(shí)核查組織。

 

 

第三組偏差直接產(chǎn)生于社交媒體的算法。無(wú)論是社交媒體平臺(tái)還是搜索引擎都會(huì)使用這些算法。這些個(gè)性化技術(shù)的目的是為每個(gè)用戶選擇最吸引人的相關(guān)內(nèi)容。但這樣做，最終可能會(huì)強(qiáng)化用戶的認(rèn)知和社會(huì)偏差，從而使他們更容易被操縱。

 

例如，在許多社交媒體平臺(tái)中內(nèi)置詳細(xì)的廣告工具，傳播虛假信息的人們可以利用它，將信息進(jìn)行修改，推送給那些已經(jīng)傾向于相信虛假信息的用戶。

 

此外，如果用戶經(jīng)常從臉書（Facebook）點(diǎn)擊某個(gè)特定來(lái)源的新聞鏈接，臉書將更頻繁地向該用戶展示該網(wǎng)站的內(nèi)容。這種所謂的“過(guò)濾泡沫”（filter bubble）效應(yīng)可能會(huì)將人們從不同的角度隔離開來(lái)，從而強(qiáng)化確認(rèn)偏差。

 

喬凡尼和菲利普的研究結(jié)果表明，與維基百科（Wikipedia）這樣的非社交媒體網(wǎng)站相比，社交媒體平臺(tái)讓用戶接觸到的資源更少。因?yàn)檫@是在整個(gè)平臺(tái)的水平上，而不是針對(duì)單個(gè)用戶，可以稱之為“均勻性偏差”。

 

社交媒體的另一個(gè)重要組成部分是通過(guò)點(diǎn)擊量確定平臺(tái)上正在流行的信息。研究還發(fā)現(xiàn)，如果某種算法的目的是促進(jìn)流行內(nèi)容，它可能會(huì)對(duì)平臺(tái)上信息的總體質(zhì)量產(chǎn)生負(fù)面影響，這種可以稱之為“流行偏差”。這會(huì)助長(zhǎng)現(xiàn)有的認(rèn)知偏差，強(qiáng)化了不論質(zhì)量如何，只要受歡迎就可以的風(fēng)氣。

 

所有這些算法偏差都可以被社交機(jī)器人操縱，社交機(jī)器人是指通過(guò)社交媒體賬戶與人類互動(dòng)的計(jì)算機(jī)程序。大多數(shù)社交機(jī)器人，比如推特的“大笨鐘”（Big Ben），都是無(wú)害的。但是，一些人隱瞞了他們的真實(shí)意圖，將其用于惡意的目的，例如通過(guò)互相轉(zhuǎn)發(fā)促進(jìn)虛假信息的傳播。

 

為了研究這些操作策略，喬凡尼和菲利普?qǐng)F(tuán)隊(duì)開發(fā)了一種檢測(cè)社交機(jī)器人的工具，稱為寶通計(jì)量（Botometer）。它可以通過(guò)查看推特賬戶的不同特征（比如發(fā)帖時(shí)間、頻率以及互相關(guān)注的賬戶等等），利用機(jī)器學(xué)習(xí)來(lái)檢測(cè)賬戶信息。雖然它現(xiàn)在還不完美，但已經(jīng)檢測(cè)到多達(dá)15%的推特賬戶為社交機(jī)器人。

 

在2016年美國(guó)總統(tǒng)競(jìng)選期間，通過(guò)將胡克西和寶通計(jì)量結(jié)合使用，喬凡尼團(tuán)隊(duì)分析出了錯(cuò)誤信息傳播網(wǎng)絡(luò)的核心。這些機(jī)器人會(huì)給易受攻擊的用戶提供虛假的聲明和錯(cuò)誤的信息。首先，他們通過(guò)推特候選人的標(biāo)簽或提及轉(zhuǎn)發(fā)該候選人，以此來(lái)吸引支持該候選人的用戶的注意力。然后，機(jī)器人可以夸大虛假聲明，通過(guò)轉(zhuǎn)發(fā)來(lái)自低可信度來(lái)源的，與某些關(guān)鍵詞相匹配的文章誹謗對(duì)手。

 

喬凡尼和菲利普?qǐng)F(tuán)隊(duì)制作的互聯(lián)網(wǎng)工具為用戶提供了許多關(guān)于辨別虛假信息的方法，在一定程度上可以保護(hù)人們免受傷害。許多研究表明，個(gè)人、機(jī)構(gòu)的賬號(hào)甚至整個(gè)社會(huì)都可以在社交媒體上被操縱，仍有許多問(wèn)題有待解決。重要的一點(diǎn)是要發(fā)現(xiàn)這些不同的偏差是如何相互作用的，這可能會(huì)造成更復(fù)雜的漏洞。解決方案不會(huì)僅僅是技術(shù)上的，還必須考慮到認(rèn)知和社會(huì)方面存在的一些問(wèn)題。