這是陰謀論？AI，你怎么看？
大數據文摘出品
來源：iflscience
編譯：在赤道的熊貓
晃動的人體攝像機鏡頭上的音頻異常清晰。當警察搜查一名之前在比薩店的客廳里開了一槍的已戴上手銬的男子時，警官問他為什么在那兒。該男子說要調查戀童癖的戒指。對于令人難以置信的回答，軍官再次詢問。另一名軍官說到“Pizzagate。他在談論Pizzagate。”
在2016年短暫而令人毛骨悚然的互動中，很明顯，長期以來一直籠罩在社會邊緣的陰謀理論以一種非常危險的方式進入了現實世界。
可能會造成重大傷害的陰謀論在社交媒體上極受歡迎。在社交媒體上，不受限制的論壇允許志趣相投的人進行交流。在這里，他們可以發展自己的理論并提出應對措施，以應對他們“發現”的威脅。
但是，如何判斷社交媒體上新興的敘述是否是毫無根據的陰謀論呢?事實證明，可以通過使用機器學習工具繪制敘事元素和聯系來區分陰謀論和真實陰謀。這些工具可以構成預警系統的基礎，來提醒相關部門注意對現實世界構成威脅的在線敘述。
由我和Vwani Roychowdhury帶領的加利福尼亞大學文化分析小組開發出一種自動方法。它可以確定社交媒體上的對話何時反映出陰謀論的典型跡象。我們已成功地將這些方法應用于Pizzagate，COVID-19大流行和反抗疫苗接種運動的研究。
協作構建，快速形成
真正的陰謀論是刻意隱藏的，在現實生活中的人們為了自己的惡性目的而共同努力的行為。相反，陰謀理論是公開合作構建和發展成的。
陰謀論是刻意的復雜的，反映了無所不包的世界觀。陰謀論不是試圖解釋一件事，而是試圖解釋一切， 發現人類交互作用域之間被隱藏的聯系-主要是因為它們不存在。
人們天生就容易受到陰謀論的影響，不確定的時期和焦慮的加劇會增加這種易感性。
雖然陰謀理論家的流行形象是一頭孤獨的狼將照片和紅色細繩之間令人費解的聯系拼湊在一起，但這種形象在社交媒體時代已不再適用。陰謀論的理論已經發展到網上，它現在已成為集體敘事的最終產物。參與者確定敘述框架的參數：故事的人物，地點和事物及其關系。陰謀理論的在線性質為研究人員提供了一個機會，可以從這些理論的起源(從一系列經常相互分離的謠言和故事片段到綜合敘述)中追溯這些理論的發展。在我們的工作中，Pizzagate是一個完美的主題。
Pizzagate于2016年10月下旬在總統大選前夕開始發展。在一個月內，它就完全形成了，并從一系列其他沒有聯系的領域中提取了完整的角色：民主政治，Podesta兄弟的私生活，休閑家庭用餐和撒旦的戀童癖交易。這些原本截然不同的領域之間的聯系敘事線索是對WikiLeaks在2016年10月最后一周拋棄的民主黨全國委員會泄漏的電子郵件的幻想性解釋。
AI敘事分析
我們開發了一個模型- 一套機器學習工具。它可以根據人物，地點和事物及其關系識別敘事。機器學習算法處理了大量數據，來確定數據中事物的類別，然后確定特定事物屬于哪些類別。 我們分析了2016年4月至2018年2月在Reddit和4chan論壇上討論過Pizzagate的17498條帖子。該模型將每個帖子視為隱藏的故事的片段，并開始發現敘述。該軟件可以識別帖子中的人物，地點和事物，并確定哪些是主要元素，哪些是次要元素以及它們是如何聯系起來的。 該模型確定了敘事的主要層次(在Pizzagate的事例中，民主政治，波德斯塔兄弟，休閑餐飲，撒旦教義和WikiLeaks)，以及這些層次如何共同構成整個敘事。 為確保我們的方法產生準確的輸出，我們將模型產生的敘述性框架圖與《紐約時報》上發表的插圖進行了比較。我們的圖表與這些插圖一致，并且還提供了有關人員，地點和事物及其關系的詳細信息。
堅固的事實，虛構的小說
為了了解我們是否能夠區分陰謀理論和實際陰謀，我們研究了Bridgegate， Chris Christie政府針對新澤西州的李堡市市長的工作人員發起的一項政治償還行動。
當我們使用兩個單獨的集合比較我們的機器學習系統的結果時，陰謀論敘事框架的兩個顯著特征脫穎而出。
首先，雖然Bridgegate的敘述圖從2013年到2020年得到發展，Pizzagate的圖在一個月內就完全形成并穩定了。其次，Bridgegate的圖表在刪除元素后仍然存在，這意味著即使刪除了丑聞中的關鍵人物和關系，新澤西州的政治也將繼續作為一個單獨的連接網絡。
相反，Pizzagate圖很容易分解成較小的子圖。當我們刪除直接來自WikiLeaks電子郵件解釋的人員，地點，事物和關系時，該圖就會分解為現實中政治，休閑餐飲，Podestas的私生活和奇異世界之間相互聯系的領域撒旦主義。
在下圖中，綠色平面是敘述的主要層，點是敘述的主要元素，藍線是圖層中元素之間的連接，紅線是圖層中元素之間的連接。紫色平面顯示所有組合的圖層，顯示所有點如何連接。刪除WikiLeaks平面會產生一個紫色平面，其點僅以小組形式連接。
Pizzagate陰謀論的各個層面相結合，形成了一個敘事的右上角。刪除一層，WikiLeaks發布的對電子郵件的奇特解釋，整個故事將散布在右下角。
預警系統?
我們的工作明顯的挑戰了道德準則。比如，我們的方法可為陰謀論的討論生成更多帖子，這些帖子適用于討論的敘述框架。同樣，在給定任何領域的情況下，任何人都可以使用這個工具來提出新的陰謀論。
但是，正如我們對社交媒體論壇的研究所表明的，這種敘事武器化已經在沒有自動方法的情況下發生了。研究界可以發揮作用，幫助其他人了解武器化是如何發生的，并為保護公共安全和民主機構的個人和組織開發工具。
開發一個追蹤陰謀理論敘述的出現和調整的預警系統，可以使研究人員和當局對人們根據這些敘述采取的行動有所警惕。也許有了這樣的系統，當問到為何槍手裝備著AR-15步槍出現在比薩店時，Pizzagate案的逮捕官并不會為槍手的回應所困擾。
相關報道：
https://www.iflscience.com/technology/an-ai-tool-can-distinguish-between-a-conspiracy-theory-and-a-true-conspiracy/
【本文是51CTO專欄機構大數據文摘的原創譯文，微信公眾號“大數據文摘（ id: BigDataDigest）”】
