我們曾報道過美國國安局NSA一項名為“天網”SKYNET的計劃，根據The Intercept公布了一份文檔顯示，“天網”使用機器學習算法分析幫助NSA尋找潛在恐怖分子。如今，外媒卻在質疑，這個項目可能已經在巴勒斯坦“誤殺上千無辜平民”。

[[163000]]

NSA：數據說了算 VS 專家：你們一派胡言

2014年，一名CIA和NSA前負責人宣稱：我們殺人是基于元數據的。其本意大概是，我們不會濫殺無辜……但是，一名來自“人權數據分析組織”(Human Rights Data Analysis Group)的數據科學家Patrick Ball對NSA提出強烈質疑，他曾評價NSA機器學習算法“盲目樂觀”并且“一派胡言”。

自2004年以來，巴基斯坦地區死于無人機轟炸下的人數介于2500至4000人，其中絕大部分人被美國政府定義為“極端分子”。而從此前流出的幻燈片不難發現，SKYNET機器學習程序早在2007年就在秘密開發中了。

SKYNET：披著大數據外衣的喪鐘

“天網”就是一個很典型的大數據業務應用，程序進行元數據收集并儲存到NSA云服務器，在提取所需相關信息之后運用機器學習從事有針對性的識別。NSA將其運用于巴基斯坦地區，分析了巴基斯坦地區5500萬移動電話記錄，其中包括手機通話數據(就是所謂的“DNR”或號碼識別數據，如通話時間、持續時間、通話對象等等)，用戶定位和旅程詳細情況，以及關機或換SIM卡操作。任何可疑的行為都會被做上記號。

簡而言之，NSA通過生活模式、社交網絡以及旅游行為三個維度來進行數據的收集和計算。在得到了較為完整的元數據集之后，SKYNET可以速寫出人們典型的日常生活——某些人一起旅行、分享聯系人、在一起過夜、訪問其他國家或***移居。最終，NSA機器學習算法使用超過80種不同屬性為人們的“恐怖分子率”打分。

然而，就是這一權威機構的科學算法卻出現一個令人大跌眼鏡的結果：

去年The Intercept公開了根據這一算法得分***的“恐怖分子”——竟然是一名受人敬仰的記者Ahmad Muaffaq Zaidan。

作為記者，Zaidan有著廣泛的通訊網絡，并采訪過包括本拉登在內的多名基地組織領導人。對于“天網”系統的誤殺，Zaidan十分憤慨。

解密“天網”為何疏而有漏

SKYNET的分類算法對元數據與基礎事實進行分析，然后為每個人進行打分。理論上真正的恐怖分子會得到高分。

想要訓練出這樣的機器學習算法就像訓練Bayesian垃圾郵件過濾器一樣：你要給它“喂食”已知的垃圾郵件和非垃圾郵件。從這些最為基本的“真理”中，算法便會掌握怎樣才能正確過濾垃圾郵件。

同理，“天網”項目中最為關鍵的部分便是算法的訓練，而為數不多“已知恐怖分子”造成的局限性就顯現出來。

小編從華盛頓大學Data Lab數據學研究者CHI那里了解到，NSA在“天網”中采用的隨機森林算法在機器學習中很常用，而且一般來說效果也很好的，但是在用于發現恐怖分子時還存在諸多問題。

百科：隨機森林算法

隨機森林算法是采用用隨機的方式建立一個有很多不相關決策樹的森林，在得到森林之后，當有一個新的輸入樣本進入的時候，就讓森林中的每一棵決策樹分別進行一下判斷，看看這個樣本應該屬于哪一類，然后看看哪一類被選擇最多，就預測這個樣本為那一類。

Ball解釋道“天網”算法是通過10萬隨機挑選的個體和已知的7名恐怖分子進行訓練。NSA給算法提供6名恐怖分子，讓它找出第7個。

安全專家Bruce Schneier認為政府在使用大數據時不同于其他情況：

“如果谷歌犯了個錯誤，人們最多是看到一輛汽車的廣告而并不會想要購買。可如果政府犯了個錯，可能會傷及無辜人的性命。”

在NSA的測試中甚至出現了0.18%的錯誤率，這就意味著在5500萬樣本中將近9.9萬人進行了錯誤標記，而Ars暗示這一結果可能導致NSA對目標發起無人機轟炸。

科技之光，還是科技之殤?

算法已經開始統治我們的生活，用“天網”尋找恐怖分子這僅僅是個開始，采用相同邏輯尋找“毒販”、“抗議者”或“異見人士”的手段可能不久之后或已經出現了。基于元數據的“殺人游戲”此刻就在進行著，而千里之外的我們對此視而不見。倘若有天，“天網”認定了你是恐怖分子，那時你該怎么辦?