研究表明:蘋果CSAM掃描算法很容易“上當(dāng)受騙”
近日,倫敦帝國(guó)理工學(xué)院研究小組提出一種新的算法,能在不改變圖像內(nèi)容的情況下,輕松騙過圖像內(nèi)容掃描算法,使得人眼看起來相同的照片在算法面前顯得不同。這其中就包括蘋果的CSAM掃描算法。
什么是CSAM掃描算法?
CSAM(兒童性虐待材料)是蘋果公司今年早些時(shí)候推出的一份提案,具體內(nèi)容是為了阻止非法圖像的傳播,蘋果公司專門開發(fā)了一項(xiàng)算法,對(duì)用戶私下分享和保存在 iCloud 云端的照片,利用算法進(jìn)行哈希值比對(duì)。一旦與第三方CSAM數(shù)據(jù)庫中的照片比對(duì)成功,蘋果將選擇屏蔽這張照片,甚至報(bào)警。
因?yàn)槲唇?jīng)授權(quán)訪問用戶圖片信息嚴(yán)重侵犯了用戶隱私,該項(xiàng)提案推出不久便遭到用戶及媒體的強(qiáng)烈反對(duì),最終導(dǎo)致該提案在今年9月被撤回。然而蘋果公司并未放棄CSAM,而是將其推廣時(shí)間延遲到2022年,并承諾將對(duì)該算法進(jìn)行進(jìn)一步的改進(jìn)。
圖像掃描算法能精準(zhǔn)檢測(cè)非法圖像嗎?
針對(duì)蘋果提出的CSAM掃描算法能否像它說的那樣,精準(zhǔn)檢測(cè)出非法圖像并進(jìn)行攔截,研究人員在一開始就提出質(zhì)疑。實(shí)際研究結(jié)果表明:無論是蘋果的CSAM還是任何其他圖像掃描算法都不能實(shí)現(xiàn)非法圖像的精準(zhǔn)檢測(cè)。
研究人員解釋說,論文研究針對(duì)基于離散余弦變換的算法,提出兩個(gè)白盒攻擊和一個(gè)黑盒攻擊,成功改變了圖像上的獨(dú)特特征,并幫助它躲過算法掃描。
簡(jiǎn)單而言,僅需要在圖像上應(yīng)用一種特殊的哈希過濾器,就能使兩張人眼看起來相同的圖像在算法檢測(cè)面前顯得不同。

圖片來源:倫敦帝國(guó)理工學(xué)院
如何防止圖像掃描算法”上當(dāng)受騙“?
為保障圖像掃描算法做到”有效“工作,不被算法欺騙,研究人員提出兩種方法:一是擴(kuò)大檢測(cè)閾值;二是在圖像ID匹配達(dá)到某個(gè)閾值后才標(biāo)記用戶。
但這兩種方法都不能從根本上讓圖像掃描結(jié)果變得更可靠,反而會(huì)造成更多問題,比如無可避免地侵犯更多用戶隱私。
參考來源:
https://www.bleepingcomputer.com/news/technology/researchers-show-that-apple-s-csam-scanning-can-be-fooled-easily/


























