眾所周知，iPhone 雖然貴但很好用。人們選擇 iPhone 的一大理由就是信息安全：不論是手機(jī)上物理存在的「安全飛地」，還是蘋果公司面對(duì) FBI 解鎖嫌犯手機(jī)需求寧愿打官司也不從的態(tài)度，這家公司對(duì)于個(gè)人隱私的保護(hù)一直為人稱道。

然而就在最近，蘋果突然改變態(tài)度的消息傳出，讓人大為驚訝。

[[415930]]

《金融時(shí)報(bào)》等媒體爆出，蘋果計(jì)劃掃描所有存儲(chǔ)在 iPhone 和 iCloud 上的照片，以找出兒童色情圖片。新系統(tǒng)將能夠幫助執(zhí)法部門進(jìn)行刑事調(diào)查，但可能會(huì)導(dǎo)致法律和政府對(duì)用戶數(shù)據(jù)的需求增加。

據(jù)外媒報(bào)道，該系統(tǒng)名為 neuralMatch，一旦檢測(cè)到非法圖像，將主動(dòng)提醒一組人工審核人員。如果經(jīng)驗(yàn)證「違法內(nèi)容」屬實(shí)，公司將聯(lián)系執(zhí)法部門。

neuralMatch 系統(tǒng)使用來(lái)自美國(guó)國(guó)家失蹤與受剝削兒童保護(hù)中心(National Center for Missing & Exploited Children)的 20 萬(wàn)張圖像進(jìn)行訓(xùn)練。該系統(tǒng)將率先在美國(guó)推出，用戶存儲(chǔ)的照片將被掃描并與已知的兒童虐待圖像數(shù)據(jù)庫(kù)進(jìn)行比較。

這還不是全部，蘋果還有一個(gè)新功能會(huì)掃描兒童賬號(hào)登陸的 iPhone，系統(tǒng)會(huì)掃描發(fā)送和接收到的所有 iMessage 圖像，以查找色情內(nèi)容，如果兒童年齡在限制以下，則出現(xiàn)違規(guī)圖像時(shí)會(huì)通知父母。父母可以選擇打開(kāi)或關(guān)閉這個(gè)功能。

據(jù)介紹，蘋果的掃描是全方位的：這些新功能將會(huì)在今年晚些時(shí)候作為 iOS 15、iPadOS 15、watchOS 8 和 macOS Monterey 的特性在更新時(shí)推出，也就是說(shuō)大概率會(huì)在 9 到 10 月份上線。

從 iPhone 本地開(kāi)始掃描

在今天的金融時(shí)報(bào)上，蘋果的照片掃描計(jì)劃被正式曝光。

知情人士透露：之后在美國(guó)每張上傳到 iCloud 的照片都會(huì)得到一份「安全憑證」，來(lái)說(shuō)明是否可疑。一旦一定數(shù)量的照片被標(biāo)記為可疑，蘋果就會(huì)對(duì)所有這些可疑的照片進(jìn)行解密和人工審查，如果涉及違法行為，蘋果會(huì)將其轉(zhuǎn)交給相關(guān)法律部門。

具體來(lái)說(shuō)，蘋果掃描照片的方式有點(diǎn)類似于微軟的 PhotoDNA，不過(guò)蘋果的掃描主要是在設(shè)備端進(jìn)行的，處理過(guò)的圖像會(huì)被轉(zhuǎn)換為機(jī)器學(xué)習(xí)所需的參數(shù)，在云端與數(shù)據(jù)集進(jìn)行匹配，設(shè)備端不會(huì)知道是否找到了匹配項(xiàng)。這意味著當(dāng)新功能推出時(shí)，NCMEC CSAM 數(shù)據(jù)庫(kù)的一個(gè)版本將下載到每部 iPhone 中。

不論這套技術(shù)中的隱私和安全保護(hù)是如何實(shí)現(xiàn)的，上傳到 iCloud 的所有照片都將被掃描。

蘋果的第二個(gè)新功能是基于 iMessage 發(fā)送或接收的掃描照片的敏感內(nèi)容通知。為了實(shí)現(xiàn)這種功能，其將推出一個(gè)設(shè)備端機(jī)器學(xué)習(xí)分類器，旨在檢測(cè)「色情圖片」。蘋果稱這些功能(在發(fā)布時(shí))僅限于已注冊(cè)家庭帳戶的 18 歲以下美國(guó)用戶。在新流程中，如果 13 歲以下兒童持有的帳戶希望發(fā)送設(shè)備上機(jī)器學(xué)習(xí)分類器判定為色情圖片的圖像，則會(huì)彈出通知，告訴父母會(huì)接到通知。

如果兒童仍然選擇發(fā)送內(nèi)容，則系統(tǒng)將通知家長(zhǎng)，且圖像將不可撤銷地發(fā)送至手機(jī)的家長(zhǎng)控制部分，供家長(zhǎng)稍后查看。對(duì)于 13 至 17 歲的用戶，會(huì)彈出類似的警告通知，但沒(méi)有家長(zhǎng)通知。

類似地，如果 13 歲以下兒童收到 iMessage 認(rèn)為「色情」的圖片，在被允許查看照片之前會(huì)彈出一個(gè)通知，告訴兒童他們的父母將收到通知。如果用戶決定接收?qǐng)D像，則會(huì)通知父母并將圖像保存到手機(jī)中。13 至 17 歲的用戶同樣會(huì)收到警告，但不會(huì)將有關(guān)此操作的通知發(fā)送到其父母的設(shè)備。

無(wú)論是發(fā)送還是接收此類內(nèi)容，未成年用戶都可以選擇在不通知父母的情況下中斷發(fā)送或接收。盡管如此，蘋果無(wú)疑是在監(jiān)視用戶手機(jī)內(nèi)容的道路上向前走了一步。

是安全保護(hù)還是隱私侵犯?

霍普金斯大學(xué)教授、密碼學(xué)家 Matthew Green 對(duì)這種系統(tǒng)表示擔(dān)憂。Green 說(shuō)：「這種工具能夠可以幫助查找手機(jī)中的兒童色情內(nèi)容，但想象一下，如果掌握權(quán)力的公司或機(jī)構(gòu)獲得了這種系統(tǒng)，會(huì)發(fā)生什么?」

他表示：「即使你認(rèn)為蘋果不會(huì)允許這些工具被濫用，仍然有很多值得關(guān)注的地方，這些系統(tǒng)依賴于一些可能存在問(wèn)題的數(shù)據(jù)庫(kù)，而普通消費(fèi)者卻無(wú)法查看這些數(shù)據(jù)?！?/p>

來(lái)自約翰霍普金斯大學(xué)教授密碼學(xué)的計(jì)算機(jī)科學(xué)副教授 Matthew Green 對(duì)此事表示了擔(dān)憂。

此外，有研究人員表示，雖然該系統(tǒng)目前經(jīng)過(guò)訓(xùn)練可以發(fā)現(xiàn)兒童性虐待，但它也具備掃描任何其他有針對(duì)性的圖像和文本的潛力，例如恐怖斬首等暴力場(chǎng)景。蘋果的這種行為可能增加其他科技公司使用類似技術(shù)的壓力。

曾在 Facebook 和 Deliveroo 工作的安全研究員和隱私活動(dòng)家 Alec Muffett 表示：「蘋果這一舉動(dòng)是將讓個(gè)人隱私領(lǐng)域倒退一大步?！?/p>

與其他基于云的照片存儲(chǔ)系統(tǒng)和社交網(wǎng)站一樣，蘋果此前已經(jīng)根據(jù)已知的虐待兒童圖像檢查了 iCloud 的文件。但當(dāng)試圖訪問(wèn)存儲(chǔ)在個(gè)人設(shè)備上的數(shù)據(jù)時(shí)，這個(gè)過(guò)程就變得更加復(fù)雜了。neuralMatch 的新系統(tǒng)則更加激進(jìn)，允許機(jī)器學(xué)習(xí)系統(tǒng)對(duì)本地存儲(chǔ)的數(shù)據(jù)進(jìn)行訪問(wèn)。

不過(guò)也有專家認(rèn)為，蘋果的監(jiān)控方式已經(jīng)很大程度上保護(hù)了隱私。薩里大學(xué)計(jì)算機(jī)安全教授 Alan Woodward 表示：「蘋果系統(tǒng)的侵入性較小，因?yàn)楹Y選是在手機(jī)上完成的，并且只有在可疑信息匹配時(shí)才會(huì)向搜索者發(fā)送通知。只有采用這種去中心化方法，才是蘋果新系統(tǒng)保護(hù)隱私的最佳選擇?！?/p>

目前尚未有更多關(guān)于該系統(tǒng)的細(xì)節(jié)，不過(guò)除了《金融時(shí)報(bào)》，蘋果開(kāi)啟 neuralMatch 計(jì)劃的消息也已被其他多個(gè)消息源證實(shí)。知情人士透露：蘋果最快可能在本周宣布更多有關(guān)該系統(tǒng)的信息。

【本文是51CTO專欄機(jī)構(gòu)“機(jī)器之心”的原創(chuàng)譯文，微信公眾號(hào)“機(jī)器之心( id: almosthuman2014)”】 

戳這里，看該作者更多好文