大家可能記得，蘋(píng)果最近幾年一直在用的，宣傳 iOS 系統(tǒng)隱私性的廣告語(yǔ)：
“What happens on your iPhone, stays on your iPhone.”
Or does it? 事實(shí)真的如此嗎？
過(guò)去的事情暫且不提。我們現(xiàn)在可以肯定的是，在今年晚些時(shí)候發(fā)布的 iOS 15 和最新版 Mac 操作系統(tǒng)Monterey上，蘋(píng)果就要堂而皇之地“偷看”你的照片了。
發(fā)生了什么
昨天，約翰·霍普金斯大學(xué)加密學(xué)教授 Matthew Green 在 Twitter 上突然爆出一條大新聞：多名知情人士確認(rèn)，蘋(píng)果即將發(fā)布一項(xiàng)用于掃描檢測(cè)兒童色情虐待內(nèi)容 (Child Sexual Abuse Material) 的端側(cè)工具。
端側(cè)的意思就是掃描工作在用戶設(shè)備上完成。截圖來(lái)源：Matthew Green 的 Twitter 賬號(hào)今天，蘋(píng)果也在官網(wǎng)正式宣布了這一消息：
截圖來(lái)源：蘋(píng)果官網(wǎng) https://www.apple.com/child-safety/ 這個(gè)系統(tǒng)的工作原理大概是這樣的：
首先，蘋(píng)果會(huì)對(duì)用戶在 iPhone 等各類蘋(píng)果設(shè)備上接收、保存和發(fā)送的照片提取哈希值。
然后，蘋(píng)果會(huì)用這個(gè)值和美國(guó)“國(guó)家失蹤和被剝削兒童中心”的數(shù)據(jù)庫(kù)進(jìn)行比對(duì)，驗(yàn)證涉事照片是否屬于兒童色情虐待內(nèi)容。這個(gè)數(shù)據(jù)庫(kù)將會(huì)保存在用戶設(shè)備的本地。比對(duì)檢測(cè)工作也是在本地完成的。
用戶在 iMessage 上收到或者發(fā)送照片。系統(tǒng)會(huì)在后臺(tái)完成比對(duì)檢測(cè)工作。如果系統(tǒng)認(rèn)為它屬于露骨內(nèi)容，iMessage 就會(huì)暫時(shí)屏蔽掉這張照片、詢問(wèn)，并再次確認(rèn)用戶是否要瀏覽或發(fā)送這張照片。
不僅如此，如果用戶本身是少年兒童，并且設(shè)置了家庭賬號(hào)的話，iOS 系統(tǒng)還會(huì)通知家長(zhǎng)。
圖片來(lái)源：蘋(píng)果如果你以為所有這些真的全部在本地完成的，不涉及到蘋(píng)果公司層面的隱私嗅探行為，那你就太小看蘋(píng)果了。蘋(píng)果也會(huì)用類似的哈希算法對(duì)用戶發(fā)送到 iCloud 保存的照片（同樣端到端加密）進(jìn)行檢測(cè)，并且在上傳之前給照片文件增加一串保密信息。
如果涉事照片被判定為兒童色情虐待內(nèi)容，蘋(píng)果的服務(wù)器將可以對(duì)照片進(jìn)行解密，并且交由人工進(jìn)行二次審核。
安全專家認(rèn)為，蘋(píng)果設(shè)計(jì)的這套打擊兒童色情的技術(shù)，雖然設(shè)計(jì)目的是好的，但可能存在嚴(yán)重的安全和隱私風(fēng)險(xiǎn)，并且完全顛覆了“端到端加密”原本存在的意義。
事件的影響
“最初我的理解是，這項(xiàng)技術(shù)用于在端側(cè)對(duì)云存儲(chǔ)的照片進(jìn)行掃描。但是最終，它可能會(huì)成為在加密通訊系統(tǒng)中增加監(jiān)控的一個(gè)關(guān)鍵因素�！盙reen 評(píng)論道。他還表示，在端到端通訊系統(tǒng)中加入這樣的掃描系統(tǒng)，一直以來(lái)都是全球各地執(zhí)法部門(mén)的主要需求。
“棱鏡”計(jì)劃的爆料人愛(ài)德華·斯諾登也對(duì)蘋(píng)果此舉頗為不滿，甚至在 Twitter 上發(fā)布了一張梗圖吐槽：
左邊：蘋(píng)果2015年：我們不讓 FBI 查看死掉的恐怖分子的手機(jī)，只為保護(hù)你的隱私。
右邊：蘋(píng)果2021年：我們會(huì)用官方黑名單檢測(cè)你的相片冊(cè)和 iCloud 照片，除了報(bào)警之外，還會(huì)告訴你家長(zhǎng)……
不管怎樣，蘋(píng)果將會(huì)在新版操作系統(tǒng)里“偷看”你的照片這件事，算是坐實(shí)了。
至于什么"What happens on your iPhone stays on your iPhone"，只是少數(shù)用戶一廂情愿的假象了……
需要明確的是，蘋(píng)果并不是第一家、唯一一家在做類似事情的公司。包括谷歌（從2008年開(kāi)始）、微軟（2009年）、Facebook（2011年）和 Twitter（2013年）等公司，都已經(jīng)在用哈希算法等相關(guān)技術(shù)，對(duì)兒童色情虐待內(nèi)容進(jìn)行預(yù)防、偵測(cè)和打擊了。
知名互聯(lián)網(wǎng)用戶權(quán)益機(jī)構(gòu)“電子前線基金會(huì)”(EFF) 在2019年曾經(jīng)撰文指出：這種號(hào)稱專為打擊兒童色情內(nèi)容而設(shè)計(jì)的所謂“用戶端側(cè)掃描工具”，是一個(gè)偽命題。
1）從技術(shù)上來(lái)講，這類工具無(wú)法將其檢測(cè)能力限制在兒童色情這一類內(nèi)容上。
具體來(lái)說(shuō)，這類檢測(cè)技術(shù)核心原理都是對(duì)圖片提取哈希值，然后和一個(gè)“官方”的數(shù)據(jù)庫(kù)進(jìn)行比對(duì)。
但是目前機(jī)器學(xué)習(xí)領(lǐng)域已經(jīng)有了先進(jìn)的生成對(duì)抗網(wǎng)絡(luò)技術(shù)，可以對(duì)兩個(gè)不同的文件，比如兩張完全不同的照片，實(shí)現(xiàn)“哈希碰撞”（也即這兩張完全不同的照片擁有相同的哈希值）：
圖示：右邊一列的公司 logo 和中間一列用算法生成的“人臉”圖片，實(shí)現(xiàn)了哈希碰撞。圖片來(lái)源：Nick Locascio
任何擁有官方數(shù)據(jù)庫(kù)操作權(quán)限的人，都可以自己添加新的哈希值條目到數(shù)據(jù)庫(kù)，從而擴(kuò)大這個(gè)圖片檢測(cè)系統(tǒng)，所檢測(cè)和審查的對(duì)象范圍。
EFF 指出，在這樣的場(chǎng)景下，“由于數(shù)據(jù)庫(kù)只包含哈希值，而兒童色情圖片的哈希值和其它圖片的哈希值（可能）沒(méi)有區(qū)別，那么掃描兒童色情內(nèi)容的系統(tǒng)，就無(wú)法從技術(shù)上只針對(duì)兒童色情內(nèi)容。”
2）EFF 還指出，這類所謂的端側(cè)掃描工具，實(shí)際上打破了端到端加密的承諾。
端到端加密的普遍定義是：在一個(gè)通訊系統(tǒng)中，只有內(nèi)容的發(fā)送端和接收端可以看到所發(fā)送的內(nèi)容，其他任何人，包括其他用戶，以及通訊系統(tǒng)的運(yùn)營(yíng)者（蘋(píng)果）都無(wú)法看到，也沒(méi)有能力對(duì)通過(guò)加密方式傳送的信息進(jìn)行解密。
“如果一個(gè)系統(tǒng)有直接、有效解密很大一部分信息的能力，它就不再是一個(gè)端到端加密的系統(tǒng)了，”EFF 指出。
3）前面提到，蘋(píng)果的這個(gè)檢測(cè)系統(tǒng)，一旦偵測(cè)到可能的兒童色情內(nèi)容，還會(huì)引入真人進(jìn)行二次檢驗(yàn)。這就進(jìn)一步擴(kuò)大了用戶隱私泄露的風(fēng)險(xiǎn)。
目前蘋(píng)果沒(méi)有透露究竟誰(shuí)有權(quán)限查看這些照片，是蘋(píng)果自己的員工還是外包機(jī)構(gòu)——希望不是后者，畢竟之前蘋(píng)果的外包維修商 Pegatron 就出過(guò)惡意泄露用戶隱私照片的嚴(yán)重事故。
4）這樣的檢測(cè)系統(tǒng)，其實(shí)很容易通過(guò)簡(jiǎn)單的方法逾越。
那些傳播兒童色情內(nèi)容的犯罪嫌疑人，可以更換其它通訊軟件，抑或?qū)D片進(jìn)行簡(jiǎn)單的修改（比如加上帶有微弱遮蓋效果的字幕），就可以讓一張圖片的哈希值“面目全非”。
圖片來(lái)源：Jens Segers 綜合考慮到前面所有提到的關(guān)于這個(gè)系統(tǒng)的弊端，得出的結(jié)論是：它打開(kāi)的隱私缺口太大，制約兒童色情內(nèi)容傳播的實(shí)效卻無(wú)法保證。說(shuō)好聽(tīng)，事倍功半；說(shuō)難聽(tīng)點(diǎn)，反而會(huì)弄巧成拙。
你怎么看蘋(píng)果這次“偷看用戶照片”的反兒童色情內(nèi)容傳播系統(tǒng)？你覺(jué)得它會(huì)起到多大的幫助？你會(huì)擔(dān)心它對(duì)端到端加密和用戶隱私帶來(lái)的負(fù)面效應(yīng)嗎？歡迎在留言中分享你的看法。
注：封面圖來(lái)自于 Chris Velazco 的 Twitter 賬號(hào)，版權(quán)屬于原作者。如果不同意使用，請(qǐng)盡快聯(lián)系我們，我們會(huì)立即刪除。
