不知道大家有沒(méi)有發(fā)現(xiàn)一個(gè)現(xiàn)象，似乎從去年下半年開(kāi)始，各大手機(jī)廠商都開(kāi)始爭(zhēng)相競(jìng)逐AI賽道了。從AI語(yǔ)音助手到AI拍照修圖，再到AI通話摘要……可以說(shuō)是迫不及待地想要將AI深度嵌入到大眾日常生活中的每一寸縫隙之中。
某天，當(dāng)你輕觸屏幕，你的手機(jī)不再僅僅是響應(yīng)你的指令，而是超前預(yù)測(cè)你的需求......是不是突然覺(jué)得有點(diǎn)鋼鐵俠的賈維斯那個(gè)味兒了。
以前我們總覺(jué)得“手機(jī)賈維斯”時(shí)代似乎還停留在紙上談兵的階段，距離實(shí)現(xiàn)還是有很長(zhǎng)一段距離，但現(xiàn)在來(lái)看，AI手機(jī)似乎已經(jīng)實(shí)實(shí)在在地步入了“人工智能化”時(shí)代。
在9月10日舉辦的2024蘋(píng)果秋季新品發(fā)布會(huì)上，蘋(píng)果除了推出iPhone 16全系列和其他幾件硬件產(chǎn)品外，還著重介紹了“蘋(píng)果智能”(Apple Intelligence)，將于下月起隨iOS 18.1、iPadOS 18.1和macOS Sequoia 15.1發(fā)布。蘋(píng)果智能功能的Writing Tools可以對(duì)用戶輸入的文本進(jìn)行改寫(xiě)、校對(duì)和摘要;可以錄制音頻，將其轉(zhuǎn)寫(xiě)為文字和摘要;照片APP中可以使用自然語(yǔ)言搜索特定照片。還可以幫助用戶精簡(jiǎn)通知，比如將用戶收件箱內(nèi)的郵件生成摘要;Siri也更加自然、靈活，與系統(tǒng)體驗(yàn)深度集成。這些要素在今年6月份的“全球開(kāi)發(fā)者大會(huì)”(WWDC)上已有所提及。
雖然AI作為iPhone 16的大招，引起了無(wú)數(shù)果粉的討論，但是馬斯克卻一直堅(jiān)定地diss蘋(píng)果AI不安全。
蘋(píng)果AI保護(hù)用戶隱私安全的背后有什么“大招”?
據(jù)介紹，Apple Intelligence是一項(xiàng)蘋(píng)果與OpenAI深度合作的成果，Apple Intelligence的核心在于其強(qiáng)大的數(shù)據(jù)處理和情境感知能力。它不僅能夠深入理解設(shè)備中的各類數(shù)據(jù)，包括照片、郵件、信息等，并據(jù)此為用戶提供包括了智能助手、郵件摘要、圖片修改、自動(dòng)翻譯等多項(xiàng)個(gè)性化智能服務(wù)。
伴隨 Apple Intelligence 上線 iOS 18、iPadOS 18 和 macOS Sequoia，蘋(píng)果也發(fā)布了自家大模型的技術(shù)報(bào)告，并公布了大量技術(shù)細(xì)節(jié)，受到業(yè)界的廣泛關(guān)注。
Apple Intelligence 包含了多個(gè)高效能的生成模型，它們快速、高效，專為用戶日常任務(wù)而設(shè)計(jì)，并能即時(shí)適應(yīng)用戶當(dāng)前的活動(dòng)。構(gòu)建到 Apple Intelligence 中的基礎(chǔ)模型已經(jīng)為用戶體驗(yàn)進(jìn)行了優(yōu)化，如寫(xiě)作和潤(rùn)色文本、優(yōu)先級(jí)排序和匯總通知、為與家人和朋友的對(duì)話創(chuàng)建有趣的圖片，以及采取應(yīng)用內(nèi)操作以簡(jiǎn)化跨應(yīng)用交互。
在技術(shù)報(bào)告中，蘋(píng)果團(tuán)隊(duì)詳細(xì)介紹了其中兩個(gè)模型——一個(gè)約 30 億參數(shù)的語(yǔ)言模型 AFM(Apple Foundation Model)，以及一個(gè)更大的、基于服務(wù)器的 AFM-server 語(yǔ)言模型——是如何構(gòu)建和適配的，從而高效、準(zhǔn)確地執(zhí)行專業(yè)任務(wù)。
而除了先進(jìn)的AI技術(shù)以外，用戶也開(kāi)始擔(dān)心個(gè)人信息是否會(huì)被泄露。這一矛盾使得蘋(píng)果在開(kāi)發(fā)新功能時(shí)，需要在技術(shù)創(chuàng)新與隱私保護(hù)之間找到一個(gè)平衡點(diǎn)。
對(duì)此，蘋(píng)果伴隨Apple Intelligence推出了私密云計(jì)算技術(shù)(Private Cloud Compute, PCC)。這一技術(shù)的核心在于如何在提升智能服務(wù)的同時(shí)，確保用戶隱私得到有效保護(hù)。據(jù)悉，私密云計(jì)算允許在云端執(zhí)行諸如郵件總結(jié)、圖片生成等AI任務(wù)，而不必將用戶數(shù)據(jù)暴露在風(fēng)險(xiǎn)之中。
蘋(píng)果為私密云計(jì)算設(shè)計(jì)了專用服務(wù)器和定制化的操作系統(tǒng)，旨在為用戶提供一個(gè)保護(hù)隱私的計(jì)算環(huán)境。不同于傳統(tǒng)的私有云，私密云計(jì)算強(qiáng)調(diào)在數(shù)據(jù)處理過(guò)程中，始終保持用戶信息的安全和隱私。蘋(píng)果采取了“本地優(yōu)先”的策略，優(yōu)勢(shì)主要在于用戶更愿意將敏感數(shù)據(jù)，如影像、語(yǔ)音和郵件等交給端側(cè)AI處理，不必?fù)?dān)心數(shù)據(jù)被第三方緩存或泄露。
蘋(píng)果高管克雷格·費(fèi)德里吉表示，這項(xiàng)技術(shù)標(biāo)志著云服務(wù)隱私保護(hù)的一個(gè)重大突破，目標(biāo)是將iPhone本地的隱私保障體系擴(kuò)展到云端。該技術(shù)通過(guò)減少數(shù)據(jù)持久性存儲(chǔ)，確保每一次服務(wù)器重啟后，數(shù)據(jù)都不會(huì)被保留。服務(wù)器配置精簡(jiǎn)，內(nèi)置蘋(píng)果專用的硬件加密管理器，隨機(jī)生成的加密密鑰加強(qiáng)了數(shù)據(jù)的安全性。
這種設(shè)計(jì)不僅消除了多種可能的攻擊面，也為用戶提供了一種全新的隱私保障體驗(yàn)。即便是需要云端處理的復(fù)雜任務(wù)，蘋(píng)果也有一整套加密和隔離技術(shù)來(lái)確保用戶的信息不會(huì)被泄露，主要有以下幾個(gè)：
硬件安全模塊 (Hardware Security Modules, HSMs)：在需要與云端交互時(shí)，蘋(píng)果的 iCloud 數(shù)據(jù)也經(jīng)過(guò)復(fù)雜的加密處理。蘋(píng)果使用 HSMs 存儲(chǔ)和管理密鑰，確保即便云端被攻擊，用戶的數(shù)據(jù)依然安全。
數(shù)據(jù)加密：蘋(píng)果設(shè)備上的數(shù)據(jù)在存儲(chǔ)和傳輸時(shí)會(huì)進(jìn)行加密。比如在 iPhone 上，文件和數(shù)據(jù)庫(kù)都會(huì)自動(dòng)進(jìn)行硬件級(jí)加密，使用的是AES (Advanced Encryption Standard) 256 位加密算法。用戶數(shù)據(jù)即使被竊取，也無(wú)法被解讀，除非擁有解密密鑰。
安全隔區(qū) (Secure Enclave)：iPhone 和其他蘋(píng)果設(shè)備中的 Secure Enclave 是一個(gè)特殊的處理器區(qū)域，專門(mén)用來(lái)處理敏感信息，如指紋、面容 ID 和密碼。這一部分?jǐn)?shù)據(jù)不會(huì)直接進(jìn)入主系統(tǒng)，避免被惡意軟件或應(yīng)用訪問(wèn)。
差分隱私 (Differential Privacy)：蘋(píng)果在部分場(chǎng)景中使用差分隱私技術(shù)，即在收集數(shù)據(jù)前對(duì)其進(jìn)行隨機(jī)化處理，使得即使蘋(píng)果獲取了一些數(shù)據(jù)，也難以將這些數(shù)據(jù)與特定用戶關(guān)聯(lián)。
端到端加密 (End-to-End Encryption)：蘋(píng)果的 iMessage 和 FaceTime 通信服務(wù)采用端到端加密，確保數(shù)據(jù)在發(fā)送方和接收方之間傳輸時(shí)都被加密，任何中間節(jié)點(diǎn)包括蘋(píng)果本身都無(wú)法解讀這些通信內(nèi)容。
隱私隔離 (Privacy Isolation)：應(yīng)用程序運(yùn)行在受控的沙盒環(huán)境中，無(wú)法訪問(wèn)超出其權(quán)限的系統(tǒng)數(shù)據(jù)，蘋(píng)果通過(guò)這類隔離措施來(lái)防止惡意應(yīng)用侵入用戶數(shù)據(jù)。
同時(shí)，蘋(píng)果還采取了一些額外的措施來(lái)保護(hù)用戶隱私，比如模糊用戶的IP地址和MAC地址，防止應(yīng)用通過(guò)這些數(shù)據(jù)來(lái)追蹤用戶。簡(jiǎn)單來(lái)說(shuō)，蘋(píng)果可以把用戶的一些網(wǎng)絡(luò)身份信息“隱藏”起來(lái)，讓?xiě)?yīng)用很難知道用戶和數(shù)據(jù)的具體信息。
蘋(píng)果試圖保護(hù)用戶隱私，但卻被馬斯克瘋狂diss
但盡管蘋(píng)果針對(duì)Apple Intelligence提出了諸多技術(shù)措施，也一再?gòu)?qiáng)調(diào)將用戶隱私擺在首位，仍然沒(méi)能消除外界對(duì)于隱私數(shù)據(jù)安全外泄的擔(dān)憂。用戶普遍擔(dān)心，智能移動(dòng)設(shè)備所帶來(lái)的更加定制化、智能化的功能，以及更加“聰明貼心”的服務(wù)，是否意味著會(huì)收集更多的用戶信息?蘋(píng)果又是否真的能100%確保收集來(lái)的用戶信息不外泄?這些憂慮也讓不少人在“到底要不要嘗試AI手機(jī)”這個(gè)問(wèn)題的答案上反復(fù)橫跳。
大家的擔(dān)心也并非沒(méi)有道理，因?yàn)榧词固O(píng)果用心為iPhone打造了一套安全保險(xiǎn)體系，一旦有第三方應(yīng)用接入，隱私的那道防線就可能不再牢固。
但是接入三方應(yīng)用存在風(fēng)險(xiǎn)問(wèn)題不可避免，是所有用戶面臨的共同考驗(yàn)。這里隱私安全責(zé)任其實(shí)不主在蘋(píng)果，屬于用戶和第三方應(yīng)用之間的權(quán)責(zé)關(guān)系。
事實(shí)上，關(guān)于Apple Intelligence第三方應(yīng)用可能牽扯到用戶隱私安全的問(wèn)題，前一陣子就已經(jīng)鬧得沸沸揚(yáng)揚(yáng)。起因是埃隆·馬斯克對(duì)Apple Intelligence的發(fā)布表示了強(qiáng)烈的質(zhì)疑和不滿。他在X平臺(tái)上連發(fā)多條推文，指責(zé)蘋(píng)果“出賣(mài)用戶數(shù)據(jù)”，并威脅說(shuō)要禁止旗下公司使用蘋(píng)果設(shè)備。
圖片來(lái)源：X平臺(tái)
馬斯克認(rèn)為，蘋(píng)果不夠聰明，無(wú)法自主開(kāi)發(fā)AI，卻表示能夠確保OpenAI可以保護(hù)用戶的安全和隱私，這顯然是荒謬的。他還表示，一旦用戶將自己的數(shù)據(jù)交給OpenAI，蘋(píng)果也不知道將來(lái)會(huì)發(fā)生什么，他們這么做完全是在出賣(mài)用戶。
的確，不同數(shù)據(jù)提供商的隱私政策如何保持一致性，是需要監(jiān)管機(jī)構(gòu)加強(qiáng)管理的方向。
例如iPhone允許接入像OpenAI這樣的第三方大模型服務(wù)，用戶在訪問(wèn)時(shí)可能沒(méi)有意識(shí)到某些請(qǐng)求已被發(fā)送到OpenAI的GPT產(chǎn)品，可能導(dǎo)致敏感信息泄露。用戶以為操作是在本地進(jìn)行，但實(shí)際上這些查詢請(qǐng)求已被轉(zhuǎn)發(fā)到云端。
而且，OpenAI等第三方的用戶數(shù)據(jù)處理并不受蘋(píng)果監(jiān)管，用戶可能誤以為數(shù)據(jù)由蘋(píng)果全程保護(hù)，實(shí)際數(shù)據(jù)已被第三方處理，并遵循第三方的隱私政策，這些政策可能比蘋(píng)果的寬松，這都是潛在的風(fēng)險(xiǎn)。
不止蘋(píng)果，全球AI手機(jī)都正面臨同樣的安全風(fēng)險(xiǎn)
根據(jù)Canalys的數(shù)據(jù)，2024年，全球16%的智能手機(jī)出貨量為AI手機(jī)，到2028年，這一比例預(yù)計(jì)將激增至54%。可見(jiàn)AI手機(jī)的快速發(fā)展已經(jīng)成為全球智能手機(jī)市場(chǎng)的重要趨勢(shì)。
放眼國(guó)內(nèi)，在當(dāng)前人工智能蓬勃發(fā)展的背景下，各大廠商均已拉起自身的AI移動(dòng)端產(chǎn)品線。去年8月，華為宣布HarmonyOS 4系統(tǒng)全面接入盤(pán)古大模型;隨后，小米則訓(xùn)練出輕量級(jí)語(yǔ)言大模型，參數(shù)規(guī)模為13億和60億兩種;同年11月，vivoX100系列手機(jī)也首次搭載了自研vivo藍(lán)心大模型......
據(jù)IDC統(tǒng)計(jì)，中國(guó)AI手機(jī)出貨量預(yù)計(jì)在2027年達(dá)到1.5億部，市場(chǎng)滲透率將超過(guò)50%。這一增長(zhǎng)趨勢(shì)表明，中國(guó)市場(chǎng)對(duì)AI手機(jī)的需求也在迅速攀升，而用戶量的激增也意味著，AI手機(jī)安全問(wèn)題迫在眉睫，亟待引起重視。
其實(shí)蘋(píng)果目前面臨的安全問(wèn)題也正是全球其他所有AI手機(jī)同樣面臨的安全問(wèn)題。比如：
AI手機(jī)搭載的AI大模型系統(tǒng)在訓(xùn)練和推理過(guò)程中需大量收集用戶個(gè)人信息和敏感數(shù)據(jù)，一旦數(shù)據(jù)泄露或不當(dāng)使用可能引發(fā)隱私保護(hù)問(wèn)題，影響用戶信任度和企業(yè)聲譽(yù)。
同時(shí)，AI手機(jī)還可能生成或傳播不適當(dāng)、不準(zhǔn)確甚至有害的內(nèi)容，對(duì)用戶造成不良影響。
攻擊者還可能會(huì)通過(guò)AI手機(jī)的安全漏洞竊取用戶敏感信息，如API安全漏洞，這可能引發(fā)用戶數(shù)據(jù)泄露，對(duì)用戶的隱私構(gòu)成威脅。甚至可能會(huì)提取到AI手機(jī)內(nèi)包括模型的權(quán)重、算法參數(shù)或訓(xùn)練數(shù)據(jù)，從而竊取專有AI模型的核心技術(shù)等等。
不過(guò)所幸到目前為止，還沒(méi)有發(fā)生影響廣泛的AI手機(jī)安全事件，并沒(méi)有給用戶造成困擾。這些安全問(wèn)題仍停留在“潛在風(fēng)險(xiǎn)”的階段。
不過(guò)，究竟該如何在AI技術(shù)的廣泛應(yīng)用與用戶隱私保護(hù)之間找到微妙的平衡，是AI手機(jī)廠商需要持續(xù)思考的課題。
技術(shù)、法規(guī)雙管齊下，或是AI手機(jī)安全“解藥”
隨著AI技術(shù)的快速發(fā)展，越來(lái)越多的AI應(yīng)用被集成到智能手機(jī)中。而智能手機(jī)也無(wú)可厚非地成為我們生活中不可或缺的一部分，但無(wú)論如何以犧牲自己的隱私為代價(jià)換取便利的做法都是不可取的。那么面對(duì)如今AI手機(jī)可能帶來(lái)的一系列安全威脅，是否有什么策略能夠“對(duì)癥下藥”?
首先肯定是基于數(shù)據(jù)層面所制定的法律法規(guī)，因?yàn)檫@對(duì)所有相關(guān)涉及的企業(yè)均有所約束。
目前來(lái)看，與AI安全相關(guān)的法律法規(guī)有歐盟的GDPR、美國(guó)的CCPA、中國(guó)的《數(shù)據(jù)安全法》《網(wǎng)絡(luò)安全法》和《個(gè)人信息保護(hù)法》，這些法律都涵蓋了數(shù)據(jù)安全和個(gè)人信息保護(hù)，各類AI手機(jī)等移動(dòng)設(shè)備均受其管轄。此外，還有AI隱私相關(guān)的規(guī)定，比如2023年中國(guó)發(fā)布的生成式人工智能服務(wù)管理暫行辦法;2024年歐盟發(fā)布的人工智能法案以及人工智能與人權(quán)、民主和法治框架公約，其中涉及57個(gè)國(guó)家參與，重點(diǎn)關(guān)注AI風(fēng)險(xiǎn)和安全問(wèn)題，包括數(shù)據(jù)安全和隱私保護(hù)。
不過(guò)綜合來(lái)看，目前全球法律對(duì)這個(gè)領(lǐng)域的安全要求各不相同，如果未來(lái)針對(duì)此出臺(tái)全球通用的法規(guī)，并設(shè)計(jì)數(shù)據(jù)安全基線，確定一些通用的服務(wù)能力，或?qū)⒛苡行苿?dòng)科技創(chuàng)新。
另外，新興的技術(shù)手段也或?qū)锳I安全提供更多“捷徑”。比如，量子計(jì)算能夠提供基于量子密鑰分發(fā)(QKD)的通信安全技術(shù)，這種技術(shù)可以監(jiān)測(cè)試圖竊取數(shù)據(jù)的黑客，從而保護(hù)AI手機(jī)中的數(shù)據(jù)不被未授權(quán)。此外，量子通信網(wǎng)絡(luò)使用量子物理學(xué)原理，使得信息在傳輸過(guò)程中無(wú)法被入侵，這對(duì)于AI手機(jī)來(lái)說(shuō)是一個(gè)巨大的安全優(yōu)勢(shì)。雖然目前還暫未有太多實(shí)際結(jié)合的應(yīng)用，但是這的確為AI安全提供了新思路。
參考資料：
https://www.thepaper.cn/newsDetail_forward_28262512
https://baijiahao.baidu.com/s?id=1810868235082638284&wfr=spider&for=pc
