今天小編分享的科技經驗：AI手機，新的“數據黑洞”？，歡迎閲讀。
2025 年，AI 手機消息頻頻。
近日，蘋果被證實與多家中國廠商洽談，推動蘋果在中國手機中落地 AI 功能。
許多人可能對去年一場手機發布會上用 AI 一鍵下單 2000 杯咖啡的事記憶猶新。
當時在場所有人發出歡呼，卻很少有人想到一個問題：手機内置的 AI 助手是如何一鍵喚醒瑞幸小程式或者 APP、并且實現、支付的？
随着人工智能浪潮席卷，硬體創新已走到摩爾定律極限，AI 手機也正在成為兵家必争的賽道。
2025 年，AI 一定會帶來變化，這種在行業内幾乎已經形成共識的判斷，也讓手機廠商把部署端側 AI 作為重要的硬體實踐場景，并冀望借此帶來手機消費市場的新機會。
陸續有不少手機廠商推出 AI 手機：最早是三星，随後蘋果也開始加入，2023 年 9 月，蘋果推出了搭載了蘋果人工智能的手機 iPhone16；國内市場的競速者們也快速入局：OPPO 在其海外手機上結合谷歌的大模型—— Gemini，實現了 AI 功能；2024 年 10 月，榮耀推出了 AI 手機 ……
根據第三方研究機構 Canalys 的數據，2024 年，全球有 16% 的智能手機出貨，到 2028 年，這一比例将上升至 54%。
當 AI 手機越來越智能，你的手機可能比你自己更懂你。它獲知你所思所想，并幫助你完成所有事務；它儲存了你所有的生物數據，會根據你的健康狀況提出規劃；它掌握你所有的生活習慣、口味偏好，能夠給你點一份你最喜歡的外賣 ……
一切都那麼美好、便利，但在我們不易察覺的另一面，這可能意味着，在你的身邊，将存在一個數據的 " 黑洞 "， 在不知情的情況下不斷吸食你的個人信息進入黑洞中，在未被解釋的情況下，生成新的數據，左右你的生活與選擇。
智能體新命題
新技術奇點時刻，往往帶來革命性的產品，背後藴含着商業邏輯的颠覆，也帶來了新的行業挑戰。
在移動互聯網時代，APP 掌握了用户的流量入口，在 AI Agent 時代，流量入口成為了智能體，例如手機，更尖鋭的問題是，與移動互聯網時期單個 APP 不同，AI 手機要提供服務，需要掌握個人數據的全集——例如位置信息、通訊記錄、浏覽習慣、生物特征等數據，這讓數據隐私保護的範圍和鏈條更為復雜。
" 手機，是一場數據革命。"尚隐科技有限公司 CEO 張仁卓如是説。
在這場數據革命之下，對于隐私數據的使用更加隐蔽、復雜、難以界定；原有的法律法規難以适應 AI 智能體時代的隐私保護規則；雲廠商、大模型廠商、APP 廠商以及手機廠商在數據使用上的責任究竟如何厘清邊界，确保在危險或惡性事件發生時，有人為此負責？
我們與多位業内人士交流，試圖理清，智能體時代下的數據泄漏風險何在？在當下又該如何預防？
" 這是一個新命題。" 一位從事數據隐私保護多年的專家表示，" 但提出問題本身，就是意義。"
争奪流量入口，是一切與數據有關的商業底層邏輯。另一個邏輯則是，在生成式 AI 時代，需要借助個人數據提供服務的相關方變多，其中不可避免進入了如今隐私保護法規的 " 盲點 "。
移動互聯網時代，APP 是流量入口，APP 廠商通過獲得用户允許的個人數據，進行脱敏處理之後，為其所用。
在 AI Agent 時代，大模型降低了人機互動的門檻，人們通過自然語言即可與機器進行溝通，此時，AI Agent 取代 APP，成為了與用户交流溝通的方式，也成為了流量入口，這意味着數據的控制權，手機也希望為用户直接提供服務。
但與移動互聯網時代不同的是，相比于 APP 對個人信息獲取的範圍，手機所需要的個人信息更多，是所有個人數據的全集，其接觸的數據更深、更為底層。從生态來看，這将會造成新的 " 赢家通吃 "，也使消費者的面臨更復雜的信息迷宮，泄漏的風險大，甚至陷阱重重，難以預料。換句話説，AI 手機成為了數據泄露的高風險點，并且這種泄漏造成的後果，更甚于移動互聯網時代的 APP。
首先，手機擁有對數據的更高權限。過去，APP 是個人信息的主要收集者，但這并不意味着手機就無法接觸到個人數據，只是彼時手機廠商如果需要獲取數據，恐怕需要跟眾多 APP 廠商進行繁瑣的拉扯與博弈，在用户同意授權的前提下。這種高權限的體現在于，第一，用户無法删除手機出廠自帶的應用；另外，手機的一些應用是可以在後台無感知運行，例如我們如今随叫随到的 "Siri"、" 小愛同學 " 等，用户很難察覺哪些應用還在運行中，數據可能就在這個過程中不知不覺中被讀取；一旦 AI 手機助手能夠幫你操作手機，如果讓手機幫忙點一杯咖啡，最後會跳轉至支付界面，需要用户手動輸入，但業内人士表示，從技術上并不需要手動輸入密碼，手機完全有能力獲知密碼信息。
其次，手機所接觸的數據更多、更敏感也更為深入。" 手機最牛的在于它的螢幕。" 一位數據隐私保護專家表示，他通過螢幕與人發生交流，而用户通過手機螢幕了解一切信息，螢幕的控制權在手機廠商手中，這就意味着，當用户在螢幕上展示信息的那一刻，就相當于向手機廠商公開了全部數據——它可以通過螢幕窺探到你的所有隐私。曾經，螢幕可能只是展示信息的功能，未來 " 螢幕可能就是一個流量入口 "。
技術與監管的博弈
面對這種高權限以及全方位獲取個人數據的角色，如今并沒有明确的約束其獲取數據能力的法律或規定。
數據鏈條中，涉及手機廠商、雲廠商、APP 廠商，或許還包括第三方模型廠商。而數據獲取途徑也增多，" 你無法每一項都詢問一次同意。" 前述專家表示。這并不僅是復雜度的問題，而是難以界定的處理方式。
在新技術快速發展之際，技術總是先于法律法規先行。
目前手機廠商獲得推進端側大模型分為意圖框架、識屏 + 模拟點擊兩大路線，意圖框架需要獲得 app 廠商支持和加入，雙方共建生态。而識屏 + 模拟點擊的路線，指的是通過對手機螢幕截屏、理解和分析螢幕内容，通過模拟點擊腳本，實現繞過第三方 app 授權，即可操作手機内部功能，這種方式顯然更加快捷。
目前，通過一句指令，讓手機點開外賣 APP 幫用户點一杯外賣的方式，其更多采用的是 " 識屏 + 模拟點擊 " 的技術路線，并開啓了 " 無障礙權限 " 功能。" 這種方式一定會導致嚴重的安全隐患，以及‘踢皮球’的問題。" 前述數據安全專家表示。其中的關鍵，就是 " 無障礙權限 " 功能。這一功能，也被視為是最高風險等級的功能，該功能一開，相當于一扇被去掉了鎖的超市大門。
最初，" 無障礙權限 " 原本是為了方便殘障人士使用手機而設定的特殊功能，另一個使用無障礙權限的合法場景是自動化測試，可以打破各個 APP 之間的沙箱隔離機制。
漢華信安總經理彭根長期從事手機端側安全研究，其在一次研讨會中指出，無障礙權限能做四件事——監控螢幕，即對所有的内容，都在監控範圍内，并且監控速度很快，在零點幾秒的時間，螢幕的所有文字都會被讀走；另外，代替用户進行點擊、滑動、輸入；第三，打破沙箱隔離機制。
所謂的 " 沙箱隔離機制 "，是一種安全技術，用于限制 APP 的訪問權限和操作範圍，确保每個應用程式是在獨立、封閉的環境中運行，防止其對系統和其他應用程式造成幹擾和破壞。但無障礙權限則可以打破這種安全機制，甚至優先于用户自身，讀取全部手機的信息。無障礙權限，被定為 " 高危權限 "，在點擊一次 " 同意 " 之後，手機很可能不會再做出提醒，因此用户極容易在不知情的情況下開啓了無障礙權限，也就相當于将自己的隐私暴露給了手機。
用户是否可以感知到手機正在後台獲取數據？識屏功能能否被識别？筆者嘗試詢問了多位技術專家，均表示目前尚且無法從技術上解決這個問題。
另一方面來自手機 AI 的技術帶來的隐患，來自端雲的結合。
當數據存儲在本地時，用户自己就是終極個人信息處理者，但在大模型時代，本地部署很多時候無法滿足其對數據量以及功能的需求，端雲結合的方式不可避免。
在端雲協同中，數據流通的鏈路逐漸增多，涉及到的相關方也增多，不光是手機廠商，還有雲廠商、APP 廠商，甚至可能涉及到第三方大模型廠商，每個鏈路、每一個環節都不同程度參與了數據的收集和處理，甚至影響整個服務的提供，數據的互動流通也變得更加復雜。如何分配以及明确每個環節的責任，這給了數據隐私保護政策的制定，帶來了困難。
" 下遊產品對人工智能的使用可能遠超于人工智能系統開發人員最初的設想，此時應如何平衡與區分各方主體的責任？再者，就具體的責任承擔而言，應當要求人工智能系統的開發人員和部署人員在多大程度上、多長時間内保留何種類型的系統文檔材料，以實現問責判斷。" 金杜研究院合夥人寧宣鳳、吳涵等人在一篇文章中提及。
除了風險，也涉及到利益分配。一位長期從事數據隐私政策研究的專家表示，如果手機可以讀取所有的數據，同時也包括 APP 通過收集個人信息，并進行加工處理後的數據，這當然需要 APP 廠商付出成本，如果手機廠商零成本獲取這些數據，對 APP 廠商而言并不公平。" 從這個角度來説，單純從個人信息的角度來分析，是不夠的。" 前述專家表示。
" 這并不是一個單純的一事一議的這樣一種治理的回應，不是一個權限的管理，它是原權限、原治理的問題。" 北京大學政府管理學院教授馬亮表示。
此外，在流通過程中，大模型至今無法解決的 " 數據黑箱 "，同樣使用户并不知道數據最後如何被流通，又是如何被處理。
手機廠商的嘗試
一些手機廠商在信息保護方面做了嘗試。
一些手機廠商在宣傳中，提出關注端側 AI 的能力，但如今的現實是端側很難實現一些復雜的 AI 功能，端雲結合依然是手機廠商難以繞過的坎兒，一個堅不可摧的雲服務城牆至關重要。
當端側 AI 在如今大模型的今天很難實現的情況下，私有雲，對于手機廠商來説或許是一個更好的選擇。
尚隐科技有限公司 CEO 張仁卓在一次論壇中，描述了蘋果和谷歌在數據安全上的做法。
以蘋果公司為例，在蘋果的生态中，不光集合了蘋果自身的 AI，還接入了其他大模型公司，還有一些小模型公司，蘋果 AI 努力采用本地 AI 代理的模式，另一方面，蘋果在私有雲上拓展了一塊安全性很高的空間，這個安全性很高的空間體現在，第一是無狀态的計算，數據上下遊之間沒有關系。
舉一個簡單的例子，當用户随機進了一個餐館，這個餐館不會知道用户以前進了哪些餐館。另一點則是沒有特權訪問，包括蘋果自身，也不能在未經用户同意的情況下訪問用户數據，同時蘋果将用户特征的信息隐藏，并提供了可驗證的透明度。如果需要使用第三方 AI 時，蘋果的做法是，不提供 IP，第三方 AI 不存儲數據。
谷歌的做法邏輯與蘋果類似，其采用的密封計算技術，便可理解為，在雲上開辟一塊空間，供 AI 使用。數據在傳輸、存儲和處理時均保持加密狀态，即使在内存中處理，數據也保持加密狀态，防止未經授權的訪問。在這樣的狀态下，多個參與方在不暴露各自數據的情況下進行聯合計算，同時，會在數據分析、機器學習等場景中保護用户隐私。
AI 風險，敏捷治理
目前業内共識，更多還是基于原有的法律，更準确地説，是基于舊有法規的新組合方式。
" 現有的法律和法規對于目前的 AI 助手，仍然适用 "。多位從業者表示。對于 AI 手機，目前最重要的就是對收集的信息的處理和使用的問題，而無論是網絡安全法、個人信息安全保護法等，都對信息使用和處理作了相關規定。另外，中國在信息領網域的監管還在及時适時而變，增加新的内容。" 目前監管已經在關注，或者説已經在介入監管了。" 專家表示。
美國的做法或許是一個參考，美國 NIST 在今年 1 月 26 日發布的《AI 風險管理框架 1.0》是一個很好的參考。
美國在數據安全上，依靠各州法律以及行業自律。在這份 AI 風險管理框架中，包括治理、映射、測量和管理的四個板塊。
治理模塊包括了法律法規、風險活動級别确定、責任劃分與認定、勞動力的多樣性和公平性以及文化宣傳、反饋機制、第三方風險管理；映射主要用于确定特定場景與其對應的 AI 風險解決方案，例如會對 AI 系統的預期用途以及風險作出背景評估、考慮參與者的多樣性、理解 AI 技術的目标、商業價值以及監督機制的評估等；測量主要采用定量和 / 或定性的工具、技術和方法來分析、評估、測試和監控 AI 風險及其相關影響，例如一些可信度評估、涉及的自然人評估等；管理主要是将相關資源分配給相應的 AI 風險，進行風險處置。
這樣的方式，既對 AI 風險進行框定，确保這些行為在框架内的運行，又給了一定的自由空間。既有事前的預防，也有事後風險的跟蹤。
" 有關您個人信息權益的條款重要内容，我們已用加粗形式提示，請特别關注。" 這是在下載 DeepSeek 時，點擊《隐私政策》，上面詳細披露了九點隐私政策相關的内容，包括如何收集和使用個人信息；如何保護個人信息；如何實現管理個人信息的權利；如何保護未成年人的個人信息；如何更新版本政策以及聯系方式。
在 DeepSeek 的隐私政策中，提及了 APP 如何委托處理、共享、轉讓、公開披露個人信息的細節。例如合法原則、正當與最小必要原則、安全審慎原則等，甚至在條款中，披露了第三方共享的清單，提出若具體功能和場景中涉及關聯方和第三方、第三方提供服務，則合作方範圍包括關聯方和第三方。
一些新的條款也在及時調整與增加，并根據已有的法律法規，針對具體問題做出新的調整和組合。
2025 年 1 月 1 日生效的《網絡數據安全管理條例》，對于進一步的自動化處理，甚至是人工智能一些新技術做了特殊的規定，要求網絡數據處理者如何使用自動化工具訪問數據的，需要對它帶來的服務進行影響評估。還有就是不得幹擾服務的網絡質量的正常運行，這是很針對 AI 手機數據收集問題。還要求提供生成式服務的數據處理者應該加強對數據的安全管理，采取措施防止數據泄露，我們可以看到這些問題都是密切相關的。
個人信息保護影響評估，也是目前針對 AI 手機隐私保護的可行方式。前述專家表示，他如今的主要工作就是針對這些 AI 助手，進行個人信息保護影響的評估。
中國《個人信息保護法》要求，在某些情況下進行個人信息保護影響評估（PIA），以确保個人信息處理活動的合法性和安全性，一共有五種場景：
處理敏感個人信息：敏感個人信息包括生物識别、宗教信仰、醫療健康、金融賬户、行蹤軌迹等；
利用個人信息進行自動化決策：如通過算法進行用户畫像、自動化推薦等；
委托處理個人信息、向第三方提供個人信息或公開個人信息；
向境外提供個人信息；
其他對個人權益有重大影響的個人信息處理活動。
其中評估的内容包括，個人信息處理的目的、方式等是否合法、正當和必要；評估數據處理活動可能對個人權益（如隐私、财產、名譽等）產生的影響以及所采取的保護措施是否合法、有效并與風險程度相适應。
現在針對 AI 手機所出現的新的場景就屬于第五點的内容，" 如果我們可以用評估的視角提前介入，就能夠把風險降低到可控範圍，讓應用先落地做起來。" 前述專家表示。
" 讓子彈飛一飛。" 是目前業界更為贊同的做法，盡可能不傷害行業的發展，進行敏捷治理。" 敏捷治理 " 或許是一種思路，觀韬中茂律師事務所合夥人王渝偉曾在采訪中提出了這個觀點，在一開始先制定頂層框架，在過程中不斷調整監管治理和風險控制的措施，在一些案例中不斷表明監管的态度，并不斷調整監管思路并釋放這種信号。
