這一場景每天都在全球各地的企業中上演，到2027年，深度偽造攻擊將給各企業造成400億美元的損失。兩年前還看似理論層面的技術，如今已實現工業化規模應用。
深度偽造只是新興威脅態勢中的一個維度。GenAI與身份系統的融合，催生了新的攻擊途徑，而各企業才剛剛開始理解這些途徑。擁有廣泛權限的智能體、數量激增到難以理解的機器身份、創建未經授權賬戶的影子AI系統——本應提供保護的工具，如今卻成了武器。
深度偽造危機加劇，400億美元損失近在眼前
統計數據只是冰山一角。Persona發布的《2024年身份欺詐報告》顯示，僅在招聘欺詐領域，該機構就攔截了7500萬次深度偽造嘗試——這還只是一家供應商在一個垂直領域的數據。若將此數據推算至全行業，年度深度偽造嘗試次數可能高達數十億。
深度偽造技術的發展速度驚人。2023年，深度偽造事件激增3000%。聯絡中心遭遇的語音攻擊增加了700%。到2024年，制作出令人信服的語音克隆僅需不到3分鐘的音頻素材——這些素材可輕松從財報電話會議、播客或社交媒體上獲取。
OpenAI的GPT-4o安全文檔現已內置深度偽造檢測功能。AI公司將深度偽造防御功能直接嵌入模型，這一事實表明了此類威脅的規模之大。
在《華爾街日報》最近的一期科技新聞簡報中，CrowdStrike首席執行官George Kurtz解釋了AI的進步如何幫助網絡安全從業者防御系統，同時也談到了攻擊者如何利用AI。Kurtz與《華爾街日報》記者Dustin Volz就AI、2024年美國大選以及中國和俄羅斯構成的威脅進行了討論。
Kurtz表示：“如今的深度偽造技術已經非常先進，我認為這是我們真正需要擔憂的領域之一。我是說，2016年的時候，我們就開始追蹤這一技術，當時你會發現人們真的在和機器人聊天，那可是2016年啊。他們要么在爭論，要么在宣揚自己的主張，進行著互動式的對話，而實際上背后根本沒有人。所以我認為，人們很容易誤以為那是真實的，或者被我們想要支持的某種觀點所左右，但很多情況下，這些觀點都是由其他國家推動的，而且一直都是這樣。”
CrowdStrike美洲地區首席技術官Cristian Rodriguez補充道：“深度偽造、智能體、影子AI——這些已不再是邊緣案例，而是當下的攻擊面。舊的季度訪問審查或靜態策略模式根本無法跟上機器速度的威脅。我們需要用AI來對抗AI，讓人來制定戰略，而不是疲于應對警報。”
對抗性AI的研究揭示了一個“淺信任”時代，在這個時代，沒有任何數字交互可以僅憑表面價值來判斷。與新興威脅相比，過去十年的商業電子郵件泄露攻擊將顯得微不足道。
智能體：失控的攻擊面
每個智能體都相當于一個擁有持續系統訪問權限的超級用戶。與人類用戶不同，智能體保持持續連接。與傳統權限有限的服務賬戶不同，智能體需要廣泛的權限才能正常運行。
機器身份的數量已經是人類身份的45倍。智能體正呈指數級加速這一激增趨勢。典型的企業部署ChatGPT會創建數十個智能體，每個智能體都需要身份、憑證和訪問權限。在Claude、Gemini、Copilot和專有系統中，各企業突然要管理數千個幾乎無人監管的AI身份。
攻擊場景已經出現。攻擊者入侵了一個可以訪問公司整個知識庫的智能體。他們沒有直接竊取數據(那樣會觸發警報)，而是篡改了智能體的回復，在數周內潛移默化地向員工灌輸錯誤信息。在發現這一情況之前，公司已經基于這些被篡改的情報做出了關鍵業務決策。
機器身份激增：新興的攻擊面危機
機器身份是網絡安全領域最被低估的威脅途徑。如今，各企業管理的機器身份數量是人類身份的45倍，且身份總數每年以240%的速度增長。這種指數級增長使傳統的身份和訪問管理(IAM)架構失效。
實際運營情況暴露了關鍵漏洞。容器的生命周期往往不到5分鐘，但它們會在傳統IAM系統記錄其存在之前就生成憑證、進行身份驗證并訪問資源。Ivanti的Karl Triebes證實：“傳統的IAM系統甚至無法檢測到這些身份。”
規模擴大加劇了脆弱性。企業維護著15000多個服務賬戶(其中92%為孤立賬戶)、25000多個API密鑰(其中67%從未輪換)以及50000多個證書(其中40%為自簽名證書)。CyberArk的數據顯示，68%的數據泄露事件利用了非人類憑證。SolarWinds事件展示了級聯效應——一個被入侵的服務賬戶引發了企業范圍內的故障。
領先的企業正在部署自動化技術。Venafi的TLS Protect可在數小時內繪制證書基礎設施圖，防止89%的與證書相關的中斷。SPIFFE/SPIRE框架提供可自動輪換且隨工作負載終止的加密工作負載身份，消除了靜態憑證的積累。
市場動態驗證了緊迫性。機器身份管理市場規模在2024年達到51.3億美元，預計到2032年將以14.19%的復合年增長率擴大至148.1億美元。Gartner的分析顯示，沒有自動化機器身份管理(MIM)的企業遭遇數據泄露的概率要高出4倍。實施自動化機器身份管理可在六個月內將憑證事件減少73%。
Rodriguez補充道：“機器身份的激增給我們敲響了警鐘。當每個員工對應45個服務賬戶時，你無法用傳統的IAM來保護它們。如果你無法看清每個人類、機器和AI身份，那你就是在盲目行動。這就是身份安全的未來方向：實時、自動化且跨領域統一。”
機器身份管理是下一個關鍵的安全投資領域。解決這一差距的企業將通過降低數據泄露風險和提高運營效率獲得競爭優勢。
影子AI：隱匿的463萬美元數據泄露乘數
IBM 2025年的數據顯示，影子AI現在給企業造成的單次數據泄露成本高達463萬美元，比平均水平高出16%，然而，97%的遭受數據泄露的企業缺乏基本的AI訪問控制。
Prompt Security首席執行官Itamar Golan告訴VentureBeat：“我們每天會看到50個新的AI應用，目前已經收錄了12000多個。”WinWire首席技術官Vineet Arora在最近接受VentureBeat采訪時表示：“各部門紛紛采用未經批準的AI解決方案，因為即時收益太誘人，讓人難以抗拒。”Arora警告稱：“突然之間，大量鮮為人知的AI應用在未經任何合規或風險審查的情況下處理企業數據。”
按照每月5%的增長速度計算，到2026年年中，影子應用的數量可能會翻倍。Cyberhaven的數據顯示，工作場所ChatGPT賬戶中有73.8%未經授權。企業AI使用量在24個月內增長了61倍。一位不愿透露姓名的財富500強企業首席信息安全官一針見血地指出：“這就像試圖清點煙霧的數量。”
傳統安全措施在此失效。Arora向VentureBeat解釋道：“大多數傳統管理工具無法全面了解AI應用的情況。”他的治理框架針對這一問題提出了解決方案：設立負責任的AI辦公室，部署具備AI意識的安全控制措施，并對AI架構應用零信任原則。
Arora強調：“全面禁止往往會使AI的使用轉入地下，這只會加大風險。”“你無法阻止AI的采用，但可以引導其安全使用。”
Golan表示：“根據歐盟《AI法案》，‘罰款可能比GDPR(通用數據保護條例)下的罰款還要高得多’。”然而，禁止并非解決之道。Arora證實：“一旦員工有了獲批的AI使用途徑和明確的政策，他們就不再覺得有必要偷偷使用隨機工具。”
安全負責人的戰略要務
在對IBM《2024年數據泄露成本報告》中記錄的數十起數據泄露事件進行了18個月的研究和分析后，明確的戰略要務浮出水面。
假設任何單一身份都可能被入侵。設計能夠限制爆炸半徑的系統，而非試圖阻止每一次數據泄露。世邦魏理仕全球首席信息安全官Eric Hart也秉持這一理念：“關鍵不在于不發生任何安全事件，而在于在事件不可避免地發生時將損失降到最低。”
在添加安全工具之前，先投資于身份可見性。企業無法保護其看不見的東西。要想成功，就必須在嘗試治理之前，對所有人類、機器和AI身份擁有完整的可見性。
將深度偽造視為生存威脅，而非邊緣案例。每個企業都需要立即部署深度偽造防御措施。預計2027年將造成400億美元損失，那些持觀望態度的企業將為此付出代價。
在智能體自我管理之前對其進行管控。管控窗口正在關閉。一旦智能體變得足夠自主，能夠抵抗管控，就為時已晚。
接受傳統安全模式已過時。靜態策略、定期審查和人力規模的治理在數以百萬計的身份以機器速度運行的環境中無法發揮作用。未來需要的是用AI來對抗AI，讓人來制定戰略，而非管理實施。
變革的必然性
通過GenAI實現身份安全的變革，是網絡安全的轉折點。能夠利用這些能力并管理風險的企業將蓬勃發展。那些未能做到這一點的企業將成為自互聯網誕生以來網絡安全領域最重大變革的犧牲品。
從CrowdStrike的Falcon平臺、CyberArk的身份安全平臺、ForgeRock的自主身份、Ivanti的Neurons、微軟的安全副駕駛、Okta的身份云、Palo Alto Networks的Cortex、SentinelOne的Singularity到Venafi的控制平面，企業所需的工具已經齊備。安全負責人擁有應對深度偽造、不受管控的智能體和激增的機器身份的資源，但現在是時候采取戰略性行動了。
Hart的智慧引人共鳴：“安全在于持續維護，在于不斷進化。你如何以全新或不同的方式看待和利用你所擁有的東西?”在一個智能體激增、深度偽造破壞信任、機器身份數量呈指數級超過人類身份的時代，進化不是建議——而是生存的必需。
AI驅動的攻擊與AI驅動的防御之間的競賽將決定網絡安全的下一個十年。贏家將認識到，身份安全不再僅僅是管理訪問權限——而是要治理一個由人類、機器和AI實體組成的生態系統，這些實體正以前所未有的規模和速度運行。
變革已然來臨，風險真實存在，引領而非被動應對的機會正在縮小。接下來會發生什么，取決于安全負責人在未來18個月內所做的決策。
