2024 年的網絡安全問題可以用兩個字母來概括：AI(如果縮小到 gen AI，則為五個字母)。組織仍處于了解這項技術的風險和回報的早期階段。盡管它可以改善數據保護、遵守合規(guī)性法規(guī)并實現更快的威脅檢測，但威脅行為者也在使用 AI 來加速他們的社會工程攻擊，并使用惡意軟件破壞 AI 模型。

　　2024 年，人工智能可能獲得了最多的關注，但它并不是組織必須應對的唯一網絡威脅。憑證盜竊仍然是一個問題，使用被盜憑證的攻擊同比增長了 71%。技能短缺仍在繼續(xù)，公司在數據泄露后又損失了 176 萬美元 。隨著越來越多的公司依賴云，云入侵事件激增也就不足為奇了。

　　但過去一年網絡安全領域取得了積極進展。CISA 的Secure by Design 計劃與 250 多家軟件制造商簽約，以改善其網絡安全狀況。CISA 還推出了網絡事件報告門戶，以改善組織共享網絡信息的方式。

　　去年的網絡安全預測主要關注人工智能及其對安全團隊未來運作方式的影響。今年的預測也強調了人工智能，表明網絡安全可能已經達到了安全和人工智能相互依存的程度，無論好壞。

　　以下是今年的預測：

　　影子人工智能無處不在(IBM 安全產品管理副總裁 Akiba Saeedi)

　　影子人工智能將比我們想象的更加普遍，也更加危險。企業(yè)每天都會在系統(tǒng)中部署越來越多的生成式人工智能模型，有時甚至在企業(yè)不知情的情況下部署。到 2025 年，企業(yè)將真正看到“影子人工智能”的規(guī)模——未經批準的人工智能模型，由未得到適當管理的員工使用。影子人工智能對數據安全構成重大風險，2025 年成功應對這一問題的企業(yè)將采用明確的治理政策、全面的員工培訓以及認真的檢測和響應。

　　身份的轉變(IBM 安全產品管理執(zhí)行總監(jiān) Wes Gyure)

　　隨著混合云和應用現代化計劃的實施，企業(yè)對身份的看法將繼續(xù)發(fā)生變化。認識到身份已成為新的安全邊界，企業(yè)將繼續(xù)轉向“身份優(yōu)先”戰(zhàn)略，管理和保護對應用程序和關鍵數據(包括新一代人工智能模型)的訪問。2025 年，該戰(zhàn)略的一個基本組成部分是構建有效的身份結構，即一套與產品無關的集成身份工具和服務。如果做得好，這將為安全專業(yè)人員帶來可喜的緩解，緩解多云環(huán)境激增和身份解決方案分散造成的混亂和風險。

　　每個人都必須共同努力來應對威脅(Sam Hector，IBM 安全全球戰(zhàn)略負責人)

　　網絡安全團隊將不再能夠孤立地有效管理威脅。生成式人工智能和混合云采用帶來的威脅正在迅速演變。與此同時，量子計算對現代公鑰加密標準構成的風險將變得不可避免。鑒于新的量子安全加密標準的成熟，人們將推動發(fā)現加密資產并加速加密管理的現代化。明年，成功的組織將是那些高管和多元化團隊共同制定和執(zhí)行網絡安全戰(zhàn)略、將安全融入組織文化的組織。

　　為后量子密碼標準做好準備(Ray Harishankar，IBM 院士，IBM Quantum Safe)

　　隨著各組織在明年開始向后量子密碼學過渡，敏捷性對于確保系統(tǒng)為持續(xù)轉型做好準備至關重要，尤其是隨著美國國家標準與技術研究所 (NIST) 繼續(xù)擴展其后量子密碼學標準工具箱。NIST 最初的后量子密碼學標準向世界發(fā)出信號，現在是時候開始走向量子安全了。但同樣重要的是加密敏捷性的需求，確保系統(tǒng)能夠快速適應新的加密機制和算法，以應對不斷變化的威脅、技術進步和漏洞。理想情況下，自動化將簡化和加速這一過程。

　　數據將成為人工智能安全的重要組成部分(IBM 安全軟件開發(fā)副總裁 Suja Viswesan)

　　數據和人工智能安全將成為可信賴人工智能的重要組成部分。“可信賴人工智能”通常被解釋為透明、公平和保護隱私的人工智能。這些都是關鍵特征。但如果人工智能及其驅動數據不安全，那么所有其他特征都會受到損害。到 2025 年，隨著企業(yè)、政府和個人與人工智能的互動越來越頻繁，風險也越來越大，數據和人工智能安全將被視為可信賴人工智能配方中更重要的一部分。

　　組織將繼續(xù)學習人工智能的優(yōu)勢與威脅的對比(Mark Hughes，IBM 網絡安全服務全球執(zhí)行合伙人)

　　隨著人工智能從概念驗證階段逐漸成熟到大規(guī)模部署，企業(yè)獲得了生產力和效率提升的好處，包括自動化安全和合規(guī)任務以保護其數據和資產。但組織需要意識到人工智能正被用作威脅行為者破壞長期安全流程和協(xié)議的新工具或渠道。企業(yè)需要采用人工智能的安全框架、最佳實踐建議和防護措施并快速適應——以應對人工智能快速發(fā)展帶來的好處和風險。

　　更好地了解人工智能輔助威脅與人工智能驅動威脅(Troy Bettencourt，IBM X-Force 全球合作伙伴兼負責人)

　　防范 AI 輔助威脅;為 AI 驅動的威脅做好規(guī)劃。AI 驅動的威脅和 AI 輔助威脅之間存在區(qū)別，包括組織應如何考慮其主動安全態(tài)勢。迄今為止，AI 驅動的攻擊(如深度偽造視頻詐騙)一直受到限制;當今的威脅仍然主要是 AI 輔助的——這意味著 AI 可以幫助威脅行為者創(chuàng)建現有惡意軟件的變體或更好的網絡釣魚電子郵件誘餌。為了應對當前的 AI 輔助威脅，組織應優(yōu)先為自己的 AI 解決方案實施端到端安全性，包括保護用戶界面、API、語言模型和機器學習操作，同時注意防御未來 AI 驅動攻擊的策略。

　　這些預測傳達出一個非常明確的信息：了解人工智能如何幫助和傷害一個組織，對于確保您的公司及其資產在 2025 年及以后受到保護至關重要。