今年4月，Anthropic首席信息安全官（CISO）做出了一項令人震驚的預測：在未來一年內，持有企業認證的AI虛擬員工將開始投入到企業運營中。這些智能體不僅將協助完成工作，還會成為員工隊伍的成員。
圖源：Andrey_Popov
企業這樣做的原因也很明顯：AI智能體能夠擴大自動化的規模、降低運營成本，并且連續工作。Salesforce已將這一愿景變為現實——于近期推出了AI“數字同事”。預計未來兩年AI智能體部署量將增長327% ，但從網絡安全角度來看，這一演進帶來了創新與風險并存的復雜局面。企業不僅授予軟件系統訪問權限，更是在賦予其身份、自主權和決策能力。這將徹底改變企業的安全策略。
具有自主權且經過認證的AI智能體易受攻擊
需要明確的是，這些AI智能體并非傳統意義上的工具。與傳統自動化或服務賬戶不同，這些智能體以認證用戶的身份使用企業資質進行操作、做出決策、與系統和數據互動，甚至在某些情況下執行敏感任務。這意味著它們將擁有與人類員工相同的訪問權限，并因此可能帶來相同的安全風險。
但與人類不同，AI智能體無法理解背景、意圖和后果。它們可能被提示注入或對抗性輸入等技術欺騙、操縱或脅迫。長期以來，我們都認為人類是整條安全鏈中最薄弱的環節，我們的心理弱點會被釣魚攻擊和社會工程學計劃所利用。但AI智能體是一個更脆弱的目標——它們會直接接受表面信息、不會求助，并且以機器的速度運行。一旦被入侵，它們可能成為埋藏在企業環境深處的一個持久而巨大的隱患。
重新思考AI時代的安全問題
登錄、密碼和訪問/權限級別等傳統安全工具圍繞人類行為設計。AI員工讓這些工具失去了作用，數量遠超人類用戶的非人類身份正在成為云環境中的主導力量。
隨著云投資持續呈爆發式增長（AI被認為是最大的推動力），并且越來越多的AI智能體被部署到云端，企業需要轉向新一代AI安全工具，才能對AI去蕪存菁，尤其是要解決以下問題：
• AI代理在企業內部將擁有何種程度的自主權和權限？
• 如何監控特權活動并檢測異常行為？
• 智能體是否會被提示注入或對抗性輸入利用或破解？
• 智能體的訓練數據來自何處？
AI智能體可能成為新一代企業內部威脅
AI為應用堆棧帶來了未經驗證的新組件，包括基礎設施、模型、數據集、工具和插件。而隨著代理的引入，AI創新達到了空前的速度。不同于大語言模型（LLM），智能體能夠自主推理、采取行動，并與其他智能體進行協調。AI智能體將被授予持續的訪問權限，它們不會休息和休假，而且可以大規模地部署到多個部門。這增加了企業環境的復雜性，并帶來了新的安全風險。如果智能體被“策反”，其在數分鐘內就能造成惡意內部人員數月才能造成的破壞。
AI員工的風險可能很快就會接近甚至超越內部人員，成為最危險的威脅來源。OWASP近期發布的《AI智能體威脅和應對之策》重點介紹了提示注入、工具濫用、身份冒充等新型威脅。值得注意的是，Unit 42最新研究發現，提示注入仍是最強大和最靈活的攻擊途徑之一，能夠盜取數據、濫用工具和篡改代理行為。
一直以來，網安防御體系都是圍繞人類構建的。如今，企業需要對以其員工名義行動的機器采取同樣甚至更嚴格的措施。
派拓網絡Prisma AIRS讓企業放心采用AI
派拓網絡推出的Prisma人工智能運行時安全（AIRS）專為幫助企業發現、評估和保護其環境中的每一個AI應用、模型、數據集和智能體而設計。通過采用Prisma AIRS，企業可獲得一個具有以下功能的綜合平臺：
• AI模型掃描：通過掃描模型漏洞確保AI模型使用的安全。保護AI生態系統免受模型篡改、惡意腳本和反序列化攻擊等風險。
• AI安全態勢管理：深入了解與AI生態系統相關的安全態勢風險，例如權限過多、敏感數據暴露、平臺配置錯誤、訪問配置錯誤等。
• AI紅隊測試：在攻擊者發現之前，發現潛在的漏洞問題和隱藏風險。派拓網絡的紅隊測試智能體能夠對AI應用和模型進行自動滲透測試，從而對AI部署進行壓力測試，并像真正的攻擊者一樣不斷學習和調整。
• 運行時安全：保護基于大語言模型（LLM）的AI應用、模型和數據免受運行時威脅，例如提示注入、惡意代碼、有毒內容、敏感數據泄露、資源過載、幻覺等。
• AI智能體安全：保護智能體（包括基于無代碼/低代碼平臺開發的智能體）免受新型智能體威脅，例如身份冒充、內存操縱和工具濫用等。
AI正在重塑攻擊模式和企業的運營方式，而Prisma AIRS能夠做出同樣快速的響應，使企業放心使用未來的AI技術。
