盡管企業持續向安全啟用GenAI應用和智能體轉變，但影子AI(即員工使用的未經授權的AI應用)的增長仍在加劇潛在的安全風險，據估計，目前所有應用采用量中有超過50%為影子AI。
GenAI平臺的興起
GenAI平臺是支持企業構建定制化AI應用和智能體的基礎架構工具，鑒于其使用簡單且靈活，已成為影子AI中增長最快的類別。
GenAI平臺促進了企業數據存儲與AI應用的直接連接，其普及使用帶來了新的企業數據安全風險，凸顯了數據防泄露(DLP)以及持續監控和意識提升的重要性。與GenAI平臺使用相關的網絡流量較前三個月也增長了73%。5月，已有41%的企業至少使用了一個GenAI平臺，約29%的企業正在使用Microsoft Azure OpenAI，其次是Amazon Bedrock(22%)和Google Vertex AI(7.2%)。
Netskope威脅實驗室總監Ray Canzanese表示：“影子AI的快速增長使得企業有責任確定誰在使用GenAI平臺創建新的AI應用和智能體，以及他們在哪里構建和部署這些應用和智能體。安全團隊并不希望阻礙終端員工的創新愿望，但AI的使用只會增加。為了保護這種創新，企業需要徹底改革其AI應用控制，并調整其數據防泄露策略，以納入實時用戶指導元素。”
本地化GenAI部署的增加
從通過本地GPU資源本地部署GenAI，到開發與SaaS GenAI應用或GenAI平臺交互的本地工具，企業正在評估多種利用AI快速創新的選項，并且越來越多地轉向大語言模型(LLM)接口。
然而，本地部署也意味著企業需對其GenAI基礎設施的安全負全責。
34%的企業正在使用LLM接口，其中Ollama是當前采用率最高的，而LM Studio和Ramalama等才剛剛嶄露頭角。
與此同時，終端員工正在試用AI工具并訪問AI市場。例如，67%的企業的用戶正在從Hugging Face下載資源。
智能體的前景正推動著這一行為，數據顯示，目前各企業中已有大量用戶正在構建智能體，并利用SaaS解決方案的智能體AI功能。目前，GitHub Copilot已在39%的企業中使用，5.5%的企業有用戶在本地運行由流行智能體框架生成的智能體。
此外，本地智能體正從SaaS服務中檢索更多數據，并且它們通過瀏覽器以外的更多API端點進行訪問。66%的企業的用戶正在向api.openai.com發起API調用，13%的企業的用戶正在向api.anthropic.com發起調用。
SaaS GenAI應用持續增長
Netskope目前追蹤的GenAI SaaS應用已超過1550個，而2月份僅為317個，這表明新應用在整個企業中的發布和采用速度之快。
目前，企業平均使用約15個GenAI應用，而2月份為13個，此外，每月上傳到GenAI應用的數據量從7.7GB增至8.2GB，環比增長。
隨著越來越多的安全團隊致力于在整個企業中安全地啟用這些應用和解決方案，因為這些聊天機器人現已更好地集成到其生產力套件中，企業用戶開始圍繞專用工具(如Gemini和Copilot)進行整合。
自Netskope于2023年開始追蹤熱門GenAI應用ChatGPT以來，該應用在企業中的受歡迎程度首次出現下降。
在各企業最受歡迎的十大GenAI應用中，自2月份以來，只有ChatGPT的受歡迎程度有所下降，而其他熱門應用，包括Anthropic Claude、Perplexity AI、Grammarly和Gamma，在企業中的采用率均有所提升。
此外，Grok的受歡迎程度提升使其首次躋身十大最常用應用之列，盡管它仍位于十大最常被阻止的應用列表中，但隨著更多企業評估并選擇精細控制和監控，其被阻止率呈下降趨勢。
