近日，ISC.AI 2024“尋找明星場景·賦能垂直領域”安全大模型聯合峰會在北京圓滿召開。本次聯合峰會由中國計算機學會計算機安全專委會主辦，中國計算機學會計算機安全專委會技術工作組、360數字安全集團、ISC互聯網安全大會組委會承辦，特別邀請知名技術專家、行業領袖、企業代表，共話安全大模型的發展之道，力求促進政產學研用協同創新，凝聚和擴大生態共識，為構建更加安全、可靠的數字化世界奠定堅實基礎。
大會致辭環節中，公安部第一研究所所領導、中國計算機學會計算機安全專業委員會常務副主任于銳指出，安全行業是大模型應用的重要場景，安全大模型需要融合多元化的知識來源，不斷更新和豐富訓練數據，重視和強化安全大模型的評測優化，持續提升安全大模型的效能和可靠性；同時，數據標注、模型訓練，微調和評測，推理部署，技術服務都需要投入大量的專業技術人員，急需加強對人工智能、大模型與數據安全跨學科綜合性人才的培養。
360集團創始人，中國計算機學會計算機安全專委會副主任周鴻袆在致辭中指出，要讓大模型在中國得到真正的發展，就要讓它走下神壇，從原子彈變成茶葉蛋。網絡安全是現代化進程中不可或缺的一部分。借助安全領域產業和場景優勢，發展垂直化小型化低成本的安全大模型，能夠為大模型的應用提供更有針對性的保障，有助于我們走出一條具有中國特色的大模型發展之路。
主題演講環節中，中國工程院院士沈昌祥就《用安全可信網絡產品筑牢人工智能安全底座》進行了分享。他指出，針對AI和大模型的發展，必須提升產業韌性和工作水平，確保安全可靠。在大模型對生產力實現全面滲透的今天，要用主動免疫可信計算筑牢人工智能安全防線，大模型及生成式AI必須首先確保安全。 中國科學院信息工程研究所正高級工程師、博導劉玉嶺在《大模型驅動安全威脅感知：進展與趨勢》的主題分享中提到，隨著大模型的興起，在高度對抗的網絡安全攻防中如何用好大模型這一利器成為了各界關注的焦點。劉玉嶺教授從大模型的發展現狀，大模型驅動的威脅情報整編、復雜程序分析、安全威脅發現、安全風險管控等角度闡述當前的進展，提出大模型賦能網安的新范式。
國防科技大學計算機學院副研究員喻波在《大語言模型引導的網絡協議模糊測試：進展與問題》的主題分享中，詳細說明了近幾年基于大模型進行模糊測試的進展，指出傳統網絡協議存在初始種子選擇依賴性強、非文本類協議數據學習困難、協議實現自動遷移適配問題等挑戰。
北京郵電大學網絡空間安全學院教授、博導李祺在《基于大語言模型的威脅情報自動化抽取及APT攻擊檢測系統》的分享中表示，大語言模型以其強大的數據處理和分析能力，能夠在威脅情報分析、APT攻擊檢測以及攻擊組織溯源方面提供強有力的支持。
業界有大量大模型基礎能力的評測指標和方法，但基于安全大模型，開發各類安全場景時，這些基礎指標過于底層，不足以指導研發前的技術決策，和研發中的質量管控。360數字安全集團本地安全大腦主架構師萬曉川在《安全大模型產品的持續評測》的主題分享中，基于本地安全大腦集成360安全大模型的研發經驗，總結了如何設計場景指標，如何持續以場景指標評測，有序推進場景研發，實現場景價值。
LLMs在如靶場等安全系統中的應用能極大地簡化因操作復雜、數據量大帶來的問題，作為安全copliot實現提質增效。但在實際工作中，因LLMs本身的幻覺問題、數據質量問題、Prompt Injection等因素，會導致生成式內容難以有效匹配工作業務語境，不能實現in-context的安全工作流。對此，南京賽寧信息技術有限公司技術方案總監楊勁松作出《LLMs可控文本生成在賽寧AI靶場中的實踐》主題演講。
此外，北京金睛云華科技有限公司聯合創始人、副總裁胡文友先生，在《【CyberGPT】賦能威脅檢測&安全運營》的分享環節中，對網絡安全行業面臨的問題與挑戰、AI驅動的擴展威脅檢測&響應（XDR）解決方案、安全小模型技術&典型應用場景、安全大模型技術&典型應用場景等方面進行詳細介紹。
伴隨數字經濟的快速發展，大模型技術作為全球科技競爭的新高地、未來產業的新賽道、經濟發展的新引擎，不斷演進催生新質生產力的生成。此次ISC.AI 2024“尋找明星場景·賦能垂直領域”安全大模型聯合峰會的成功舉辦，行之有效地搭建了“政、產、學、研、用”互通互聯的平臺，源源不斷地向全行業輸出安全大模型建設和運營的前瞻觀點，以應對AI時代下的新挑戰。