Gartner研究副總裁Akif Khan表示：“過去十年在AI領(lǐng)域出現(xiàn)的幾個(gè)拐點(diǎn)使創(chuàng)建合成圖像成為了可能。這些人工生成的真實(shí)人臉圖像被稱為深度偽造，惡意行為者可利用這個(gè)手段騙過生物識別身份驗(yàn)證或令其失效。其后果是，企業(yè)可能會因?yàn)樯矸菡J(rèn)證和驗(yàn)證解決方案無法分辨被驗(yàn)證者的臉是真人還是深度偽造，而開始質(zhì)疑它們的可靠性。”
目前，使用人臉生物識別技術(shù)的身份認(rèn)證和驗(yàn)證流程依賴于呈現(xiàn)攻擊檢測(PAD)評估用戶的真實(shí)性。Khan表示：“數(shù)字注入攻擊已經(jīng)開始利用目前能夠通過AI生成的深度偽造，而當(dāng)前定義和評估PAD機(jī)制的標(biāo)準(zhǔn)與測試流程并未涵蓋此類攻擊。”
Gartner的研究表明，雖繞呈現(xiàn)攻擊是最常見的攻擊載體，但注入攻擊(IAD)在2023年增長了200%。為防范此類攻擊，需要結(jié)合使用PAD、IAD與圖像檢測。
通過結(jié)合使用
為幫助企業(yè)防范能夠騙過人臉生物識別技術(shù)的AI生成深度偽造威脅，首席信息安全官(CISO)與風(fēng)險(xiǎn)管理領(lǐng)導(dǎo)人必須選擇能夠證明自己具備超越當(dāng)前標(biāo)準(zhǔn)的能力和計(jì)劃，并且正在對這些新型攻擊進(jìn)行監(jiān)視、分類和量化的廠商。
Khan表示：“企業(yè)應(yīng)該與專門投資于使用IAD和圖像檢測技術(shù)減少這種新型深度偽造威脅的廠商合作，開始制定最低的控制標(biāo)準(zhǔn)。”
在制定戰(zhàn)略和最低標(biāo)準(zhǔn)后，CISO和風(fēng)險(xiǎn)管理領(lǐng)導(dǎo)人必須添加設(shè)備識別、行為分析等額外的風(fēng)險(xiǎn)和識別信號，以便提高檢測到身份驗(yàn)證流程受到攻擊的幾率。
最重要的是，負(fù)責(zé)身份和訪問管理的安全與風(fēng)險(xiǎn)管理領(lǐng)導(dǎo)人應(yīng)該行動起來，通過選擇能夠驗(yàn)證真人的技術(shù)和落實(shí)防止賬戶接管的措施來降低AI深度偽造攻擊所帶來的風(fēng)險(xiǎn)。
Gartner客戶可以在“2024年預(yù)測：人工智能和網(wǎng)絡(luò)安全——化變革為機(jī)遇”中了解更多信息。
