DeepFake檢測技術具有許多現實應用場景的價值，比如攻擊者將不雅視頻主角人臉換成目標人臉進行傳播等場景時，DeepFake檢測技術可“鑒偽求真”，追溯真相。
目前業界針對DeepFake換臉視頻的檢測方案主要分兩類：幀級檢測和視頻級檢測。幀級檢測方法標注成本高，還要將幀級預測轉化為視頻級預測，對融合技術要求高，極易導致漏檢或誤檢，視頻級檢測研究過多專注于按照時序構建的檢測模型，導致檢測效果受到一定限制。
阿里安全圖靈實驗室算法工程師向溪介紹，為更好地檢測部分篡改的DeepFake視頻，阿里安全圖靈實驗室提出了一種全新的檢測方法，這種方法標注簡單，并能幫助神經網絡更好地學習人臉特征，實現更好的檢測效果。
阿里安全圖靈實驗室還發現了攻擊者篡改視頻時露出的馬腳，由于攻擊者對視頻實行單幀篡改，導致同一人臉在相鄰幀上會有一些抖動，因此研究人員設計了新檢測模塊來發現這些抖動，輔助識別。
此外，此前業界提出的檢測方法多適用于針對單人視頻臉部篡改或多人視頻所有人臉篡改，阿里安全構建了一個部分攻擊數據集，彌補了DeepFake檢測數據集在多人臉視頻中只對一個人臉或者幾個人臉篡改場景里的空白。
圖片包含三張人臉，攻擊者如果只對一個人的人臉進行DeepFake換臉攻擊，阿里安全新技術也可成功檢測圖片來源：YouTube
通過技術革新，阿里安全圖靈實驗室DeepFake檢測技術在視頻級檢測和幀級檢測領域均名列前茅。該技術的共同研究者、中科院計算所副研究員王樹徽認為，該研究成果對于一般性視頻多實例學習與標注技術研究也具有重要啟發意義。
今年3月，阿里發布新一代安全架構，致力于從源頭防范安全威脅，構建安全體系，并打造數字基建安全樣板間，阿里安全研發的DeepFake檢測技術作為新一代安全架構的核心AI技術，為數字基建的安全建設起到重要作用，并成功實現落地應用。
阿里安全圖靈實驗室資深算法專家華棠介紹稱，截止目前，阿里已經將該檢測技術使用在內容安全場景中，后續也會在直播場景中進行布局。
