惡意攻擊者現在可以通過云計算、人工智能工具和人工智能算法來制造惡意信息。這些惡意攻擊成功的結果既有技術基礎，也有社會基礎，為國家和非國家的攻擊者提供了制造和傳播虛假信息的強大渠道和工具。上述數字平臺和網站服務還為惡意攻擊者提供了實驗、監控、迭代和優化虛假信息活動影響的能力。這些攻擊通常是發起其他網絡攻擊(如網絡釣魚、社會工程或惡意軟件感染)之前的預熱行動。
例如，全球數據公司(GlobalData)2022年的一項研究估計，推特上10%的活躍賬戶都在發布垃圾內容。推特稱這一數字遠低于5%。
表：虛假信息和虛假信息威脅的目標、手段和后果表：虛假信息和虛假信息威脅的目標、手段和后果
虛假信息或錯誤信息的流動以及國家和非國家人士的相關網絡行動正在充斥網絡空間，目的是造成不確定性的信息、引起人們對真相的冷漠、疲于尋找真相甚至畏懼尋找真相。更加嚴重的是，虛假信息和不實信息已變成對民主、公開辯論和自由的現代社會的主要威脅，政策制定者應該把虛假信息的解決方案放在議程的核心位置，同時也應考慮安全和隱私問題。隨著俄羅斯和烏克蘭戰爭的爆發，大量虛假信息的攻擊浪潮進一步加劇了這一情況，并引起了研究界、政府和公眾的注意。因此，歐洲議會于2022年3月9日發布了一項關于外國干涉歐盟所有民主進程的決議。
趨勢
與2021年類似，世界經濟論壇2022年發布的《全球風險報告》指出，數字化和日益增長的網絡威脅之間的相互作用也會產生潛在的后果。深度造假和“雇傭假信息”的業務數量增長可能會加深社會、企業和政府之間的信任割裂。例如，深度造假可能會影響選舉或政治結果。除此之外，虛假信息還影響著國家之間的合作，因為網絡安全已成為分歧而非合作的來源。根據全球風險認知調查(GRPS)，跨境網絡攻擊和錯誤信息被認為是目前緩解風險的努力“尚未開始”或處于“早期發展”的領域。
根據歐盟CONCORDIAH2020項目平臺，深度造假、宣傳虛假信息和傳謠運動無處不在，它們旨在引導用戶認知出錯，直接影響人們的日常生活和社會。
俄烏戰爭
虛假信息作為一種信息戰方法可以追溯到冷戰時期，并在2016年美國大選后在美國復蘇，源于當時俄羅斯被指控干預了美國選舉過程。在俄羅斯和烏克蘭之間的戰爭中，虛假信息在網絡戰中的核心作用得到了證實，網絡戰從攻擊骨干網演變為虛假信息輿論攻擊。甚至在“物理”戰爭開始之前，虛假信息攻擊就被用作俄羅斯入侵烏克蘭的準備計劃，并在入侵期間大規模地實施。
例如，歐洲新聞頻道(Euronews)發布了歐洲專家協會(EuropeanExpertAssociation)的一份報告，該報告最近由全球虛假信息指數(GlobalDisinformationIndex)獨立評估，內容是俄羅斯用來為軍事行動辯護的各種未經證實的說法，比如烏克蘭正準備攻擊頓巴斯的新聞。在此背景下，根據歐洲專家協會烏克蘭創始人兼研究總監瑪麗亞·阿夫迪娃的說法，虛假信息傾向于數量而非質量，試圖耗盡人們辨別真實信息和事實的能力。這種方法類似于旨在耗盡物理機器資源的傳統DDoS攻擊。
戰爭中的所有參與者都使用了虛假信息。俄羅斯的虛假信息集中在入侵的動機(例如，去納粹化，解放烏克蘭)，烏克蘭和北約的侵略，或美國向烏克蘭提供生物武器。烏克蘭的虛假信息集中在激勵軍隊和強調俄羅斯的軍事損失上。其他國家也助長了虛假信息的傳播，例如在烏克蘭使用的化學武器據傳由中國提供。
此外，基于深度偽造的人工智能虛假信息在戰爭中發揮了重要作用，并導致偽造了俄羅斯總統弗拉基米爾·普京和烏克蘭總統弗拉基米爾·澤連斯基的視頻，其中的視頻信息出現了支持敵對方的觀點。然而，這些視頻是假的，并在網上大肆傳播開來。
在這場由人工智能、深度造假和社交網絡引發的虛假信息完美風暴中，包括Meta、YouTube和Twitter在內的互聯網網站大公司宣布了一波又一波的新措施，以回應烏克蘭政府、世界領導人和公眾日益增長的要求。
人工智能技術支持下的虛假信息和深度造假
人工智能支持的虛假信息在制造和傳播虛假信息方面的作用越來越重要，它可以使未來虛假信息的供應無限大。模擬真人的機器人激增很容易破壞“通知-評論”規則制定過程，以及社區互動，因為政府機構會充斥著虛假評論。
在2021年的ETL（歐盟網絡安全威脅態勢）中，我們已經觀察到人工智能驅動的社交媒體是虛假信息傳播的基礎，導致社會混亂。在這種背景下，深度造假技術正在迅速發展。輔助技術使得深度造假的創作更加簡單，而社交媒體則有助于深度造假的傳播。此外，由于還無法完全消除深度造假，虛假信息和虛假信息運動正變得越來越可信。
特別是，政治領導人制作或傳播的內容幾十年來一直被操縱或斷章取義，且這種趨勢正在加劇。深度造假的出現將這種做法提升到了一個全新的水平，為惡意行為者提供了更智能和簡單易用的工具，用于生成幾乎不可能與真實內容區分開來的虛假內容(音頻、視頻、圖像和文本)。人工智能的力量允許惡意行為者（包括國家和非國家行為者）進行有針對性的攻擊，一方面針對個人和用戶進行攻擊，另一方面定制個性化的虛假信息。
深度造假和基于人工智能的虛假信息傳播的結果是信息、媒體和新聞業可信度的喪失。這種情況可能會導致騙子紅利，這是文獻作者Chesney和Citron描述的主要風險，虛假信息攻擊的目標不是創造假新聞，而是否認真相。
如果虛假信息被用來針對整個社區，制造意識形態沖突，擾亂選舉，抵消限制大流行病傳播的努力，那么它在很大程度上也被用來傷害個人。據微軟稱，超過96%的深度偽造視頻與色情有關，而不同的攻擊針對的是人的聲譽。這些攻擊造成的損害在虛假信息被正確揭穿后仍然存在。
定制化造假服務
ETL2021觀察到，專業的虛假信息是由主要政府、政黨和公關公司大規模制造的。自2019年以來，越來越多的第三方一直在提供虛假信息服務，為客戶提供有針對性的攻擊方案。許多國家都提供服務，越來越多的非國家和私營商業組織正在使用這些服務。
這種雇傭虛假信息的趨勢正在增加，使得虛假信息宣傳活動易于實施和管理。這些服務加上深度造假很可能會增加整個社會的不信任。根據國際媒體評估中心(CIMA)的說法，雇傭虛假信息是一個蓬勃發展的行業，在這個行業中，私人營銷、傳播和公關公司通過在網上傳播虛假信息和操縱內容來制造不和。CIMA稱，自2009年以來，用于宣傳服務的資金總額至少為6000萬美元。
新冠肺炎與綠色轉型
2019冠狀病毒病(COVID-19)是2021年虛假信息攻擊的首要話題，導致世界衛生組織(世衛組織)警告稱，網上虛假信息和錯誤信息泛濫。這些虛假信息運動旨在傳播人們對冠狀病毒疫苗有效性的恐懼、不確定性和懷疑。企業和個人成為虛假信息運動的目標，其攻擊重點是綠色通行證(根據COVID-19疫苗接種為邊境過渡提供便利)、強制疫苗接種、衛生護照、大規模免疫檢測和封鎖。2022年，圍繞COVID-19以及虛假信息和不實信息的辯論仍在繼續，努力尋找抵消或至少容忍虛假信息和不實信息的方法。
路透社研究所《2021數字新聞報道》（TheReutersInstituteDigitalNewsReport2021）報告稱，對于新冠肺炎的虛假和誤導性信息位居調查榜首，54%的受訪者聲稱看到了有關新冠肺炎的虛假和誤導性信息，其中虛假信息和不實信息來自政客(29%)、普通人(16%)、活動家(15%)、記者(11%)和外國政府(9%)通過社交網絡、搜索引擎和其他信件程序傳播的。
新型冠狀病毒對能源部門和綠色轉型產生了強烈影響。在疫情期間，我們的能源消耗有所減少，但碳密集型技術和化石燃料的消耗仍大得令人印象深刻。后新冠時期的恢復能源措施大多忽視了綠色轉型，而傾向于短期穩定的能源政策，而寬松的貨幣政策進一步扭曲了綠色、基于市場的解決方案或投資。與此同時，不同的行為群體投入了大量精力來減緩綠色轉型，比如分享虛假信息和錯誤信息，以及表達對氣象科學領域的不信任。
相關虛假信息攻擊事件
1．選舉仍然是虛假信息攻擊的主要目標和關注重點。微軟聲稱已經關閉了許多針對民選官員和候選人、促進民主的組織、活動人士和媒體的網站。在這種情況下，社交媒體平臺的操縱者試圖傳播虛假信息和錯誤信息。
2．根據PwC的數據顯示，在3602名受訪者中，分別有19%和33%的人對以下問題回答“顯著增加”和“增加”:“您預計組織中這些事件的可報告事件將如何變化?與2021年相比，您預計2022年來自這些信息載體/行為群體的威脅會發生什么變化?”
3．虛假信息運動越來越復雜，虛假信息的范圍越來越大。現代的計算基礎設施、社交媒體、數據生成工具和人工智能方法的技術結合，正在瞄準攻擊民主的基礎。
4．根據微軟的說法，越來越多的惡意攻擊者同時使用網絡安全和虛假信息進行攻擊以實現他們的目標。
5．在對未經審查的平臺進行的一項分析中發現，在20萬篇Telegram帖子中，那些鏈接到誤導性信息來源的帖子比那些鏈接到專業新聞內容的帖子被分享得更多，但只有少數幾個頻道成為了目標。
6．澳大利亞制定了《關于虛假信息和錯誤信息的澳大利亞行為準則》，該準則已被澳大利亞的Twitter、谷歌、Facebook、微軟、Redbubble、TikTok、Adobe和蘋果公司采用。
7．TikTok一直被用于傳播虛假信息，得益于其對視頻的不審核和快速投放的軟件設計。
8.生成對抗網絡(GANs)越來越多地被用于傳播虛假信息。2021年，業余的攻擊者利用GAN傳播了虛假信息活動，并偽造了社交媒體檔案。
參考文獻
1.CarolineJack,'LexiconofLies:TermsforProblematicInformation'(NewYork:Data&Society,2017),
2.Europol,EUSERIOUSANDORGANISEDCRIMETHREATASSESSMENT(SOCTA2021),2021
3.MicrosoftFY21DigitalDefenseReport
4.ENISAThreatLandscape2021.
5.TheGlobalEconomicForum,TheGlobalRisksReport202116thEdition,2021
6.Chesney,RobertandCitron,DanielleKeats,DeepFakes:ALoomingChallengeforPrivacy,Democracy,andNationalSecurity(July14,2018).107CaliforniaLawReview1753(2019),UofTexasLaw,PublicLawResearchPaperNo.692,UofMarylandLegalStudiesResearchPaperNo.2018-21,AvailableatSSRN:https://ssrn.com/abstract=3213954orhttp://dx.doi.org/10.2139/ssrn.3213954
7.ChuckBrooks,AlarmingCybersecurityStats:WhatYouNeedToKnowFor2021,March2021,
8.SamanthaBradshaw,HannahBailey,PhilipN.Howard,IndustrialisedDisinformation2020GlobalInventoryofOrganisedSocialMediaManipulation,2020,
9.PwC,2022GlobalDigitalTrustInsights,October2021
