2020年8月，美國(guó)會(huì)研究服務(wù)處發(fā)布《深度偽造與國(guó)家安全》和《人工智能與國(guó)家安全》兩大報(bào)告，明確指出深度偽造已成為對(duì)手信息戰(zhàn)的一部分，對(duì)手可利用深度造假技術(shù)對(duì)抗美國(guó)及其盟國(guó)，生成虛假新聞報(bào)告，影響公開(kāi)披露的信息，瓦解公眾信任等。尤其是2020年美國(guó)大選將至，美各界對(duì)深度偽造信息也是嚴(yán)陣以待，采取各種措施圍追堵截。深度偽造技術(shù)在近幾年迅速興起，為國(guó)家間的政治抹黑、網(wǎng)絡(luò)攻擊、軍事欺騙、經(jīng)濟(jì)犯罪甚至恐怖主義行動(dòng)等提供了新工具，為國(guó)家安全帶來(lái)很大沖擊，這一領(lǐng)域的發(fā)展和動(dòng)向值得高度關(guān)注。

　　一、 什么是深度偽造技術(shù)

　　深度偽造（Deepfakes）是深度學(xué)習(xí)（Deep Learning）與偽造（Fake）二者的組合詞，顧名思義，出現(xiàn)于人工智能和機(jī)器學(xué)習(xí)技術(shù)時(shí)代。這一概念最早出現(xiàn)在2017年底，一開(kāi)始專指用基于人工智能尤其是深度學(xué)習(xí)的人像合成技術(shù)。隨著技術(shù)的進(jìn)步，深度偽造技術(shù)已經(jīng)發(fā)展為包括視頻偽造、聲音偽造、文本偽造和微表情合成等多模態(tài)視頻欺騙技術(shù)。

　　深度偽造技術(shù)的興起是人工智能發(fā)展到一定階段的產(chǎn)物，主要依賴人工神經(jīng)網(wǎng)絡(luò)，特別是生成對(duì)抗網(wǎng)絡(luò)（GAN）。GAN由兩個(gè)競(jìng)爭(zhēng)性人工神經(jīng)網(wǎng)絡(luò)組成，一個(gè)網(wǎng)絡(luò)（或稱為生成器）試圖造假，負(fù)責(zé)生成對(duì)抗樣本，例如復(fù)制照片、音頻錄音、視頻的原始數(shù)據(jù)集。另一個(gè)網(wǎng)絡(luò)，亦稱為判決器，負(fù)責(zé)鑒別偽造數(shù)據(jù)?；诿看闻袥Q迭代的結(jié)果，生成對(duì)抗網(wǎng)絡(luò)，不斷調(diào)整參數(shù)以創(chuàng)建越來(lái)越逼真的數(shù)據(jù)，直到不斷優(yōu)化的生成器使判決器無(wú)法再區(qū)分真實(shí)數(shù)據(jù)和偽造數(shù)據(jù)。

　　深度偽造不同于以往相對(duì)簡(jiǎn)單的PS圖像篡改或是其他的視頻、音頻篡改技術(shù)，而是基于訓(xùn)練樣本進(jìn)行人工智能的深度學(xué)習(xí)。樣本數(shù)據(jù)越多，計(jì)算機(jī)對(duì)目標(biāo)對(duì)象的模擬越真實(shí)，最后達(dá)到以假亂真的地步。深度偽造還結(jié)合目標(biāo)對(duì)象的臉型、語(yǔ)音、微表情、筆跡等生物特征進(jìn)行綜合學(xué)習(xí)，這是以往任何偽造技術(shù)所不能比擬的。

　　二、深度偽造常用應(yīng)用工具

　　在2020年5月澳大利亞戰(zhàn)略政策研究所發(fā)布的《深度偽造技術(shù)武器化》報(bào)告中詳細(xì)介紹了七個(gè)常見(jiàn)的深度造假工具：

　　（1）換臉。用戶將目標(biāo)臉部嵌入另一個(gè)身體。該方法可以應(yīng)用于靜止圖像和視頻，通過(guò)專用應(yīng)用程序在線獲取此技術(shù)的簡(jiǎn)單版本。

　?。?）重新投射。來(lái)自目標(biāo)源的面部被映射到用戶上，從而允許造假者操縱目標(biāo)的面部運(yùn)動(dòng)和表情。

　?。?）口型同步。用戶在目標(biāo)視頻上復(fù)制口部動(dòng)作，結(jié)合音頻生成，可使目標(biāo)述說(shuō)虛假內(nèi)容，導(dǎo)致視頻描繪另一個(gè)事實(shí)。

　?。?）動(dòng)作傳遞。源視頻中人的身體運(yùn)動(dòng)可以傳遞給真實(shí)視頻中的目標(biāo)人。

　　（5）圖像生成。用戶可以創(chuàng)建全新的圖像，例如面孔、物體、風(fēng)景或房間。

　　（6）音頻生成。用戶從真實(shí)語(yǔ)音的少量音頻樣本中創(chuàng)建合成語(yǔ)音。該技術(shù)可以與口型同步工具結(jié)合使用，從而使用戶將音頻“疊加”到預(yù)先存在的剪輯中。

　?。?）文字生成。用戶可以生成人工文本，包括社交媒體或網(wǎng)絡(luò)論壇上的簡(jiǎn)短“評(píng)論”或長(zhǎng)篇新聞或意見(jiàn)文章。人工生成的評(píng)論特別有效，因?yàn)榇祟愒诰€內(nèi)容有較大的可接受誤差范圍。

　　三、國(guó)外對(duì)深度偽造技術(shù)的重視和警惕

　　深度偽造技術(shù)初露雛形時(shí)，國(guó)外國(guó)家安全部門、著名智庫(kù)、研究機(jī)構(gòu)就敏銳察覺(jué)到該技術(shù)存在著威脅國(guó)家安全的巨大隱患，因而自該概念出現(xiàn)以來(lái)就開(kāi)始在政策層面、法律層面和技術(shù)層面加大了研究和限制力度，以防止該技術(shù)被惡意利用。

　　2018年9月，歐盟委員會(huì)官方發(fā)布《解決網(wǎng)絡(luò)虛假信息：歐洲的方式》通報(bào)，闡述了解決網(wǎng)絡(luò)虛假信息的關(guān)鍵總體原則和目標(biāo)。9月，歐盟發(fā)布其歷史上首份《反虛假信息行為準(zhǔn)則》，旨在從源頭打擊網(wǎng)絡(luò)虛假內(nèi)容。

　　2018年12月，美參議院推出《2018年惡意偽造禁令法案》，對(duì)制作深度偽造內(nèi)容引發(fā)犯罪和侵權(quán)行為的個(gè)人，以及明知內(nèi)容為深度偽造還繼續(xù)分發(fā)的社交媒體平臺(tái)，進(jìn)行罰款和長(zhǎng)達(dá)兩年的監(jiān)禁。如果偽造內(nèi)容煽動(dòng)暴力、擾亂政府或選舉，并造成嚴(yán)重后果，監(jiān)禁將長(zhǎng)達(dá)10年。

　　2019年6月，美眾議院提出《深度偽造責(zé)任法案》，要求任何創(chuàng)建深度偽造視頻媒體文件的人，必須用“不可刪除的數(shù)字水印以及文本描述”來(lái)說(shuō)明該媒體文件是篡改或生成的，否則將屬于犯罪行為。6月，美眾參兩院同時(shí)提出《2019年深度偽造報(bào)告法案》，明確了“數(shù)字內(nèi)容”的定義，規(guī)定國(guó)土安全部定期發(fā)布深度偽造技術(shù)相關(guān)報(bào)告。

　　2019年10月，美國(guó)際戰(zhàn)略研究中心發(fā)布《深度偽造技術(shù)政策簡(jiǎn)報(bào)》報(bào)告，分析了深度偽造對(duì)個(gè)人生活和民主國(guó)家造成的影響，并正通過(guò)互聯(lián)網(wǎng)迅速傳播，破壞美國(guó)及其盟國(guó)的民主進(jìn)程，建議政府應(yīng)制定相關(guān)規(guī)則與法律，并提高辨別真?zhèn)蔚募夹g(shù)能力。

　　2019年12月，美布魯金斯學(xué)會(huì)發(fā)布《檢測(cè)失敗時(shí)打擊深度偽造》報(bào)告，報(bào)告指出深度偽造將來(lái)可能變得越來(lái)越嚴(yán)重，目前很多研究和應(yīng)對(duì)措施集中于針對(duì)深度偽造的自動(dòng)檢測(cè)。但是，由于產(chǎn)生偽造數(shù)字內(nèi)容的技術(shù)有了很大的改進(jìn)，在不久的將來(lái)，自動(dòng)檢測(cè)深度偽造可能變得不可能。

　　2020年2月，美政府問(wèn)責(zé)局（GAO）發(fā)布《深度造假的科技評(píng)估與分析報(bào)告》，簡(jiǎn)述了深度造假的定義及其嚴(yán)重影響，總結(jié)了制作與檢測(cè)深度造假的相關(guān)技術(shù)，并分析了應(yīng)對(duì)深度造假面臨的各方面挑戰(zhàn)。

　　2020年3月，美智庫(kù)蘭德公司發(fā)布《利用社交媒體發(fā)現(xiàn)惡意、顛覆性的信息活動(dòng)：可擴(kuò)展的預(yù)警分析》報(bào)告，提出了將網(wǎng)絡(luò)分析和文本分析結(jié)合起來(lái)檢測(cè)信息活動(dòng)的新方法。

　　2020年5月，澳大利亞戰(zhàn)略政策研究所發(fā)布《深度偽造技術(shù)武器化》報(bào)告，介紹了深度偽造的定義、優(yōu)勢(shì)、常見(jiàn)的偽造工具，以及武器化深度偽造在四個(gè)關(guān)鍵領(lǐng)域的影響，并提出了應(yīng)對(duì)深度偽造挑戰(zhàn)的相應(yīng)建議。

　　2020年8月，美國(guó)會(huì)研究服務(wù)處發(fā)布《深度偽造與國(guó)家安全》和《人工智能與國(guó)家安全》兩大報(bào)告，明確指出深度偽造已成為對(duì)手信息戰(zhàn)的一部分。

　　四、深度偽造技術(shù)造成的影響

　?。ㄒ唬┗谏疃葌卧旒夹g(shù)的網(wǎng)絡(luò)信息作戰(zhàn)

　　深度偽造技術(shù)結(jié)合社交網(wǎng)絡(luò)的漣漪效應(yīng)，可以帶來(lái)大規(guī)模的以訛傳訛式擴(kuò)散，達(dá)到信息作戰(zhàn)目標(biāo)。在澳大利亞戰(zhàn)略政策研究所《深度偽造技術(shù)武器化》報(bào)告中詳細(xì)闡述了輿論攻防網(wǎng)絡(luò)信息作戰(zhàn)方面，借助于深度偽造技術(shù)，特別是文本生成工具的改進(jìn)，可讓人類“放手不管”，能以更快、更經(jīng)濟(jì)的方式生成“足夠好”內(nèi)容。此外，基于文本的深度偽造技術(shù)可實(shí)現(xiàn)自動(dòng)評(píng)論，不但顯著降低操作所需的技巧、時(shí)間，還使在線宣傳成本降低，從而降低開(kāi)展大規(guī)模網(wǎng)絡(luò)信息戰(zhàn)的成本，并擴(kuò)大參與者的范圍。非國(guó)家組織可能在這一領(lǐng)域變得越來(lái)越活躍，擅長(zhǎng)網(wǎng)絡(luò)信息戰(zhàn)的極端主義組織利用該技術(shù)的可能性也會(huì)增加。此外，深度造假還可使鼓吹活動(dòng)更加有效，尤其是在治理薄弱、具有潛在種族緊張局勢(shì)的地區(qū)利用深度偽造技術(shù)進(jìn)行宣傳、生成虛假信息已經(jīng)被用作信息戰(zhàn)的有效工具。

　　（二）基于深度偽造技術(shù)的新型AI網(wǎng)絡(luò)攻擊

　　深度偽造音頻是最先進(jìn)的新型人工智能（AI）網(wǎng)絡(luò)攻擊形式之一，黑客借助其音頻生成技術(shù)冒充高級(jí)管理人員，形成了一種強(qiáng)大的新工具來(lái)增強(qiáng)其企業(yè)電子郵件泄露（BEC）攻擊。例如，2019年3月，犯罪分子利用AI技術(shù)模仿高級(jí)管理者的聲音，騙取英國(guó)一家能源公司首席執(zhí)行官轉(zhuǎn)賬22萬(wàn)歐元。目前賽門鐵克和以色列國(guó)家網(wǎng)絡(luò)管理局（INCD）都對(duì)這種基于AI的網(wǎng)絡(luò)攻擊進(jìn)行了研究和報(bào)道。其中賽門鐵克詳細(xì)闡述了創(chuàng)建令人信服的深度偽造音頻所需的計(jì)算能力和語(yǔ)音資源，并指出該算法需要足夠數(shù)量的語(yǔ)音樣本來(lái)捕獲說(shuō)話者的自然語(yǔ)音節(jié)奏和語(yǔ)調(diào)。該公司目前正致力于可查看呼叫音頻，并向接收者提供其真實(shí)性概率評(píng)級(jí)的分析方法。防止這些攻擊的現(xiàn)有技術(shù)手段目前實(shí)施起來(lái)很昂貴，并且尚未定位用于解決深度偽造的音頻呼叫。一種可能性是使用認(rèn)證系統(tǒng)進(jìn)行組織間呼叫，另一個(gè)是使用區(qū)塊鏈技術(shù)和IP語(yǔ)音（VoIP）呼叫來(lái)驗(yàn)證呼叫者。在此期間，需要加強(qiáng)員工教育以防范這些威脅性的新型AI網(wǎng)絡(luò)攻擊與處理所有形式的BEC等。

　?。ㄈ┗谏疃葌卧旒夹g(shù)的戰(zhàn)場(chǎng)心理戰(zhàn)應(yīng)用策略

　　深度偽造技術(shù)兼具真實(shí)性、便捷性和快速演化性等特點(diǎn)，具有應(yīng)用于心理戰(zhàn)的巨大潛力。2019年6月，美國(guó)議員提請(qǐng)眾議院授權(quán)開(kāi)展深度偽造鑒別技術(shù)競(jìng)賽，要求DARPA實(shí)施有競(jìng)爭(zhēng)力的獎(jiǎng)勵(lì)計(jì)劃，刺激技術(shù)的研究、開(kāi)發(fā)或商業(yè)化，實(shí)際上是激勵(lì)人才將該項(xiàng)技術(shù)軍事化，從而應(yīng)用于心理戰(zhàn)和輿論攻防。

　　第一種應(yīng)用策略是針對(duì)指揮系統(tǒng)，戰(zhàn)場(chǎng)環(huán)境中，可以提前籌備規(guī)劃利用深度偽造技術(shù)干擾敵軍指揮效果，如人工智能換臉和語(yǔ)音合成地方軍政領(lǐng)導(dǎo)人的外貌和語(yǔ)音對(duì)基層部隊(duì)傳達(dá)假指示，偽造敵高層簽名對(duì)部隊(duì)下達(dá)假文件、假命令等。第二種應(yīng)用策略是針對(duì)敵戰(zhàn)地宣傳系統(tǒng)，如“換臉”敵新聞主播插播假新聞，干涉敵宣傳系統(tǒng)。第三種應(yīng)用策略是針對(duì)敵一線部隊(duì)，如模仿敵方領(lǐng)導(dǎo)人語(yǔ)音進(jìn)行現(xiàn)場(chǎng)指揮和戰(zhàn)場(chǎng)喊話。戰(zhàn)場(chǎng)情況瞬息萬(wàn)變，信息溝通不暢會(huì)對(duì)指揮員決策造成巨大影響，利用深度偽造技術(shù)合成的假音頻、假視頻、假文件投送至敵軍內(nèi)部，在信息封鎖的情況下會(huì)極大地考驗(yàn)指揮員的判斷能力，并增加指揮員出錯(cuò)概率，一定程度上能夠欺騙敵軍或在敵軍中造成混亂，有效干擾敵指揮系統(tǒng)以致決策錯(cuò)誤或延誤最佳時(shí)機(jī)，從而削弱敵戰(zhàn)斗力和戰(zhàn)斗意志，實(shí)現(xiàn)策反、勸降等目的。

　　五、深度偽造技術(shù)的檢測(cè)及面臨的挑戰(zhàn)

　　隨著深度偽造技術(shù)的飛速發(fā)展及造成的影響越來(lái)越大，對(duì)其檢測(cè)變得越來(lái)越重要。為此，相關(guān)研究機(jī)構(gòu)和互聯(lián)網(wǎng)公司在自動(dòng)深度偽造檢測(cè)工具研發(fā)中投入大量資金，積極開(kāi)發(fā)檢測(cè)技術(shù)。例如谷歌公司為幫助研究人員開(kāi)發(fā)深度偽造自動(dòng)檢測(cè)工具，于2019年9月公開(kāi)發(fā)布深度偽造視頻識(shí)別數(shù)據(jù)集，其中包含3000多段視頻，由多位真人演員在28個(gè)不同場(chǎng)景下拍攝，全球研究人員都可使用該完全開(kāi)源的數(shù)據(jù)集對(duì)深度偽造檢測(cè)工具進(jìn)行訓(xùn)練。

　?。?）軍事研究方面。以美國(guó)國(guó)防高級(jí)研究計(jì)劃局（DARPA）為例，重點(diǎn)研發(fā)媒體取證（MediFor）和語(yǔ)義取證（SemaFor）兩大項(xiàng)目，檢測(cè)并識(shí)別深度偽造技術(shù)制作的各型產(chǎn)品，以防御大規(guī)模的自動(dòng)虛假信息攻擊，提高美軍在信息作戰(zhàn)中的防御能力。2020年8月，美國(guó)會(huì)研究服務(wù)處發(fā)布《深度造假與國(guó)家安全》報(bào)告，其中對(duì)這兩個(gè)項(xiàng)目的介紹如下：

　　1）“媒體取證”項(xiàng)目正在研發(fā)自動(dòng)評(píng)估照片和視頻完整性的算法，并向分析師提供有關(guān)偽造內(nèi)容是如何產(chǎn)生的信息。MediFor項(xiàng)目匯集了世界一流的研究人員，據(jù)報(bào)道，該項(xiàng)目致力于探索并識(shí)別深度偽造中存在的視聽(tīng)不一致的技術(shù)，包括像素不一致（數(shù)字完整性）、與物理定律不一致（物理完整性），以及與其他信息源的不一致（語(yǔ)義完整性）等問(wèn)題。“媒體取證”項(xiàng)目2019財(cái)年獲得1750萬(wàn)美元的資助，2020財(cái)年獲得530萬(wàn)美元。該項(xiàng)目在2021財(cái)年完成后，預(yù)計(jì)將過(guò)渡到作戰(zhàn)指揮和情報(bào)部門。

　　2）“語(yǔ)義取證”項(xiàng)目試圖開(kāi)發(fā)自動(dòng)檢測(cè)、歸因和表征各種類型深度偽造內(nèi)容的算法。其中包括語(yǔ)義檢測(cè)算法，該算法將確定是否已生成或操縱了多模式媒體資產(chǎn)。歸因算法將推斷多模式媒體是否來(lái)自特定組織或個(gè)人。表征算法將說(shuō)明是否出于惡意目的而生成或操縱了多模式媒體。這些技術(shù)將有助于識(shí)別、阻止和了解對(duì)手的虛假信息宣傳活動(dòng)?！罢Z(yǔ)義取證”項(xiàng)目2020財(cái)年獲得970萬(wàn)美元的資助，預(yù)計(jì)2021財(cái)年獲得1760萬(wàn)美元。

　　此外，報(bào)告還指出基于算法的檢測(cè)工具將引發(fā)一場(chǎng)“貓和老鼠的游戲”，深度偽造生成器將快速迭代更新以應(yīng)對(duì)工具的檢測(cè)。因此，社交媒體平臺(tái)應(yīng)當(dāng)對(duì)內(nèi)容進(jìn)行標(biāo)識(shí)和認(rèn)證。此外，還應(yīng)當(dāng)部署相應(yīng)的檢測(cè)工具，包括要求用戶標(biāo)識(shí)視頻的時(shí)間和地點(diǎn)，以及哪些內(nèi)容是原創(chuàng)的，哪些是經(jīng)過(guò)編輯的內(nèi)容。這可能包括要求用戶確定內(nèi)容來(lái)源的時(shí)間和位置，或者要求對(duì)編輯過(guò)的內(nèi)容進(jìn)行標(biāo)記。

　?。?）學(xué)術(shù)及企業(yè)研究方面。華盛頓大學(xué)和艾倫人工智能研究所 2019 年推出了一個(gè)名為Grover 的可控制文本生成模型和一個(gè)偽文本的檢測(cè)系統(tǒng)，該系統(tǒng)通過(guò)研究并表征其模型的風(fēng)險(xiǎn)，可揭露機(jī)器生成的“神經(jīng)假新聞”。2019年6月，美國(guó)加州大學(xué)伯克利分校和南加州大學(xué)研究人員通過(guò)已有的非偽造視頻，收集視頻中個(gè)人的特征，構(gòu)建高度個(gè)人化的“軟生物識(shí)別指標(biāo)”體系。還開(kāi)展了一項(xiàng)名為“保護(hù)世界領(lǐng)導(dǎo)者免受偽造”的研究，采用新方法建立了一個(gè)探測(cè)AI 系統(tǒng)，該系統(tǒng)被輸入數(shù)小時(shí)高級(jí)領(lǐng)導(dǎo)者的視頻并對(duì)其進(jìn)行訓(xùn)練，以尋找超精密的“面部動(dòng)作單元”，包括何時(shí)抬起上唇以及皺眉時(shí)頭部如何旋轉(zhuǎn)。此外，美國(guó)一些頂尖智能研究人員設(shè)計(jì)了自動(dòng)系統(tǒng)，可對(duì)視頻進(jìn)行分析，評(píng)估光線、陰影、閃爍的圖案，并采用一種可能的突破性方法，評(píng)估候選人面部動(dòng)作（如傾斜的角度）和微笑時(shí)頭之間的彼此相關(guān)關(guān)系。2020年1月，北京大學(xué)與微軟亞洲研究院聯(lián)合推出深度偽造識(shí)別工具“Face X-Ray”，該工具不依賴于與特定圖像修改技術(shù)相關(guān)的深度偽造知識(shí)，并且其算法可以在不生成假圖像的情況下進(jìn)行訓(xùn)練。研究結(jié)果表明，F(xiàn)ace X-Ray能有效地識(shí)別出未被發(fā)現(xiàn)的假圖像，并能可靠地預(yù)測(cè)圖像混合區(qū)域。

　　美國(guó)Adobe公司也于2019年6月推出反向PS工具。依托于AI算法，可自動(dòng)識(shí)別出人像圖片中經(jīng)過(guò)圖像液化工具修改的部分，并將其還原成初始樣貌，準(zhǔn)確率高達(dá)99%。此外，微軟2020年推出了兩項(xiàng)最新深度偽造檢測(cè)技術(shù)，其中一項(xiàng)技術(shù)是視頻認(rèn)證器（Video Authenticator），可以在視頻播放的每個(gè)幀與原圖進(jìn)行實(shí)時(shí)對(duì)比，并給出數(shù)據(jù)分析，它的工作原理是檢測(cè)人眼可能無(wú)法察覺(jué)到的深偽、細(xì)微褪色或灰度元素的混合邊界。視頻認(rèn)證器已通過(guò)了DeepFake Detection Challenge數(shù)據(jù)集測(cè)試，該數(shù)據(jù)集是訓(xùn)練和測(cè)試深度偽造檢測(cè)技術(shù)的領(lǐng)先模型。值得一提的是，在2020年的深度偽造挑戰(zhàn)賽上，參賽團(tuán)隊(duì)基于該數(shù)據(jù)集在識(shí)別虛假的準(zhǔn)確性方面最高達(dá)到了80%以上，黑盒測(cè)試準(zhǔn)確率最高達(dá)到了65%。目前這項(xiàng)技術(shù)已與AI基金會(huì)達(dá)成合作。除了對(duì)已有信息的檢測(cè)，微軟推出的另一項(xiàng)技術(shù)支持從信息源頭杜絕偽造。該技術(shù)由兩部分組成：一是內(nèi)置于Microsoft Azure中的一個(gè)工具，可使內(nèi)容制作者能夠向內(nèi)容片段添加數(shù)字哈希和證書(shū)。哈希和證書(shū)將內(nèi)容作為元數(shù)據(jù)存在于任何在線傳播的地方；二是閱讀器，可作為瀏覽器擴(kuò)展或其他形式存在，用于檢查證書(shū)并匹配哈希值，讓人們高度準(zhǔn)確地知道內(nèi)容是真實(shí)的，沒(méi)有被更改，并提供關(guān)于誰(shuí)制作的詳細(xì)信息。該技術(shù)由微軟研究院、微軟Azure與捍衛(wèi)民主計(jì)劃合作開(kāi)發(fā)，并且已經(jīng)與包括英國(guó)廣播公司（BBC），加拿大廣播電臺(tái)和《紐約時(shí)報(bào)》等多家媒體公司組成合作伙伴關(guān)系。

　?。?）應(yīng)對(duì)深度偽造面臨的挑戰(zhàn)。美政府問(wèn)責(zé)局（GAO）于2020年發(fā)布的《深度偽造的科技評(píng)估與分析報(bào)告》，指出了各界應(yīng)對(duì)深度偽造面臨多方面挑戰(zhàn)：1）開(kāi)發(fā)深度造假檢測(cè)工具需要大量數(shù)據(jù)。深度造假檢測(cè)工具必須使用大量不同的數(shù)據(jù)集進(jìn)行訓(xùn)練，并且需要不斷更新，才可能有效檢測(cè)深度造假，但是目前研究人員可使用的數(shù)據(jù)集還遠(yuǎn)遠(yuǎn)不夠；2）深度造假檢測(cè)還未實(shí)現(xiàn)自動(dòng)化。目前，深度造假檢測(cè)工具還不能自動(dòng)、完整地進(jìn)行分析，難以高效檢測(cè)深度造假；3）深度造假技術(shù)可能適應(yīng)檢測(cè)。用于檢測(cè)深度造假的技術(shù)往往會(huì)促進(jìn)深度造假技術(shù)發(fā)展。這意味著深度造假檢測(cè)工具必須定期更新以應(yīng)對(duì)更復(fù)雜的深度造假；4）單純檢測(cè)難以消除深度造假的影響。由于很多受眾不會(huì)甄別接收的信息是否真實(shí)，即使完美的檢測(cè)工具也難以消除深度造假的影響；5）社交媒體對(duì)深度造假的判定標(biāo)準(zhǔn)不一致。各大社交媒體公司對(duì)深度造假的監(jiān)管標(biāo)準(zhǔn)各不相同，影響深度造假的統(tǒng)一應(yīng)對(duì)；6）法律問(wèn)題。為應(yīng)對(duì)深度造假擬議的法律法規(guī)可能使人們質(zhì)疑言論自由和隱私權(quán)保護(hù)。另外，打擊深度造假的相關(guān)立法可能面臨有效執(zhí)法方面的挑戰(zhàn)。

　　六、深度偽造技術(shù)的發(fā)展趨勢(shì)

　　深度學(xué)習(xí)算法是深度偽造技術(shù)的核心驅(qū)動(dòng)力，具有自動(dòng)生成目標(biāo)圖像的特性，隨著技術(shù)的擴(kuò)散和程序化，制作深度偽造產(chǎn)品的門檻也在不斷降低。同時(shí)，深度偽造涵蓋假視頻、音頻、文本、微表情等，產(chǎn)品逼真而多元，識(shí)別難度大。此外，很容易與社交媒體結(jié)合，借助臉譜網(wǎng)、推特、微信、微博等社交媒體的效力，在全世界迅速傳播。

　?。?）檢測(cè)、識(shí)別難度越來(lái)越大。從2017年深度偽造技術(shù)剛誕生時(shí)用的卷積神經(jīng)網(wǎng)絡(luò)到現(xiàn)在最新的對(duì)抗生成網(wǎng)絡(luò)，具有極強(qiáng)的自適應(yīng)性，通過(guò)在對(duì)抗生成網(wǎng)絡(luò)中不斷自我優(yōu)化，不斷升級(jí)換代，從而達(dá)到“真實(shí)的可怕”的水平。無(wú)論是實(shí)現(xiàn)智能“換臉”的計(jì)算能力還是逼真程度都有了很大提升，已經(jīng)讓大眾越來(lái)越難辨真假，若非經(jīng)過(guò)專門訓(xùn)練以及專業(yè)鑒別手段的支持，普通人難以發(fā)現(xiàn)深度偽造視頻的破綻，曾有瑞士科學(xué)家嘗試用最前沿的人臉識(shí)別系統(tǒng)去識(shí)別“換臉視頻”，結(jié)果錯(cuò)誤率高達(dá)95%。

　?。?）制作門檻不斷降低，極易實(shí)現(xiàn)零成本擴(kuò)散。深度偽造技術(shù)使用深度學(xué)習(xí)的一個(gè)關(guān)鍵優(yōu)勢(shì)是可以使創(chuàng)建過(guò)程自動(dòng)化，這使得低技能用戶也可以快速創(chuàng)建逼真的內(nèi)容。而且由于計(jì)算能力的提高，訓(xùn)練深度造假算法所需的時(shí)間和人力的持續(xù)減少，深度造假軟件會(huì)變得更便宜、更易獲取。同時(shí)，深度偽造的“源數(shù)據(jù)”如目標(biāo)對(duì)象視頻、語(yǔ)音、文風(fēng)等在網(wǎng)絡(luò)中極易獲得，使得訓(xùn)練數(shù)據(jù)非常豐富，有助于提高產(chǎn)品真實(shí)性。隨著越來(lái)越多的免費(fèi)而便捷的應(yīng)用程序出現(xiàn)，只要少數(shù)目標(biāo)對(duì)象的高清視頻，就能很快制作出專業(yè)換臉視頻，再結(jié)合快速發(fā)展的社交媒體網(wǎng)絡(luò)，幾乎以零成本迅速擴(kuò)散。

　?。?）深度偽造技術(shù)與鑒別技術(shù)在不斷的競(jìng)爭(zhēng)對(duì)抗中快速發(fā)展。此前，深度偽造視頻尚可通過(guò)“目標(biāo)對(duì)象是否眨眼”“微表情是否自然”以及“面部邊緣是否有鋸齒”等作為參照辨別真假，DARPA甚至研發(fā)出了一款“反變臉”的AI刑事偵查檢測(cè)程序，但隨著偽造技術(shù)的不斷升級(jí)換代，以上鑒別手段已部分失效，鑒別技術(shù)須不斷進(jìn)步才能跟上深度偽造的更新?lián)Q代。未來(lái)，生成假視頻和檢測(cè)假視頻將持續(xù)進(jìn)行“道高一尺、魔高一丈”的反復(fù)博弈。

　?。?）降低了大規(guī)模開(kāi)展信息戰(zhàn)的成本，并擴(kuò)大了參與者的范圍。深度偽造技術(shù)的進(jìn)步，尤其是文本生成工具的進(jìn)步，可以實(shí)現(xiàn)自動(dòng)評(píng)論，顯著降低了這種操作所需的技巧、時(shí)間和成本。使深度偽造技術(shù)可比目前信息戰(zhàn)模式更快、更節(jié)約成本地生成“足夠好”的內(nèi)容。該模式強(qiáng)調(diào)虛假信息的數(shù)量和速度，而不是真實(shí)性和一致性，以此壓倒、迷惑和分裂目標(biāo)。此外，由于深度偽造技術(shù)降低了在線宣傳的成本，非國(guó)家組織可能在這一領(lǐng)域變得越來(lái)越活躍，同時(shí)擅長(zhǎng)信息戰(zhàn)的極端主義組織也會(huì)越來(lái)越多地利用該技術(shù)。

　　七、幾點(diǎn)認(rèn)識(shí)

　?。ㄒ唬┚W(wǎng)絡(luò)信息戰(zhàn)可取得“以小博大”的輿論攻防效果，達(dá)到顛覆網(wǎng)絡(luò)空間可信性的效果

　　網(wǎng)絡(luò)信息戰(zhàn)作為網(wǎng)絡(luò)戰(zhàn)的主要形態(tài)之一，是網(wǎng)絡(luò)威懾的延伸和拓展，通過(guò)網(wǎng)絡(luò)發(fā)動(dòng)針對(duì)領(lǐng)導(dǎo)層和公眾的心理戰(zhàn)，配合國(guó)家政治、外交、軍事斗爭(zhēng)，實(shí)現(xiàn)戰(zhàn)略目的，其攻擊成本很低，但造成的影響及后果很嚴(yán)重，而且參與方十分寬泛，國(guó)家、組織乃至個(gè)人都可能成為發(fā)動(dòng)者和打擊對(duì)象。深度偽造信息作為網(wǎng)絡(luò)信息戰(zhàn)的主要應(yīng)用方式，具有圖文并茂、聲像逼真、傳輸快捷、范圍廣大、悄無(wú)聲息等特點(diǎn)，是傳統(tǒng)心理戰(zhàn)手段無(wú)法比擬的。例如，美情報(bào)界發(fā)布的《2019年全球威脅評(píng)估》研究報(bào)告認(rèn)為，“深度偽造”技術(shù)已經(jīng)對(duì)美國(guó)國(guó)家安全構(gòu)成威脅，敵對(duì)勢(shì)力和戰(zhàn)略競(jìng)爭(zhēng)對(duì)手很有可能企圖利用深度偽造技術(shù)或類似的機(jī)器學(xué)習(xí)技術(shù)，創(chuàng)造出高度可信但卻完全虛假的圖片、音頻和視頻資料，以加強(qiáng)針對(duì)美國(guó)及其盟友和合作伙伴的影響滲透運(yùn)動(dòng)。

　　深度偽造技術(shù)可以通過(guò)連鎖反應(yīng)引發(fā)“蝴蝶效應(yīng)”，一條信息可以借助覆蓋全球的互聯(lián)網(wǎng)驟然掀起軒然大波，其影響力在瞬間能被成千萬(wàn)倍放大，并可讓虛假信息以高度可信的方式呈現(xiàn)給社會(huì)公眾，操縱民眾的情緒反應(yīng)，引發(fā)社會(huì)廣泛的不信任，也很可能被外國(guó)競(jìng)爭(zhēng)對(duì)手利用，作為詆毀國(guó)內(nèi)政黨、煽動(dòng)恐怖和暴力活動(dòng)、挑撥西方內(nèi)部矛盾的工具。

　　（二）應(yīng)加強(qiáng)深度偽造技術(shù)的安全風(fēng)險(xiǎn)評(píng)估，制定相關(guān)規(guī)范標(biāo)準(zhǔn)予以嚴(yán)格限制

　　隨著深度偽造技術(shù)的快速進(jìn)化，相應(yīng)的檢測(cè)識(shí)別難度也將越來(lái)越大，與此同時(shí)，隨著檢測(cè)技術(shù)越來(lái)越先進(jìn)，偽造技術(shù)也將越來(lái)越復(fù)雜，二者之間似乎將是一場(chǎng)永無(wú)休止的競(jìng)賽。為此，美國(guó)高度重視深度偽造技術(shù)的應(yīng)用問(wèn)題，2019年6月，美國(guó)眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術(shù)的聽(tīng)證會(huì)，公開(kāi)談?wù)撋疃葌卧旒夹g(shù)對(duì)國(guó)家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)及防范和應(yīng)對(duì)措施。6月，兩黨議員分別在眾、參兩院同時(shí)提出《2019年深度偽造報(bào)告法案》，要求評(píng)估深度偽造技術(shù)的安全風(fēng)險(xiǎn)。與此同時(shí)，美陸續(xù)出臺(tái)《2018年惡意偽造禁令法案》和《深度偽造責(zé)任法案》，主張對(duì)深度偽造技術(shù)進(jìn)行嚴(yán)格限制。對(duì)我國(guó)而言，一方面應(yīng)將深度偽造技術(shù)納入新技術(shù)新應(yīng)用的安全風(fēng)險(xiǎn)評(píng)估中，充分評(píng)估該技術(shù)目前的發(fā)展?fàn)顩r、適用領(lǐng)域和范圍，未來(lái)發(fā)展方向和應(yīng)用趨勢(shì)，以及對(duì)國(guó)家安全和政治安全的影響、對(duì)公民個(gè)人權(quán)益的損害等。另一方面，相關(guān)部門應(yīng)盡快制修訂相關(guān)技術(shù)標(biāo)準(zhǔn)，明確深度偽造技術(shù)的適用范圍，涉及國(guó)家安全、公共利益和公民合法權(quán)益的，要對(duì)其適用性進(jìn)行明確限制，尤其是對(duì)深度偽造視頻的傳播應(yīng)嚴(yán)格限制。

　?。ㄈ?yīng)采取有效措施解決迫在眉睫的深度偽造治理問(wèn)題

　　深度偽造已經(jīng)挑戰(zhàn)并危及國(guó)家安全、信息安全、政治安全、新聞專業(yè)性和社會(huì)道德文化等各個(gè)方面，深度偽造的治理已經(jīng)迫在眉睫。美國(guó)、德國(guó)等國(guó)均出臺(tái)相關(guān)法律法規(guī)，對(duì)深度偽造技術(shù)進(jìn)行管控，相關(guān)的法律法規(guī)條款均對(duì)深度偽造內(nèi)容的性質(zhì)、責(zé)任主體、處罰標(biāo)準(zhǔn)等方面進(jìn)行規(guī)范，意在對(duì)個(gè)人權(quán)利和國(guó)家安全的保護(hù)。此外，為規(guī)避深度偽造視頻可能帶來(lái)的不良影響，社交媒體平臺(tái)也紛紛出臺(tái)管控措施，例如Facebook公司將在2020年美國(guó)大選前刪除模仿、諷刺內(nèi)容以外的深度偽造視頻，以限制錯(cuò)誤信息的傳播。但是，由于視頻發(fā)布平臺(tái)可能存在的審核疏漏以及輿論的阻力會(huì)給深度偽造視頻的監(jiān)管帶來(lái)不利影響，且由于互聯(lián)網(wǎng)使用成本低、網(wǎng)絡(luò)作案具備一定的隱蔽性，深度偽造技術(shù)治理將會(huì)是一個(gè)長(zhǎng)期的斗爭(zhēng)過(guò)程。如何規(guī)范深度偽造技術(shù)的使用，除了法律規(guī)范的嚴(yán)格限定，也需要大力促進(jìn)第三方檢測(cè)機(jī)構(gòu)開(kāi)展深度偽造監(jiān)測(cè)鑒別業(yè)務(wù)，鼓勵(lì)企業(yè)加大對(duì)鑒別技術(shù)研發(fā)的投入，并利用區(qū)塊鏈、電子認(rèn)證簽名等技術(shù)，開(kāi)發(fā)相關(guān)鑒別工具，并結(jié)合有針對(duì)性的人工審查，形成完善可靠的治理體系。