2020年，中共中央印發(fā)《法治社會建設(shè)實(shí)施綱要（2020—2025年）》。綱要提出，制定完善對“算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。作為一項互聯(lián)網(wǎng)新技術(shù)應(yīng)用，深度偽造技術(shù)正越來越廣泛地應(yīng)用于現(xiàn)實(shí)場景，也出現(xiàn)被濫用錯用的情況。推動技術(shù)的健康成長和使用，需構(gòu)建更完善的法律和技術(shù)保護(hù)體系。
有一種技術(shù)，能對聲音、影像進(jìn)行篡改、偽造，從而實(shí)現(xiàn)“變聲”“換臉”，并且高度逼真、很難甄別——這項互聯(lián)網(wǎng)新技術(shù)叫做深度偽造技術(shù)。
借助人工智能技術(shù)可實(shí)現(xiàn)“換臉”“變聲”
日常生活中，深度偽造技術(shù)的應(yīng)用并不少見：智能客服的擬人回答、影視劇對角色的換臉處理……這些應(yīng)用場景通過對圖像、聲音、視頻的篡改、偽造和自動生成，產(chǎn)生高度逼真的效果。
深度偽造技術(shù)本質(zhì)上是一種人工智能合成內(nèi)容技術(shù)。據(jù)奇安信集團(tuán)反金融犯罪專家盧維清介紹，起初，研究者使用自編碼器實(shí)現(xiàn)對原始人臉的圖像分解再還原。隨著深度學(xué)習(xí)和先進(jìn)算法的出現(xiàn)，深度偽造技術(shù)變得更加復(fù)雜成熟，除了圖像，聲音、視頻都能被更精細(xì)地偽造或自動合成。以生成對抗網(wǎng)絡(luò)算法為例，其同時搭載了生成器和鑒別器兩個神經(jīng)網(wǎng)絡(luò)，前者基于一個數(shù)據(jù)庫自動生成模擬該庫中數(shù)據(jù)的樣本，后者評估生成器生成數(shù)據(jù)的真?zhèn)危瑑烧咴诨ハ嗖┺膶W(xué)習(xí)中產(chǎn)生大規(guī)模和高精確度的輸出，實(shí)現(xiàn)真假難辨的效果。
技術(shù)是一把雙刃劍。深度偽造這項人工智能技術(shù)起初僅限于學(xué)術(shù)研究，后來廣泛應(yīng)用于多個現(xiàn)實(shí)場景，發(fā)揮著一定正面效應(yīng)。
盧維清舉例說，在教育場景中出現(xiàn)的虛擬教師和虛擬歷史人物，能讓數(shù)字教學(xué)更具互動性和代入感；影視制作通過還原或者修改角色鏡頭，降低修復(fù)成本，提高制作效率；虛擬新聞主播和客服，無需真人出現(xiàn)，可以降低人力投入；安防領(lǐng)域借此技術(shù)生成更加逼真的圖像、視頻，測試現(xiàn)有安全系統(tǒng)，尋找技術(shù)漏洞，助力更新迭代；娛樂休閑應(yīng)用程序則可以對圖片和視頻做特效處理，增加趣味性……
但是，隨著技術(shù)的發(fā)展及應(yīng)用門檻的降低，許多個人用戶也能輕松實(shí)現(xiàn)“換臉”“變聲”，還有一些人將深度偽造技術(shù)應(yīng)用于安全漏洞攻擊、虛假音視頻詐騙等，技術(shù)濫用帶來的風(fēng)險逐漸為人們所知。
可能被詐騙、網(wǎng)絡(luò)攻擊等非法行為利用
此前，有國外網(wǎng)民利用換臉技術(shù)偽造藝人的影像資料并發(fā)布了視頻，引發(fā)爭議。
深度偽造技術(shù)被濫用的隱患，簡單來說就是盜用他人的身份，讓人“言”所未言、“行”所未行，以假亂真，混淆真相。
據(jù)專家介紹，若無有效的監(jiān)管措施，任由深度偽造技術(shù)被濫用錯用，社會生活中的每個人都存在被這項技術(shù)侵害的可能性。
例如，面部識別、聲紋認(rèn)證等生物特征識別機(jī)制有可能面臨失效；公司企業(yè)可能被虛假消息欺詐，內(nèi)部資料可能因為偽裝登錄而面臨丟失、篡改、刪除；有關(guān)部門在司法認(rèn)證、證據(jù)收集、識別環(huán)節(jié)將面臨真假難題；金融機(jī)構(gòu)管理的賬戶可能遭遇偽裝竊取，轉(zhuǎn)移資金；電信詐騙里偽裝公檢法、銀行、通信人員的手段會更加復(fù)雜，令人防不勝防……這些場景有可能帶來一系列更深層次的社會問題。
構(gòu)建更完善的法律和技術(shù)保護(hù)體系
2020年，中共中央印發(fā)《法治社會建設(shè)實(shí)施綱要（2020—2025年）》。綱要提出，制定完善對“算法推薦、深度偽造等新技術(shù)應(yīng)用的規(guī)范管理辦法”。今年3月，國家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)各地網(wǎng)信部門、公安機(jī)關(guān)加強(qiáng)對語音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評估工作，并對未履行安全評估程序的11家企業(yè)進(jìn)行約談，引發(fā)社會關(guān)注。
面對深度偽造技術(shù)被濫用錯用引發(fā)的犯罪和不良社會影響，專家建議，需盡快制定應(yīng)對措施，防范化解風(fēng)險。
宜鼓勵研發(fā)鑒偽和溯源技術(shù)。盧維清認(rèn)為，目前學(xué)術(shù)界和商業(yè)界的防偽開發(fā)項目多針對特定產(chǎn)品而非通用的音視頻，還沒有構(gòu)建通用性的視頻鑒偽網(wǎng)絡(luò)。要加大對通用且高效鑒偽技術(shù)的研發(fā)投入和支持力度，鼓勵科研院所和企業(yè)研究檢測算法、主動防御算法、深度偽造圖像和偽造語音的融合檢測技術(shù)等。
宜加強(qiáng)對社會各界的科普。通過培訓(xùn)等方式讓人們意識到深度偽造技術(shù)被濫用錯用帶來的危害，逐步提高用戶的防范意識和鑒別能力，為相關(guān)鑒別技術(shù)的發(fā)展提供機(jī)會，促進(jìn)深度偽造技術(shù)的合法利用。
宜加強(qiáng)相關(guān)司法體系的建立。專家建議，建立更加完整的法律法規(guī)體系，對惡意制作或傳播的用戶進(jìn)行懲戒。2019年，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者和網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者、網(wǎng)絡(luò)信息內(nèi)容服務(wù)平臺不得利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)新應(yīng)用從事法律、行政法規(guī)禁止的活動。盡管已出臺了相關(guān)法律法規(guī)遏制深度偽造技術(shù)的濫用，但還需要相關(guān)部門建立更加完整細(xì)致的法律體系，在區(qū)分偽造視頻是屬于娛樂還是惡性傳播等問題上厘清邊界，為新技術(shù)的應(yīng)用劃好紅線。
對一般用戶而言，由于不具有專業(yè)知識，很難識別出偽造的信息。尤其在技術(shù)發(fā)展迅速的背景下，專業(yè)人士也很難鑒別深度偽造的音視頻。
盧維清建議，在有關(guān)財產(chǎn)、信用、安全等敏感問題的處理上，用戶要更加謹(jǐn)慎，做好數(shù)據(jù)備份以便取證，對于不確定的情形及時聯(lián)系官方客服或報警求助。
日常使用手機(jī)時，最好設(shè)置安全等級高的訪問密碼，拒絕打開陌生的網(wǎng)站和應(yīng)用軟件，尤其是系統(tǒng)提示有安全隱患的訪問要及時停止，并定期對電腦系統(tǒng)殺毒，盡量減少在網(wǎng)上發(fā)布帶有個人信息的圖像、音視頻等。如果身份證、駕駛證等有關(guān)個人安全和信息的物件丟失，要第一時間掛失。平時多學(xué)習(xí)法律知識，關(guān)鍵時刻采用法律武器維護(hù)個人的合法權(quán)益。
防范深度偽造技術(shù)被濫用錯用，僅依靠個人的力量還不夠，國家、企業(yè)都要肩負(fù)起重任，保護(hù)公民隱私，依據(jù)社會職能構(gòu)建更完善的法律和技術(shù)保護(hù)體系。
