AI換臉技術(shù)（央廣網(wǎng)發(fā) 圖片來(lái)源：CFP）
央廣網(wǎng)北京3月19日消息（記者馮爍）據(jù)中央廣播電視總臺(tái)中國(guó)之聲《新聞縱橫》報(bào)道，近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、公安部指導(dǎo)各地網(wǎng)信部門(mén)、公安機(jī)關(guān)加強(qiáng)對(duì)語(yǔ)音社交軟件和涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評(píng)估工作，并依法約談?dòng)晨汀⑿∶椎?1家企業(yè)�！吧疃葌卧旒夹g(shù)”究竟是什么意思？如何讓技術(shù)不跨越危險(xiǎn)的邊界？
一年前，一條“愛(ài)因斯坦生前預(yù)告新冠肺炎”的視頻流傳于網(wǎng)絡(luò)，這段視頻里的愛(ài)因斯坦看上去如假包換，如果他說(shuō)的不是新冠肺炎病毒，確實(shí)會(huì)讓人信以為真。
而這個(gè)視頻里運(yùn)用的技術(shù)就是“深度合成技術(shù)”。所謂深度偽造（Deep Fake）是深度合成技術(shù)的一個(gè)具體應(yīng)用，指借助深度合成技術(shù)偽造以人為主體（不光是人臉，還有頭部、肢體和聲音）的視聽(tīng)覺(jué)內(nèi)容，以達(dá)到欺騙的目的。
當(dāng)我們?yōu)檫@樣的技術(shù)催生了一些娛樂(lè)視頻而哈哈大笑時(shí)，卻不知在大洋彼岸，這樣的技術(shù)也能成為攻擊他人的利器。
就在本月，美國(guó)賓夕法尼亞州東部的一名女子在一場(chǎng)騷擾和欺凌活動(dòng)中制作了一系列深度偽造視頻，意在恐嚇跟她女兒競(jìng)爭(zhēng)的十幾歲女孩并將她們踢出當(dāng)?shù)氐睦?duì)。受迫害的女孩們?cè)诒粋卧斓囊曨l中看起來(lái)像是裸體，吸電子煙或喝酒。
從技術(shù)溯源的角度講，深度合成技術(shù)本身沒(méi)有善惡之分，問(wèn)題的出現(xiàn)是在于有人濫用技術(shù)，跨越了倫理和法理的邊界。中國(guó)科學(xué)院自動(dòng)化研究所模式識(shí)別國(guó)家重點(diǎn)實(shí)驗(yàn)室研究員赫然告訴記者，深度合成技術(shù)是人工智能技術(shù)的前沿方向，但它和人工智能技術(shù)一樣都存在兩面性。赫然說(shuō)：“深度合成技術(shù)實(shí)際上是廣泛存在于我們現(xiàn)實(shí)生活中的，比如說(shuō)語(yǔ)音導(dǎo)航、智能語(yǔ)音客服，我們平常見(jiàn)到的虛擬主播、銀行的虛擬客服，平常使用的美顏相機(jī)里面的換臉或者換發(fā)型，都屬于深度合成，所以整個(gè)技術(shù)還是有正面意義的，它也代表人工智能在生活方面的前沿應(yīng)用。但是深度合成如果被不法分子所使用的時(shí)候，就會(huì)產(chǎn)生比較大的影響或者產(chǎn)生惡劣的影響�！�
深度偽造技術(shù)的可怕之處在于——普通人難辨真假。除了AI換臉有可能帶來(lái)的色情泛濫以外，人們更加擔(dān)心“深度偽造”技術(shù)在侵犯隱私、操縱政治選舉等方面帶來(lái)的挑戰(zhàn)。美國(guó)加利福尼亞大學(xué)伯克利分校教授哈尼·法里德表示，如果相關(guān)的偽造信息在互聯(lián)網(wǎng)中肆意蔓延，將會(huì)進(jìn)一步?jīng)_毀互聯(lián)網(wǎng)世界的真實(shí)性邊界。哈尼·法里德說(shuō)：“我們應(yīng)該擔(dān)心‘深度偽造視頻’的出現(xiàn)，如果我們不能相信看到的來(lái)自世界各地的視頻、聽(tīng)到的音頻，那就是很危險(xiǎn)的，事關(guān)國(guó)家安全。”
這也是為什么此次國(guó)家網(wǎng)信辦及公安部加強(qiáng)對(duì)涉“深度偽造”技術(shù)的互聯(lián)網(wǎng)新技術(shù)新應(yīng)用進(jìn)行安全評(píng)估工作。目前為止，從國(guó)家監(jiān)管層再到業(yè)界、學(xué)界也都在不斷探索，如何去為合成技術(shù)鑄造一道墻，避免人們對(duì)它的惡意運(yùn)用�？拼笥嶏wAI研究院視頻分析技術(shù)專(zhuān)家吳子揚(yáng)說(shuō)：“比如說(shuō)我們結(jié)合著一些語(yǔ)音假音檢測(cè)、口型的口唇識(shí)別，包括一些音視頻的同步性檢測(cè)，人臉的一些活體的檢測(cè)，其實(shí)都對(duì)深度偽造有一定的抵抗力�！�
不過(guò)有觀點(diǎn)認(rèn)為，技術(shù)發(fā)展和監(jiān)管之間始終在上演“道高一尺魔高一丈”的博弈。在赫然看來(lái)，要想讓技術(shù)能在合理的范圍內(nèi)被人們善用，關(guān)鍵在于不斷研發(fā)鑒偽技術(shù)，并配合管控政策一起打一套“組合拳”。
赫然說(shuō)：“現(xiàn)在學(xué)術(shù)界有很多具體的算法去鑒別合成的視頻是否是真實(shí)的，但是由于深度合成技術(shù)它發(fā)展比較快，所以鑒別難度還是比較大的，它相當(dāng)于一個(gè)矛盾的對(duì)抗體，它們都是快速發(fā)展的。但是專(zhuān)業(yè)的機(jī)構(gòu)，比如說(shuō)大的企業(yè)，還有國(guó)家層面的機(jī)構(gòu)，它們有一定的計(jì)算能力去區(qū)分合成的結(jié)果�！�
目前從我國(guó)的相關(guān)法律法規(guī)來(lái)看，如果未經(jīng)本人許可，換臉行為是被法律所禁止的。同時(shí)，民法典第一千零一十九條第一款規(guī)定，不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人肖像權(quán)。此次兩部門(mén)的加強(qiáng)管理其實(shí)也釋放出一個(gè)明顯的信號(hào)：那就是要進(jìn)一步遏制由深度偽造技術(shù)引發(fā)的亂象。北京岳成律師事務(wù)所高級(jí)合伙人岳屾山說(shuō)：“在我們國(guó)家就很明確的把不管是丑化還是進(jìn)行深度偽造，至少現(xiàn)在在民法層面有一個(gè)非常明確的禁止性規(guī)定了�！�
