最近一段時(shí)間，“AI”成為網(wǎng)絡(luò)熱詞。從德國(guó)媒體用AI生成“舒馬赫專訪”內(nèi)容并發(fā)表引發(fā)巨大爭(zhēng)議，到“AI孫燕姿”一夜爆紅，再到利用“AI換臉”10分鐘詐騙400萬(wàn)元……隨著人工智能進(jìn)一步發(fā)展，原本用在影視和廣告領(lǐng)域的“AI換臉擬聲技術(shù)”被一些不法分子用來(lái)實(shí)施電信網(wǎng)絡(luò)詐騙，網(wǎng)上甚至還有人專門(mén)出售“AI換臉擬聲”軟件和教程。規(guī)范“AI換臉擬聲技術(shù)”，迫在眉睫。

　　現(xiàn)狀

　　技術(shù)門(mén)檻變低

　　被濫用頻現(xiàn)

　　近來(lái)，網(wǎng)絡(luò)上一些熱度較高的新聞似乎都與“AI換臉擬聲”有關(guān)。一名男性特效師將自己的臉替換到影視片段中，生成跟女星親吻視頻；一名網(wǎng)絡(luò)博主在地鐵拍的日常生活照，遭不懷好意之人使用AI技術(shù)“一鍵脫衣”……因“AI換臉擬聲”引發(fā)的侵權(quán)事件年來(lái)屢屢發(fā)生：去年年底，杭州互聯(lián)網(wǎng)法院審理了一起因“AI換臉”App利用深度合成算法侵害他人肖像權(quán)的案件；歌手林俊杰曾因個(gè)人肖像被用“AI換臉”技術(shù)制作了大量“鬼畜”視頻起訴短視頻博主；有人利用“AI換臉”技術(shù)傳播對(duì)演員劉昊然帶有侮辱性的視頻、截圖。

　　除了引發(fā)侵權(quán)問(wèn)題，“AI換臉擬聲技術(shù)”還被一些不法分子用來(lái)實(shí)施電信網(wǎng)絡(luò)詐騙，福州的郭先生10分鐘被騙走430萬(wàn)元，安徽的何先生被騙245萬(wàn)元……我市尚未對(duì)外公布有利用“AI換臉擬聲技術(shù)”詐騙的案例，但警方一直對(duì)外進(jìn)行相關(guān)防騙提示。

　　“AI換臉擬聲技術(shù)”究竟是一項(xiàng)什么樣的技術(shù)？其適用領(lǐng)域是哪里？“在人工智能領(lǐng)域，AI換臉不算什么新鮮事?！碧旖蚩萍即髮W(xué)人工智能學(xué)院副院長(zhǎng)張賢坤告訴記者。這項(xiàng)技術(shù)最早可以追溯到2016年，當(dāng)時(shí)一家名為DeepFake的網(wǎng)站發(fā)布了一款“DeepFakeLab”的軟件，可以實(shí)現(xiàn)逼真的換臉效果?！癆I換臉指應(yīng)用人工智能(AI)技術(shù)，通過(guò)人臉特征建模，用深度學(xué)習(xí)的方法把人臉的部分特征復(fù)制到另外一個(gè)人的臉上，并使得后者看起來(lái)更像，相當(dāng)于把一個(gè)人的臉換成另外一個(gè)人的臉?！睆堎t坤說(shuō)，這項(xiàng)技術(shù)原來(lái)主要用于電影、電視和廣告等領(lǐng)域，讓其中的特效更加逼真，提高觀眾的觀看體驗(yàn)。如有高難度動(dòng)作需要替身時(shí)，可以先讓替身實(shí)際參與拍攝后，再用“AI換臉技術(shù)”進(jìn)行后期合成，這樣一來(lái)，不僅簡(jiǎn)單方便，還能獲得很好的拍攝效果。

　　張賢坤認(rèn)為，隨著人工智能技術(shù)的不斷發(fā)展和完善，特別是計(jì)算機(jī)算力的提升，現(xiàn)在的“換臉”效果更加逼真，在電影、電視、廣告和游戲領(lǐng)域得到了廣泛的應(yīng)用。近年來(lái)，隨著深度學(xué)習(xí)等人工智能技術(shù)的快速發(fā)展，特別是生成式對(duì)抗網(wǎng)絡(luò)GAN(一種深度學(xué)習(xí)模型)的廣泛應(yīng)用，AI合成的產(chǎn)品和服務(wù)越來(lái)越多，除了利用“AI換臉”外，還可以“換聲”。技術(shù)門(mén)檻變低，便出現(xiàn)被濫用的情況。

　　調(diào)查

　　網(wǎng)售軟件

　　就可輕易實(shí)現(xiàn)

　　記者在調(diào)查中發(fā)現(xiàn)，有不少可供免費(fèi)下載的軟件，這類軟件一般都是有固定的視頻或者圖片模板，只要上傳人臉照片便可輕松實(shí)現(xiàn)“換臉”。記者嘗試在手機(jī)軟件下載程序中搜索“AI換臉”，一下子搜索出四五十款。記者選擇了一款有24萬(wàn)人下載的軟件，從自己手機(jī)里隨意選取了一張正面照，上傳到軟件給出的視頻模板中，不到一分鐘就自動(dòng)生成換臉視頻，毫無(wú)違和感，并且可以保存在自己的手機(jī)里、分享到社交平臺(tái)上。如果還想體驗(yàn)高級(jí)功能，比如更多的模板、更快更好的效果，可以每個(gè)月花費(fèi)10多元錢(qián)，解鎖會(huì)員功能。

　　AI還可以合成或克隆聲音。記者在電商平臺(tái)上搜索“AI擬聲”，有多家店鋪提供服務(wù)。其中一家店鋪寫(xiě)著“AI孫燕姿、周杰倫、林俊杰，AI克隆自己”。記者從店鋪客服處了解到，花28元就能購(gòu)買(mǎi)一款軟件，安裝在手機(jī)、電腦等電子設(shè)備上，再按照教程操作，就可以輕松將自己唱歌的聲音AI合成歌手的聲音，相似度達(dá)到98%，“非常簡(jiǎn)單，一學(xué)就會(huì)。”客服人員說(shuō)。

　　在電商平臺(tái)，還有人專門(mén)做起教人“AI換臉”的生意。商家宣傳“影視面部追蹤特效，換頭變臉換裝AI程序插件”。記者以買(mǎi)家身份咨詢，商家介紹，買(mǎi)家支付368元后，他就可以提供一個(gè)電腦程序插件，把插件安裝在電腦上，可以隨意“AI換臉”，這個(gè)插件月銷(xiāo)量有50多單，買(mǎi)家評(píng)價(jià)“操作簡(jiǎn)單還好用”。商家提供教程，半小時(shí)包會(huì)。如果實(shí)在不會(huì)，可提供在線指導(dǎo)或者遠(yuǎn)程安裝。相對(duì)現(xiàn)成的“AI換臉”軟件多適用于已經(jīng)給出的拍照?qǐng)鼍?、影視劇片段的替換合成，這樣用于“換臉”的照片不受限制，可合成的視頻片段也不局限于影視作品，像新聞、私人視頻等都可被“換臉”。商家給記者提供了幾段通過(guò)這款插件制作的“AI換臉”視頻，動(dòng)畫(huà)片《冰雪奇緣》中艾莎的臉換成了《熊出沒(méi)》里的光頭強(qiáng)；電影《喜劇之王》里周星馳的臉被換成了動(dòng)畫(huà)人物……“效果很逼真，可以隨意換臉?！鄙碳艺f(shuō)。

　　市民小劉告訴記者，她之前很喜歡看一些“AI換臉”的視頻，覺(jué)得好奇、好玩，還下載了一些軟件，經(jīng)常玩“換臉”，并把照片和視頻分享到社交平臺(tái)上。但后來(lái)她意外發(fā)現(xiàn)自己的照片被人“AI換臉”成一段搞笑視頻，她便警惕起來(lái)，刪除了所有在社交平臺(tái)上發(fā)布的照片和個(gè)人信息。與小劉一樣，現(xiàn)在越來(lái)越多人意識(shí)到，“AI換臉”是一把雙刃劍，這項(xiàng)技術(shù)在一些領(lǐng)域得到了很好的運(yùn)用，但目前也出現(xiàn)被濫用的情況，亟待規(guī)范這項(xiàng)技術(shù)的使用。

　　出路

　　專家呼吁

　　首要加大預(yù)防監(jiān)管

　　天津師范大學(xué)法學(xué)院焦艷玲教授介紹，2019年，一款手機(jī)應(yīng)用程序“ZAO”發(fā)布后一時(shí)風(fēng)靡全網(wǎng)，用戶只要將自己的照片上傳至應(yīng)用程序，就可以對(duì)影視劇中人物換臉，引發(fā)了是否侵權(quán)的爭(zhēng)議。然而由于當(dāng)時(shí)《中華人民共和國(guó)民法典》和《中華人民共和國(guó)個(gè)人信息保護(hù)法》均未出臺(tái)，該應(yīng)用程序是否構(gòu)成侵權(quán)、違法的問(wèn)題并沒(méi)有定論，只是基于該程序存在保護(hù)用戶隱私協(xié)議不規(guī)范、數(shù)據(jù)泄露風(fēng)險(xiǎn)的安全問(wèn)題，被工業(yè)和信息化部約談并要求整改。

　　而近期比較火的“AI孫燕姿”與應(yīng)用程序“ZAO”的情況相似，都是借助人工智能生成新作品，只不過(guò)前者的目的是“換聲”，后者的目的是“換臉”。兩者都需要對(duì)人工智能模型進(jìn)行信息“投喂”和訓(xùn)練，這就需要取得訓(xùn)練的素材，比如大量的人臉圖像和個(gè)人語(yǔ)音。

　　“人臉圖像和語(yǔ)音看似普通，卻蘊(yùn)含一個(gè)人獨(dú)一無(wú)二的生物特質(zhì)──人臉特征信息和聲紋信息，這些都屬于生物識(shí)別信息，可以永久和唯一地識(shí)別個(gè)人身份?！苯蛊G玲說(shuō)，我國(guó)于2020年和2021年分別頒布實(shí)施《中華人民共和國(guó)民法典》和《中華人民共和國(guó)個(gè)人信息保護(hù)法》，兩部法律都對(duì)使用生物識(shí)別信息進(jìn)行了詳細(xì)規(guī)定。后者明確規(guī)定生物識(shí)別信息為敏感個(gè)人信息，對(duì)此類信息的收集、存儲(chǔ)、使用、加工等限定了嚴(yán)格的條件──只有具有特定的目的和充分的必要性，并采取嚴(yán)格保護(hù)措施的情形下才能處理此類信息，且處理時(shí)必須取得信息主體單獨(dú)以及明示的同意。2021年，最高人民法院發(fā)布了《關(guān)于審理使用人臉識(shí)別技術(shù)處理個(gè)人信息相關(guān)民事案件適用法律若干問(wèn)題的規(guī)定》，對(duì)信息處理者違反法律、行政法規(guī)的規(guī)定或者雙方的約定使用人臉識(shí)別技術(shù)，處理人臉信息、基于人臉識(shí)別技術(shù)生成的人臉信息所引起民事案件的審判進(jìn)行了全面規(guī)定。對(duì)自然人聲音的保護(hù)，依據(jù)《中華人民共和國(guó)民法典》第1023條，可以參照適用肖像權(quán)保護(hù)的相關(guān)規(guī)定。未經(jīng)同意使用他人圖像和聲音進(jìn)行AI創(chuàng)作，其行為已經(jīng)構(gòu)成了對(duì)個(gè)人生物識(shí)別信息的侵權(quán)，可以依據(jù)上述法律規(guī)范要求行為人承擔(dān)侵權(quán)責(zé)任，這一點(diǎn)是沒(méi)有爭(zhēng)議的。如果在特定場(chǎng)景下實(shí)施“AI換臉擬聲”，例如對(duì)不雅視頻中的人物進(jìn)行換臉，造成個(gè)人社會(huì)評(píng)價(jià)降低，還會(huì)構(gòu)成名譽(yù)權(quán)的侵權(quán)。

　　另外，2022年12月，國(guó)家多部門(mén)聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對(duì)我國(guó)境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)做出了全面規(guī)范。第六條規(guī)定：“任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律和行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益、損害國(guó)家形象、侵害社會(huì)公共利益、擾亂經(jīng)濟(jì)和社會(huì)秩序、侵犯他人合法權(quán)益等法律和行政法規(guī)禁止的活動(dòng)。深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息?！?/p>

　　近日，包頭警方公布“和好友語(yǔ)音聊天10分鐘被騙430萬(wàn)元”的案件，正是利用深度合成技術(shù)侵害他人合法權(quán)益的真實(shí)寫(xiě)照。根據(jù)《中華人民共和國(guó)刑法》規(guī)定，利用“AI換臉擬聲”騙取他人財(cái)產(chǎn)的行為還構(gòu)成了侵犯公民個(gè)人信息罪。2022年12月26日，最高人民法院發(fā)布指導(dǎo)性案例192號(hào)，明確使用人臉識(shí)別技術(shù)處理的人臉信息以及基于人臉識(shí)別技術(shù)生成的人臉信息屬于《中華人民共和國(guó)刑法》所規(guī)定的“公民個(gè)人信息”。竊取或者以其他方法非法獲取上述人臉識(shí)別信息，情節(jié)嚴(yán)重的，構(gòu)成侵犯公民個(gè)人信息罪。

　　“在如此全面的法律規(guī)定面前，利用‘AI換臉擬聲’實(shí)施違法行為的情況仍然屢屢發(fā)生，反映出核心問(wèn)題并不在立法層面，而在于法律的執(zhí)行層面以及公民的意識(shí)層面?！苯蛊G玲認(rèn)為，加大對(duì)違法行為的預(yù)防和監(jiān)管是目前首要的任務(wù)。同時(shí)，網(wǎng)絡(luò)服務(wù)平臺(tái)應(yīng)盡責(zé)審查，通過(guò)提升技術(shù)手段，加大對(duì)違法視頻的審查力度。公眾則應(yīng)注意對(duì)個(gè)人圖像和語(yǔ)音的保存和保護(hù)，并加強(qiáng)對(duì)“AI換臉擬聲”危害的認(rèn)識(shí)，多渠道辨別視頻人物的真實(shí)性。

　　人工智能專家：

　　“AI換臉”識(shí)別軟件

　　將很快出現(xiàn)

　　那么該如何辨別“AI換臉擬聲”視頻中人物的真實(shí)性呢？張賢坤認(rèn)為，“AI換臉擬聲”技術(shù)被濫用，涉及人工智能技術(shù)的倫理問(wèn)題。雖然“AI換臉擬聲”如今可以做到以假亂真，但假的就是假的，通過(guò)計(jì)算機(jī)很容易就能辨別出來(lái)。例如，一般情況下視頻是每秒24幀以上，這是人眼分辨的極限，高清視頻可能達(dá)到每秒60幀，數(shù)值越高，視頻流暢度就越高?！癆I換臉”是在每一幀不同的位置切入人臉，由于速度快，人眼難以識(shí)別，計(jì)算機(jī)卻可以進(jìn)行圖片比對(duì)，未來(lái)應(yīng)該很快會(huì)出現(xiàn)多種識(shí)別“AI換臉”圖片或者視頻的應(yīng)用軟件。

　　在目前尚無(wú)相關(guān)軟件可用的情況下，人們也可以靠關(guān)注細(xì)節(jié)來(lái)辨別真人和“AI換臉”假人?！拔覀兌贾劳馊撕茈y區(qū)分雙胞胎，但是其家人是很容易認(rèn)出他(她)們的，也就是說(shuō)即使是雙胞胎，如果仔細(xì)觀察也有細(xì)微差別。至于‘AI換臉’的假人，我們可以通過(guò)對(duì)比原照片和換臉照片尋找是否有明顯差異，也可以觀察人臉的眼睛、嘴、鼻子等細(xì)節(jié)，例如，‘AI換臉’的假人臉部線條不夠柔和、眼眶和嘴巴太大或太小、整體臉部比例不協(xié)調(diào)。另外，也可以通過(guò)慢進(jìn)拉長(zhǎng)視頻間隔，發(fā)現(xiàn)不同時(shí)間點(diǎn)上畫(huà)面間是否存在瑕疵來(lái)辨別真?zhèn)??！痹趶堎t坤看來(lái)，“AI換臉”技術(shù)更加關(guān)注的是人臉位置，還可以通過(guò)視頻前后背景等其他位置破綻識(shí)別真假。

　　提醒：

　　■ 如何防騙？

　　張賢坤特別指出，一般來(lái)說(shuō)“AI換臉”的假人牙齒邊緣過(guò)于整齊，眼睛瞳孔顏色不一樣，反射光源不一致；正常人一般2到10秒眨一次眼，每次眨眼用時(shí)0.1至0.4秒，但假人眨眼頻率不正常；假人在視頻通話時(shí)，視頻會(huì)有跳動(dòng)、閃爍的畫(huà)面，通話不順暢。

　　■ 如何避免被冒用身份信息

　　去詐騙身邊人？

　　焦艷玲介紹，首要就是保護(hù)好個(gè)人信息。不輕易提供人臉、指紋等生物信息，盡量不在社交平臺(tái)發(fā)布正面照片或者視頻；不要把身份證、銀行卡的照片存在手機(jī)里，不要輕易在社交軟件上透露年齡、工作、個(gè)人所在地等信息，及時(shí)卸載和注銷(xiāo)不常用的手機(jī)App。

本文僅代表作者觀點(diǎn)，版權(quán)歸原創(chuàng)者所有，如需轉(zhuǎn)載請(qǐng)?jiān)谖闹凶⒚鱽?lái)源及作者名字。

免責(zé)聲明：本文系轉(zhuǎn)載編輯文章，僅作分享之用。如分享內(nèi)容、圖片侵犯到您的版權(quán)或非授權(quán)發(fā)布，請(qǐng)及時(shí)與我們聯(lián)系進(jìn)行審核處理或刪除，您可以發(fā)送材料至郵箱：service@tojoy.com