調(diào)查動(dòng)機(jī)

　　浙江杭州檢察機(jī)關(guān)曝光了一個(gè)“女神群”，群里發(fā)送的淫穢視頻有不少是犯罪嫌疑人使用“AI換臉”技術(shù)合成的，還可以根據(jù)顧客需要“私人定制”；河北高陽(yáng)警方破獲了一起制作、販賣(mài)、傳播淫穢物品牟利案，犯罪嫌疑人通過(guò)社交群自學(xué)“AI換臉”技術(shù)，用明星形象制作淫穢視頻在網(wǎng)上以每10分鐘300元的價(jià)格售賣(mài)……近期，有關(guān)“AI換臉”的案件和新聞引發(fā)社會(huì)關(guān)注和擔(dān)憂(yōu)。

　　隨著人工智能的發(fā)展，“AI換臉”技術(shù)門(mén)檻逐漸降低，應(yīng)用場(chǎng)景越來(lái)越多，在滿(mǎn)足人們獵奇、美顏、社交等需求的同時(shí)，因“AI換臉”引發(fā)的爭(zhēng)議乃至違法犯罪行為屢見(jiàn)不鮮，其背后隱藏的黑灰產(chǎn)業(yè)鏈也逐漸浮出水面。

　　“AI換臉”存在哪些亂象？用明星形象“AI換臉”是否合法？技術(shù)應(yīng)用的邊界在哪里？圍繞這些問(wèn)題，記者進(jìn)行了調(diào)查采訪(fǎng)。

　　□ 本報(bào)記者　　趙麗

　　□ 本報(bào)實(shí)習(xí)生 胡淼

　　“能教教我這個(gè)怎么拍嗎？”

　　“視頻左下角點(diǎn)擊進(jìn)入有全套教程?！?/p>

　　“豈不是想親誰(shuí)就親誰(shuí)？”

　　“學(xué)會(huì)我的教程就可以?！?/p>

　　這是一名短視頻平臺(tái)博主與粉絲的對(duì)話(huà)。這位號(hào)稱(chēng)特效師的博主，發(fā)布了多個(gè)影視劇親熱畫(huà)面的短視頻，并把男主角“換”成了自己，引來(lái)不少流量。面對(duì)粉絲的討教，博主稱(chēng)提供“手機(jī)版影視合拍教程”，售價(jià)99.99元。

　　類(lèi)似出售“AI換臉”技術(shù)的博主，以及提供“AI換臉”技術(shù)的App和小程序不在少數(shù)?！斗ㄖ稳?qǐng)?bào)》記者近日調(diào)查發(fā)現(xiàn)，目前在網(wǎng)絡(luò)平臺(tái)上，教授“AI換臉”技術(shù)、提供視頻定制“換臉”服務(wù)乃至售賣(mài)明星“換臉”的淫穢視頻等已經(jīng)成為一門(mén)生意。

　　受訪(fǎng)專(zhuān)家認(rèn)為，技術(shù)發(fā)展是不可阻擋的趨勢(shì)，技術(shù)應(yīng)用也往往超前于風(fēng)險(xiǎn)應(yīng)對(duì)手段的產(chǎn)生，要遏制“AI換臉”等人工智能領(lǐng)域的深度合成技術(shù)應(yīng)用亂象，還得監(jiān)管部門(mén)、平臺(tái)、網(wǎng)民多方形成合力，多管齊下。此外，針對(duì)技術(shù)研究與應(yīng)用的法律規(guī)制和執(zhí)行效能還需進(jìn)一步完善。

　　相關(guān)應(yīng)用下載便捷

　　提供肖像即可定制

　　在電商平臺(tái)，記者以“人臉替換”“deepfake”“專(zhuān)業(yè)定制換臉”等作為關(guān)鍵詞搜索看到，不少商家宣稱(chēng)可以提供影視劇“換臉”、“AI換臉”等服務(wù)，售價(jià)基本在10元至200元之間。

　　關(guān)于“AI換臉”的用途，電商平臺(tái)上某商家這樣表述：“您可以成為《倚天屠龍記》中的張無(wú)忌，也可以成為《陳情令》中的藍(lán)忘機(jī)，抑或成為《紅樓夢(mèng)》中的林黛玉……您只需錄制一個(gè)短視頻發(fā)給客服，這邊就可以為您合成同款視頻，為您的青春，增添一份風(fēng)采?！贝隧?xiàng)服務(wù)，領(lǐng)券購(gòu)買(mǎi)只需23.8元起。

　　在手機(jī)應(yīng)用商城，記者以“AI換臉”作為關(guān)鍵詞搜索看到，多款“AI換臉”App映入眼簾。在某社交平臺(tái)上，記者搜索“換臉”，也看到了不少關(guān)于“AI換臉”的小程序。

　　記者下載了熱度最高的一款A(yù)pp。該App有多款“換臉”模板可供選擇，包括AI繪畫(huà)、影視劇、氣質(zhì)美女、男士專(zhuān)屬等，一鍵上傳照片便可生成“換臉”視頻。

　　如果想在這些App和小程序上使用“AI換臉”功能，則需要付費(fèi)。以記者試用的這款A(yù)pp為例，周會(huì)員17元、年會(huì)員398元。記者購(gòu)買(mǎi)了17元的周會(huì)員，在登記手機(jī)號(hào)碼并表示同意遵守相關(guān)合成規(guī)定后，導(dǎo)入視頻素材，按“點(diǎn)擊制作”和“開(kāi)始制作”鍵，就可以將視頻素材中的人臉進(jìn)行互換。

　　一些賣(mài)家不僅提供“AI換臉”服務(wù)，還提供“換臉”技術(shù)教學(xué)服務(wù)，進(jìn)一步降低這類(lèi)技術(shù)的應(yīng)用門(mén)檻。

　　在某電商平臺(tái)，記者聯(lián)系了一個(gè)經(jīng)營(yíng)“AI換臉”業(yè)務(wù)的商家，在其“智能換臉”的商品詳情面有這樣一段描述：“你可以花費(fèi)最低的成本，來(lái)優(yōu)化工作簡(jiǎn)歷的展示……讓你初出江湖就有大佬一般豐厚的資歷，在就業(yè)的競(jìng)爭(zhēng)對(duì)手中一騎絕塵?！?/p>

　　據(jù)該商家客服介紹，想要“換臉”，只需準(zhǔn)備兩部分素材，即包含面部信息的人臉?biāo)夭囊约疤峁┥眢w、背景的內(nèi)容素材，商家操作后，最終“兩者結(jié)合形成成品”。至于價(jià)格，商家將根據(jù)工作量和難度進(jìn)行最終定價(jià)，參考價(jià)格是1分鐘以?xún)?nèi)60元，超過(guò)1分鐘則根據(jù)區(qū)間按秒計(jì)算，如3分鐘以上每秒0.9元、10分鐘以上每秒0.7元。

　　同時(shí)，該商家還為“有心”學(xué)習(xí)的客戶(hù)提供“AI換臉”教學(xué)套餐：一份自學(xué)套餐180元、輔導(dǎo)套餐360元、教學(xué)套餐則需720元。根據(jù)消費(fèi)者的需求，商家提供相應(yīng)等級(jí)和價(jià)格的教學(xué)服務(wù)。

　　教學(xué)內(nèi)容百元到手

　　技術(shù)傳播或涉侵權(quán)

　　“AI換臉”技術(shù)教學(xué)服務(wù)具體包括哪些？記者花99.99元在那名號(hào)稱(chēng)特效師的博主處購(gòu)買(mǎi)了相關(guān)套餐，共7節(jié)課，每節(jié)課程時(shí)長(zhǎng)在1分9秒至3分45秒，課程總時(shí)長(zhǎng)在20分鐘以?xún)?nèi)，核心課程包括“擦除視頻中的人物、如何運(yùn)用蒙版、如何摳出人物合成”，這些課程均為手機(jī)屏幕錄制。

　　據(jù)授課者介紹，制作一條“換臉”視頻，需要用到多個(gè)手機(jī)端應(yīng)用，但并不復(fù)雜——從影視劇片段中截取一幀人物畫(huà)面，用消除筆把想要替換的人物涂抹掉，將照片保存后便可進(jìn)行剪輯。不過(guò)，在正式剪輯前還需要再準(zhǔn)備一段素材，那就是本人在綠幕中錄制好相關(guān)片段中人物的動(dòng)作、臺(tái)詞。

　　經(jīng)過(guò)這一系列操作，特效師可以代替周星馳與《賭俠》中的女主角張敏欲語(yǔ)還休；成為《狂飆》中的徐江與高啟強(qiáng)在公路飆戲；取代周潤(rùn)發(fā)成為《英雄本色》中的小馬哥；在一條19秒的影視劇片段中，甚至取代郭京飛被迪麗熱巴親了一口。

　　購(gòu)買(mǎi)完課程，特效師邀請(qǐng)記者加入課程群聊，與其宣稱(chēng)的上萬(wàn)人參與學(xué)習(xí)的盛況不同，群里加上群主只有18人。群內(nèi)無(wú)人發(fā)言，只顯示一位普通群友被管理員“禁言30天”。

　　特效師告訴記者，課程學(xué)習(xí)完就可以去制作了。電腦端可以制作更加豐富的“換臉”視頻，不過(guò)價(jià)格比手機(jī)端貴4倍。

　　記者注意到，評(píng)論區(qū)有用戶(hù)提出疑問(wèn)：“換臉”技術(shù)教學(xué)服務(wù)是否涉嫌侵權(quán)？博主不置可否。

　　對(duì)此，武漢大學(xué)法學(xué)院副教授申晨說(shuō)：“通過(guò)網(wǎng)絡(luò)平臺(tái)賣(mài)課、社交平臺(tái)教學(xué)等形式傳播‘AI換臉’技術(shù)，如果技術(shù)傳播者明顯知道這個(gè)技術(shù)很可能被用于制作淫穢物品，這樣的情境是可以判斷其構(gòu)成幫助侵權(quán)的?！?/p>

　　申晨進(jìn)一步分析，民法典第1169條規(guī)定了教唆、幫助他人實(shí)施侵權(quán)行為的，承擔(dān)連帶侵權(quán)責(zé)任。相較于幫助侵權(quán)，教唆侵權(quán)的主觀(guān)惡性更嚴(yán)重，如果一些人利用網(wǎng)絡(luò)平臺(tái)主動(dòng)誘導(dǎo)他人學(xué)習(xí)“AI換臉”技術(shù)去實(shí)施侵權(quán)，可以認(rèn)定為教唆侵權(quán)行為。

　　換臉背后暗藏風(fēng)險(xiǎn)

　　應(yīng)用邊界亟待厘清

　　還有一個(gè)問(wèn)題是：擅自使用他人肖像制作“換臉”視頻，背后暗藏什么法律風(fēng)險(xiǎn)和侵權(quán)糾紛？

　　記者就此咨詢(xún)前述特效師博主，對(duì)方回復(fù)稱(chēng)“視頻‘換臉’不涉及侵權(quán)，因?yàn)橛耙晞《际枪_(kāi)的，如果侵權(quán)，那么那些影視剪輯和影視解說(shuō)都侵權(quán)了”，并稱(chēng)自己從業(yè)以來(lái)沒(méi)有遇到過(guò)相關(guān)糾紛。

　　然而，受訪(fǎng)專(zhuān)家給出的法律分析正好相反。

　　中國(guó)傳媒大學(xué)文化產(chǎn)業(yè)管理學(xué)院法律系主任鄭寧告訴記者，擅自使用他人肖像制作“換臉”視頻，可能會(huì)涉嫌構(gòu)成侵犯他人肖像權(quán)、名譽(yù)權(quán)等。無(wú)論是“換臉”App的經(jīng)營(yíng)者還是普通網(wǎng)友，凡未經(jīng)影視劇著作權(quán)人的授權(quán)和許可，擅自將“換臉”后的影視片段通過(guò)網(wǎng)絡(luò)提供給公眾，使公眾可以在其個(gè)人選定的時(shí)間和地點(diǎn)進(jìn)行在線(xiàn)播放甚至下載等，都可能涉嫌侵害影視劇著作權(quán)人的信息網(wǎng)絡(luò)傳播權(quán)。同時(shí)，如果“換臉”后對(duì)原影視劇片段的主旨進(jìn)行歪曲篡改，最常見(jiàn)的形式就是惡搞，還有可能侵害影視劇著作權(quán)人的保護(hù)作品完整權(quán)等。

　　鄭寧認(rèn)為，如果“AI換臉”技術(shù)被不法分子利用，被用于詐騙、色情、盜竊、惡搞、非法逐利等，則會(huì)產(chǎn)生極大危害，不僅侵害他人合法權(quán)益，還可能危害社會(huì)公共安全。

　　鄭寧介紹，目前沒(méi)有相關(guān)行業(yè)規(guī)范明確“AI換臉”的特定應(yīng)用場(chǎng)合，但規(guī)定了“AI換臉”行為應(yīng)當(dāng)遵守的邊界?！痘ヂ?lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱(chēng)《規(guī)定》）明確，任何組織和個(gè)人不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播法律、行政法規(guī)禁止的信息，并要求深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制。這為深度合成服務(wù)的技術(shù)應(yīng)用劃定了“底線(xiàn)”和“紅線(xiàn)”。

　　“《規(guī)定》出臺(tái)，表明有關(guān)部門(mén)已經(jīng)在有意識(shí)地規(guī)制包括‘AI換臉’在內(nèi)的人工智能深度合成技術(shù)，但該文件并未針對(duì)人臉更換技術(shù)的應(yīng)用范圍、目的進(jìn)行限制?！痹谏瓿靠磥?lái)，“AI換臉”涉及人的肖像，其相對(duì)于其他個(gè)人信息更具特殊性，也更為敏感?！癆I換臉”技術(shù)會(huì)導(dǎo)致對(duì)個(gè)人身份信息識(shí)別的混淆，繼而導(dǎo)致信息傳播秩序混亂。所以，需要對(duì)這種潛在的危害進(jìn)行使用范圍的限制。

　　那么，“AI換臉”技術(shù)的應(yīng)用邊界在哪里？

　　申晨認(rèn)為，可以從兩個(gè)應(yīng)用場(chǎng)景考慮：專(zhuān)業(yè)的影視制作，在獲得演員授權(quán)的前提下，可以合法應(yīng)用該技術(shù)；網(wǎng)民娛樂(lè)性的使用，例如熟人之間做一些“換臉”視頻進(jìn)行娛樂(lè)等。

　　“這就涉及如何理解其中的授權(quán)問(wèn)題，根據(jù)相關(guān)規(guī)定，‘AI換臉’需要獲得對(duì)方的肖像權(quán)授權(quán)。肖像權(quán)授權(quán)形式可以有兩種理解：第一種，只要不反對(duì)你使用我的肖像，就完成了知情同意的過(guò)程；第二種，必須由肖像本人實(shí)施明示的意思表示，才能得到制作‘AI換臉’視頻的授權(quán)?！鄙瓿空f(shuō)，對(duì)授權(quán)形式的兩種理解可能要做一個(gè)價(jià)值判斷，通過(guò)主動(dòng)同意的方式獲得“AI換臉”的權(quán)限，雖然有利于保護(hù)肖像權(quán)，但不太符合社會(huì)交往中的觀(guān)念，但若采用第一種理解，可能會(huì)帶來(lái)事后規(guī)制的成本，因此“AI換臉”的應(yīng)用邊界還需要通過(guò)社會(huì)實(shí)踐進(jìn)一步摸索。

　　建立安全評(píng)估系統(tǒng)

　　完善監(jiān)管防范體系

　　針對(duì)“AI換臉”亂象，近年來(lái)，國(guó)家網(wǎng)信辦、各地網(wǎng)警、檢察機(jī)關(guān)等協(xié)調(diào)配合，加大整治打擊力度，辦理了不少民事和刑事案件，出臺(tái)了多項(xiàng)政策法規(guī)加強(qiáng)治理。

　　我國(guó)刑法、民法典以及國(guó)家有關(guān)部門(mén)出臺(tái)的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等多部法律法規(guī)及政策規(guī)定，均涉及深度合成應(yīng)用的規(guī)范、侵權(quán)責(zé)任等內(nèi)容。

　　4月11日，國(guó)家網(wǎng)信辦發(fā)布《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》，對(duì)生成式人工智能產(chǎn)業(yè)給出較為詳盡的規(guī)定，其中包括定義、準(zhǔn)入資格、責(zé)任義務(wù)和處罰措施等。

　　“尤其是《規(guī)定》對(duì)防范深度合成技術(shù)所帶來(lái)的社會(huì)危害和法律風(fēng)險(xiǎn)，邁出了非常重要的一步，實(shí)現(xiàn)了從無(wú)到有，讓深度合成技術(shù)的應(yīng)用有了專(zhuān)門(mén)的監(jiān)督體系?！鄙瓿空f(shuō)，不過(guò)一些具體措施還有待細(xì)化，比如《規(guī)定》要求的安全評(píng)估體系怎么做，誰(shuí)來(lái)做評(píng)估，評(píng)估的標(biāo)準(zhǔn)是什么？這些需要結(jié)合產(chǎn)業(yè)發(fā)展、技術(shù)背景和專(zhuān)業(yè)知識(shí)進(jìn)行細(xì)化。

　　在鄭寧看來(lái)，我國(guó)缺乏對(duì)人工智能的總體立法以及人工智能倫理的行業(yè)規(guī)范，雖然目前的相關(guān)法律對(duì)于“AI換臉”可能侵犯隱私權(quán)、名譽(yù)權(quán)、肖像權(quán)、個(gè)人信息、著作權(quán)，以及對(duì)網(wǎng)絡(luò)安全、數(shù)據(jù)安全的危害也有相應(yīng)規(guī)定，網(wǎng)信辦的相關(guān)規(guī)定對(duì)于算法、深度合成技術(shù)、安全評(píng)估也有規(guī)范，但是如何在AI產(chǎn)業(yè)創(chuàng)新以及國(guó)家安全、個(gè)人權(quán)益保護(hù)之間實(shí)現(xiàn)平衡，如何劃定各方主體的權(quán)利義務(wù)責(zé)任邊界，仍有一些模糊不清的地方。

　　“‘AI換臉’技術(shù)侵犯的權(quán)益十分敏感，經(jīng)由網(wǎng)絡(luò)傳播速度快、范圍大、影響廣，讓人防不勝防，僅通過(guò)事后的責(zé)任追究很難達(dá)到理想的規(guī)制效果。因此，應(yīng)該從技術(shù)開(kāi)發(fā)者、網(wǎng)絡(luò)服務(wù)提供者、用戶(hù)三個(gè)層面，設(shè)計(jì)一套獨(dú)特的監(jiān)管體系?！鄙瓿空f(shuō)。

　　申晨建議，對(duì)“AI換臉”技術(shù)的開(kāi)發(fā)者以及相應(yīng)的科技公司建立嚴(yán)格的備案手續(xù)和安全評(píng)估系統(tǒng)。目前“AI換臉”技術(shù)還比較粗糙，但通過(guò)優(yōu)化迭代，未來(lái)肯定會(huì)高效且逼真，因此一定要合理限制傳播范圍。未來(lái)的監(jiān)管體系要控制住技術(shù)源頭，可以嘗試要求技術(shù)開(kāi)發(fā)者在技術(shù)中預(yù)留一個(gè)“技術(shù)水印”，即用戶(hù)如果應(yīng)用該技術(shù)制作視頻，視頻文件中會(huì)留下痕跡，那么網(wǎng)絡(luò)平臺(tái)可以迅速識(shí)別出該視頻是使用“AI換臉”技術(shù)進(jìn)行制作的。

　　對(duì)于網(wǎng)絡(luò)服務(wù)平臺(tái)，申晨建議對(duì)使用上傳視頻服務(wù)的用戶(hù)信息進(jìn)行審核，即要把握AI合成視頻制作者的身份，以便在后期產(chǎn)生法律風(fēng)險(xiǎn)時(shí)確定責(zé)任人。平臺(tái)還要通過(guò)技術(shù)方法審核視頻內(nèi)容，識(shí)別其中是否有人工合成的要素，并進(jìn)行標(biāo)注。同時(shí)，平臺(tái)在接到人工合成視頻存在法律風(fēng)險(xiǎn)的通知時(shí)，需根據(jù)民法典規(guī)定的網(wǎng)絡(luò)服務(wù)提供者義務(wù)，建立一套完善的應(yīng)對(duì)機(jī)制。此外，用戶(hù)在使用網(wǎng)絡(luò)平臺(tái)服務(wù)的過(guò)程中，如果發(fā)現(xiàn)有“AI換臉”視頻涉嫌存在法律風(fēng)險(xiǎn)，一定要有舉報(bào)意識(shí)。

　　“當(dāng)上述三個(gè)環(huán)節(jié)都建立起監(jiān)管機(jī)制，再結(jié)合對(duì)違法者法律責(zé)任的追究，將會(huì)形成一個(gè)較為有效的、應(yīng)對(duì)‘AI換臉’技術(shù)法律風(fēng)險(xiǎn)的防范體系?！鄙瓿空f(shuō)。

　　曾參與電子商務(wù)法立法工作的浙江墾丁律師事務(wù)所主任張延來(lái)提出，治理“AI換臉”技術(shù)濫用現(xiàn)象，除了法律途徑，還需引入社會(huì)力量尤其是商業(yè)力量，就像計(jì)算機(jī)病毒需要引入殺毒軟件來(lái)遏制一樣。不過(guò)，更應(yīng)該關(guān)注技術(shù)本身所帶來(lái)的有利效果，對(duì)于濫用行為可以依法打擊，不必過(guò)于恐懼技術(shù)本身，而是應(yīng)該學(xué)習(xí)和擁抱新技術(shù)。

　　“任何技術(shù)都是雙刃劍，還是取決于誰(shuí)來(lái)用、怎么用、用了違法怎么追責(zé)?！瓵I換臉’在一些場(chǎng)景具有積極意義，比如影視制作、廣告等，不應(yīng)全盤(pán)否定，但是也要對(duì)其風(fēng)險(xiǎn)有充分認(rèn)識(shí)?！编崒幙偨Y(jié)說(shuō)。