連日來(lái)，知名模特葉凱薇被人利用AI換臉制作淫穢視頻傳播一事持續(xù)引發(fā)熱議，也再次讓AI換臉濫用引發(fā)的違法侵權(quán)行為受到關(guān)注。大皖新聞?dòng)浾咛皆L體驗(yàn)發(fā)現(xiàn)，網(wǎng)上能輕松找到相關(guān)應(yīng)用軟件，制作AI換臉視頻，電商平臺(tái)也有商家售賣(mài)此類(lèi)軟件，甚至宣稱(chēng)能做到“100％逼真”。對(duì)此，專(zhuān)家表示，防范此類(lèi)風(fēng)險(xiǎn)，需法律、應(yīng)用工具、視頻平臺(tái)多方齊發(fā)力。
網(wǎng)上AI換臉軟件和教程可輕松找到，一鍵生成視頻
3月13日，大皖新聞?dòng)浾唧w驗(yàn)發(fā)現(xiàn)，在多個(gè)社交平臺(tái)搜索關(guān)鍵詞“AI換臉”，均會(huì)出現(xiàn)“溫馨提示”，諸如“該內(nèi)容僅供娛樂(lè)，切勿輕信，謹(jǐn)防詐騙”“道具使用需依法依規(guī)，也請(qǐng)注意識(shí)別他人是否借此營(yíng)造虛假人設(shè)，不當(dāng)獲利”等。在某社交平臺(tái)，溫馨提示下方即是各種推薦AI換臉軟件、網(wǎng)站的帖子，其中不少都以女明星的照片作為封面圖，甚至打出了“一鍵換臉，秒變明星臉”“換臉就這么簡(jiǎn)單”“AI換臉最強(qiáng)插件”等頗具吸引力的標(biāo)語(yǔ)，在評(píng)論區(qū)，還有不少網(wǎng)民留言追問(wèn)如何獲取、使用。
在某短視頻平臺(tái)，記者看到，搜索“AI換臉”出來(lái)的內(nèi)容更為豐富，不僅有自帶使用工具鏈接的AI換臉教程，還有各種小程序、特效、免費(fèi)軟件供選擇。在一些教程視頻中，直接選取影視片段，將明星演員臉部替換，契合程度不一，有的較為粗糙，有的則較為自然，乍一看難以輕易區(qū)分。
點(diǎn)開(kāi)其中一款工具，記者看到，有各種場(chǎng)景視頻供選擇，多以影視片段為主，選定場(chǎng)景后，可以選擇人臉照片。記者隨機(jī)上傳了一張人臉照片后，跳出付費(fèi)頁(yè)面，單次付費(fèi)視頻換臉為2.88元，周會(huì)員為15元，月會(huì)員為30元，標(biāo)注可無(wú)限次免費(fèi)制作。付費(fèi)后，沒(méi)多久視頻就制作完成，原本視頻中明星演員的臉部已經(jīng)成功替換，雖然面部表情有些生硬，但整體已較為契合。
單次2.88元即可生成換臉視頻
電商平臺(tái)售賣(mài)AI換臉軟件，有商家宣稱(chēng)“100%逼真”
而在電商平臺(tái)，大皖新聞?dòng)浾咄瑯铀阉鳌癆I視頻換臉”，要么顯示暫無(wú)相關(guān)商品，要么直接跳出法律提醒。記者轉(zhuǎn)而搜索“AI換”，則顯示有不少可以提供AI技術(shù)轉(zhuǎn)換的商家，人物圖片、視頻可一鍵轉(zhuǎn)換，收費(fèi)標(biāo)準(zhǔn)從10元到50元不等。記者以購(gòu)買(mǎi)者的身份咨詢，一名客服介紹，付費(fèi)后，會(huì)提供一款軟件用于視頻換臉，上傳后一鍵轉(zhuǎn)換，操作簡(jiǎn)單。另一名客服更是介紹，他們的軟件不僅可以換臉，還可以克隆聲音，只需提供一張照片或者一個(gè)視頻直接一鍵生成，高清導(dǎo)出，還沒(méi)有次數(shù)限制，“不用擔(dān)心不會(huì)使用，我們老師一對(duì)一進(jìn)行指導(dǎo)，并且做到100%逼真?！痹摽头f(shuō)道。
多個(gè)商家客服均表示，可以用明星照片實(shí)現(xiàn)視頻換臉，當(dāng)記者詢問(wèn)此舉是否有風(fēng)險(xiǎn)時(shí)，得到的答復(fù)則是“娛樂(lè)使用即可”“不會(huì)的，放心”。記者進(jìn)一步追問(wèn)是否可以給裸體視頻換臉時(shí)，一名客服回答：“拍下即可，測(cè)試過(guò)的，放心親?！绷硪幻头t表示，其不知曉，下載后自己操作即可。
電商平臺(tái)有商家售賣(mài)相關(guān)換臉軟件
而在另一家電商平臺(tái)，記者看到，直接搜索“AI視頻換臉”顯示無(wú)相關(guān)商品，搜索“AI換”同樣會(huì)出現(xiàn)可提供換臉、換裝服務(wù)的商家。記者再次以購(gòu)買(mǎi)者的身份聯(lián)系多個(gè)商家，對(duì)方均表示無(wú)法進(jìn)行明星視頻換臉。問(wèn)及原因，一位客服稱(chēng)是因?yàn)樾は駲?quán)的原因不做，另一位客服則回答：“這個(gè)不行了，沒(méi)了?！?span style="display:none">WW9即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com
在探訪過(guò)程中，記者還發(fā)現(xiàn)，有的應(yīng)用程序還會(huì)在操作中，彈出溫馨提示，禁止上傳涉黃違規(guī)內(nèi)容，一經(jīng)發(fā)現(xiàn)將永久禁止。
應(yīng)用程序彈出溫馨提示，禁止上傳涉黃內(nèi)容
專(zhuān)家：防范風(fēng)險(xiǎn)，需法律、應(yīng)用工具、視頻平臺(tái)多方發(fā)力
對(duì)此，大皖新聞?dòng)浾卟稍L了安慶師范大學(xué)傳媒學(xué)院副教授（復(fù)旦大學(xué)傳播學(xué)博士）劉志遠(yuǎn)，其表示，隨著AI技術(shù)的發(fā)展，聲音克隆和換臉技術(shù)越來(lái)越普及，門(mén)檻也越來(lái)越低。市面上提供了很多易于使用的工具，比如手機(jī)APP、小程序等，使得普通用戶也能方便使用人工智能工具，但風(fēng)險(xiǎn)也隨之而來(lái)。
面對(duì)AI使用過(guò)程中存在的風(fēng)險(xiǎn)，又該如何防范呢？劉志遠(yuǎn)認(rèn)為，一方面，在工具源頭(尤其是涉及到AI換臉和克隆聲音功能的)加入水印功能，即這類(lèi)工具生成的內(nèi)容自動(dòng)加入顯式和隱式水印，顯式水印明確表示這是AI生成的，隱式水印便于追蹤和回溯。同時(shí)，工具自身也需要提供AI生成內(nèi)容所可能帶來(lái)后果的警示信息，提醒用戶。另一方面，各大視頻平臺(tái)也需要加強(qiáng)AI生成內(nèi)容的檢測(cè)力度，對(duì)可能是AI生成的內(nèi)容予以醒目提示，比如“該內(nèi)容可能是AI生成的”等。
“當(dāng)然，最重要的，我覺(jué)得還是從法律法規(guī)層面加強(qiáng)管理，制定AI使用相關(guān)的法律法規(guī)，規(guī)定AI使用和適用場(chǎng)景等，明確換臉和克隆技術(shù)可能帶來(lái)的風(fēng)險(xiǎn)和法律后果。”劉志遠(yuǎn)說(shuō)道。
大皖新聞?dòng)浾?韓喻 實(shí)習(xí)生 章雅婷
本文鏈接：http://m.enbeike.cn/news-4-3919-0.html網(wǎng)上AI換臉軟件可輕松找到，有商家宣稱(chēng)“100%逼真” 專(zhuān)家：防范風(fēng)險(xiǎn)需多方齊發(fā)力
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
點(diǎn)擊右上角
微信好友
朋友圈
點(diǎn)擊瀏覽器下方“
”分享微信好友Safari瀏覽器請(qǐng)點(diǎn)擊“
”按鈕
點(diǎn)擊右上角
QQ
點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請(qǐng)點(diǎn)擊“”按鈕
