AI換臉，該抵制嗎？
眼見≠為實，AI換臉欺騙了不少人。
前兩天，湖北公安破獲了一起用AI換臉技術(shù)解鎖社交賬號并倒賣獲利的案件。不法分子通過AI換臉專門幫人解鎖被平臺凍結(jié)的交友賬號，每解鎖一個，收費15元-30元不等。該團伙共解凍了2107個賬號，從中獲利40萬元。
有數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐暴增了3000%，深度偽造也就是deepfake，是learning和fake的組合，主要指用AI深度學習的技術(shù)，合成某個人的圖片或視頻、甚至聲音，最常見的便是AI換臉。工信部更是在近期表示，將推出AI換臉詐騙風險提醒功能。
一邊是AI換臉詐騙案件屢屢發(fā)生，另一邊則是AI換臉技術(shù)不斷迭代。
AI圈最近被一款A(yù)I換臉項目——Deep-Live-Cam，炸開了鍋。用戶只需上傳一張照片，便可實時換臉成扎克伯格、董宇輝等任何想成為的人。
這一項目免費面向所有用戶開放，發(fā)布在GitHub（代碼托管平臺）上，支持個人電腦安裝。項目開發(fā)者公布了安裝方法，沒有技術(shù)經(jīng)驗的普通人可以邊學邊安裝。
由于操作簡單方便且換臉真實度高，Deep-Live-Cam出場便登上GitHub熱榜第一，24小時狂攬1600+星（星星代表項目點贊和關(guān)注指標，幾千顆星星是相當不錯的級別）。不少網(wǎng)友將自己換臉成馬斯克，體驗了一把全球億萬富豪的感覺。
但大家在感慨AI換臉技術(shù)取得突破的同時，也在擔憂“詐騙更變得容易了”。AI換臉，該抵制嗎？
1 普通人都能用的AI換臉，成本低至十幾塊
目前國內(nèi)外出現(xiàn)的AI換臉工具不少，Deep-Live-Cam被熱議的原因主要在于，用戶只用上傳一張圖但替換效果非常逼真，還支持實時換臉。
其實，“實時換臉”功能的技術(shù)門檻算不上高。
瑞萊智慧聯(lián)合創(chuàng)始人、算法科學家蕭子豪介紹，想達到實時視頻換臉效果有兩種方式：一種是播放事先做好的換臉視頻，一種是接入實時換臉視頻。Deep-Live-Cam屬于后者。
無論哪種，AI換臉視頻都需兼顧前后幀的連貫性，而基于連續(xù)人臉視頻的處理，可根據(jù)前一幀的很多檢測資源做微小的調(diào)整，“這也讓基于連續(xù)幀的視頻/直播換臉，相比獨立幀的單張換臉，效率更高”，一位從事AI技術(shù)的研究員表示。
AI換臉依托的底層技術(shù)是Deepfake，從業(yè)者推測，Deep-Live-Cam采用的也是這一技術(shù)，所以僅從制作合成花費的素材和算力看，成本不會很高。
蕭子豪表示，如果不考慮其他硬件采購成本，大多數(shù)AI換臉成本，一次大概只要十幾塊，主要包含照片和算力，Deep-Live-Cam可能更低。和其他AI換臉工具相比，Deep-Live-Cam用的照片數(shù)量更少，該工具還支持普通電腦使用，照片和算力成本更低。
相比之下，Deep-Live-Cam支持僅用一張圖片換臉，更讓從業(yè)者們震驚。因為過往的AI換臉產(chǎn)品需要用戶提供多張不同角度的至少十幾張照片。
照片難度的降低讓用戶玩嗨了。AI追隨者小C表示，自己之前沒接觸過任何AI換臉工具，他覺得Deep-Live-Cam操作門檻不高，按照發(fā)布者的說明便可完成，尋找換臉素材的難度也不是很高。
他將自己換臉成了郭德綱、吳京、雷佳音等一眾名人，且都只用了他們各自的一張圖片。他表示，只要提供的是正臉、額頭無遮擋、自然光，接近自己膚色、證件照比例的照片，一張便可成功，臉換效果也很自然。
不止一位從業(yè)者認為，部分影視劇采用的AI換臉技術(shù)，不僅門檻高、成本高昂，換臉效果也不夠自然，說話過程中經(jīng)常出現(xiàn)變形、失真。“像不像是AI換臉工具最大的難題，Deep-Live-Cam能支持一張圖在直播過程中達到，臉邊緣沒有明顯貼圖痕跡，膚色和原人物差別不大的效果，逼真度領(lǐng)先很多AI換臉工具，”蕭子豪分析，其開發(fā)者應(yīng)該是在圖片渲染模型上實現(xiàn)了過往AI換臉工具沒有的突破。
不過，目前Deep-Live-Cam還存在一些Bug，比如支持換臉但不涉及換聲。但蕭子豪表示，想要實現(xiàn)此舉不難，接入實時換聲工具即可，稍有編程基礎(chǔ)的人就能完成。
2 AI換臉，躲不掉的詐騙和侵權(quán)
Deep-Live-Cam等工具降低了用戶的使用門檻，但大家也開始恐懼，不法分子只用一張圖就可以換臉行騙，對普通人而言，風險將會劇增。
瑞萊智慧數(shù)據(jù)指出，國內(nèi)AI詐騙案件的涉案金額從2020年的0.2萬增長至2023年的1670萬，年復(fù)合增長率高達1928.8%。2024年上半年，AI詐騙案超過1.85億。奇安信發(fā)布的《2024人工智能安全報告》顯示，2023年基于AI的深度偽造欺詐暴增了3000%。
AI換聲、AI換臉、AI生成是AI詐騙常用的三種手段，其中AI生成內(nèi)容，秒數(shù)有限，畫質(zhì)和人物瑕疵明顯，因此不法分子最常用的是AI換聲、AI換臉。而大多人相信“眼見為實”，又讓AI換臉的欺騙性高于AI換聲。
AI換臉不僅騙到了老年人，很多從事科技領(lǐng)域的年輕人也一夜失掉幾百萬。
據(jù)媒體公開報道，去年某科技公司CEO收到朋友轉(zhuǎn)賬求助，不到10分鐘被騙430萬元，騙子主要便是利用了AI變臉技術(shù)。還有香港某跨國公司員工被騙入不法分子設(shè)計的高管視頻會議后，將2億港元打到對方賬戶。
AI換臉達到了“能以假亂真”的程度，是從業(yè)者的共識。
李旭反傳防騙團隊負責人李旭對AI換臉技術(shù)的關(guān)注，便來源于各種詐騙案件。他表示，近兩年AI換臉詐騙案件頻發(fā)，市面上大概有三種AI換臉詐騙手段非常成熟。
第一種，利用AI換臉偽造色情視頻，對受害人進行敲詐。
比如犯罪團伙會從網(wǎng)上等各種渠道收集被害人圖片、視頻信息，然后進行一鍵去衣、AI換臉等合成處理，將偽造的不雅視頻或者艷照發(fā)給受害者，用來敲詐勒索。
第二種，利用AI換臉冒充熟人詐騙。
比如詐騙團伙會用市面上的一些換臉工具偽裝成受害人的親人、朋友、同事、領(lǐng)導等，先虛構(gòu)一個緊急事由，利用被騙目標的急迫心理實施詐騙行為，受害人在情急之下往往容易放松警惕將錢轉(zhuǎn)出。
現(xiàn)在使用Deep-Live-Cam更只需要采集受害者一兩張照片即可深度仿造技出一段視頻，李旭覺得，AI換臉詐騙的程度超出了大多數(shù)普通人的認知，也直接改變了電信詐騙的劇本，防不勝防，愈演愈烈。
第三，利用AI換臉冒充名人進行直播帶貨，騙取用戶下單。
比如主播在直播間利用“AI換臉”給自己“換”了一張名人臉，從而增加直播視頻流量，助力直播帶貨。
此外，未經(jīng)他人允許，通過AI換臉對名人/普通人進行長短視頻二創(chuàng)、制作表情包等侵權(quán)問題也十分常見。
AI換臉詐騙案件頻發(fā)且手段多樣，與這一技術(shù)的成熟度和廣泛度密切相關(guān)。
瀚皓科技CEO吳杰茜告訴「定焦」，“目前，AI視頻生成、數(shù)字人和AI換臉技術(shù)都很成熟，而AI換臉是其中發(fā)展最早的領(lǐng)域。”
2014年Deepfake（深度偽造）技術(shù)的出現(xiàn)，標準著AI換臉誕生，但一直在小范圍傳播，直到2017年，有用戶利用該技術(shù)發(fā)布不實色情圖片后，AI換臉才走入大眾視野，但同時也因為其帶來的大量造假內(nèi)容，該技術(shù)一直備受爭議。
不止一位從業(yè)者表示，這些年，雖然大眾對AI換臉的討論多集中在拯救影視劇上，但由于不好監(jiān)管，利用AI換臉進行造假詐騙的事情也一直沒斷過。且AI換臉技術(shù)一直在迭代，入局者也不少，目前除了一些大廠涉及這一業(yè)務(wù)外，國內(nèi)很多數(shù)字人、AI生成視頻初創(chuàng)公司都有開發(fā)AI換臉業(yè)務(wù)，技術(shù)普及度比較高，該類工具也越來越多。
技術(shù)成熟、普及度高，監(jiān)管也有一定的難度，導致讓AI換臉技術(shù)這些年一直被濫用。
3 如何辨別越來越逼真的AI換臉？
近兩年AI換臉導致的各種違法犯罪行為不少，不可控性讓部分人覺得應(yīng)該抵制AI換臉技術(shù)。
但也有很多從業(yè)者覺得，科技本身是中性的，其帶來的好壞影響主要取決于使用者。AI換臉技術(shù)的出現(xiàn)和迭代不應(yīng)該被制止。
吳杰茜表示，目前國內(nèi)外均沒有對AI換臉技術(shù)采取一刀切，更多是進行立法管理。
比如美國針對深度偽造進行了專門立法，歐盟將深度偽造納入《通用數(shù)據(jù)保護條例》等現(xiàn)有法律框架規(guī)制度，德國、新加坡、英國等國家也將深度偽造相關(guān)犯罪納入刑法體系。中國也在《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》中明確了對這一技術(shù)的規(guī)范。
多位從業(yè)者認為，對AI創(chuàng)作的內(nèi)容進行標明等管理辦法，以及傳授給大眾一些防AI詐騙方法，是十分必要的。
比如，曾有技術(shù)人員提出，可以在視頻通話時，要求對方將手指放在臉部，仔細觀察人臉是否變形，或者讓對方張嘴，看牙齒和舌頭是否清晰完整，從而判斷圖像是真人還是AI合成。
去年這一方法還比較奏效，但今年隨著AI換臉技術(shù)的升級，已經(jīng)讓其失靈。
蕭子豪表示，當下AI換臉技術(shù)可以實現(xiàn)有障礙物出現(xiàn)時人臉和動作不變形，且畫質(zhì)清晰度很高。李旭也發(fā)現(xiàn)，近期發(fā)生的AI換臉詐騙案件都使用了很強的技術(shù)手段，單純靠動作幾乎辨別不出。
鑒于AI換臉技術(shù)的快速發(fā)展，李旭認為，提高警惕是目前相對有效的方法。比如接到熟人借錢的視頻來電時，可以問對方一些只有彼此才知道的隱私問題，并多向身邊人詢問核實。
部分從業(yè)者覺得，用AI辨別AI或許是個不錯的辦法。
比如先看畫面有沒有一些明顯違背常識的元素，重點看臉部邊緣是否有瑕疵，然后再借助一些AI工具。蕭子豪覺得用AI甄別AI，可識別出絕大多數(shù)騙局，目前很多公司和政府部門都找他們來合作AI換臉防御系統(tǒng)。
但此舉在國內(nèi)外也引發(fā)了一定爭議。
首先，這種方式具有一定的使用門檻，用戶需要在手機/電腦端下載相關(guān)應(yīng)用。其次，從本質(zhì)上看，這類防御工具存在一定的滯后性，主要對當下AI換臉工具見招拆招，但AI換臉技術(shù)和合成方法在時刻變化。
很多人寄希望于相關(guān)法律法規(guī)完善，比如提高對AI換臉詐騙、銷售AI換臉淫穢視頻、換臉名人進行帶貨等違法行為的懲罰力度。
去年，杭州蕭山區(qū)人民法院判決了一起用AI換臉制作淫穢視頻的案例，被告人因提供AI換臉定制服務(wù)，通過AI換臉制作了大量淫穢視頻，還用建群的方式吸引觀看者付費進群，涉案金額共6萬余元，最終被判處有期徒刑七年三個月，并處罰金6萬元。
不過也提醒大家一點，并不是所有的AI換臉都會侵犯肖像權(quán)。
今年6月北京互聯(lián)網(wǎng)法院宣判了兩起AI換臉侵權(quán)案件，兩位國風短視頻模特在社交平臺上發(fā)現(xiàn)了自己視頻出現(xiàn)在某一換臉APP中，于是將該APP背后的科技公司告上法庭，認為其損害了自己的肖像權(quán)和個人權(quán)益。
法院的宣判是，認定被告使用了原告出鏡的視頻，但由于涉案視頻中的原告面部已被替換，并未侵害原告的肖像權(quán)，因此僅認定此舉構(gòu)成對原告?zhèn)€人信息權(quán)益的侵犯。
此刻，AI換臉技術(shù)還在不斷升級，也尚未被禁止，AI換臉工具還大量在市場上流傳。
「定焦」近期在某電商平臺上直接搜索“AI換臉”時，已經(jīng)搜不到任何信息，但只要把關(guān)鍵詞稍加改變，還是能找到相關(guān)換臉工具售賣，并且路徑更為隱秘，會跳轉(zhuǎn)到某二手網(wǎng)站進行交易。在技術(shù)和騙術(shù)都在不斷升級的當下，大家能做的是提高警惕，防止被AI換臉侵害。
本文鏈接：http://www.albanygandhi.com/news-23-1010.htmlAI換臉，該抵制嗎？
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
