“太可怕了，聲音、口型完全看不出來真假法律?！毖輪T王勁松近日在微博上的控訴，再次將“AI換臉”濫用亂象推向公眾視野。起因是他發(fā)現(xiàn)自己的影視原始片段被惡意截取后，借助AI深度偽造技術(shù)合成了肖像、聲音與口型，使其成為虛假理財(cái)廣告的“代言人”。這起事件并非孤例，此前李連杰、姚明等名人也曾被卷入類似的虛假營銷之中。在AI換臉假人“制作易”“監(jiān)管難”的背景下，頻發(fā)的侵權(quán)乃至犯罪事件折射出技術(shù)迭代與監(jiān)管治理之間的緊迫張力。
回看AI換臉的技術(shù)演進(jìn)脈絡(luò)，早在其快速發(fā)展之際，就已埋下了濫用的隱患法律。2014年，生成對抗網(wǎng)絡(luò)（GAN）的提出奠定了圖像生成與篡改的技術(shù)基礎(chǔ)；2017年，Deepfake因炮制名人不雅視頻而進(jìn)入公眾視野，盡管當(dāng)時(shí)效果粗糙、“一眼假”，卻開啟了該技術(shù)普及之門。2018年后，F(xiàn)akeApp等開源工具進(jìn)一步降低使用門檻，而英偉達(dá)等企業(yè)對生成技術(shù)的優(yōu)化則極大提升了偽造內(nèi)容的逼真度。進(jìn)入2022年，大模型技術(shù)與開源生態(tài)的爆發(fā)使換臉技術(shù)實(shí)現(xiàn)質(zhì)的飛躍：僅需一張照片和幾秒語音，即可生成肉眼難以辨識的“聲形合一”的虛假視頻。雖然技術(shù)的開發(fā)往往出于“中立”，但AI與生俱來的工具屬性和開源帶來的私人性，從一開始就很難避免其被濫用的風(fēng)險(xiǎn)。也正是由此，AI換臉在影視制作、虛擬主播等正面用途中得到廣泛應(yīng)用的同時(shí)，也在快速淪為詐騙、仿冒營銷的工具，其技術(shù)雙面性愈發(fā)突出。
當(dāng)前，AI生成與檢測技術(shù)的對抗正陷入“螺旋升級”法律。一方面，AI“魔改”視頻的制作門檻持續(xù)降低，電商平臺上“1分鐘無痕對口型”的服務(wù)報(bào)價(jià)僅數(shù)百元，已形成成熟的灰色產(chǎn)業(yè)鏈。另一方面，檢測技術(shù)雖在迭代，仍存在顯著短板。研究顯示，在復(fù)雜場景下，現(xiàn)有AI檢測器的準(zhǔn)確率可能從90%驟降至60%，不法分子還可通過本地運(yùn)行開源模型、修改原始素材等方式規(guī)避平臺審查。當(dāng)當(dāng)事人的家人都無法分辨造假視頻真?zhèn)螘r(shí)，技術(shù)濫用對社會信任的侵蝕已觸目驚心。
平臺治理亦陷入“防不勝防”的困境，暴露出行業(yè)協(xié)同機(jī)制的缺失法律。盡管部分頭部平臺已建立名人肖像保護(hù)庫，累計(jì)處置數(shù)萬條侵權(quán)內(nèi)容，但治理難度依然巨大。其核心癥結(jié)在于技術(shù)濫用的隱蔽性與跨平臺傳播能力——侵權(quán)視頻可在多個(gè)平臺間交叉擴(kuò)散，但AI生成內(nèi)容缺乏統(tǒng)一的識別標(biāo)準(zhǔn)，同時(shí)小型造假工具與開源模型則游離于監(jiān)管體系之外。在此背景下，單個(gè)平臺的“單打獨(dú)斗”難以奏效。只有打通行業(yè)壁壘，推動檢測技術(shù)與侵權(quán)特征庫的共建共享，建立跨平臺的協(xié)同治理機(jī)制，將先進(jìn)經(jīng)驗(yàn)轉(zhuǎn)化為行業(yè)通用標(biāo)準(zhǔn)，方能在技術(shù)攻防中占據(jù)主動，從生態(tài)層面壓縮濫用空間。
另一邊，強(qiáng)化追責(zé)應(yīng)成為遏制亂象的關(guān)鍵突破口法律。此次事件中，涉事CRC、RWA等項(xiàng)目早已被多地監(jiān)管部門警示涉嫌非法集資，卻仍借助AI換臉技術(shù)持續(xù)招搖撞騙。事實(shí)上，偽造代言廣告等侵權(quán)行為本身往往只是冰山一角，這類“見不得光”的糾紛背后可能隱藏著非法集資、詐騙等更為嚴(yán)重的違法犯罪活動。類似事件不僅是有關(guān)部門進(jìn)行“侵權(quán)追責(zé)”的線索，更是深挖源頭犯罪的良機(jī)。應(yīng)建立跨部門間協(xié)同機(jī)制，將AI仿冒營銷視為深挖犯罪鏈條的重要線索，順藤摸瓜，從虛假廣告追溯到項(xiàng)目方資質(zhì)，從侵權(quán)行為倒查資金流向，對造假者、推廣平臺及背后涉嫌非法集資等犯罪的項(xiàng)目方實(shí)施全鏈條打擊。通過將民事侵權(quán)追責(zé)與刑事犯罪偵查相結(jié)合，不僅可以對類似行為形成有效震懾，或許還能有大案要案的“意外收獲”。
所謂“技術(shù)無善惡”，不代表其發(fā)展就能逾越制度的邊界，就可以踐踏他人的權(quán)益法律。王勁松“被AI”事件再次提醒我們，技術(shù)創(chuàng)新必須與風(fēng)險(xiǎn)防控同頻共振。既要加速AI檢測技術(shù)的研發(fā)應(yīng)用，推動行業(yè)協(xié)同治理形成合力，更要健全法律追責(zé)體系。唯有技術(shù)防御和法治懲戒雙輪驅(qū)動，匯聚社會多主體共治合力，才能讓AI技術(shù)回歸服務(wù)社會的本質(zhì)，既釋放創(chuàng)新活力，又守護(hù)人格權(quán)益與社會信任的底線。（作者單位：北京語言大學(xué)國際政治與傳播學(xué)院）
