新華網(wǎng)北京1月16日電 題科技：給“AI魔改”戴上“緊箍咒”
新華網(wǎng)記者 王巖 周靖杰
弱不禁風(fēng)的林黛玉化身“力拔山兮”的猛士，將大觀園的垂楊柳連根拔起；深宮之中的甄嬛娘娘穿越火線，手持現(xiàn)代武器成為特種兵王；經(jīng)典革命劇集的片段被篡改得面目全非，嚴肅歷史淪為荒誕戲說的背景板科技。這些以“創(chuàng)意”為名、借助AI工具批量生產(chǎn)的“魔改”視頻，憑借顛覆性的沖擊力吸引網(wǎng)友的眼球，迅速被視作“流量密碼”。
為整治“AI魔改”視頻傳播亂象，國家廣播電視總局自2026年1月1日起，在全國范圍內(nèi)開展為期一個月的專項治理科技。
國家廣播電視總局部署開展“AI魔改”視頻專項治理（圖片來源科技：國家廣播電視總局網(wǎng)站）
截至1月16日，第二期“AI魔改”視頻專項治理成果已公布，各平臺共累計清理超1.1萬條違規(guī)視頻，如通過AI生成方式對《西游記》中相關(guān)經(jīng)典人物形象進行不當(dāng)改編、魔改《紅樓夢》中劇情和人物，渲染暴力毆打情節(jié)、編造低俗情節(jié)，違背公序良俗等內(nèi)容，并同步處置亂象突出賬號，助力營造良好網(wǎng)絡(luò)視聽空間科技。
展開全文
“魔改”或觸法律“高壓線”
所謂“AI魔改”視頻，絕非簡單的技術(shù)炫技或無害的娛樂調(diào)侃科技。部分創(chuàng)作者利用AI技術(shù)，對經(jīng)典文藝作品、歷史人物、英雄模范形象進行顛覆性、低俗化乃至暴力血腥的篡改與重構(gòu)。這些視頻借助生成式人工智能（AIGC）技術(shù)，打著二次創(chuàng)作、創(chuàng)意表達的旗號，以低門檻、高產(chǎn)量、強獵奇的特點迅速傳播。
圖片來源科技：央視新聞《法治在線》
除了對經(jīng)典作品的解構(gòu)，一種在網(wǎng)絡(luò)上被稱為“AI拼接怪獸”或“外國山海經(jīng)”的邪典視頻，此前曾在未成年群體中隱秘流行科技。據(jù)央視新聞、《法治日報》等媒體報道，這類視頻利用AI工具將動物、物品與人類特征隨機拼接，批量制造出荒誕離奇的怪異形象，并配以魔性音效，其中部分圖片和視頻中不乏暴力詞匯，以及危險動作。這些視頻的傳播不僅嚴重擠占兒童接觸優(yōu)質(zhì)內(nèi)容的空間，導(dǎo)致其模仿怪異行為、專注力下降，從更深層角度來看，視頻以扭曲、獵奇的視覺垃圾，將“低俗獵奇”潛移默化為“流行趣味”，持續(xù)沖擊著未成年人尚未成熟的審美體系與價值認知。
北京社科院副研究員王鵬認為，“AI魔改”視頻泛濫至少帶來三重危害科技。第一，篡改經(jīng)典與歷史人物的核心精神，消解文化的嚴肅性與連續(xù)性；第二，低俗化、娛樂化內(nèi)容嚴重沖擊社會公序良俗，尤其對青少年價值觀形成誤導(dǎo)；第三，擾亂內(nèi)容行業(yè)生態(tài)，擠壓原創(chuàng)空間，形成“劣幣驅(qū)逐良幣”的惡性循環(huán)。
浙江大學(xué)城市學(xué)院副教授、中國城市專家智庫委員會常務(wù)副秘書長林先平認為，部分創(chuàng)作者對經(jīng)典作品及英雄模范、歷史人物的“AI魔改”視頻，可能對公眾尤其是青少年的歷史認知和價值觀造成誤導(dǎo)，削弱經(jīng)典文藝作品的教育意義，損害英雄模范人物的嚴肅形象，不利于社會主義核心價值觀的傳播科技。
“AI魔改”視頻不僅挑戰(zhàn)文化底線，也可能觸碰到法律的“高壓線”科技。
北京煒衡（天津）律師事務(wù)所執(zhí)委會主任、高級合伙人裴躍提示了“AI魔改”視頻背后的法律風(fēng)險科技。因經(jīng)典作品受《中華人民共和國著作權(quán)法》（以下簡稱著作權(quán)法）保護，未經(jīng)原權(quán)利人同意對作品的文字、人物形象、臺詞、劇情等進行實質(zhì)性改動，可能涉嫌侵犯改編權(quán)、保護作品完整權(quán)、復(fù)制權(quán)；若截取影視演員表演片段并篡改其形象、動作、臺詞，還可能侵犯表演者權(quán)以及演員的肖像權(quán)、名譽權(quán)等人格權(quán)。而針對英雄模范、歷史人物的“AI魔改”，若存在歪曲、丑化行為，還會侵犯其名譽權(quán)和榮譽權(quán)，依據(jù)《中華人民共和國英雄烈士保護法》，侵害英雄烈士相關(guān)權(quán)益情節(jié)嚴重的還可能涉嫌刑事犯罪。
當(dāng)前，生成式AI的普及極大地降低了視頻修改的技術(shù)門檻和成本，違規(guī)內(nèi)容正在以規(guī)?；?、隱蔽化的方式進行生產(chǎn)傳播，AI技術(shù)的“雙刃劍”效應(yīng)凸顯科技。王鵬認為，傳統(tǒng)的內(nèi)容審核機制面對海量、快速迭代的AI生成內(nèi)容時顯得“力不從心”，存在一定的監(jiān)管滯后與空白。
厘清邊界引領(lǐng)技術(shù)向善
此次專項治理，劍指技術(shù)濫用之弊科技。抖音、快手、微信、B站、小紅書等平臺紛紛公布治理數(shù)據(jù)與典型案例。其中，抖音下架了AI魔改《紅樓夢》《西游記》《水滸傳》等經(jīng)典作品，編造低俗情節(jié)、渲染暴力毆打情節(jié)的視頻；百度清理了對軍人形象進行低俗化AI演繹的內(nèi)容；小紅書處置了高頻發(fā)布魔改海綿寶寶、皮卡丘等動畫形象、傳遞不良價值觀的賬號。
林先平認為：“治理行動絕非意在抑制創(chuàng)作活力，核心目的是‘劃清邊界’，厘清‘二次創(chuàng)作’與‘惡意魔改’的界限，恰恰是為了讓創(chuàng)新能夠在尊重歷史、弘揚正能量的軌道上更有生命力科技?！?/p>
裴躍指出，根據(jù)著作權(quán)法規(guī)定，為個人學(xué)習(xí)、評論、新聞報道、教學(xué)研究等目的使用作品屬于合理使用范疇，無需經(jīng)權(quán)利人同意，而商業(yè)性使用或具有侵權(quán)故意的使用，未經(jīng)權(quán)利人許可則涉嫌違法；“改編”行為因必然關(guān)聯(lián)原作品及權(quán)利人，通常需獲得權(quán)利人同意科技。
對于廣大創(chuàng)作者而言科技，應(yīng)當(dāng)如何避免從“合理使用”滑向“侵權(quán)魔改”？
裴躍給出幾條建議科技。首先，創(chuàng)作前務(wù)必查清版權(quán)歸屬，通過版權(quán)登記平臺、出品方署名、官網(wǎng)等渠道確認電視劇、改編作品等受保護內(nèi)容的著作權(quán)人，使用相關(guān)片段需獲取書面許可，即便是四大名著這類公有領(lǐng)域經(jīng)典作品，也需規(guī)避他人已受保護的改編版本。其次，二次創(chuàng)作必須體現(xiàn)自身的“獨創(chuàng)性”，不能僅僅是原作的搬運或簡單拼接。第三，非商業(yè)用途、基于少量片段進行評論、科普，且未歪曲原意的，法律風(fēng)險相對較低。一旦涉及商業(yè)傳播，或?qū)烂C題材進行娛樂化歪曲，即使非營利也極易觸碰紅線。最后，務(wù)必保留創(chuàng)作過程的證據(jù)鏈。
國家廣播電視總局在《通知》中明確，專項治理后，廣電總局將認真總結(jié)，進一步研究制定綜合治理舉措，健全工作機制，保持治理的常態(tài)化、長效化科技。這意味著，此次為期一個月的集中治理，只是一個開始。
AI的普及讓每個人都能成為“導(dǎo)演”，但一個合格的導(dǎo)演應(yīng)該明白，規(guī)范AI創(chuàng)作的最終目標，是讓AI技術(shù)賦能文化傳播，讓文化與科技相向而行、彼此成就科技。
