（香港文匯報 記者 俞晝）編者按：AI話題的火爆延續(xù)到了今年的全國兩會上，代表委員們在為AI如何賦能各行各業(yè)建言獻策的同時，對由AI引發(fā)的新問題也提出了許多審慎的思考。香港文匯報關注並訪問與會代表、委員，就AI大熱背後引發(fā)的隱憂提出思考與建議。

全國人大代表、小米集團董事長雷軍在今年兩會上提出五份建議，其中《關於加強「AI換臉擬聲」違法侵權重災區(qū)治理的建議》引發(fā)業(yè)界強烈共鳴。這份凝結著企業(yè)家切膚之痛的建議，源於去年國慶期間引爆社交媒體的「AI雷軍追罵事件」——當技術狂歡撞上法律真空，一場關於人工智能倫理的全民討論就此展開。

人工智能立法已是全球共識。中國於2023年8月15日起施行《生成式人工智能服務管理暫行辦法》，從而形成以該暫行辦法為核心，輔以數(shù)據(jù)安全法、個人信息保護法等單行法的人工智能規(guī)範。剛剛發(fā)布的最高人民法院工作報告也指出，將依法妥善審理涉人工智能糾紛案件，支持人工智能依法應用；懲治利用人工智能技術侵權行為，促進規(guī)範有序發(fā)展。

伴隨著人工智能技術的飛躍式提升，文、視、圖、聲等的合成和製作門檻大幅降低，AI生成的內容「李逵」「李鬼」難辨，不僅誤導消費者，也損害了被侵權公民的合法權益。為此，多位代表委員在全國兩會期間提出建議，亟須通過完善立法、強化技術監(jiān)管、壓實平臺責任等手段防範AI造假侵權。 

2024年國慶長假期間，短視頻平臺湧現(xiàn)大量「雷軍」發(fā)言視頻。AI生成的「雷軍」不僅怒斥調休制度、吐槽遊戲氪金，甚至出現(xiàn)「用小米SU7撞人」等荒誕言論，相關話題瀏覽量突破1.2億次。儘管大多數(shù)網友將其視為娛樂，但仍有大量用戶通過官方渠道求證視頻真實性。對此，雷軍本人在社交媒體平臺回覆了三個憤怒表情，表達自己的態(tài)度。

「AI換臉擬聲」濫用頻現(xiàn)

「人工智能深度合成技術的快速發(fā)展，推動了『AI換臉擬聲』在影視、廣告、社交等領域廣泛興起，成為社會喜聞樂見、傳播力強、易成熱點的技術應用。」雷軍話鋒一轉，「但同時也看到，『AI換臉擬聲』濫用成了違法侵權行為的重災區(qū)，易引發(fā)侵犯肖像權、侵犯公民個人信息以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模形象和聲譽損害，帶來社會治理等風險。」

在雷軍看來，AI深度合成技術所需素材獲取便利、技術使用門檻低、侵權主體及其手段隱蔽性強等特點，給治理帶來較大挑戰(zhàn)。為此，他建議：加快單行法立法進程，在安全與發(fā)展並重的基礎上提升立法位階；強化行業(yè)自律共治，壓實平臺企業(yè)等各方的責任和義務；加大普法宣傳的廣度力度，增強民眾的警惕性和鑒別力。

兩會期間，全國政協(xié)委員、內地知名演員靳東也回應了AI換臉導致的詐騙問題?！敢恍┫矚g我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質非常惡劣，希望能建立更好的規(guī)則。」隨後，「靳東兩會建議AI換臉立法」話題一度登頂熱搜。

「必須承認，當下國內針對AI的法律法規(guī)不是很健全?！谷珖舜蟠?、四川省律師協(xié)會會長李世亮坦言，AI技術的迅猛發(fā)展在為生產生活帶來便利的同時，也引發(fā)了一系列法律問題。事實上，在2024年的全國兩會期間，李世亮就曾對AI引發(fā)的摩擦表達過看法。不過，彼時他仍對此持保守意見。當時他表示，專門的AI立法「還不用太著急，應該給予市場一定的發(fā)展空間」。

一年過去了，李世亮的觀點產生了變化。「AI的發(fā)展速度遠超人類想像?！估钍懒僚e例道，人工智能正快速融入各行各業(yè)，如養(yǎng)老機器人、醫(yī)療系統(tǒng)等等?！高@些都是法律行為，法律行為會產生法律後果。產生了法律後果以後，責任該如何分擔？這必須要有法律規(guī)範?！估钍懒琳J為，數(shù)據(jù)的合規(guī)性、著作權的歸屬、責任的承擔……一系列新問題都迫切需要立法支持。

可從生成式AI切入立法

「就目前的情況來看，要制定一部既要解決當下問題，又能充分考慮長遠的人工智能法難度極大?！谷珖f(xié)委員、中華全國律師協(xié)會監(jiān)事長呂紅兵坦言，「AI技術有著複雜性、隱蔽性等特徵，在查處違法違規(guī)問題時，執(zhí)法機構面臨調查難、取證難、定性難等諸多難題?！挂虼耍瑓渭t兵建議，可以從生成式AI這一社會最關心最現(xiàn)實的問題切入，重點加快出臺相關立法。

「其中，AI生成內容過程中的著作權保護是個核心又敏感的問題，」呂紅兵進一步闡釋道，這個問題包含兩個方面：輸入階段，使用語料是否構成侵權；產出階段，涉及生成作品性質和作者資格，即是否足以確權及維權。「從國際慣例看，輸入端使用作品相對寬鬆，但前提是文本挖掘和數(shù)據(jù)訓練使用為非商業(yè)性，一旦進入商業(yè)領域則版權應受到嚴格保護?！?/p>

此外，從發(fā)展的角度來看，規(guī)定輸入階段數(shù)據(jù)必須得到許可，「實踐中做不到，也不利於研發(fā)?！挂虼?，呂紅兵建議：應當按照更好發(fā)揮數(shù)據(jù)要素作用的立法本意，淡化所有權、強化使用權，明確使用原則，在涉及商業(yè)使用時，要求技術開發(fā)者支付報酬，由其與權利人組織協(xié)商解決。

特稿｜《紅樓夢》成打戲 「魔改」侵蝕經典

《甄嬛傳》變身「槍戰(zhàn)片」，《紅樓夢》充斥「武打戲」，孫悟空騎著摩托車揚長而去……打開短視頻平臺，大量被AI「魔改」的經典劇目片段點擊率超過百萬?！敢婚_始我還覺得挺搞笑的，刷到就點進去看，後面越看越不是滋味。」短視頻用戶萬女士告訴香港文匯報記者，「在平臺的不斷推送下，我現(xiàn)在滿腦子都是舉著手槍的安陵容和喝著紅酒的諸葛亮，都快忘記他們之前的形象了?！?/p>

萬女士的困惑在全國兩會期間也引發(fā)了文藝界代表委員們的熱議。全國政協(xié)委員、中國國家話劇院一級演員張凱麗指出，AI「魔改」視頻創(chuàng)作者未經授權便使用原影視作品的素材，對經典角色進行惡搞、醜化，篡改劇情，傳播低俗、暴力等不良信息，既侵犯了著作權人的合法權益，也侵犯了演員的肖像權和名譽權。

記者注意到，去年12月7日，國家廣播電視總局網絡視聽司發(fā)布《管理提示（ AI魔改）》，指出近期AI「魔改」視頻以假亂真、「魔改」經典現(xiàn)象頻發(fā)，要求短視頻平臺進行排查清理。張凱麗表示，這是抵制亂象、保護經典，引導AI技術合規(guī)創(chuàng)新的重要舉措，助力促進網絡視聽產業(yè)健康發(fā)展。

籲健全AI影視審核機制

「應明確哪些情形下AI創(chuàng)作構成侵權與違法，為打擊侵權行為提供更為明確清晰的法律依據(jù)，從而切實維護著作權人的合法權益。」張凱麗坦言，這需要進一步完善法律法規(guī)，有效遏制侵權和違規(guī)行為?！赋藙?chuàng)作者需要審視自己的行為，平臺也應建立健全AI影視審核機制，對涉及版權問題、違背公序良俗、惡意篡改經典等內容進行嚴格把控?！?/p>

「AI技術本應是驅動文化創(chuàng)新的積極力量，而非侵蝕經典的 『邪風』，」張凱麗建議，相關部門應牽頭成立影視短視頻行業(yè)協(xié)會，制定AI影視短視頻創(chuàng)作的行業(yè)規(guī)範與自律公約，引導從業(yè)者自覺遵守法律法規(guī)與道德規(guī)範。「期待建立起規(guī)範有序的影視短視頻創(chuàng)作和傳播環(huán)境，激發(fā)創(chuàng)作者的創(chuàng)作積極性，提高作品質量，促進影視行業(yè)的高質量發(fā)展?！?/p>

記者手記｜啟動加速度 更需安全帶

連日來，全國政協(xié)委員、內地知名演員靳東兩會倡議AI換臉立法的話題一直佔據(jù)社交平臺的熱搜，並在網上引發(fā)熱烈討論，反映出公眾對飛速發(fā)展中的新興技術被濫用的深切憂慮。AI生成的假視頻、假聲音（如模仿明星帶貨、偽造專家發(fā)言），不僅損害了名人的個人形象和聲譽，也讓用戶尤其是老年人真假難辨，加劇社會信任危機。此外，AI訓練依賴海量數(shù)據(jù)，讓信息洩露成了新隱患；它還善於一本正經地胡說八道，生成的虛假新聞和深度偽造內容在網絡上廣泛傳播，擾亂了公眾的信息判斷力和社會秩序。

須加強監(jiān)管 方長治久安

如何用人類智慧駕馭人工智能，趨利避害地使用技術，是今年兩會的熱點話題，更是AI時代的重要課題。全國政協(xié)委員周鴻禕警告，大模型一旦胡亂編造，AI「幻覺」可能帶來嚴重後果；全國人大代表李東生建議強制標識AI生成內容；全國政協(xié)委員呂紅兵則倡議，嚴懲利用AI深度合成技術的網絡暴力。還有不少代表委員強調，要長治久安，必須在立法層面加強監(jiān)管。全國人大代表雷軍建議，加快單行法立法進程，在安全與發(fā)展並重的基礎上提升立法位階；強化行業(yè)自律共治，壓實平臺企業(yè)等各方的責任和義務；加大普法宣傳的廣度力度，增強民眾的警惕性和鑒別力。全國人大代表陳達也表示，通過立法明確AI技術的使用範圍和條件，可以引導企業(yè)和社會各界在合法合規(guī)的框架內發(fā)展AI技術，推動「科技向善」，讓技術更好地服務於社會。

杭州互聯(lián)網法院首例判決：平臺幫助侵權也算侵權

在AI技術加持下，人人都能成為「藝術家」。只需輸入幾個關鍵詞，AI就能在幾秒內生成精美圖片。這種創(chuàng)作方式的低門檻和高效率，使得AI生成內容呈現(xiàn)爆發(fā)式增長。但狂歡背後，版權問題日益凸顯。AI模型訓練需要海量數(shù)據(jù)，這些數(shù)據(jù)中難免包含受版權保護的作品，而當AI「學習」這些作品後生成的新內容，就有可能帶有原作的獨創(chuàng)性特徵，進而構成侵權。

當AI生成內容觸及法律紅線時，平臺應當承擔何種責任？近日，杭州互聯(lián)網法院對全國首例生成式人工智能平臺侵害信息網絡傳播權案（即「奧特曼杭州案」）作出一審判決，認定被告杭州某智能科技公司構成幫助侵權，判決其停止侵權並賠償經濟損失及合理費用3萬元。

據(jù)了解，在該案件中，原告?zhèn)S奧特曼系列形象的知識產權權利人，被告運營某AI平臺，該平臺提供Checkpoint基礎模型和Lo-RA模型，支持圖生圖、模型在線訓練等諸多功能，平臺用戶可以通過上傳奧特曼圖片，選擇平臺基礎模型，調整參數(shù)進行訓練後生成與奧特曼形象實質性相似的作品並進行下載、發(fā)布或分享鏈接。

在一審判決中，杭州市互聯(lián)網法院認為，被告公司雖然提供生成式人工智能服務，但輸入端侵權訓練素材由用戶上傳，被告公司並沒有與用戶共同提供侵權作品，不構成直接侵權。綜合考量被告公司提供生成式人工智能服務性質、人工智能技術發(fā)展水平、可能引發(fā)的侵權後果、平臺盈利模式等因素，認定被告公司構成侵害信息網絡傳播權的幫助侵權行為。

（來源：香港文匯報A02：兩會聚焦 2025/03/11）