文｜ IT時(shí)報(bào) 賈天榮

編輯｜郝俊慧 孫妍

9月1日，由國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等部門(mén)聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱(chēng)《辦法》），與配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識(shí)方法》正式生效。

匯業(yè)律師事務(wù)所律師史宇航在接受《IT時(shí)報(bào)》記者采訪時(shí)表示，《辦法》的意義不僅在于對(duì)生成合成服務(wù)提供者（如模型開(kāi)發(fā)者）提出標(biāo)識(shí)要求，還對(duì)內(nèi)容傳播服務(wù)提供者（如社交媒體平臺(tái)）規(guī)定了核驗(yàn)和添加標(biāo)識(shí)的義務(wù)。這意味著監(jiān)管責(zé)任覆蓋了內(nèi)容生成到傳播的全過(guò)程，形成全鏈條責(zé)任體系，有助于從源頭到終端對(duì)AI生成內(nèi)容進(jìn)行有效管理，而且給國(guó)際社會(huì)提供了AI生成內(nèi)容治理的一個(gè)范例。

《IT時(shí)報(bào)》記者實(shí)測(cè)發(fā)現(xiàn)，抖音、小紅書(shū)、B站等主流視頻網(wǎng)站已允許創(chuàng)作者主動(dòng)標(biāo)識(shí)視頻中的AI生成內(nèi)容，作者可以在發(fā)布視頻時(shí)，在“創(chuàng)作聲明”中注明該內(nèi)容是否由AI生成。不過(guò)，對(duì)于并未主動(dòng)標(biāo)識(shí)的AIGC（AI生成）內(nèi)容，平臺(tái)的識(shí)別能力還相對(duì)較弱。

“AI換臉”如不標(biāo)識(shí)將面臨嚴(yán)格處罰

記者在抖音、B站、小紅書(shū)三個(gè)平臺(tái)分別發(fā)布了3條AI生成的視頻，其中一條主動(dòng)標(biāo)注了AIGC，另兩條沒(méi)有標(biāo)注。

發(fā)布完成后，記者注意到，主動(dòng)標(biāo)注后，B站的AI標(biāo)識(shí)相對(duì)明顯，視頻的左下角和簡(jiǎn)介中均顯示了相關(guān)提示，而小紅書(shū)則較為隱蔽，只有點(diǎn)擊作者頭像才能看到“筆記含AI生成內(nèi)容”的標(biāo)識(shí)。

但對(duì)于未主動(dòng)標(biāo)注的另外兩條AI視頻，平臺(tái)識(shí)別得不是特別準(zhǔn)。抖音自動(dòng)識(shí)別出其中一條，并提示“作品含有AI生成內(nèi)容”，B站和小紅書(shū)的系統(tǒng)則兩條都未有效識(shí)別出。

整體來(lái)看，各平臺(tái)在AI生成內(nèi)容的檢測(cè)和提示機(jī)制上仍存在差異，自動(dòng)識(shí)別和強(qiáng)制標(biāo)識(shí)能力有待提升。

之所以強(qiáng)調(diào)平臺(tái)主動(dòng)核驗(yàn)，源自當(dāng)前AI濫用案例屢見(jiàn)不鮮。據(jù)央視報(bào)道，某博主利用AI仿冒奧運(yùn)冠軍全紅嬋聲音帶貨土雞蛋，17條視頻累計(jì)銷(xiāo)售超4.7萬(wàn)件，嚴(yán)重侵犯了運(yùn)動(dòng)員及家人權(quán)益，也暴露了平臺(tái)監(jiān)管的缺位……

隨著AI技術(shù)的普及，“克隆”特定人物面貌和聲音已可實(shí)現(xiàn)“一鍵式”操作。

今年3·15期間，記者也曾制作過(guò)幾條明顯帶有AI換臉痕跡的視頻，并嘗試在各大平臺(tái)發(fā)布。令人驚訝的是，所有視頻均順利上傳，且未被平臺(tái)自動(dòng)檢測(cè)為AI生成內(nèi)容。甚至當(dāng)記者在標(biāo)題中明確標(biāo)注了“AI換臉”，平臺(tái)也依然沒(méi)有觸發(fā)任何警示。

在AI換臉視頻的審核機(jī)制上，各大平臺(tái)此前顯然存在明顯漏洞，對(duì)AIGC內(nèi)容的監(jiān)測(cè)和管理相對(duì)松散。

《辦法》實(shí)施的初衷之一即規(guī)范平臺(tái)對(duì)AI生成內(nèi)容的管理，《辦法》實(shí)施后，“深度偽造”內(nèi)容如不加聲明，將面臨嚴(yán)格處罰。例如，用戶(hù)利用AI換臉、合成語(yǔ)音等方式制作虛假視頻，平臺(tái)若未履行核驗(yàn)和提示義務(wù)，均可能被追責(zé)。

史宇航也認(rèn)為，《辦法》及其配套國(guó)標(biāo)的生效，對(duì)企業(yè)和開(kāi)發(fā)者（即服務(wù)提供者和技術(shù)支持者）施加了明確且具體的技術(shù)和管理義務(wù)，核心約束力體現(xiàn)在“必須標(biāo)識(shí)”和“規(guī)范標(biāo)識(shí)”兩個(gè)層面。

《辦法》生效后，一個(gè)最可能“撞上處罰槍口”的典型現(xiàn)象是：短視頻平臺(tái)上的用戶(hù)使用“AI換臉”或“AI聲音模仿”功能，制作并發(fā)布模仿某位名人的惡搞或不實(shí)信息短視頻，而該短視頻App的開(kāi)發(fā)者（服務(wù)提供者）未按規(guī)定在生成的視頻上添加任何“AI生成”的顯著標(biāo)識(shí)。

史宇航表示，對(duì)于AI生成服務(wù)提供者，處罰措施包括警告、通報(bào)批評(píng)、責(zé)令限期改正；對(duì)于傳播平臺(tái)，如果平臺(tái)未盡到核驗(yàn)和提示義務(wù)，也可能面臨相應(yīng)的監(jiān)管處罰；對(duì)于違法使用AI的惡意用戶(hù)，也可能面臨平臺(tái)關(guān)停賬號(hào)、限制功能等一系列處罰，甚至還可能面臨民事、行政乃至刑事責(zé)任。

創(chuàng)作者的挑戰(zhàn)與適應(yīng)

從創(chuàng)作者的角度看，《辦法》的實(shí)施無(wú)疑帶來(lái)了新的挑戰(zhàn)。

AI視頻創(chuàng)作者俞國(guó)漢告訴《IT時(shí)報(bào)》記者，隨著平臺(tái)對(duì)AI生成內(nèi)容規(guī)范的逐步收緊，創(chuàng)作者的感知變得愈發(fā)明顯。

“現(xiàn)在大家都很小心，必須遵守新的規(guī)則。”在俞國(guó)漢看來(lái)，行業(yè)的規(guī)范化對(duì)大家來(lái)說(shuō)是好事，隨著AI技術(shù)的發(fā)展，一些偽造圖片騙取流量的做法，變得更加隱蔽和難以識(shí)別，即便是業(yè)內(nèi)人士，也很難一眼辨別，因此防止這種不規(guī)范行為顯得尤為必要。

潛在的風(fēng)險(xiǎn)則是，有些甲方可能排斥帶有明顯AI標(biāo)識(shí)的內(nèi)容，“如果內(nèi)容帶有明顯的AI標(biāo)識(shí)，部分甲方可能就不想買(mǎi)賬，創(chuàng)作者收益也可能因此減少?！庇釃?guó)漢說(shuō)。

但長(zhǎng)遠(yuǎn)來(lái)看，這是內(nèi)容創(chuàng)作者的必經(jīng)之路。俞國(guó)漢頗為感慨的是，從2022年底ChatGPT發(fā)布至今，平臺(tái)對(duì)AI創(chuàng)作內(nèi)容的管理越來(lái)越嚴(yán)格，這既是對(duì)創(chuàng)作者的挑戰(zhàn)，也意味著AI創(chuàng)作正在走向更加規(guī)范的未來(lái)。

另一位創(chuàng)作者阿遠(yuǎn)（化名）則認(rèn)為，隨著通用大模型能力的提升和開(kāi)源社區(qū)的繁榮，創(chuàng)作者即使不懂技術(shù)也可以輕松生成高質(zhì)量?jī)?nèi)容。

作為一名技術(shù)小白，阿遠(yuǎn)在不到一天的時(shí)間內(nèi)，使用近百?gòu)垐D片在阿里魔搭平臺(tái)訓(xùn)練出一個(gè)能夠生成“小紅書(shū)風(fēng)格”圖片的專(zhuān)屬模型，“幾乎沒(méi)有任何門(mén)檻”。

記者試用了阿遠(yuǎn)訓(xùn)練的模型，僅輸入簡(jiǎn)單的提示詞，幾秒鐘后便生成了逼真的“小紅書(shū)風(fēng)格”圖片。像這樣的圖片，該模型在平臺(tái)上每天能生成1000張。

在生成過(guò)程中，魔搭平臺(tái)仍然提供了“無(wú)水印生成”與“添加AI標(biāo)識(shí)并生成”兩個(gè)選項(xiàng)，在選擇“無(wú)水印生成”時(shí)，平臺(tái)會(huì)提示用戶(hù)：“請(qǐng)自行落實(shí)標(biāo)識(shí)及法定義務(wù)，相關(guān)責(zé)任由您獨(dú)立承擔(dān)”。

對(duì)此阿遠(yuǎn)認(rèn)為：“平臺(tái)沒(méi)有強(qiáng)制打標(biāo)，可能是考慮到平臺(tái)出的素材直接打了AI標(biāo)識(shí)會(huì)影響創(chuàng)作，創(chuàng)作者可以在創(chuàng)作完成之后自己標(biāo)注?！?/p>

不過(guò)，對(duì)于這些“低門(mén)檻”制作的圖片，阿遠(yuǎn)認(rèn)為，必須標(biāo)注，“否則即便我們這些‘玩家’也很難看出是不是AI生成的”。

創(chuàng)建一個(gè)屬于自己的AI大模型，門(mén)檻已經(jīng)越來(lái)越低。魔搭平臺(tái)是國(guó)內(nèi)較大的AI大模型開(kāi)源社區(qū)，可以說(shuō)是國(guó)內(nèi)開(kāi)源大模型超市。記者上傳三張圖片后，選擇某個(gè)開(kāi)源基礎(chǔ)模型后，模型訓(xùn)練就開(kāi)始了，不管是車(chē)、人或者其他形象，都可以進(jìn)行訓(xùn)練。

“如果你上傳的圖片都是一個(gè)人的，以后這個(gè)模型出的人物就可以‘鎖臉’，明星圖片也可以訓(xùn)練。”阿遠(yuǎn)坦言，將訓(xùn)練出的模型下載到本地，便可以隨意生成內(nèi)容，不會(huì)受到平臺(tái)限制，唯一的成本可能是硬件投入，以阿里萬(wàn)相訓(xùn)練的視頻模型為例，下載到本地使用，至少需要數(shù)萬(wàn)元的高配電腦，需要生成的視頻質(zhì)量越高，對(duì)硬件的也要求也“水漲船高”。但一旦涉及發(fā)布，便仍需遵守《方法》標(biāo)注的要求。

當(dāng)技術(shù)放低了門(mén)檻，法律的底線便應(yīng)相向提高，這樣才能對(duì)低成本的不法行為起到威懾和約束作用。

誰(shuí)的版權(quán)？ 原始素材還是AI創(chuàng)作者

AI創(chuàng)作的便利和普及背后，一個(gè)無(wú)法忽視的問(wèn)題是知識(shí)產(chǎn)權(quán)。阿遠(yuǎn)訓(xùn)練的模型使用了大量來(lái)自小紅書(shū)的圖片，且并未得到這些圖片原作者的授權(quán)。那么，阿遠(yuǎn)的AI模型生成的圖片所有權(quán)究竟歸誰(shuí)呢？是圖片的原作者，還是將素材上傳訓(xùn)練的創(chuàng)作者？還是平臺(tái)本身，抑或最終生成圖片的使用者？

這種模糊的知識(shí)產(chǎn)權(quán)界定，正是當(dāng)前AI創(chuàng)作中亟待解決的重要問(wèn)題。隨著《辦法》的實(shí)施，平臺(tái)對(duì)AI生成內(nèi)容的管理趨于嚴(yán)格，如何平衡創(chuàng)作者的創(chuàng)作自由與原作者的權(quán)益保護(hù)，將成為未來(lái)AI創(chuàng)作領(lǐng)域亟待探索的難題。

史宇航表示，AI作品的版權(quán)在法律上爭(zhēng)議很大，不同案例中，法院的認(rèn)定并不一致，《辦法》中要求文件元數(shù)據(jù)中的隱式標(biāo)識(shí)必須包含“生成合成服務(wù)提供者”“內(nèi)容制作編號(hào)”等關(guān)鍵信息，“理論上每一份AI生成的內(nèi)容都可以追溯到其源頭的服務(wù)平臺(tái)和具體的生成記錄。該技術(shù)可以幫助在爭(zhēng)議發(fā)生后，識(shí)別原始作者?！?/p>

對(duì)此，史宇航建議，對(duì)于使用AI工具進(jìn)行創(chuàng)作的個(gè)人用戶(hù)和企業(yè)，生成的文本、圖片、音視頻等內(nèi)容應(yīng)在合理位置添加“AI生成”或類(lèi)似的顯著文字提示。

“這不僅是合規(guī)要求，也是向公眾和版權(quán)機(jī)構(gòu)表明內(nèi)容屬性的第一步，避免了‘冒充原創(chuàng)’的嫌疑?！彼ㄗh，用戶(hù)（無(wú)論是個(gè)人還是企業(yè)）必須仔細(xì)閱讀用戶(hù)服務(wù)協(xié)議，了解平臺(tái)對(duì)于生成內(nèi)容版權(quán)歸屬的規(guī)定、使用限制以及侵權(quán)責(zé)任的劃分，這直接關(guān)系到用戶(hù)是否有權(quán)將生成內(nèi)容用于商業(yè)目的，以及一旦發(fā)生侵權(quán)，責(zé)任由誰(shuí)承擔(dān)。

此外，為了在潛在版權(quán)糾紛中有效舉證、厘清責(zé)任，以及應(yīng)對(duì)監(jiān)管部門(mén)的檢查，史宇航還建議個(gè)人和企業(yè)在使用AI工具輸出內(nèi)容時(shí)，系統(tǒng)地做好合規(guī)記錄，比如具體使用了哪個(gè)AI服務(wù)提供商；保存完整的輸入提示詞并保留AI生成的原始文件，這是證明創(chuàng)作意圖和人類(lèi)智力輸入的最直接證據(jù)；詳細(xì)記錄對(duì)AI生成初稿進(jìn)行了哪些修改、編輯和重構(gòu)；并完整保存與AI服務(wù)提供者簽訂的用戶(hù)服務(wù)協(xié)議的副本或開(kāi)源模型和數(shù)據(jù)集的開(kāi)源許可協(xié)議。

排版／ 季嘉穎