文｜ IT時報 賈天榮
編輯｜郝俊慧 孫妍
9月1日，由國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部等部門聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》（以下簡稱《辦法》），與配套強制性國家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》正式生效。
匯業(yè)律師事務(wù)所律師史宇航在接受《IT時報》記者采訪時表示，《辦法》的意義不僅在于對生成合成服務(wù)提供者（如模型開發(fā)者）提出標(biāo)識要求，還對內(nèi)容傳播服務(wù)提供者（如社交媒體平臺）規(guī)定了核驗和添加標(biāo)識的義務(wù)。這意味著監(jiān)管責(zé)任覆蓋了內(nèi)容生成到傳播的全過程，形成全鏈條責(zé)任體系，有助于從源頭到終端對AI生成內(nèi)容進行有效管理，而且給國際社會提供了AI生成內(nèi)容治理的一個范例。
《IT時報》記者實測發(fā)現(xiàn)，抖音、小紅書、B站等主流視頻網(wǎng)站已允許創(chuàng)作者主動標(biāo)識視頻中的AI生成內(nèi)容，作者可以在發(fā)布視頻時，在“創(chuàng)作聲明”中注明該內(nèi)容是否由AI生成。不過，對于并未主動標(biāo)識的AIGC（AI生成）內(nèi)容，平臺的識別能力還相對較弱。
“AI換臉”如不標(biāo)識將面臨嚴(yán)格處罰
記者在抖音、B站、小紅書三個平臺分別發(fā)布了3條AI生成的視頻，其中一條主動標(biāo)注了AIGC，另兩條沒有標(biāo)注。
發(fā)布完成后，記者注意到，主動標(biāo)注后，B站的AI標(biāo)識相對明顯，視頻的左下角和簡介中均顯示了相關(guān)提示，而小紅書則較為隱蔽，只有點擊作者頭像才能看到“筆記含AI生成內(nèi)容”的標(biāo)識。
但對于未主動標(biāo)注的另外兩條AI視頻，平臺識別得不是特別準(zhǔn)。抖音自動識別出其中一條，并提示“作品含有AI生成內(nèi)容”，B站和小紅書的系統(tǒng)則兩條都未有效識別出。
整體來看，各平臺在AI生成內(nèi)容的檢測和提示機制上仍存在差異，自動識別和強制標(biāo)識能力有待提升。
之所以強調(diào)平臺主動核驗，源自當(dāng)前AI濫用案例屢見不鮮。據(jù)央視報道，某博主利用AI仿冒奧運冠軍全紅嬋聲音帶貨土雞蛋，17條視頻累計銷售超4.7萬件，嚴(yán)重侵犯了運動員及家人權(quán)益，也暴露了平臺監(jiān)管的缺位……
隨著AI技術(shù)的普及，“克隆”特定人物面貌和聲音已可實現(xiàn)“一鍵式”操作。
今年3·15期間，記者也曾制作過幾條明顯帶有AI換臉痕跡的視頻，并嘗試在各大平臺發(fā)布。令人驚訝的是，所有視頻均順利上傳，且未被平臺自動檢測為AI生成內(nèi)容。甚至當(dāng)記者在標(biāo)題中明確標(biāo)注了“AI換臉”，平臺也依然沒有觸發(fā)任何警示。
在AI換臉視頻的審核機制上，各大平臺此前顯然存在明顯漏洞，對AIGC內(nèi)容的監(jiān)測和管理相對松散。
《辦法》實施的初衷之一即規(guī)范平臺對AI生成內(nèi)容的管理，《辦法》實施后，“深度偽造”內(nèi)容如不加聲明，將面臨嚴(yán)格處罰。例如，用戶利用AI換臉、合成語音等方式制作虛假視頻，平臺若未履行核驗和提示義務(wù)，均可能被追責(zé)。
史宇航也認為，《辦法》及其配套國標(biāo)的生效，對企業(yè)和開發(fā)者（即服務(wù)提供者和技術(shù)支持者）施加了明確且具體的技術(shù)和管理義務(wù)，核心約束力體現(xiàn)在“必須標(biāo)識”和“規(guī)范標(biāo)識”兩個層面。
《辦法》生效后，一個最可能“撞上處罰槍口”的典型現(xiàn)象是：短視頻平臺上的用戶使用“AI換臉”或“AI聲音模仿”功能，制作并發(fā)布模仿某位名人的惡搞或不實信息短視頻，而該短視頻App的開發(fā)者（服務(wù)提供者）未按規(guī)定在生成的視頻上添加任何“AI生成”的顯著標(biāo)識。
史宇航表示，對于AI生成服務(wù)提供者，處罰措施包括警告、通報批評、責(zé)令限期改正；對于傳播平臺，如果平臺未盡到核驗和提示義務(wù)，也可能面臨相應(yīng)的監(jiān)管處罰；對于違法使用AI的惡意用戶，也可能面臨平臺關(guān)停賬號、限制功能等一系列處罰，甚至還可能面臨民事、行政乃至刑事責(zé)任。
創(chuàng)作者的挑戰(zhàn)與適應(yīng)
從創(chuàng)作者的角度看，《辦法》的實施無疑帶來了新的挑戰(zhàn)。
AI視頻創(chuàng)作者俞國漢告訴《IT時報》記者，隨著平臺對AI生成內(nèi)容規(guī)范的逐步收緊，創(chuàng)作者的感知變得愈發(fā)明顯。
“現(xiàn)在大家都很小心，必須遵守新的規(guī)則。”在俞國漢看來，行業(yè)的規(guī)范化對大家來說是好事，隨著AI技術(shù)的發(fā)展，一些偽造圖片騙取流量的做法，變得更加隱蔽和難以識別，即便是業(yè)內(nèi)人士，也很難一眼辨別，因此防止這種不規(guī)范行為顯得尤為必要。
潛在的風(fēng)險則是，有些甲方可能排斥帶有明顯AI標(biāo)識的內(nèi)容，“如果內(nèi)容帶有明顯的AI標(biāo)識，部分甲方可能就不想買賬，創(chuàng)作者收益也可能因此減少?！庇釃鴿h說。
但長遠來看，這是內(nèi)容創(chuàng)作者的必經(jīng)之路。俞國漢頗為感慨的是，從2022年底ChatGPT發(fā)布至今，平臺對AI創(chuàng)作內(nèi)容的管理越來越嚴(yán)格，這既是對創(chuàng)作者的挑戰(zhàn)，也意味著AI創(chuàng)作正在走向更加規(guī)范的未來。
另一位創(chuàng)作者阿遠（化名）則認為，隨著通用大模型能力的提升和開源社區(qū)的繁榮，創(chuàng)作者即使不懂技術(shù)也可以輕松生成高質(zhì)量內(nèi)容。
作為一名技術(shù)小白，阿遠在不到一天的時間內(nèi)，使用近百張圖片在阿里魔搭平臺訓(xùn)練出一個能夠生成“小紅書風(fēng)格”圖片的專屬模型，“幾乎沒有任何門檻”。
記者試用了阿遠訓(xùn)練的模型，僅輸入簡單的提示詞，幾秒鐘后便生成了逼真的“小紅書風(fēng)格”圖片。像這樣的圖片，該模型在平臺上每天能生成1000張。
在生成過程中，魔搭平臺仍然提供了“無水印生成”與“添加AI標(biāo)識并生成”兩個選項，在選擇“無水印生成”時，平臺會提示用戶：“請自行落實標(biāo)識及法定義務(wù)，相關(guān)責(zé)任由您獨立承擔(dān)”。
對此阿遠認為：“平臺沒有強制打標(biāo)，可能是考慮到平臺出的素材直接打了AI標(biāo)識會影響創(chuàng)作，創(chuàng)作者可以在創(chuàng)作完成之后自己標(biāo)注?！?/p>
不過，對于這些“低門檻”制作的圖片，阿遠認為，必須標(biāo)注，“否則即便我們這些‘玩家’也很難看出是不是AI生成的”。
創(chuàng)建一個屬于自己的AI大模型，門檻已經(jīng)越來越低。魔搭平臺是國內(nèi)較大的AI大模型開源社區(qū)，可以說是國內(nèi)開源大模型超市。記者上傳三張圖片后，選擇某個開源基礎(chǔ)模型后，模型訓(xùn)練就開始了，不管是車、人或者其他形象，都可以進行訓(xùn)練。
“如果你上傳的圖片都是一個人的，以后這個模型出的人物就可以‘鎖臉’，明星圖片也可以訓(xùn)練?！卑⑦h坦言，將訓(xùn)練出的模型下載到本地，便可以隨意生成內(nèi)容，不會受到平臺限制，唯一的成本可能是硬件投入，以阿里萬相訓(xùn)練的視頻模型為例，下載到本地使用，至少需要數(shù)萬元的高配電腦，需要生成的視頻質(zhì)量越高，對硬件的也要求也“水漲船高”。但一旦涉及發(fā)布，便仍需遵守《方法》標(biāo)注的要求。
當(dāng)技術(shù)放低了門檻，法律的底線便應(yīng)相向提高，這樣才能對低成本的不法行為起到威懾和約束作用。
誰的版權(quán)？ 原始素材還是AI創(chuàng)作者
AI創(chuàng)作的便利和普及背后，一個無法忽視的問題是知識產(chǎn)權(quán)。阿遠訓(xùn)練的模型使用了大量來自小紅書的圖片，且并未得到這些圖片原作者的授權(quán)。那么，阿遠的AI模型生成的圖片所有權(quán)究竟歸誰呢？是圖片的原作者，還是將素材上傳訓(xùn)練的創(chuàng)作者？還是平臺本身，抑或最終生成圖片的使用者？
這種模糊的知識產(chǎn)權(quán)界定，正是當(dāng)前AI創(chuàng)作中亟待解決的重要問題。隨著《辦法》的實施，平臺對AI生成內(nèi)容的管理趨于嚴(yán)格，如何平衡創(chuàng)作者的創(chuàng)作自由與原作者的權(quán)益保護，將成為未來AI創(chuàng)作領(lǐng)域亟待探索的難題。
史宇航表示，AI作品的版權(quán)在法律上爭議很大，不同案例中，法院的認定并不一致，《辦法》中要求文件元數(shù)據(jù)中的隱式標(biāo)識必須包含“生成合成服務(wù)提供者”“內(nèi)容制作編號”等關(guān)鍵信息，“理論上每一份AI生成的內(nèi)容都可以追溯到其源頭的服務(wù)平臺和具體的生成記錄。該技術(shù)可以幫助在爭議發(fā)生后，識別原始作者。”
對此，史宇航建議，對于使用AI工具進行創(chuàng)作的個人用戶和企業(yè)，生成的文本、圖片、音視頻等內(nèi)容應(yīng)在合理位置添加“AI生成”或類似的顯著文字提示。
“這不僅是合規(guī)要求，也是向公眾和版權(quán)機構(gòu)表明內(nèi)容屬性的第一步，避免了‘冒充原創(chuàng)’的嫌疑?！彼ㄗh，用戶（無論是個人還是企業(yè)）必須仔細閱讀用戶服務(wù)協(xié)議，了解平臺對于生成內(nèi)容版權(quán)歸屬的規(guī)定、使用限制以及侵權(quán)責(zé)任的劃分，這直接關(guān)系到用戶是否有權(quán)將生成內(nèi)容用于商業(yè)目的，以及一旦發(fā)生侵權(quán)，責(zé)任由誰承擔(dān)。
此外，為了在潛在版權(quán)糾紛中有效舉證、厘清責(zé)任，以及應(yīng)對監(jiān)管部門的檢查，史宇航還建議個人和企業(yè)在使用AI工具輸出內(nèi)容時，系統(tǒng)地做好合規(guī)記錄，比如具體使用了哪個AI服務(wù)提供商；保存完整的輸入提示詞并保留AI生成的原始文件，這是證明創(chuàng)作意圖和人類智力輸入的最直接證據(jù)；詳細記錄對AI生成初稿進行了哪些修改、編輯和重構(gòu)；并完整保存與AI服務(wù)提供者簽訂的用戶服務(wù)協(xié)議的副本或開源模型和數(shù)據(jù)集的開源許可協(xié)議。
排版／ 季嘉穎