文 | 鏡相工作室 黃依婷

編輯 | 盧枕

在很多人的印象里，造假是少數(shù)人的事。它需要專(zhuān)業(yè)的技術(shù)和硬件設(shè)備，需要行業(yè)人脈積累，造假者往往隱匿在灰黑產(chǎn)縫隙，是神秘的、恐怖的、沒(méi)有道德底線的，與大眾保持著既遠(yuǎn)又近的距離。

但今年開(kāi)始，一群人感受到了明顯的變化。

11月，毛絨玩偶商家于瑾第一次遭遇AI假圖僅退款。到貨一周后，買(mǎi)家發(fā)來(lái)一張圖申請(qǐng)僅退款，在店鋪客服以人為損壞為由駁回后，買(mǎi)家申請(qǐng)平臺(tái)介入并成功拿回了50元。

但那張申請(qǐng)僅退款的圖有一個(gè)不合常理的地方——玩偶柔軟的裙邊上，有類(lèi)似陶瓷制品的堅(jiān)硬裂痕。于瑾認(rèn)定這是AI假圖，發(fā)到社交平臺(tái)吐槽。后來(lái)，在媒體的介入下，平臺(tái)自掏腰包，把這50元返還給了于瑾，用AI假圖申請(qǐng)僅退款的買(mǎi)家卻銷(xiāo)聲匿跡。

于瑾意識(shí)到，AI的普及讓“羊毛黨”的惡意退款成本更低了。一臺(tái)手機(jī)、一句提示詞就能生成一張以假亂真的圖片，薅走一個(gè)價(jià)值一百多元的玩偶，放在二手平臺(tái)倒賣(mài)?！安挥酶冻鍪裁?，也不會(huì)得到什么懲罰?！?/p>

今年更早時(shí)候，公關(guān)齊云也經(jīng)歷過(guò)類(lèi)似的沖擊。他服務(wù)的一家上市公司被AI生成的黑稿攻擊，文中細(xì)節(jié)讓他直言“離譜得很”。但受制于內(nèi)容平臺(tái)規(guī)則，他和同事們不得不花整整兩天時(shí)間，對(duì)文中細(xì)節(jié)一一舉證、蓋章、申訴，才讓這篇可能只花了幾十秒生成的帖文從平臺(tái)上消失。

齊云說(shuō)，從業(yè)十多年，以前是和人基于事實(shí)交流，是一種智力上的挑戰(zhàn)，現(xiàn)在面對(duì)AI和AI編出來(lái)的謠言，感覺(jué)智商受到了侮辱，更生氣，卻又無(wú)可奈何。

這是過(guò)去三年，生成式AI爆發(fā)式發(fā)展的另一面。AI大模型在生成文字、圖片、視頻、音頻上的能力突飛猛進(jìn)，幾乎所有人都能零門(mén)檻、零成本地使用AI。這些人中，不僅有AIGC藝術(shù)家、前沿科技熱愛(ài)者，也有羊毛黨和靠流量吃飯的MCN機(jī)構(gòu)。

結(jié)果就是，造假的門(mén)檻越來(lái)越低，有意或無(wú)意參與的人越來(lái)越多，而平臺(tái)的審核機(jī)制還停留在簡(jiǎn)單的比對(duì)和打標(biāo)簽，受害者被欺騙、被拖累還要付出成千上萬(wàn)倍的成本被迫自證。當(dāng)造假變成低成本、低風(fēng)險(xiǎn)、高收益的一件事，就會(huì)有越來(lái)越多的普通人加入造假行列，共同構(gòu)造一個(gè)充滿虛假信息的世界。

從無(wú)到有，學(xué)會(huì)鑒別AI假圖

最初，看到買(mǎi)家發(fā)來(lái)的圖片時(shí)，店里無(wú)一人懷疑過(guò)真假。

11月17日，買(mǎi)家拿到玩偶一個(gè)多星期后，于瑾店鋪的客服收到僅退款申請(qǐng)和一張佐證圖片。圖中，粉色的毛絨玩偶臟兮兮的，裙擺有被火焰灼燒過(guò)的痕跡?？头褕D片發(fā)到工作群，大家一致認(rèn)為是人為損壞?！坝锌赡苁堑粼谀嗬锘蛘呤堑粼诨鹄锪恕保阼f(shuō)。

于是，按照常規(guī)流程，客服和買(mǎi)家說(shuō)明，發(fā)貨全程有監(jiān)控錄像，保證全新，到貨后人為損壞不屬于商品質(zhì)量問(wèn)題，不支持僅退款，駁回了買(mǎi)家申請(qǐng)。但買(mǎi)家不依不饒，直接申請(qǐng)平臺(tái)介入，當(dāng)天拿到了50元的賠償。

這屬于惡意退款，于瑾說(shuō)。幾乎所有電商商家都遇到過(guò)類(lèi)似的事。正常情況下，于瑾遇到的買(mǎi)家，申請(qǐng)退款的理由大多是開(kāi)線、勾絲問(wèn)題，與這次大不相同。被扣款后，于瑾馬上準(zhǔn)備證據(jù)申訴，但同事隨口一句話提醒了她——這張圖越看越奇怪，像AI生成的。

為了確認(rèn)，于瑾找做AI相關(guān)工作的朋友幫忙鑒定，結(jié)果顯示有AI痕跡；她又自己?jiǎn)柫薃I助手，同樣提示圖片進(jìn)行了AI修改——“服飾的裂紋紋理過(guò)于規(guī)整且缺乏真實(shí)材質(zhì)的物理邏輯”。

第一次遇到這種情況，于瑾有些無(wú)奈。她把證據(jù)和建議都整理好申訴，但平臺(tái)并未采納，駁回了她的訴求，50元退款到達(dá)買(mǎi)家賬戶。對(duì)商家來(lái)說(shuō)，這意味著挽回?fù)p失的唯一渠道失效了。

于瑾不知道該怎么辦了，只能把自己的經(jīng)歷發(fā)到社交平臺(tái)，希望借此提醒同行。也因此，媒體找到她，幫忙聯(lián)系平臺(tái)拿回了款項(xiàng)。

但她其實(shí)并不開(kāi)心。于瑾憤懣地跟我說(shuō)：“造假?zèng)]什么技術(shù)含量，也沒(méi)有什么門(mén)檻，任何一張圖拿給AI，它都可以幫你修，作惡的成本很低，被發(fā)現(xiàn)了也不會(huì)得到什么懲罰?！彼芮宄?，這50元退款由平臺(tái)墊付，已經(jīng)退給買(mǎi)家的款項(xiàng)沒(méi)有追回。折騰一番，作為商家的她費(fèi)心費(fèi)力，討了個(gè)不開(kāi)心，而造假者則實(shí)付款167元，拿回了50元，以及一個(gè)標(biāo)價(jià)179元的玩偶。

“雙11”期間，類(lèi)似的案例被密集報(bào)道，“ai假圖 僅退款”等相關(guān)話題沖上了社交平臺(tái)熱搜榜，挑動(dòng)著商家們敏感的神經(jīng)。偏偏這時(shí)，仍有人選擇頂風(fēng)作案。

11月21日，鍵盤(pán)商家柑橘收到一位買(mǎi)家的僅退款申請(qǐng)，這位買(mǎi)家同樣上傳了一張佐證圖片，申請(qǐng)平臺(tái)介入。此時(shí)距離這位買(mǎi)家簽收商品，已過(guò)去了半個(gè)月。

柑橘一眼就看出圖片是AI生成的——佐證圖片的構(gòu)圖、背景、光影，和買(mǎi)家簽收第三天發(fā)布的評(píng)價(jià)圖一模一樣，只是多個(gè)鍵帽都有開(kāi)裂、破損、污漬、變形，過(guò)于夸張。她對(duì)這種顯而易見(jiàn)的破綻感到無(wú)語(yǔ)，也同步整理好證據(jù)提交給了平臺(tái)。這一次，平臺(tái)沒(méi)草率處理，而是駁回了買(mǎi)家申請(qǐng)，關(guān)閉退款渠道。

從收件人信息來(lái)看，柑橘很明確地知道，自己面對(duì)的不是老練的羊毛黨，而是一位普通的大學(xué)生。用AI假圖僅退款的人具像化了。

在很多老電商人心里，職業(yè)羊毛黨至少還是一個(gè)特定群體，有套路、有話術(shù)、有明確的牟利目的?？扇缃瘢晃辉竞突耶a(chǎn)毫無(wú)關(guān)系的人，只需要一個(gè)免費(fèi)應(yīng)用和幾句提示詞，就能生成一套足以騙過(guò)平臺(tái)審核的證據(jù)鏈；退款成功后，商品掛二手平臺(tái)倒賣(mài)，再賺一筆。

對(duì)商家來(lái)說(shuō)，這種變化帶來(lái)的不只是損失，更是一種陌生的無(wú)力，防不勝防。

AI突破造謠想象力

電商平臺(tái)上的AI假圖僅退款只是冰山一角。隨著AI大模型技術(shù)在生文、生圖、生視頻、生音頻四個(gè)方向的逐漸成熟和普及，過(guò)去只有專(zhuān)業(yè)團(tuán)隊(duì)才能完成的造假，如今被壓縮成人人可上手的簡(jiǎn)單操作。

一個(gè)普通用戶，可以通過(guò)文生圖做商品損壞圖，也可以用文生視頻合成目擊現(xiàn)場(chǎng)；生成過(guò)程只需要幾秒鐘，被平臺(tái)呈現(xiàn)的可信度卻與真實(shí)內(nèi)容幾乎無(wú)異。

這不是某一個(gè)技術(shù)問(wèn)題，而是一條由無(wú)數(shù)輕量工具組成的造假矩陣。如同電商商家感受到的那樣，內(nèi)容行業(yè)也在經(jīng)歷類(lèi)似的沖擊：名人被AI換臉帶貨投訴無(wú)果、MCN機(jī)構(gòu)用AI大規(guī)模造謠、企業(yè)被源源不斷的AI黑稿攻擊……

“以前造謠要看人的想象力，一個(gè)人一天造一兩個(gè)謠頂天了，但AI可以幾秒鐘，在一篇稿件里造十個(gè)謠?！饼R云在公關(guān)行業(yè)從業(yè)十多年，親歷了AI造假給信息生態(tài)帶來(lái)的轟炸。

半年前，日常輿情監(jiān)控中，齊云發(fā)現(xiàn)了一篇公眾號(hào)文章。文章乍看像個(gè)正經(jīng)新聞，等他讀下來(lái)才驚覺(jué)內(nèi)容之離譜。

文中寫(xiě)，齊云服務(wù)的這家公司，其董事長(zhǎng)辦公室墻上掛著K線圖，又寫(xiě)財(cái)務(wù)總監(jiān)某某說(shuō)過(guò)哪些話?！半x譜得很。我們董事長(zhǎng)辦公室沒(méi)有圖，財(cái)務(wù)總監(jiān)也不叫那個(gè)名字?！饼R云說(shuō)。但文章就那么像模像樣地發(fā)了出來(lái)，還引發(fā)了不少討論。

這是齊云遇到的典型AI黑稿，主要特點(diǎn)就是細(xì)節(jié)豐富但無(wú)中生有，還比較容易鑒別，更多的是非典型AI文章，真假、人機(jī)參半。在他看來(lái)，對(duì)于專(zhuān)門(mén)生產(chǎn)黑稿的人來(lái)說(shuō)，AI只是一個(gè)工具，以前是人工，“寫(xiě)財(cái)經(jīng)文章還是要稍微懂點(diǎn)的，一天也就生產(chǎn)1到2條”，現(xiàn)在有了AI，成本和門(mén)檻更低了，生產(chǎn)效率變高了，但人還是那批人。

黑稿灰產(chǎn)把AI的能力嵌入商業(yè)模式，形成運(yùn)作更便捷的利益鏈條：一條鏈，用AI黑稿倒逼企業(yè)投放廣告，黑稿越多、越難辟謠，企業(yè)越焦慮，就越容易掏錢(qián)消災(zāi)；

另一條鏈，用AI寫(xiě)的黑稿給投資群引流、賣(mài)課，標(biāo)題越聳動(dòng)、內(nèi)容越“看似內(nèi)幕”，越容易吸引想抓住風(fēng)口的人。AI能秒產(chǎn)一批“重大利好/利空”的假截圖、假分析，塑造幾位股神般的王哥李姐，完成從公域推文到私域社群的流量轉(zhuǎn)化，最終通過(guò)賣(mài)課、咨詢(xún)獲利。

類(lèi)似的模式還有很多。例如，2024年6月，央視新聞報(bào)道，一MCN機(jī)構(gòu)通過(guò)AI軟件，自動(dòng)在網(wǎng)絡(luò)上抓取相關(guān)信息，生成配套圖文，并包裝成博眼球的“假新聞”，通過(guò)流量變現(xiàn)；日均生成4000-7000篇，每天收入在1萬(wàn)元以上。

就在上個(gè)月底，小鵬汽車(chē)也遭遇了一次典型的AI造假事件。彼時(shí)，一段以小鵬汽車(chē)廣州車(chē)展展臺(tái)為背景的低俗色情視頻在社交平臺(tái)快速傳播，畫(huà)面里人物的衣著、光影和展臺(tái)幾乎無(wú)縫銜接，讓不少網(wǎng)友信以為真。小鵬汽車(chē)法務(wù)部介入后，警方最終確認(rèn)，視頻由一名男子李某利用AI技術(shù)生成，僅“為炫耀個(gè)人技術(shù)”，并非任何真實(shí)事件。造假在這里不再是灰產(chǎn)團(tuán)隊(duì)，而是一個(gè)普通人“順手試試”的產(chǎn)物。

這種變化讓人不安——AI已經(jīng)把造假的門(mén)檻降到幾乎與好奇心齊平的位置，只需要一次嘗試、幾句提示詞，每個(gè)人都可能成為“造假者”，不是因?yàn)閻阂?，而是因?yàn)檩p易、便利、無(wú)成本，以及“反正不會(huì)怎樣”的心理。

平臺(tái)機(jī)制跟不上AI灰產(chǎn)節(jié)奏

生成式AI的普及，正在把造假變成零門(mén)檻、零成本的日常行為。

事實(shí)上，對(duì)于大多數(shù)AI助手來(lái)說(shuō)，它并不認(rèn)為滿足用戶的要求是在協(xié)助造假，一句“你能讓這張圖片上的橙子看著像壞了一樣嗎”，它能機(jī)靈地給橙子加上霉斑，還會(huì)主動(dòng)問(wèn)你要不要生成一段配套的視頻。

而與這種輕松制造虛假相對(duì)的，是平臺(tái)的審核機(jī)制仍停留在過(guò)去。

為了處理那條離譜的AI黑稿，齊云和同事前前后后忙了整整兩天時(shí)間。第一次，他們上傳加蓋公章的投訴函件，向平臺(tái)申請(qǐng)刪文，失敗。第二次，他們給黑稿里的虛假信息一條一條地寫(xiě)反駁、舉證；直接說(shuō)公司財(cái)務(wù)總監(jiān)不叫某某還不行，需要寫(xiě)明真正的財(cái)務(wù)總監(jiān)姓甚名誰(shuí)，并附上公司在交易所發(fā)布的公告簽名截圖。

整個(gè)過(guò)程是繁瑣而折磨人的?！澳阍煳业闹{，我還要給你舉證?！饼R云有些憤懣，“我沒(méi)有說(shuō)過(guò)這個(gè)話，請(qǐng)問(wèn)我怎么給你舉證？董事長(zhǎng)辦公室沒(méi)有這個(gè)圖，難道我要去他辦公室拍一張照片嗎？就算我拍了照片，你又怎么確定這真的是我董事長(zhǎng)辦公室的照片？”

而如果要報(bào)警、起訴則更加麻煩。齊云直言，他曾經(jīng)服務(wù)的上市公司，法務(wù)部總共才六七個(gè)人，AI黑稿漫天飛，一個(gè)一個(gè)地走起訴流程，要走到猴年馬月。起訴或報(bào)警并不適合絕大部分公司。

在這種失控感之下，齊云意識(shí)到，平臺(tái)并沒(méi)有跟上AI灰產(chǎn)的節(jié)奏，“我不懂技術(shù)，但是我覺(jué)得到底什么是AI生成的東西，技術(shù)公司應(yīng)該是有能力去判別的”。

目前，在AI生成內(nèi)容的管理上，各個(gè)社交平臺(tái)主要采取“打標(biāo)簽”的方式，針對(duì)用戶上傳的、AI生成的圖片和視頻，在頂部或底部附一行小字提醒，該內(nèi)容系A(chǔ)I生成；而對(duì)于文字內(nèi)容，除平臺(tái)內(nèi)置的AI總結(jié)、AI搜索類(lèi)工具外，用戶上傳的文字內(nèi)容并不會(huì)被標(biāo)識(shí)是否由AI生成。

AI生產(chǎn)的文字內(nèi)容成了平臺(tái)管理的真空地帶，技術(shù)上也相對(duì)更難識(shí)別。即使是較為嚴(yán)謹(jǐn)?shù)膶W(xué)術(shù)論文AI率，即AI生成內(nèi)容比例的檢測(cè)，也在今年畢業(yè)季引發(fā)大量討論，被質(zhì)疑誤判較多，并不靠譜。

當(dāng)AI批量產(chǎn)出內(nèi)容時(shí)，信息生態(tài)的失衡更明顯了?！案哔|(zhì)量?jī)?nèi)容被淹沒(méi)了?！饼R云說(shuō)。在專(zhuān)業(yè)圈層里，人們還能手動(dòng)篩選公眾號(hào)文章，但在大眾信息池里，算法推送的往往是那些低成本、高刺激、批量復(fù)制的AI內(nèi)容。大量AI生成的低質(zhì)內(nèi)容，正在把真實(shí)信息擠到更窄的縫隙里。

齊云很坦誠(chéng)地說(shuō)，曾經(jīng)自己喜歡和人基于事實(shí)討論，哪怕是負(fù)面稿件，至少也是一種智力上的挑戰(zhàn)，但現(xiàn)在面對(duì)AI和AI編出來(lái)的謠言，他感覺(jué)智商受到了侮辱，“你還不知道該怎么去反駁，怎么去很好地證明它就是個(gè)傻子，你不覺(jué)得它是一個(gè)合格的對(duì)手，你就會(huì)很生氣?！?/p>

最終，齊云心灰意冷地轉(zhuǎn)崗了。他說(shuō)，一個(gè)公關(guān)，整天琢磨怎么跟技術(shù)平臺(tái)去打交道，怎么總結(jié)投訴最有用，怎么利用平臺(tái)算法去限制文章的傳播，這跟他剛?cè)胄械臅r(shí)候，已經(jīng)不是一回事兒了。

可不是每個(gè)人都能轉(zhuǎn)身離開(kāi)，更多的受害者，生活還要繼續(xù)，工作流程無(wú)法停止。一邊是隨手就能生成的虛假內(nèi)容，一邊是日復(fù)一日的自證、申訴。原本應(yīng)該由技術(shù)解決的問(wèn)題，被悄悄轉(zhuǎn)嫁給了個(gè)體。

當(dāng)AI把造假成本壓到歷史最低，又反向把維權(quán)成本推高，中間的縫隙，是個(gè)體的困惑和試探。造假開(kāi)始與每個(gè)人的選擇糾纏。當(dāng)一張假圖、一段假視頻、一篇假文章都能被輕易生成，當(dāng)違法與不違法之間只剩下一句提示詞的距離，“能不能”與“該不該”開(kāi)始混在一起，真?zhèn)蔚慕缦薏辉儆墒聦?shí)決定，而是由人心決定。

（文中受訪者皆為化名）