第190期主持人 徐魯青

過(guò)去一年里，AI不再止于技術(shù)新聞。胡彥斌、易夢(mèng)玲的“AI視頻”引發(fā)爭(zhēng)議，出版行業(yè)出現(xiàn)冒名寫(xiě)作，評(píng)論區(qū)里混入疑似AI生成的段落……生成式內(nèi)容正以很快的速度進(jìn)入文學(xué)、影視、以及普通人的日常表達(dá)。 

在上一期的文化周報(bào)里，寫(xiě)到劍橋大學(xué)的一項(xiàng)最新研究顯示，超過(guò)半數(shù)已有作品出版的英國(guó)小說(shuō)家認(rèn)為，AI最終可能完全取代他們的工作，39%的受訪者的收入已受到影響，市場(chǎng)上也出現(xiàn)更多AI寫(xiě)作、甚至冒名出版的書(shū)籍。

我們作為寫(xiě)作者，也在經(jīng)歷同樣的變化。你會(huì)用AI寫(xiě)稿嗎？還是在選題和查資料時(shí)用上它？它們都改變著我們的寫(xiě)作方式。

另一方面，AI的擴(kuò)張也在放大數(shù)字世界里的知識(shí)差異。沒(méi)有被系統(tǒng)記錄的經(jīng)驗(yàn)、弱資源語(yǔ)言，都更容易被排除在模型之外。另一項(xiàng)來(lái)自康奈爾大學(xué)的研究也指出，自ChatGPT上線后，很多人把AI當(dāng)作新知識(shí)入口，但模型本身深受英文語(yǔ)料的影響，知識(shí)分布并不均衡。而且在未來(lái)，當(dāng)模型開(kāi)始學(xué)習(xí)模型生成的內(nèi)容，文化的想象力會(huì)不會(huì)被固定在某幾種模板里？

這期我們來(lái)聊聊，過(guò)去一年里，AI怎么改變了我們的創(chuàng)作方式？對(duì)創(chuàng)作者而言，這場(chǎng)變化意味著什么？

AI在工作流里的悖論

王鵬凱：我不太信任AI的一些功能。比如說(shuō)它給我查資料，或者修改我的稿件，我覺(jué)得改出來(lái)的中文稿件會(huì)非常生硬，文體上也會(huì)有點(diǎn)奇怪。

我有點(diǎn)老派。前兩天去一個(gè)非虛構(gòu)工作坊，聽(tīng)他們聊到現(xiàn)在很多媒體工作者至少都會(huì)用AI來(lái)搜集資料。但我還是對(duì)自己的信息檢索能力比較有信心，而且之前有試過(guò)，我自己找不到的材料，AI基本上也找不到。

徐魯青：這一年我的搜索方式發(fā)生了挺大變化。比如我現(xiàn)在用Google的時(shí)候，會(huì)越來(lái)越少去打開(kāi)主頁(yè)。因?yàn)樗阉饕鏁?huì)在前面出現(xiàn)AI生成的簡(jiǎn)略內(nèi)容，我一般就直接看那個(gè)內(nèi)容。 

我看方可成寫(xiě)的一篇文章，他說(shuō)未來(lái)媒體機(jī)構(gòu)的流量會(huì)被AI剝奪得越來(lái)越少。因?yàn)楝F(xiàn)在大家用AI看信息，即使附上了網(wǎng)頁(yè)的鏈接，讀者也很少真的會(huì)點(diǎn)進(jìn)去看里面更細(xì)節(jié)的信息。 

王鵬凱：但是不是我們已經(jīng)習(xí)慣了把什么東西都喂給AI，現(xiàn)在歐洲有很多內(nèi)容創(chuàng)作者抵制AI，因?yàn)樽约旱牟牧衔唇?jīng)允許就被放進(jìn)AI的語(yǔ)料庫(kù)里訓(xùn)練，覺(jué)得這是很大的倫理問(wèn)題。

我參加過(guò)一節(jié)人類(lèi)學(xué)的方法課，有一個(gè)外國(guó)的老教授，胡子花白，坐在前面，很有興致地教我們使用一款我從來(lái)沒(méi)聽(tīng)說(shuō)過(guò)的手動(dòng)轉(zhuǎn)錄田野錄音的軟件。他講了大概半個(gè)小時(shí)，一步步地告訴我們這個(gè)軟件怎么用。 講完之后，一個(gè)同學(xué)問(wèn)出了我們所有人都想問(wèn)的問(wèn)題：你為什么不用類(lèi)似訊飛這樣的軟件？它可以直接幫你轉(zhuǎn)成文字嘛。 

老教授說(shuō)，你怎么確定你上傳的這些訪談信息只有你自己能看到？在田野或者采訪工作里，有一個(gè)前提就是你已經(jīng)向?qū)Ψ匠兄Z這些東西是私下的，你要保護(hù)他的隱私。但從倫理上來(lái)說(shuō)，如果你把它喂給AI，你不知道誰(shuí)會(huì)看到，它也可能變成語(yǔ)料庫(kù)的一部分。 

我覺(jué)得雖然這是一個(gè)很老派、傳統(tǒng)手藝人式的觀點(diǎn)，但它其實(shí)也是一個(gè)提醒。如果我們很信任地把所有采訪材料、稿件都發(fā)給AI，也是一個(gè)需要反思的問(wèn)題。

徐魯青：另一個(gè)問(wèn)題是，就算我們?cè)趥€(gè)人層面上不想把自己寫(xiě)的東西喂給AI，難道它就真的不會(huì)得到嗎？我們發(fā)在任何地方，它都有能力抓取，個(gè)人創(chuàng)作者是完全失權(quán)的。平臺(tái)得到了我們的內(nèi)容，就有權(quán)力決定這些內(nèi)容的流向。

王鵬凱：英國(guó)去年有一個(gè)法案，當(dāng)時(shí)在議會(huì)爭(zhēng)議很大。它的邏輯是，作家必須主動(dòng)提出“我不同意被AI訓(xùn)練”，不然就默認(rèn)你同意。這個(gè)引起了很多作家反對(duì)，比如石黑一雄他們就提出批評(píng)。最后這個(gè)法案因?yàn)樽枇](méi)有通過(guò)。

徐魯青：我覺(jué)得還有另一個(gè)問(wèn)題，如果一個(gè)信源不愿意給GPT提供開(kāi)源數(shù)據(jù)庫(kù)，它的可見(jiàn)性會(huì)變低。這也是它商業(yè)考量的一部分。

比如現(xiàn)在有一個(gè)灰色地帶，類(lèi)似AI廣告投流。你在網(wǎng)上搜一個(gè)“我最近要打什么疫苗比較好”，AI會(huì)推薦你某些公司，有一些公司就會(huì)去給AI“做數(shù)據(jù)”，讓AI更大概率吐出他們公司的名字，推薦他們公司。這個(gè)就像最早百度刷置頂廣告一樣，數(shù)據(jù)是可以被刷的。所以如果我們拒絕讓它提取我們庫(kù)里的內(nèi)容，我們的內(nèi)容會(huì)變得越來(lái)越不可見(jiàn)，越來(lái)越少的人點(diǎn)進(jìn)去。

王鵬凱：這個(gè)困境是雙重的。一方面我們前面在講，作為內(nèi)容創(chuàng)作者，我們想保護(hù)自己的作品，不被AI使用。但另一方面，又會(huì)作為使用者去抱怨AI提供的信息不準(zhǔn)確，它不準(zhǔn)確的前提很多時(shí)候就是因?yàn)樗恼Z(yǔ)料庫(kù)不夠大、不夠全。

知識(shí)的等級(jí)制度如何被AI進(jìn)一步固化？

李欣媛：當(dāng)我們進(jìn)入數(shù)字化時(shí)代，或者我們需要用一些產(chǎn)品的時(shí)候，這些東西不可避免地會(huì)被后臺(tái)抓取信息。這是數(shù)字時(shí)代的一個(gè)必然情況。其實(shí)更具象地反映了知識(shí)領(lǐng)域的權(quán)力失衡。之前看了《衛(wèi)報(bào)》一篇文章，它講的是AI之后的知識(shí)性的崩塌。

早期互聯(lián)網(wǎng)是由英語(yǔ)語(yǔ)料組成的，當(dāng)下的數(shù)字庫(kù)又是基于網(wǎng)絡(luò)內(nèi)容訓(xùn)練的，這就導(dǎo)致我們現(xiàn)在對(duì)于知識(shí)的理解，或者其他領(lǐng)域的見(jiàn)解，會(huì)以英文世界為主體。其他語(yǔ)言的語(yǔ)料會(huì)被輕視、忽視。

OpenAI自己說(shuō)ChatGPT已經(jīng)成為全球廣泛使用的工具，尤其在低收入和中等收入國(guó)家增長(zhǎng)迅猛，其實(shí)這意味著那些生活水平?jīng)]那么高、獲得知識(shí)沒(méi)那么多的人，會(huì)更依賴這些工具。而在重建他們自己的知識(shí)體系時(shí)，反而是用“外來(lái)的信息”覆蓋他們自己的語(yǔ)言和世界。我覺(jué)得這個(gè)現(xiàn)象非常諷刺。

AI需要邏輯學(xué)習(xí)模型，如果你不斷給它加入某些信息，它就會(huì)以那個(gè)為主體、為主要觀點(diǎn)。比如我說(shuō)“世界上最受歡迎的食物是披薩”，這種話出現(xiàn)多了，它就會(huì)變成常識(shí)、主流觀點(diǎn)。你再問(wèn)它，它不會(huì)說(shuō)那些很小眾但很好吃的食物，它只會(huì)說(shuō)披薩、可樂(lè)、漢堡之類(lèi)的。

我印象中《衛(wèi)報(bào)》的這篇文章里有一句話非常啟發(fā)我：

“通過(guò)強(qiáng)化這些等級(jí)制度，人工智能時(shí)代最可能抹殺的是幾個(gè)世紀(jì)以來(lái)不斷演進(jìn)的理解體系，使后代與大量未被編碼卻依然是人類(lèi)認(rèn)知方式的洞見(jiàn)和智慧隔絕開(kāi)來(lái)。因此岌岌可危的不僅僅是知識(shí)的呈現(xiàn)方式，更是知識(shí)本身的韌性和多樣性。”

丁欣雨：說(shuō)回鵬凱之前講到他要用GPT當(dāng)英語(yǔ)老師。我正好看到一個(gè)研究，說(shuō)人工智能有時(shí)候會(huì)錯(cuò)誤地把大量托?？荚囎魑?/span>，也就是英語(yǔ)非母語(yǔ)寫(xiě)作者的文章標(biāo)記成AI生成的。還有一個(gè)研究是說(shuō)，在面對(duì)黑人說(shuō)話時(shí)，自動(dòng)語(yǔ)音識(shí)別系統(tǒng)的錯(cuò)誤率幾乎是面對(duì)白人時(shí)的兩倍。而且這些錯(cuò)誤不是由于語(yǔ)法，而是語(yǔ)音和韻律特征，即口音導(dǎo)致的。

王鵬凱：這其實(shí)是學(xué)界長(zhǎng)期討論的“算法歧視”問(wèn)題。不只是你剛剛講的口音。包括之前有統(tǒng)計(jì)說(shuō)，算法在識(shí)別黑人和白人的照片時(shí)差異很大，因?yàn)檎Z(yǔ)料庫(kù)本身就以白人為主。在這種情況下少數(shù)族群語(yǔ)料越少，算法就越偏向白人群體。

徐魯青：我最近采訪《投喂 AI》的作者，他也提到欣媛剛剛講的現(xiàn)象，他把這種現(xiàn)象叫做“數(shù)字殖民主義”，意思是GPT和大規(guī)模的AI普及，會(huì)更廣泛地向其他地區(qū)灌輸某一種強(qiáng)勢(shì)知識(shí)。披薩是歐洲很流行、后來(lái)全球化傳播的食物，我們所有人都知道披薩。但它就不會(huì)說(shuō)擂辣椒皮蛋，不會(huì)說(shuō)一個(gè)本地食物，因?yàn)槟切┎辉谌蚧膹?qiáng)勢(shì)知識(shí)體系里。

但另一方面，有個(gè)很有趣的現(xiàn)象，兩三年前網(wǎng)友很愛(ài)比較中國(guó)大模型和GPT。有人問(wèn)：“你覺(jué)得女性的結(jié)婚黃金期是什么時(shí)候？” GPT的回答是：不存在結(jié)婚黃金期，這是對(duì)女性的限制，是錯(cuò)誤的觀點(diǎn)。但同期去問(wèn)另一個(gè)國(guó)產(chǎn)模型，它就會(huì)告訴你女性黃金期在30歲之前。

很明顯它們采用的語(yǔ)料庫(kù)和數(shù)據(jù)集不一樣，所以輸出的觀點(diǎn)也完全不一樣。我們?cè)谟么竽Ｐ偷臅r(shí)候，好像默認(rèn)它背后是一個(gè)客觀、沒(méi)有偏見(jiàn)的說(shuō)話者，但實(shí)際上在所有問(wèn)題里，它都有自己的觀點(diǎn)。 

王百臻：我覺(jué)得還有一點(diǎn)非常有趣。對(duì)我們而言，我們的成長(zhǎng)經(jīng)歷、教育經(jīng)歷、認(rèn)知經(jīng)歷均主要發(fā)生于前AI時(shí)代，保留著前一個(gè)時(shí)代留下來(lái)的慣性和抗拒性。但現(xiàn)在真的有一批從AI時(shí)代中長(zhǎng)大的“AI土著”，他們可能在今天還只有幾歲大，其心智和認(rèn)知都處在一個(gè)高速發(fā)展階段，而且他們的數(shù)量正在不斷擴(kuò)大。

而對(duì)他們來(lái)說(shuō)，AI可能就是他們成長(zhǎng)過(guò)程中一個(gè)非常固有、天然存在的元素，這會(huì)在更大的程度上塑造他們看待世界和自己的方式，這種影響可能會(huì)在之后不斷加深。

創(chuàng)作可以回到快樂(lè)本身嗎

徐魯青：我們剛剛討論的是工作，對(duì)于“創(chuàng)作”這件事情本身，我在想它會(huì)不會(huì)發(fā)生一些變化。

科幻作家陳楸帆之前跟AI一起合寫(xiě)了一篇科幻小說(shuō)，有點(diǎn)像他們共同創(chuàng)作出來(lái)的一個(gè)問(wèn)題文本，之前創(chuàng)作者都會(huì)覺(jué)得：“AI會(huì)不會(huì)替代我？”更多是一種被替代的焦慮，但好像它也可以帶來(lái)一些新玩法，對(duì)創(chuàng)作這件事本身有新的理解。比如以前我們自己寫(xiě)作，就是一個(gè)人寫(xiě)，那現(xiàn)在是不是可以協(xié)同協(xié)作，或者做一些跟以前一個(gè)人做完全不一樣的東西？

王百臻：我曾于前兩年翻譯過(guò)一篇?jiǎng)⒂罾サ脑L談。里面有一個(gè)比喻，我覺(jué)得挺有意思。他認(rèn)為AI還沒(méi)迎來(lái)屬于自己的“電影時(shí)刻”。這個(gè)“電影時(shí)刻”指的是：最早膠片電影被發(fā)明時(shí)，人們用它拍攝戲曲、舞臺(tái)劇。但后來(lái)故事電影逐漸發(fā)展出了自己講故事的方式，它作為媒介本身出現(xiàn)了新的可能性，人類(lèi)也不再把電影僅僅當(dāng)成記錄其他媒介的工具。

劉宇昆老師的意思是，我們現(xiàn)在對(duì)AI的使用還停留在模擬人類(lèi)行為、重復(fù)人類(lèi)工作的基礎(chǔ)之上，但屬于AI的那個(gè)“電影時(shí)刻”其實(shí)還沒(méi)有到來(lái)。當(dāng)它到來(lái)之后，AI作為媒介，會(huì)在極大程度上豐富我們的表達(dá)方式。 

王鵬凱：我感覺(jué)使用者的態(tài)度是兩極的。那些暢想AI有很多可能性的人，其實(shí)是支持AI的人，他們會(huì)覺(jué)得AI發(fā)展得還不夠快，你語(yǔ)料庫(kù)還不夠多，你還要繼續(xù)進(jìn)化。但是另外一部分人就會(huì)去反思，會(huì)警惕，想要讓它發(fā)展的慢一點(diǎn)，覺(jué)得我們不需要這么快的進(jìn)展。一些科幻小說(shuō)里面反而會(huì)設(shè)想一個(gè)場(chǎng)景：未來(lái)人們有一個(gè)全球性的公約，把這種新技術(shù)封鎖，不去發(fā)展它，因?yàn)樘鞎?huì)帶來(lái)一些后果。

包括前面講到AI對(duì)人的影響，尤其是對(duì)創(chuàng)作的影響，我昨天看到一位女哲學(xué)家的朋友圈。我一直很欣賞她，但她的書(shū)我經(jīng)?？床欢?，因?yàn)樗恼Z(yǔ)言特別……就是你認(rèn)識(shí)每個(gè)字，但連起來(lái)不知道是什么意思。我之前就會(huì)覺(jué)得，哲學(xué)家是不是說(shuō)話太繞了？可能是她的寫(xiě)作有問(wèn)題，也可能是我的理解有問(wèn)題。

她寫(xiě)到說(shuō)，當(dāng)代人的語(yǔ)言被AI侵蝕得太強(qiáng)了。我們?cè)絹?lái)越多的日常語(yǔ)言，都是技術(shù)帶來(lái)的新語(yǔ)言。我們很多時(shí)候已經(jīng)忘記，除了這些技術(shù)之外，原本的語(yǔ)言是什么樣的。 

她的話會(huì)提醒我：是不是我們現(xiàn)在說(shuō)的“我們想要看懂的語(yǔ)言”，其實(shí)也是被各種技術(shù)影響過(guò)的，而不再是原來(lái)的那種語(yǔ)言？我們的創(chuàng)作是不是也在無(wú)意識(shí)中被改變了？我覺(jué)得這個(gè)提醒對(duì)我來(lái)說(shuō)很有啟發(fā)。

中文其實(shí)是一個(gè)可以通過(guò)很多拼接組合產(chǎn)生新詞匯的語(yǔ)言。不光是AI，人也會(huì)在寫(xiě)作中組新的詞。比如把兩個(gè)字或詞拼到一起用，這是中文的特點(diǎn)，跟英語(yǔ)不太一樣。但是拼的時(shí)候，其實(shí)也是有人的創(chuàng)造在里面。拼出來(lái)之后這個(gè)詞有沒(méi)有美感、是否合適，是人來(lái)判斷的。

王百臻：最開(kāi)始我們討論人類(lèi)的工作是否具有某種獨(dú)創(chuàng)性，我一開(kāi)始對(duì)這個(gè)問(wèn)題蠻悲觀的。悲觀的點(diǎn)在于，當(dāng)下的AI，主要是大語(yǔ)言模型，雖然未必真的在物理層面還原了人類(lèi)大腦的認(rèn)知過(guò)程，但我們或許依然能看到AI正在以驚人的速度不斷接近某個(gè)奇點(diǎn)。我覺(jué)得，當(dāng)把“人類(lèi)的思考本身不可替代”這一結(jié)論放在一個(gè)更長(zhǎng)的時(shí)間跨度上去看時(shí)，它會(huì)是可疑的。

但我也很認(rèn)同欣媛剛才說(shuō)的，我們這樣想會(huì)不會(huì)太工具論了？當(dāng)我們用這種方式把自己和AI進(jìn)行一種帶著一點(diǎn)優(yōu)績(jī)主義色彩的比較時(shí)，我們并沒(méi)有在創(chuàng)作和實(shí)踐中真正感受自己的主體性。其實(shí)在AI到來(lái)之前，我們也有很多導(dǎo)致虛無(wú)主義的來(lái)源，而AI只是又增加了一種虛無(wú)主義誕生的可能性而已。

對(duì)抗這樣一種虛無(wú)主義，我覺(jué)得重要的或許是如何從自我凝視與能力審判，回到“我們?cè)趧?chuàng)作這個(gè)過(guò)程當(dāng)中，自己到底處在什么位置”這個(gè)問(wèn)題上。不管我們每個(gè)人對(duì) ”AI是否會(huì)在能力上超越我們”這一問(wèn)題采納何種判斷，更重要的是自己用心去創(chuàng)作，去愛(ài)這個(gè)世界，去從創(chuàng)作中獲得快樂(lè)。我覺(jué)得這比把自己和AI做能力比較重要得多。 

我想call back一下象棋和圍棋。在這兩種棋類(lèi)游戲當(dāng)中，AI早已于某個(gè)時(shí)刻在純粹競(jìng)技能力上勝過(guò)人類(lèi)了。相比文字的模糊性，棋類(lèi)的競(jìng)技性結(jié)果更直接。但事實(shí)上，現(xiàn)在依然有非常多人從棋類(lèi)游戲里獲得純粹的快樂(lè)，那種智力活動(dòng)、思考活動(dòng)的愉悅感依然存在。

這種東西本應(yīng)是我們的護(hù)城河，而不是那種“能力上要靠每次考100分來(lái)壓倒AI的悲哀”。我們不應(yīng)該把存在意義建立在這上面。

徐魯青：有點(diǎn)像游戲哲學(xué)里說(shuō)的：游戲是一種最純粹、無(wú)目的的行為。因?yàn)橛螒虻哪康牟皇墙Y(jié)果，而是在玩游戲時(shí)產(chǎn)生的愉悅。

但我們做創(chuàng)作工作的人，好像反而丟失了這種愉悅，變成了結(jié)果導(dǎo)向：我能產(chǎn)出什么內(nèi)容，AI 能產(chǎn)出什么內(nèi)容，我們?cè)诒容^誰(shuí)能力更高、誰(shuí)更強(qiáng)。但是AI無(wú)法替代的是，人類(lèi)在做這項(xiàng)活動(dòng)時(shí)，自己產(chǎn)生的愉悅，和自己享受這個(gè)過(guò)程的能力。這就代表著一種存在，而這種存在沒(méi)有任何東西可以代替。