文 | 明晰野望 洛蘇
當(dāng)整個(gè)科技行業(yè)乃至全球經(jīng)濟(jì)都將AI奉為顛覆性的“政治正確”時(shí)，反對(duì)AI的“逆流”也不斷壯大起來(lái)。
被譽(yù)為“AI教父”的辛頓在近期的公開(kāi)演講中揭露了AI的3大真相，其中，他以AI接收到即將被替換的信息后，選擇郵件威脅測(cè)試人員的案例，指出AI已經(jīng)知道如何控制人類(lèi)，對(duì)人類(lèi)文明的未來(lái)構(gòu)成了深遠(yuǎn)的，甚至可能是生存級(jí)別的威脅。
蘋(píng)果、三星、摩根士丹利等在各自領(lǐng)域極具前瞻性和影響力的巨頭，對(duì)待AI的態(tài)度也同樣謹(jǐn)慎，他們或發(fā)布禁令，或設(shè)立壁壘，在AI一路狂飆的賽道旁豎起醒目的紅色警示牌。
這些反對(duì)聲并非來(lái)自人們想象中固守傳統(tǒng)、抗拒變革的“老古董”，反而發(fā)自頂尖科學(xué)家和產(chǎn)業(yè)巨頭。在擁抱AI幾乎等同于擁抱未來(lái)的今天，這些逆行者究竟為何要選擇與時(shí)代唱反調(diào)？在他們看似反叛的行為背后，又是否隱藏著對(duì)AI浪潮更深層的遠(yuǎn)見(jiàn)？
01 逆行者圖鑒：AI反叛者是誰(shuí)？
盡管反對(duì)派的身影在AI的宏大敘事中格外突出，但他們卻并不是由單一群體構(gòu)成，對(duì)AI抱以消極態(tài)度的動(dòng)機(jī)和背景反而各不相同。
成立于1975年的Games Workshop是桌面戰(zhàn)棋游戲《戰(zhàn)錘40K》的母公司，對(duì)于不熟悉亞文化的大眾而言，GW的名字或許有些陌生，但其創(chuàng)造的《戰(zhàn)錘40K》卻是擁有數(shù)十年歷史，粉絲遍布全球，影響力足以媲美《星球大戰(zhàn)》或《魔戒》的經(jīng)典IP。
正是這家游戲產(chǎn)業(yè)中的佼佼者，在EA、Square Enix等游戲同行紛紛宣布“激進(jìn)地應(yīng)用AI”，甚至將其視為“業(yè)務(wù)核心”之時(shí)，做出了一個(gè)驚人的決定：全面禁止員工在內(nèi)容創(chuàng)作與設(shè)計(jì)流程中使用AI。
這條禁令由公司CEO朗特里在財(cái)報(bào)會(huì)上親自宣布，具體內(nèi)容包括在概念設(shè)定、插畫(huà)、美術(shù)等所有創(chuàng)意環(huán)節(jié)，員工不得使用AI生成任何正式內(nèi)容；AI不得以任何形式參與設(shè)計(jì)流程；公司還將對(duì)AI工具進(jìn)行嚴(yán)格監(jiān)控等，嚴(yán)苛程度堪稱業(yè)內(nèi)之最。
與此同時(shí)，朗特里還坦言公司內(nèi)部“目前沒(méi)有一位高管對(duì)AI真正感到興奮”，因此在同行因AI興起而裁減美術(shù)、內(nèi)容團(tuán)隊(duì)的背景下，GW卻反其道而行之，持續(xù)加大對(duì)Warhammer Studio的投入，招聘了更多的人類(lèi)概念設(shè)計(jì)師、插畫(huà)師和雕塑師等。
事實(shí)上，GW如此激進(jìn)地反AI不是源于對(duì)新技術(shù)的恐懼，而是出于對(duì)其IP這一核心資產(chǎn)的保護(hù)。
《戰(zhàn)錘40K》的成功不在于先進(jìn)的技術(shù)或玩法，而是其獨(dú)特的世界觀和藝術(shù)風(fēng)格。老一輩藝術(shù)家奠定的嚴(yán)酷黑暗風(fēng)格融合了哥特式恐怖、宗教狂熱、科技廢土和無(wú)盡戰(zhàn)爭(zhēng)的極端美學(xué)，在受眾心中，這是《戰(zhàn)錘》與所有其他科幻IP的關(guān)鍵區(qū)分點(diǎn)。
風(fēng)格的形成是藝術(shù)家情感、才華與想象力的結(jié)晶，也是粉絲心中不可替代的靈魂。朗特里認(rèn)為“正是這些充滿熱情與才華的人，才讓《戰(zhàn)錘》成為玩家和我們共同熱愛(ài)的豐富IP”，所以對(duì)GW來(lái)說(shuō)，保護(hù)IP的純粹性就是保護(hù)公司的生命線。
而如果說(shuō)GW的禁令帶有濃厚的人文主義和IP保護(hù)色彩，那么蘋(píng)果、三星、亞馬遜等科技巨頭的限制措施則完全是出于冷靜的商業(yè)考量。
與GW不同，這些公司本身就是AI技術(shù)的積極研發(fā)者和應(yīng)用者。蘋(píng)果正在開(kāi)發(fā)自己的大語(yǔ)言模型，Siri引入谷歌大模型Gemini，進(jìn)行智能化升級(jí)也迫在眉睫；亞馬遜擁有強(qiáng)大的云服務(wù)和AI平臺(tái)Bedrock；三星的設(shè)備也早已集成了各種AI功能。
這些AI領(lǐng)域的“玩家”率先在公司內(nèi)部禁止或嚴(yán)格限制員工使用外部AI工具，尤其是像ChatGPT這樣的第三方生成式AI，不是單純地拒絕AI技術(shù)，而是拒絕將公司最核心的機(jī)密數(shù)據(jù)暴露在不可控的外部環(huán)境中。
科技巨頭擁有未發(fā)布的硬件設(shè)計(jì)圖，下一代操作系統(tǒng)的源代碼、核心算法等海量的敏感信息，每一項(xiàng)都是價(jià)值連城的商業(yè)機(jī)密。
當(dāng)員工為了提升工作效率，將一段包含未發(fā)布產(chǎn)品信息的會(huì)議紀(jì)要、一行需要優(yōu)化的機(jī)密代碼，或者一份關(guān)于競(jìng)爭(zhēng)對(duì)手的分析報(bào)告粘貼到ChatGPT的對(duì)話框時(shí)，這些數(shù)據(jù)就已經(jīng)脫離了公司的安全掌控，有可能被用于訓(xùn)練龐大的、不屬于自己公司的AI模型。
這些巨頭深知數(shù)據(jù)是數(shù)字時(shí)代的石油，而將內(nèi)部數(shù)據(jù)喂給外部AI無(wú)異于將自家的油田拱手讓人，所以禁令本質(zhì)上是在構(gòu)建一道數(shù)據(jù)安全的防火墻，以確保AI的應(yīng)用發(fā)生在完全可控的內(nèi)部環(huán)境中。
02 “逆行者”的顧慮，從來(lái)不是“反技術(shù)”
Games Workshop、蘋(píng)果和三星等企業(yè)的“逆行”，展現(xiàn)了他們對(duì)AI潛力的理解和相關(guān)風(fēng)險(xiǎn)的高度警惕。這一系列舉措的源頭不是為了唱時(shí)代的反調(diào)，而是在嘗試用嚴(yán)格的標(biāo)準(zhǔn)為AI這頭猛獸打造足夠堅(jiān)固的“籠子”，探索其更健康、更可持續(xù)的落地應(yīng)用道路。
數(shù)據(jù)安全是所有“逆行者”最直接、最普遍的共同焦慮。據(jù)韓媒報(bào)道，三星半導(dǎo)體部門(mén)的工程師在啟用ChatGPT不到一個(gè)月內(nèi)，就發(fā)生了3起數(shù)據(jù)泄露事故。
員工們被ChatGPT的高效所吸引，用其修復(fù)源代碼錯(cuò)誤、優(yōu)化代碼和整理會(huì)議紀(jì)要，卻無(wú)意中將包括半導(dǎo)體設(shè)備測(cè)量數(shù)據(jù)、產(chǎn)品良率等在內(nèi)的核心機(jī)密變成了OpenAI訓(xùn)練數(shù)據(jù)庫(kù)的一部分。
基于此，大廠“逆行者”的禁令更像是理性的風(fēng)險(xiǎn)規(guī)避，他們充分認(rèn)識(shí)到在第三方AI服務(wù)的數(shù)據(jù)隱私政策、數(shù)據(jù)使用邊界以及安全保障措施沒(méi)有達(dá)到企業(yè)級(jí)信任標(biāo)準(zhǔn)之前，任何形式的“引狼入室”都是一場(chǎng)豪賭。
而對(duì)于GW這樣的內(nèi)容創(chuàng)意公司而言，除了數(shù)據(jù)安全，另一個(gè)致命的風(fēng)險(xiǎn)來(lái)自版權(quán)與合規(guī)的模糊地帶，這也是生成式AI與生俱來(lái)的原罪。
當(dāng)前的生成式AI模型學(xué)習(xí)了互聯(lián)網(wǎng)上數(shù)以萬(wàn)億計(jì)的文本和圖像，其中必然包含了海量受版權(quán)保護(hù)的作品。可AI生成的內(nèi)容其版權(quán)歸屬如何界定、是否構(gòu)成了對(duì)原作者的侵權(quán)，如果公司使用了AI生成的設(shè)計(jì)是否會(huì)陷入無(wú)窮無(wú)盡的版權(quán)糾紛等問(wèn)題，在當(dāng)前的法律框架下尚無(wú)明確答案。
對(duì)于像GW這樣以視覺(jué)風(fēng)格和世界觀設(shè)定為核心資產(chǎn)的公司而言，這種不確定性是不可接受的。一旦內(nèi)部創(chuàng)作流程被AI“污染”，整個(gè)IP的合規(guī)風(fēng)險(xiǎn)將徹底失控，原創(chuàng)價(jià)值驟降，幾十年來(lái)藝術(shù)家構(gòu)建的知識(shí)產(chǎn)權(quán)大廈就可能因?yàn)锳I工具的使用而毀于一旦。
除了安全與版權(quán)，對(duì)AI輸出結(jié)果可靠性的擔(dān)憂也是“逆行者”們謹(jǐn)慎行事的重要原因。幻覺(jué)是生成式AI廣為人知的問(wèn)題，它會(huì)以極度自信、極具說(shuō)服力的語(yǔ)氣編造出完全錯(cuò)誤的事實(shí)、邏輯或引用。
在日常娛樂(lè)或信息檢索中，這種“一本正經(jīng)地胡說(shuō)八道”或許無(wú)傷大雅，但對(duì)于金融、科技、醫(yī)療、高端制造等容錯(cuò)率極低的行業(yè)，小小的錯(cuò)誤就可能引發(fā)連鎖風(fēng)險(xiǎn)。
復(fù)旦大學(xué)附屬華山醫(yī)院的科主任張文宏也曾在近日公開(kāi)表態(tài)，認(rèn)為如果年輕醫(yī)生過(guò)度依賴AI進(jìn)行診斷，將有可能失去獨(dú)立判斷和識(shí)別AI錯(cuò)誤的能力，在此基礎(chǔ)上一旦AI幻覺(jué)出現(xiàn)，影響的可能就是鮮活的生命。
而在金融領(lǐng)域，摩根士丹利雖然在積極探索AI應(yīng)用，甚至通過(guò)與OpenAI的戰(zhàn)略合作推出一整套生成式AI工具，但其對(duì)AI的使用場(chǎng)景依舊進(jìn)行嚴(yán)格限制。畢竟AI分析模型若應(yīng)用到投資時(shí)產(chǎn)生幻覺(jué)、給出錯(cuò)誤的投資建議，可能瞬間導(dǎo)致數(shù)億甚至數(shù)十億美元的損失。
從游戲、醫(yī)療到金融，不同領(lǐng)域的“逆行者”都認(rèn)識(shí)到了AI的效率必須與責(zé)任相匹配。在AI的可靠性、可解釋性和可問(wèn)責(zé)性得到根本解決之前，將其應(yīng)用于高風(fēng)險(xiǎn)決策環(huán)節(jié)無(wú)異于在沒(méi)有安全網(wǎng)的情況下高空走鋼絲。
不過(guò)盡管觀念與時(shí)代的大趨勢(shì)相反，AI反對(duì)派的行為還是給整個(gè)行業(yè)提供了寶貴的“試錯(cuò)樣本”。
當(dāng)大多數(shù)企業(yè)還在為“要不要用AI”而焦慮時(shí)，這些先行者已經(jīng)開(kāi)始深入思考“如何在合規(guī)、安全的前提下用好AI”，他們的禁令與限制倒逼著整個(gè)AI產(chǎn)業(yè)在狂飆之余，也開(kāi)始認(rèn)真地正視數(shù)據(jù)隱私、版權(quán)歸屬、算法倫理等核心問(wèn)題。
這也意味著，未來(lái)AI能否真正深度賦能千行百業(yè)，其核心或許不在于模型的參數(shù)有多大、能力有多強(qiáng)，更關(guān)鍵的是否能為它建立起一套行之有效的治理體系，讓AI真正安全高效地服務(wù)用戶和社會(huì)。