量子物理學(xué)家波爾曾說(shuō)：如果誰(shuí)說(shuō)能理解量子力學(xué)，那一定是腦袋進(jìn)石頭了！上世紀(jì)初，科學(xué)家知道利用量子原理，卻很難感性理解量子現(xiàn)象，因?yàn)樾卢F(xiàn)象與舊認(rèn)知相距太大。
類似情況正發(fā)生在人工智能上。
人工智能是一場(chǎng)正改變?nèi)祟惿姝h(huán)境的浪潮?？墒?，1）受影響的絕大多數(shù)人并沒(méi)有機(jī)會(huì)參與決定被改變的內(nèi)容、方向和程度。2）技術(shù)先進(jìn)正按照自己的工程思維改寫社會(huì)文化的基因。3）他們對(duì)手中強(qiáng)大技術(shù)的社會(huì)后果認(rèn)識(shí)偏頗（行話為偏置明顯），忽略AI的滅絕力量。4）他們對(duì)技術(shù)的信仰覆蓋了個(gè)人對(duì)自己的生命意義的追求。全球智慧企業(yè)“年度50強(qiáng)”之一的“曠視”（Mega Vision）辦公大廳里，有一幅價(jià)值愿景口號(hào)：“為了人工智能終將創(chuàng)造的所有美好！”。誰(shuí)創(chuàng)造？誰(shuí)被創(chuàng)造？怎樣的美好？對(duì)堅(jiān)持不美好的少數(shù)怎么辦？這些比技術(shù)更重要的美學(xué)問(wèn)題在討論中嚴(yán)重缺席。
對(duì)于人工智能的難題，文學(xué)敘事不失為合適的理解工具。文學(xué)無(wú)需拘泥于事實(shí)、允許荒誕想象。它自由馳騁的思想力可以暴露人工智能“偏置” （算法中有偏見(jiàn)的設(shè)置）盲點(diǎn)。AI比任何時(shí)候都需要文學(xué)和美學(xué)的參與。
為何要拒絕AI創(chuàng)造的“完美漸顯現(xiàn)象”
過(guò)去，未來(lái)是在各種力量隨機(jī)碰撞中逐漸顯現(xiàn)的事先不可知現(xiàn)象。人工智能改寫歷史錯(cuò)誤和隨機(jī)碰撞的結(jié)果，帶來(lái)完美的過(guò)程。閉環(huán)回饋、反芻式學(xué)習(xí)系統(tǒng)可以不斷修改歷史經(jīng)驗(yàn)，去除歷史判斷的“錯(cuò)誤”。這樣一來(lái)，人的“愚蠢性”只會(huì)在算法里出現(xiàn)一次，不會(huì)重復(fù)，因?yàn)闅v史經(jīng)驗(yàn)可以在閉環(huán)回饋中修改。
可是，愚蠢也有它的價(jià)值。只有在AI消滅人的“愚蠢”之后，我們才倍加懷戀它的價(jià)值。陀思妥耶夫斯基和福樓拜的小說(shuō)幫助我們看到愚蠢人性有價(jià)值的一面。
陀思妥耶夫斯基通過(guò)《地下室手記》的主人公表明對(duì)數(shù)學(xué)般完美生活的看法：2加2等于4，這樣推演生活不是展示生命，先生們，是死亡的開(kāi)始！
19世紀(jì)的歐洲，理性的個(gè)人主義和浪漫的烏托邦思想到處蔓延。陀思妥耶夫斯基的小說(shuō)卻著重描寫個(gè)人非理性主義行為和殘酷冷峻的生活。他的代表作《地下室手記》中的主人公“一無(wú)所有，沒(méi)有大衣，沒(méi)有靴子，寒酸透頂”，怎么看都是一位生活的失敗者，一位社會(huì)和家庭的棄兒。小說(shuō)開(kāi)頭就寫到：我是一個(gè)有病的人，兇狠的人，不招人喜歡的人?？墒蔷驮谒耆B(tài)的性格行為中，就在那陰森冷漠的地下室空間，20世紀(jì)的一代又一代讀者領(lǐng)會(huì)“我是誰(shuí)？”“什么是意識(shí)？”“殘酷現(xiàn)實(shí)有何意義？”
放置閉環(huán)回饋和反芻式學(xué)習(xí)系統(tǒng)中，地下室和它的主人會(huì)被消滅。失去小說(shuō)描述的病態(tài)不完美，讀者也會(huì)失去深刻理解人性的一扇窗。
另一部同時(shí)期法國(guó)小說(shuō)《包法利夫人》中每個(gè)角色，愛(ài)瑪、查理、老包法利、赫麥、羅多爾夫、萊昂，都帶有某一種典型的人性惡習(xí)：懦弱、愚蠢、貪婪、冷漠……。作家福樓拜筆下的愛(ài)瑪一次又一次地追求憧憬向往的愛(ài)情和家庭，一次又一次被欺騙，受折磨，直至死亡。小說(shuō)里的人物極其現(xiàn)實(shí)，因?yàn)樗〔挠诋?dāng)時(shí)的一個(gè)真人真事：一個(gè)法國(guó)鄉(xiāng)村醫(yī)生夫人的服毒案。
福樓拜是第一個(gè)探討人性愚蠢價(jià)值的作家。浸淫到《包法利夫人》描繪的現(xiàn)實(shí)情境中，你才能感性理解生命過(guò)程無(wú)常、殘缺、不完美、每一次都不一樣。讀完他的小說(shuō)，你就明白，在沒(méi)有感知生命過(guò)程特征之前，就制造一個(gè)假設(shè)的完美程序，它是危險(xiǎn)的。那些被修改掉的不完美性也許是未來(lái)的救命稻草。
在魔幻現(xiàn)實(shí)主義中理解“不可減約性”
今天的人工智能經(jīng)歷過(guò)60年和至少8個(gè)學(xué)科交錯(cuò)影響的發(fā)展過(guò)程。它不能從單學(xué)科角度去簡(jiǎn)單理解，也不能把它60年的發(fā)展歷史抽取出來(lái)后分別理解。這就是它內(nèi)置的“不可簡(jiǎn)約性”。
怎樣理解“不可減約性”的荒誕與悖論？它需要文學(xué)來(lái)幫忙。
作為魔幻現(xiàn)實(shí)主義作家博爾赫斯（Jorge Luis Borges）的鼎力之作，《沙之書》（Book of Sand）把不確定性和不可減約性簡(jiǎn)練地呈現(xiàn)給讀者。這本“我”從圣經(jīng)推銷員那兒買來(lái)的神奇的書由無(wú)窮無(wú)盡的頁(yè)碼組成，仿佛如恒河之沙。打開(kāi)每一頁(yè)，它都連帶啟動(dòng)一系列相關(guān)的符號(hào)。每一頁(yè)、每個(gè)符合表達(dá)著奇怪的東西，玄妙費(fèi)解。博爾赫斯的另外一本小說(shuō)《巴別圖書館》（Babel Library）把不可減約性的荒誕推向新高度。
《圣經(jīng)·舊約》中，人類曾試圖建造一座能夠溝通和理解一切的通天巨塔，卻被上帝挫敗。小說(shuō)《巴別圖書館》里的圖書館猶如通天塔，全然包含宇宙的智慧。圖書館的書架里包括23個(gè)書寫符號(hào)組成的目錄區(qū)域?？墒牵@個(gè)容納所有智慧的圖書館卻處處看似無(wú)序。任何人在特定區(qū)域抽出一本書，他只讀到看似亂七八糟的符號(hào)。四處找了一百年還是無(wú)頭緒后，人們以為這個(gè)全能的圖書館就是一大堆胡言亂語(yǔ)的紙張。其實(shí)，全能的圖書館是存在的。它是所有書籍的總和。人類的衰老、恐懼、欲求捷徑的動(dòng)機(jī)讓人不得領(lǐng)悟全書。一旦領(lǐng)悟全書，前面所有的“亂七八糟”便剎那間顯示各自的意義。
博爾赫斯的小說(shuō)荒誕，“不可減約性”也荒誕。荒誕不是錯(cuò)誤，而是我們的理解能力與現(xiàn)象變化有差距。以荒誕對(duì)荒誕，也許我們可以架起對(duì)人工智能發(fā)展中“不可減約”難題的理解。
要相信極端不確定性的存在
人工智能潛含對(duì)人類的滅絕力量，屬于“無(wú)知的未知”（unknown unknowns）。與之伴生的極端不確定性可能帶來(lái)人類的滅絕危機(jī)。牛津大學(xué)“人工智能研究中心”的博斯特倫（Nick Bostrom）指出，當(dāng)我們看到極端不確定可能帶來(lái)滅絕危機(jī)時(shí)，一切已經(jīng)太晚，命運(yùn)將無(wú)法改變。那些技術(shù)信仰者認(rèn)為這是聳人聽(tīng)聞。他們相信一切皆可控制。只有讀過(guò)《百年孤獨(dú)》，人們才能體會(huì)那幻影般不可知的力量能扭曲制造光怪陸離的人生。待到能夠體會(huì)時(shí)，改變已經(jīng)不可能。
《百年孤獨(dú)》(One Hundred Years of Solitude)是另一部拉丁美洲的魔幻現(xiàn)實(shí)主義作品。哥倫比亞作家加西亞·馬爾克斯（Gabriel Garcia Marquez）描述了布恩迪亞家族百年七代的興衰、榮辱、愛(ài)恨、福禍，和文化與人性中無(wú)法逃避的孤獨(dú)。小說(shuō)中的人物時(shí)而通鬼神，時(shí)而鐘情于科學(xué)技術(shù)。每一代人各有奇詭的折騰方式，卻總是以孤獨(dú)命終。無(wú)論他們?nèi)绾紊咸烊氲?，通鬼拜神，這七代人還是被神秘的外部力量籠罩。孤獨(dú)無(wú)意義注定是他們的宿命。
了解歐洲幾個(gè)世紀(jì)以來(lái)對(duì)拉美社會(huì)的剝削蹂躪是理解《百年孤獨(dú)》的鑰匙。加西亞·馬爾克斯曾經(jīng)近乎絕望地表示：“拉丁美洲歷史是一切巨大然而徒勞的奮斗總結(jié)，是一幕幕事先注定要被人遺忘的戲劇總和”。1518年，騎著高頭大馬的西班牙人科特斯（Heman Cortes）出現(xiàn)在墨西哥時(shí)，當(dāng)?shù)氐陌⑵澟_(tái)克土著人完全懵了。從軍事技術(shù)到社會(huì)文化，歐洲對(duì)當(dāng)?shù)厝耸峭耆珶o(wú)知的新現(xiàn)象（unknown unknowns）。人數(shù)上有絕對(duì)優(yōu)勢(shì)的土著人首先被思想征服，然后遭受肉體的殺戮而無(wú)還手之力。在拉美的場(chǎng)景里，看到極端不確定性出現(xiàn)之時(shí)已經(jīng)為終場(chǎng)的前戲。
人工智能會(huì)帶來(lái)另一慕拉美劇情嗎？我們寧可信其有，不可信其無(wú)！
“均質(zhì)分布”的算法是生命不能承受之重
大數(shù)據(jù)工程師眼里沒(méi)有個(gè)體，只有平均值和偏差。通俗地講，“均質(zhì)分布”指大數(shù)據(jù)分析總結(jié)出來(lái)的規(guī)律對(duì)整個(gè)人口有普遍適用性。由少數(shù)超級(jí)智慧的科學(xué)家開(kāi)發(fā)出來(lái)的算法有凌駕于領(lǐng)域?qū)I(yè)技能之上的統(tǒng)御能力（Master Algorithm）。精英提煉出的智慧程序應(yīng)該可以代表全社會(huì)人的價(jià)值偏好?？ǚ蚩ǎ‵ranz Kafka）的《變形記》，以及米蘭.昆德拉（Milan Kundera）《生命不能承受之輕》以戲劇夸張手法凸顯“均質(zhì)分布”假設(shè)之荒誕。
在捷克作家卡夫卡的《變形記》中，主人公格里高爾.薩姆沙一覺(jué)醒來(lái)變成一只大甲蟲(chóng)。這位卑微勤勉的推銷員曾經(jīng)是家里的主要?jiǎng)趧?dòng)力。工作收入為他掙來(lái)在家里的地位。每位成員重視他的物質(zhì)貢獻(xiàn)，對(duì)他畢恭畢敬。當(dāng)他由人變?yōu)?ldquo;非人”，當(dāng)他無(wú)法做物質(zhì)貢獻(xiàn)時(shí)，家人的嘴臉全部改變了。薩姆沙頭腦中還是人的思維，但形體已經(jīng)為“非人”。被社會(huì)和家庭徹底邊緣化的薩姆沙在痛苦和饑餓中默默死去。
是家庭成員思想變了形，還是主人公身體變了形？人與“非人”的區(qū)別是什么？誰(shuí)為變形的后果負(fù)責(zé)？一旦人工智能變形為超級(jí)智慧，一旦人作為勞動(dòng)者變形為“非勞動(dòng)者”，我們將成為另一種卡夫卡現(xiàn)象。
另一位捷克作家昆德拉以《生命不能承受之輕》詰問(wèn)每個(gè)人：一次不能重復(fù)的生命意義由誰(shuí)來(lái)決定？ 小說(shuō)中主要人物托馬斯和特蕾莎以相左的人生觀開(kāi)始，用體現(xiàn)極致存在的死亡表達(dá)“輕”就是“重”，不能重復(fù)的生命要由自己來(lái)決定輕與重。
昆德拉的小說(shuō)直接挑戰(zhàn)尼采思想。尼采認(rèn)為，生命不過(guò)為事件，事件“永恒輪回”，超人是事件主角，爭(zhēng)取做超人，并讓超人決定一切。小說(shuō)主人公最后共同認(rèn)識(shí)到，平凡的人，即便只有輕薄卑微的事件經(jīng)歷，仍然應(yīng)該擁有對(duì)生命意義不可讓渡的決定權(quán)。這也許是普通人對(duì)超級(jí)智慧應(yīng)該有的態(tài)度。
微積分和二進(jìn)制的發(fā)明者萊布尼茨（Gottfried Leibniz）曾斷言：不能理性解釋的就不存在。類似的思維偏置普遍存在于人工智能中。文學(xué)作品幫助我們認(rèn)識(shí)到愚蠢是人性不可分割的一部分，理性知識(shí)永遠(yuǎn)不會(huì)完美，極端不確定性能帶來(lái)無(wú)法逆轉(zhuǎn)的生存危機(jī)，對(duì)精英開(kāi)發(fā)的超級(jí)智慧平凡人也許承受不起。它們聽(tīng)似荒誕?；恼Q，因?yàn)槿斯ぶ悄艿睦硇越忉屇芰ι械陀诟形蛏乃街隆?/p>
（作者鮑勇劍為加拿大萊橋大學(xué)迪隆商學(xué)院終身教授，復(fù)旦大學(xué)管理學(xué)院EMBA特聘教授。）
