AI不會(huì)毀滅人類，但 “神化AI” 會(huì)

英國(guó)思想家艾德蒙·柏克 說：“人是天生的宗教生物”。作為有限的個(gè)體，我們對(duì)至善和永生的渴望，我們對(duì)苦難和死亡的恐懼，都支配著我們的生活，貫穿了我們一生。宗教激情是人的本能，這種本能往往會(huì)強(qiáng)大到壓制人的理性。

如伏爾泰所說：“即使沒有神，也要造出一個(gè)神來”。“崇拜”與“造神”是刻在人類心靈與文化基因中的東西，也是任何人類群體的必然產(chǎn)物。因?yàn)椋吧瘛笨梢詾槭澜缣峁┮饬x與秩序，可以成為人類模仿、 追隨的“偶像”。大多數(shù)時(shí)候，人們寧愿造出假神，也不能容忍一個(gè)沒有神的精神世界。

危險(xiǎn)的造神運(yùn)動(dòng)

從思想觀念的角度來看，人類歷史就是“造神運(yùn)動(dòng)VS偶像坍塌”交替上演的歷史。到21世紀(jì)，人類分別經(jīng)歷了政治造神、宗教造神和科技造神。被人們?cè)斐鰜淼摹吧瘛保恳粋€(gè)都威力巨大、貽害無窮，動(dòng)輒將幾億人卷入戰(zhàn)爭(zhēng)，將整個(gè)種群變成奴隸。

古今中外的政治造神運(yùn)動(dòng)，都難逃“周公恐懼流言日，王莽謙恭未篡時(shí)”的結(jié)局。宗教的造神更是淪為笑柄。科學(xué)理性發(fā)展到今天，倘若仍有人跳出來自稱“救世主”、“大先知”、“保惠師”……那一定是騙子或者精神病患。

▲電影《周處除三害》

可見，對(duì)于宗教造神、政治造神，人類已經(jīng)有了足夠的能力去鑒別、防范。并且，這些被造出來的偶像一旦坍塌，人們都樂見其成，置身事外——真正讓人難以鑒別、防范，又讓人無法置身事外的，是“科技造神”運(yùn)動(dòng)。

我們無法拒絕科技，因?yàn)榭萍紝?shí)實(shí)在在地造福了人類。在當(dāng)今世界，科技意味著物質(zhì)財(cái)富、 發(fā)展優(yōu)勢(shì) ，科技帶來了更多的安全健康、精神娛樂，科技決定了人類的未來……

然而，人類對(duì)科技的認(rèn)識(shí)還極其膚淺。科技也可以毀滅人類、奴役人類。不幸的是，我們們被裹挾其中，也樂于沉溺其中。可以毫不夸張地說，“科技造神”是當(dāng)前危害最大、最隱蔽的一種造神。

人工智能神話的興起

在當(dāng)今世界，最大的“科技造神運(yùn)動(dòng)”是什么？恐怕非“人工智能”（AI）莫屬。數(shù)年前谷歌的阿爾法系列，Open AI的大規(guī)模語(yǔ)言模型Chat GPT，“世界模擬器”Sora問世，以及國(guó)內(nèi)Deepseek......人工智能的話題炙手可熱，每隔幾天都有新的熱點(diǎn)上頭條。

俗話說，“風(fēng)口來了，豬都會(huì)飛” 。 伴隨著人工智能運(yùn)動(dòng)的興起， 各種神話甚囂塵上：“第四次工業(yè)革命”、“下一個(gè)數(shù)字財(cái)富增長(zhǎng)點(diǎn)”、“啟蒙運(yùn)動(dòng)后最大的智識(shí)革命”、“無數(shù)人即將失業(yè)”、“人類意識(shí)將變成數(shù)據(jù)”……

興奮、焦躁、功利、憂慮、恐慌，混亂地交織在一起，人們忽略了最重要的問題：人工智能的本質(zhì)究竟是什么？人工智能真的有那么厲害、那么重要嗎？占據(jù)先機(jī)的人會(huì)成為下一個(gè)蓋茨、馬斯克，還是下一個(gè)笑柄和殉道者？人工智能真的崛起了嗎？它對(duì)人類的未來究竟意味著什么？

在人工智能神話炙手可熱的當(dāng)下，我們急需一部提升智識(shí)、祛除迷思的著作。而且，作者絕不能是擠占風(fēng)口的門外漢，更不能是居心不良的收割者——能夠講清楚人工智能的來龍去脈，褪去人工智能的假面，捍衛(wèi)人的價(jià)值尊嚴(yán)。

美國(guó)學(xué)者埃里克·J·拉森的《造神:人工智能神話的起源和破除》，正是這樣一本“逆時(shí)代潮流”之作。與馬斯克一樣，他不僅是一位頂尖的科技企業(yè)家 ，也是一名興趣廣泛的科學(xué)家。

他致力于計(jì)算機(jī)科學(xué)的前沿研究 ，親眼見證、親身參與了人工智能的興起，更難得的是，他還有著深厚的古典人文功底。這本書對(duì)人工智能“造神運(yùn)動(dòng)”所展現(xiàn)的洞見和批判，對(duì)于樂觀或焦慮、業(yè)內(nèi)或業(yè)外的人，都是極其應(yīng)時(shí)的醒腦之作。

破除人工智能的四大神話

拉森說：“現(xiàn)有的人工智能技術(shù)，只是對(duì)人類深層思想的膚淺模仿。對(duì)人工智能過分夸張，其實(shí)是一種技術(shù)媚俗。媚俗左右著我們的思考和感受；媚俗為生產(chǎn)者帶來利益，卻使消費(fèi)者蒙受損失；媚俗使我們陷入一個(gè)膚淺世界”。

神話一：人工智能很智能

Chat GPT的確有很強(qiáng)的語(yǔ)言輸出能力，也顯示出了某種“對(duì)答如流”的應(yīng)對(duì)能力。但事實(shí)上，人工智能遠(yuǎn)比人們想象的更愚笨。

沒有洞見。ChatG PT 的語(yǔ)句輸出規(guī)則，源于字與字之間概率鏈接的統(tǒng)計(jì)結(jié)果，其根本原理并沒有超出一般的統(tǒng)計(jì)學(xué)規(guī)則。但是正如哈耶克指出的 ，一般的統(tǒng)計(jì)學(xué)原理不能產(chǎn)生新知識(shí)，因?yàn)樾轮R(shí)都是統(tǒng)計(jì)中的“野點(diǎn)”，就是人們熟知的、塔勒布提出的“黑天鵝”。

推理能力差。面對(duì)同類型的問題，沒有訓(xùn)練過的語(yǔ)句GPT就說不出來；它也不能依據(jù)一般推理原則“舉一反三”，但是基于算法，它明明不知道，照樣胡說一氣。

人文素養(yǎng)差。Chat GPT是基于大規(guī)模生成式語(yǔ)言模型，它的數(shù)學(xué)能力很差不足為奇。但事實(shí)上，Chat GPT人文素養(yǎng)其實(shí)也很差。在與正常人溝通的時(shí)候，Chat GPT幾乎不能發(fā)現(xiàn)提問者話語(yǔ)的意向性、潛在文本下的情緒，表達(dá)也只是簡(jiǎn)單、生硬、機(jī)械般地鸚鵡學(xué)舌。我們可以說，它是一臺(tái)沒有“常識(shí)”的機(jī)械人。

也就是說，人工智能的行為，最終由訓(xùn)練數(shù)據(jù)及其算法決定，而人工智能自身并不理解自己在做什么。所以Meta的首席AI科學(xué)家楊立昆才會(huì)感嘆：“科學(xué)家不該訓(xùn)練一臺(tái)學(xué)習(xí)了大量人類知識(shí)的機(jī)器，而是讓AI系統(tǒng)去理解人類世界的運(yùn)作原理”。

神話二：人工智能很高效

人工智能對(duì)話的時(shí)候，在很短時(shí)間就能輸出很多文字，給人一種很高效的錯(cuò)覺。事實(shí)上，這種“高效”不僅漏洞百出，而且很難持續(xù)。

人工智能的知識(shí)總量，遠(yuǎn)遠(yuǎn)落后于真實(shí)世界。大規(guī)模模型的訓(xùn)練，需要海量數(shù)據(jù)，但人類諸多寶貴知識(shí)，其實(shí)根本不能數(shù)據(jù)化，比如很多經(jīng)典古籍，并沒有pdf文本。模型現(xiàn)有的可訓(xùn)練數(shù)據(jù)，只占了人類知識(shí)總量的很小一部分。哈耶克早就指出，人類社會(huì)運(yùn)轉(zhuǎn)所需的知識(shí)都是分散的，不能通過中央系統(tǒng)數(shù)據(jù)收集而來。

最重要的知識(shí)，無法量化或傳遞。與哈耶克、波普爾齊名的哲學(xué)家邁克爾·波蘭尼，早就指出，人類社會(huì)存在大量無法量化、無法言說，甚至無法傳授的“緘默知識(shí)”，比如駕駛技術(shù)、烹飪技藝、藝術(shù)家和科學(xué)家的靈感……這些恰恰是人類最豐富、最重要的非書面知識(shí)，連人類自己都無法歸納和復(fù)制，更何談人工智能。

訓(xùn)練人工智能的模型，成本很高。據(jù)測(cè)算，訓(xùn)練GPT-3耗用了1.287吉瓦時(shí)電量，大約相當(dāng)于120個(gè)美國(guó)家庭1年的用電量。同時(shí)，這樣的訓(xùn)練產(chǎn)生了502噸碳，相當(dāng)于110輛美國(guó)汽車1年的排放量。而且這種訓(xùn)練只適用于一個(gè)程序或是“模型”。AI模型也在變得越來越大，Open AI的GPT-3使用了1750億個(gè)參數(shù)或變量。

簡(jiǎn)言之，無論是知識(shí)總量、知識(shí)質(zhì)量，還是學(xué)習(xí)的速度與成本，人工智能和人類智力都不不可同日而語(yǔ)。

神話三：人工智能很復(fù)雜

航空界有句名言，人類不是通過模仿鳥類飛翔，而是掌握了空氣動(dòng)力學(xué)，才發(fā)明了飛機(jī)。偉大的發(fā)明，往往不是來自簡(jiǎn)單的生物仿生，而是源自掌握了其底層科學(xué)規(guī)律。

直至今日，人類對(duì)人腦工作原理的理解幾乎為零，對(duì)自己“意識(shí)”的理解也少得可憐。也就是說，人工智能距離人類的思考、意識(shí)還很大差距，更別說造出一個(gè)更強(qiáng)的大腦。

目前流行的人工智能，大部分都采用一種名為“神經(jīng)網(wǎng)絡(luò)深度學(xué)習(xí)”的統(tǒng)計(jì)算法，只是一種形式上對(duì)人類大腦神經(jīng)元架構(gòu)的拙劣模仿。其工作原理只是“像”人腦運(yùn)行機(jī)制。人工智能算法貌似很復(fù)雜，其實(shí)仍未超出統(tǒng)計(jì)學(xué)的應(yīng)用。

拉森在《造神:人工智能神話的起源和破除》就一針見血地指出，當(dāng)前所有最前沿的腦科學(xué)，對(duì)人腦工作原理的解釋，如“數(shù)據(jù)擬合”“模式識(shí)別”“樂高積木”，實(shí)際上都只是“對(duì)人腦運(yùn)作模式的簡(jiǎn)化想象”，與真實(shí)的、復(fù)雜的人腦工作原理，根本就不能比擬。

神話四：人工智能很“革命”

很多人吹噓，AI技術(shù)取得了革命性突破，“機(jī)器像人一樣思考”就要實(shí)現(xiàn)。還有人發(fā)出警告說，“機(jī)器奴役、屠殺人類的時(shí)代已經(jīng)不遠(yuǎn)了！”但是拉森在書中說，這些大多是無知的危言聳聽，也有人是為了吸引投資。

這一次，人工智能雖然取得了很大的進(jìn)步，但就其表現(xiàn)而言，還完全停留在局部特定領(lǐng)域下的具體應(yīng)用場(chǎng)景。一些應(yīng)用的確展現(xiàn)了新奇的樣式，但遠(yuǎn)談不上某種“革命”，離通用人工智能更是天壤之別。

所謂“通用人工智能（AGI）”，就是 讓機(jī)器完全像人一樣，在所有領(lǐng)域都能實(shí)現(xiàn)人類的智能， 這相當(dāng)于人類用機(jī)器再造生命。

從基礎(chǔ)科學(xué)突破，到真正的技術(shù)突破，其過程究竟多么艱難？“人類第N次科技革命”，究竟有沒有衡量標(biāo)準(zhǔn)？美國(guó)科學(xué)哲學(xué)家托馬斯·庫(kù)恩在其名著《科學(xué)革命的結(jié)構(gòu)》中告訴我們——凡是顛覆式的技術(shù)或工業(yè)革命，一定起于科學(xué)范式革命之后：

第一次工業(yè)革命，源自牛頓力學(xué)對(duì)亞里士多德力學(xué)范式的革命；第二次工業(yè)革命，起源于電學(xué)、磁學(xué)、化學(xué)新科學(xué)對(duì)傳統(tǒng)科學(xué)的范式革命；第三次工業(yè)革命，起源于量子力學(xué)、生物學(xué)、核物理學(xué)對(duì)牛頓力學(xué)的范式革命。

但是當(dāng)前的AI技術(shù)，從其底層技術(shù)邏輯而言，依然是傳統(tǒng)三基石——算法、算力和數(shù)據(jù)的堆積，并沒有新的范式革命。

甚至通用人工智能在理論上能否實(shí)現(xiàn)，多大數(shù)專業(yè)人士也表示懷疑。比如L4級(jí)別以上的自動(dòng)駕駛，很多公司實(shí)際上已經(jīng)放棄研制了，只專注于特殊場(chǎng)景下完全脫離監(jiān)督的L3級(jí)別自動(dòng)駕駛。

所有的造神運(yùn)動(dòng)，都源自恐懼、貪婪和懦弱。在“人工智能造神運(yùn)動(dòng)”如火如荼的今天，一個(gè)被現(xiàn)代科技裹挾向前的人，如何才能保持“人之為人”的理性、尊嚴(yán)與獨(dú)立？推薦獨(dú)家書《造神:人工智能神話的起源和破除》，本書恰似為以上需求量身定制：

?一本書讀懂人工智能的陷阱與未來

有人說，人工智能是下一個(gè)知識(shí)分化、財(cái)富分層、國(guó)運(yùn)興衰、生命形態(tài)的分岔路口。也有人說，人工智能崛起之時(shí)，就是人類滅亡之時(shí)。這些聳人聽聞的斷言，無疑凸顯了人工智能熱潮下，人們的盲目、功利、焦慮和沮喪。

本書是一本嚴(yán)肅、通俗、生動(dòng)的科普讀物，梳理了人工智能起源、發(fā)展、風(fēng)險(xiǎn)和前景，是一本當(dāng)代人亟需的應(yīng)時(shí)佳作。另外，本書分別從文學(xué)、哲學(xué)、腦科學(xué)、政治學(xué)等視角審視人工智能，對(duì)某些流行的“新理論”做出了尖銳的批評(píng)，還涉及到神話、信仰等終極命題的思考。本書筆調(diào)流暢，翻譯絕佳，非專業(yè)人士讀起來毫無生澀，而業(yè)內(nèi)人士讀起來也大有收獲。

?前沿科學(xué)的反思&古典人文的關(guān)懷

關(guān)于人工智能的書，市面上多如牛毛、良莠不齊，但大多陷入技術(shù)細(xì)節(jié)的梳理，還有的就是制造焦慮、渲染情緒、趁機(jī)收割。本書作者是計(jì)算機(jī)科學(xué)的前沿學(xué)者，也是與美國(guó)名校合作的科技企業(yè)家。最難能可貴的是，作者能將扎實(shí)的專業(yè)知識(shí)、深厚的人文學(xué)養(yǎng)融會(huì)貫通，讀起來是一種涵養(yǎng)的提升、美的享受。

?揭破神話，做一個(gè)清醒的現(xiàn)代人

作者對(duì)“人工智能造神運(yùn)動(dòng)”的抨擊，并不是否定科學(xué)，恰恰相反，本書不僅是對(duì)科學(xué)精神的正本清源，也是對(duì)各種“造神運(yùn)動(dòng)”的警告，對(duì)于深陷政治造神、宗教造神的人們，也是幫助他們“敲破偶像”的案頭教材。