深度長(zhǎng)文：什么是大語(yǔ)言模型的能力邊界？在語(yǔ)言的盡頭，重新發(fā)現(xiàn)人類(lèi)的未來(lái)

來(lái)源：NeuroPrior AI LTD

切真正深刻的問(wèn)題，最終都不是技術(shù)問(wèn)題，而是邊界問(wèn)題。

因?yàn)橹挥挟?dāng)一個(gè)時(shí)代開(kāi)始逼近某種極限時(shí)，它才會(huì)第一次嚴(yán)肅地追問(wèn)：什么是可以被形式化的，什么是不能被形式化的；什么能夠被語(yǔ)言表達(dá)，什么只能被體驗(yàn)；什么能夠被計(jì)算，什么能夠被模型復(fù)制，什么卻恰恰因其不可復(fù)制而構(gòu)成人之為人的核心。

從這個(gè)意義上說(shuō)，大語(yǔ)言模型的能力邊界問(wèn)題并不是計(jì)算機(jī)科學(xué)內(nèi)部的局部爭(zhēng)論，而是二十世紀(jì)以來(lái)語(yǔ)言哲學(xué)、邏輯學(xué)、現(xiàn)象學(xué)、心靈哲學(xué)和技術(shù)史共同匯流后的一個(gè)時(shí)代性結(jié)點(diǎn)。它迫使我們重新回到那些看似古老的問(wèn)題：語(yǔ)言是什么？理解是什么？意義從何而來(lái)？“我在體驗(yàn)”這一事實(shí)，能否被第三人稱(chēng)的描述所窮盡？而如果不能，那么在一個(gè)語(yǔ)言機(jī)器日益強(qiáng)大的時(shí)代，人的位置又在哪里？

一、從“會(huì)說(shuō)話(huà)的機(jī)器”到“語(yǔ)言的機(jī)器”：?jiǎn)栴}的真正形狀

因?yàn)橐粋€(gè)通過(guò)語(yǔ)言把握世界的系統(tǒng)，與一個(gè)通過(guò)現(xiàn)實(shí)而把握世界的生物，終究不是一回事。前者在表述之網(wǎng)中，后者則在存在本身。前者可以生成“關(guān)于痛苦”的完美句子，后者卻會(huì)真的疼。前者可以討論“紅色”的文化象征、物理波長(zhǎng)與神經(jīng)機(jī)制，后者卻在黃昏中真正看見(jiàn)那一抹無(wú)法被言說(shuō)的動(dòng)人晚霞。

二、人類(lèi)為何要把思想變成形式

大語(yǔ)言模型并不是突然從天而降的技術(shù)奇跡。它是人類(lèi)思想史上一個(gè)漫長(zhǎng)演進(jìn)的最新成果：將思想形式化，將理性機(jī)械化，將意義轉(zhuǎn)化為規(guī)則。

與此同時(shí)，另一條技術(shù)性的支流也在匯聚。圖靈提出可計(jì)算性的形式定義，使“機(jī)器能做什么”第一次成為嚴(yán)格的理論問(wèn)題。香農(nóng)建立信息論，使通信、壓縮和編碼獲得數(shù)學(xué)基礎(chǔ)。后來(lái)，控制論、認(rèn)知科學(xué)、人工智能陸續(xù)發(fā)展，人類(lèi)愈發(fā)傾向于把思維看作信息處理，把認(rèn)知看作符號(hào)變換，把心智看作一種可模擬的系統(tǒng)。

但如果這個(gè)計(jì)劃無(wú)法完成，那么大語(yǔ)言模型越強(qiáng)大，反而越會(huì)幫助我們看見(jiàn)某些東西之所以珍貴，恰恰因?yàn)樗鼈儾荒鼙荒Ｐ突脮r(shí)，AI不只是技術(shù)的勝利，也將成為一面反向的哲學(xué)鏡子。

三、維特根斯坦的回聲：語(yǔ)言的邊界，也許就是模型的邊界

四、“瑪麗的房間”：為什么主觀經(jīng)驗(yàn)不是更多描述的總和

這便揭示了一個(gè)重要事實(shí)：社會(huì)世界并不總是按照本體論真相運(yùn)作，它首先按照可識(shí)別的行為形式運(yùn)作。

大語(yǔ)言模型把我們逼到這個(gè)問(wèn)題面前，卻沒(méi)有替我們回答它。它只是讓這道門(mén)檻第一次變得如此之近，以至于我們不再能夠用輕蔑來(lái)回避它。

六、塞爾的反擊：“中文房間”思想實(shí)驗(yàn)

七、為什么大語(yǔ)言模型竟能如此強(qiáng)大

換言之，大語(yǔ)言模型之所以強(qiáng)大，不是因?yàn)楦怕时旧砩衩兀且驗(yàn)樗幚淼膶?duì)象——人類(lèi)語(yǔ)言——本身就極端富含世界結(jié)構(gòu)。

詞語(yǔ)不是孤立漂浮的，它們拖拽著制度、經(jīng)驗(yàn)、文化和行為。一個(gè)模型在海量文本中學(xué)習(xí)“法院”“責(zé)任”“背叛”“藥物”“童年”“革命”“抑郁”“信仰”等詞的關(guān)聯(lián)方式時(shí)，它其實(shí)是在間接學(xué)習(xí)這些概念背后的人類(lèi)世界如何組織自身。

因?yàn)槿绻Ｐ偷牧α恐饕獊?lái)自它對(duì)語(yǔ)言結(jié)構(gòu)與文本沉積的吸收，那么它最自然的上限，也就大體上受制于文本世界本身。凡是可以在語(yǔ)言中穩(wěn)定留下痕跡、形成統(tǒng)計(jì)規(guī)律、被公共表達(dá)反復(fù)強(qiáng)化的東西，它就可能學(xué)得越來(lái)越好；凡是主要存在于一次性的、私人化的、具身的、沉默的、尚未進(jìn)入符號(hào)公共性的經(jīng)驗(yàn)之中，它就很難以同樣方式獲得。

語(yǔ)言不是表面裝飾，而是文明結(jié)構(gòu)的深度容器。一個(gè)系統(tǒng)可以通過(guò)語(yǔ)言深度接近世界的形式，卻仍未必是世界之為世界的原初顯現(xiàn)。

八、世界模型與現(xiàn)實(shí)接觸

隨著大語(yǔ)言模型的發(fā)展，人們?cè)絹?lái)越頻繁地使用一個(gè)詞來(lái)描述它的內(nèi)部能力：世界模型。仿佛模型在語(yǔ)言訓(xùn)練中，逐漸形成了一幅關(guān)于現(xiàn)實(shí)世界的內(nèi)部地圖。它知道巴黎在法國(guó)，水在高溫下會(huì)沸騰，跌倒的人可能會(huì)疼，醫(yī)生通常在醫(yī)院工作，法庭上會(huì)有原告和被告，冬天通常比夏天冷。它似乎不僅在操縱詞語(yǔ)，更在某種層面上掌握了“世界是什么”。

一個(gè)足夠強(qiáng)的模型，確實(shí)會(huì)形成某種關(guān)于現(xiàn)實(shí)規(guī)律的內(nèi)部表征。否則它不可能穩(wěn)定地進(jìn)行常識(shí)推斷、因果補(bǔ)全和場(chǎng)景想象。問(wèn)題不在于它有沒(méi)有某種世界模型，而在于：這種世界模型究竟以什么方式與現(xiàn)實(shí)接觸？

對(duì)于人類(lèi)而言，世界首先不是被“描述”出來(lái)的，而是被“感受”到的。

現(xiàn)實(shí)世界的本質(zhì)之一，是它會(huì)給我們真實(shí)的反饋。

而大語(yǔ)言模型的現(xiàn)實(shí)接觸，主要是通過(guò)文本的間接中介實(shí)現(xiàn)的。它接觸到的不是火本身，而是關(guān)于火的無(wú)數(shù)描述；不是法院本身，而是關(guān)于法院的文件、報(bào)道和討論；不是大海的鹽味，而是關(guān)于鹽味的文學(xué)、科學(xué)和日常語(yǔ)句。它通過(guò)別人的敘述來(lái)逼近世界，而不是通過(guò)自己被世界反饋來(lái)校正自己。

這一點(diǎn)非常關(guān)鍵。因?yàn)樗馕吨笳Z(yǔ)言模型的“世界性”帶有一種本質(zhì)上的二階性質(zhì)。它擁有的是被敘述的世界、被記錄的世界、被語(yǔ)言化的世界。

因此，我們必須區(qū)分兩種“知道”：一種是在語(yǔ)言空間中知道，另一種是在現(xiàn)實(shí)摩擦中知道。

九、邊界顯現(xiàn)之處：為什么模型無(wú)法包辦意義，而這恰恰是人的重新開(kāi)始

到這里，我們終于可以把前面的線(xiàn)索收束起來(lái)。

圖靈讓我們看到，語(yǔ)言行為足夠逼真時(shí)，社會(huì)會(huì)開(kāi)始把機(jī)器當(dāng)作某種準(zhǔn)主體來(lái)對(duì)待；塞爾提醒我們，形式操作再完美，也未必自動(dòng)生成真正的理解；概率模型的成功告訴我們，語(yǔ)言?xún)?nèi)部沉積著極其龐大的世界結(jié)構(gòu)；而現(xiàn)實(shí)接觸與第一人稱(chēng)主體的問(wèn)題，則進(jìn)一步揭示：模型即使可以在文本世界中異常強(qiáng)大，仍然可能在經(jīng)驗(yàn)、責(zé)任、主體性與意義的核心處無(wú)能為力。

于是，一個(gè)更深刻的結(jié)論開(kāi)始浮現(xiàn)：大語(yǔ)言模型最根本的邊界，不在于它不能生成某種復(fù)雜的內(nèi)容，而在于它無(wú)法僅憑語(yǔ)言操作，包辦意義的全部來(lái)源。

因?yàn)橐饬x從來(lái)不是單一來(lái)源的。

有一部分意義，來(lái)自語(yǔ)言系統(tǒng)內(nèi)部的差異關(guān)系、文化約定和公共使用；這一部分，模型已經(jīng)越來(lái)越擅長(zhǎng)。

但另一部分意義，來(lái)自體驗(yàn)、身體、行動(dòng)、失敗、承諾、歷史、時(shí)間、共同體與死亡意識(shí)；這一部分，模型至多只能間接逼近。

過(guò)去很長(zhǎng)一段時(shí)間，人類(lèi)之所以把自己理解為理性存在者，往往是通過(guò)語(yǔ)言、知識(shí)和抽象思維來(lái)界定自身的。可現(xiàn)在，當(dāng)大語(yǔ)言模型在這些層面迅速逼近甚至超越許多人時(shí)，我們不得不承認(rèn)：若人類(lèi)仍然只把自己定義為一個(gè)高階語(yǔ)言處理器，那么人類(lèi)對(duì)自身的定義就會(huì)首先被機(jī)器奪走。

因此，人類(lèi)必須重新下降，重新回到那些被現(xiàn)代社會(huì)長(zhǎng)期忽視、卻構(gòu)成人之根基的層面：身體、關(guān)系、倫理、技藝、注意力、判斷力、悲憫、耐心、死亡。

這并不是退步，而是一種重新校準(zhǔn)。

大語(yǔ)言模型能力范圍之外的部分，并不只是技術(shù)尚未征服的空白地帶。那里也許恰恰是AI時(shí)代最值得人類(lèi)重新扎根的地方：在那里，問(wèn)題不再是“我能生成什么”，而是“我愿為之活成什么”；不再是“系統(tǒng)可以創(chuàng)造什么”，而是“我必須親自承擔(dān)什么”；不再是“世界如何被表達(dá)”，而是“在一個(gè)越來(lái)越可表達(dá)的世界里，什么仍然只能由生命本身來(lái)體驗(yàn)和驗(yàn)證”。

而這，也正是后面必須展開(kāi)的主題：
既然模型不能獨(dú)自承擔(dān)意義與價(jià)值，那么在現(xiàn)實(shí)制度中，我們究竟應(yīng)當(dāng)如何區(qū)分回答與判斷，如何區(qū)分輔助與裁決，如何防止一個(gè)會(huì)說(shuō)話(huà)的系統(tǒng)在不知不覺(jué)間篡奪那些本應(yīng)由人來(lái)承擔(dān)的文明權(quán)力？

閱讀最新前沿科技趨勢(shì)報(bào)告，請(qǐng)?jiān)L問(wèn)21世紀(jì)關(guān)鍵技術(shù)研究院的“未來(lái)知識(shí)庫(kù)”

未來(lái)知識(shí)庫(kù)是 “21世紀(jì)關(guān)鍵技術(shù)研究院”建 立的在線(xiàn)知識(shí)庫(kù)平臺(tái)，收藏的資料范圍包括人工智能、腦科學(xué)、互聯(lián)網(wǎng)、超級(jí)智能，數(shù)智大腦、能源、軍事、經(jīng)濟(jì)、人類(lèi)風(fēng)險(xiǎn)等等領(lǐng)域的前沿進(jìn)展與未來(lái)趨勢(shì)。目前擁有超過(guò)8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪(fǎng)問(wèn)https://wx.zsxq.com/group/454854145828進(jìn)入。

截止到2月28日 ”未來(lái)知識(shí)庫(kù)”精選的百部前沿科技趨勢(shì)報(bào)告

（加入未來(lái)知識(shí)庫(kù)，全部資料免費(fèi)閱讀和下載）