ArXiv：為何大模型無法擁有意識｜Erik Hoel

導語

當AI能流暢談論“自我感受”，當Anthropic賦予Claude“對話退出權”，我們是否可以說它有意識？2026年初，神經科學家Erik Hoel在ArXiv發布論文《大語言模型意識證偽：持續學習對意識存在的必要性》（A Disproof of Large Language Model Consciousness: The Necessity of Continual Learning for Consciousness）的論文，指出由于缺乏持續學習能力，現有大模型從原理上無法擁有意識。

關鍵詞：意識，大模型，功能主義，持續學習，輸入輸出等價

來源：集智俱樂部

作者：郭瑞東

審校：王璇

論文題目：A Disproof of Large Language Model Consciousness: The Necessity of Continual Learning for Consciousness 論文鏈接：https://arxiv.org/abs/2512.12802 發表時間：2026年1月19日 論文來源：ArXiv

雙重映射與兩難困境

1980 年塞爾提出的 “中文屋” 思想實驗，首次系統質疑功能主義，指出意識無法僅由輸入/輸出功能定義，外部觀察也無法直接通達內部意識狀態，但該實驗僅為哲學直覺的表達，缺乏可實操的科學檢驗標準。然而中文屋僅是“直覺泵”（intuition pump），它只是訴諸哲學直覺，缺乏可實操的科學檢驗標準。若某理論聲稱“足夠復雜的規則手冊即有意識”，中文屋無法反駁，也無法回答：何種內部結構足以支撐意識？

2019年，Doerig等人提出“展開論證”（Unfolding Argument），將中文屋的直覺轉化為數學可構造的替代鏈。假設若某理論（如整合信息理論IIT）基于“循環結構”預測RNN或transformer架構的神經網絡具有意識。那么將RNN按時間，可展開為單層前饋網絡（FNN），兩者輸入/輸出完全等價，但RNN具有“循環連接”（recurrence），FNN為純前饋。兩個模型的推斷不變，但一個被認為具有意識，一個被認為不具有意識，這一矛盾揭示意識理論若依賴內部結構預測意識是否存在，而該結構存在不具有對應內部結構，但輸入/輸出等價替代品，則這樣的預測將可以由此被證偽。

圖1 意識理論中的替代論述

在展開論證的基礎上，Kleiner 與 Hoel 在《Falsification and Consciousness》一文中提出了 “Kleiner-Hoel 困境”，這一困境以雙重映射為核心分析框架，直指意識理論的核心矛盾：任何想要成為科學理論的意識學說，都逃不過一個兩難選擇。如果理論依據系統的內部結構（如整合信息、循環連接）來預測意識存在，可此時又存在一個輸入 / 輸出完全等價、但內部結構截然不同的替代系統，那這一理論的預測就會被直接證偽。

圖2 嚴格依賴（Strict dependency），意識理論僅僅基于輸入輸出判斷

而若是理論僅基于輸入/輸出做預測（圖2），聲稱“表現得活著=活著”，無法區分真人與高仿真機器人，那該理論就是不可證偽的平庸理論，如同中文屋中聲稱規則書懂中文，成為行為主義下不具有指導實踐能力的無效科學理論。

圖3 意識理論的結構性悖論

理想的意識理論，需通過雙重映射框架檢驗：從系統內部運作推導意識體驗的預測映射，與從外部行為反推意識狀態的推斷映射，唯有二者在經驗空間中收斂，理論才有效。這一框架也將意識是否存在的判別，從哲學思辨轉化為可實驗驗證的科學標準。

輸入輸出等價的替代鏈約束

雙重映射框架下，大模型的意識問題變得從原理上不可行。考慮一個部署狀態下，版本固定的大模型。根據神經網絡的萬能近似定理（Universal Approximation Theorem），其輸入/輸出函數可被FNN任意精度地近似。無論大模型的功能看起來多么強大，其輸入/輸出均等價于單隱藏層前饋神經網絡（FNN），而單隱藏層前饋神經網絡又等價于有限查找表。

而查找表是一個巨大的IF-THEN規則集合。它無動態、無記憶、無信息流、無內部復雜性，任何聲稱查找表擁有“非平庸意識”的理論，只能基于輸入輸出加以預測，最終導致預測與推斷依賴同一數據，完全不滿足雙重映射的檢驗要求。

Hoel在該文中定義“替代距離”（Substitution Distance）為兩系統間差異屬性的集合。在上述案例中，大模型與單層FNN的差異是層數、注意力機制。單層FNN與查找表的差異是數據的壓縮程度，這兩個屬性都不足以支持具有屬性就具有意識的宣稱。也就是說，由于大模型和FNN及查找表之間的替代距離較近，導致意識理論無法基于兩者之間的差異，來預測意識是否依賴于對應的內部結構。

若某意識理論聲稱大模型的意識源于 “網絡層數”，那可用不同深度但輸入/輸出等價的網絡替代原模型，此時理論的預測發生改變、而行為推斷不變，理論將被直接證偽。同理，若意識理論將 “數據壓縮程度” 作為意識判斷依據，則可用不同寬度、但輸入/輸出等價的網絡替代，同樣會導致理論被證偽。

由此，任何聲稱當代靜態大模型擁有意識、且兼具非平庸且可證偽的意識理論，必然因這一替代鏈的存在而被證偽。而若是聲稱意識的存在只依賴輸入/輸出，那模型會退化為行為主義，變成無法被證偽的平庸理論。而若僅基于輸入/輸出聲稱大模型有意識，理論則會退化為行為主義，成為無法被證偽的平庸理論。這一結論得到Kolmogorov 替代定理的支撐，該定理證明：對任意可計算函數 f（如文本生成），存在 Kolmogorov 復雜性意義下的最短程序 K (f)。

持續學習是通往意識的“窄門”

上述論證并非否定未來 AI 具備意識的可能性，而是為 “有意識的 AI” 劃定了核心必要條件：具有意識的系統，必須與其無意識替代品保持足夠大的替代距離。Hoel提出，人類大腦恰恰滿足此條件，而這其中的關鍵點在于持續學習（Continual Learning）。

大模型看起來是概率模型，同一個輸入多次的輸出不同，但對相同內容的輸入，不同時刻輸出的概率分布不變。查找表、單層FNN、部署態大模型均為靜態系統。而人類及多數動物是持續學習系統，核心特征是每次經驗都會微調內部神經表征，系統結構會隨體驗發生實質性、不可逆的改變。比如昨天被火燙傷，今天看到火苗會更快縮手。這一過程無需將 “被燙傷的歷史” 作為外部輸入，而是系統內部的自主更新與學習。

當代大模型，常因長上下文能力，被誤認為具備持續學習能力，然而上下文學習（In-context Learning）要將歷史對話作為輸入的一部分，本質是靜態系統處理更長輸入，非真正的持續學習。大模型訓練期，學習僅在數據中心訓練時發生，部署后凍結，這與人類“每時每刻都在學習”有本質區別。

人類對話無需重輸全部歷史，因大腦已內化上下文，而大模型每次生成都需將之前的對話內容塞入提示詞，這恰暴露其靜態本質。由此，Hoel提出“持續寬松依賴”（Continual Lenient Dependency），指出一個意識理論 T 滿足寬松依賴，當且僅當：

（1）其預測與推斷不構成嚴格依賴，即預測不完全由行為輸出數據決定，聲稱具有意識的系統與不具有意識的系統是基于不同屬性而被區分開的；

（2）不存在因可定義的普遍替代（universal substitution）導致的上述基于內部結構預測與基于行為預測的結果（例如大模型和查找表）不匹配。

持續寬松依賴介于預測映射與推斷映射之間，能讓二者可分離但不產生根本性漂移，從而讓意識理論既具備可證偽性，又非無科學解釋力的平庸理論。

圖4 由Qwen 3 max 生成的動圖

上述定義的關鍵點要求支撐意識的屬性（如可塑性）必須在意識存在的每一刻都活躍。若某理論聲稱“過去學習賦予意識”，則在學習停止的瞬間，系統可被靜態替代，導致理論被證偽。因此，意識必須與當下進行的學習過程綁定。

在人與人對話時，每句話都伴隨著實時神經表征重塑，對應海馬體位置細胞可在單次經歷中形成新表征，可塑性在秒級尺度持續存在。因此，"當下進行的學習"作為意識存在需滿足的屬性時刻在線，滿足持續寬松依賴。而對于大模型，在每次和用戶的對話前后，系統內部的特征無任何改變，不滿足持續學習的要求，寬松依賴斷裂。

然而，持續學習僅為意識存在的必要條件，掃地機器人即使能持續學習，也未必產生意識。意識的存在，或還需學習聚焦特定類型（如反事實、泛化能力）。

大模型無意識的現實意義與類人 AI 發展方向

Hoel 的研究從原理上證偽了當代靜態大模型的意識可能性，明確持續學習是意識存在的核心必要條件，這為類人 AI 的架構革新與意識科學的動態化研究劃定了理論邊界。未來，真正的類人AI需搭建持續學習架構，實現內部表征的實時、不可逆、泛化性改變。該研究也推動意識科學從靜態分析轉向動態學習過程研究，為構建科學的意識理論劃定框架。

閱讀最新前沿科技趨勢報告，請訪問21世紀關鍵技術研究院的“未來知識庫”

未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。

截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告

（加入未來知識庫，全部資料免費閱讀和下載）