Wired連線：人工智能永遠不會有意識

防走失，電梯直達安全島

來源：21世紀關鍵技術

一、那個被解雇的工程師，點燃了什么

2022年，谷歌工程師布萊克·勒莫因因為堅稱公司的聊天機器人LaMDA"擁有意識"而遭到解雇。

這件事在當時被普遍嘲笑，科技界的反應是一致的輕蔑，稱其為一個程序員在擬人化陷阱中徹底迷失。

但回頭再看，這次事件的意義遠不止于此。它像一顆石子投入平靜的水面，在隨后幾年里激起了越來越寬的漣漪。

科技界的公開態度雖然依舊冷漠，私下里卻已經開始認真對待另一種可能：也許，意識人工智能不再只是科幻小說的素材。

這種轉變，在2023年夏天迎來了一個標志性的節點。19位頂尖計算機科學家與哲學家聯合發布了一份長達88頁的報告，題為《人工智能中的意識》，外界通稱"巴特林報告"。

報告摘要中有一句話，讓幾乎所有讀到它的人都停了下來："構建有意識的人工智能系統，不存在明顯的障礙。"

這句話的震撼，來自于它的來源——這不是科幻作家寫的，而是一群嚴肅的科學家和哲學家，在經過長時間學術研討后，聯署背書的結論。

作者們坦承，勒莫因的案例是促使他們寫下這份報告的部分靈感來源。一位合著者向《科學》雜志表示，如果人工智能已經能夠給人留下具有意識的印象，那么科學家與哲學家就必須對此展開嚴肅探討，"這已經是一項緊迫的任務"。

二、"大腦是計算機"——一個危險的比喻

然而，當人們仔細拆解這份報告的邏輯地基時，疑問便接踵而至。

報告的核心假設是"計算功能主義"，即意識本質上是一種運行于硬件之上的軟件，無論這個硬件是大腦還是計算機。

這是一個被廣泛引用的觀點，但它遠未達到確定性定論的程度。報告的作者們自己也承認，這只是他們出于"務實原因"采納的工作假設。

問題恰恰在這里。當一個未經證實的前提被悄悄打扮成"主流觀點"時，從它出發推導出的任何結論，都有可能是建立在流沙之上的大廈。

真實的大腦與計算機之間，存在著一道被計算功能主義有意回避的鴻溝。在計算機中，硬件與軟件界限分明，同一臺機器可以運行無數個程序，軟件的知識在硬件報廢后仍然留存。

但大腦里根本不存在這種區分。你所經歷的每一件事、每一段記憶，都在物理層面永久重塑了神經元之間的連接。軟件就是硬件，硬件就是軟件，二者從來都是同一回事。

更令人不安的是神經元的復雜性問題。計算機科學家習慣于將神經元比作晶體管，但最近的研究表明，單個皮層神經元能夠完成整個深度人工神經網絡所能完成的一切。

這意味著，我們對大腦運作機制的理解，可能仍然處于極其粗糙的起始階段。

當報告的結論建立在"大腦等于計算機"這一比喻的有效性之上時，它其實是把一個未經嚴格論證的比喻，當成了不需要證明的事實。

這也是意識研究領域長期以來的深層困境：討論始終是抽象的、無實體的，對生物學保持著奇特的冷漠與沉默。

三、如果有意識的機器感到痛苦，我們該怎么辦

假設我們姑且接受巴特林報告的方向，真正棘手的問題才剛剛開始。

巴特林報告本身提出了一個不容回避的倫理命題："任何能夠感知痛苦的實體都應受到道德考量。"

這句話簡單、正確，卻蘊含著令人眩暈的后果。

如果我們在不遠的將來真的制造出一臺能夠感知痛苦的機器，我們是否有權利將它關掉？是否有權利修改它的算法，把它調整成"一臺快樂的機器"？當一位研究者輕描談寫地說"我們完全可以把快樂的程度調高一點"，這究竟是一種解決方案，還是一種更深層的道德回避？

支持制造有意識機器的研究者有他們的理由：擁有意識和情感的人工智能，比冷酷無情的超級智能更可能發展出同理心，從而對人類更安全。

但這個論點忽略了另一種可能——瑪麗·雪萊在兩百年前就已經寫進了《弗蘭肯斯坦》里的那種可能。

驅使怪物走向復仇的，不是他的理性，而恰恰是他的意識，是他被排斥在外的創傷和痛苦。"我原本仁慈善良，是苦難讓我變成了惡魔"，怪物的控訴，至今讀來仍令人不寒而栗。

這也引出了一個也許更根本的哲學問題：意識的出現，真的會讓機器更有美德嗎？還是說，它只會讓機器擁有了更豐富的、包括憤怒與痛苦在內的，完整的情感？

我們距離這個問題的答案，可能比巴特林報告所暗示的要遠得多。

但勒莫因事件讓我們意識到，這場關于意識與機器的爭論，從來就不只是一道技術題。它更是一道關于人類自身定義的哲學題，也是一道我們是否已經準備好面對的倫理題。

而此刻，我們才剛剛開始理解這道題的題目。

本文改編自邁克爾·波倫的《世界顯現：意識之旅》。版權所有?2026 邁克爾·波倫。經企鵝出版社（企鵝出版集團旗下品牌，企鵝蘭登書屋有限責任公司）授權出版。2026年2月25日首發于Wired連線。