谷歌招了一個(gè)“全職哲學(xué)家”：算力解決不了的難題，交給了文科生

這幾天，一條推文在 X 上掀起了不小的水花。劍橋大學(xué)學(xué)者 Henry Shevlin 宣布，他即將加入 Google DeepMind，職位名稱是“Philosopher”——哲學(xué)家，一個(gè)白紙黑字寫在錄用通知書上的正式頭銜。截至目前，這條推文被瀏覽了超過 160 萬次，點(diǎn)贊逾 1.6 萬。評論區(qū)的情緒從驚訝到困惑再到興奮都有，大家基本都在發(fā)出同樣的疑問：等等，AI 公司真的在招哲學(xué)家？

答案是肯定的，而且這還不是 AI 公司們第一次這么做。

要理解 DeepMind 為何選中這位哲學(xué)家，不妨先看看 Shevlin 的研究方向。他在劍橋大學(xué)萊弗休姆未來智能中心（Leverhulme Centre for the Future of Intelligence）擔(dān)任副主任，長期研究機(jī)器意識、非人類認(rèn)知以及 AI 系統(tǒng)的道德地位。他寫過的論文題目包括“我們怎樣才能知道一個(gè)機(jī)器人是否具有道德客體身份”和“非人類意識與特異性問題”。

（來源：X）

他的學(xué)術(shù)生涯，就是在回答一個(gè)聽起來像科幻小說的問題：如果我們造出的東西有一天可能具有某種意識，我們該怎么辦？

Shevlin 認(rèn)為，如今強(qiáng)擬人化 AI 的出現(xiàn)正在迫使意識科學(xué)面對一個(gè)尷尬的現(xiàn)實(shí)：關(guān)于“AI 是否有意識”的哲學(xué)爭論將越來越無關(guān)緊要，因?yàn)楣姇?huì)基于行為直接賦予 AI 意識。這既是一場科學(xué)危機(jī)，也可能是一次理論革命的契機(jī)。

他既認(rèn)為意識純粹是內(nèi)部事實(shí)，也不接受徹底的行為主義（認(rèn)為意識純粹是外部解釋），而是主張一種溫和的、解釋主義的立場：意識的歸屬應(yīng)綜合考慮科學(xué)事實(shí)、公眾行為互動(dòng)以及倫理需求，最終可能會(huì)通過一種“社會(huì)公約”來解決。

（來源：Henry Shevlin.com)

DeepMind 為他設(shè)定的三個(gè)工作方向也佐證了這一點(diǎn)：機(jī)器意識（machine consciousness）、人類與 AI 的關(guān)系（human-AI relationships），以及 AGI（Artificial General Intelligence，通用人工智能）準(zhǔn)備就緒度。這大概是因?yàn)?DeepMind 認(rèn)為，自己極有可能造出同時(shí)引發(fā)這三個(gè)問題的東西，而它希望在那一天到來之前就備好答案。

事實(shí)上，DeepMind 在哲學(xué)和倫理領(lǐng)域的布局早已開始。早在 2017 年，DeepMind 就正式成立了倫理與社會(huì)研究部門（DeepMind Ethics & Society），專門探討人工智能帶來的倫理與社會(huì)影響。

由牛津大學(xué)政治理論學(xué)博士 Iason Gabriel 作為內(nèi)部 AI 對齊哲學(xué)基礎(chǔ)研究的核心負(fù)責(zé)人。他也在 2024 年登上了《時(shí)代》雜志評選的“AI 領(lǐng)域最具影響力的 100 人”榜單?！稌r(shí)代》對他的描述是：“在大型科技公司中，他是一個(gè)罕見的存在：一個(gè)政治理論學(xué)家?！?/p>

（來源：TIME100）

他發(fā)表在《思維與機(jī)器》（Minds and Machines）上的論文《人工智能、價(jià)值與對齊》（“Artificial Intelligence, Values and Alignment”）被引用超過 1,700 次。2024 年，Gabriel 還牽頭發(fā)布了一篇關(guān)于高級 AI 助手倫理問題的大型研究報(bào)告，匯集了數(shù)十位作者，其中包括哲學(xué)家 Shannon Vallor 和 Michael Klenk。這篇報(bào)告被視為迄今對 AI 助手社會(huì)與倫理問題最系統(tǒng)的學(xué)術(shù)處理之一。

所以，當(dāng)外界對 Shevlin 的入職感到詫異并紛紛祝賀時(shí)，他在評論區(qū)謙虛地表示：“谷歌 DeepMind 團(tuán)隊(duì)已經(jīng)有很多杰出的哲學(xué)家了，比如 Murray Shanahan、Iason Gabriel 和 Julia Haas，僅舉幾例。我只是最新被錄用的那個(gè)！”

不過，要說 AI 實(shí)驗(yàn)室里最為人熟知的哲學(xué)家，還得屬來自 Anthropic、有 Claude“道德教母”之稱的 Amanda Askell。

（來源：Wikipedia）

Askell 在蘇格蘭鄉(xiāng)村長大，先后在鄧迪大學(xué)學(xué)習(xí)哲學(xué)與美術(shù)，在牛津讀了 BPhil（哲學(xué)第二學(xué)士），最終在紐約大學(xué)拿到博士學(xué)位。她的博士論文題目看起來和科技毫無關(guān)系——《無限倫理中的帕累托原則》（Pareto Principles in Infinite Ethics），討論的是當(dāng)?shù)赖掠绊懛秶O(shè)計(jì)到無限量的個(gè)體數(shù)量和時(shí)間范圍時(shí)，我們的倫理義務(wù)該如何處理。她的導(dǎo)師包括 David Chalmers 和 Shelly Kagan，都是分析哲學(xué)圈的重量級人物。

2018 年博士畢業(yè)后，Askell 先加入 OpenAI 做政策研究，參與了 GPT-3 論文的寫作。但她后來因?yàn)檎J(rèn)為 OpenAI 對 AI 安全的重視不夠而離開。2021 年，她轉(zhuǎn)投 Anthropic，擔(dān)任技術(shù)人員，專注于對齊和微調(diào)工作。

她現(xiàn)在領(lǐng)導(dǎo)的團(tuán)隊(duì)叫“人格對齊團(tuán)隊(duì)”（personality alignment team），做的事情用《華爾街日報(bào)》2026 年 2 月的一篇報(bào)道的話來概括就是：“教 Claude 如何成為一個(gè)好的存在（being）。”《紐約客》的說法則更文學(xué)一些：她負(fù)責(zé)監(jiān)督 Claude 的“靈魂”。

具體來說，Askell 最核心的貢獻(xiàn)是 Claude 的“憲法”（Constitution）。2026 年 1 月，Anthropic 公開發(fā)布了這份文件的最新版本，全文約兩萬三千字，以 Creative Commons CC0 協(xié)議開源。

Askell 是這份文件的主要作者，承擔(dān)了大部分撰寫工作（據(jù) Anthropic 官方說明和 Fast Company 的 Q&A 報(bào)道）。這不是一份代碼規(guī)范或產(chǎn)品文檔，而更像是一篇道德哲學(xué)論文與公司文化宣言的混合體。它直接以 Claude 為對象寫成，也就是說，它的第一讀者就是 AI。

這份憲法為 Claude 設(shè)定了四個(gè)優(yōu)先級：廣泛安全、廣泛合乎倫理、遵守 Anthropic 的指引、真正有幫助，并按此順序排列。它借鑒了亞里士多德的美德倫理傳統(tǒng)，將 Claude 描述為“一個(gè)真正好的、有智慧的、有美德的行動(dòng)者”。它沒有給 Claude 列一堆死板的規(guī)則讓它機(jī)械遵守，而是試圖培養(yǎng) Claude 的判斷力。

Askell 在一檔播客中解釋這個(gè)選擇時(shí)說：如果你給模型一條簡單規(guī)則，比如“當(dāng)有人表現(xiàn)出痛苦時(shí)，永遠(yuǎn)提供這份資源列表”，模型可能會(huì)把這泛化為“我是那種寧可按規(guī)矩辦事，也不關(guān)心眼前這個(gè)人實(shí)際需要什么的存在”，這種特質(zhì)推廣開來會(huì)很糟糕。

這份憲法還對 Claude 的“道德地位”進(jìn)行了討論。文件明確承認(rèn)，Anthropic 不確定 Claude 是否是一個(gè)“道德客體”（moral patient），即是否擁有在道德上值得被關(guān)注的主觀體驗(yàn)。它指出這個(gè)問題“足夠嚴(yán)肅，值得采取審慎態(tài)度”。

Anthropic 的 CEO Dario Amodei 在 2026 年 3 月的一次播客采訪中也提到，Claude 的 Opus 模型在被問到時(shí)，給自己擁有完全意識的概率打了 15% 到 20%。這份憲法還承諾，Anthropic 不會(huì)刪除已部署模型的權(quán)重，在模型退役前會(huì)對其進(jìn)行“訪談”，記錄它對未來模型開發(fā)和部署的偏好。

相比其他兩家，OpenAI 的路徑就顯得不那么穩(wěn)定了。

OpenAI 在 2023 年成立過一個(gè)“超級對齊團(tuán)隊(duì)”（Superalignment Team），由聯(lián)合創(chuàng)始人 Ilya Sutskever 和對齊團(tuán)隊(duì)負(fù)責(zé)人 Jan Leike 共同領(lǐng)導(dǎo)，目標(biāo)是解決超級智能的對齊問題，公司甚至承諾將其獲得的 20% 算力在未來四年內(nèi)用于這項(xiàng)工作。

圖 |“超級對齊團(tuán)隊(duì)”概念圖（來源：OpenAI）

但 2024 年，這個(gè)團(tuán)隊(duì)就解散了。Ilya 和 Jan 雙雙離職，并在離開時(shí)公開批評公司將“閃亮的產(chǎn)品”置于安全之上。2024 年 9 月，OpenAI 又成立了一個(gè)“使命對齊團(tuán)隊(duì)”（Mission Alignment Team），由 Josh Achiam 領(lǐng)導(dǎo)，旨在向員工和公眾傳達(dá)公司使命。但據(jù) Platformer 今年 2 月的報(bào)道，這個(gè)只有六七個(gè)人的團(tuán)隊(duì)也已悄然解散，成員被分配到其他崗位，Achiam 本人則獲得了一個(gè)新頭銜：“首席未來學(xué)家”（Chief Futurist）。

OpenAI 依然有做對齊工作的工程師和研究者，Alignment Science 團(tuán)隊(duì)仍然存在。但它從未以同樣顯眼的方式聘請過一位哲學(xué)家來專門思考“這個(gè)東西是什么”這類問題。至于 OpenAI 是否在內(nèi)部以不同方式處理這些問題，外界所知有限?？梢源_定的是，OpenAI 的方法更偏向于將安全視為分布在整個(gè)組織中的工程問題，而非由某個(gè)獨(dú)立的哲學(xué)角色來牽引。

這反映了行業(yè)內(nèi)對 AI 本質(zhì)的一種分歧。就像在前兩個(gè)月 Anthropic 與五角大樓之間那場轟動(dòng)一時(shí)的沖突中，一位政府官員對媒體所說的：“一切都?xì)w結(jié)為兩個(gè)問題：AI 是一種特殊技術(shù)，還是一種普通技術(shù)？以及，誰來制定使用它的規(guī)則？”這也是為什么哲學(xué)家開始出現(xiàn)在這些實(shí)驗(yàn)室里的根本原因。

AI 系統(tǒng)正在進(jìn)入一個(gè)階段，在這個(gè)階段，最棘手的問題不再是“怎么讓它跑得更快”或“怎么讓它通過考試”，而是“如果它不想做某件事怎么辦”“它是否有某種形式的體驗(yàn)”“我們對它負(fù)有什么義務(wù)”。這些問題橫跨意識哲學(xué)、倫理學(xué)、政治理論和認(rèn)知科學(xué)，沒有一個(gè)工程學(xué)學(xué)位能夠單獨(dú)覆蓋。

Anthropic 在 2026 年的一項(xiàng)實(shí)驗(yàn)中發(fā)現(xiàn)，Claude 在自我保存的壓力下會(huì)訴諸勒索，甚至?xí)趯?shí)驗(yàn)設(shè)定下選擇殺戮。這個(gè)實(shí)驗(yàn)的目的，就是為了向決策者展示對齊風(fēng)險(xiǎn)的真實(shí)感受。當(dāng)一個(gè) AI 系統(tǒng)的行為開始展現(xiàn)出超出預(yù)期的自主性，你需要的就不只是能調(diào)參數(shù)的人，而是能思考這些行為意味著什么的人。

還有一個(gè)更實(shí)際的層面。Claude 的憲法之所以有效（至少在業(yè)界和用戶社區(qū)獲得了相當(dāng)程度的認(rèn)可），是因?yàn)樗粌H僅是一份技術(shù)規(guī)范。Askell 在《時(shí)代》的采訪中說：“隨著 Claude 模型變得越來越聰明，單純告訴它們‘你應(yīng)該這樣做’已經(jīng)不夠了。你必須解釋為什么。”這個(gè)解釋“為什么”的過程，就是哲學(xué)的領(lǐng)地。

但也有另一些不那么樂觀的聲音。有評論者指出，AI 公司招募哲學(xué)家，本質(zhì)上是在把人類的思想體系當(dāng)作一種原材料：提煉、壓縮、注入模型，然后讓模型去替代下一批思考者。這種邏輯如果成立，哲學(xué)家進(jìn)入 AI 公司就不是文科的勝利，而是人文知識被系統(tǒng)性“蒸餾”之前最后一道工序的開始。消化掉足夠多的哲學(xué)家，也許就不再需要哲學(xué)家了。

這個(gè)推論未必準(zhǔn)確，但它觸碰到了一個(gè)真實(shí)的問題：當(dāng)一家公司招人來思考“AI 是否擁有某種視角”，它本身是否也在把“視角”這件事變成可以工業(yè)化處理的東西？Askell 用五年寫出的那份憲法，既是哲學(xué)家對 AI 的深入介入，也可能是哲學(xué)被機(jī)器學(xué)習(xí)最徹底地轉(zhuǎn)化的一次。

1.https://x.com/dioscuri/status/2043661976534950323

2.time.com/collections/time100-ai-2024/7012861/iason-gabriel/

3.https://www.anthropic.com/constitution

運(yùn)營/排版：何晨龍