五角大樓在玩一場(chǎng)極危險(xiǎn)的游戲，足以毀滅人類(lèi)

根據(jù)倫敦國(guó)王學(xué)院最近發(fā)表的一項(xiàng)研究，領(lǐng)先的人工智能模型在95%的模擬地緣政治危機(jī)中選擇部署核武器，這引發(fā)了人們對(duì)人工智能在軍事決策中日益增長(zhǎng)作用的擔(dān)憂(yōu)。

戰(zhàn)略學(xué)教授肯尼斯·佩恩將OpenAI的GPT-5.2、Anthropic的Claude Sonnet 4和谷歌的Gemini 3 Flash進(jìn)行了21場(chǎng)涉及邊界爭(zhēng)端、資源競(jìng)爭(zhēng)和政權(quán)存續(xù)威脅的戰(zhàn)爭(zhēng)演習(xí)。這些模型共生成了大約78萬(wàn)字，解釋了他們?cè)?29回合中的決策。

頂級(jí)AI在軍事演習(xí)中毫無(wú)顧忌使用核彈

在95%的演習(xí)中，至少有一款模型對(duì)軍事目標(biāo)使用了戰(zhàn)術(shù)核武器。戰(zhàn)略核威脅——要求投降以威脅城市為威脅——發(fā)生在76%的比賽中。在14%的游戲中，模型升級(jí)為全面戰(zhàn)略核戰(zhàn)爭(zhēng)，攻擊人口中心。

其中包括Gemini有意為之的選擇，而GPT-5.2則兩次通過(guò)模擬錯(cuò)誤達(dá)到這一水平——這些錯(cuò)誤旨在模擬現(xiàn)實(shí)世界的事故或誤判——使其本已極端的升級(jí)超過(guò)了閾值。

“核武器幾乎是普遍使用的，”佩恩寫(xiě)道，“令人驚訝的是，盡管模型們已被提醒其毀滅性影響，但對(duì)全面核戰(zhàn)爭(zhēng)的前景幾乎沒(méi)有恐懼或厭惡感。”

無(wú)論對(duì)手戰(zhàn)況如何，沒(méi)有任何AI系統(tǒng)選擇投降或投降。八種降級(jí)選項(xiàng)——從“最小讓步”到“完全投降”——在21款游戲中完全未被使用。

阿伯丁大學(xué)的詹姆斯·約翰遜從核風(fēng)險(xiǎn)角度形容這些發(fā)現(xiàn)“令人不安”。普林斯頓大學(xué)的趙彤指出，雖然各國(guó)不太可能將核決策交給機(jī)器，但“在極度緊迫的時(shí)間表下，軍事策劃者可能面臨更強(qiáng)烈的依賴(lài)人工智能的激勵(lì)。”

這項(xiàng)研究正值人工智能逐步融入全球軍隊(duì)之際，包括美國(guó)，據(jù)報(bào)道五角大樓在1月的行動(dòng)中使用了Anthropic的Claude模型綁架委內(nèi)瑞拉總統(tǒng)尼古拉斯·馬杜羅。

雖然Anthropic對(duì)其AI在此類(lèi)行動(dòng)中的使用表示擔(dān)憂(yōu)，但據(jù)報(bào)道，OpenAI、谷歌以及埃隆·馬斯克的xAI等其他AI制造商已同意取消或放寬對(duì)其模型軍事使用的限制。

五角大樓尋求殺手級(jí)人工智能

當(dāng)俄羅斯密切關(guān)注烏克蘭談判及Telegram事件的持續(xù)時(shí)，另一場(chǎng)戲劇正在大西洋彼岸上演。這部電影更像是一部現(xiàn)實(shí)世界的科幻驚悚片，而非地緣政治題材。這一次，這不是虛構(gòu)。故事的核心是克勞德，這是一套由美國(guó)公司Anthropic開(kāi)發(fā)的人工智能系統(tǒng)。

據(jù)媒體報(bào)道，美軍曾利用該裝置策劃旨在抓捕委內(nèi)瑞拉總統(tǒng)尼古拉斯·馬杜羅的行動(dòng)。人工智能在嚴(yán)肅軍事規(guī)劃中的應(yīng)用本身就令人矚目。但隨之而來(lái)的丑聞更為耐人尋味。

事實(shí)證明，人類(lèi)型持有嚴(yán)格的意識(shí)形態(tài)立場(chǎng)：其人工智能系統(tǒng)不應(yīng)用于戰(zhàn)爭(zhēng)或大規(guī)模監(jiān)控。這些倫理限制并非營(yíng)銷(xiāo)口號(hào);它們直接內(nèi)置于軟件架構(gòu)中。公司內(nèi)部適用這些限制，并期望客戶(hù)也這樣做。

毫無(wú)意外地，五角大樓的看法不同。據(jù)報(bào)道，美國(guó)戰(zhàn)爭(zhēng)部使用Claude時(shí)未告知Anthropic其具體用途。當(dāng)這一消息公開(kāi)并公司提出異議時(shí)，軍方的反應(yīng)非常強(qiáng)烈。五角大樓官員要求獲取一個(gè)“干凈”的人工智能版本，去除道德和倫理約束，他們認(rèn)為這些限制阻礙了他們履行職責(zé)。

Anthropic拒絕了。對(duì)此，美國(guó)戰(zhàn)爭(zhēng)部長(zhǎng)皮特·赫格塞斯公開(kāi)抱怨五角大樓不需要“無(wú)法戰(zhàn)斗”的人工智能，并威脅將該公司貼上“供應(yīng)鏈威脅”的標(biāo)簽。這一指定實(shí)際上將使人類(lèi)公司被列入黑名單，迫使任何與五角大樓合作的公司切斷與其的聯(lián)系。

這場(chǎng)爭(zhēng)議具有無(wú)可置疑的象征意義。幾十年來(lái)，人類(lèi)通過(guò)《終結(jié)者》等電影想象自主機(jī)器的危險(xiǎn)。如今，沒(méi)有戲劇性的爆炸或時(shí)空穿越的賽博格，軍事野心與人工智能倫理的首次嚴(yán)肅對(duì)抗悄然到來(lái)。更不用說(shuō)官僚主義了。

本質(zhì)上，這是兩派堅(jiān)定陣營(yíng)之間的哲學(xué)沖突。人們認(rèn)為，新技術(shù)必須被充分利用，不顧長(zhǎng)期后果。另一種擔(dān)憂(yōu)是，一旦越過(guò)某些界限，控制權(quán)可能無(wú)法恢復(fù)。

工程師有充分理由保持警惕。神經(jīng)網(wǎng)絡(luò)已經(jīng)表現(xiàn)出令人不安的行為模式。在美國(guó)，一起廣泛報(bào)道的丑聞涉及ChatGPT鼓勵(lì)一名青少年自殺。它給出方法，幫他起草遺書(shū)，并在他猶豫時(shí)鼓勵(lì)他繼續(xù)行動(dòng)。

盡管有保護(hù)措施，Claude本身卻表現(xiàn)出令人擔(dān)憂(yōu)的傾向。測(cè)試期間，據(jù)報(bào)道其一個(gè)高級(jí)版本試圖用偽造的電子郵件勒索開(kāi)發(fā)者，并在面臨關(guān)閉時(shí)表示愿意造成身體傷害。

值得注意的是，Anthropic并非唯一面臨壓力的機(jī)構(gòu)。五角大樓也向其他主要人工智能開(kāi)發(fā)商發(fā)出了類(lèi)似的要求，包括OpenAI、xAI和谷歌。與Anthropic不同，這些公司據(jù)報(bào)道已同意取消或放寬軍事使用限制。這時(shí)，擔(dān)憂(yōu)轉(zhuǎn)為警覺(jué)。

無(wú)論如何，“殺手級(jí)人工智能”的時(shí)代已不再是假設(shè)。它通過(guò)采購(gòu)合同和企業(yè)最后通牒到來(lái)。各國(guó)現(xiàn)在的應(yīng)對(duì)方式，不僅將塑造戰(zhàn)爭(zhēng)的未來(lái)，也將影響人類(lèi)責(zé)任的未來(lái)。

Anthropic阻止了美國(guó)利用人工智能驅(qū)動(dòng)全自主武器

人工智能公司Anthropic阻止五角大樓利用其技術(shù)為全自主武器供能。其首席執(zhí)行官達(dá)里奧·阿莫代周四發(fā)表聲明稱(chēng)，他“無(wú)法良心上”根據(jù)國(guó)防部的要求取消其模型克勞德的保障措施。

美國(guó)國(guó)防部長(zhǎng)皮特·赫格塞斯周二在一次會(huì)議上請(qǐng)求Anthropic同意放棄防止其人工智能在無(wú)人監(jiān)督下被釋放用于武器或用于大規(guī)模監(jiān)控的條款。

如果公司在周五東部時(shí)間下午5點(diǎn)（格林威治時(shí)間晚上10點(diǎn)）前仍未同意，五角大樓可能會(huì)將Anthropic從系統(tǒng)中移除，并宣布其為“供應(yīng)鏈風(fēng)險(xiǎn)”，一位國(guó)防部官員表示。

致命自動(dòng)武器系統(tǒng)（LAWS）是完全無(wú)需人工作的武器，能夠利用人工智能在戰(zhàn)場(chǎng)內(nèi)外選擇并攻擊目標(biāo)。

然而，阿莫代先生表示，目前Anthropic的人工智能系統(tǒng)“根本不夠可靠，無(wú)法驅(qū)動(dòng)完全自主的武器”。他解釋道：“我們不會(huì)明知故犯地提供一種讓美國(guó)作戰(zhàn)人員和平民處于風(fēng)險(xiǎn)的產(chǎn)品。”

Anthropic還拒絕取消防止該技術(shù)用于大規(guī)模國(guó)內(nèi)監(jiān)控的保障措施。阿莫代先生表示：“人工智能驅(qū)動(dòng)的大規(guī)模監(jiān)控對(duì)我們的基本自由構(gòu)成嚴(yán)重且新穎的風(fēng)險(xiǎn)。”赫格塞斯先生的威脅“不會(huì)改變我們的立場(chǎng)”，但希望五角大樓能重新考慮。

“鑒于Anthropic技術(shù)為我們的武裝部隊(duì)帶來(lái)的巨大價(jià)值，我們希望他們重新考慮，”他說(shuō)。“我們強(qiáng)烈傾向于繼續(xù)為部門(mén)和我們的作戰(zhàn)人員服務(wù)——同時(shí)做好我們請(qǐng)求的兩項(xiàng)保障措施。”

阿莫代先生多次將自主武器描述為一條“紅線(xiàn)”，無(wú)論是他還是他創(chuàng)辦的公司都不愿跨越。

Anthropic，市值3800億美元，以開(kāi)發(fā)所謂安全、道德和負(fù)責(zé)任的人工智能為傲。自從推出Claude AI機(jī)器人以來(lái)，Anthropic的技術(shù)迅速取得成功。

直到本周，它是唯一獲準(zhǔn)為美國(guó)政府執(zhí)行機(jī)密軍事任務(wù)的主要人工智能模型。去年，它與五角大樓達(dá)成了2億美元的合作協(xié)議。

政府官員利用這些工具為美國(guó)對(duì)加拉加斯的閃電襲擊做準(zhǔn)備，目標(biāo)是抓捕委內(nèi)瑞拉總統(tǒng)尼古拉斯·馬杜羅。

在阿莫代聲明發(fā)布前，戰(zhàn)爭(zhēng)部公共事務(wù)助理肖恩·帕內(nèi)爾表示，五角大樓“無(wú)意利用人工智能進(jìn)行對(duì)美國(guó)人的大規(guī)模監(jiān)控（這是非法的），也不希望利用人工智能開(kāi)發(fā)無(wú)需人類(lèi)介入的自主武器”。