當(dāng)AI學(xué)會(huì)扣動(dòng)扳機(jī)，這個(gè)世界準(zhǔn)備好了嗎？

街道上的粉筆涂鴉終會(huì)被雨水和腳步抹去，社交媒體上抵制OpenAI的聲浪也很快會(huì)被新的熱點(diǎn)取代。只是誰(shuí)也不知道，當(dāng)AI學(xué)會(huì)扣動(dòng)扳機(jī)，這個(gè)世界最終會(huì)被帶往何方。

撰文丨周隆斌

美伊沖突不斷升級(jí)，中東地區(qū)再次成為全球矚目的焦點(diǎn)。美國(guó)總統(tǒng)特朗普誓言在伊朗問(wèn)題上將“不惜代價(jià)”，不料后院突然起火。

就在美國(guó)對(duì)伊朗發(fā)動(dòng)襲擊的前一天，美國(guó)國(guó)防部與知名AI初創(chuàng)公司Anthropic的合作正式破裂。隨后，特朗普將Anthropic列為“國(guó)家安全供應(yīng)鏈風(fēng)險(xiǎn)”，全面封殺其在聯(lián)邦政府及軍方的應(yīng)用。

Anthropic的Claude大模型是此前唯一能在五角大樓機(jī)密云環(huán)境中運(yùn)行的AI系統(tǒng)，曾被用于支持美國(guó)在委內(nèi)瑞拉的行動(dòng)。這次雙方撕破臉皮，是因?yàn)槊绹?guó)軍方提出，涉密環(huán)境下，AI模型應(yīng)當(dāng)可用于“所有合法用途”，不得受“政策約束”而限制其在軍事領(lǐng)域的應(yīng)用空間。

然而，Anthropic始終堅(jiān)持兩條紅線：不得用于“對(duì)美國(guó)人進(jìn)行大規(guī)模監(jiān)控”，不得用于“完全自主武器”。

由此，Anthropic成為第一家被列入“國(guó)家安全供應(yīng)鏈風(fēng)險(xiǎn)”管制的美國(guó)公司。美國(guó)政府正在向硅谷科技公司釋放明確信號(hào)，與政府合作只能無(wú)條件服從，否則就要面臨被行政手段打壓的重大風(fēng)險(xiǎn)。

01

特朗普政府對(duì)于AI行業(yè)的監(jiān)管要求，正在由此前拜登政府的“安全第一”全面轉(zhuǎn)向“主導(dǎo)地位第一”。

2025年1月23日，特朗普就曾簽署《消除美國(guó)AI領(lǐng)導(dǎo)力障礙》行政令，核心恰恰在于放松監(jiān)管，促進(jìn)AI創(chuàng)新。行政令由美國(guó)總統(tǒng)單方面簽署，本身不是法律，卻也能夠通過(guò)指導(dǎo)聯(lián)邦機(jī)構(gòu)產(chǎn)生廣泛的實(shí)際影響，所有聯(lián)邦機(jī)構(gòu)都必須審查并廢除與此新政策不符的規(guī)定。

事實(shí)上，在現(xiàn)代戰(zhàn)爭(zhēng)中，AI技術(shù)加持下的殺傷性武器已得到使用。

2月28日，美以襲擊伊朗的“史詩(shī)怒火行動(dòng)”中，首次在實(shí)戰(zhàn)中使用了自殺式無(wú)人機(jī)LUCAS。這種無(wú)人機(jī)具備AI自主飛行控制、GPS信號(hào)失效時(shí)自行導(dǎo)航，以及蜂群協(xié)同能力。相比于造價(jià)昂貴的戰(zhàn)斧導(dǎo)彈，LUCAS單價(jià)在1萬(wàn)美元至5.5萬(wàn)美元之間，不到戰(zhàn)斧導(dǎo)彈的五十分之一。

現(xiàn)階段LUCAS在執(zhí)行目標(biāo)打擊時(shí)，會(huì)將AI篩選后的高價(jià)值目標(biāo)畫面實(shí)時(shí)傳輸?shù)胶蠓降目刂平K端，最終由人類決定是否進(jìn)行攻擊。在AI輔助進(jìn)行目標(biāo)識(shí)別后，操作員的識(shí)別效率得到了極大地提升。

機(jī)器永不疲勞，在面對(duì)大量數(shù)據(jù)處理時(shí)，決策響應(yīng)速度遠(yuǎn)超人類生理極限。僅從執(zhí)行效率的角度來(lái)看，完全由AI操控的無(wú)人機(jī)無(wú)疑是更高效的選擇。

只是，現(xiàn)階段AI技術(shù)存在許多明顯漏洞，一旦完全由AI自主控制的武器系統(tǒng)出現(xiàn)判斷失誤，對(duì)錯(cuò)誤的目標(biāo)進(jìn)行打擊，后果不堪設(shè)想。

Anthropic作為全球頭部AI企業(yè)，對(duì)AI技術(shù)的局限性比美國(guó)軍方應(yīng)有更深刻的認(rèn)識(shí)。因此，哪怕與五角大樓翻臉，Anthropic也要堅(jiān)持為AI在軍事領(lǐng)域的應(yīng)用劃定紅線。

02

Anthropic固然是全球AI行業(yè)內(nèi)的領(lǐng)軍人物，可對(duì)于美國(guó)軍方來(lái)說(shuō)也不過(guò)是優(yōu)選項(xiàng)，并非必選項(xiàng)。美國(guó)其他AI企業(yè)在面對(duì)美國(guó)軍方壓力時(shí)，立場(chǎng)則顯得更為靈活。

五角大樓本次計(jì)劃分別和Anthropic以及馬斯克旗下的xAI展開(kāi)合作，在前者還在因?yàn)锳I的適用范圍與美國(guó)軍方爭(zhēng)的面紅耳赤時(shí)，后者已經(jīng)全盤接受了五角大樓的協(xié)議，讓Grok按“所有合法用途”進(jìn)入涉密體系。

xAI旗下的Grok大模型自誕生之初就走上了一條飽受爭(zhēng)議的差異化競(jìng)爭(zhēng)路線，在技術(shù)層面致力于精簡(jiǎn)傳統(tǒng)的安全護(hù)欄，讓模型更加敢于回答用戶的敏感話題。各家AI大模型時(shí)至今日還都對(duì)色情內(nèi)容嚴(yán)加限制，xAI卻早就大膽上線伴侶模式，以虛擬女友的數(shù)字人身份與用戶暢聊擦邊內(nèi)容。

在第三方機(jī)構(gòu)SaferAI的評(píng)級(jí)中，xAI在5分制的綜合安全評(píng)估中僅獲得0.8分，安全風(fēng)險(xiǎn)評(píng)級(jí)被劃為“非常弱”等級(jí)。

xAI本身的安全限制相對(duì)寬松，近期又被整合進(jìn)SpaceX準(zhǔn)備上市。在這個(gè)關(guān)鍵節(jié)點(diǎn)，選擇對(duì)五角大樓高度配合完全符合商業(yè)邏輯。

在全球AI大模型性能的排行榜上，Grok處于偏后的位置。而常年霸榜的AI領(lǐng)先企業(yè)OpenAI，對(duì)于如何與美國(guó)軍方合作，此刻正在百般糾結(jié)當(dāng)中。

五角大樓與Anthropic的談判破裂后，OpenAI的CEO山姆·奧爾特曼很快在社交媒體上表示，已經(jīng)與美國(guó)國(guó)防部達(dá)成協(xié)議，將替補(bǔ)Anthropic的位置。OpenAI宣稱，該協(xié)議擁有“迄今任何機(jī)密AI部署協(xié)議中最嚴(yán)格的護(hù)欄，包括優(yōu)于Anthropic的條款”。

在OpenAI披露的與美國(guó)軍方簽訂的合同中，OpenAI也和Anthropic類似，為AI的使用劃定了紅線，卻如美軍所愿保留了“在符合適用法律”下使用AI的權(quán)利。奧爾特曼隨后對(duì)OpenAI的員工表示，公司無(wú)權(quán)決定美國(guó)國(guó)防部如何使用其 AI軟件。

事實(shí)上，即便OpenAI與Anthropic站在同一陣營(yíng)，也無(wú)力阻止另一家與美國(guó)軍方交往甚密的AI巨頭——Palantir為五角大樓提供AI技術(shù)支持。

成立于2003年的Palantir，原本就是一家服務(wù)于美國(guó)政府和國(guó)防部門的數(shù)據(jù)分析平臺(tái)，早期還獲得了美國(guó)中央情報(bào)局（CIA）旗下的風(fēng)投機(jī)構(gòu)注資。這樣一家公司，毫無(wú)疑問(wèn)會(huì)堅(jiān)定地與美國(guó)軍方意愿同向而行。

Palantir的CEO亞歷克斯·卡普對(duì)AI操控的武器持開(kāi)放態(tài)度，他曾公開(kāi)表示：“對(duì)AI進(jìn)一步發(fā)展的擔(dān)憂并非毫無(wú)道理。我們正在開(kāi)發(fā)的軟件可以用于部署致命武器。武器系統(tǒng)與日益自主的AI軟件的整合必然會(huì)帶來(lái)風(fēng)險(xiǎn)，但停止開(kāi)發(fā)這些技術(shù)的建議是錯(cuò)誤的。”

03

OpenAI與五角大樓合作后，ChatGPT美國(guó)移動(dòng)端卸載量較前一天增加295%，一星評(píng)分暴增775%。美國(guó)社交媒體中掀起了退訂ChatGPT轉(zhuǎn)而購(gòu)買Claude會(huì)員的浪潮。

人們?cè)贏nthropic舊金山辦公樓街道上，用粉筆涂鴉畫滿愛(ài)心，有人直接寫下“感謝不造天網(wǎng)”的標(biāo)語(yǔ)。

迫于輿論壓力，奧爾特曼不得不在內(nèi)部會(huì)議上承認(rèn)，與五角大樓倉(cāng)促簽約顯得有些機(jī)會(huì)主義且草率。同時(shí)，他也表示：“這是一個(gè)復(fù)雜但正確的決定。”

Anthropic拒絕與五角大樓合作，損失的并非僅僅是這2億美元的國(guó)防合同，還可能就此被排除在所有政府采購(gòu)合同之外。在商業(yè)前景與道德抉擇面前，Anthropic與OpenAI就此分道揚(yáng)鑣。

OpenAI早年曾將“安全”列為公司核心價(jià)值之一，現(xiàn)在這個(gè)詞早已從使命聲明中被悄然抹去，“始終以人類利益為出發(fā)點(diǎn)行事”的口號(hào)顯得無(wú)比諷刺。

AI技術(shù)代表著先進(jìn)生產(chǎn)力的發(fā)展方向，人類文明正在由信息時(shí)代邁向AI時(shí)代。歷史車輪滾滾向前，只是人類自己也看不清前路在哪里。就連掌握著AI核心技術(shù)的硅谷科技公司們，也無(wú)力完全把控技術(shù)的應(yīng)用方向。

物理學(xué)家尼爾斯·玻爾在曾對(duì)原子彈之父奧本海默說(shuō)：“你賦予了人類自我毀滅的力量，而這個(gè)世界卻毫無(wú)準(zhǔn)備。”

內(nèi)燃機(jī)被發(fā)明的那一天，坦克的誕生就只是時(shí)間問(wèn)題。無(wú)人機(jī)LUCAS劃過(guò)天空，AI軍事化的進(jìn)程已經(jīng)勢(shì)不可當(dāng)。

街道上的粉筆涂鴉終會(huì)被雨水和腳步抹去，社交媒體上抵制OpenAI的聲浪也很快會(huì)被新的熱點(diǎn)取代。只是誰(shuí)也不知道，當(dāng)AI學(xué)會(huì)扣動(dòng)扳機(jī)，這個(gè)世界最終會(huì)被帶往何方。

*本文為冰川思想庫(kù)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載，否則追究相關(guān)法律責(zé)任