北京
新智元報道
編輯：傾傾
【新智元導讀】Anthropic CEO Dario Amodei因警告AI風險被網友比作奧本海默，瞬間引爆爭議。但真正的問題不是他像不像奧本海默，而是所有AI領袖都陷入了同一個死循環：開發前沿技術的人警告風險，怎么做都會被罵。
3月30日，X平臺上一條轉發視頻的評論炸開了鍋。
用戶@malmesburyman轉發了Anthropic CEO Dario Amodei的采訪片段，配文：
你真的能從這家伙身上感受到為什么杜魯門覺得奧本海默那么令人厭惡。
視頻里，Amodei正在重復他那套熟悉的論調：
我們的模型已經非常接近人類智能水平，但社會對即將到來的風險卻缺乏廣泛認識。
這條評論引發兩極分化。支持者認為Amodei一邊開發強AI一邊裝圣人，就像奧本海默造完原子彈后才說「手上沾滿鮮血」;
反對者則認為這個類比根本站不住腳。奧本海默是在原子彈已經殺死數十萬人之后才表達愧疚，而Amodei是在技術尚未造成災難前就警告風險。
但更深層的問題是：為什么所有開發前沿AI的領袖，無論怎么做，都會被質疑動機？
Amodei的困境：堅持紅線，成了供應鏈威脅？
Amodei不是第一次因警告AI風險被罵了。
今年2月，他拒絕了五角大樓提出的「所有合法用途」條款，堅持Anthropic的兩條紅線。
結果，國防部長Pete Hegseth宣布將Anthropic列為「供應鏈安全威脅」，特朗普下令所有聯邦機構在6個月內停用Claude。
這個標簽通常是用來對付外國對手的，用在美國公司身上史無前例。
Amodei在泄露的內部備忘錄中直言，五角大樓和特朗普政府不喜歡Anthropic的真正原因是：
我們沒有給特朗普捐款，我們沒有給特朗普獨裁者式的贊美，我們支持AI監管(這違背了他們的議程)，我們誠實談論了AI政策問題(比如就業替代)，我們真正堅守了紅線而不是與他們勾結上演「安全戲碼」。
一周后，Amodei為這份備忘錄的語氣道歉，稱「這不代表我深思熟慮的觀點"」
你堅持原則，就會被當成敵人。
你警告風險并拒絕配合，就會被質疑是在求權或博取道德高地。
Altman的困境：支持紅線，卻被罵機會主義
如果說Amodei因堅持紅線被打壓，那Altman則告訴我們，即使你支持，也會被罵。
2月28日，就在Anthropic與五角大樓談判破裂幾小時后，Altman宣布OpenAI已與國防部達成協議。
他聲明，OpenAI與Anthropic一樣，禁止大規模監控和全自動武器。
外界炸了，指責OpenAI在關鍵時刻削弱了Anthropic的立場：
如果這些公司真的嚴肅對待安全承諾，他們本應該團結一致對抗五角大樓，而不是讓政府把他們當成市場競爭對手相互利用。
更尷尬的是，OpenAI自己的員工上周剛簽署了公開信支持Anthropic，反對五角大樓。
現在老板轉頭就簽了合同，員工覺得被出賣了。
Altman在周一承認：
我們確實不應該急著在周五把這個協議公布出來。我們真心想緩和局勢避免更糟的結果，但看起來就是機會主義和草率。
但即使OpenAI修改了合同條款，法律專家和觀察者仍然質疑這些限制是否有實質約束力。
而Altman在內部會議上告訴員工，五角大樓明確表示OpenAI「不能參與作戰決策」，公司只能提供技術專長建議，但不能對軍事行動的好壞發表意 。
Hassabis的困境：十年后，世界變了
時間會改變一切，包括你的承諾。
2014年Google收購DeepMind時，Google承諾DeepMind的技術永遠不會被用于軍事或武器目的。
2018年，Hassabis和DeepMind聯合創始人簽署了公開信，呼吁建立「針對致命自主武器的強有力國際規范、法規和法律」。
但到了2025年，Google修改了AI原則，刪除了不開發軍事技術的承諾。
現在DeepMind的技術被捆綁進Google Cloud軟件，賣給包括美國和以色列在內的多國軍方。
TIME貼臉開大：「你是否為了實現AGI的目標而妥協了？」Hassabis的回答是：
我不這么認為。我們最近更新了一些政策，部分是考慮到全球地緣政治的不確定性大幅增加。
不幸的是，世界變得更加危險了。我認為我們不能再理所當然地認為民主價值觀會勝出——這一點根本不清楚。所以我認為我們需要與政府合作。
今年5月，近200名DeepMind員工簽署內部信，呼吁公司放棄軍事合同。
在6月的內部會議上，COO Lila Ibrahim回應說，DeepMind不會設計或部署任何用于武器或大規模監控的AI應用，Google Cloud的客戶受條款約束。
困境無解，但警告不能停
Amodei、Altman、Hassabis，三個人走了三條不同的路，卻都被罵。
堅持紅線？你是在博取道德高地，求監管優勢。
妥協合作？你是偽善，言行不一。
改變立場？你是為了錢出賣靈魂。
當你既是開發者又是安全倡導者，你的每一句警告都會被解讀為「你在為自己的公司謀利」。
這些預測可能是對的，也可能是錯的。
但有一點是確定的。無論Amodei、Altman還是Hassabis，無論他們怎么說、怎么做，都會有人質疑他們的動機。
但或許，比起等災難發生后再說「我早就警告過」，在爭議中繼續警告，仍然是更負責任的選擇。
參考資料：
https://x.com/malmesburyman/status/2038599703336513613
https://x.com/TheChiefNerd/status/2038565951268946021
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
