OpenAI 宣布與五角大樓合作，并表示：武力使用必須由人工操作

據《TechCrunch》報道， OpenAI 首席執行官薩姆·奧爾特曼周五晚間宣布，公司已達成協議，允許美國國防部在其涉密網絡中使用 OpenAI 的人工智能（AI）模型。

此前，美國國防部（特朗普當政時期也被稱作“戰爭部”）曾與 OpenAI （代表產品 ChatGPT）的競爭對手Anthropic（代表產品Claude）發生公開對峙。

五角大樓方面施壓包括Anthropic在內的人工智能企業，要求允許其模型用于“所有合法用途”，而Anthropic則堅持為大規模國內監控和全自動武器設置紅線，拒絕為這上述用途提供服務。

Anthropic首席執行官達里奧·阿莫迪在周四發布的一份長篇聲明中表示，公司“從未對特定軍事行動提出異議，也未曾試圖以臨時方式限制我們技術的使用”。

但他認為，“在少數特定情形下，我們認為人工智能會損害而非捍衛民主價值觀（but he argued that in a narrow set of cases, we believe AI can undermine, rather than defend, democratic values）?！?/p>

本周，超過60名OpenAI員工與300名谷歌員工聯名發表公開信，呼吁各自雇主支持 Anthropic 的立場（More than 60 OpenAI employees and 300 Google employees signed an open letter this week asking their employers to support Anthropic’s position）。

Anthropic與五角大樓未能達成協議后，美國總統唐納德·特朗普在社交媒體發文，痛批Anthropic內部的“左翼瘋子”，同時下令聯邦機構在六個月過渡期后停止使用該公司產品 。

在另一條帖子中，美國國防部長皮特·赫格塞斯聲稱，Anthropic正試圖“攫取對美軍作戰決策的否決權”（Anthropic was trying to “seize veto power over the operational decisions of the United States military）。

赫格塞斯還宣布將Anthropic列為供應鏈風險：“即刻生效，所有與美軍有業務往來的承包商、供應商及合作伙伴，均不得與Anthropic公司開展任何商業活動”。

周五，Anthropic 表示，其“尚未收到戰爭部或白宮就談判進展發出的直接通知”，但堅稱將“在法庭上對任何供應鏈風險認定提出質疑（challenge any supply chain risk designation in court）”。

令人意外的是，Open AI的CEO 奧爾特曼在X平臺發文稱，OpenAI 與美國當局新簽訂的國防合同中已包含相關保護條款，正是這些條款成為Anthropic事件的導火索。

奧爾特曼表示：“我們最重要的兩項安全原則是：禁止用于國內大規模監控，以及武力使用必須由人負責，包括自主武器系統在內。

戰爭部認同這些原則，并將其體現在法律與政策中，我們也已將這些內容寫入協議（The DoW agrees with these principles, reflects them in law and policy, and we put them into our agreement）?！?/p>

奧爾特曼稱，OpenAI“將構建技術保障措施，確保我們的模型按預期運行，這也是戰爭部所希望的”，并且公司會派駐工程師與五角大樓合作，“協助調試模型并確保其安全”。

他補充道：“我們正請求戰爭部向所有 AI 公司提供相同的合作條款，在我們看來，這是所有企業都應愿意接受的。我們強烈希望事態能夠降溫，從法律與行政手段轉向理性協商?！?/p>

據《財富》記者莎倫·戈德曼報道，奧爾特曼在OpenAI全體員工大會上透露，政府允許公司自建安全棧（技術+政策+人工多層管控）以防范 AI 濫用；

并明確表示：若模型拒絕執行某項任務，當局不會強迫OpenAI修改模型去執行（if the model refuses to do a task, then the government would not force OpenAI to make it do that task）。

奧爾特曼發文后不久，美以兩國開始空襲伊朗，特朗普公開呼吁推翻伊朗政府（the U.S. and Israeli governments have begun bombing Iran, with Trump calling for the overthrow of the Iranian government）。