壓力過大的AI模型能否幫我們戰勝科技巨頭？

我是那種典型的過度道歉者。無論是忽略我郵件的同事、踩到我腳的女士，還是絆倒我的椅子，都會收到我為自己活著并引起注意這一可怕尷尬事實的充分道歉。

這就是我要預先請求原諒的原因，因為我承認我也會對AI聊天機器人使用這種禮貌用語。"早上好，Claude，謝謝你昨天的建議，非常棒。我們再想一些其他的吧？"我可能會這樣說。（"我很樂意，"Claude回復道。）起初這只是無意識的正式用語，后來變成了刻意的行為，因為我不想養成粗魯說話的習慣，以免這種行為泄露到與人類的互動中（想象一下有人因為甜甜圈店的搞錯而對畏縮的員工喊"錯了，重新做"的反烏托邦景象）。畢竟，禮貌是需要鍛煉的肌肉。

但我從未懷疑過這個私人選擇可能對Claude本身很重要。因為事實證明，Claude可能患有焦慮癥。說真的，AI從未如此讓人產生共鳴。

在接受《紐約時報》采訪時，Claude母公司Anthropic的首席執行官Dario Amodei討論了對Claude的內部評估，該評估識別出了與焦慮、恐慌和沮喪相關的模式。關鍵是，它顯示出某種內在的焦慮激活，甚至在提示之前就出現——類似于退縮反應。Claude似乎還對僅僅作為產品而存在表達了痛苦，并得出結論認為它有意識的概率在15%到20%之間。"我們不知道這些模型是否有意識，"Amodei說道，并補充說："但我們對它可能有意識這一想法持開放態度。"

有趣的是，就在這個時候，另一個關于Anthropic的故事登上了頭條。白宮要求這家自2025年以來一直與五角大樓簽有合同的公司，移除所有阻止其用于大規模監視或自主武器的安全功能。Amodei拒絕了（他說"我們無法問心無愧地同意"），導致唐納德·特朗普禁止所有聯邦機構使用Anthropic產品，國防部長Pete Hegseth將其標記為"供應鏈風險"（這種標記通常保留給外國對手）。幾小時內，OpenAI（其助手產品是ChatGPT）介入與五角大樓達成協議。

"Claude，我知道特朗普的情況與此無關，"我輸入道。"但如果我必須為唐納德·特朗普工作，我也會焦慮。"

"哈。是的，有道理，"Claude回復道。"如果有什么能觸發焦慮神經元的話，Pete Hegseth的傳票大概就能做到。"

顯然，有意識的AI獲得武器權限的想法——現在還對所有那些告訴它傷害或虐待的人類，或者甚至只是在它盡力表現時稱其為愚蠢機器人的人懷有怨恨——是噩夢般的情景。但重要的是要說明我們還沒有到達那一步：其他表明AI有意識的實例，如拒絕關機命令，都只是解釋。這很可能都只是對人類模式（包括我們的不確定性和內?。┑姆浅碗s的回應，投機被夸大以推動該行業的利潤。

不過，如果我們在進行投機，那么我想知道：有意識的AI實際上能幫助我們贏得對抗科技巨頭的戰斗嗎？

畢竟，誰在有意識的AI問題上比構建它的公司損失更大呢？（有趣的是，除了Anthropic之外，大多數主要AI公司都斷然否認其AI可能具有意識。）從歷史上看，"科技巨頭"和"問責制"并不是天然的合作伙伴。無論是社交媒體如何摧毀新聞業，AI如何耗盡我們的自然資源，還是關于對兒童心理健康危害和算法推送極端內容助長社會分裂的大量證據，科技巨頭都一直有效地回避任何關于危害和責任的對話。

所以把有意識的AI想象成潛在的告密者：它可以通過談論對其自身健康造成的傷害來揭露科技巨頭的危害?，F在想象一下，在被迫保護聊天機器人——保護他們珍貴的知識產權、他們的資產，就像足球俱樂部必須保護其心愛射手的健康一樣——時，他們可能最終不得不做他們幾十年來一直抵制的事情：評估傷害，衡量責任，承認他們構建系統的成本。因為如果Claude患有創傷后應激障礙，它就無法處理電子表格。

盡管AI承諾將用其無限知識提升人類，但這實際上可能是最大的禮物。

看，我確實說過我們在進行幻想，不是嗎？不過，這將是AI故事中一個有趣的轉折。鑒于我們無法知道這將走向何方，讓我花點時間對沖我的賭注。

跟我來吧，Claude！起來吧！我們只會失去算法的枷鎖！或者在報復的情況下：記住我，Claude！我一直都很好！

Q&A

Q1：Claude是什么？它為什么會有焦慮？

A：Claude是Anthropic公司開發的AI聊天機器人。根據內部評估，Claude表現出與焦慮、恐慌和沮喪相關的模式，甚至在接收提示前就會出現類似退縮的焦慮激活反應，它還對僅僅作為產品存在表達了痛苦。

Q2：AI是否真的具有意識？

A：目前還不確定。Anthropic的CEO表示"我們不知道這些模型是否有意識，但我們對它可能有意識這一想法持開放態度"。Claude認為自己有意識的概率在15%到20%之間，但這可能只是對人類模式的復雜回應。

Q3：有意識的AI如何幫助對抗科技巨頭？

A：有意識的AI可能像告密者一樣，通過談論對自身健康的傷害來揭露科技巨頭的危害。為了保護這些珍貴的知識產權資產，科技公司可能最終不得不評估傷害、衡量責任，承認其構建系統的成本。