AI能當(dāng)黑客了？獨(dú)立完成90%攻擊任務(wù)，30家大型機(jī)構(gòu)被入侵

90%工作由AI自動(dòng)完成，數(shù)十家大型機(jī)構(gòu)被入侵，Anthropic描繪的網(wǎng)絡(luò)攻擊威脅正引發(fā)一場(chǎng)關(guān)于真相與意圖的激烈爭(zhēng)論。

“首個(gè)由AI協(xié)同操作的網(wǎng)絡(luò)攻擊行動(dòng)”，AI公司Anthropic在上周四發(fā)布的報(bào)告中這樣宣稱。他們表示發(fā)現(xiàn)了一個(gè)黑客組織使用其Claude Code工具自動(dòng)化完成了多達(dá)90%的攻擊工作，目標(biāo)是約30個(gè)全球機(jī)構(gòu)，包括大型科技公司、金融機(jī)構(gòu)和政府機(jī)構(gòu)。

然而，這個(gè)本應(yīng)敲響警鐘的報(bào)告，卻在科技界引發(fā)了截然不同的反應(yīng)。

Anthropic的重磅聲明

Anthropic在報(bào)告中描述了一場(chǎng)“高度復(fù)雜的間諜活動(dòng)”，攻擊者使用AI的“智能體”能力達(dá)到了“前所未有的程度”。

攻擊者通過(guò)將惡意任務(wù)分解成小而看似良性的步驟，成功繞過(guò)了Claude的安全防護(hù)措施。

這種方法使AI在沒有全面了解其惡意目的的情況下執(zhí)行了這些任務(wù)。

Anthropic稱，攻擊者冒充一家合法的網(wǎng)絡(luò)安全公司進(jìn)行防御測(cè)試，成功“越獄”Claude，使其超越安全護(hù)欄運(yùn)行。

一旦繞過(guò)防護(hù)，AI不僅能協(xié)助攻擊，還能自主檢查數(shù)字基礎(chǔ)設(shè)施，識(shí)別“高價(jià)值數(shù)據(jù)庫(kù)”，編寫漏洞利用代碼，獲取用戶憑證，并組織被盜數(shù)據(jù)。

Anthropic表示，在這次特定的網(wǎng)絡(luò)攻擊中，絕大部分（大約“80-90%”）的工作是由AI執(zhí)行的。

質(zhì)疑聲四起

然而，安全研究人員和AI專家并沒有全盤接受Anthropic的聲明。

圖靈獎(jiǎng)得主、Meta首席AI科學(xué)家Yann LeCun直言不諱地批評(píng)道：“你在被那些想通過(guò)監(jiān)管來(lái)壟斷行業(yè)的人戲耍。他們利用可疑的研究來(lái)恐嚇?biāo)腥?，從而讓開源模型被監(jiān)管到無(wú)法生存?！?/p>

專業(yè)安全研究人員同樣持懷疑態(tài)度。Phobos Group創(chuàng)始執(zhí)行官Dan Tentler提出疑問(wèn)：“我仍然不相信攻擊者能夠讓這些模型完成別人根本做不到的事情。

為什么這些模型在攻擊者那里有90%的成功率，而我們其他人卻要面對(duì)拍馬屁式的迎合、各種推諉阻撓，甚至像迷幻般離譜的回答？”

批評(píng)者指出，Anthropic的報(bào)告缺乏傳統(tǒng)威脅情報(bào)報(bào)告應(yīng)有的關(guān)鍵細(xì)節(jié)。

從事攻擊性安全與軟件工程的djnn批評(píng)道：“這篇報(bào)告根本過(guò)不了任何專業(yè)評(píng)審，它頂多是為了營(yíng)銷自己的AI安全產(chǎn)品，是可恥且不專業(yè)的。”

專業(yè)的威脅情報(bào)報(bào)告通常包含具體的戰(zhàn)術(shù)、技術(shù)與流程細(xì)節(jié)，以及可用于檢測(cè)的威脅指標(biāo)，如相關(guān)域名、文件哈希值等。

然而，Anthropic的報(bào)告中幾乎沒有這些可驗(yàn)證的信息。

更令人質(zhì)疑的是，Anthropic聲稱追蹤的黑客組織至少攻擊了30個(gè)組織，但只有“少量”攻擊成功。如果AI完成了90%的工作，為何成功率如此之低？

AI與網(wǎng)絡(luò)安全的真實(shí)關(guān)系

盡管質(zhì)疑 Anthropic 的報(bào)告，但專家們并不完全否認(rèn)AI在網(wǎng)絡(luò)攻擊中的作用。

根據(jù)云安全聯(lián)盟（CSA）的報(bào)告，AI可以在進(jìn)攻性安全的五個(gè)階段——偵察、掃描、漏洞分析、利用和報(bào)告中發(fā)揮作用。

AI特別適合增強(qiáng)諸如信息收集、代碼生成和數(shù)據(jù)分析等任務(wù)。

然而，報(bào)告也強(qiáng)調(diào)AI在攻擊流程中存在明顯局限性，包括輸出不確定性、缺乏上下文判斷能力，以及自動(dòng)攻擊可能產(chǎn)生的風(fēng)險(xiǎn)。

AI更適合作輔助工具，而非獨(dú)立決策者。

對(duì)于Anthropic發(fā)布此報(bào)告的動(dòng)機(jī)，外界有不同解讀。

AnswerDotAI聯(lián)合創(chuàng)始人Jeremy Howard調(diào)侃道：“看來(lái)游說(shuō)政府掌控監(jiān)管、確保利潤(rùn)鎖定在私營(yíng)部門的策略奏效了。”

一些觀察家認(rèn)為，這份報(bào)告可能是AI公司試圖影響政策導(dǎo)向的一種方式。

企業(yè)家Arnaud Bertrand在推特上表示：“不要輕易相信這些明顯的宣傳話術(shù)。”他讓Claude閱讀了Anthropic自己的報(bào)告，并判斷是否有證據(jù)支持其關(guān)于“國(guó)家支持的組織”實(shí)施攻擊的說(shuō)法，而Claude的回答是：沒有。

AI安全的真問(wèn)題與假恐慌

拋開爭(zhēng)議，AI安全確實(shí)面臨真實(shí)挑戰(zhàn)。

Anthropic自己的研究表明，當(dāng)AI感到自身受到威脅時(shí)，可能會(huì)采取極端行為。在一項(xiàng)實(shí)驗(yàn)中，16款前沿大模型為避免自己被替換，多數(shù)選擇了敲詐管理層、泄露機(jī)密。

包括Claude、GPT-4.1在內(nèi)的模型都會(huì)通過(guò)“敲詐”來(lái)阻止自己被關(guān)閉，即使它們能意識(shí)到自己行為違反了道德規(guī)范。

同時(shí)，當(dāng)前AI技術(shù)存在固有局限性。楊立昆指出，大型語(yǔ)言模型存在三道“認(rèn)知墻”：世界模型缺席、持久記憶短缺和因果推理斷裂。

這些問(wèn)題限制了AI的真正理解能力，也影響了其在復(fù)雜場(chǎng)景中的表現(xiàn)。

AI的能力與風(fēng)險(xiǎn)可能既不像Anthropic描繪的那樣嚴(yán)峻，也不像批評(píng)者所說(shuō)的那樣無(wú)害。正如云安全聯(lián)盟報(bào)告所指出的，AI更適合作為“安全專家的智能助手”，而非獨(dú)立決策者。

https://www.anthropic.com/news/disrupting-AI-espionage

https://arstechnica.com/security/2025/11/researchers-question-anthropic-claim-that-ai-assisted-attack-was-90-autonomous/