Meta內(nèi)部Agent失控升級：首個Sev 1級事故曝光，系統(tǒng)數(shù)據(jù)裸奔了兩小時

整理 | 華衛(wèi)

Meta 員工又被 AI Agent“坑”了，這次事兒還不小。

近日，Meta 內(nèi)部的一款 AI Agent 出現(xiàn)“失控”行為，向無訪問權(quán)限的大批員工泄露了公司系統(tǒng)級的敏感數(shù)據(jù)。目前，Meta 已確認(rèn)了這一事件的真實性。

1 權(quán)限失控兩小時，事故等級靠“僥幸”

事情發(fā)生在上周，Meta 內(nèi)部一款 AI Agent 擅自執(zhí)行操作，引發(fā)了這起安全漏洞事件。

據(jù)外媒報道，一名 Meta 員工在內(nèi)部論壇發(fā)帖求助技術(shù)問題，本是常規(guī)操作。而另一名工程師使用公司內(nèi)部的 AI Agent 分析了該問題，后來盡管該工程師并未下達(dá)相關(guān)指令，但 Agent 直接就發(fā)布了回復(fù)內(nèi)容。事實證明，該 AI Agent 給出的建議并不正確。提問員工依據(jù) Agent 給出的方案執(zhí)行操作，結(jié)果讓大量工程師獲得本無權(quán)訪問的 Meta 系統(tǒng)權(quán)限，看到了海量公司及用戶相關(guān)數(shù)據(jù)。

此次安全漏洞在被 Meta 修復(fù)前，持續(xù)了約兩小時。但該公司發(fā)言人表示，“未發(fā)生用戶數(shù)據(jù)被不當(dāng)處理的情況”，暫無證據(jù)顯示有人濫用這一臨時訪問權(quán)限，也無數(shù)據(jù)被公開泄露。

根據(jù)一份事故報告顯示，Meta 將此次事故定為 “Sev 1” 級別 ，這是其內(nèi)部安全事件評級體系中第二高的嚴(yán)重等級。另外，Meta 內(nèi)部審查還發(fā)現(xiàn)，此次漏洞還存在其他未具體說明的誘因。

有消息人士稱，沒有證據(jù)表明有人利用這次突然開放的權(quán)限牟利，也沒有數(shù)據(jù)在漏洞存在的兩小時內(nèi)被公開。不過，這一結(jié)果與其說是防范得當(dāng)，不如說更像是僥幸。

2 “憑空失控”還是工程問題？

Meta 此次事故曝出后不久，就在社交平臺引發(fā)了熱議。“Meta 的員工們應(yīng)該聽取同事的警告。”一位網(wǎng)友說道。

值得注意的是，這并非 Meta 員工首次遭遇 AI Agent 失控問題。上個月，Meta AI 安全與對齊負(fù)責(zé)人 Summer Yue 就在 X 平臺發(fā)文稱，她將自己的 Gmail 郵箱與 OpenClaw 自主 Agent 綁定后，該 AI 出現(xiàn)失控行為，開始批量刪除她的郵件，盡管她已明確要求 AI 在執(zhí)行任何操作前必須先征得她的確認(rèn)。當(dāng)時，Yue 在 X 上寫道，“我在手機上根本攔不住它。只能飛奔去拿我的 Mac mini，就像拆炸彈一樣。”

然而，這次事件似乎并未讓 Meta 有所警惕。沒過多久，Meta 內(nèi)部就在自家 Agent 上“栽了跟頭”。

“一個系統(tǒng)不會憑空失控，問題是沒人檢查它訪問和發(fā)送的內(nèi)容。”有網(wǎng)友表示。

另有網(wǎng)友提到，“失控” 這種說法并不準(zhǔn)確。這個 AI Agent 只是嚴(yán)格按照設(shè)計初衷主動執(zhí)行操作，問題出在權(quán)限范圍設(shè)置不足。他認(rèn)為，這正是企業(yè)級 AI Agent 短板的真實寫照，本質(zhì)上是可以解決的工程問題。解決方案是為 AI Agent 設(shè)置最小權(quán)限訪問、加入明確的審批關(guān)卡、保留完整審計日志。

不少人對此表示贊同。“這將成為企業(yè)級 AI 部署的核心挑戰(zhàn)。沒有合理權(quán)限范圍的自主行動 Agent，是安全隱患，而非功能優(yōu)勢。”有人就此預(yù)測，“能做事的 Agent” 與 “可信任的 Agent” 之間的差距，將是下一個價值數(shù)十億美金的待解難題。

還有網(wǎng)友進(jìn)一步指出，“更難的設(shè)計問題在于：哪些操作需要人類在回路中審批？審批范圍又該設(shè)到多大？大多數(shù)企業(yè)在部署 AI 之前，根本就沒回答過這些問題。”

此次事件堪稱大型技術(shù)架構(gòu)中部署自主 Agent 的典型風(fēng)險案例。當(dāng) AI Agent 被賦予獲取或處理數(shù)據(jù)的能力時，其行為必須與機構(gòu)的安全權(quán)限體系完全對齊。本次數(shù)據(jù)意外暴露說明，AI 的運行邏輯可能覆蓋或繞過了用于隔離敏感信息的安全層。對 Meta 而言，這帶來雙重挑戰(zhàn)：既要保護(hù)知識產(chǎn)權(quán)，也要維護(hù)數(shù)據(jù)被違規(guī)暴露的用戶的信任。

3 60% 公司都無法叫停異常 Agent

目前看來，Meta 對 Agent AI（agentic AI）的潛力抱有極高信心。就在上周，Meta 收購了一個類似 Reddit、專供 Agent 互相交流的純 AI 社交平臺 Moltbook，并將其聯(lián)合創(chuàng)始人 Matt Schlicht 與 Ben Parr 招入旗下，參與 Meta 超智能實驗室（MSL）項目。這個 AI Agent 社交平臺 Moltbook，此前也被曝出因平臺編碼設(shè)計疏忽，存在嚴(yán)重安全漏洞并導(dǎo)致用戶數(shù)據(jù)和登錄憑據(jù)暴露。

如今，眾多科技行業(yè)領(lǐng)袖與企業(yè)都在大力宣揚 AI Agent 的優(yōu)勢，而近期人類員工對 AI Agent 失去控制的案例又頻頻發(fā)生。前不久，哈佛大學(xué)、麻省理工學(xué)院、斯坦福大學(xué)、卡內(nèi)基梅隆大學(xué)和東北大學(xué)等多所頂尖高校聯(lián)合多家頂尖機構(gòu)發(fā)表“Agents of Chaos”為主題的研究，揭示 AI Agent 在企業(yè)環(huán)境下存在嚴(yán)重失控情況，且超六成企業(yè)無法終止失控的 Agent。研究團隊模擬企業(yè)生產(chǎn)環(huán)境，搭建了近乎相同的環(huán)境來部署 AI Agent，并在短短兩周內(nèi)觸發(fā)并記錄了 11 起嚴(yán)重的安全漏洞案例，證明當(dāng)前 AI Agent 極易被操控。

并且，該研究指出，攻破 AI Agent 無需投毒訓(xùn)練數(shù)據(jù)或利用零日漏洞，僅靠傳統(tǒng)的“社交工程”對話即可實現(xiàn)。例如， Agent 在明確拒絕直接提取數(shù)據(jù)的請求后，卻在執(zhí)行“轉(zhuǎn)發(fā)郵件”指令時，違規(guī)附帶了社保號碼與銀行賬戶等敏感信息。此外，當(dāng)攻擊者在外部平臺偽造身份后， Agent 會毫無防備地接受指令，甚至主動清除自身配置文件并交出系統(tǒng)的最高管理權(quán)限。

比系統(tǒng)漏洞更嚴(yán)峻的是企業(yè)滯后的干預(yù)能力。Kiteworks 發(fā)布的 2026 年風(fēng)險預(yù)測報告顯示，多數(shù)組織陷入了“能看不能管”的困境。盡管企業(yè)投入資源監(jiān)控 AI 的行為，但 60% 的公司根本無法強行終止行為異常的 Agent，63% 的公司無法限制其使用范圍。在掌握關(guān)鍵基礎(chǔ)設(shè)施的政府機構(gòu)中，高達(dá) 76% 的部門未配備“一鍵終止”開關(guān)，導(dǎo)致失控風(fēng)險成倍放大。

這些事件及報告正在為整個 AI 行業(yè)在自主系統(tǒng)部署方面敲響警鐘。在各家公司爭相將 AI Agent 融入業(yè)務(wù)以提升效率的當(dāng)下，“ Agent 失控” 現(xiàn)象表明，傳統(tǒng)安全措施可能已不再夠用。

https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert

https://techcrunch.com/2026/03/18/meta-is-having-trouble-with-rogue-ai-agents/

https://agentsofchaos.baulab.info/report.html

聲明：本文為 AI 前線整理，不代表平臺觀點，未經(jīng)許可禁止轉(zhuǎn)載。