北京
henry 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
在Meta，人從來都不是問題（大不了裁了），能讓小扎栽跟頭的，還得是“AI”。
繼上個月龍蝦（OpenClaw）刪掉安全對齊總監(jiān)Summer Yue郵箱的事件后，Meta的AI又闖禍了——
這次，一個AI Agent未經授權擅自行動，把敏感的公司和用戶數據暴露給了沒有權限的員工，近兩小時！
Meta內部將這一事件定性為Sev 1級，這是什么概念呢？
歷史上，Meta從沒對外承認過Sev 0級事件，所以這次幾乎等于他們眼中“最嚴重”的那一檔。
這下好了，人類員工你Meta愛搭不理，AI員工直接讓你拉響警報。
Agent失控Meta拉響警報
事情是這樣的。
一名Meta軟件工程師使用內部的agent（類似OpenClaw）分析了另一名員工在內部論壇上發(fā)布的技術問題。
分析完成后，這個熱心的Agent直接在論壇上回復了原問題，并給出了技術建議，而這一切都未經員工授權
提問的員工采納了Agent的技術建議，卻沒想到直接導致大量公司和用戶數據被沒有權限的員工訪問，數據暴露了近2小時。
△圖片由AI生成
雖然據知情人士透露，暫時沒有人利用這次訪問權限將數據公開，造成大的泄露。
但是！
根據報告，Meta最終還是將該事件定性為Sev 1級，這是公司內部安全事件嚴重程度體系中的第二高級別。
而就像開頭說的，Sev 0，也就是最嚴重的情況，從來沒發(fā)生過。
據消息爆料，涉事員工在內部帖子中指出，其他一些未指明的問題也加劇了事件的嚴重性。
所以，估計這事兒基本上得立項調查了。
不過，好消息是，這個隨意回帖，提供建議的Agent并沒有偽裝成人。
據Meta發(fā)言人稱，代理發(fā)布的帖子底部標明了“AI生成”。
總的來說，這次的agent失控導致數據泄露，雖然時間很長，但好在可追溯，且目前并未其他風險，所以基本上是提前演習了一下企業(yè)agent可能遇到的問題。
但這事兒，在Meta已經不是第一次了。
今年二月份，Meta 人工智能部門的安全與協(xié)調總監(jiān)Summer Yue就表示，OpenClaw刪光了自己的全部郵件。
而且略顯離譜的是，yue曾多次命令龍蝦停止操作，但龍蝦就是假裝聽不見，繼續(xù)執(zhí)行任務。
由于無法通過在手機上發(fā)消息進行干預，yue最終不得不趕緊跑到另一臺設備上阻止這一過程。
Summer Yue 形容當時的自己就像在拆炸彈一樣
不少網友也是在評論區(qū)表示，在企業(yè)環(huán)境中部署有操作權限的自動化agent 本身有風險。
而據一些消息顯示，部分企業(yè)內部也暫時還未開放龍蝦這樣的agent在公司電腦上部署。
所以說，龍蝦雖然可口，但風險還是有的。
4 more things
那么，為啥這種事總發(fā)生在Meta身上呢？
雖然聽起來有些離譜，但可能最近一周，Meta可能是真的是水逆。
先是去年重金組建的Meta超級智能實驗室（MSL）的模型“牛油果”難產，被爆料性能甚至不如谷歌去年發(fā)布的Gemini 3，導致發(fā)布又又將延期——
從2025年底，拖到今年一季度，現在表示最快也得5月26號了。
接著是暴力裁員20%（約 1.5 萬人），小道消息甚至稱離職員工開始“投毒skills”。
昨天，又有消息稱收購Manus的進程受阻
今天更是有媒體報道，Meta花費800億美元耗時5年多的元宇宙項目，將在6月關閉，800億美元泥牛入海。
要不，小扎別裁員了，咱先改個名唄？
[1]https://x.com/Jessicalessin/status/2034384626295419267
[2]https://www.theinformation.com/articles/inside-meta-rogue-ai-agent-triggers-security-alert
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
