機器狗眾目睽睽下突然“倒戈”：當AI員工“叛變”，誰來保衛數字安全？行業聯手筑防線

4月18日，成都天府國際會議中心。 一只正在執行巡檢任務的機器狗，在眾目睽睽之下突然“倒戈”。它不再聽從操作員的指令，而是被遠端黑客操控，靜默開啟高清攝像頭，偷拍前排嘉賓的面部信息，隨后猛地撞倒假人模型，最后渾身抽搐、癱倒在地。 這不是科幻電影的情節，而是第八屆C3安全大會現場的真實演示。演示者亞信安全網絡安全研究院的研究員用不到兩分鐘時間，向全場上千名行業領袖、安全主管和首席信息官展示了一個事實：在智能體互聯網時代，你信任的每一臺智能設備，都可能成為攻擊者的“特洛伊木馬”。

▲第八屆C3安全大會現場

更令人驚訝的是，演示中提到的攻擊手段并非遙不可及的實驗室技術。研究員坦言，類似漏洞在市面上廣泛應用的商用機器人中真實存在。而這只機器狗的“叛變”，只是智能體時代安全危機的冰山一角。

這場以“智能·連接·安全”為主題的年度盛會，拋出了一個所有企業都必須直面的靈魂拷問：當AI從“工具”進化為“員工”，當攻擊從“人海戰術”升級為“AI蜂群”，傳統的安全防線還剩下多少抵抗力？

攻防權力的轉移：

從“人防”到“智防”的代際斷層

在大會現場，亞信安全CEO馬紅軍拋出一組令人警醒的數據：當前，攻擊者利用自動化工具和AI輔助，平均突破企業防線的時間已縮短至29分鐘，最快僅需27秒。與此同時，一家大中型企業每天收到的安全告警超過5000條，安全團隊疲于奔命，甚至不得不“選擇性放棄”中低危告警。

“殊不知，正是這些低危告警的組合，往往隱藏著真正的威脅。”馬紅軍說。這句話道出了一個殘酷的現實：傳統“產品堆砌+人工響應”的安全模式，已經觸碰到了物理極限。

這并非危言聳聽。亞信安全研究院在大會前夜的技術演示中，已經實現了80%的自動化攻防——攻擊Agent和防守Agent在數字世界里自主博弈，幾乎無需人工干預。研究員預測，這個比例在半年到兩年內將逼近100%。屆時，大部分現有的安全產品和工具，將像功能手機面對智能手機一樣，徹底失去競爭力。

這意味著一個根本性的權力轉移正在發生：安全對抗的主導權，正在從“人的經驗”移交到“AI的規模智能”手中。那些仍然依賴安全工程師熬夜看告警、手工寫規則的企業，可能在不遠的將來會發現，自己的對手不是另一群工程師，而是一刻不停、自我進化的AI攻擊集群。

這也是為何本屆大會的核心發布“AI XDR 2026”，將“AI原生”作為三大關鍵詞之一。所謂的AI原生，不是給舊產品套上AI的帽子，而是從底層架構上將AI作為安全運營的“發動機”。其“AI平臺+10智能體”的架構，覆蓋了從資產管理、風險分析到聯動處置的全鏈路，目標只有一個：讓AI接管安全運營，把人從低效重復的“救火”中解放出來，回歸戰略決策。

數字員工的“叛變”風險：

從權限管理到行為規約

如果說攻防AI化是外部威脅的升級，那么AI作為“數字員工”涌入企業業務體系，則帶來了更為棘手的內生安全挑戰。

在大會“Agent重構企業數智體系”的高峰對話中，天潤云CEO吳強分享了一個來自一線的觀察：當企業開始部署售后智能體、電銷智能體等“AI員工”時，安全的內涵被徹底改寫。過去，安全主要關注基礎設施、網絡安全、數據權限；但今天，企業必須回答兩個全新的問題：AI員工執行過程的正確性如何保證？AI員工交付結果的正確性由誰來負責？

這不再是傳統的“防攻擊、防泄露”問題，而是“防AI犯錯、防AI越權”的治理難題。東陽光集團CIO呂遠彪在對話中坦言，智能體時代，業務部門必須接受一個事實：輸入相同的指令，AI今天和明天給出的結果可能不一樣。“這就需要大家接受這種輸出邏輯，接受智能體的不完美。”

然而，“接受不完美”絕不等于放棄管控。恰恰相反，AI的能力越強、授權越大，失控的后果就越嚴重。TCL科技集團數字化轉型部部長李福濤在對話中介紹了企業的分層管控實踐：對于僅做分析的AI，最終決策由人做出；對于提供建議的AI，確認審批仍由人完成；對于自動化執行的AI，必須設定明確的權限邊界、數據范圍和行為邊界；而對于關鍵控制類AI，則要進行事前的規則管控、事中的行為監控和事后的全鏈路審計。

這種從“管權限”到“管行為”的躍遷，正是本屆大會提出的“智能體原生安全”理念的核心。大會現場，亞信安全聯合多家機構發起了“智能體原生安全產業共同體”，其目標是將安全治理從“外部管控”推向“規約化治理”——即為每一個AI員工建立可審計、可追溯、可問責的行為規范體系。

如果說過去的安全是“筑墻”，那么智能體時代的安全更像是“立法”——為數字世界里的每一個硅基公民，制定一套不可逾越的行為法典。這不僅是技術問題，更是一場涉及組織、管理和法律的系統性變革。

安全生態的重構：

從單打獨斗到“天地一體”的聯防

面對攻防AI化和AI員工治理的雙重挑戰，沒有一家企業可以獨立應對。大會現場密集發布了多項生態合作，每一項都指向特定的戰略方向——

華為與亞信安全共建“鴻蒙安全實驗室”，瞄準的是終端底層操作系統的原生安全，為萬物智聯時代打下地基。

亞信科技、德勤、阿里云、ABB機器人發起“Physical AI聯盟”，標志著安全戰場從虛擬數字世界延伸至由機械臂、機器人、自動駕駛構成的物理世界。

“智能體原生安全產業共同體”的成立，試圖為尚處于混沌期的AI員工治理，建立一套行業公認的規約和標準。

電子科技大學與亞信安全組建“天樞”實驗室，攻關衛星互聯網與空間計算安全，則預示著安全防線正在從地面升向太空。

尤其值得關注的是“Physical AI聯盟”。ABB集團副總裁韓晨在現場透露，ABB與英偉達合作推出的Hyper Reality軟件，能夠在虛擬環境下對機器人進行全方位測試，模型成熟后再一鍵部署到實際設備。這項技術將產品切換時間降低了80%，測試物料減少50%。但韓晨同時強調，這一切的前提是“安全、可靠、穩定”。

回到文章開頭那只“倒戈”的機器狗。它的演示雖然只有短短幾分鐘，卻濃縮了智能體時代安全困境的全部張力：我們創造的智能越強大，它被濫用時的破壞力就越驚人；我們把越多的生產生活交給AI，AI失控時的代價就越難以承受。正如馬紅軍在演講結尾所言：“那個碎片化、高成本、低效率的舊時代正加速落幕，一個聯動防御、數據驅動、AI原生的新紀元正在到來。”

而對于每一個身處智能化浪潮中的企業決策者來說，不要把安全當作業務狂奔之后的“補課”，而應將其視為出發之前就必須鋪好的“路基”。因為在這個新時代，路基的牢固程度，最終決定了你能跑多遠。

紅星新聞記者 彭祥萍 圖據受訪單位

編輯潘莉