隨著AI智能體技術(shù)加速滲透企業(yè)核心業(yè)務(wù)場景,以O(shè)penClaw為代表的自主執(zhí)行型AI正成為新一輪生產(chǎn)力變革的重要引擎。然而,其強(qiáng)大的系統(tǒng)訪問與任務(wù)執(zhí)行能力也帶來了前所未有的安全風(fēng)險——權(quán)限越界、記憶污染、惡意誘導(dǎo)、算力濫用等問題日益凸顯。部分企業(yè)在擁抱效率的同時,低估了潛在治理挑戰(zhàn)。
![]()
為此,螞蟻數(shù)科正式推出“蟻天鑒2.0 - 龍蝦衛(wèi)士”AI安全防護(hù)體系,并同步啟動“龍蝦AI安全守護(hù)計劃”,旨在為部署OpenClaw的企業(yè)提供全生命周期、多層次的安全保障。
本次發(fā)布的“claw安全套件1.0”于3月19日正式上線,聚焦三大核心能力:一是“對抗思想變異”,通過精準(zhǔn)識別輸入輸出內(nèi)容,攔截違規(guī)信息與惡意誘導(dǎo)傳播源頭,防止模型被“黑化”;二是“凈化skills倉庫”,基于螞蟻數(shù)科CALIR五維模型框架,對Skills插件進(jìn)行合規(guī)掃描與行為審計,有效識別并阻斷權(quán)限越界、敏感泄露及異常調(diào)用等風(fēng)險;三是“風(fēng)險輿情播報”,通過生成實時風(fēng)險應(yīng)急報告并主動推送,幫助企業(yè)第一時間掌握安全態(tài)勢,實現(xiàn)風(fēng)險的透明化與即時感知,變被動防御為主動應(yīng)對。
為了助力更多企業(yè)低成本完成安全基線建設(shè),螞蟻數(shù)科同步啟動“龍蝦AI安全守護(hù)計劃”。該計劃將面向首批100家合作企業(yè),提供為期3個月、總計20萬次的免費龍蝦安全防護(hù)調(diào)用服務(wù),旨在讓客戶快速體驗企業(yè)級的AI安全保障。
在大模型安全技術(shù)方面,螞蟻數(shù)科憑借領(lǐng)先的技術(shù)實力和解決方案,成功入選IDC《中國大模型安全市場圖譜》。基于真實場景的攻防經(jīng)驗,螞蟻數(shù)科的大模型安全技術(shù)在金融合規(guī)、越獄攻擊等復(fù)雜場景中,已達(dá)到SOTA(State Of The Art)效果,具備0-Day泛化修復(fù)風(fēng)險能力。
螞蟻數(shù)科在AI安全領(lǐng)域的持續(xù)創(chuàng)新,正成為行業(yè)內(nèi)領(lǐng)先的安全實踐,確保客戶能夠在享受AI智能體帶來的紅利時,依然擁有可控、可追溯的安全保障。“AI智能體不是‘黑箱’,更不能是‘盲盒’。” 螞蟻數(shù)科AI安全團(tuán)隊表示,“我們希望通過‘龍蝦衛(wèi)士’,讓企業(yè)在享受AI智能體紅利的同時,擁有可解釋、可控制、可追溯的安全基石。”
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.