近期,開源智能體OpenClaw(俗稱“龍蝦”)憑借可自主跨軟件執行任務的能力走紅。清華大學新聞與傳播學院、人工智能學院雙聘教授沈陽分析,“龍蝦”將AI從“顧問”升級為普通人夠得著的“24小時個人數字員工”,精準擊中了大眾的效率痛點。
然而這股熱潮并未持續走高,沈陽發現,近一個月來“OpenClaw”微信指數的熱度呈現出“大起大落”的特點——3月6日熱度飆升后,在3月11日前后達到頂峰,隨后迅速回落,截至3月16日熱度回落至接近3月5日的水平。他認為,熱度陡降與“養蝦”背后凸顯的安全隱憂密切相關,同時也與不少用戶對“數字員工”的關注并非剛需有關。
“龍蝦”在處理郵件、文件、財務報表等場景中頗具效率優勢,但在其獲得廣泛關注的同時,各類安全事故也接連出現,不論是“龍蝦”無視“主人”叫停執意刪除系統文件,還是智能體擅自給網友打款,都顯示“養龍蝦”的風險不容小覷。
國家互聯網應急中心3月10日提醒,OpenClaw已經公開曝出多個高中危漏洞。工業和信息化部網絡安全威脅和漏洞信息共享平臺3月11日發布了《關于防范OpenClaw(“龍蝦”)開源智能體安全風險的“六要六不要”建議》。國家安全部3月17日發布《“龍蝦”(OpenClaw)安全養殖手冊》,提示用戶以積極的心態和慎重的執行擁抱人工智能時代,并指出養“龍蝦”可能存在主機被接管、言論被篡改等風險,建議“養蝦人”檢查控制界面是否暴露在公網、權限配置是否過高、存儲的憑證是否已泄露、安裝的插件來源是否可信等問題。
一邊是“龍蝦”相關適配硬件持續斷貨,一邊是多部門密集發布安全預警,創新探索與安全底線的碰撞,在多所高校引發了不小的漣漪。面對“龍蝦”浪潮來襲,安全問題亦是校園關注的焦點。
來自清華大學的MAIC項目團隊,因近期的開源項目,與OpenClaw產生聯系而受到更多關注。該團隊將“多智能體AI課堂”MAIC項目的部分能力進行開源,打造成OpenMAIC項目,并將其開發成可供OpenClaw智能體調用的教育技能之一。
“我們為什么要接入OpenClaw?主要是因為目前‘龍蝦’的全球用戶比較多,我們希望盡快讓更多人用上OpenMAIC。”該團隊的技術負責人、清華大學教育學院助理研究員于濟凡打比方,如果把他們開放的平臺能力看成“做咖啡”,那么就相當于團隊愿意把“咖啡”賣給OpenClaw這位“數字員工”。他表示,這與直接在生產環境使用“數字員工”存在本質區別。
于濟凡認同國家頻頻發布安全提示的必要性,將其比作提醒大家“無駕照先別開車”。“積極而審慎”是他對于包括“龍蝦”在內的人工智能創新應用的總體態度,這一態度來自《清華大學人工智能教育應用指導原則》。該文件提到,該校積極鼓勵并支持全體師生勇于探索人工智能在教育教學等相關活動中的創新性應用;同時提出應用人工智能處理數據,應當采取必要的措施,防范數據泄露風險以及敏感數據匯聚、關聯引發的泄密風險,保障數據安全;還提出要充分認識人工智能的局限性,時刻保持必要的懷疑態度、批判性思維。
為了應對此次“龍蝦”熱浪襲來,還有不少高校專門針對OpenClaw發布了相關預警與使用規定,寬嚴程度不一。
上海交通大學探索校內“圈養”“龍蝦”模式。3月14日,該校表示為響應師生對OpenClaw為代表的前沿AI智能體技術的探索熱情,學校依托本校“致遠一號”大模型開發出“開箱即用、安全可控”的云上“養蝦”方案。據介紹,OpenClaw智能體將依托“致遠一號”本地化部署的DeepSeek、Qwen、MiniMax等大模型運行,用戶的對話、文件、指令等在交大校園網內閉環運行。同時,該校不建議“散養”用戶在個人主要工作設備中安裝OpenClaw。
北京大學10日提示校園網用戶,在服務器或個人電腦上部署OpenClaw,務必確認服務未暴露至校園網或公網。山東大學10日提醒“AI雖香,安全別忘”,建議師生做好“蝦池”安全建設,在測試機、?Docker沙箱上安裝部署OpenClaw,避免在個人主力計算機或辦公計算機上直接安裝。北京建筑大學12日表示禁止在學校辦公電腦以及服務器上安裝OpenClaw。
北京郵電大學通信感知一體化專家崔原豪在個人閑置電腦上探索“養龍蝦”。在他看來,駕馭原版“龍蝦”和防止隱私“裸奔”對于缺乏技術背景的人來說門檻較高,接入辦公系統需要特別審慎。他希望未來相關智能體服務提供商能夠做好技術服務,幫助用戶與風險隔絕。
今年的政府工作報告提出“打造智能經濟新形態”,提出要深化拓展“人工智能+”,促進新一代智能終端和智能體加快推廣。在跌宕起伏的“龍蝦”浪潮中,多個地方政府紛紛出臺鼓勵智能體發展的政策,多家互聯網公司的OpenClaw衍生服務、企業級AI原生工作平臺等競相涌現。
崔原豪相信,隨著行業的技術探索和政策的逐步規范,未來人們駕馭“龍蝦”這類技術新物種的門檻、成本、風險將會進一步降低。
中青報·中青網記者 張茜 來源:中國青年報
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.