病毒還是革命？專家：未來(lái)不會(huì)用“龍蝦”或智能體，相當(dāng)于文盲，相當(dāng)于不會(huì)用手機(jī)

出品｜搜狐科技

作者｜梁昌均

編輯| 楊 錦

“它是歷史上規(guī)模最大、最受歡迎、最成功的開(kāi)源項(xiàng)目，絕對(duì)會(huì)是下一個(gè)ChatGPT。”黃仁勛最近對(duì)流行的“龍蝦”（OpenClaw）盛贊道。

這波“龍蝦”熱潮已持續(xù)月余，似乎并沒(méi)有停下來(lái)的趨勢(shì)。到底要不要養(yǎng)、養(yǎng)了有啥用、如何安全地養(yǎng)，制造了大眾的AI焦慮情緒。

在搜狐科技《AI十二談》最新一期直播中，兩位“養(yǎng)蝦”人——快思慢想研究院院長(zhǎng)田豐和隆安律所全國(guó)合規(guī)委副主任陳煥，分享了如何安全養(yǎng)好“龍蝦”的經(jīng)驗(yàn)。

田豐認(rèn)為，AI安全或智能體安全，和傳統(tǒng)的網(wǎng)絡(luò)安全、數(shù)據(jù)安全完全不一樣，“龍蝦”帶來(lái)了提示詞注入、技能污染、用戶誤授權(quán)等新風(fēng)險(xiǎn)。

陳煥還提醒道，如果“龍蝦”闖禍了，目前大概率還是需要使用者擔(dān)責(zé)。“但不能因?yàn)檎f(shuō)很危險(xiǎn)就不用，或者圖便利就不管安全。”

兩位嘉賓還給出實(shí)用性的安全“養(yǎng)蝦”指南。

首先，非技術(shù)用戶沒(méi)有必要本地部署原裝“龍蝦”，如果確需本地部署優(yōu)先用備用機(jī)，并做好“龍蝦”衛(wèi)士、安全插件、文件備份等防護(hù)，建議優(yōu)先選擇相對(duì)安全的云端“龍蝦”。

同時(shí)，要有數(shù)據(jù)分類分級(jí)的觀念，無(wú)論本地云端，都不要把敏感數(shù)據(jù)（如賬戶密碼、個(gè)人隱私、商業(yè)秘密等）給“龍蝦”，需要給的數(shù)據(jù)提前做好脫敏。

此外，要堅(jiān)持最小權(quán)限和分權(quán)制衡原則。任何時(shí)候都不要給出全部的系統(tǒng)權(quán)限，尤其是刪除權(quán)限等不能給；要了解清楚權(quán)限對(duì)應(yīng)的功能，避免超越必要范圍去申請(qǐng)權(quán)限。

面對(duì)“龍蝦”帶來(lái)的AI焦慮，兩位嘉賓都鼓勵(lì)擁抱新事物，以builder的心態(tài)去學(xué)習(xí)。

“不要覺(jué)得它是高高在上的東西，要邁出去用的第一步。”陳煥表示，雖然現(xiàn)在還有門(mén)檻，但可以等產(chǎn)品技術(shù)越來(lái)越簡(jiǎn)單后再去嘗試。

田豐認(rèn)為，“龍蝦”帶來(lái)了技術(shù)平權(quán)，不用損失更大。“3到5年之后，不會(huì)用龍蝦或智能體，相當(dāng)于文盲，相當(dāng)于不會(huì)用手機(jī)。”

“焦慮和害怕都來(lái)自未知，當(dāng)你開(kāi)始去學(xué)習(xí)去用的時(shí)候，就沒(méi)有那么害怕了。”田豐表示，未來(lái)所有人都會(huì)是構(gòu)建者，用自然語(yǔ)言將創(chuàng)意想法轉(zhuǎn)化為軟硬件產(chǎn)品，這也將是文字能力更強(qiáng)的文科生的重大紅利。

以下是此次直播探討的十個(gè)核心問(wèn)題：

搜狐科技：兩位平常都用“龍蝦”做什么？如何挖掘它的能力？

田豐：目前市面上的多數(shù)“龍蝦”我都在養(yǎng)，每天幫我搜集AI新聞、做AI研究和日常生活衣食住行提醒、股票投資分析等，還開(kāi)發(fā)了科技產(chǎn)業(yè)研究skill，建立了我以往文章的知識(shí)庫(kù)，讓它模仿我的文筆寫(xiě)作。

“龍蝦”采取的是Agentic workflow（代理式工作流），把原來(lái)沒(méi)有長(zhǎng)期記憶、沒(méi)有連續(xù)工作能力的大模型串起來(lái)，它相當(dāng)于指揮官，不僅可以自動(dòng)化執(zhí)行很多任務(wù)，還有海量的skill技能庫(kù)，可以挖掘出更多的能力。

怎么用好“龍蝦”？要把你腦子里的知識(shí)變成知識(shí)庫(kù)接到智能體，要把你所有做事的經(jīng)驗(yàn)、方法、工作流寫(xiě)成skill，讓智能體能隨時(shí)調(diào)用。

陳煥：我養(yǎng)了三只“龍蝦”，備用機(jī)養(yǎng)的原生“龍蝦”，云電腦有一只，還花錢(qián)買(mǎi)了KimClaw。常用場(chǎng)景是做日?qǐng)?bào)等信息獲取，包括飛書(shū)辦公，還有外接第三方skill去做法律案例檢索等。

如果想用好，再往下看是能不能通過(guò)某種自動(dòng)化的腳本或工作流，去構(gòu)建新的東西。對(duì)很多人來(lái)說(shuō)，現(xiàn)在跟風(fēng)部署后要拿它來(lái)干嘛，這可能是要想清楚的問(wèn)題。

搜狐科技：市面上有各種“龍蝦”，如何看待現(xiàn)在的門(mén)檻？它們的能力差異大嗎？

陳煥：我有編程基礎(chǔ)，但不太懂復(fù)雜的命令行和架構(gòu)等。部署中遇到的問(wèn)題，如調(diào)試或出現(xiàn)格式錯(cuò)誤等問(wèn)題，也可以靠AI去解決。

但現(xiàn)在的云端“龍蝦”對(duì)很多人來(lái)講，即便教程寫(xiě)得很清楚，依舊部署不了。這需要慢慢等待產(chǎn)品和技術(shù)越來(lái)越簡(jiǎn)單，不用著急。

田豐：現(xiàn)在門(mén)檻已經(jīng)越來(lái)越低，像Workbuddy，基本一兩步就能接入微信。“龍蝦”背后95%的能力還是在大模型身上，誰(shuí)的大模型強(qiáng)，誰(shuí)的“龍蝦”自然會(huì)更強(qiáng)。

搜狐科技：國(guó)內(nèi)大廠春節(jié)還在撒紅包搶AI入口，現(xiàn)在重心都轉(zhuǎn)向了“龍蝦”，為什么這么積極？

田豐：一類是賣(mài)算力的云廠商，另一類是賣(mài)Tokens的AI模型公司。原來(lái)智能體解決不了workflow的閉環(huán)，但“龍蝦”可以直接本地部署，且開(kāi)源，AI企業(yè)也愿意跟自己的大模型去結(jié)合，賣(mài)出更多token，都對(duì)商業(yè)價(jià)值有正向幫助。

陳煥：現(xiàn)在全球?yàn)锳I付費(fèi)的人可能不到5%，很多人覺(jué)得免費(fèi)用AI，就可以搞定很多問(wèn)題。但真正用了“龍蝦”的人，會(huì)感受到這是一次很大的飛躍。

這波讓很多模型廠商或做應(yīng)用的人，看到了希望，就是通過(guò)這種超級(jí)應(yīng)用、超級(jí)Agent可以讓老百姓為AI掏錢(qián)，這對(duì)整個(gè)產(chǎn)業(yè)發(fā)展非常重要。

搜狐科技：能養(yǎng)起來(lái)是基礎(chǔ)，如何安全養(yǎng)可能更重要，“龍蝦”帶來(lái)了哪些安全風(fēng)險(xiǎn)？

田豐：AI安全或者智能體安全，和傳統(tǒng)的網(wǎng)絡(luò)安全、數(shù)據(jù)安全完全不一樣，總體有三類新風(fēng)險(xiǎn)。

第一類是提示詞注入風(fēng)險(xiǎn)，“龍蝦”分不清哪些是內(nèi)容，哪些是命令，可能就會(huì)泄密。

第二種是技能污染。現(xiàn)在SkillHub上技能的增長(zhǎng)速度遠(yuǎn)遠(yuǎn)快于安全審核的速度，很多skill被黑客放了木馬，“龍蝦”用了之后甚至能把安全日志刪掉。

第三種是應(yīng)用端和用戶端的風(fēng)險(xiǎn)。很多用戶覺(jué)得要想讓“龍蝦”干更多活兒，得給足夠的權(quán)限，甚至是系統(tǒng)權(quán)限，過(guò)度放權(quán)很危險(xiǎn)，如重要文件被批量刪除等。

搜狐科技：Meta對(duì)齊總監(jiān)發(fā)現(xiàn)“龍蝦”在刪除郵件后，發(fā)了停止指令依然停不下來(lái)，感覺(jué)“龍蝦”失控了，這是為什么？

田豐：智能體是有上下文的，上下文有范圍。Meta對(duì)齊總監(jiān)發(fā)了三次停止指令，但是“龍蝦”還在繼續(xù)刪，其實(shí)就是上下文窗口已經(jīng)溢出了，顧不上新的命令，只能拔掉服務(wù)器的電源線。

搜狐科技：國(guó)內(nèi)推出的各種“龍蝦”足夠安全嗎？業(yè)內(nèi)在做哪些安全的探索？

田豐：大廠的“龍蝦”安全，我認(rèn)為做得比較好。如如何避免skill污染？騰訊是直接把外網(wǎng)的skill鏡像到本地，而且經(jīng)過(guò)安全過(guò)濾，相對(duì)安全很多。

現(xiàn)在還出現(xiàn)了AI寫(xiě)的安全審計(jì)skill，就是在裝任何新的skill前，都用安全skill去審核。還有監(jiān)控“龍蝦”的技能，檢查它到底有沒(méi)有過(guò)度占用空間或越權(quán)。幻覺(jué)是大模型固有的，但也可以編skill，讓它去檢查真實(shí)性。

我認(rèn)為最好能形成社會(huì)公共的“龍蝦”防護(hù)社區(qū)，比如skill每個(gè)人都可以提交，審計(jì)之后形成黑名單、白名單，開(kāi)放給所有“龍蝦”，形成立體監(jiān)護(hù)網(wǎng)。企業(yè)再?gòu)?qiáng)，也不可能診斷出所有漏洞，需要白帽、開(kāi)發(fā)者、使用者等各方一起努力。

陳煥：有朋友在做開(kāi)源智能體的安全方案，如發(fā)現(xiàn)“龍蝦”在瘋狂刪郵件，連續(xù)幾分鐘就會(huì)觸發(fā)安全閾值，然后提醒人類玩家，終止進(jìn)程。安全問(wèn)題不可能完全杜絕，但一定會(huì)被控制在相對(duì)可控的范疇內(nèi)。

搜狐科技：我的“龍蝦”闖禍了，如在社區(qū)罵人、泄露秘密，引發(fā)侵權(quán)糾紛，應(yīng)該誰(shuí)來(lái)負(fù)責(zé)？

陳煥：法律向來(lái)有滯后性，新興事物出來(lái)不可能馬上立法，只能從現(xiàn)有法律體系里面去進(jìn)行法律解釋，然后去適用法律。目前“龍蝦”如果出了問(wèn)題，極有可能是使用者承擔(dān)責(zé)任，大家在使用過(guò)程中還是要有這個(gè)意識(shí)。

搜狐科技：很多安全建議非常技術(shù)，能否提供些實(shí)用性的安全“養(yǎng)蝦”建議？

田豐：不管本地云端，都不要把敏感的數(shù)據(jù)，尤其是支付有關(guān)信息，如銀行賬號(hào)、密碼給“龍蝦”。任何時(shí)候都不要給它全部的系統(tǒng)權(quán)限，尤其刪除權(quán)限、系統(tǒng)根管理權(quán)限不能給。

個(gè)人日常用，建議用大廠的云端“龍蝦”。大廠的安全防護(hù)機(jī)制相對(duì)較好，權(quán)限安全配置等方面都有做，模型的安全漏洞也相對(duì)少。

本地部署如果連入公網(wǎng)，要裝“龍蝦”衛(wèi)士、安全插件等，而且最好用舊設(shè)備，本機(jī)所有東西要做好備份。現(xiàn)在“龍蝦”也在接入硬件，不要把攝像頭接進(jìn)去，可能會(huì)侵犯隱私。

陳煥：如果零技術(shù)基礎(chǔ)，沒(méi)有必要用本地部署。如果非要，一定要用備用機(jī)，可以先考慮在云電腦、云服務(wù)器部署，就是在沙盒環(huán)境中去用。這也能發(fā)揮很大部分能力，只不過(guò)不像本地有那么多的文件去調(diào)用。

從使用層面講，要有數(shù)據(jù)分類分級(jí)的觀念。無(wú)論本地云端，個(gè)人隱私、密碼密鑰、商業(yè)秘密等一定不能給。當(dāng)猶豫該不該給的時(shí)候，通常就是不應(yīng)該。但如果還想這么做，那就做好脫敏工作。不能因?yàn)檎f(shuō)很危險(xiǎn)就不用，或者圖便利就不管安全，不要有這種二元對(duì)立的思維。

搜狐科技：要想發(fā)揮出“龍蝦”的能力，可能就需要給更高的權(quán)限，如何確認(rèn)是給還是不給呢？

田豐：總體堅(jiān)持最小權(quán)限原則。每只“龍蝦”只給這個(gè)場(chǎng)景或任務(wù)的限定權(quán)限，就像三權(quán)分立。大廠也在研發(fā)“龍蝦”的權(quán)限管理系統(tǒng)、龍蝦邊緣防火墻系統(tǒng)，目前開(kāi)源龍蝦的命令行手動(dòng)設(shè)置權(quán)限對(duì)很多用戶還是不友好。

陳煥：不要為圖方便，給“龍蝦”很多權(quán)限甚至全部權(quán)限，要有分權(quán)制衡的原則。當(dāng)它申請(qǐng)權(quán)限時(shí)，要了解是什么功能。如果不懂，可以問(wèn)AI，避免它超越必要范圍去申請(qǐng)權(quán)限。

搜狐科技：有人認(rèn)為“龍蝦”就是病毒，也有人認(rèn)為是生產(chǎn)力革命，如何看待它的價(jià)值？

陳煥：學(xué)任何東西都一樣，要有builder的心態(tài)，不要覺(jué)得它是高高在上的東西。可以通過(guò)教程，去問(wèn)AI，邁出用的第一步。

現(xiàn)在不少機(jī)構(gòu)禁用，可以理解，但不符合趨勢(shì)。禁令只是階段產(chǎn)物，就像ChatGPT出來(lái)后也被禁用過(guò)，但技術(shù)浪潮不會(huì)因此被阻擋。

田豐：“龍蝦”就像是福特T型車(chē)的自動(dòng)化生產(chǎn)線，而且開(kāi)源免費(fèi)，每個(gè)人都能玩，帶來(lái)了平權(quán)，會(huì)逐步成為智能體物聯(lián)網(wǎng)中真正的生產(chǎn)力革命。

我預(yù)計(jì)今年下半年將會(huì)出現(xiàn)更令人震驚的模型，未來(lái)還會(huì)指數(shù)級(jí)發(fā)展，再過(guò)三四年就會(huì)出現(xiàn)各個(gè)領(lǐng)域都是博士水平的大模型。套殼變成“龍蝦”后，會(huì)比大部分人都要聰明。

要盡早去用“龍蝦”、AI編程等，不用損失更大。3到5年之后，不會(huì)用“龍蝦”或智能體，相當(dāng)于文盲，相當(dāng)于不會(huì)用手機(jī)。

未來(lái)每一個(gè)人都是builder，只要有想法，就可以構(gòu)建起想要的應(yīng)用。現(xiàn)在寫(xiě)程序就跟說(shuō)話一樣，對(duì)文科生來(lái)說(shuō)，AI時(shí)代會(huì)是一個(gè)重大紅利。

運(yùn)營(yíng)編輯 |曹倩審核｜孟莎莎