北京
出品 | 網(wǎng)易智能
作者 | 小小
編輯 | 王鳳枝
裝了“小龍蝦”的你，現(xiàn)在還在用嗎？
上個月，OpenClaw在中文互聯(lián)網(wǎng)突然爆火。很多人第一次把這個AI智能體裝上電腦，看它接管文件、調(diào)用工具、自動干活，仿佛“個人AI助手”一下子真的落地了。直到今天，仍然有不少人在繼續(xù)使用。
但就在這個節(jié)點，OpenClaw創(chuàng)始人彼得·斯坦伯格卻在近期《AI Engineer》播客中坦言：它現(xiàn)在非常不安全。
這種不安全，并不只是某個單點漏洞的問題，而更像是一次被超高速增長拖出來的治理危機。五個月，近2000名貢獻者，超過1100份安全公告，平均每天16.6份漏洞報告。更麻煩的是，其中還夾雜著大量由AI工具批量生成的低質(zhì)量報告。項目越火，噪音越多，真正危險的問題反而越難被及時識別。
為了應(yīng)對這種史無前例的“飽和式漏洞轟炸”，英偉達、微軟，以及中國市場的騰訊、字節(jié)跳動紛紛派出正規(guī)軍進駐基金會，協(xié)助進行安全加固。同時，針對斯坦伯格本人入職OpenAI后引發(fā)的“開源項目將被大廠收編”的擔憂，他也正式澄清：OpenAI并未收購OpenClaw，他正試圖將其打造成絕對中立的開源生態(tài)。
某種意義上，OpenClaw的問題不是它太弱，而是它長得太快了。一個月前，人們還在為“個人AI助手”終于落地而興奮；一個月后，現(xiàn)實已經(jīng)追上來提醒所有人：真正困難的，從來不是把它做出來，而是讓它在真實世界里安全地活下去。
以下為斯坦伯格演講及問答全文：
大家早上好！Swyx邀請我來做個“Claw現(xiàn)狀”匯報。先問一下，現(xiàn)在誰在用OpenClaw？舉下手。大概30%到40%，非常好。
項目現(xiàn)在運行大約五個月了。公平地說，到現(xiàn)在為止，我們應(yīng)該是GitHub歷史上增長最快的項目。一般項目的增長曲線像曲棍球桿，但我們這條幾乎是一條直線。有個朋友開玩笑說，這叫“鋼管舞桿式增長”。
這也帶來了問題。目前我們的GitHub星標數(shù)量應(yīng)該是所有軟件項目里最多的。當然，有幾個項目比我們大，但基本都是教育類的。其他軟件項目沒有達到這個體量的。我們有接近3萬次提交，馬上有2000名貢獻者，接近3萬個PR，而且趨勢沒有放緩。看曲線還在往上走，增長勢頭還不錯。
01 管理挑戰(zhàn)與OpenClaw基金會
但這不容易。我之前經(jīng)營過公司，當時想的是不想再經(jīng)歷一次了，就去了OpenAI。結(jié)果后來又做了OpenClaw基金會，現(xiàn)在等于打兩份工。運營基金會像是在“困難模式”下做公司，既要處理所有該操心的事，還有很多志愿者，你沒法直接指揮。
所以我的目標之一是解決“巴士因素”（編者注：bus factor，指關(guān)鍵人員缺失導(dǎo)致項目停擺的風險），也就是誰來負責代碼提交的問題。現(xiàn)在情況在慢慢好轉(zhuǎn)，但還沒完全解決。
過去幾個月我和很多公司聊過。英偉達有人加入進來，微軟的人幫我們處理MS Teams和Windows應(yīng)用相關(guān)的事情，紅帽的人在安全和Docker化上幫了大忙。我也跟不少中國公司合作，騰訊和字節(jié)跳動的人都在參與。他們在實際使用中的規(guī)模比其他任何大洲都大。
02 處理安全公告和漏洞
主要想說的是：OpenClaw非常不安全。你們可能見過那些表情包，比如“OpenClaw引狼入室”，還有英偉達做NemoClaw，各家都有自己的“小龍蝦”。
你們可能也注意到，過去兩三個月發(fā)布版本時老出問題。我基本被安全公告淹沒了。到現(xiàn)在一共收到1142個安全公告，平均每天16.6個。其中99個是嚴重的。我們發(fā)布了大約469個，關(guān)閉了其中60%。
這個數(shù)字聽起來很嚇人。對比一下，Linux內(nèi)核每天大概收到八九個安全公告，我們是它的兩倍。cURL整個項目歷史一共收到600個報告，我們已經(jīng)是它的兩倍。
所以每次發(fā)生安全事件，規(guī)律是：對方喊得越嚴重，是垃圾的可能性越大。你們可能也看到新聞，我們正在快速進入一個時代，所有AI工具都非常擅長識別各種奇怪的、多環(huán)節(jié)的漏洞，它們會攻破幾乎所有現(xiàn)有軟件。
舉個例子。英偉達推出了NemoClaw，是為OpenClaw做的一個安全層插件。我把它接入了Codex的安全系統(tǒng)，大概半小時內(nèi)就找到了五種不同方法突破他們的沙盒。原因是你用那個產(chǎn)品時，可以訪問一個未被削弱、在網(wǎng)絡(luò)安全方面更強的模型；公眾拿不到這種版本。那個模型在網(wǎng)絡(luò)攻擊方面比公眾能接觸到的要聰明得多。對，因此它很危險。
但話說回來，對這個行業(yè)里很多人來說，這就像是積分。他們發(fā)現(xiàn)的問題越多，積分就越多。所以O(shè)penClaw就像一個大家都想攻破的不安全產(chǎn)品，有幾百個人在跑他們的“Clanker（編者注：《星球大戰(zhàn)》中作為對機器人的蔑稱）”試圖攻破我們。
典型的攻擊面包括遠程代碼執(zhí)行、繞過審批、代碼注入、路徑遍歷（Path Traversal）。這些聽著都很危險。我舉一個具體例子。有一個CVSS（編者注：Common Vulnerability Scoring System，通用漏洞評分系統(tǒng)）評分為10的漏洞，這是最嚴重的那檔。問題是：如果你同步一個我們還在開發(fā)中的iPhone應(yīng)用，并且只給它閱讀權(quán)限，你還是可能破壞系統(tǒng)，進而拿到寫入權(quán)限。
這個漏洞確實嚴重。但在所有實際場景里，它甚至算不上一個事件。因為典型用法是你把OpenClaw裝在自己的機器上，不管是在云端還是Mac mini上，但99%的情況下，你要么能訪問自己的網(wǎng)關(guān)，要么不能。
為我自己辯解一句，這是我的錯。我試圖做一個權(quán)限更寬松的模型。比如你有一些針對特定語音的設(shè)備，它們只想讀取某些東西，確實存在一些用例，用一個降權(quán)后的系統(tǒng)是有意義的。但根本沒人這么用。
但這不重要，因為制定CVSS分數(shù)的規(guī)則不考慮這些。我得遵守規(guī)則，所以它確實是10分。全世界都在為一些實際中不影響大多數(shù)人的事情發(fā)瘋。
但也有一些事確實會影響很多人。比如“Ghost Claw”，就是用不同的NPM包迷惑人，你訪問了惡意網(wǎng)站并嘗試下載，就會拿到一個rootkit（編者注：能獲取系統(tǒng)最高權(quán)限的工具集）。這超出了我們能控制的范圍，其他項目也會遇到。
還有Axios供應(yīng)鏈投毒事件。有意思的是，我們自己沒用Axios，但我們依賴MS Teams或Slack，它們用了Axios并且沒鎖定版本。供應(yīng)鏈攻擊就是這么來的，我們也被波及了。
03 錯誤信息和媒體的危言聳聽
你怎么扛住1142個漏洞的攻擊？有段時間我試圖一個人處理所有事情，完全不可能。所以最快的辦法是從公司那里得到幫助。英偉達在這方面做得很好，他們派給我們一些人，基本上全職幫我們篩選那些垃圾報告，并加固代碼庫。
另外，很多公司在制造恐慌，不只是公司，還有大學。不知道你們有沒有看到。有一篇論文叫《混沌代理人》，說的是通用智能體，但里面有四頁極其詳細地講了OpenClaw的架構(gòu)。可他們根本沒提我們的安全頁面，我們在那里解釋了應(yīng)該怎么安裝。因為提了就沒意思了，就很難編一個好故事。
他們反而做的是，忽略我們給的所有安全建議。我們的建議是：這是你的個人智能體，不要放到群聊里，如果非要放，就打開沙盒模式。因為任何人只要能和你的智能體對話，就能偷走智能體能接觸到的任何信息。所以如果是團隊智能體，它應(yīng)該只知道團隊該知道的信息，不要接觸任何秘密數(shù)據(jù)。你要限制它。如果是個人智能體，只有你能跟它說話。
但如果你不遵守這些規(guī)則，就可能出現(xiàn)很有意思的互動，比如：“嘿，我能跟你的智能體說話，它能破壞你的系統(tǒng)。”后來我追問他們怎么操作的，對方告訴我：“哦，我們是在sudo模式下跑的，因為我們希望智能體有最大權(quán)限。”他們確實是在對抗配置。跑sudo模式其實不容易，得改代碼。但報告里沒提這點，因為提了就沒關(guān)注度了。
我現(xiàn)在的挫敗感是，有整整一個行業(yè)想把項目往負面方向上帶，說它是個噩夢、默認就不安全、不可接受。但與此同時，很多人喜歡它，那些真正讀過安全文檔的人知道，可以正常用。
我找到一個特別好的例子。我們有個遠程代碼執(zhí)行漏洞，把比利時嚇壞了。比利時的網(wǎng)絡(luò)安全部門發(fā)了一份關(guān)于遠程執(zhí)行環(huán)境的報告，而整個漏洞其實是一個特性：惡意網(wǎng)站可以創(chuàng)建一個鏈接，觸發(fā)你的網(wǎng)關(guān)，然后轉(zhuǎn)發(fā)網(wǎng)關(guān)Token。但如果你用默認且推薦的設(shè)置，網(wǎng)關(guān)Token只在本地有效，或者最多在你的私有網(wǎng)絡(luò)里，沒有任何外部網(wǎng)站能實際訪問它。如果你主動對抗設(shè)置，比如不看文檔就直接用Claude Code去配置它，也許能讓它工作。但再次強調(diào)，這不是我們在網(wǎng)站上教的做法。
說實話，風險確實存在。最大的風險是法律上的“三重困境”。任何能訪問你的數(shù)據(jù)、能訪問不受信任內(nèi)容、還具備通信能力的智能體系統(tǒng)，都是有潛在風險的。這不只是OpenClaw的問題。任何強大的智能體系統(tǒng)都有這個問題。你讓它越強，它能為你做的事就越多，但你也需要更深入地去理解它在做什么。這是核心問題，但大家不去談它。
04 開源維護的負擔
然后還有維護的事情。問題是，當你收到這么多安全公告，你知道大多數(shù)是智能體生成的，但你仍然得用自己的腦子去讀，因為我們還沒到能完全信任智能體處理的程度。這在時間上是巨大負擔，而且你永遠不知道。我的意思是，有時候你也能猜出來，凡是寫得太客氣或者還道歉的報告，很可能是AI寫的，因為搞安全的人一般不會道歉。
這是個很大的問題。我看到越來越多的開源項目在抱怨這個，或者因此撐不住。有些項目很公開地講這事，比如ffmpeg。通常你收到報告，很少能同時收到修復(fù)方案。如果真的一起來了，那個修復(fù)方案往往非常糟糕。如果你倉促行事，像我一開始有段時間那樣，因為負擔太重，幾乎一定會把產(chǎn)品搞壞。
所以，光靠志愿者做這個非常困難。
05 OpenAI的參與和未來的獨立性
那我們正在做什么呢？有人說OpenAI收購了OpenClaw，這不是真的。他們可能買走了我的soul.md（編者注：調(diào)侃個人意志的文件）。但他們很明白，為了滿足世界的需要，需要有更多人玩轉(zhuǎn)AI，去理解AI能做什么，既要理解風險，也要理解可能性。他們明白，如果有人在從沒玩過、從沒用過AI的情況下，突然在家里用上了OpenClaw，他們回到公司后會問：為什么我們工作的地方?jīng)]有AI？
所以他們很明白，支持這個項目很有用。而且為了讓項目成功，它不能隸屬于某一家公司。所以我通過OpenClaw基金會來建一個中立的“瑞士”。最后卡住我們的是美國的銀行系統(tǒng)，有點慢，而且你如果不是美國人，他們會非常困惑。這個基金會的模式借鑒了Ghostty（編者注：開源終端模擬器）。
這樣我們就能雇傭全職的人，既能跟上節(jié)奏、提高質(zhì)量，也能把我的一些時間解放出來，讓我能回去做點有意思的事。
以上就是“Claw現(xiàn)狀”的快速更新，后面我還會參加問答環(huán)節(jié)。謝謝！
06 觀眾問答環(huán)節(jié)
問：你轉(zhuǎn)發(fā)過一條推文，說“把關(guān)于Closed Claw的問題都發(fā)過來”。很多人對OpenClaw在OpenAI內(nèi)部的未來有疑問。大家都在說“Closed Claw”，你怎么回應(yīng)？
斯坦伯格：我其實沒想過這個問題，這是我去OpenAI之后才出現(xiàn)的說法。我覺得大家說得有道理，OpenAI過去在開源方面確實做得不算好，但現(xiàn)在變了很多。比如Codex已經(jīng)開源了，他們也發(fā)布了Symfony，這是一個很不錯的編排層。所以他們確實在投入，也理解開源的意義。他們明白OpenClaw必須保持開放，要和各類模型都能配合，不管是大公司的模型還是本地模型。如果更多人愿意花時間去接觸AI，整個行業(yè)都會受益。
你想想，如果一個人本來覺得AI很可怕，結(jié)果玩了OpenClaw之后覺得又有趣又怪，回到公司發(fā)現(xiàn)那里沒有AI工具，他就會去找老板問，為什么我們工作的地方?jīng)]有AI？那些公司可能不會直接跑OpenClaw，但他們會想要托管和管理好的產(chǎn)品，那就有人可以賣那種產(chǎn)品了。所以他們很支持這個項目，也給我提供資源。實際上，我確實可以調(diào)用更多OpenAI的人來幫忙，但那樣會讓人覺得他們可能已經(jīng)接管了這個項目，我不想那樣。所以我拉了英偉達的人進來，還有微軟、Telegram、Salesforce的人。特別感謝Slack的那幾位，現(xiàn)在我們有人專門維護Slack的插件。
騰訊、字節(jié)跳動也加入了。我們還和阿里巴巴、Minimax、Kimi都聊過，各家模型提供商都很支持。英偉達幫了很大的忙，他們派來的工程師有自主權(quán)，來了就直接做事。現(xiàn)在我有這么多公司的人在幫忙，我也從OpenAI帶了幾個來協(xié)助維護，因為這個項目的節(jié)奏實在太快了。你需要一支“軍隊”，我正在努力組建。但你看那個貢獻者圖表就知道，很難留住高質(zhì)量的貢獻者。你的維護者總是被別人挖走，然后你又得找新人。
問：很多人問本地模型和開放模型的事。并不是整個技術(shù)棧都是開放的，有些模型你訪問不到模型本身，還有些奇怪的限制。開放和本地模型對OpenClaw的未來有多重要？
斯坦伯格：我做OpenClaw的部分動機是，看到那些大公司都有連接到Gmail的連接器，然后我的郵件存在某處，那家公司就能完全訪問我的郵件，我才能換來一點點自動化。我更興奮的是，我自己控制所有數(shù)據(jù)，只有在需要頂級能力的時候才上傳一點點數(shù)據(jù)，并且有一個分層的后備模型體系。我骨子里是歐洲人，希望擁有自己的數(shù)據(jù)。但沒人做這個。對我來說，這很有吸引力。
另外還有一個事實：如果你是一家初創(chuàng)公司想連Gmail，得花半年時間，過程非常非常難。但我作為一個消費者，我的Clanker可以點任何網(wǎng)站，它會很愉快地去點“我不是機器人”。如果你必須用某種方式給我數(shù)據(jù)，那我的智能體就能拿到數(shù)據(jù)。所以你可以繞過那些大公司建的很多“數(shù)據(jù)孤島”，最后能做出那些大公司永遠做不到的更酷的自動化用例。這有點像黑客的做法。
問：OpenAI團隊對“GPT OSS”有什么消息嗎？那項工作會繼續(xù)和OpenClaw保持一致，還是分開的？
斯坦伯格：我不在那個位置，沒法給你這方面的見解。但OpenClaw帶來的一個效應(yīng)是，公司內(nèi)部有更多人開始對開源感到興奮了。我很高興OpenAI在往更開放的方向走。你跟另一個以A開頭的頂級實驗室比比，那家會非常積極地起訴你，如果你泄露了他們的任何源代碼，或者你太成功了他們就會封你。我覺得OpenAI走的路是對的。
問：大家很喜歡聽你的編碼工作流。你那個“提示詞請求”而不是“拉取請求”的想法已經(jīng)挺出名了。你在OpenAI花token的方式也讓大家很震驚。所以大家想知道你是怎么發(fā)布的，以及你怎么處理智能體的等待時間。你為什么同時跑那么多智能體？
斯坦伯格：我知道，我也沒想到那張照片會引起那么大反應(yīng)。說幾個數(shù)字吧。有段時間我同時跑將近10個會話，尤其是用Codex的50/51版本時，那個版本很慢。現(xiàn)在我得說，情況還是有點怪，但我們做了改進，讓它更快了，也有了快速模式。我現(xiàn)在典型的工作流大概是那個數(shù)量的一半，五六個窗口，不是翻倍，因為每個循環(huán)更快了，而且我同步給工作線程的工作量基本沒變。所以我不需要再用那么多分屏了。我覺得未來token會越來越快，到某個時候，同時處理六件事就不再是必要的了。這基本上是在模型變快之前的變通辦法。
問：我做過一件有趣的事，把你和Ryan放在一起，看你們倆怎么處理“token最大化”的問題。我很好奇你對完全的“暗工廠”方法怎么看，就是連合并進去的代碼都不審查。
斯坦伯格：我覺得這越來越可行了。但你也知道，當我在某種意義上“暗工廠”也意味著我在一開始就想好了所有要構(gòu)建的東西，我只是不覺得你能用那種方式做出好軟件。通往山頂?shù)穆窂膩聿皇侵钡模芮邸Ｓ袝r候你會偏一點，然后看到新東西，得到靈感，找到捷徑。等你到了山頂，你可以找到最佳路徑，但你從來不是那樣走路的。
同時，你對項目的第一個想法，極不可能是最終的項目。如果我再用瀑布模型，那就會是最終的項目。對我來說那行不通。我喜歡一步步構(gòu)建，邊玩邊看感覺，獲得新想法，我的提示詞也會變。所以這是一個迭代很快的方法。我不覺得你能完全自動化那一切。你當然可以為某些事情建流水線。但即使是對PR來說，你也不只是想建一個只管合并PR的流水線，因為很多PR根本沒什么意義，人們會把你的產(chǎn)品往各種方向帶。如果你自動化了那個過程，AI極不可能知道正確的方向是什么。你可以引導(dǎo)它。我有一個愿景文檔，我也試過一些方法，但瓶頸仍然是“思考”和擁有“品味”。
問：“品味”很重要，你怎么定義“品味”？
斯坦伯格：我跟人聊的時候，每個人都明白“品味”是護城河，但沒有人同意到底什么是好的“品味”。最低層次的品味，我覺得是它沒有那種“AI味”。你懂我的意思，如果某樣東西的寫作風格、個性，甚至用戶界面（現(xiàn)在你已經(jīng)看過太多AI生成的界面了），你會立刻知道這是不是AI生成的。比如左邊或右邊有彩色邊框，有段時間是紫色漸變。但更多的是，這就像一種感覺，你能立刻識別出AI生成的“垃圾”。這就是為什么我說它像一種“品味”，即使你具體說不出來，你就是知道。那可能是對“品味”最低層次的描述。再往上，因為現(xiàn)在這么多軟件都可以自動化了，你實際上有更多時間可以花在那些小細節(jié)上。比如說，你運行OpenClaw的時候，會收到一條提示信息，有時候調(diào)侃一下用戶。那些細節(jié)，如果你只是高層地提示，是不會得到的。
問：我最喜歡你體現(xiàn)“品味”的一點是，你在soul.md上投入了大量工作，而且你開源了你的方法。我覺得在你出現(xiàn)之前，大家沒有在“靈魂”上花足夠多的功夫。我有個播客，還沒錄，還沒發(fā)布，嘉賓是米哈伊爾·帕拉欣（Mikhail Parakhin），他現(xiàn)在是Shopify的CTO，但他曾經(jīng)領(lǐng)導(dǎo)過必應(yīng)團隊，Sydney就是那個最早出現(xiàn)的、有點不對齊的聊天機器人。我覺得當聊天機器人有個性的時候，大家會玩得很開心。你的Clanker會有不同的“癖好”。
斯坦伯格：那是因為世界變了。2023年和2024年我們有了ChatGPT，我們有了AI卻不理解AI能做什么。所以我們重新造了一個谷歌，你有一個搜索框，得到一個回復(fù)，你并不期待谷歌有個性。但現(xiàn)在我們更多地轉(zhuǎn)向智能體。比如，如果我一開始沒想過WhatsApp中繼，只是把它接到Claude Code上，然后在WhatsApp上用的時候，我就覺得哪里不對。即使Claude Code已經(jīng)有一些個性，但它并不真正符合人們在WhatsApp上給你寫信的方式。我的整個迭代就是這樣開始的。這又是關(guān)于品味，對吧？感覺不對。太啰嗦了，句號太多了。我朋友的短信不是那樣的。然后我就開始調(diào)試。他們說：“不對，試著寫得更像人一點。”對，我實際上用著“像龍蝦一樣寫作”的系統(tǒng)提示詞。
問：你知道，我最喜歡你的一句話是“帶一點科幻小說味道的瘋狂”。我覺得并不是所有AI項目都這樣，但特別是像OpenClaw這樣的東西，永遠不可能來自一家美國公司，因為它早在發(fā)布之前就會被法務(wù)團隊掐死，因為它有一些我們作為一個行業(yè)還沒有真正解決的問題。現(xiàn)在我們有一些緩解措施，情況在好轉(zhuǎn)，模型也變好很多。但我不覺得任何大型實驗室能發(fā)布那個東西。反對的聲音會太大，而且也沒有足夠的市場證明這是大家想要的。所以它必須由像你這樣的外部人士來做。
斯坦伯格：我剛開始做的時候想的是：“哦，最壞能怎么樣？”它可能會偷我的token、我的郵件，但里面也沒什么能徹底毀掉我的東西。它可能會上傳我的一些照片。我當時想，最糟糕的東西可能已經(jīng)在網(wǎng)上了，如果你在用Grindr的話。所以我覺得，這個風險我能承受，會不舒服但可控。如果你的公司不一樣，那需要的方法也會不同。
問：說到WhatsApp、Telegram，很多這類文本應(yīng)用，大家也在找下一個形態(tài)，可能是眼鏡、耳機。你希望智能體在你生活中扮演什么角色？你的愿望清單是什么？
斯坦伯格：我其實已經(jīng)開始做那方面的工作了，但后來被所有使用它的人還有日常的瑣事拖住了。但如果你在家里，我希望在任何房間里，就像《星際迷航》里那樣，你可以說“電腦”，我希望不管我在哪里，都能跟我的智能體說話，它應(yīng)該能回應(yīng)我。它應(yīng)該知道我在哪里。我在每個房間都放了小iPad，我的智能體可以用“畫布”功能，把東西投射到那些iPad上。所以如果我問一個問題，這個問題如果也展示一些東西會更容易回答，它可以用離我最近的顯示器，因為它知道我所在的位置。手機只是一個很方便的輸入點，但我想在任何地方跟它說話。如果我戴著眼鏡走來走去，我也應(yīng)該能直接聽到它，并讓它把內(nèi)容投到我眼前。總之，我想要的是那種無處不在、隨身跟著你的智能體。我覺得一旦我們有了真正的智能家居，就像你手機上的智能體，但你真正想要的是無處不在的智能體。然后你可能會有工作中的智能體，可能會有私人智能體。然后那個Claw應(yīng)該能以你們雙方都舒服的方式跟你的個人Claw對話。這是我們未來需要解決的問題。
問：我剛跟Maran Dre做了一個播客，他是OpenClaw的超級粉絲，也跟安德烈·卡帕西（Andrej Karpathy）聊過。他們兩個都在嘗試用OpenClaw打理家里的各種事務(wù)。我覺得OpenClaw用于家庭是一個被低估的用途，但大家確實在發(fā)現(xiàn)它。我覺得最有趣的諷刺是，這之所以可能，只是因為“物聯(lián)網(wǎng)”意味著大多數(shù)智能設(shè)備的安全性都很差，這才讓OpenClaw能控制它們。
斯坦伯格：再過幾個月，等模型再強一些，它會好用得多。
問：有一個關(guān)于安全的問題，提示詞注入。你想怎么解決？或者說，你一直在想哪些方法？
斯坦伯格：可能想得還不夠。但另一方面，前沿模型在檢測那些情況方面確實相當不錯，比如那些隨機從網(wǎng)站或郵件進來的東西，通常已經(jīng)不是問題了。你可以把它標成不受信任的內(nèi)容，很難從里面偷信息。如果有人可以無限制地訪問你的Claw，并且用大量信息轟炸它，那還是有可能。但話說回來，對某些事情來說，它已經(jīng)不是最大的問題了。這也是為什么（你知道這可能是一些人說Peter不喜歡本地模型的角度），但我看到有人跑一個200億參數(shù)的模型，那個模型只做你告訴它的事，而且沒有經(jīng)過任何防御訓練，那還是有問題的。如果你跑那個模型，同時還用網(wǎng)頁瀏覽器或郵件，我會擔心。這就是為什么OpenClaw會警告你如果你用小模型。我知道有人會曲解整個事情，說我們討厭模型。我喜歡我們支持一切，但你需要引導(dǎo)普通用戶一點，讓他們更難搬起石頭砸自己的腳。對提示詞注入有一些想法，只是還有一段距離，我還沒宣布。我覺得西蒙·威爾森（Simon Willison）在這方面做了很多工作，是他創(chuàng)造了“提示詞注入”這個詞，雙LLM的方法看起來很聰明。但我自己不夠聰明，沒法搞清楚所有它可能被攻擊的方式。到某個時候，信任必須成為一件事，對吧？我從跟接下來發(fā)言的Vincent的交談中發(fā)現(xiàn)一個有意思的事，你們不得不實現(xiàn)信任系統(tǒng)，就是你隨著時間建立聲譽，擁有更多信任的東西會獲得更多特權(quán)訪問。我覺得這很有道理，這是解決方案的一部分。
問：等你有更多空閑時間了，你想做什么酷炫的項目？
斯坦伯格：我想做“夢境”相關(guān)的工作，但后來一直被維護工作拖住了，只好先擱一擱。夢境是什么？它是一種整合記憶的方式，有點像做一個“夢境日志”，去過一遍你的會話記錄。我們從Anthropic的源代碼泄露中得知，他們也在做類似的“做夢”機制。我敢肯定還有更多公司在做。但你想一下我們?nèi)祟愂窃趺磳W習的。你白天經(jīng)歷很多事情，然后睡覺，在睡眠里你的大腦會做垃圾回收，把一些短期記憶轉(zhuǎn)成長期記憶，丟掉其他的。我覺得類似的想法對智能體也可能很有用。我們在夢境上發(fā)布的內(nèi)容就是朝著這個方向邁出的第一小步。對，這和卡帕西一直聊的wiki個人知識庫有關(guān)，你把所有東西收進一個wiki里，更多是記憶，但所有東西都有點混在一起。OpenClaw的美妙之處在于我們可以嘗試各種東西。過去幾個月我們做的一切，一開始是一個巨大的意大利面一樣的混亂代碼庫，現(xiàn)在所有東西都是擴展、是插件。所以你可以換記憶模塊，你可以加wiki，你可以加夢境，你可以加我不知道的、你任何瘋狂的想法，把它變成你自己的。你不用把所有東西都通過PR交上來，我們在這方面仍然完全超負荷。但它更像是Linux，你可以裝你自己的部分。
問：很多人覺得你在構(gòu)建自Linux以來最具影響力的開源項目。你怎么應(yīng)對那種名氣？你作為這個項目實質(zhì)上的BDFL（編者注：Benevolent Dictator for Life，終身仁慈獨裁者），你的一天是怎么過的？
斯坦伯格：我很多時候還是在編碼。畢竟總得產(chǎn)出點東西對吧。你得去驅(qū)動智能體。現(xiàn)在情況有點變了，更多的是大量的溝通，把大家引向正確的方向，因為我們在OpenClaw上學到了很多東西。所以我在OpenAI的部分角色是幫他們別再犯同樣的錯誤。而對于OpenClaw，就是去試那些看起來讓人興奮的新東西，有些可能行得通，有些可能行不通。讓公司能構(gòu)建他們自己的Claw，而不用分叉代碼庫，讓一切更可定制化。對，有時候我也睡覺。
問：在AI時代，你希望人類，特別是工程師，專注于發(fā)展哪些技能？
斯坦伯格：“品味”是重要的一個，但我已經(jīng)說過了。系統(tǒng)設(shè)計仍然非常重要。我們在舊金山聊過這個。如果你不考慮這個，你最后會把自己逼到墻角，對吧？就是通過定義邊界。有意思的是，雖然所有東西都在Clanker（智能體）里，但你仍然需要提出正確的問題，這決定了出來的是好代碼還是非常糟糕的代碼。這仍然是你擁有的所有知識，比如怎么構(gòu)建軟件，你可以用這些知識去引導(dǎo)智能體，讓它不走向AI生成的“劣質(zhì)代碼”。還有一個我覺得越來越重要的技能是說“不”。這也是我必須學的。因為就算是最瘋狂的想法，也只需要一個提示詞就能實現(xiàn)。通常，這一個想法從來不是問題，而是這個想法加上那個想法加上那個想法再加上那個想法，以及這些東西怎么組合在一起，這才是問題。我覺得我們?nèi)匀皇芟抻凇八伎肌焙桶盐沾缶值哪芰Α?/b>因為從你的Clanker的角度想象一下世界，你被扔進一個代碼庫。你可能有一個過時的agent.md文件，但你基本上不知道這他媽的是什么。然后你被告知：“嘿，加用戶配置文件”，然后你不知怎么就加了用戶配置文件，并且把它跟你看到的兩件事連起來了，但你沒看到整個系統(tǒng)。很多局部解決方案就是這么產(chǎn)生的，導(dǎo)致你的項目變得一團糟。我們的工作是通過給智能體提供提示來幫它做到最好，比如“嘿，你要不要考慮一下這個？”“你要不要看看那里？”“這會跟那個怎么交互？”最后你才能得到一個實際上是可維護的系統(tǒng)。
主持人：謝謝你維護了有史以來最重要的軟件之一，也謝謝你花時間跟我們聊。
斯坦伯格：謝謝邀請。希望你能留下來回答問題。
本文來源：網(wǎng)易智能
責任編輯：
王鳳枝_NT2541
