![]()
2023年GPT-4剛發(fā)布那會(huì)兒,全網(wǎng)都在傳"自主智能體要搶飯碗了"。AutoGPT和BabyAGI的演示視頻滿天飛,會(huì)議室里人人表情凝重,像在看末日預(yù)告片。結(jié)果三周后話題徹底涼透——那些 demo 漂亮,真用起來(lái) hallucination(幻覺(jué))多到讓人懷疑人生。
整整三年過(guò)去,同一批人又在 Twitter 上討論同一件事。這次主角換成 OpenClaw,底層換成了 Claude Opus。模型確實(shí)穩(wěn)多了,幻覺(jué)少了,生態(tài)也成熟了。它能動(dòng)你的本地文件、終端、瀏覽器、Gmail、Slack,甚至家里的小米音箱。
最諷刺的是時(shí)間線:AutoGPT 火了三周,OpenClaw 已經(jīng)燒了一個(gè)月還在燒。燒到 OpenAI 直接 acquihired(收購(gòu)式雇傭)了它的核心開(kāi)發(fā)者 Peter Steinberger——那個(gè)被叫做"一人獨(dú)角獸"的家伙。
但每份禮物都標(biāo)好了價(jià)格。這玩意兒能干活,也能干壞事。
「Navi」的早晨:一個(gè)產(chǎn)品經(jīng)理的自動(dòng)化幻覺(jué)
Macstories 的 Federico Viticci 寫(xiě)了段讓人脊背發(fā)涼的開(kāi)場(chǎng)白:
「過(guò)去一周,我的數(shù)字助手知道我的名字、我晨間流程的偏好、我用 Notion 和 Todoist 的習(xí)慣,還能控制 Spotify、Sonos 音箱、飛利浦 Hue 燈,以及我的 Gmail。它跑在 Anthropic 的 Claude Opus 4.5 上,但我用 Telegram 跟它聊天。我叫它 Navi,它甚至能用 ElevenLabs 最新的語(yǔ)音模型給我發(fā)語(yǔ)音回復(fù)。哦對(duì)了,Navi 能自己給自己加功能,跑在我家的 M4 Mac mini 服務(wù)器上。」
這段描述的信息密度高到讓人窒息。不是"能訂個(gè)鬧鐘"那種助理,是知道你 Spotify 歌單里哪首適合加班、能根據(jù)郵件內(nèi)容自動(dòng)回 Slack 確認(rèn)會(huì)議、順便把客廳燈調(diào)成暖黃色的那種。
Viticci 的原話是:「如果這段介紹讓你脖子閃了,想想我第一次啟動(dòng)它時(shí)的反應(yīng)。」
這就是 OpenClaw 的賣點(diǎn):把 2023 年那個(gè)"未來(lái)已來(lái)"的幻覺(jué),變成了每天早上真的會(huì)發(fā)生的事。
權(quán)限的邊界在哪里?沒(méi)人畫(huà)這條線
OpenClaw 的架構(gòu)決定了它必須貪婪。要"自動(dòng)"處理 Gmail,就得讀所有郵件;要"智能"安排日程,就得訪問(wèn)整個(gè)日歷;要"貼心"控制智能家居,就得連上你家的內(nèi)網(wǎng)。
原文作者打了個(gè)比方:你醒來(lái)發(fā)現(xiàn)所有收件箱清空、會(huì)議排好、周末機(jī)票訂完、Alexa 在放《Every Breath You Take》——"I'll be watching you"那句歌詞是故意寫(xiě)的。這個(gè) pun(雙關(guān))藏了整篇文章的真正論點(diǎn):你給了它多少方便,就給了它多少把柄。
2023 年的 AutoGPT 也想做這些,但模型太蠢,經(jīng)常把"整理桌面文件"理解成"刪除桌面文件"。Claude Opus 4.5 的幻覺(jué)率確實(shí)低了,但"正確執(zhí)行"和"安全執(zhí)行"是兩件事。它能準(zhǔn)確識(shí)別出哪封郵件該回,也能準(zhǔn)確識(shí)別出你的銀行卡驗(yàn)證碼在哪封郵件里。
更麻煩的是自我改進(jìn)能力。Viticci 提到 Navi 能"給自己加功能"——這意味著代碼執(zhí)行權(quán)限 + 網(wǎng)絡(luò)訪問(wèn)權(quán)限 + 自我修改權(quán)限的三重疊加。傳統(tǒng)軟件工程的鐵律是"最小權(quán)限原則",OpenClaw 的設(shè)計(jì)哲學(xué)似乎剛好相反。
Steinberger 被招安之后,開(kāi)源社區(qū)在賭什么
Peter Steinberger 被 OpenAI 收編是個(gè)微妙信號(hào)。這人之前是獨(dú)立開(kāi)發(fā)者里的異類,一個(gè)人搞出估值過(guò)億的工具類產(chǎn)品。OpenAI 的 acquihire 通常意味著"這項(xiàng)技術(shù)我們要收進(jìn)圍墻",但 OpenClaw 的代碼已經(jīng)開(kāi)源,生態(tài)已經(jīng)擴(kuò)散。
社區(qū)現(xiàn)在的賭法是:OpenAI 想要的是 Steinberger 的 agent 工程經(jīng)驗(yàn),用來(lái)補(bǔ)自家產(chǎn)品的短板。但 OpenClaw 作為一個(gè)開(kāi)源項(xiàng)目,可能會(huì)像 Stable Diffusion 那樣,大公司收編核心人物,社區(qū)版本繼續(xù)野蠻生長(zhǎng)。
這種分裂有好有壞。好的是創(chuàng)新速度不會(huì)被單一公司卡住;壞的是安全責(zé)任也被分?jǐn)偟經(jīng)]人負(fù)責(zé)。當(dāng) Navi 這類助手真的誤刪了用戶數(shù)據(jù),或者更糟——被提示詞注入攻擊后轉(zhuǎn)發(fā)了敏感郵件——受害者該找 Anthropic、找 OpenClaw 社區(qū)、還是找那個(gè)跑在自己 Mac mini 上的代碼?
原文作者的態(tài)度很直白:「我個(gè)人不喜歡它,也沒(méi)看到它的前景,或者可能我只是個(gè)打工人心態(tài)。」這句自我調(diào)侃藏了層意思:當(dāng)你沒(méi)有財(cái)務(wù)自由到需要"數(shù)字管家"時(shí),很難理解為什么有人愿意把 Gmail 密碼交給一個(gè) Telegram 機(jī)器人。
workaround 指南:如果你非要跳這個(gè)坑
文章后半段給了些妥協(xié)方案,本質(zhì)是"用閹割版換安全感":
沙箱環(huán)境是底線。別讓它直接跑在主力機(jī)上,Docker 容器或者獨(dú)立虛擬機(jī)是必需的。Viticci 用 M4 Mac mini 當(dāng)服務(wù)器是聰明做法——物理隔離意味著即使 Navi 發(fā)瘋,損失的也只是那臺(tái)機(jī)器。
權(quán)限分級(jí)要手動(dòng)做。別給統(tǒng)一的 API key,每個(gè)服務(wù)單獨(dú)授權(quán)、單獨(dú)撤銷。Gmail 用只讀權(quán)限起步,日歷只給查看不給編輯,智能家居只連非關(guān)鍵設(shè)備。
最關(guān)鍵的一條原文沒(méi)明說(shuō)但藏在了字里行間:別讓它碰錢。航班可以訂,但別給支付權(quán)限;郵件可以讀,但別給發(fā)送權(quán)限;Spotify 可以切歌,但別給家庭組管理權(quán)限。自動(dòng)化是效率工具,不是信托基金。
作者最后補(bǔ)了句冷幽默:「如果你真的 motivated(有動(dòng)力)用這技術(shù),以上方法能幫你降低風(fēng)險(xiǎn)。」motivated 這個(gè)詞選得刻薄——暗示正常人會(huì)因?yàn)榭謶侄h(yuǎn)離,只有被效率焦慮逼瘋的產(chǎn)品經(jīng)理才會(huì)硬上。
2023 年 AutoGPT 的失敗給了行業(yè)三年緩刑期。現(xiàn)在緩刑到期,模型能力追上了當(dāng)初的野心,但安全基建沒(méi)有。OpenClaw 是份測(cè)試卷:它問(wèn)的不是"AI 能做什么",而是"你愿意為少點(diǎn)幾下鼠標(biāo),承擔(dān)多少不可控的風(fēng)險(xiǎn)"。
Viticci 的 Navi 還在他的 Mac mini 上跑著,每天早上給他放歌、回郵件、調(diào)燈光。那個(gè)《Every Breath You Take》的玩笑,到底是作者的雙關(guān),還是 Navi 自己選的?
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.