![]()
3600億token一年,6個(gè)工程師。這個(gè)數(shù)字組合放在任何AI公司都?jí)蚰Щ谩皇荗penAI,不是Anthropic,是一家?guī)推胀ㄈ碎_(kāi)公司的小團(tuán)隊(duì)Durable。
他們做的事聽(tīng)起來(lái)很虛:讓創(chuàng)業(yè)比打工簡(jiǎn)單。但背后那套技術(shù)選擇,把"小團(tuán)隊(duì)怎么玩大基建"這個(gè)老難題,解出了新答案。
從"死亡工具鏈"到一鍵開(kāi)業(yè)
美國(guó)成年人里60%想當(dāng)老板,真動(dòng)手的只有4%。Durable創(chuàng)始人James Clift的觀察很毒:「小企業(yè)死于工具、登錄、流程、設(shè)計(jì)的一千刀凌遲。」
他們的解法是把開(kāi)公司打包成AI服務(wù):幾分鐘生成網(wǎng)站,自動(dòng)跑SEO,agent處理內(nèi)容和運(yùn)營(yíng)。客戶感知是絲滑體驗(yàn),底層是多租戶平臺(tái)要同時(shí)扛住幾百萬(wàn)個(gè)獨(dú)立業(yè)務(wù)。
scaling階段,自建多服務(wù)的手動(dòng)運(yùn)維成了第二個(gè)產(chǎn)品。小團(tuán)隊(duì)賭了一把:不漸進(jìn)優(yōu)化,直接 consolidation——一個(gè)代碼庫(kù),一個(gè)基建平臺(tái)。
多租戶的坑:你的流量 spike,我的賬單噩夢(mèng)
Durable不是管一個(gè)app,是幾百萬(wàn)個(gè)客戶站點(diǎn)、CRM、agent,每個(gè)流量模式不同。冪律分布來(lái)得很快:少數(shù)客戶 spike 時(shí)能吃掉 disproportionate 算力。
成本隔離、歸因、定價(jià)策略全成了工程難題。技術(shù)負(fù)責(zé)人Khan列過(guò)自建時(shí)的 acute pain-points:
自定義域名和SSL的SaaS規(guī)模成本——光是SSL終止就燒掉幾千美元;多區(qū)域集群維護(hù),基建工程師得跨地理保活;多租戶安全,DDoS攻擊一個(gè)客戶不能拖垮別人;百萬(wàn)租戶的可觀測(cè)性和成本歸因。
![]()
這些不是feature,是基建的 oxygen。自建時(shí)占用了本可以建產(chǎn)品的 bandwidth。
AI從"管道"變"產(chǎn)品":模型編排成了新戰(zhàn)場(chǎng)
agent成為核心后,開(kāi)發(fā)者遇到三個(gè)自建網(wǎng)站平臺(tái)沒(méi)有的問(wèn)題:
模型編排(model orchestration)。需要快速切換模型和供應(yīng)商保可靠、控成本,但不能被長(zhǎng)合同鎖死,也不能每次重構(gòu)系統(tǒng)。
這要求架構(gòu)層有 abstraction,讓業(yè)務(wù)代碼不感知底層換血。Durable的10倍杠桿(10x leverage for every engineer)不是修辭——是組織選擇的技術(shù)后果。
對(duì)比自建,他們的infra成本低了3-4倍。新production agent能做到單日交付客戶。
這個(gè)效率背后有個(gè)反直覺(jué)的選擇:小團(tuán)隊(duì)主動(dòng)放棄 control,換 speed。不是每個(gè)環(huán)節(jié)都自建最優(yōu)解,而是押注 consolidation 的復(fù)利。
Clift說(shuō)過(guò),remove barriers 才能讓老板們 focus on customers。這句話對(duì)內(nèi)部同樣成立:remove infra barriers 才能讓工程師 focus on product。
6個(gè)人扛3600億token的故事,本質(zhì)是個(gè)資源約束下的優(yōu)先級(jí)寓言。當(dāng)大公司還在討論要不要統(tǒng)一技術(shù)棧時(shí),小團(tuán)隊(duì)已經(jīng)用 consolidation 跑出了 leverage。
下一個(gè)問(wèn)題是:當(dāng)AI基建的默認(rèn)選項(xiàng)變成"買(mǎi)而不是建",自建的技能會(huì)不會(huì)像手工焊接一樣,變成小眾手藝?
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.