![]()
字節要被取代了,取代它的是 token。
Karpathy 昨天在推上回了 Python 之父 Guido 一句話:
LLM = CPU,Agent = 操作系統內核。
但他補了一個很關鍵的細節:
LLM 處理的數據單位不是字節,是 token。
這個操作系統的運行方式不是確定性的,而是統計性的。
這是一種底層計算的范式轉移。
過去六十年,計算機的世界建立在字節上。
一個字符 8 個 bit,精確,確定,不會出錯。你寫一個 1,存進去就是 1,讀出來還是 1。
整個互聯網、所有軟件、所有數據庫,都建立在這種確定性上。
現在 LLM 來了。它的基本單位是 token,不是字節。
token 是模糊的,一個詞可能是一個 token,也可能被拆成兩個。
它的輸出是概率性的,同一個輸入跑兩遍可能得到不同的結果。
這就像從牛頓力學進入量子力學。
精確讓位于概率,確定讓位于統計。
Karpathy 把 LLM 比作 CPU,Agent 比作操作系統內核。
如果順著這個類比往下推:
傳統計算機:CPU 處理字節 → 內核調度進程 → 操作系統服務用戶
AI 時代:LLM 處理 token → Agent 編排任務 → AI OS 服務用戶
底層的數據單位變了,上面的一切都得跟著變。
操作系統要重寫,軟件要重做,人和計算機的交互方式要重新設計。
與其說是對上一代的升級,不如說是徹底換了軌道。
字節的世界里,誰掌握更多的數據(字節)誰就贏。
token 的世界里,誰掌握更多的 token 誰就贏。
字節的時代屬于互聯網,token 的時代屬于 Agent。
BYTE ERA ? TOKEN ERA
![]()
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.