AGI，不會(huì)通知你

每次技術(shù)革命，都用上次的速度，欺騙這次的人

回望歷史，我們發(fā)現(xiàn)每次技術(shù)革命都不是以宣布的方式到來(lái)

無(wú)論是農(nóng)業(yè)革命、工業(yè)革命，還是互聯(lián)網(wǎng)革命，都是這樣，我們總是在事情發(fā)生之后，才回過(guò)頭來(lái)指出：哦，那是「xx革命」的起點(diǎn)

AGI 也不會(huì)有例外，它到來(lái)的時(shí)候并不會(huì)通知你，而當(dāng)你發(fā)現(xiàn)的時(shí)候，它已經(jīng)過(guò)了，然后很多事情在各個(gè)角度并行發(fā)生著變化

還有一個(gè)更細(xì)思極恐的：核武器出現(xiàn)后，人們用了 20 年去摸清如何確保安全，但這一次，歷史可能不會(huì)給到我們 20 年

如果是對(duì)于個(gè)人來(lái)說(shuō)，這個(gè)窗口期可能會(huì)更短

門檻已經(jīng)在身后了

1793年，英國(guó)派馬戛爾尼勛爵出使大清，要求開放通商口岸。乾隆給英王喬治三世寫了一封回信，語(yǔ)氣平和，措辭妥帖：「天朝物產(chǎn)豐盈，無(wú)所不有，原不藉外夷貨物以通有無(wú)」

寫這封信的時(shí)候，英國(guó)紡織廠里的蒸汽機(jī)已經(jīng)轟鳴了將近三十年。乾隆不知道這件事，也不覺(jué)得需要知道。他用的是一套運(yùn)轉(zhuǎn)了幾千年的框架，在那個(gè)框架里，大清是世界的中心，外夷是來(lái)朝貢的

五十年后，鴉片戰(zhàn)爭(zhēng)爆發(fā)

AGI 不會(huì)有一個(gè)到來(lái)的時(shí)刻，只有一個(gè)回頭看的時(shí)刻

有一個(gè)研究機(jī)構(gòu)叫 Meter，專門追蹤一件事：給 AI 一個(gè)完整任務(wù)，全程不介入，看它能獨(dú)立撐多久

2024年初，前沿模型能可靠完成的任務(wù)在幾分鐘量級(jí)，相當(dāng)于查一個(gè)問(wèn)題、寫一段代碼。到2025年，這個(gè)數(shù)字到了五到十小時(shí)，相當(dāng)于一個(gè)工程師獨(dú)立完成一個(gè)完整功能模塊的時(shí)間，這些數(shù)字每七個(gè)月翻一番，曲線沒(méi)有趨平的跡象

這段時(shí)間，由于項(xiàng)目需要，在一些前沿的實(shí)驗(yàn)室有過(guò)不少交流，漸漸地就覺(jué)得門檻可能離我們不遠(yuǎn)了，甚至說(shuō)：這個(gè)門檻已經(jīng)開始變得模糊

我并不知道會(huì)有哪一天，會(huì)有怎樣的方式，社會(huì)共識(shí)會(huì)告訴我們：AGI 已到達(dá)

這次的速度不在同一量級(jí)

公元前356年，商鞅在秦國(guó)開始變法。他重新丈量土地、廢除貴族世襲、推行軍功授爵。二十年后，商鞅被車裂而死。又過(guò)了一百年，秦始皇才統(tǒng)一六國(guó)

商鞅變法的果實(shí)，種樹的人等不到

1765年，瓦特改良了蒸汽機(jī)。紡織廠開始用機(jī)器代替手工，煤礦開始用機(jī)器抽水。英國(guó)第一部限制童工工時(shí)的工廠法，到1833年才通過(guò)

從蒸汽機(jī)到工廠法，用了將近七十年

1870年代，第二次工業(yè)革命在德國(guó)和美國(guó)同時(shí)爆發(fā)，普法戰(zhàn)爭(zhēng)打完，俾斯麥拿到賠款和煤礦，轉(zhuǎn)身就開始建鋼廠

德國(guó)從一個(gè)農(nóng)業(yè)國(guó)變成歐洲最大的工業(yè)國(guó)，用了不到三十年

1994年，中國(guó)接入互聯(lián)網(wǎng)，第一封電子郵件從北京發(fā)出。十年后，淘寶上線。又十年，微信月活十億

從第一封電子郵件到改變所有人的日常生活，用了二十年

2022年11月，ChatGPT 發(fā)布，兩個(gè)月后兩億用戶。然后到了2025年，連這個(gè)速度都開始顯得慢了。Manus 上線不到一年，被以數(shù)十億美金收購(gòu)。OpenClaw，AGI Bar 社區(qū)里大家叫它小龍蝦，從第一次被人知道，到 GitHub Star 數(shù)超過(guò) Linux，只用了一個(gè)月。Linux 是全世界程序員用了三十年積累起來(lái)的信仰

每次技術(shù)革命，都在用上次的速度，欺騙這次的人

每一次，人類建立應(yīng)對(duì)機(jī)制的速度都比技術(shù)慢，但最終能追上
但對(duì)于這一次...我不知道

安全問(wèn)題的答案在政治里

1952年12月，倫敦被一層濃厚的煙霧籠罩了五天，能見度低到公交車司機(jī)需要乘客在前面打手電筒引路。五天之內(nèi)，四千多人死去，后續(xù)數(shù)月又有八千人陸續(xù)離世

技術(shù)層面，解決方案早就存在。丘吉爾的內(nèi)閣看完報(bào)告，把它擱置了。工業(yè)游說(shuō)團(tuán)體說(shuō)改造成本太高，財(cái)政部說(shuō)現(xiàn)在不是時(shí)候，衛(wèi)生部說(shuō)死亡數(shù)字屬于正常的冬季水平。又死了四年人，《清潔空氣法》才在1956年通過(guò)

這段歷史，在我們課本中被壓縮到了四個(gè)字：倫敦大霧

而放在當(dāng)時(shí)，這是一個(gè)國(guó)家、一個(gè)時(shí)代的痛

「多危險(xiǎn)算太危險(xiǎn)」，從來(lái)都不是工程師能回答的問(wèn)題

蒸汽機(jī)不會(huì)告訴你排放多少二氧化硫算超標(biāo)。這個(gè)數(shù)字需要醫(yī)生去統(tǒng)計(jì)死亡人數(shù)，需要記者去報(bào)道，需要公眾去抗議，需要議員去投票，每一個(gè)環(huán)節(jié)都是人和人之間的博弈

也許，我們?nèi)匀贿€需要經(jīng)歷無(wú)數(shù)教訓(xùn)，才能找到安全的答案

這次沒(méi)有二十年

1962年10月，蘇聯(lián)在古巴部署核導(dǎo)彈的消息傳到華盛頓

接下來(lái)十三天，是人類歷史上離核戰(zhàn)爭(zhēng)最近的時(shí)刻。肯尼迪和赫魯曉夫之間的電報(bào)往來(lái)，今天讀起來(lái)仍然讓人背脊發(fā)涼，兩個(gè)人都清楚，一旦兩邊產(chǎn)生一丁點(diǎn)的誤判，我們可能會(huì)走向終點(diǎn)

還好，現(xiàn)在以上帝視角來(lái)看，一切平穩(wěn)度過(guò)

在此之前，兩國(guó)已經(jīng)用將近二十年，經(jīng)歷了柏林封鎖、朝鮮戰(zhàn)爭(zhēng)、一次次擦邊球，在真實(shí)的高壓對(duì)抗中摸索出彼此的邊界。赫魯曉夫知道能退到哪里，肯尼迪知道不能逼到哪里

這個(gè)「知道」，是用二十年的試探換來(lái)的

那二十年里，蘭德公司建立了整套核威懾理論，熱線電話被架設(shè)起來(lái)，第一輪軍控談判開始了。一套框架，從無(wú)到有

人類用了二十年，才在核武器出現(xiàn)后摸清楚彼此的邊界，而面對(duì) AGI 的風(fēng)險(xiǎn)，我們這次沒(méi)有二十年

等危機(jī)真的出現(xiàn)，可能沒(méi)有十三天來(lái)回發(fā)電報(bào)，1950年代的蘭德公司知道自己在做什么。對(duì)應(yīng)的工作，我們現(xiàn)在還不知道是什么

新工具最先屬于舊信任

1455年，古騰堡印出了第一批《圣經(jīng)》。在這之前，歐洲的書籍由修道院僧侶手工抄寫，一本《圣經(jīng)》需要幾個(gè)月。印刷機(jī)出現(xiàn)之后，第一批大規(guī)模使用它的，是教會(huì)。他們印贖罪券、印教皇詔書、印彌撒手冊(cè)，掌握最廣泛傳播渠道的機(jī)構(gòu)，最快地把新工具用到了極致

1517年，馬丁·路德把《九十五條論綱》釘?shù)浇烫瞄T上。這份文件能在兩周內(nèi)傳遍整個(gè)德意志，靠的正是教會(huì)花了幾十年建立起來(lái)的那套印刷和傳播網(wǎng)絡(luò)。路德用教會(huì)建立的基礎(chǔ)設(shè)施，動(dòng)搖了教會(huì)本身

最快拿到新工具的人，永遠(yuǎn)是在舊工具上建立了最深信任的人

杠桿放大的是已有的優(yōu)勢(shì)

信任是慢變量，不會(huì)因?yàn)槟硞€(gè)工具出現(xiàn)就突然產(chǎn)生。框架還沒(méi)建好，規(guī)范還沒(méi)到位，這段時(shí)間里，信任是少數(shù)幾件可以提前做的事

這個(gè)窗口現(xiàn)在還開著

這五條判斷，我不能保證是對(duì)的

但如果方向大體沒(méi)錯(cuò)，留給調(diào)整的時(shí)間，可能比大多數(shù)人認(rèn)為的要短