Sam Altman最新博客：奇點溫柔地到來，奇跡變成日常，然后成為標(biāo)配

今天上午我按慣例打開ChatGPT開始用，突然發(fā)現(xiàn)o3 pro發(fā)布了，一個非常非常非常強(qiáng)大的推理模型，至少從200美金pro賬戶使用體驗來說，是這樣的。

我說這個不是我要顯擺，而是OpenAI最近一段時間，分配給o3模型的算力降低非常嚴(yán)重，哪怕是pro賬戶，以前一個問題思考2-3分鐘很正常，答案的質(zhì)量也很好，但最近很多問題只花不到1分鐘。

最后照舊吐槽一下，在o3 pro發(fā)布后，OpenAI模型過多的問題，毫無改善，反而似乎還有惡化跡象。

在模型選擇里，共有 8種模型，不得不感慨，AI時代學(xué)點新知識也不容易啊，就這些模型每個的區(qū)別，我還是用了好幾個月才在不斷的實操中逐步了然于胸的。

還有好幾個已經(jīng)退出歷史舞臺的模型，在剛發(fā)布時都給人眼前一亮甚至“炸裂”的感覺，不到一年已經(jīng)消失在人海了。

這不由讓我回想起 我家當(dāng)年剛買了個微波爐的時候，加熱食物確實是快了，但那個火力的檔位和什么時間的調(diào)節(jié)按鈕，可把家里的中老年人難壞了。

o3 pro的使用體驗，過幾天分享給大家，歡迎關(guān)注本號。

暫時來看，它是思考時間更長的o3（會花10多分鐘甚至20多分鐘思考一個問題）+觀點提煉更深度但廢話更少的Deep Research

好了，我也不廢話了，一起來看看奧特曼又寫了什么新東西，他還在推特表示，這可能是他最后一次在沒有AI的幫助下寫文章了，這真挺令我吃驚的，OpenAI的創(chuàng)始人寫東西不靠AI幫忙？

張小龍：不用自家產(chǎn)品的產(chǎn)品經(jīng)理都是xxx

正文開始：溫柔的奇點 The Gentle Singularity

我們已越過臨界點，起飛已經(jīng)開始。人類距離創(chuàng)造出數(shù)字超級智能已近在咫尺，而至少到目前為止，現(xiàn)實遠(yuǎn)比想象來得平實自然。

街道上還沒有出現(xiàn)滿街行走的機(jī)器人，我們大多數(shù)人也尚未整日與 AI 對話。人們依然會因疾病去世，我們?nèi)匀粺o法輕易進(jìn)入太空，對于宇宙仍有許多我們不理解的奧秘。

然而，我們最近確實構(gòu)建了在許多方面都比人類更聰明的系統(tǒng)，它們能夠顯著提升人類使用者的產(chǎn)出效率。最不可能完成的部分已經(jīng)在我們身后：促成 GPT-4 和 o3 等系統(tǒng)誕生的科學(xué)見解來之不易，但將帶領(lǐng)我們走得更遠(yuǎn)。

AI 將以許多方式造福世界，但通過 AI 加速科學(xué)進(jìn)步和提高生產(chǎn)率所帶來的生活質(zhì)量提升將是巨大的，未來可能比現(xiàn)在美好得多。

科學(xué)進(jìn)步是一切整體進(jìn)步最大的驅(qū)動力，想到我們原本可以擁有更多的可能性，實在令人振奮。

從某種重要意義上說，ChatGPT 已經(jīng)比歷史上任何一個人類個體都更強(qiáng)大，數(shù)以億計的人每天依賴它來完成日益重要的任務(wù)。

一個微小的新能力就能產(chǎn)生巨大的積極影響，而一個微小的錯位，乘以數(shù)以億計的用戶，也可能帶來極為重大的負(fù)面影響。

2025 年，出現(xiàn)了能夠執(zhí)行真正認(rèn)知工作的智能代理，編寫計算機(jī)代碼的方式從此將不再一樣。

2026 年，我們可能會看到能夠自我發(fā)現(xiàn)全新見解的系統(tǒng)問世。

2027 年，也許會誕生可以在現(xiàn)實世界執(zhí)行任務(wù)的機(jī)器人。

將會有更多人，能夠創(chuàng)作軟件和藝術(shù)作品。不過，世界對這兩者的需求，遠(yuǎn)遠(yuǎn)超出當(dāng)前的供給。只要專家擁抱新工具，他們很可能仍會大大勝過新手。

總體而言，到 2030 年，一個人能夠完成的工作量，將遠(yuǎn)超 2020 年的水平。這將是一個引人注目的巨大變化，許多人會找到從中獲益的途徑。

在最重要的方面，2030 年代可能并不會發(fā)生翻天覆地的變化。人們依然會愛護(hù)家人，發(fā)揮創(chuàng)造力，玩游戲，并在湖里游泳。

但在同樣非常重要的其他方面，2030 年代很可能將與之前的任何時代截然不同。我們還不知道智能水平能超出人類多遠(yuǎn)，但我們即將找到答案。

到了 2030 年代，智能和能源——也就是思想，以及將思想付諸現(xiàn)實的能力——都將變得極為充沛。

這兩者長期以來，一直是限制人類進(jìn)步的根本因素，而在智能和能源充沛（再加上良好的治理）的情況下，從理論上講我們可以擁有其他一切。

事實上，如今我的們已經(jīng)與令人難以置信的數(shù)字智能共處。

在最初的震驚過后，我們大多數(shù)人已經(jīng)習(xí)慣了它。我們很快就從驚嘆 AI 能生成一段優(yōu)美的文字，轉(zhuǎn)變?yōu)楹闷嫠螘r能寫出優(yōu)美的長篇小說。

或者，從驚嘆它能做出救命的醫(yī)療診斷，轉(zhuǎn)變?yōu)槠诖螘r能研發(fā)出治愈疾病的處方。

又或者，從驚嘆它能編寫一個小型程序，轉(zhuǎn)變?yōu)槠诖螘r能創(chuàng)造出一家全新的公司。

奇點就是這樣發(fā)展的：奇跡變成日常，然后成為標(biāo)配。

我們已經(jīng)聽不少科學(xué)家坦言，有了 AI，他們的工作效率是以前的兩到三倍。

先進(jìn)的 AI 引人注目的原因有很多，但也許最重要的是我們可以利用它來加速 AI 本身的研究。

我們可能會發(fā)現(xiàn)新的計算基底computing substrates、更優(yōu)的算法，以及更多未知的可能性。

如果我們能夠用一年的時間完成十年的研究，甚至一個月完成十年的研究，那么進(jìn)步的速度顯然會大不相同。

從現(xiàn)在開始，我們已經(jīng)構(gòu)建出的工具，將幫助我們獲得更多深刻的科學(xué)洞見，并輔助我們創(chuàng)造更好的 AI 系統(tǒng)。

當(dāng)然，這和讓 AI 系統(tǒng)完全自主地更新自己的代碼，并不是一回事，但無疑已經(jīng)是遞歸式自我改進(jìn)的雛形了a larval version of recursive self-improvement。

還有其他一些自我強(qiáng)化的正循環(huán)，在發(fā)揮作用。

巨大的經(jīng)濟(jì)價值創(chuàng)造，已經(jīng)啟動了一個飛輪，加速建設(shè)用于運行這些日益強(qiáng)大的 AI 系統(tǒng)的復(fù)合型基礎(chǔ)設(shè)施。

而能夠制造其它機(jī)器人的機(jī)器人（在某種意義上，包括能夠建設(shè)其它數(shù)據(jù)中心的數(shù)據(jù)中心），離我們也已經(jīng)不遠(yuǎn)了。

如果我們不得不用傳統(tǒng)方式制造最初的一百萬個人形機(jī)器人，但之后它們就能接管整個供應(yīng)鏈——挖掘和提煉礦物、駕駛卡車、運營工廠等等——來制造更多機(jī)器人，這些機(jī)器人又可以建設(shè)更多芯片制造設(shè)施、數(shù)據(jù)中心等等，那么進(jìn)步的速度無疑將大不相同。

隨著數(shù)據(jù)中心生產(chǎn)實現(xiàn)自動化，智能的成本最終應(yīng)會趨近于電力的成本。

人們常會好奇，一次 ChatGPT 查詢耗費多少能量，平均每次查詢約消耗 0.34 瓦時電能，相當(dāng)于烤箱運行一秒多鐘，或高效燈泡亮幾分鐘，每次查詢還消耗約 0.000085 加侖的水，大約是十五分之一茶匙的水量。

技術(shù)進(jìn)步的速度將持續(xù)加快，而且人類能夠適應(yīng)幾乎任何事物的能力也將一如既往。

會有非常艱難的方面，例如整類整類的工作崗位消失，但另一方面，世界的財富將如此迅速地大幅增長，以至于我們能夠認(rèn)真考慮以前根本不可能實施的新政策理念。

我們大概不會在一夜之間就采用一種新的社會契約，但當(dāng)我們?nèi)舾墒旰蠡仡檿r，那些漸進(jìn)的變化，加起來將構(gòu)成巨大的轉(zhuǎn)變。

如果歷史可資借鑒，我們將找到新事情去做、找到新的欲望目標(biāo)，并迅速吸納新工具，工業(yè)革命后的職業(yè)更替就是一個很好的近例。

人們的期望會提高，但能力也會同樣迅速地提高，我們都將獲得更好的東西，我們將為彼此創(chuàng)造出越來越奇妙的事物。

相比 AI，人類在長遠(yuǎn)上有一個重要而奇特的優(yōu)勢：我們的天性使我們關(guān)心他人及其所思所為，而對機(jī)器則沒有那么在意。

一千年前的一位自給自足的農(nóng)民，如果看到我們許多人如今的工作，可能會說我們在做“假工作”，覺得我們只是因為糧食充足、擁有難以想象的奢侈條件而在自娛自樂。

我希望當(dāng)我們看向一千年后的那些工作時，也會覺得那些工作非常“假”，但我毫不懷疑，對于當(dāng)時從事那些工作的人來說，它們將讓人感到無比重要且充實。

新奇跡涌現(xiàn)的速度將會極其驚人。

如今，我們甚至難以想象到了 2035 年，我們會發(fā)現(xiàn)些什么。

也許我們會經(jīng)歷今年解決了高能物理難題，明年就開始太空殖民。

或者，今年在材料科學(xué)上取得重大突破，明年就實現(xiàn)真正的高帶寬腦機(jī)接口。

許多人將選擇以幾乎相同的方式，度過他們的人生，但至少會有一部分人可能決定“接入”，就是沉浸到虛擬世界中）。

展望未來，這一切聽起來難以讓人完全理解。但實際經(jīng)歷它時，可能會感覺令人印象深刻，但我們?nèi)宰阋詰?yīng)對。

從相對論的視角來看，奇點是逐步發(fā)生的，融合是緩慢進(jìn)行的。

我們正攀爬著技術(shù)指數(shù)級進(jìn)步的漫長弧線：向前看時它總顯得陡峭如壁，向后看時又似乎平坦如常，但其實這是一條平滑連續(xù)的曲線。

（這一句就是前面截圖提到的，Altman覺得自己用了很“老派”的方式書寫的語句。）

回想 2020 年，如果那時有人說我們將在 2025 年接近實現(xiàn)通用人工智能AGI，聽起來可能比我們現(xiàn)在對 2030 年的預(yù)測還要離譜。

當(dāng)然，伴隨這些巨大好處的同時，也有嚴(yán)峻的挑戰(zhàn)需要面對。

我們確實需要在技術(shù)和社會層面解決安全問題，但除此之外，鑒于超級智能所帶來的經(jīng)濟(jì)影響，讓人人都能廣泛接觸到超級智能也至關(guān)重要。

也許，最好的前進(jìn)道路是這樣：

1、解決對齊問題。

也就是說，我們能夠可靠地確保讓 AI 系統(tǒng)在長期內(nèi)學(xué)會并朝著人類集體真正想要的方向行動。

社交媒體的信息流，就是一個 AI 錯誤對齊misaligned的例子，驅(qū)動這些推薦的算法，非常擅長讓你不斷滾屏，也清楚你的短期偏好，但它們是通過利用你大腦中的某些弱點，來凌駕于你的長期偏好之上。

2、然后，致力于讓超級智能變得廉價、無處不在，而且不被任何個人、公司或國家過度集中掌控。

我們的社會，具有很強(qiáng)的韌性、創(chuàng)造力和快速適應(yīng)能力。

如果我們能夠凝聚人類的集體意志和智慧，那么盡管我們會犯很多錯誤，也會出現(xiàn)一些失誤，但我們將快速學(xué)習(xí)和適應(yīng)，并能夠利用這項技術(shù)將好處最大化、壞處最小化。

在社會共同決定的寬泛邊界內(nèi)，給予用戶大量自由是非常重要的。世界越早開始討論這些邊界應(yīng)如何設(shè)定、以及我們?nèi)绾味x集體層面的對齊collective alignment，情況就會越好。

我們——指整個行業(yè)，而不僅僅是 OpenAI——正在為世界構(gòu)建一個“大腦”。這個“大腦”將是高度個性化的，每個人都可以輕松使用；我們未來唯一的限制，將是缺乏好的創(chuàng)意。

長期以來，科技創(chuàng)業(yè)圈一直取笑那些“點子大王”——只有想法卻還需要團(tuán)隊來實現(xiàn)的人。現(xiàn)在在我看來，他們即將迎來屬于自己的高光時刻。

OpenAI 如今身兼數(shù)職，但首先最重要的是，我們是一家超級智能研究公司。我們面前有大量工作要做，但我們前方的大部分道路，現(xiàn)在已經(jīng)被照亮，未知的黑暗區(qū)域正在迅速后退。

能夠從事我們正在做的事情，我們感到無比感激和慶幸。

“智能便宜到無需計量”這一目標(biāo)，已在掌握之中。

這話聽起來或許瘋狂，但如果我們在 2020 年時就告訴你我們今天會達(dá)到這樣的局面，那可能聽起來比我們對 2030 年的預(yù)測更加瘋狂。

愿我們能夠借助超級智能，既能平穩(wěn)、又能指數(shù)級且波瀾不驚地完成這一攀升之路。