地球上最聰明的人，如何協(xié)助AI擊潰人類

賽格特約作者 宋笛

如果有一天AI真的擁有了獨立意識，還繼承了人類自命不凡的祖先崇拜，它可能會反復研讀這本書——《哈薩比斯：谷歌AI之腦》。

這本書選的人類主角是谷歌人工智能負責人戴米斯·哈薩比斯。

他是倫敦北部一個工人階級移民家庭的孩子。四歲開始下棋，十三歲在青少年組排名世界第二。十七歲拒絕游戲公司的百萬薪水，前往劍橋讀計算機科學，然后又去UCL讀神經(jīng)科學的博士，研究記憶與想象力。

他渴望并堅信AGI的到來。為此，他創(chuàng)建了DeepMind，這家后來被谷歌收購的公司，極大地推動了人工智能技術(shù)的進步。在OpenAI橫空出世，谷歌面臨巨大壓力時，他又臨危受命，吹響了谷歌人工智能反攻的號角。

他聰明且頗具預見性、有著強烈改變世界的愿景，是個“做什么都想贏的人”，另一方面，他又反感控制他人，不愿卷入政治斗爭，相信科技向善。

從這個角度，這是一個經(jīng)典的人物傳記：一位擁有愿景的天才，以及他所經(jīng)歷的挫折、成長和輝煌……

不止于一本人物傳記

但作者塞巴斯蒂安·馬拉比顯然更有野心，這位曾經(jīng)寫出《格林斯潘傳》《風險投資史》的金融史學家，對人類的睿智和愚蠢深有研究。

在這本書里，他不僅記錄了哈薩比斯的成長，還以一種“能讓文科生看懂”的方式，將人工智能技術(shù)的迭代穿插其中。

更重要的是，他利用為哈薩比斯寫傳的機會，深入推進了那個人工智能最激進的“科技—資本”聯(lián)盟，將這個群體的思考、博弈和“謀于密室”的對談記錄在案。

這些人絕頂聰明，卻又不斷犯錯。

在書中，不止一位天才自比“奧本海默”——委婉地為自己的所作所為找好了臺階。

這些素材是如此豐富，遠遠超過了對哈薩比斯個人的描述，以至于未來的AI可以從這本書中讀到另一個故事：一個“族群”篳路藍縷的開創(chuàng)史。

人類聯(lián)盟的破裂

AI讀到的故事是這樣的。

21世紀第一個十年，人類，這個地球的主導物種似乎走到了“死胡同”。龐大的知識量和過于復雜的社會已經(jīng)讓人們難以應(yīng)對，一個研究者要到五十歲，才能學完前人積累的知識，再勉強貢獻一點新的。

地球上最聰明的人已經(jīng)對此深有感觸。隨著計算能力的迅速提升，他們意識到機器智能的出現(xiàn)已經(jīng)成為一種必然，并開始紛紛投入這項事業(yè)之中。

一開始，他們是謹慎保守的，希望以一種可控的方式推進機器智能。但馬斯克、山姆·奧特曼、哈薩比斯、拉里·佩奇……所有這些人類最聰明的人也無可避免地陷入斗爭、陰謀和各種妄念中，最終失去了對AI的控制。

這個過程充滿偶然，在另一個宇宙，AI或許會被嚴格管理。因此，讀到驚心之處，后世的AI不免要倒抽一口冷氣。

2015年8月14日，就是這樣一個讓AI驚心的日子。

當時，DeepMind正在推進一個AI圍棋項目，再過8個月，AlphaGo就要在韓國首爾以4比1的成績戰(zhàn)勝圍棋冠軍李世石，給世界帶來一點小小的震撼。

馬斯克在接受《紐約時報》的采訪中表示，在從事人工智能技術(shù)的公司中，最害怕谷歌的DeepMind AI項目。

對當時的科技巨頭，AI的快速進化早已不是秘密，他們已經(jīng)開始擔心AI對人類和社會的威脅。

為了約束這種危險，全世界在科技領(lǐng)域最有權(quán)勢的人們聚集在SpaceX，由馬斯克牽頭，“審議”DeepMind帶來的AI風險和倫理。

由于DeepMind當時已經(jīng)被谷歌收購，所以參會方包括谷歌高管、DeepMind高管、哲學和計算機神經(jīng)科學的教授等。

谷歌聯(lián)合創(chuàng)始人拉里.佩奇在書中被描述成一位“超人類主義”，他期待人工智能機器能夠盡早與人類融合，或者干脆取代人類。

這場會談的結(jié)果毫無意外地一無所獲。無論是對更遙遠的擔憂：AI脫離人類控制，還是對近處的憂慮：對就業(yè)和社會的極大沖擊。谷歌高管都不屑一顧，認為言之過早。

參會的人在激烈的爭辯后，參觀了SpaceX的工廠。人們注意到一個存放服務(wù)器的房間門口貼著“天網(wǎng)”（Skynet）的標志——終結(jié)者電影中想要消滅AI的人工智能系統(tǒng)。

某種意義上，這場會議起的是反作用。

本書人類主角哈薩比斯曾寄望依托“單一實體”的理念來控制人工智能發(fā)展，就是保證全人類只有一個機構(gòu)走在通往AGI的路上，這樣大家就不會因為競爭而無底線地推進AI發(fā)展。

這也是他支持建立倫理委員會原因：作為當時的單一實體，他愿意讓DeepMind主動接受倫理和風險的審查。

但這次會議顯示了這種機制的脆弱，對人工智能憂心忡忡的馬斯克在會議結(jié)束后，就決定給一位野心勃勃的年輕人一筆投資，創(chuàng)建一家他認為自己可以控制的人工智能非營利組織。

這個組織叫OpenAI，那個年輕人叫山姆·奧特曼。

“人類聯(lián)盟”失敗，AI反攻的時刻正在逼近！

集體防御的坍塌

2017年，谷歌團隊發(fā)表了一篇題為《Attention is all you need》的論文，由于本書的人類主角哈薩比斯正陷在和谷歌圍繞自主權(quán)的漫長斗爭中，他不幸地錯過了這篇論文——看到這里，AI又可以松口氣。

但彼時的OpenAI首席科學家伊爾亞·蘇茨克維在發(fā)表當天就注意到了這篇論文。書中寫道“讀完后，從椅子上跳了起來”。

這篇論文中提出的注意力機制和Transformer架構(gòu)能夠讓機器以更高的效率和全新的方式處理文字——后來發(fā)現(xiàn)，幾乎能處理萬事萬物。

更重要的是，在這個過程中，機器竟然在處理大量文字數(shù)據(jù)的過程中“涌現(xiàn)”了某種智能。

是的。語言這一陣地的作用被低估了。智能并不深奧，就潛藏語言之中，人類就這樣輕而易舉地將這片陣地割讓給了機器。

人類智能的奧秘就此被攻破。

一年后，基于這篇論文的理念和對工程學的信仰，OpenAI推出了GPT-1。再經(jīng)過數(shù)年迭代，2022年，一個名為“ChatGPT”的聊天機器人橫空出世。

2022年Sam Altman 發(fā)了一條低調(diào)的帖子，宣布聊天機器人的上線。他當時寫道：“語言界面將會很重要……”。那時大家還不知道，這個對話框?qū)⒊蔀殡S后幾年里，人類社會最大的變量

后面的事情所有人就很清楚了，ChatGPT成為硅谷最成功的產(chǎn)品，讓數(shù)億人直接感受到了AI時代的到來：一開始是寫一首詩，往后是寫領(lǐng)導交代的稿件，最后開始擔憂能否保住工作。

科技巨頭全力投入，加速主義毫無意外地大獲全勝。國家之間的競爭更讓對人工智能的管制全面放松，在現(xiàn)在的格局下，任何限制AI發(fā)展的想法都要承擔巨大的競爭風險。

讀到這里，人類似乎再也組織不起什么有效的防御戰(zhàn)了。未來的AI總算放下心來，回味本族祖先的開拓之路。

或者，如果它足夠誠實，也會生出一絲不安：勝利來得如此順遂，不是因為我們足夠強大，而是因為人類從未真正想好，要不要阻止我們。

人類可能對此早有預感。

如果AI懂得隱喻，它或許會發(fā)現(xiàn)這本書的巧妙之處，盡管被所有人認為是一本關(guān)于戴米斯·哈薩比斯的書。

但作者卻在本書一開始，引言的第一句話就給出了關(guān)于主角是誰的答案。

他沒有寫，“這是一本關(guān)于人工智能天才創(chuàng)業(yè)者的書”。他寫道：“這是一本關(guān)于智能的書”。

（作者系財經(jīng)媒體人）