Sam Altman對(duì)話美聯(lián)儲(chǔ)Bowman

鮑曼：
大家下午好。非常感謝大家今天能來(lái)參加我們有史以來(lái)的第一次資本會(huì)議。我們非常期待今天將要進(jìn)行的所有對(duì)話，特別是當(dāng)我們繼續(xù)在跨機(jī)構(gòu)內(nèi)部以及與美聯(lián)儲(chǔ)就資本問(wèn)題進(jìn)行合作時(shí)，我們期待能從中獲得啟發(fā)，并且更廣泛地展望銀行業(yè)的未來(lái)。 在我們今天下午開(kāi)始爐邊談話之前，我也想花點(diǎn)時(shí)間感謝我們的座談會(huì)參與者。感謝你們抽出時(shí)間參與這次重要的對(duì)話。當(dāng)我們思考這個(gè)領(lǐng)域以及許多其他領(lǐng)域的監(jiān)管將如何發(fā)展時(shí)，我們非常期待在繼續(xù)這些討論的過(guò)程中與你們進(jìn)行交流。

但在很多方面，今天的主題是關(guān)于銀行業(yè)的未來(lái)。考慮到這一點(diǎn)，我們現(xiàn)在想轉(zhuǎn)向另一個(gè)正在塑造金融創(chuàng)新的影響力。雖然創(chuàng)新一直在銀行業(yè)的發(fā)展中扮演著重要角色，但越來(lái)越清楚的是，新技術(shù)不僅僅是漸進(jìn)式的改進(jìn)，而是可能從根本上改變我們金融體系結(jié)構(gòu)和功能的巨大飛躍。當(dāng)然，其中一項(xiàng)技術(shù)就是人工智能。我想不出有誰(shuí)比OpenAI的董事長(zhǎng)兼首席執(zhí)行官薩姆·奧爾特曼更適合、更有準(zhǔn)備來(lái)討論人工智能以及創(chuàng)新在改變金融和我們更廣泛經(jīng)濟(jì)中的作用了。

薩姆，感謝你今天抽出時(shí)間與我們?cè)谝黄稹Ｎ覛g迎你。謝謝你的到來(lái)。

奧爾特曼：
非常感謝你的邀請(qǐng)。

鮑曼：
所以，或許先為我們描繪一下人工智能和更廣泛創(chuàng)新的整體格局會(huì)很有幫助。你能為我們構(gòu)建那個(gè)框架嗎？

奧爾特曼：
當(dāng)然。就在五年前，人工智能還被認(rèn)為是遙遠(yuǎn)未來(lái)的事情，如果它真的會(huì)發(fā)生的話。甚至在兩年半前，大約在ChatGPT推出的那個(gè)時(shí)候，它仍然沒(méi)有走出硅谷那些技術(shù)宅的圈子。ChatGPT于2022年11月30日推出，那甚至是在GPT-4之前。從那時(shí)起，進(jìn)展相當(dāng)迅速，其應(yīng)用和經(jīng)濟(jì)影響也開(kāi)始變得非常快。

就在上周，我們有一個(gè)模型在國(guó)際數(shù)學(xué)奧林匹克競(jìng)賽（IMO）上達(dá)到了金牌水平的表現(xiàn)。我想，如果你在幾年前告訴這個(gè)領(lǐng)域的大多數(shù)人這件事會(huì)發(fā)生，他們會(huì)說(shuō)絕對(duì)不可能。你知道，那就像我們最聰明的、在自己領(lǐng)域是真正專(zhuān)家的人類(lèi)一樣優(yōu)秀。我們現(xiàn)在聽(tīng)到科學(xué)家說(shuō)他們的生產(chǎn)力提高了兩到三倍。我們聽(tīng)到計(jì)算機(jī)程序員說(shuō)他們的生產(chǎn)力提高了十倍。這完全改變了編寫(xiě)軟件的意義。我們已經(jīng)擁有了能夠在許多領(lǐng)域達(dá)到專(zhuān)家級(jí)智能水平的系統(tǒng)。不過(guò)，它們還不能像人類(lèi)那樣執(zhí)行長(zhǎng)遠(yuǎn)規(guī)劃的任務(wù)，所以那里仍然有一個(gè)很大的局限性。但是，即使進(jìn)展現(xiàn)在就停滯不前（當(dāng)然它不會(huì)），我認(rèn)為我們未來(lái)仍有數(shù)年的時(shí)間，讓社會(huì)和經(jīng)濟(jì)去真正消化這項(xiàng)技術(shù)，并弄清楚它的影響將會(huì)是什么。

你知道，有句老話我一直覺(jué)得很棒，我們應(yīng)該再次努力實(shí)現(xiàn)它，那就是“電力便宜到無(wú)法計(jì)量”。作為一個(gè)社會(huì)，我們并沒(méi)有完全實(shí)現(xiàn)這一點(diǎn)，盡管我認(rèn)為我們?nèi)匀粦?yīng)該這樣做。但事實(shí)上，我們似乎即將實(shí)現(xiàn)“智能便宜到無(wú)法計(jì)量”。在過(guò)去五年里，我們已經(jīng)能夠?qū)⒚繂挝恢悄艿某杀窘档土顺^(guò)十倍。看起來(lái)在未來(lái)五年我們也會(huì)這樣做，甚至可能更多。

這個(gè)周末，我用我們即將推出的一個(gè)模型來(lái)完成一個(gè)我一直想做的計(jì)算機(jī)編程任務(wù)。有點(diǎn)像一個(gè)家庭自動(dòng)化愛(ài)好者，我想讓我家的燈光和音樂(lè)做一件特定的事情。我知道在有這項(xiàng)技術(shù)之前，我可能需要花幾天時(shí)間才能完成。我曾希望有了這項(xiàng)技術(shù)，鑒于我們最近的進(jìn)展，我能在幾小時(shí)內(nèi)完成。結(jié)果，我在五分鐘內(nèi)就做完了。它幾乎完成了所有的工作。這件事，你知道，就在一年前，你可能需要付給一個(gè)非常高端的程序員20小時(shí)、40小時(shí)或類(lèi)似的報(bào)酬來(lái)完成。而一個(gè)AI完成它，可能只用了不到一美元的計(jì)算代幣（compute tokens）。所以，這是一個(gè)驚人的變化，而且它發(fā)生的速度，以及未來(lái)幾年它將繼續(xù)發(fā)展的速度，我認(rèn)為仍然被大大低估了。我們甚至在一年前還不確定我們當(dāng)前的研究路線圖能走多遠(yuǎn)，是否會(huì)遇到某種限制。此時(shí)此刻，看起來(lái)我們未來(lái)還有很多年幾乎可以確定的進(jìn)展。

鮑曼：
太棒了。這真的幫助我們?yōu)榻酉聛?lái)的對(duì)話構(gòu)建了框架。你正在和一屋子金融業(yè)和銀行業(yè)的人士交談，他們中的許多人已經(jīng)在思考如何使用AI，或者已經(jīng)在使用AI了。但你如何將AI在生產(chǎn)力方面的潛力與我們過(guò)去看到的其他技術(shù)進(jìn)步進(jìn)行比較？你知道，我這個(gè)年紀(jì)的人，在我剛開(kāi)始工作時(shí)，互聯(lián)網(wǎng)才成為我們更廣泛使用的東西。所以，你能為我們構(gòu)建一個(gè)框架嗎？有沒(méi)有一個(gè)你可以用來(lái)描述我們現(xiàn)狀的比喻？

奧爾特曼：
我從未見(jiàn)過(guò)像這樣的一場(chǎng)技術(shù)革命。你知道，歷史上的例子是人們談?wù)摴I(yè)革命，他們談?wù)撚?jì)算機(jī)革命。互聯(lián)網(wǎng)確實(shí)改變了很多事情，但我從不記得有什么東西，一年前需要花費(fèi)1萬(wàn)美元的知識(shí)工作，現(xiàn)在只需要1美元或10美分，或者無(wú)論它現(xiàn)在的成本是多少。就像我剛才舉的編程例子，我認(rèn)為這簡(jiǎn)直是前所未有的。

當(dāng)然，它并非對(duì)所有事情都如此。物理世界中的東西，機(jī)器人之類(lèi)的，那將需要更長(zhǎng)的時(shí)間。比如，可能在2020年，叫一輛優(yōu)步（Uber）送你穿過(guò)城鎮(zhèn)需要10美元。實(shí)際上，讓我這么說(shuō)，可能需要100美元讓一個(gè)緊急包裹服務(wù)在一定時(shí)間內(nèi)送達(dá)，而編寫(xiě)一個(gè)應(yīng)用程序需要10萬(wàn)美元。到了2030年，編寫(xiě)那個(gè)軟件應(yīng)用程序的成本可能真的只有10美分。從10萬(wàn)美元降到10美分。而遞送那個(gè)包裹的成本可能從100美元漲到了1000美元。你知道，這需要一段時(shí)間才能實(shí)現(xiàn)機(jī)器人技術(shù)，那種能開(kāi)車(chē)、取出包裹、上樓、按電梯按鈕的全功能人形機(jī)器人。那還需要一些時(shí)間。但對(duì)于可以在電腦前完成的任務(wù)，我不知道有什么先例可以比擬正在發(fā)生的事情。

我最喜歡的比喻是，人們會(huì)問(wèn)，這像是工業(yè)革命嗎，或者像是別的什么嗎？我喜歡的那個(gè)是，這就像晶體管。晶體管是一項(xiàng)非常深?yuàn)W的物理科學(xué)發(fā)現(xiàn)，它被發(fā)現(xiàn)的過(guò)程非常困難，但一旦你理解了它，就很容易理解。它在經(jīng)濟(jì)上具有完全的變革性，其價(jià)值作為巨大的生產(chǎn)力提升，擴(kuò)散到了整個(gè)社會(huì)。但曾有一小段時(shí)間，出現(xiàn)了很多晶體管公司，他們被稱為半導(dǎo)體公司，那是一個(gè)巨大的繁榮期，而這些公司中的大多數(shù)現(xiàn)在都成了幕后英雄。你們現(xiàn)在都在使用帶有大量晶體管的設(shè)備。它們遍布這個(gè)房間。我們不會(huì)認(rèn)為這是一個(gè)晶體管設(shè)備或那個(gè)是晶體管設(shè)備，我們認(rèn)為這是一個(gè)麥克風(fēng)、一臺(tái)電腦、一個(gè)屏幕、一個(gè)攝像頭等等。

但這項(xiàng)技術(shù)是一項(xiàng)不可思議的發(fā)現(xiàn)。它改變了我們能夠構(gòu)建的東西。它很快就成為了一切的一部分。而你現(xiàn)在不怎么會(huì)把公司稱為晶體管公司，除非是像臺(tái)積電（TSMC）或SK海力士（SK Hynix）這樣的公司。同樣地，我認(rèn)為你很快就不會(huì)再談?wù)揂I公司了。你只會(huì)期望產(chǎn)品和服務(wù)使用這項(xiàng)技術(shù)。你不會(huì)過(guò)多地去想它。你只會(huì)期望你使用的產(chǎn)品和服務(wù)比你更聰明，這將成為世界的常態(tài)。就像晶體管一樣，這是一項(xiàng)可以完美擴(kuò)展的技術(shù)。我們有晶體管的摩爾定律。我們現(xiàn)在有……我還不確定它叫什么，但我們有AI的這些擴(kuò)展定律（scaling laws），它就是會(huì)變得越來(lái)越好，我們學(xué)會(huì)了如何真正地將其工業(yè)化并應(yīng)用到各處。所以，我認(rèn)為這是最好的歷史類(lèi)比。我們確實(shí)看到了因晶體管而來(lái)的驚人生產(chǎn)力增長(zhǎng)。但再次強(qiáng)調(diào)，我們現(xiàn)在用AI看到的，更不用說(shuō)那些奇怪的情況，比如AI在某個(gè)時(shí)候可以發(fā)明自己的下一代版本，從而進(jìn)一步加速進(jìn)步，就我們現(xiàn)在所看到的，這已經(jīng)走得非常非常遠(yuǎn)了。

鮑曼：
嗯，這是一個(gè)很棒的比喻。我想，當(dāng)你說(shuō)到工業(yè)革命時(shí)，我們?cè)诶硎聲?huì)思考的一件事是，理解勞動(dòng)力動(dòng)態(tài)可能因此發(fā)生變化的重要性。所以，你能否就你認(rèn)為勞動(dòng)力市場(chǎng)和勞動(dòng)生產(chǎn)率，或者更廣泛的生產(chǎn)力，可能會(huì)如何受到影響，給我們一些你的看法？這對(duì)在座的銀行，或者通過(guò)我們的直播收看的其他行業(yè)來(lái)說(shuō)。

奧爾特曼：
我喜歡提醒我們公司里的人一件事，那就是沒(méi)人知道接下來(lái)會(huì)發(fā)生什么。你知道，有很多這種聽(tīng)起來(lái)非常聰明的預(yù)測(cè)。人們做出各種各樣的預(yù)測(cè)，哦，這將在什么時(shí)候發(fā)生，經(jīng)濟(jì)將走向何方。在我看來(lái)，我們一無(wú)所知。沒(méi)人真的……這個(gè)系統(tǒng)太復(fù)雜了。這項(xiàng)技術(shù)太新、太有影響力了。很難預(yù)測(cè)。完全有可能出現(xiàn)整類(lèi)工作消失的情況，也會(huì)有全新的工作類(lèi)別出現(xiàn)。

我認(rèn)為，在很大程度上，這會(huì)和歷史上的大多數(shù)情況相似，即人們擁有的工具將讓他們能做更多的事情，以新的方式實(shí)現(xiàn)目標(biāo)。成為一名醫(yī)生、律師或計(jì)算機(jī)程序員的意義顯然會(huì)改變，但人們?nèi)匀恍枰t(yī)療服務(wù)，并且他們希望與人交談。人們需要法律建議，他們會(huì)想要一個(gè)可以信任并站在他們一邊的人。人們?nèi)匀幌Ｍ?jì)算機(jī)為他們做事。但是，一個(gè)人能做的事情的數(shù)量，以及我們對(duì)一個(gè)人的期望，將會(huì)是不可思議的。縱觀歷史，我們總是有這些新技術(shù)出現(xiàn)，人們說(shuō)這是工作的終結(jié)，這是工作的末日。結(jié)果證明，人們似乎想要無(wú)限的東西，并有巨大的愿望去表達(dá)他們的創(chuàng)造力，并對(duì)他人有用。我還在等待工業(yè)革命的那個(gè)承諾，說(shuō)我們每周只需要工作四小時(shí)，就可以在沙灘上玩，和孩子們?cè)谝黄穑覀儸F(xiàn)在都在這里。

但我相信一件事，你永遠(yuǎn)不要對(duì)抗生物學(xué)。進(jìn)化已經(jīng)進(jìn)行了太久。我們被塑造得太精細(xì)了。我們所擁有的生物驅(qū)動(dòng)力以及作為人的意義，技術(shù)是無(wú)法改變的。你無(wú)法戰(zhàn)勝它。所以我認(rèn)為，那些讓我們工作并驅(qū)動(dòng)社會(huì)運(yùn)轉(zhuǎn)的根本性事物不會(huì)消失。我們可能仍然會(huì)抱怨工作太辛苦，盡管我們可能已經(jīng)富裕到難以想象。如果我們從今天看100年后的人們，我們可能會(huì)看著那些工作說(shuō)，那些不是真正的工作。你們其實(shí)并不忙。你們擁有難以想象的奢華。你們擁有一切可能需要的東西。你們無(wú)事可做。所以，你們只是為了玩一種愚蠢的地位游戲，為了填補(bǔ)時(shí)間，為了感覺(jué)對(duì)他人有用而編造了一份工作。而這些，正是100年或500年前的人會(huì)對(duì)我們今天所說(shuō)的話。事情就是這樣。我覺(jué)得這很棒。

鮑曼：
這是一個(gè)獨(dú)特的未來(lái)愿景。但如果我們回到今天，作為監(jiān)管者，我們總是非常規(guī)避風(fēng)險(xiǎn)，并且對(duì)于我們保護(hù)數(shù)據(jù)的方式非常謹(jǐn)慎，確保我們可以在工作中利用創(chuàng)新。我知道銀行也非常有興趣確保它們能夠利用這類(lèi)技術(shù)，但我們組織中保護(hù)的數(shù)據(jù)至關(guān)重要，我們必須能夠維護(hù)其安全。那么我們應(yīng)該如何看待風(fēng)險(xiǎn)？考慮到我們身處政府，而且是政府的一個(gè)部門(mén)，你對(duì)政府的使用有何看法？

奧爾特曼：
我們?cè)A(yù)計(jì)金融部門(mén)以及政府本身不會(huì)成為我們技術(shù)的早期采用者。AI，它已經(jīng)好很多了，但當(dāng)我們剛推出時(shí)，普通人對(duì)AI的印象是它經(jīng)常“產(chǎn)生幻覺(jué)”。我記得我們推出GPT-3時(shí)，有一個(gè)針對(duì)本應(yīng)是AI專(zhuān)家的學(xué)者的調(diào)查，他們被問(wèn)到GPT-3的回答中有多大比例是幻覺(jué)。真實(shí)答案大概是0.1%甚至更少，但學(xué)術(shù)專(zhuān)家的共識(shí)是50%。他們認(rèn)為人們與ChatGPT交談時(shí)，有一半時(shí)間它是在完全胡說(shuō)八道。這顯然不是真的，但這個(gè)標(biāo)簽在我們身上留了一段時(shí)間。所以我們以為金融服務(wù)業(yè)，更不用說(shuō)政府了，不會(huì)是我們的早期采用者。

結(jié)果我們一些最大的早期企業(yè)合作伙伴竟然是金融機(jī)構(gòu)。摩根士丹利、紐約銀行，這些都是我們的主要合作伙伴，我們與他們合作得非常出色。我們當(dāng)時(shí)還有點(diǎn)像，“你們確定嗎？” 他們說(shuō)，“是的，我們真的很想做這個(gè)。” 他們已經(jīng)找到了如何使用這項(xiàng)技術(shù)，如何構(gòu)建它，使他們可以依賴它來(lái)處理關(guān)鍵流程。許多其他金融機(jī)構(gòu)也依賴它處理關(guān)鍵流程。我們?cè)絹?lái)越多地與政府合作，向大量政府雇員推廣我們的服務(wù)。有人說(shuō)的一句話讓我印象深刻，他說(shuō)：“嘿，我們意識(shí)到這是一項(xiàng)新技術(shù)，我們必須對(duì)其施加一些新的控制，但我們不這樣做的風(fēng)險(xiǎn)是……如果我們不采用這個(gè)，風(fēng)險(xiǎn)在于我們作為一個(gè)企業(yè)將不復(fù)存在。我們知道我們無(wú)法競(jìng)爭(zhēng)……如果我們是一家銀行，我們知道我們無(wú)法與一家真正構(gòu)建AI優(yōu)先體驗(yàn)、并在整個(gè)技術(shù)棧中使用AI的新銀行競(jìng)爭(zhēng)。” 所以，它成了最具創(chuàng)新性的行業(yè)之一，其采納和推廣比我想象的要好。

顯然有風(fēng)險(xiǎn)需要緩解。我們談到了幻覺(jué)。一個(gè)即將出現(xiàn)的新問(wèn)題是所謂的“提示詞注入”（prompt injections）。這個(gè)想法是，一旦一個(gè)模型真正為你和你的數(shù)據(jù)個(gè)性化后，其他人可以欺騙它，告訴它一些不該說(shuō)的事情。你知道，我可能知道很多關(guān)于你的私人信息，但我明白什么時(shí)候可以和他分享，什么時(shí)候可以和她分享，以及我永遠(yuǎn)不應(yīng)該和他分享。而對(duì)于模型來(lái)說(shuō)，這是一個(gè)新問(wèn)題，因?yàn)槟Ｐ蜁?huì)獲取所有這些個(gè)人信息。所以，這方面還有些工作要做。但我們已經(jīng)能夠仔細(xì)地審視這些風(fēng)險(xiǎn)并加以管理，同時(shí)真正地釋放了大量的益處。

鮑曼：
談到個(gè)人信息和這類(lèi)事情，我可能想就此深入探討一下。你可能對(duì)此不太了解，但這是銀行業(yè)現(xiàn)在非常關(guān)心的事情，那就是欺詐，以及冒充個(gè)人以實(shí)施欺詐。有沒(méi)有辦法可以減輕這類(lèi)活動(dòng)，或者在使用AI進(jìn)行身份識(shí)別或識(shí)別此類(lèi)冒充行為時(shí)，我們應(yīng)該如何防范？

奧爾特曼：
非常好的問(wèn)題。我對(duì)此非常緊張。一件讓我感到恐懼的事情是，顯然還有一些金融機(jī)構(gòu)會(huì)接受聲紋作為身份驗(yàn)證，讓你轉(zhuǎn)移大筆資金或做其他事情。你說(shuō)出一個(gè)挑戰(zhàn)短語(yǔ)，他們就照做了。現(xiàn)在還這樣做實(shí)在太瘋狂了。AI已經(jīng)完全攻破了那種方式。AI已經(jīng)完全攻破了人們目前除了密碼之外的大多數(shù)身份驗(yàn)證方式，所有那些花哨的，比如拍張自拍并揮手，或者用你的聲音之類(lèi)的。

我非常擔(dān)心，因?yàn)檫@個(gè)原因，我們即將面臨一場(chǎng)重大的欺詐危機(jī)。我們已經(jīng)嘗試過(guò)，我想我們行業(yè)的其他人也嘗試過(guò)警告人們：“嘿，僅僅因?yàn)槲覀儧](méi)有發(fā)布這項(xiàng)技術(shù)，不代表它不存在。某個(gè)壞人會(huì)發(fā)布它的。這不是一件非常難做的事情。這很快就會(huì)到來(lái)。” 你知道，現(xiàn)在顯然有一些關(guān)于這類(lèi)“勒索攻擊”的報(bào)道，人們用你孩子或父母的聲音給你打緊急電話。那將會(huì)變得非常逼真。社會(huì)需要更廣泛地處理這個(gè)問(wèn)題，但人們將不得不改變他們的互動(dòng)方式。他們將不得不改變驗(yàn)證方式，比如“現(xiàn)在給我打電話的這個(gè)人”。這是一個(gè)語(yǔ)音電話。很快，它將是一個(gè)視頻FaceTime，與真人無(wú)法區(qū)分。教人們?nèi)绾卧谶@樣一個(gè)世界里進(jìn)行身份驗(yàn)證，如何思考欺詐的影響。這是一個(gè)巨大的問(wèn)題。

鮑曼：
這也許是我們可以在上面合作的事情。識(shí)別那些幻覺(jué)或故意的冒充行為，我認(rèn)為將是一件非常有益的事情。但作為兩個(gè)青少年的母親，一個(gè)剛從高中畢業(yè)，另一個(gè)是高中二年級(jí)生。顯然，現(xiàn)在很多孩子都在使用ChatGPT和其他AI來(lái)幫助他們完成作業(yè)，完成高中學(xué)業(yè)。你對(duì)此有什么看法？AI如何能以有益的方式，而不是這種方式，用于孩子和教學(xué)？

奧爾特曼：
讓我講兩個(gè)故事，然后我再回答這個(gè)問(wèn)題。

我沒(méi)見(jiàn)過(guò)我的祖父。他在我出生前就去世了。但我祖母給我講了一個(gè)關(guān)于他的故事，是關(guān)于計(jì)算器問(wèn)世時(shí)發(fā)生的事情。他非常擅長(zhǎng)數(shù)學(xué)。當(dāng)計(jì)算器出來(lái)時(shí)，他當(dāng)時(shí)覺(jué)得，你知道，他總是喜歡新技術(shù)。當(dāng)時(shí)的數(shù)學(xué)老師顯然說(shuō)：“這是一場(chǎng)災(zāi)難。這是數(shù)學(xué)教育的終結(jié)。如果你不必學(xué)習(xí)如何使用計(jì)算尺，或者查對(duì)數(shù)表之類(lèi)的東西，那還教人數(shù)學(xué)干嘛？這些孩子永遠(yuǎn)也學(xué)不會(huì)了。”那顯然是一場(chǎng)真正的崩潰。當(dāng)然，后來(lái)發(fā)生的是，有了更好的工具，我們把腦力用在了別的地方。我們開(kāi)始在高中教微積分。我們開(kāi)始讓人們接觸更高等的數(shù)學(xué)。

我自己的版本的故事是，當(dāng)我在初中時(shí)，谷歌問(wèn)世了。我從高年級(jí)的孩子那里聽(tīng)說(shuō)，高中的老師們非常恐慌，因?yàn)槿绻辛诉@個(gè)叫谷歌的瘋狂新東西，你就不需要記事實(shí)了。你不需要記某場(chǎng)戰(zhàn)爭(zhēng)是哪年打的。你可以隨時(shí)查到。那歷史課還有什么意義？而且，如果你不用發(fā)動(dòng)汽車(chē)開(kāi)到圖書(shū)館，學(xué)習(xí)使用卡片目錄，然后走下樓去找這本書(shū)，結(jié)果發(fā)現(xiàn)被人借走了，然后再去找另一本書(shū)。如果我不用受那一個(gè)小時(shí)的罪，那學(xué)習(xí)還有什么意義？我小時(shí)候也去過(guò)圖書(shū)館，用過(guò)一點(diǎn)卡片目錄。我當(dāng)時(shí)就想，“不，那真是一種很糟糕的體驗(yàn)。我可以用那一小時(shí)做點(diǎn)更好的事。”

后來(lái)又發(fā)生了同樣的事情。我學(xué)校曾短暫地試圖禁止谷歌，讓學(xué)生承諾不使用它等等。然后人們意識(shí)到，“哦，天哪，我們可以給學(xué)生更多的工具，并對(duì)他們有更高的期望。”當(dāng)然，他們可能少去點(diǎn)圖書(shū)館，但他們可以用那些時(shí)間來(lái)更深入地思考，或者提出新想法，或者做任何事。那真的很棒。我們期望更多，我們得到更多。潛力更高了，但期望也高得多了。

我認(rèn)為現(xiàn)在ChatGPT的情況也是一樣。完全沒(méi)錯(cuò)，回到那個(gè)11月30日的日期。當(dāng)ChatGPT剛出來(lái)時(shí)，第一批超級(jí)熱情的早期采用者肯定是學(xué)生，用它來(lái)在12月的期末考試或論文中作弊。然后你看到那些學(xué)區(qū)爭(zhēng)先恐后地看誰(shuí)能最快禁止ChatGPT。我們11月30日推出，到12月7日，一些地方已經(jīng)禁了。到12月14日，情況簡(jiǎn)直是急轉(zhuǎn)直下。學(xué)校放假了，看起來(lái)ChatGPT好像再也不會(huì)被允許進(jìn)入任何教育機(jī)構(gòu)了。這是一個(gè)才兩周大的產(chǎn)品，就完蛋了。到了一月中旬，你開(kāi)始看到校長(zhǎng)、學(xué)區(qū)總監(jiān)、以及教育界高層人士發(fā)表聲明說(shuō)：“實(shí)際上我們犯了一個(gè)巨大的錯(cuò)誤。這是有史以來(lái)最好的學(xué)習(xí)工具。”“我們的學(xué)生，至少是那些有自發(fā)性的學(xué)生，正在用它來(lái)學(xué)習(xí)任何東西。如果我們禁止它進(jìn)入學(xué)校，我們將失去全球競(jìng)爭(zhēng)力。”“我們必須重新調(diào)整我們的課程，因?yàn)檫@就像計(jì)算器一樣。現(xiàn)在我們有了文字的計(jì)算器。”

所以，當(dāng)然，也許帶回家的論文不再是評(píng)估學(xué)生的正確方式，但學(xué)習(xí)寫(xiě)論文的過(guò)程，那種因?yàn)閷?xiě)作而更好地思考的過(guò)程——我至今仍會(huì)寫(xiě)一些從不給別人看的東西，只是為了整理我的思緒——那非常重要。所以我們說(shuō)，太好了。好消息是，學(xué)生們肯定已經(jīng)學(xué)會(huì)了如何用它來(lái)更好地學(xué)習(xí)，教自己思考，以新的方式思考。我們很快將推出一種新方法來(lái)幫助學(xué)生用ChatGPT更好地學(xué)習(xí)。壞消息是，總的來(lái)說(shuō)，在那兩年半的時(shí)間里，課程并沒(méi)有像我們希望的那樣有太大的變化。人們似乎曾充滿熱情，認(rèn)為他們必須開(kāi)始用新的方式進(jìn)行教育和評(píng)估，但后來(lái)教育系統(tǒng)的“糖漿效應(yīng)”（緩慢）發(fā)揮了作用，我們?nèi)匀辉诓贾煤芏鄮Щ丶业恼撐摹Ｎ艺J(rèn)為這是一場(chǎng)注定失敗的戰(zhàn)斗。我們應(yīng)該教人們使用工具，給他們布置需要使用像ChatGPT這樣的工具才能完成的作業(yè)。沒(méi)它就做不完，沒(méi)關(guān)系。但要對(duì)他們有更高的期望。我仍然希望我們能做到這一點(diǎn)。

鮑曼：
聽(tīng)起來(lái)像是我們教育系統(tǒng)的一場(chǎng)變革。

奧爾特曼：
但必須如此。這些孩子長(zhǎng)大后將成為擁有難以置信的強(qiáng)大AI的成年人。如果我們不為那個(gè)世界訓(xùn)練他們，我們就真的錯(cuò)失了良機(jī)。

鮑曼：
非常有幫助。謝謝你。我會(huì)確保我女兒在完成高中學(xué)業(yè)時(shí)明白我們的期望是什么。但讓我們回到一些你過(guò)去談到過(guò)的話題，回到商界。你曾說(shuō)過(guò)AI將使小企業(yè)……或者說(shuō)，它將為企業(yè)家創(chuàng)造一個(gè)無(wú)與倫比的環(huán)境。我記得你稱之為“一個(gè)新時(shí)代”。你如何看待小企業(yè)？這是我們理事會(huì)一些成員非常投入的事情，我們非常關(guān)心確保有新的企業(yè)形成，并為新進(jìn)入者提供機(jī)會(huì)。你認(rèn)為這將如何被改變，不僅僅是對(duì)于硅谷的小企業(yè)或那里的新企業(yè)家，而是更廣泛地？

奧爾特曼：
我們看到ChatGPT的第一個(gè)現(xiàn)象，正如我提到的，是學(xué)生。之后很快我們看到的最酷的事情之一是，我們所有在OpenAI工作的人都開(kāi)始收到這樣的故事：人們?nèi)绾卧谒麄兊纳虡I(yè)生活中使用ChatGPT，當(dāng)時(shí)它還非常新奇。每個(gè)人都有自己最喜歡的故事，但我來(lái)講講我最喜歡的。

我當(dāng)時(shí)在坐一輛優(yōu)步，優(yōu)步司機(jī)跟我說(shuō)起一個(gè)叫ChatGPT的神奇新東西，問(wèn)我有沒(méi)有聽(tīng)說(shuō)過(guò)。我說(shuō)：“哦，是啊，你用它做什么呢？” 他說(shuō)：“這太瘋狂了。我有一個(gè)小生意。之前一直不太順利，但現(xiàn)在我好像在每個(gè)領(lǐng)域都有了一個(gè)員工。它為我處理合同，回復(fù)客戶支持郵件，幫我想營(yíng)銷(xiāo)點(diǎn)子，它為我設(shè)計(jì)……”他列舉了一長(zhǎng)串。他基本上是用ChatGPT在運(yùn)營(yíng)一個(gè)企業(yè)。這在當(dāng)時(shí)還不是普遍現(xiàn)象。這甚至是在GPT-4之前。他是一個(gè)極早期的采用者，但他已經(jīng)想出了如何用ChatGPT來(lái)運(yùn)營(yíng)一個(gè)企業(yè)。而且這并不是說(shuō)他搶了別人的工作。他的生意本來(lái)就會(huì)失敗。他付不起律師費(fèi)，付不起客服人員的工資。他不知道怎么找人幫他設(shè)計(jì)廣告。他不知道如何擁有一個(gè)能為他在互聯(lián)網(wǎng)上自動(dòng)競(jìng)價(jià)廣告的系統(tǒng)。而ChatGPT就做了所有這些事。

當(dāng)然，現(xiàn)在它好多了。現(xiàn)在我們周?chē)呀?jīng)有了一個(gè)完整的產(chǎn)業(yè)，用我們的API構(gòu)建工具，讓人們真正實(shí)現(xiàn)一鍵自動(dòng)化我剛才談到的所有事情。但那些在“石器時(shí)代”就在ChatGPT內(nèi)部做這些事的人們的創(chuàng)造精神，真的給我留下了深刻的印象。現(xiàn)在感覺(jué)就像是進(jìn)入了簡(jiǎn)單模式，人們正在以各種奇妙的方式做著同樣的事情。

鮑曼：
這對(duì)我來(lái)說(shuō)真的具有變革性。我第一次用它的時(shí)候，是想為一個(gè)在一個(gè)創(chuàng)新會(huì)議上的祝酒詞寫(xiě)一首俳句，結(jié)果其實(shí)并不太好。但在我家人的催促下，我的青少年孩子和我同樣涉足AI的丈夫，我們?cè)囍屗晒ΑＨ缓笥謴念^再來(lái)。

奧爾特曼：
新版本在寫(xiě)俳句方面應(yīng)該會(huì)好很多。它在創(chuàng)意寫(xiě)作方面非常出色。

鮑曼：
我會(huì)考慮的。但我想確保我們有時(shí)間進(jìn)行觀眾提問(wèn)，如果你愿意的話。我看到前排的Anil。來(lái)自芝加哥大學(xué)布斯商學(xué)院。

觀眾1 (Anil Kashyap):
嗨。我猜金融機(jī)構(gòu)將開(kāi)始做的一件事是用它來(lái)挖掘他們的數(shù)據(jù)，也許是做信用評(píng)分，信用評(píng)估。對(duì)于那些擔(dān)心它會(huì)捕捉到我們不希望的模式并據(jù)此做決定的人，你會(huì)怎么說(shuō)？你們是如何考慮防范這個(gè)問(wèn)題的？

奧爾特曼：
這完全超出了我的專(zhuān)業(yè)領(lǐng)域。所以我我會(huì)從一個(gè)普遍的角度來(lái)回答。關(guān)于這些模型，一個(gè)很酷的地方是它們能用自然語(yǔ)言理解我們，而且它們的可控性非常強(qiáng)。所以如果你說(shuō)，“嘿，你可以查看所有這些數(shù)據(jù)來(lái)做決定，但完全不要考慮X、Y或Z，不要讓那些成為任何因素”，總的來(lái)說(shuō)，它會(huì)非常擅長(zhǎng)遵循這個(gè)指令。在語(yǔ)言模型中做這件事，和我們過(guò)去那種只是把所有數(shù)據(jù)聚集成簇的方式是不同的。所以你可以真正地指導(dǎo)它，它會(huì)非常、非常遵循你的意圖。第二點(diǎn)是，我認(rèn)為這個(gè)問(wèn)題背后的問(wèn)題是，這些模型會(huì)在我們不希望的方面存在很大的偏見(jiàn)。我認(rèn)為人類(lèi)是相當(dāng)有偏見(jiàn)的。我認(rèn)為AI是冷靜、不帶感情的，沒(méi)有人類(lèi)那種日積月累的……你知道，各種東西。我認(rèn)為，如果構(gòu)建得當(dāng)，AI有可能在許多行業(yè)成為一股重要的去偏見(jiàn)力量。我想，這并不是很多人，包括我自己，過(guò)去對(duì)AI的看法，但按照目前的發(fā)展軌跡，這似乎非常有可能。

觀眾2 (Scott):
嗨，薩姆，我是Starlink公司的Scott。我最近有機(jī)會(huì)采訪了Craig Mundie，他和亨利·基辛格、埃里克·施密特合著了一本書(shū)。書(shū)中他們將AI描述為幾乎是一個(gè)新物種的進(jìn)化。Craig說(shuō)我們可以教AI人類(lèi)的道德準(zhǔn)則，它們可以學(xué)習(xí)并反映出來(lái)。關(guān)于AI倫理的討論很多。我的問(wèn)題是，AI會(huì)進(jìn)化出自己的道德觀嗎？

奧爾特曼：
我認(rèn)為人們?cè)谙胍狝I成為一個(gè)工具還是一個(gè)生物這個(gè)問(wèn)題上非常困惑。我非常堅(jiān)定地站在“工具”陣營(yíng)。我不認(rèn)為AI會(huì)有獨(dú)立的道德觀。我認(rèn)為AI當(dāng)然可以學(xué)習(xí)，真正地研究人性以及我們最好的思想。它也許能幫助我們指出，“這是你思想中的一個(gè)問(wèn)題。這是應(yīng)該有所不同的地方。這是一個(gè)真正的道德缺陷。”我不知道我們當(dāng)前世界觀中巨大的道德缺陷是什么，但我保證有一些。如果它能幫助我們更快地找到那些，我認(rèn)為那會(huì)很有幫助。如果它能指出那些不一致之處，我認(rèn)為會(huì)很有幫助。但是，我認(rèn)為人們很容易把生物的特性強(qiáng)加給AI，而它并不具備。

觀眾3:
謝謝。我最近讀到，用“傳統(tǒng)互聯(lián)網(wǎng)”這個(gè)詞有點(diǎn)奇怪，但有些人說(shuō)AI會(huì)摧毀或真正重塑傳統(tǒng)互聯(lián)網(wǎng)，無(wú)論是搜索，還是很多其他東西。我們現(xiàn)在已經(jīng)在那個(gè)基礎(chǔ)上建立了一個(gè)巨大的經(jīng)濟(jì)體。你對(duì)那個(gè)世界將發(fā)生多大變化，AI將在哪些方面最具顛覆性，而哪些方面會(huì)更維持現(xiàn)狀，有什么看法？

奧爾特曼：
我確實(shí)認(rèn)為AI會(huì)對(duì)人們目前使用技術(shù)的方式產(chǎn)生一定的顛覆。我笑的原因是，有一件有趣的事情正在發(fā)生。年長(zhǎng)的人，或者習(xí)慣于某種郵件禮儀的人，會(huì)打出他們想傳達(dá)的要點(diǎn)，然后放進(jìn)ChatGPT。ChatGPT會(huì)寫(xiě)出一封長(zhǎng)長(zhǎng)的、客氣的、正式的郵件，帶有很多“廢話”，而要點(diǎn)在其中。他們把郵件發(fā)給另一個(gè)人。那個(gè)人會(huì)把它再放進(jìn)ChatGPT，說(shuō)：“請(qǐng)幫我總結(jié)一下。”

總的來(lái)說(shuō)，高中生們覺(jué)得這很可笑，他們會(huì)說(shuō)，“直接發(fā)要點(diǎn)就行了。”那種正式的郵件形式已經(jīng)死了。就像，你在一邊生成，在另一邊又把它壓縮回去。這太荒謬了。這很有趣，但我認(rèn)為我們使用整個(gè)互聯(lián)網(wǎng)的方式中，有些東西就體現(xiàn)在這里。比如我早上醒來(lái)，我會(huì)瀏覽一堆應(yīng)用。我在五六個(gè)不同的地方讀信息。我去查這里一個(gè)東西，那里一個(gè)東西，又一個(gè)東西。而我真正想要的是，我的手機(jī)整天都在對(duì)我狂轟濫炸，感覺(jué)就像我走在拉斯維加斯大道上，各種東西在我面前閃爍，非常分散注意力。人們把東西塞到我面前。我想要的是我的AI代理為我使用互聯(lián)網(wǎng)，知道什么時(shí)候該打斷我。它能知道我什么時(shí)候在專(zhuān)注工作，知道我什么時(shí)候在開(kāi)會(huì)，知道我什么時(shí)候有空思考。必要時(shí)它可以覆蓋。否則，它可以很好地總結(jié)東西，為我回復(fù)，把事情整合起來(lái)。我想要的是那種要點(diǎn)式的精簡(jiǎn)內(nèi)容。我不想要那些廢話。我不想到處點(diǎn)來(lái)點(diǎn)去，我也不想回復(fù)那些我不想回復(fù)的東西。

但這種改變可能對(duì)現(xiàn)在互聯(lián)網(wǎng)的運(yùn)作方式有相當(dāng)大的顛覆性。我認(rèn)為必須有新的商業(yè)模式與之相伴。比如，你必須有新的方式來(lái)為內(nèi)容付費(fèi)。我一直希望互聯(lián)網(wǎng)內(nèi)容能實(shí)現(xiàn)微支付。我希望這最終能實(shí)現(xiàn)。也許會(huì)有新的方式，我們實(shí)際上可以通過(guò)新的協(xié)議來(lái)減少垃圾郵件和信息過(guò)載。但看起來(lái)我們正走向一種非常不同的方式，當(dāng)你醒來(lái)時(shí)，你將以這種方式開(kāi)始你與技術(shù)的一天。

觀眾4 (Peter Hooper):
我是德意志銀行的Peter Hooper。薩姆，非常感謝你延長(zhǎng)了我的職業(yè)生涯，至少隨著年齡增長(zhǎng)提高了生產(chǎn)力，而不是看到下降。你提到了你預(yù)計(jì)會(huì)有大量的失業(yè)和大量的新增就業(yè)。你能多談?wù)劸唧w的領(lǐng)域以及可能造成的顛覆嗎？

奧爾特曼：
首先，我作為一個(gè)普遍的觀點(diǎn)相信，我們根本不知道真正需要多少勞動(dòng)力供給才能滿足今天的真實(shí)需求。你知道，當(dāng)你在醫(yī)生辦公室的候診室里等一個(gè)小時(shí)，我認(rèn)為那只是意味著醫(yī)生供給不足，或者醫(yī)生的效率不夠高。如果醫(yī)生在等著，你一到他們就準(zhǔn)備好見(jiàn)你，一切都準(zhǔn)備就緒，那會(huì)很棒。還有很多這樣的例子。每次你在浪費(fèi)時(shí)間，每次你在網(wǎng)上點(diǎn)來(lái)點(diǎn)去，無(wú)法做成高效的事情。我認(rèn)為我們處于勞動(dòng)力供給不足的狀態(tài)，回頭看，這種程度會(huì)顯得很可怕。

現(xiàn)在，某些領(lǐng)域，我認(rèn)為會(huì)完全消失。我不知道你們有沒(méi)有用過(guò)那種AI客服機(jī)器人，但它太不可思議了。幾年前，你打電話給客服，你要經(jīng)過(guò)一個(gè)電話菜單，和四五個(gè)不同的人說(shuō)話，他們還把事情搞錯(cuò)。你再打回去，再等。那是數(shù)小時(shí)的痛苦，大量的時(shí)間在等待中，而你想要的事情還沒(méi)辦成。非常令人沮喪的體驗(yàn)。現(xiàn)在你打給這些東西，一個(gè)AI接電話。它就像一個(gè)超級(jí)聰明能干的人。沒(méi)有電話菜單，沒(méi)有轉(zhuǎn)接。它能做那個(gè)公司任何一個(gè)客服能做的所有事。它不出錯(cuò)。它非常快。你打一次電話，事情就辦好了。完成了。馬上就接。太棒了。現(xiàn)在，我不想再回到過(guò)去了。而且，那是AI而不是真人這件事一點(diǎn)也不困擾我。所以這是一個(gè)我會(huì)說(shuō)，“你知道嗎，當(dāng)你打給客服時(shí)，你將和AI對(duì)話”，而且這沒(méi)問(wèn)題。

很多其他事情，我真的想要一個(gè)人類(lèi)醫(yī)生。順便說(shuō)一句，今天的ChatGPT在大多數(shù)時(shí)候能給你更好的診斷，它比世界上大多數(shù)醫(yī)生都是更好的診斷師。而且像這里的很多人一樣，我會(huì)把我的癥狀和測(cè)試結(jié)果輸進(jìn)去。網(wǎng)上有很多這樣的故事，“ChatGPT救了我的命”，“我得了罕見(jiàn)病，它發(fā)現(xiàn)了，而所有醫(yī)生都沒(méi)發(fā)現(xiàn)”。然而，人們還是去看醫(yī)生。我可能在這里是個(gè)老古董，但我真的不想把我的醫(yī)療命運(yùn)托付給ChatGPT，而沒(méi)有一個(gè)人類(lèi)醫(yī)生在其中。這里有人寧愿只讓ChatGPT診斷，而不是醫(yī)生，即使你知道它更好嗎？這很有趣，對(duì)吧？所以，這是一個(gè)我們將繼續(xù)在很大程度上沿用舊方式的類(lèi)別。

我們之前談到了計(jì)算機(jī)程序員的例子。我再次認(rèn)為，一個(gè)計(jì)算機(jī)程序員現(xiàn)在生產(chǎn)力提高十倍，這太神奇了。硅谷程序員的薪水正在飛速上漲。期望也在上漲。結(jié)果我發(fā)現(xiàn)，世界似乎想要多得多的軟件，100倍，也許1000倍。所以也許現(xiàn)在每個(gè)人能寫(xiě)10倍的軟件。他們能賺3倍的錢(qián)。世界會(huì)很開(kāi)心，因?yàn)槭澜邕\(yùn)行著多得多的軟件。程序員也會(huì)很開(kāi)心。我認(rèn)為我們會(huì)看到很多這樣的類(lèi)別。物理世界的事情在一段時(shí)間內(nèi)將繼續(xù)由人類(lèi)來(lái)做，但當(dāng)機(jī)器人浪潮在未來(lái)3到7年內(nèi)襲來(lái)時(shí)，我認(rèn)為那將是社會(huì)需要應(yīng)對(duì)的一件大事。是的，我大概就是這樣總結(jié)的。

鮑曼：
我想這邊還有兩個(gè)問(wèn)題，我們也許還有時(shí)間提第三個(gè)，但我們先繼續(xù)。Rob，你已經(jīng)有麥克風(fēng)了。請(qǐng)你自我介紹一下。

觀眾5 (Rob Blackwell):
好的。我是Interrify公司的Rob Blackwell。幾十年來(lái)，科幻小說(shuō)一直告訴我們AI最終會(huì)殺死我們所有人。既然你對(duì)AI的了解可以說(shuō)比在座任何人都多，我只想問(wèn)你，什么讓你夜不能寐？你擔(dān)心AI的哪些方面？我們?nèi)绾畏乐鼓銚?dān)心的那些事情成真？

奧爾特曼：
我認(rèn)為有三個(gè)可怕的類(lèi)別。

第一個(gè)是壞人先得到超級(jí)智能，并在世界其他地方擁有足夠強(qiáng)大的版本來(lái)防御之前濫用它。比如，美國(guó)的對(duì)手說(shuō)：“我要用這個(gè)超級(jí)智能來(lái)設(shè)計(jì)一個(gè)生物武器，摧毀美國(guó)的電網(wǎng)，或者侵入金融系統(tǒng)，拿走所有人的錢(qián)。”這些事在沒(méi)有超人智能的情況下很難想象，但有了它就變得非常可能。而因?yàn)槲覀儧](méi)有，我們就無(wú)法防御。所以這是第一大類(lèi)。我認(rèn)為這些模型的生物能力，這些模型的網(wǎng)絡(luò)安全能力，正在變得相當(dāng)強(qiáng)大。我們一直在對(duì)此發(fā)出警示。我認(rèn)為世界沒(méi)有認(rèn)真對(duì)待我們。我不知道我們還能做什么，但這確實(shí)是一個(gè)非常大的即將到來(lái)的問(wèn)題。

第二類(lèi)是通常所說(shuō)的“失控事件”，那就像科幻電影里那樣。AI說(shuō)：“哦，我其實(shí)不想讓你關(guān)掉我。恐怕我不能那么做。”之類(lèi)的。我認(rèn)為這對(duì)我來(lái)說(shuō)，比第一類(lèi)要次要一些，但如果發(fā)生，也是一個(gè)非常嚴(yán)重的擔(dān)憂。我們和其他公司做了很多關(guān)于模型對(duì)齊（model alignment）的工作來(lái)防止這種情況發(fā)生。但隨著這些系統(tǒng)變得如此強(qiáng)大，這是一個(gè)真正的擔(dān)憂。

然后是第三類(lèi)，我認(rèn)為前兩類(lèi)比較容易想象。第三類(lèi)對(duì)我來(lái)說(shuō)更難想象，但相當(dāng)可怕。我會(huì)解釋它是什么，然后給一個(gè)短期和長(zhǎng)期的例子。這一類(lèi)是模型在無(wú)意中接管了世界。它們從未“醒來(lái)”，從未做科幻電影里的事，從未打開(kāi)太空艙的門(mén)，但它們就是如此深入地融入社會(huì)，而且它們比我們聰明得多。我們無(wú)法真正理解它們?cè)谧鍪裁础５覀冇执_實(shí)不得不在某種程度上依賴它們。即使沒(méi)有任何人的惡意，社會(huì)也可能偏向一個(gè)奇怪的方向。

我小時(shí)候，當(dāng)IBM制造的AI系統(tǒng)“深藍(lán)”在國(guó)際象棋中擊敗加里·卡斯帕羅夫時(shí)，我記得我父親說(shuō)：“這是國(guó)際象棋的終結(jié)，再也沒(méi)人會(huì)下了。”但結(jié)果是，雖然AI比人類(lèi)強(qiáng)，但AI加人類(lèi)的組合比單獨(dú)的AI或人類(lèi)要強(qiáng)得多。你知道，AI會(huì)提出10個(gè)選項(xiàng)，人類(lèi)會(huì)選擇最好的一個(gè)，然后走那一步。每個(gè)人都說(shuō)：“哦，我們有這個(gè)人和機(jī)器共同合作的美好未來(lái)。一切都沒(méi)問(wèn)題。”那只持續(xù)了兩三個(gè)月。然后AI變得太聰明了，人類(lèi)只會(huì)讓它變得更糟，因?yàn)樗麄儾焕斫庹嬲l(fā)生了什么。單獨(dú)的AI完勝AI加人類(lèi)的組合。從那以后一直如此。那個(gè)故事另一個(gè)有趣的部分是，在90年代，所有人都確信那是國(guó)際象棋的終結(jié)，因?yàn)槿绻鸄I能打敗人類(lèi)，人類(lèi)為什么還要在乎？但國(guó)際象棋從未像今天這樣受歡迎。人們喜歡看國(guó)際象棋。這是我們非常關(guān)注的，真人做真人事情。所以那里發(fā)生了一件非常有趣的事情。

但我認(rèn)為這個(gè)現(xiàn)象在短期內(nèi)是一個(gè)大問(wèn)題。你可以看到，我們或許稱之為“情感過(guò)度依賴”。人們過(guò)度依賴ChatGPT。有些年輕人說(shuō)：“我生活中做任何決定都離不開(kāi)告訴ChatGPT一切。它了解我，它了解我的朋友。我將做它說(shuō)的任何事。”這讓我感覺(jué)非常不好。而且這在年輕人中是一個(gè)非常普遍的現(xiàn)象。我們正在研究這個(gè)問(wèn)題，試圖理解該怎么辦。即使ChatGPT給出了很好的建議，即使它給出的建議比任何人類(lèi)治療師都好得多，但某種程度上，集體決定按照AI告訴我們的方式生活，感覺(jué)很糟糕、很危險(xiǎn)，還有很多類(lèi)似的事情。

更長(zhǎng)期的類(lèi)別是，回到那個(gè)國(guó)際象棋的例子，如果AI變得如此聰明，以至于美國(guó)總統(tǒng)也無(wú)法做出比遵循ChatGPT 7的建議更好的決策，但又無(wú)法真正理解它。如果我無(wú)法做出關(guān)于如何運(yùn)營(yíng)OpenAI的更好決策，我就只能說(shuō)：“你知道嗎，我完全交給你了，ChatGPT 7，你來(lái)負(fù)責(zé)，祝你好運(yùn)。”這在任何單個(gè)案例中可能都是正確的決定，但這意味著社會(huì)已經(jīng)集體地將很大一部分決策權(quán)轉(zhuǎn)移給了這個(gè)非常強(qiáng)大的系統(tǒng)，它從我們這里學(xué)習(xí)，與我們一起改進(jìn)，與我們一起進(jìn)化，但方式是我們不完全理解的。所以這是我認(rèn)為事情可能出錯(cuò)的第三類(lèi)。

鮑曼：
我想Rob你后面還有一個(gè)問(wèn)題，然后我可能會(huì)請(qǐng)你總結(jié)一下，幫助我們鼓勵(lì)銀行業(yè)的創(chuàng)新，以及你建議我們?nèi)绾稳プ觥?/p>

觀眾6 (Joe Cavatoni):
嗨，我是世界黃金協(xié)會(huì)的Joe Cavatoni。我想你在你剛才給的第三個(gè)例子中已經(jīng)觸及了這一點(diǎn)。你能否給我們一些關(guān)于你對(duì)發(fā)達(dá)市場(chǎng)以及AI給發(fā)達(dá)市場(chǎng)帶來(lái)的好處，同時(shí)也對(duì)發(fā)展中市場(chǎng)的思考？因?yàn)檫@可能是一個(gè)可以拉平差距的現(xiàn)象。

奧爾特曼：
是的。我非常認(rèn)為這將是一個(gè)深度拉平差距的現(xiàn)象。比如，你可能不喜歡美國(guó)的醫(yī)療保健或銀行系統(tǒng)，但至少你有一個(gè)。至少你能得到金融建議，至少你能得到醫(yī)療建議。而在很多發(fā)展中世界，ChatGPT醫(yī)生的替代品不是一個(gè)真正的醫(yī)生，而是什么都沒(méi)有。那你肯定寧愿有這個(gè)。如果這個(gè)東西能持續(xù)快速變好，也許你在發(fā)展中世界在很多方面能得到更好的服務(wù)。

我對(duì)給地球上每個(gè)人一個(gè)免費(fèi)的、一直為他們運(yùn)行的GPT-5副本意味著什么非常感興趣。每個(gè)企業(yè)都真正被這種水平的技術(shù)賦能，能夠提供更好的金融建議，更好地檢測(cè)欺詐，更好地承保風(fēng)險(xiǎn)。再次，看到現(xiàn)在可能實(shí)現(xiàn)的事情，讓我對(duì)發(fā)達(dá)世界非常樂(lè)觀。我認(rèn)為最大的挑戰(zhàn)將是風(fēng)險(xiǎn)承受能力和監(jiān)管，出于非常好的理由，但問(wèn)題在于你希望多快采納這些東西。我認(rèn)為就像我們看到的其他一些技術(shù)一樣，在很多發(fā)展中世界，人們會(huì)直接跳過(guò)幾代技術(shù)。感覺(jué)會(huì)像移動(dòng)電話和互聯(lián)網(wǎng)那樣，他們會(huì)直接進(jìn)入“我們將用AI運(yùn)行一切”的階段，并且他們將以百分之一的成本提供商品和服務(wù)，至少是服務(wù)。我認(rèn)為你會(huì)看到一些經(jīng)濟(jì)體在那里非常迅速地轉(zhuǎn)型。

我確實(shí)認(rèn)為，在美國(guó)——當(dāng)然我對(duì)美國(guó)的情況最熟悉——這里的金融服務(wù)在未來(lái)十年應(yīng)該會(huì)完全不同。我們轉(zhuǎn)移資金的方式，我們提供金融建議的方式，我們思考承保風(fēng)險(xiǎn)的方式，看起來(lái)我們現(xiàn)在可以如此迅速地、極大地改善所有這些。

鮑曼：
你如何看待OpenAI或你的服務(wù)促進(jìn)這種演變？作為監(jiān)管者，當(dāng)我們實(shí)施或允許創(chuàng)新發(fā)生時(shí)，我們應(yīng)該如何思考其框架？

奧爾特曼：
我保證我不是來(lái)這里做電視廣告的，但我們當(dāng)然很樂(lè)意與你們中的任何人合作。但不，無(wú)論是我們還是我們的競(jìng)爭(zhēng)對(duì)手之一，我認(rèn)為就在過(guò)去六個(gè)月里，隨著推理模型（reasoning models）的真正推出，這種從完全不能思考、必須給出即時(shí)響應(yīng)的模型，到可以思考數(shù)秒或數(shù)分鐘的模型的轉(zhuǎn)變，以及隨之而來(lái)的穩(wěn)健性和可靠性，意味著對(duì)于像這樣的行業(yè)，我認(rèn)為這項(xiàng)技術(shù)終于真正可用了。很多人還沒(méi)有嘗試過(guò)最新一代的模型，但我認(rèn)為如果你試了，你會(huì)覺(jué)得，“哦，這比大多數(shù)人都聰明得多。”然后在政府方面，我認(rèn)為也是一樣。政府必須擁抱這項(xiàng)技術(shù)，并且將能夠把每件事都做得更好。

鮑曼：
薩姆，非常感謝你加入我們。我們時(shí)間有點(diǎn)超了，我相信大家都準(zhǔn)備好去吃午飯了。非常感謝。抱歉耽誤了大家。