黃仁勛親自“定義”英偉達(dá)：將“電子”轉(zhuǎn)為“Token”的轉(zhuǎn)換器

英偉達(dá)CEO黃仁勛用一句話定義了自己的公司：輸入是電子，輸出是Token，中間是英偉達(dá)。

4月15日，英偉達(dá)CEO黃仁勛接受播客主持人Dwarkesh Patel的深度訪談，內(nèi)容涵蓋英偉達(dá)的供應(yīng)鏈護(hù)城河、TPU競爭威脅，以及英偉達(dá)為何不自己做云服務(wù)等問題。

英偉達(dá)：“電子Token”轉(zhuǎn)換器

訪談開篇，主持人提出了一個尖銳問題：英偉達(dá)本質(zhì)上只是寫軟件，芯片由臺積電制造，內(nèi)存由SK 海力士、美光、三星提供，封裝由臺灣ODM廠商完成——如果軟件被商品化，英偉達(dá)會不會也被商品化？

黃仁勛給出了他對英偉達(dá)最精煉的定義：

最終，需要有某個東西把電子轉(zhuǎn)化成Token。把電子轉(zhuǎn)化成Token，并且讓這些Token隨時間變得更有價值，這件事很難被完全商品化。

他進(jìn)一步說：“輸入是電子，輸出是Token，中間是英偉達(dá)。我們的工作是盡可能高效地完成這一轉(zhuǎn)化。”

在供應(yīng)鏈層面，外界關(guān)注的焦點是英偉達(dá)的采購承諾規(guī)模——最新財報顯示接近1000億美元，行業(yè)分析機(jī)構(gòu)SemiAnalysis預(yù)測這一數(shù)字未來可能達(dá)到2500億美元。黃仁勛解釋了這背后的邏輯：

如果未來幾年是萬億美元規(guī)模，我們的供應(yīng)鏈能支撐它。

他說，這種能力并非單純來自合同，而來自對上游CEO的持續(xù)“告知、激勵和對齊”——讓他們看清AI產(chǎn)業(yè)的規(guī)模和方向，然后愿意為英偉達(dá)的需求進(jìn)行投資。CoWoS封裝是典型案例：兩年前是全行業(yè)最緊缺的瓶頸，英偉達(dá)“連續(xù)幾個翻倍”地擴(kuò)產(chǎn)之后，現(xiàn)在已基本不再是話題。

他判斷，供應(yīng)鏈上的任何瓶頸都不會持續(xù)超過兩三年：“EUV機(jī)器、邏輯產(chǎn)能、封裝——這些東西都不難復(fù)制，只需要需求信號?！彼J(rèn)為真正的長期制約在下游：能源政策。“你不能在沒有電力的情況下建立一個工業(yè)，這才是需要時間的事情。”

TPU競爭：沒有一家敢來跑基準(zhǔn)測試

云巨頭（Hyperscalers）貢獻(xiàn)了英偉達(dá)約60%的收入，但谷歌、亞馬遜、甚至OpenAI等大客戶都在加碼自研TPU或其他ASIC芯片，這直接質(zhì)疑英偉達(dá)的競爭地位。

黃仁勛的回應(yīng)分兩層。

第一層是定性區(qū)分：英偉達(dá)做的是“加速計算”，而不是專用張量處理單元。加速計算覆蓋分子動力學(xué)、流體力學(xué)、數(shù)據(jù)處理、量子計算等幾乎所有科學(xué)計算領(lǐng)域，遠(yuǎn)比AI更寬。

我們是唯一一家加速所有類型應(yīng)用的公司。

第二層，黃仁勛稱，球沒有任何一個平臺的性能和總擁有成本能優(yōu)于英偉達(dá)，谷歌TPU、亞馬遜Trainium都無法與之匹敵，我并不認(rèn)可Trainium所宣稱的40%成本優(yōu)勢。英偉達(dá)毛利率能達(dá)到70%，而ASIC芯片毛利率約為65%，企業(yè)替換產(chǎn)品并不能實現(xiàn)顯著的成本節(jié)省。

英偉達(dá)的計算棧是全球最佳性價比，沒有例外。沒有一家公司能向我證明，今天世界上有任何平臺的AI數(shù)據(jù)中心的總擁有成本（TCO）比我們更好。沒有。Dylan的InferenceMAX擺在那里供所有人用，TPU不來，Trainium不來。

對于Anthropic大量使用TPU的問題，黃仁勛直接回應(yīng)：

Anthropic是一個特例，不是趨勢。沒有Anthropic，TPU的增長從哪里來？是100%來自Anthropic。沒有Anthropic，Trainium的增長從哪里來？也是100%來自Anthropic。

他也坦承，早年未能及時向Anthropic進(jìn)行戰(zhàn)略投資是自己的判斷失誤：

當(dāng)時谷歌和亞馬遜AWS投入了大量資金，Anthropic因此使用了他們的算力。我當(dāng)時沒有深刻意識到，風(fēng)投根本不可能給一家AI實驗室投50億、100億美元。這是我的失誤。但我不會再犯同樣的錯誤。

目前，黃仁勛已分別對OpenAI和Anthropic進(jìn)行了大規(guī)模投資，據(jù)報道金額分別高達(dá)300億和100億美元。

為什么不自己做云？“盡可能少做”是哲學(xué)

手握巨額現(xiàn)金流，英偉達(dá)近期頻頻向CoreWeave等初創(chuàng)云服務(wù)商提供資金和算力支持。市場猜測，英偉達(dá)是否會越過客戶，親自下場做超大規(guī)模云服務(wù)商，收取算力租用費？

黃仁勛的回答涉及公司哲學(xué)：

我們應(yīng)該做盡可能必要的事，做盡可能少的事。我們做的這些事，如果我們不做，我真的相信它們就不會發(fā)生。但云服務(wù)？如果我不做，有人會來做的。

他舉了CoreWeave、Nscale、Nebius等“新云”作為例子——這些公司若沒有英偉達(dá)的早期投資和支持，根本不會存在。但英偉達(dá)的介入是“讓生態(tài)繁榮”，而不是轉(zhuǎn)行做金融租賃或云計算運營。

他對于“不挑贏家”也有明確表態(tài)：“當(dāng)我投資其中一家，我會投資所有家?！崩碛墒牵河ミ_(dá)自己當(dāng)年在60家3D圖形公司中幾乎是被公認(rèn)“最不可能活下來”的一家，“我有足夠的謙遜來認(rèn)識到這一點”。

堅守賣鏟人定位，GPU分配絕不搞“價高者得”

在供需極度失衡的背景下，英偉達(dá)如何分配緊俏的GPU？黃仁勛明確否認(rèn)了“價高者得”的市場傳聞。

我們絕不會那樣做，這是糟糕的商業(yè)行為。你定好價格，然后人們決定是否購買。

黃仁勛解釋了英偉達(dá)的分配邏輯：優(yōu)先考察客戶的排產(chǎn)預(yù)測和采購訂單（PO），其次看客戶數(shù)據(jù)中心的就緒程度，最終遵循先到先得的原則?！拔腋Ｍ蔀樾袠I(yè)可靠的基石。如果你下達(dá)了1000億美元的AI工廠訂單，沒問題，全世界只有我們能給你這種確定性承諾。”

不會放棄全球第二大市場

針對當(dāng)前的芯片出口管制，黃仁勛從商業(yè)與技術(shù)標(biāo)準(zhǔn)的角度表達(dá)了務(wù)實的看法。

他指出，算力只是AI產(chǎn)業(yè)的底層輸入，當(dāng)受到約束時，競爭對手可以通過堆疊更多能源、使用更多上一代芯片，以及優(yōu)化算法來彌補(bǔ)硬件代差。

他表示，首先要認(rèn)識到：中國并不缺芯片。他們擁有全球頂尖的計算機(jī)科學(xué)家，眾所周知，這些AI實驗室里的AI研究人員有相當(dāng)大比例是中國人。他們擁有全球約50%的AI研究人員。

他們是競爭對手，我們希望美國勝出，但我認(rèn)為進(jìn)行對話和研究交流可能是最安全的做法。放棄整個市場不會讓美國長期在技術(shù)競賽中在芯片層、計算堆棧中獲勝。這是一個事實。

英偉達(dá)的核心競爭壁壘就是成熟的開發(fā)者生態(tài)，GPU全球裝機(jī)量達(dá)到數(shù)億級別，應(yīng)用場景實現(xiàn)全面覆蓋。

行業(yè)發(fā)展飛輪效應(yīng)清晰，依靠最大的裝機(jī)量、可編程的架構(gòu)、豐富的生態(tài)體系以及全球海量的AI公司，形成強(qiáng)勁發(fā)展動力。再加上性價比、能效、客戶基數(shù)均處于全球領(lǐng)先地位，進(jìn)一步推動發(fā)展飛輪持續(xù)運轉(zhuǎn)。

架構(gòu)優(yōu)勢（對比ASIC/TPU）

黃仁勛表示，傳統(tǒng)摩爾定律每年性能增長約25%，想要實現(xiàn)10到100倍的性能飛躍，必須依靠算法與計算架構(gòu)的雙重革新。Blackwell架構(gòu)的能效相比Hopper架構(gòu)提升50倍，這一成果絕非單純依靠晶體管進(jìn)步就能實現(xiàn)，架構(gòu)優(yōu)化與計算機(jī)科學(xué)創(chuàng)新才是核心關(guān)鍵。該架構(gòu)支持全流程可編程以及全棧協(xié)同設(shè)計，依托NVLink、Spectrum-X技術(shù)實現(xiàn)，沒有CUDA生態(tài)根本無法完成。
對于產(chǎn)品路線圖與發(fā)布節(jié)奏。黃仁勛透露，英偉達(dá)產(chǎn)品會保持年度穩(wěn)定迭代，從Vera Rubin到Vera Rubin Ultra，再到Feynman，每年都會推出穩(wěn)定升級的新品。同時我們是全球唯一一家，能夠承接從1000萬美元到1000億美元任意規(guī)模AI算力訂單的企業(yè)。

訪談文字實錄（略有刪減）

章節(jié)目錄

• （00:00:00） 英偉達(dá)最大的護(hù)城河，是否在于對稀缺供應(yīng)鏈的掌控？
• （00:16:25） TPU能否打破英偉達(dá)對AI算力的壟斷？
• （00:41:06） 英偉達(dá)為何不轉(zhuǎn)型為超大規(guī)模云服務(wù)商？
• （01:35:06） 英偉達(dá)為何不同時開發(fā)多種不同的芯片架構(gòu)？

00:00:00——英偉達(dá)最大的護(hù)城河，是否在于對稀缺供應(yīng)鏈的掌控？
Dwarkesh Patel
我們看到許多軟件公司的估值大幅下跌，因為人們預(yù)期AI將使軟件商品化。有一種可能過于簡單的看法是：英偉達(dá)把GDS2文件發(fā)給臺積電，臺積電制造邏輯芯片和交換機(jī)，再與SK海力士、美光和三星生產(chǎn)的HBM一起封裝，然后發(fā)往臺灣的ODM廠商組裝成機(jī)架。英偉達(dá)本質(zhì)上是在做軟件，而制造由他人完成。如果軟件被商品化，英偉達(dá)是否也會被商品化？

Jensen Huang
歸根結(jié)底，總需要有某種東西把電子轉(zhuǎn)化為Token。將電子轉(zhuǎn)化為Token，并持續(xù)提升Token的價值，這件事很難被徹底商品化。這個轉(zhuǎn)化過程本身就是一段了不起的旅程——讓這個Token變得有價值，就像讓一個分子比另一個分子更珍貴，讓一個Token比另一個Token更珍貴。其中涉及的藝術(shù)性、工程智慧、科學(xué)原理和創(chuàng)新發(fā)明，我們正在實時見證這一切的發(fā)生。這個轉(zhuǎn)化過程、這套制造體系、所有的科學(xué)積累，遠(yuǎn)未被深刻理解，這段旅程也遠(yuǎn)未結(jié)束。我不認(rèn)為商品化會發(fā)生。
我們當(dāng)然會持續(xù)提升效率。你描述問題的框架，正是我理解這家公司的方式：輸入是電子，輸出是Token，英偉達(dá)在中間。我們的職責(zé)是：在實現(xiàn)這種轉(zhuǎn)化的過程中，做一切必要的事，同時盡可能少做。所謂"盡可能少做"，就是凡是我不需要親自完成的，我都找合作伙伴來做，納入我的生態(tài)系統(tǒng)。

如果你今天審視英偉達(dá)，我們可能擁有全球最大的合作伙伴生態(tài)系統(tǒng)，上游有供應(yīng)鏈，下游有所有計算機(jī)公司、應(yīng)用開發(fā)者和模型創(chuàng)造者。AI是一塊五層蛋糕，我們在整個五層都擁有生態(tài)系統(tǒng)。我們盡可能少做，但我們必須親自完成的那部分，恰恰是極其困難的事，我不認(rèn)為那會被商品化。
事實上，我也不認(rèn)為企業(yè)軟件公司或工具制造商會被商品化。如今大多數(shù)軟件公司都是工具制造商，也有一些是工作流程編碼系統(tǒng)。但就工具制造商而言，Excel是工具，PowerPoint是工具，Cadence做工具，Synopsys做工具——我看到的前景與很多人恰恰相反。我認(rèn)為AI智能體的數(shù)量將會指數(shù)級增長，工具使用者的數(shù)量也將指數(shù)級增長，各類工具的實例數(shù)量極有可能會急速飆升。
Synopsys Design Compiler的實例數(shù)量很可能會急劇增加，使用平面規(guī)劃器、布局工具和設(shè)計規(guī)則檢查器的智能體數(shù)量也會如此。如今我們受限于工程師的數(shù)量，但將來，這些工程師將得到大批智能體的支持。我們將以前所未有的方式探索設(shè)計空間，而我們使用的，正是今天這些工具。
我認(rèn)為工具使用的爆發(fā)將推動軟件公司的價值飆升。之所以尚未發(fā)生，是因為智能體使用工具的能力還不夠強(qiáng)。未來，要么這些公司自己打造智能體，要么智能體本身足夠強(qiáng)大，能夠運用這些工具。我認(rèn)為兩種情況都會發(fā)生。
Dwarkesh Patel
根據(jù)你們最新的財務(wù)文件，英偉達(dá)在晶圓廠、內(nèi)存和封裝方面的采購承諾接近1000億美元。SemiAnalysis報道稱，這類采購承諾總額將達(dá)到2500億美元。有一種解讀認(rèn)為，英偉達(dá)真正的護(hù)城河，在于你們鎖定了未來多年所需的稀缺元器件供應(yīng)。競爭對手或許能做出一款加速芯片，但他們能拿到所需的內(nèi)存來制造嗎？能拿到邏輯芯片來制造嗎？這真的是英偉達(dá)未來幾年最大的護(hù)城河嗎？
Jensen Huang
這是我們能做、而他人難以復(fù)制的事情之一。我們在上游做出了巨大承諾，有些是你提到的顯性承諾，有些則是隱性的。舉個例子，上游的許多投資，是由我們的供應(yīng)鏈合作伙伴主動做出的，因為我曾對那些CEO們說："讓我告訴你這個行業(yè)將會有多大，讓我解釋為什么，讓我和你一起推演，讓我展示給你我所看到的未來。"
正是通過這個告知、激勵、與各行業(yè)上游CEO達(dá)成共識的過程，他們愿意做出投資。為什么他們愿意為我而不是為別人投資？因為他們知道，我有能力消化他們的產(chǎn)能，并通過我的下游渠道銷售出去。英偉達(dá)的下游供應(yīng)鏈規(guī)模和下游需求體量如此龐大，所以他們才愿意在上游持續(xù)投入。
看看GTC，人們驚嘆于它的規(guī)模和與會者的構(gòu)成——整個AI宇宙匯聚一堂，因為他們彼此都需要見到對方。我把他們聚在一起，讓下游看到上游，上游看到下游，所有人共同見證AI的進(jìn)步。更重要的是，他們都能親眼看到那些AI原生公司、那些正在構(gòu)建的AI初創(chuàng)企業(yè)，以及所有令人振奮的發(fā)展，親身印證我所描述的一切。我花了大量時間，直接或間接地讓我們的供應(yīng)鏈、合作伙伴和生態(tài)系統(tǒng)，了解我們面前的機(jī)遇。
有人說，在大多數(shù)科技發(fā)布會上，都是一個接一個的公告，但我們的發(fā)布會總有一部分有些"折磨人"，因為它更像是在傳授知識。事實上，這正是我的用意。我需要確保整個供應(yīng)鏈的上下游，以及整個生態(tài)系統(tǒng)，都理解即將到來的是什么，為什么會來，什么時候會來，規(guī)模會有多大，并且能夠像我一樣系統(tǒng)地進(jìn)行推演。
關(guān)于你描述的護(hù)城河，我們之所以能夠為未來做好準(zhǔn)備，是因為：如果未來幾年的規(guī)模達(dá)到萬億美元，我們有供應(yīng)鏈來支撐它。沒有我們的影響力和業(yè)務(wù)的高速運轉(zhuǎn)——就像現(xiàn)金流帶來供應(yīng)鏈流動和業(yè)務(wù)周轉(zhuǎn)——沒有人會為一個業(yè)務(wù)周轉(zhuǎn)率低的架構(gòu)專門建設(shè)供應(yīng)鏈。我們能夠維持這種規(guī)模，恰恰是因為我們的下游需求如此旺盛，而他們看到了這一切，聽到了這一切，一切都?xì)v歷在目。這才使我們得以在如此規(guī)模上做成今天能做的事。
Dwarkesh Patel
我想更具體地了解，上游供應(yīng)鏈能否跟上。多年來，你們的營收一直在逐年翻倍，每年向全球提供的算力也在以翻倍以上的速度增長。
Jensen Huang
而且在如今這個規(guī)模上繼續(xù)翻倍，是真的了不起。
Dwarkesh Patel
正是如此。但再看邏輯芯片這一環(huán)——你們是臺積電N3節(jié)點最大的客戶，也是N2節(jié)點最大客戶之一。根據(jù)SemiAnalysis的數(shù)據(jù)，AI今年將占N3產(chǎn)能的60%，明年將達(dá)到86%。你已經(jīng)是多數(shù)，還怎么翻倍？又如何年復(fù)一年地持續(xù)下去？我們是否已經(jīng)進(jìn)入了一個AI算力增長必須因上游瓶頸而放緩的階段？你有沒有破局之法？歸根結(jié)底，我們怎樣才能每年新建兩倍的晶圓廠？
Jensen Huang
在某種程度上，瞬時需求始終大于全球的供給能力。在任何時刻，我們都可能受限于某一環(huán)節(jié)的產(chǎn)能——水暖工短缺就是個真實案例。
Dwarkesh Patel
水暖工要被邀請參加明年的GTC了。
Jensen Huang
其實這是個好主意。但瞬時需求大于總供給，本身是個好現(xiàn)象。你希望身處一個供不應(yīng)求的行業(yè)，反過來才糟糕。如果某個特定元器件的缺口過大，整個行業(yè)就會蜂擁而至，集中攻克。舉個例子，注意現(xiàn)在幾乎沒人再談CoWoS了。
原因就在于過去兩年我們已經(jīng)全力以赴、連續(xù)翻倍地擴(kuò)產(chǎn)。如今CoWoS的供給已經(jīng)相當(dāng)充裕。臺積電現(xiàn)在明白，CoWoS的供給必須與邏輯芯片和內(nèi)存的需求同步擴(kuò)張，并以相同的節(jié)奏規(guī)模化CoWoS及未來的封裝技術(shù)。這是一大進(jìn)步——過去很長一段時間，CoWoS和HBM內(nèi)存都是相當(dāng)小眾的專業(yè)品，但如今它們已經(jīng)是主流計算技術(shù)，整個行業(yè)都意識到了這一點。
當(dāng)然，我們現(xiàn)在也能對更廣泛的供應(yīng)鏈?zhǔn)┘痈蟮挠绊?。AI革命之初，我今天所說的這些話，五年前我就已經(jīng)在說了。一些人相信了并付諸行動，比如Sanjay和美光團(tuán)隊。我至今清楚地記得那次會議，當(dāng)時我明確說明了即將發(fā)生什么、為什么會發(fā)生，以及對今日的預(yù)判。他們真的All-in了，我們在LPDDR和HBM內(nèi)存領(lǐng)域開展了深度合作，他們?yōu)榇舜罅ν顿Y，這對美光來說顯然是一段非凡的旅程。有些人來得稍晚，但現(xiàn)在他們都到位了。
每一個瓶頸都會受到高度關(guān)注，而我們現(xiàn)在已經(jīng)提前數(shù)年預(yù)判下一個瓶頸。比如，過去幾年我們在Lumentum、Coherent以及硅光子生態(tài)系統(tǒng)上的投資，從根本上重塑了供應(yīng)鏈。我們圍繞臺積電構(gòu)建了一整套供應(yīng)鏈，與他們合作推進(jìn)COUPE項目，發(fā)明了一系列新技術(shù)，并將這些專利授權(quán)給整個供應(yīng)鏈，以保持其開放性。
我們通過發(fā)明新技術(shù)、新工藝、雙面探針測試等新型測試設(shè)備，以及投資企業(yè)、幫助其擴(kuò)大產(chǎn)能等方式，主動塑造生態(tài)系統(tǒng)，確保供應(yīng)鏈隨時準(zhǔn)備好支撐所需的規(guī)模。
Dwarkesh Patel
有些瓶頸似乎比其他的更容易解決。擴(kuò)大CoWoS產(chǎn)能，對比擴(kuò)大——
Jensen Huang
我直接說最難的那個。
Dwarkesh Patel
是什么？
Jensen Huang
水暖工，還有電工。這也是我對"末日論者"渲染工作終結(jié)、大規(guī)模失業(yè)的說法感到擔(dān)憂的原因之一。如果我們把人嚇退出軟件工程這個行業(yè)，我們就會面臨軟件工程師短缺的問題。十年前也有過類似的預(yù)言——有些末日論者告訴大家，無論如何都不要去做放射科醫(yī)生。你或許還能在網(wǎng)上找到這些視頻，聲稱放射科會是第一個消亡的職業(yè)，世界將不再需要放射科醫(yī)生。現(xiàn)在我們短缺的是什么？恰恰是放射科醫(yī)生。
Dwarkesh Patel
回到剛才關(guān)于哪些東西可以擴(kuò)展、哪些不能的話題——邏輯芯片的產(chǎn)量，究竟如何實現(xiàn)每年翻倍？歸根結(jié)底，內(nèi)存和邏輯芯片的產(chǎn)能都受限于EUV光刻機(jī)。我們怎樣才能每年擁有兩倍的EUV機(jī)器？
Jensen Huang
這些都不是短期內(nèi)無法快速擴(kuò)展的問題。在兩三年內(nèi)完全可以實現(xiàn)，關(guān)鍵是要有明確的需求信號。一旦你能造出一臺，就能造出十臺，造出十臺就能造出一百萬臺。這些東西并不難復(fù)制。
Dwarkesh Patel
你會深入到供應(yīng)鏈的哪個層級去溝通？比如，你會直接去找ASML說："如果三年后英偉達(dá)要做到年營收兩萬億美元，我們需要更多的EUV光刻機(jī)"嗎？
Jensen Huang
有些情況需要我親自去溝通，有些可以間接推動，還有些……如果我能說服臺積電，ASML自然也會被說服。我們需要著眼于關(guān)鍵的瓶頸節(jié)點——而如果臺積電已經(jīng)信服，幾年內(nèi)就會有充足的EUV機(jī)器。
我的核心觀點是，任何一個瓶頸的持續(xù)時間都不會超過兩三年。與此同時，我們持續(xù)將計算效率提升10倍、20倍，從Hopper到Blackwell甚至提升了30到50倍。我們通過CUDA的高度靈活性持續(xù)推出新算法，開發(fā)各種新技術(shù)，在擴(kuò)大產(chǎn)能的同時不斷驅(qū)動效率提升。這些問題我都不擔(dān)心。真正令我憂慮的是我們下游的問題——能源政策阻礙了能源的發(fā)展，而沒有能源，什么產(chǎn)業(yè)都建不起來。
我們希望重新工業(yè)化美國，希望帶回芯片制造、計算機(jī)制造和封裝產(chǎn)業(yè)，希望構(gòu)建新興產(chǎn)業(yè)，比如電動汽車、機(jī)器人和AI工廠。而這一切都離不開能源，能源基礎(chǔ)設(shè)施的建設(shè)需要很長時間。相比之下，擴(kuò)大芯片產(chǎn)能是一個兩到三年的問題，擴(kuò)大CoWoS產(chǎn)能也是兩到三年的問題。
Dwarkesh Patel
有意思。我感覺有些嘉賓告訴我的恰好相反，但在這個問題上，我自己沒有足夠的專業(yè)知識來判斷誰對。
Jensen Huang
好在這次你在和行家聊。
00:16:25——TPU能否打破英偉達(dá)對AI算力的壟斷？
Dwarkesh Patel
說得對。我想談?wù)勀愕母偁帉κ??？?strong>全球排名前三的模型，Claude和Gemini這兩個，可以說都是在TPU上訓(xùn)練的。這對英偉達(dá)的未來意味著什么？
Jensen Huang
我們做的是截然不同的東西。英偉達(dá)做的是加速計算，而不是張量處理器。加速計算的應(yīng)用范圍極為廣泛：分子動力學(xué)、量子色動力學(xué)、數(shù)據(jù)處理、數(shù)據(jù)框架、結(jié)構(gòu)化數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)、流體動力學(xué)、粒子物理——此外，我們也將它用于AI。
加速計算的多樣性要豐富得多。雖然AI是當(dāng)下最熱門的話題，影響力也顯而易見，但計算的外延遠(yuǎn)比AI寬廣。英偉達(dá)從根本上重新定義了計算范式，從通用計算轉(zhuǎn)向加速計算。我們的市場覆蓋范圍，遠(yuǎn)超任何TPU或ASIC所能企及的邊界。
從我們的定位來看，英偉達(dá)是唯一一家能夠加速各類應(yīng)用的公司，我們擁有龐大的生態(tài)系統(tǒng)，各類框架和算法都能在英偉達(dá)上運行。
因為我們的計算平臺本就設(shè)計為可供他人運營，任何運營商都可以直接購買我們的系統(tǒng)。而那些自研系統(tǒng)，則大多只能自己運營，因為它們從未被設(shè)計成足夠靈活、可供第三方運營的形態(tài)。正因為任何人都可以運營我們的系統(tǒng)，我們得以進(jìn)駐每一朵云——包括谷歌、亞馬遜、微軟Azure和OCI。
如果你想以出租方式運營，就需要跨越眾多行業(yè)擁有龐大的客戶生態(tài)作為消化方。如果你想自己運營，我們完全有能力幫你實現(xiàn)，就像我們?yōu)轳R斯克的xAI所做的一樣。而且，因為我們能夠支持任何公司、任何行業(yè)的運營者，你可以用它為禮來這樣的藥企建造一臺超級計算機(jī)，用于科學(xué)研究和藥物發(fā)現(xiàn)，幫助他們自主運營，并將其應(yīng)用于整個藥物研發(fā)和生命科學(xué)領(lǐng)域——而這些，恰好都是我們能夠加速的領(lǐng)域。
有大量TPU根本無法處理的應(yīng)用場景，我們都可以覆蓋。英偉達(dá)在CUDA上構(gòu)建出了出色的張量處理能力，同時也涵蓋了數(shù)據(jù)處理、計算和AI的完整生命周期。我們的市場機(jī)遇更大，覆蓋范圍也更廣。正因為我們支持世界上幾乎所有應(yīng)用，英偉達(dá)的系統(tǒng)可以部署在任何地方，并且都能找到用戶，這是一種完全不同的競爭格局。
Dwarkesh Patel
這是一個比較長的問題。你們營收驚人，但你們一個季度賺600億美元，不是靠制藥或量子計算，而是因為AI是一項前所未有、以前所未有的速度增長的技術(shù)。
問題在于，什么才是真正最有利于AI本身的？我自己沒有深入研究過，但我的AI研究員朋友們說："當(dāng)我用TPU的時候，它是一個巨大的脈動陣列，非常適合做矩陣乘法；而GPU非常靈活，特別適合有大量分支或不規(guī)則內(nèi)存訪問的情形。"
但AI到底是什么？就是一遍又一遍、非常規(guī)律地做矩陣乘法。你不需要為線程調(diào)度器或線程與內(nèi)存庫之間的切換犧牲任何芯片面積。而TPU恰恰就是針對這一需求——當(dāng)前算力需求增長最快的那部分——高度優(yōu)化的。我很好奇你對此有何看法。
Jensen Huang
矩陣乘法是AI的重要組成部分，但不是全部。如果你想開發(fā)新的注意力機(jī)制、以不同方式進(jìn)行解耦，或者發(fā)明全新的架構(gòu)——比如混合SSM——你就需要一個通用可編程的架構(gòu)。如果你想創(chuàng)建一個融合擴(kuò)散模型和自回歸技術(shù)的模型，你也需要一個通用可編程的架構(gòu)。我們可以運行你能想到的任何算法，這正是核心優(yōu)勢——它讓新算法的發(fā)明變得更加容易，因為它是一個可編程系統(tǒng)。
正是這種發(fā)明新算法的能力，推動著AI如此迅速地向前演進(jìn)。TPU和所有其他東西一樣，受到摩爾定律的約束，而摩爾定律每年帶來的提升大約只有25%。想要實現(xiàn)10倍乃至100倍的飛躍，唯一的途徑是每年從根本上改變算法及其計算方式。
這就是英偉達(dá)的根本優(yōu)勢所在。我們之所以能讓Blackwell比Hopper提升50倍，正源于此——當(dāng)我最初宣布Blackwell的能效將比Hopper提升35倍時，沒有人相信。后來Dylan寫了一篇文章，說我保守估計了，實際上是50倍。單靠摩爾定律是不可能做到這一點的。我們解決這個問題的方式，是通過新的模型架構(gòu)，比如MoE——它在一套計算系統(tǒng)中實現(xiàn)了并行化、解耦和分布式部署。如果沒有CUDA的可編程性來做到這一點，我甚至不知道該從哪里下手。
Dwarkesh Patel
這觸及了一個關(guān)于英偉達(dá)客戶群的有趣問題。你們60%的營收來自五大超大規(guī)模云服務(wù)商。在早期不同的客戶群體中——比如做實驗的教授——他們需要CUDA，無法使用其他加速器，只能在CUDA上運行PyTorch，依賴全套優(yōu)化。
但這些超大規(guī)模云服務(wù)商有資源自己寫內(nèi)核。事實上，為了在自家特定架構(gòu)上榨出最后5%的性能，他們也不得不這樣做。Anthropic和谷歌主要運行自家加速器和TPU、Trainium。就算是使用GPU的OpenAI，也有Triton——因為他們需要自己的內(nèi)核。他們直接寫到CUDA C++層面，不用cuBLAS和NCCL，而是構(gòu)建了一套可編譯到其他加速器的自有技術(shù)棧。
如果你大部分的主要客戶都能、并且確實在為自己的CUDA替代方案，CUDA究竟在多大程度上還是讓前沿AI在英偉達(dá)上發(fā)生的真正動因？
Jensen Huang
CUDA是一個內(nèi)容極為豐富的生態(tài)系統(tǒng)。如果你想要在任何計算機(jī)上率先構(gòu)建，優(yōu)先基于CUDA來開發(fā)，是極為明智的選擇。因為生態(tài)系統(tǒng)如此豐富，我們支持所有框架。如果你想創(chuàng)建自定義內(nèi)核——我們對Triton的貢獻(xiàn)也是巨大的，Triton的后端蘊含著大量英偉達(dá)的技術(shù)。
我們很樂意幫助每一個框架發(fā)揮到極致。框架的種類繁多：Triton、vLLM、SGLang等等。如今還有一批新的強(qiáng)化學(xué)習(xí)框架涌現(xiàn)，比如verl和NeMo RL，后訓(xùn)練和強(qiáng)化學(xué)習(xí)整個領(lǐng)域正在爆炸式發(fā)展。所以，如果你想在某個架構(gòu)上構(gòu)建，首選CUDA是最明智的，因為你知道這個生態(tài)系統(tǒng)足夠成熟。
你知道，一旦出現(xiàn)問題，更可能是你自己的代碼，而不是底層那座代碼山。在構(gòu)建這些系統(tǒng)時，當(dāng)某個地方無法運行，到底是你的問題，還是計算機(jī)的問題？你希望問題永遠(yuǎn)在你這邊，希望能信任這臺計算機(jī)。當(dāng)然，我們自己也還有很多bug，但我們的系統(tǒng)經(jīng)過了充分的驗證，至少可以作為可靠的基礎(chǔ)。這是第一點：生態(tài)系統(tǒng)的豐富性、架構(gòu)的可編程性，以及整體的能力深度。
第二點是，對于任何開發(fā)者來說，最重要的事情是安裝基礎(chǔ)。你希望自己寫的軟件能在盡可能多的計算機(jī)上運行，因為你不只是在為自己開發(fā)，而是在為自己的集群，或者作為框架開發(fā)者，為其他所有人的集群開發(fā)。英偉達(dá)的CUDA生態(tài)系統(tǒng)，是我們真正的核心財富。
如今，我們大約有數(shù)億張GPU分布在世界各地，每一朵云都有。從A10、A100、H100、H200，到L系列、P系列，各種型號、各種規(guī)格都有。如果你是一家機(jī)器人公司，你希望這套CUDA技術(shù)棧能直接運行在機(jī)器人本身上。我們已經(jīng)無處不在。龐大的安裝基礎(chǔ)意味著，一旦你開發(fā)了某個軟件或模型，它就能在任何地方發(fā)揮價值，這本身就是極其寶貴的。
最后，我們存在于每一朵云中，這使我們真正做到了獨一無二。如果你是一家AI公司或開發(fā)者，你不一定清楚自己將來會與哪家云服務(wù)商深度合作，或在哪里運行。我們到處都能跑，包括本地部署。生態(tài)系統(tǒng)的豐富性、安裝基礎(chǔ)的廣泛性，以及部署地點的多樣性，共同鑄就了CUDA無可替代的價值。
Dwarkesh Patel
這很有道理。我想追問的是，這些優(yōu)勢對你的主要客戶來說是否真的舉足輕重。在大多數(shù)情形下，真正有能力自己搭建整套軟件棧的人——比如那些超大規(guī)模云服務(wù)商——恰恰貢獻(xiàn)了你們大部分的營收。
尤其是進(jìn)入一個AI越來越擅長處理"強(qiáng)驗證閉環(huán)"任務(wù)的世界——比如通過強(qiáng)化學(xué)習(xí)來優(yōu)化內(nèi)核性能，因為你可以對結(jié)果進(jìn)行驗證——那么，如何在規(guī)?；那疤嵯拢瑸樽⒁饬C(jī)制或MLP寫一個在各種配置下都最高效的內(nèi)核，這是一個非常可驗證的反饋閉環(huán)。
超大規(guī)模云服務(wù)商都能自己寫這些內(nèi)核。英偉達(dá)在性價比上依然很強(qiáng)，所以他們可能仍然傾向于選擇英偉達(dá)。但問題在于，這是否會變成一場單純拼規(guī)格的競爭——誰在同樣的價格下能提供更好的算力和內(nèi)存帶寬？歷史上英偉達(dá)之所以能夠擁有整個AI產(chǎn)業(yè)中最高的70%以上的毛利率——橫跨硬件和軟件——正是憑借CUDA的護(hù)城河。那么，當(dāng)你的大多數(shù)主要客戶都有能力自建替代方案時，你能守住這樣的利潤率嗎？
Jensen Huang
我們派駐到各個AI實驗室的工程師數(shù)量之多，令人咋舌——他們就在那里，與實驗室團(tuán)隊并肩工作，持續(xù)優(yōu)化技術(shù)棧。原因很簡單：沒有人比我們更了解自己的架構(gòu)。這些架構(gòu)并非像CPU那樣的通用平臺。CPU有點像一輛凱迪拉克，舒適、穩(wěn)健，永遠(yuǎn)不會太快，大多數(shù)人開起來都輕松自如，有巡航控制，一切都很簡單。但在很多層面上，英偉達(dá)的GPU和加速器更像F1賽車——以時速160公里駕駛它或許誰都能做到，但要真正把它推到極限，需要相當(dāng)深厚的專業(yè)功底。我們大量運用AI來打造我們的內(nèi)核。
我相當(dāng)確信，我們在相當(dāng)長的時間內(nèi)仍然是不可或缺的。我們的專業(yè)能力能幫助AI實驗室合作伙伴輕松從技術(shù)棧中榨出額外的2倍性能。我們經(jīng)常見到這種情況：當(dāng)我們完成技術(shù)?；蛱囟▋?nèi)核的優(yōu)化之后，他們的模型加速了3倍、2倍或50%。這是一個巨大的數(shù)字，尤其當(dāng)你考量到他們龐大的硬件規(guī)?！切〩opper和Blackwell的集群——性能提升兩倍，就等于營收翻倍，直接轉(zhuǎn)化為收入增長。
英偉達(dá)的計算技術(shù)棧在全球范圍內(nèi)擁有最佳的總擁有成本（TCO）性價比，沒有例外。沒有任何一個平臺能向我證明，今天全球存在比我們更優(yōu)的性能/TCO比。沒有一家。事實上，相關(guān)基準(zhǔn)測試公開擺在那里：Dylan的InferenceMAX就在那，所有人都可以用，但沒有一家——TPU不來，Trainium也不來。
我一直鼓勵他們使用InferenceMAX，來展示他們出色的推理成本。但這很難，沒有人愿意出現(xiàn)。MLPerf也是如此。我非常歡迎Trainium來證明他們一直宣稱的那40%，我也很想看看TPU在成本優(yōu)勢上的實際表現(xiàn)。這在我看來毫無道理，從第一性原理出發(fā)根本說不通。
所以，我認(rèn)為我們之所以如此成功，根本原因就在于我們的TCO是極其出色的。其次，你說60%的客戶是前五大云服務(wù)商，但其中大部分業(yè)務(wù)是面向外部客戶的。比如，英偉達(dá)在AWS上的大部分，是為外部客戶服務(wù)的，而非AWS自用。英偉達(dá)在Azure上的客戶，顯然都是外部客戶。在OCI上的客戶，也都是外部客戶，并非自用。他們之所以偏愛我們，是因為我們的覆蓋范圍極其廣泛，能夠為他們帶來全球最優(yōu)質(zhì)的客戶群。這些公司都建立在英偉達(dá)之上，而原因正是我們無可比擬的覆蓋面與靈活性。
所以，我認(rèn)為這個飛輪的運轉(zhuǎn)邏輯，是：安裝基礎(chǔ)、架構(gòu)的可編程性、生態(tài)系統(tǒng)的豐富性，以及全球AI公司的數(shù)量。如今有數(shù)以萬計的AI公司，如果你是其中一家，你會選擇哪種架構(gòu)？你會選擇全球最普及的那個——我們是最普及的；你會選擇安裝基礎(chǔ)最大的那個——我們擁有最大的安裝基礎(chǔ)；你會選擇生態(tài)系統(tǒng)最豐富的那個。
這就是飛輪。我們的每美元算力性價比極高，客戶能以最低的成本生產(chǎn)Token；我們的每瓦算力性能全球最強(qiáng)——如果我們的合作伙伴建造一座1吉瓦的數(shù)據(jù)中心，這1吉瓦必須要產(chǎn)生最大的營收和Token數(shù)量。你希望它產(chǎn)出盡可能多的Token，讓這座數(shù)據(jù)中心的收益最大化——我們擁有全球每瓦Token產(chǎn)出最高的架構(gòu)。最后，如果你的目標(biāo)是出租基礎(chǔ)設(shè)施，我們在全球擁有最多的客戶，這就是飛輪得以運轉(zhuǎn)的原因。
Dwarkesh Patel
有意思。問題歸根結(jié)底是：實際的市場格局是怎樣的？即便有其他公司存在，也可以存在一個數(shù)以萬計的AI公司大致均等地分配算力的世界。但即使通過這五大超大規(guī)模云服務(wù)商，真正使用那些算力的，也是Anthropic、OpenAI以及這些大型基礎(chǔ)模型實驗室——它們本身就有資源和能力，讓不同的加速器跑通自己的模型。
Jensen Huang
不，我認(rèn)為你的前提是錯誤的。
Dwarkesh Patel
也許吧。但讓我換個角度問你。
Jensen Huang
回頭記得讓我來糾正你的前提。
Dwarkesh Patel
好的。讓我先換一個問題。
Jensen Huang
但一定要記得讓我回來糾正，因為這對AI太重要了，對科學(xué)的未來太重要了，對這個行業(yè)的未來太重要了。這個前提……
Dwarkesh Patel
讓我先把問題說完，然后我們一起來討論。
Jensen Huang
好。
Dwarkesh Patel
如果你所說的這些關(guān)于價格、性能、每瓦性能等等都是事實，你認(rèn)為為什么Anthropic就在幾天前宣布了一項與Broadcom和谷歌合作、涉及多吉瓦規(guī)模、大量使用TPU的計算協(xié)議？對谷歌來說，TPU顯然是主流算力。所以當(dāng)我審視這些大型AI公司時，它們的相當(dāng)大一部分算力……曾經(jīng)全是英偉達(dá)，但現(xiàn)在已經(jīng)不是了。如果這些優(yōu)勢都是真實存在的，那我很想知道，為什么它們會選擇其他加速器？
Jensen Huang
Anthropic是個特殊案例，不代表趨勢。如果沒有Anthropic，TPU的增長從何而來？那100%是Anthropic帶動的。如果沒有Anthropic，Trainium的增長從何而來？也是100%來自Anthropic。我認(rèn)為這一點大家都相當(dāng)清楚。這并不說明ASIC機(jī)會遍地開花，只是恰好有Anthropic這樣一家公司存在。
Dwarkesh Patel
但OpenAI和AMD有合作，他們也在自研Titan加速芯片。
Jensen Huang
是的，但我想大家都承認(rèn)，他們?nèi)匀灰杂ミ_(dá)為主。未來我們還會一起做很多工作。別人嘗試其他方案，我并不介意。如果他們不去嘗試，又怎么知道我們有多好？有時候需要對比才能體會到。我們必須持續(xù)贏得現(xiàn)有的地位。
總會有很多宏大的聲明，但看看有多少ASIC項目已經(jīng)被取消。僅僅是打算造一塊ASIC，你還得造出比英偉達(dá)更好的東西。造出比英偉達(dá)更好的東西，并不那么容易，說實話，并不容易。英偉達(dá)必然是某個地方存在明顯短板，才能被超越。憑借我們的規(guī)模和速度，我們是全世界唯一一家每年都在持續(xù)突破、每年都有重大飛躍的公司。
Dwarkesh Patel
我想他們的邏輯是："它不需要更好，只要別比英偉達(dá)差70%就行"，因為他們在給你付70%的利潤率。
Jensen Huang
別忘了，ASIC的利潤率也相當(dāng)高。英偉達(dá)的毛利率比如說是70%，ASIC的毛利率大概是65%，你真正省下來多少？
Dwarkesh Patel
你是說像Broadcom這樣的公司嗎？
Jensen Huang
是啊。你總得付給誰。據(jù)我所知，ASIC的利潤率極為可觀，他們自己也心知肚明，對自己出色的ASIC利潤率相當(dāng)引以為豪。
說到你問的"為什么"，很久以前，我們在財務(wù)上就是沒有能力這樣做。當(dāng)時，我也沒有深刻意識到，打造一家像OpenAI和Anthropic這樣的基礎(chǔ)AI實驗室有多艱難，以及它們需要供應(yīng)商本身做出巨額投資。我們當(dāng)時根本沒有能力向Anthropic投入數(shù)十億美元，支持他們使用我們的算力。但谷歌和AWS做到了。他們從一開始就大力投資，換來的是Anthropic使用他們的算力。我們當(dāng)時真的沒有那個能力。
我說自己的失誤，在于沒有深刻認(rèn)識到：他們其實別無選擇，風(fēng)險投資根本不可能向一家AI實驗室投入五十億甚至一百億美元，指望它成為另一個Anthropic。這是我的疏漏。但即使當(dāng)時我看清楚了，以英偉達(dá)彼時的規(guī)模，也未必能做到。不過這個錯誤我不會再犯了。
我很高興能夠投資OpenAI，很高興幫助他們擴(kuò)大規(guī)模，我也認(rèn)為這是必須做的事。后來當(dāng)Anthropic向我們走來的時候，我也很高興成為他們的投資人，幫助他們擴(kuò)大規(guī)模。只是在那時，我們確實沒有能力這樣做。如果可以把一切倒回去——如果當(dāng)年英偉達(dá)就像今天這么大——我會毫不猶豫地去做。
00:41:06——英偉達(dá)為何不轉(zhuǎn)型為超大規(guī)模云服務(wù)商？
Dwarkesh Patel
這其實相當(dāng)耐人尋味。多年來，英偉達(dá)一直是AI領(lǐng)域賺錢最多的公司，現(xiàn)在你們開始把這些錢投出去。據(jù)報道，你們在OpenAI投入了高達(dá)300億美元，在Anthropic投入了100億美元。但如今它們的估值已經(jīng)大幅攀升，而且相信還會繼續(xù)上漲。
這么多年來，如果你們一直在為它們提供算力，也清楚地看到行業(yè)走向，而它們的估值在幾年前——或者就在一年前——還只有今天的十分之一，而你們又握有大量現(xiàn)金，那么完全可以有另一種選擇：要么英偉達(dá)自己成為一家基礎(chǔ)模型實驗室，要么以現(xiàn)在更低的估值更早做出這些投資。你們完全有這個財力。所以我很想知道，為什么沒有早點這樣做？
Jensen Huang
我們在能夠做的時候就做了。在條件允許的那一刻，我們就行動了；如果能更早，我會更早。在Anthropic需要我們出手的時候，我們在財務(wù)上和認(rèn)知上都沒有準(zhǔn)備好。
Dwarkesh Patel
怎么說？是資金問題嗎？
Jensen Huang
是投資規(guī)模的問題。當(dāng)時我們從未在公司外部做過這個量級的投資，也沒有意識到這樣做是必要的。我一直以為他們可以去找風(fēng)險投資，就像所有公司那樣。但他們想做的事，根本不是通過VC能夠完成的。OpenAI想做的事，VC也做不到。這一點我現(xiàn)在明白了，但當(dāng)時不知道。
這正是他們的高明之處，也是他們的智慧所在。他們當(dāng)時就意識到必須走這條路。我為此感到高興。即使因為我們的缺席，Anthropic不得不轉(zhuǎn)向其他方，我仍然為這件事感到慶幸。Anthropic的存在對這個世界是一件好事，我真心希望它存在。
Dwarkesh Patel
不過你們現(xiàn)在仍在大量賺錢，而且季度利潤還在持續(xù)增長。
Jensen Huang
即便如此，還是可以有遺憾的。
Dwarkesh Patel
那問題仍然存在。好，現(xiàn)在我們來到了今天這個節(jié)點，手握越來越多的現(xiàn)金，英偉達(dá)接下來應(yīng)該怎么用這些錢？有一種選擇是：如今已經(jīng)形成了一個專門將資本支出（CapEx）轉(zhuǎn)化為運營支出（OpEx）的中間商生態(tài)系統(tǒng)，這些新型云服務(wù)商可以為AI實驗室提供算力出租服務(wù)。因為芯片價格昂貴，但在整個生命周期內(nèi)盈利豐厚，而AI模型不斷進(jìn)步，使得它們生產(chǎn)的Token價值持續(xù)提升。這些芯片部署成本高，但英偉達(dá)有錢來承擔(dān)這筆CapEx。據(jù)報道，你們還在為CoreWeave提供高達(dá)63億美元的背書，并已投資20億美元。
英偉達(dá)為什么不自己做云服務(wù)？為什么不自己成為超大規(guī)模云服務(wù)商，直接出租這些算力？你們有足夠的現(xiàn)金。
Jensen Huang
這是公司的經(jīng)營哲學(xué)，我認(rèn)為它是正確的：做一切必要的事，盡可能少做。這意味著，我們在構(gòu)建計算平臺這件事上所付出的努力，如果不是我們來做，我真誠地相信，沒有人會去做。如果我們不承擔(dān)我們承擔(dān)的風(fēng)險——如果我們沒有以那樣的方式構(gòu)建NVLink，沒有構(gòu)建整個技術(shù)棧，沒有打造那個生態(tài)系統(tǒng)，沒有在二十年里持續(xù)耕耘CUDA并在大部分時間里處于虧損——如果我們當(dāng)初沒有這樣做，沒有人會這樣做。
如果我們沒有創(chuàng)建所有CUDA-X領(lǐng)域?qū)Ｓ脦臁迥昵拔覀兙烷_始推進(jìn)領(lǐng)域?qū)Ｓ脦斓慕ㄔO(shè)，因為我們意識到如果不這樣做，無論是光線追蹤、圖像生成，還是早期的AI模型，還是數(shù)據(jù)處理、結(jié)構(gòu)化數(shù)據(jù)處理、向量數(shù)據(jù)處理，這些庫如果不是我們來做，沒有人會做。我對此深信不疑。我們?yōu)橛嬎愎饪虅?chuàng)建了cuLitho這個庫，如果不是我們，也不會有人做。所以，如果我們沒有做這些工作，加速計算就不會取得今天的進(jìn)展。
這些事，我們應(yīng)該做。我們應(yīng)該全力以赴，傾公司之力去做。但是，世界上有很多云服務(wù)。即使我們不做，也會有人站出來做。所以，遵循"做必要的事、盡可能少做"這一哲學(xué)，我用這個視角審視我做的每一件事。
具體到云服務(wù)商，如果不是我們支持CoreWeave的存在，這些新型AI云就不會存在。如果不是我們幫助CoreWeave起步，它們就不會有今天。如果不是我們支持Nscale，它們不會走到今天。如果不是我們支持Nebius，它們也不會有今天的成就?，F(xiàn)在它們都做得非常出色。
這是一個我們應(yīng)該投入的商業(yè)模式嗎？我們做必要的事，盡可能少做。我們投資生態(tài)系統(tǒng)，是因為我希望生態(tài)系統(tǒng)繁榮，希望這個架構(gòu)和AI能夠連接盡可能多的行業(yè)和國家，讓整個星球都能建立在AI之上，建立在美國技術(shù)棧之上。這正是我們追求的愿景。
我提到的另一件事是，有這么多出色的基礎(chǔ)模型公司，我們盡力投資所有的公司。這是我們做事的另一個方式：不挑贏家。我們需要支持所有人。這既是我們樂于做的，也是我們業(yè)務(wù)上的迫切需要。但我們也刻意不去挑贏家。所以每當(dāng)我投資其中一家，我也會投資其他所有家。
Dwarkesh Patel
為什么你特別刻意地不去挑贏家？
Jensen Huang
第一，這不是我們的職責(zé)。第二，英偉達(dá)剛成立時，市場上有60家3D圖形公司，我們是唯一一家存活下來的。如果當(dāng)時有人要從這60家里預(yù)測誰能最終勝出，英偉達(dá)大概會排在最不可能的那一梯隊。
這是在你出生之前的事了，但英偉達(dá)當(dāng)年的圖形架構(gòu)方向是"恰好走錯了"——不是稍微偏了點，而是完全走錯了方向。我們從扎實的第一性原理出發(fā)來推演，但最終走到了一個錯誤的答案，開發(fā)出了一個開發(fā)者幾乎無法支持的架構(gòu)，看起來毫無未來可言。當(dāng)時每個人都會把我們排除在外。但你看，我們在這里。
這份經(jīng)歷讓我有足夠的謙遜去認(rèn)識到：不要挑贏家。要么放手讓他們各自證明自己，要么把所有人都扶持起來。
Dwarkesh Patel
有一件事我沒明白。你說，"我們支持這些新型云服務(wù)商，并不只是為了扶持他們而扶持他們。"但緊接著你又列舉了一批新型云服務(wù)商，說如果沒有英偉達(dá)，它們就不會存在。這兩句話怎么能并立？
Jensen Huang
首先，他們自己要有存在的意愿，要主動來尋求我們的幫助。當(dāng)他們有意愿存在、有商業(yè)計劃、有專業(yè)能力和熱情，也具備必要的實力，但在起步階段需要一些投資才能落地時，我們會在那里。但我們的目標(biāo)是，他們的飛輪越快自轉(zhuǎn)越好。
你的問題是，我們是否想做融資業(yè)務(wù)？答案是不。有專門做融資的機(jī)構(gòu)，我們寧愿與所有這些機(jī)構(gòu)合作，而不是自己成為一個融資方。我們的目標(biāo)是專注于我們所做的事，保持商業(yè)模式的簡潔，支持我們的生態(tài)系統(tǒng)。
當(dāng)OpenAI這樣的公司在IPO之前需要三百億美元規(guī)模的融資，而我們深信他們，深信他們已經(jīng)是一家非凡的公司、將來也必然是一家卓越的公司，世界需要他們存在，我也需要他們存在，他們有強(qiáng)勁的發(fā)展勢頭，那就讓我們支持他們，幫助他們擴(kuò)大規(guī)模。這樣的投資我們會做，因為他們需要我們。但我們并不是努力做盡可能多的事——我們是做盡可能少的事。
Dwarkesh Patel
這也許是個顯而易見的問題，但我們已經(jīng)在這種GPU短缺的狀態(tài)下生活了好多年，隨著模型不斷進(jìn)步，這種短缺還在加劇。
Jensen Huang
我們確實面臨GPU短缺。
Dwarkesh Patel
是的。英偉達(dá)以非單純競價方式來分配稀缺的配額，而是會說："我們希望確保這些新型云服務(wù)商存活下去，給CoreWeave一些，給Crusoe一些，給Lambda一些。"這對英偉達(dá)有什么好處？首先，你是否認(rèn)同我這個"分散市場"的描述？
Jensen Huang
不。不，你的前提是錯的。我們對這些事情相當(dāng)用心。首先，如果你不下采購訂單，說再多也沒用。在我們收到采購訂單之前，我們能做什么？所以，第一件事是我們與各方努力完成預(yù)測，因為這些東西需要很長時間來制造，數(shù)據(jù)中心的建設(shè)也需要很長時間。我們通過預(yù)測來對齊供需關(guān)系，這是第一要務(wù)。
第二，我們努力與盡可能多的合作伙伴完成預(yù)測，但歸根結(jié)底，你還是必須下訂單。也許因為某種原因，你沒有及時下單，我能怎么辦？到了某個節(jié)點，就要先來先得。但除此之外，如果你因為數(shù)據(jù)中心沒有準(zhǔn)備好，或者某些組件還沒到位，暫時無法搭建數(shù)據(jù)中心，我們可能會決定先服務(wù)另一個客戶，這是為了最大化我們自己工廠的產(chǎn)出，我們可能會做一些這樣的調(diào)整。
除此之外，排序原則就是先來先得，你必須下采購訂單。當(dāng)然，網(wǎng)上有各種傳言，比如那篇關(guān)于Larry Ellison和埃隆·馬斯克與我共進(jìn)晚餐、向我"乞討"GPU的文章。這從來都沒有發(fā)生過。我們確實一起吃了晚飯，那是一頓很愉快的晚餐，但他們從始至終沒有"乞討"過GPU，他們只是下了訂單而已。一旦他們下了訂單，我們就會盡力滿足產(chǎn)能。我們沒有那么復(fù)雜。
Dwarkesh Patel
好的。聽起來，流程上有一個隊列，根據(jù)你的數(shù)據(jù)中心是否準(zhǔn)備就緒，以及你何時下了采購訂單，來決定供貨時間。但這聽起來并不是價高者得。有什么原因不這樣做嗎？
Jensen Huang
我們從來不這樣做。
Dwarkesh Patel
好的。
Jensen Huang
從來不。
Dwarkesh Patel
為什么不直接價高者得？
Jensen Huang
因為這是不好的商業(yè)行為。你定好價格，客戶決定買不買。我知道芯片行業(yè)有人在需求旺盛時漲價，但我們從來不這樣做，這從來就不是我們的做法。你可以信賴我們。我更希望成為行業(yè)的基石，一個可以依賴的存在。你不需要猜測。我給你報了一個價，就是這個價，就算需求沖到天上也好，隨它去。
Dwarkesh Patel
另一面，這也是你們與臺積電保持良好關(guān)系的原因，對吧？
Jensen Huang
是的，英偉達(dá)與臺積電的合作已經(jīng)差不多三十年了。英偉達(dá)和臺積電之間并沒有正式的法律合同，有時我占了便宜，有時我吃了虧，但總體而言，這段關(guān)系非常出色，我可以完全信任他們，完全依賴他們。
英偉達(dá)有一件事你可以確定：今年，Vera Rubin會非常出色；明年，Vera Rubin Ultra會來臨；后年，F(xiàn)eynman會到來；再下一年，我還沒公布名字。你可以每年都指望我們。全球你去找另一個ASIC團(tuán)隊，任何一個，你能說"我可以把我的全部身家都押在你身上，相信你每年都會出現(xiàn)，每年的Token成本都會下降一個數(shù)量級，我可以像信賴時鐘一樣信賴你"——我剛才說的是臺積電，歷史上沒有哪家晶圓廠能讓你這么說，但今天你可以這樣說英偉達(dá)。
如果你想購買價值10億美元的AI算力工廠，沒問題；1億美元，沒問題；1000萬美元或一個機(jī)架，沒問題；一張顯卡，也沒問題；想下一筆1000億美元的AI算力工廠訂單，沒問題。今天全球只有我們一家公司可以這么說。
我對臺積電也一樣：買一臺，買十億臺，沒問題，只需要走正常的計劃流程。英偉達(dá)作為全球AI產(chǎn)業(yè)基石的地位，是用數(shù)十年的巨大承諾和奉獻(xiàn)換來的。我們公司的穩(wěn)定性和一致性，是極其重要的。
關(guān)于中國競爭Dwarkesh Patel
好，我想聊聊中國這個話題。
Jensen Huang
首先，Mythos是在相當(dāng)普通的算力規(guī)模上訓(xùn)練出來的，由一家非凡的公司完成。它所使用的算力規(guī)模和類型，在中國是完全可以獲得的。所以，首先要認(rèn)識到：中國并不缺芯片。
他們生產(chǎn)全球約60%的主流芯片，甚至可能更多，這對他們來說是個龐大的產(chǎn)業(yè)。他們擁有全球頂尖的計算機(jī)科學(xué)家，眾所周知，這些AI實驗室里的AI研究人員有相當(dāng)大比例是中國人。他們擁有全球約50%的AI研究人員。所以問題是：考慮到他們已經(jīng)擁有的這些資產(chǎn)——充裕的能源、大量的芯片、大多數(shù)AI研究人員——如果你擔(dān)憂他們，創(chuàng)造一個安全世界的最佳方式是什么？
他們是競爭對手，我們希望美國勝出，但但我認(rèn)為進(jìn)行對話和研究交流可能是最安全的做法。
當(dāng)然我們希望美國擁有盡可能多的計算資源。我們受到能源的限制，但我們有很多人在努力解決這個問題。我們不能讓能源成為我們國家的瓶頸。但我們還希望確保世界上所有的AI開發(fā)者都在美國技術(shù)棧上進(jìn)行開發(fā)，并將AI的進(jìn)步——尤其是開源的——提供給美國生態(tài)系統(tǒng)。創(chuàng)建兩個生態(tài)系統(tǒng)將是極其愚蠢的：一個開源生態(tài)系統(tǒng)，它只能在一個外國技術(shù)棧上運行；以及一個封閉的生態(tài)系統(tǒng)，它在美國技術(shù)棧上運行。我認(rèn)為這對美國來說將是一個可怕的結(jié)局。
認(rèn)為英偉達(dá)是一家美國公司嗎？好的。第一，為什么我們不制定一個更平衡的法規(guī)，讓英偉達(dá)可以在全球獲勝，而不是放棄世界？你為什么要讓美國放棄世界？
芯片行業(yè)是美國生態(tài)系統(tǒng)的一部分。它是美國技術(shù)領(lǐng)先地位的一部分。它是AI生態(tài)系統(tǒng)的一部分。它是AI領(lǐng)先地位的一部分。為什么你的政策、你的哲學(xué)會導(dǎo)致美國放棄世界市場的巨大一部分？
首先，解決這個問題的方法是與研究人員對話，與中國對話，與所有國家對話，確保人們不會那樣使用技術(shù)。這是必須進(jìn)行的對話。好的。第一點。
第二點，我們還需要確保美國領(lǐng)先，確保Vera Rubin、Blackwell在美國豐富、大量地可用。顯然，我們的結(jié)果會顯示這一點。豐富，大量的。我們擁有的計算資源很棒。我們這里有很棒的AI研究人員。很棒。我們應(yīng)該保持領(lǐng)先。
然而，我們也必須認(rèn)識到，AI不僅僅是一個模型。AI是一個五層蛋糕。AI產(chǎn)業(yè)在每一層都很重要，包括芯片層。放棄整個市場不會讓美國長期在技術(shù)競賽中在芯片層、計算堆棧中獲勝。這是一個事實。
為了美國技術(shù)產(chǎn)業(yè)放棄那個市場，是對我們國家的傷害。
01:35:06 – 英偉達(dá)為什么不制造多種不同的芯片架構(gòu)？Dwarkesh Patel
我們之前討論了臺積電、內(nèi)存等方面的瓶頸。
所以，如果我們處在一個你已經(jīng)是N3節(jié)點主要客戶的世界里——在某個時候你會用到N2，并且你會是N2的主要客戶——你是否認(rèn)為你可以回到N7節(jié)點，一個更舊工藝節(jié)點的閑置產(chǎn)能，然后說，“嘿，對AI的需求如此巨大，而我們擴(kuò)展前沿節(jié)點的能力無法滿足它，所以我們將制造一個Hopper或Ampere，但使用我們今天所知道的關(guān)于數(shù)值運算的所有知識以及你描述的所有其他改進(jìn)”？你認(rèn)為在2030年之前這種情況會發(fā)生嗎？
Jensen Huang
沒有必要。原因在于，每一代架構(gòu)不僅僅是晶體管尺寸的問題。你在做大量的工程、封裝和堆疊工作，以及數(shù)值運算和系統(tǒng)架構(gòu)。
當(dāng)你產(chǎn)能耗盡時，輕松回到另一個節(jié)點……那是一種沒人能負(fù)擔(dān)得起的研發(fā)水平。我們能夠承擔(dān)向前推進(jìn)的成本。我認(rèn)為我們承擔(dān)不起回頭?，F(xiàn)在，如果世界只是說……如果在那一刻，讓我們做個思想實驗，在那一刻我們被告知，“聽著，我們再也不會有更多的產(chǎn)能了。”我會回去用7納米嗎？毫不猶豫地，我當(dāng)然會。
Dwarkesh Patel
我交談過的人有一個問題，為什么英偉達(dá)不同時運行多個完全不同架構(gòu)的芯片項目？你可以做一個Cerebras風(fēng)格的晶圓級芯片。你可以做一個Dojo風(fēng)格的大封裝。你可以做一個沒有CUDA的。你有資源和工程人才可以并行做所有這些。那么，鑒于誰知道AI和架構(gòu)可能會走向何方，為什么要把所有雞蛋放在一個籃子里呢？
Jensen Huang
哦，我們可以。只是我們沒有更好的主意。我們可以做所有那些事情。只是它們不是更好的。我們在模擬器中模擬了所有，證明它們更差。所以我們不會去做。我們正在做的正是我們想要做的項目。如果工作負(fù)載發(fā)生巨大變化——我指的不是算法，我實際上指的是工作負(fù)載，這取決于市場的形態(tài)——我們可能會決定增加其他加速器。
例如，最近我們增加了Groq，我們計劃將Groq整合到我們的CUDA生態(tài)系統(tǒng)中。我們現(xiàn)在正在這樣做，因為Token的價值已經(jīng)變得如此之高，以至于你可以有不同的Token定價。在過去，僅僅幾年前，Token要么免費，要么幾乎不貴。但現(xiàn)在你可以有不同的客戶，這些客戶想要不同的答案。因為客戶賺了很多錢——例如，我們的軟件工程師——如果我能給他們響應(yīng)更快的Token，讓他們比今天更高效，我愿意為此付費。
但那個市場最近才出現(xiàn)。所以我認(rèn)為我們現(xiàn)在有能力根據(jù)響應(yīng)時間，為同一個模型提供不同的細(xì)分市場。這就是為什么我們決定擴(kuò)展帕累托前沿，創(chuàng)建一個響應(yīng)時間更快的推理細(xì)分市場，即使它的吞吐量較低。直到現(xiàn)在，更高的吞吐量總是更好。我們認(rèn)為可能存在一個世界，其中可能有非常高ASP（平均售價）的Token，即使工廠的吞吐量較低，ASP也能彌補(bǔ)這一點。
這就是我們這樣做的原因。但除此之外，從架構(gòu)的角度來看，如果我有更多的錢，我會把更多的錢投入到英偉達(dá)的架構(gòu)背后。
Dwarkesh Patel
我認(rèn)為這種極致優(yōu)質(zhì)的Token和推理市場的分解是一個非常有趣的想法。
Jensen Huang
它的細(xì)分。
Dwarkesh Patel
是的。好了，最后一個問題。假設(shè)深度學(xué)習(xí)革命沒有發(fā)生。英偉達(dá)會在做什么？顯然是游戲，但考慮到——
Jensen Huang
加速計算，和我們一直在做的一樣。我們公司的前提是摩爾定律將……通用計算對很多事情有好處，但對很多計算來說并不理想。
所以我們結(jié)合了一種稱為GPU、CUDA的架構(gòu)和一個CPU，這樣我們就可以加速CPU的工作負(fù)載。不同的內(nèi)核代碼或算法可以被卸載到我們的GPU上。因此，你可以將應(yīng)用程序加速100倍、200倍。你可以在哪里使用它？顯然是工程、科學(xué)、物理、數(shù)據(jù)處理、計算機(jī)圖形、圖像生成，各種各樣的東西。即使今天沒有AI，英偉達(dá)也會非常非常大。
原因相當(dāng)根本，那就是通用計算繼續(xù)擴(kuò)展的能力基本上已經(jīng)走到了盡頭。而唯一的方法……不是唯一的方法，但實現(xiàn)這一目標(biāo)的方法是通過特定領(lǐng)域的加速。我們開始的領(lǐng)域之一是計算機(jī)圖形，但還有許多其他領(lǐng)域。有各種各樣的。粒子物理和流體、結(jié)構(gòu)化數(shù)據(jù)處理，所有不同類型受益于CUDA的算法。
我們的使命確實是向世界提供加速計算，并推進(jìn)通用計算無法完成的應(yīng)用類型，并將其能力擴(kuò)展到有助于突破某些科學(xué)領(lǐng)域的水平。一些早期的應(yīng)用是分子動力學(xué)、用于能源發(fā)現(xiàn)的地震處理、當(dāng)然還有圖像處理，所有這些通用計算效率低下的領(lǐng)域。
如果沒有AI，我會非常難過。但是，由于我們在計算方面取得的進(jìn)步，我們使深度學(xué)習(xí)民 主化了。我們使任何地方、任何研究人員、任何科學(xué)家、任何學(xué)生都能夠使用PC或GeForce擴(kuò)展卡進(jìn)行出色的科學(xué)研究成為可能。這個根本承諾沒有改變，一點也沒有。
如果你看GTC大會，有整個開頭部分。那里面沒有AI。那一整部分關(guān)于計算光刻、量子化學(xué)工作、數(shù)據(jù)處理工作，所有這些東西都與AI無關(guān)。它仍然非常重要。我知道AI非常有趣且令人興奮，但有很多人正在做很多非常重要的非AI相關(guān)工作，而張量并不是你計算的唯一方式。我們想幫助所有人。
Dwarkesh Patel
Jensen，非常感謝。
Jensen Huang
不客氣。我很享受。
Dwarkesh Patel
我也是。