谷歌聯手Marvel研發下一代TPU，專為AI推理打造

智東西
編譯 劉煜
編輯 陳駿達

智東西4月20日消息，昨天，據The Information報道，兩名直接知情人士透露，谷歌正與無晶圓廠半導體公司Marvell商談合作，計劃開發兩款全新芯片，包括專為運行AI模型打造的全新TPU，以及設計用于與谷歌TPU協同工作的內存處理單元。但值得一提的是，長期以來，博通一直是谷歌TPU的獨家設計合作伙伴。

本次谷歌與Marvell的合作計劃最快于明年完成對內存處理單元的設計，并生產近200萬顆該單元。該合作尚未披露具體金額。消息人士補充稱，由于談判仍處于早期階段，200萬這一數字仍有可能調整。

一名谷歌員工透露，對于新推理芯片的研發，谷歌早已開始布局規劃。今年3月，英偉達于GTC大會上發布了旨在提升推理任務效率的LPU芯片。谷歌在其發布LPU之后，進一步加快了對新一代推理芯片的相關研發速度。

值得一提的是，LPU是英偉達以200億美元從Groq獲得技術授權后研發打造的。而谷歌此次的合作對象Marvell，曾作為Groq第一代LPU的芯片設計合作伙伴，在推理芯片設計領域積累了相應的技術與項目經驗。

在合作研發層面，谷歌在芯片設計領域對博通存在單一依賴。但由于博通收費模式成本高昂，該公司按每顆量產TPU收取費用，隨著TPU需求激增，谷歌的相關支出也大幅攀升。因此谷歌正尋求降低對博通依賴的途徑。

不過，據The Information2023年報道，谷歌早在當時就有擺脫對博通單一依賴的意圖了。那時谷歌曾考慮讓Marvell取代博通，成為其數據中心內用于連接服務器與以太網交換機的網絡接口芯片供應商。

去年，谷歌為了降低對博通的單一依賴，引入了中國臺灣廠商聯發科參與TPU芯片的設計與生產。

但在本月早些時候，博通與谷歌簽署新協議，將為谷歌下一代AI數據中心開發并供應定制化TPU及網絡組件，合作期限延長至2031年。這意味著博通在谷歌的芯片體系中仍占據著核心地位。

需要補充的是，摩根士丹利曾預計，谷歌2027年TPU產量約為600萬顆。不過，本次雙方合作中全新TPU的設計完成時間及谷歌規劃的量產規模，目前仍未明確。

此外，谷歌當前的芯片均由臺積電代工生產，新款芯片最終由臺積電還是其他廠商制造，目前也未確定。

在谷歌與Marvell協商此次合作前，谷歌也曾向Marvell采購過CXL控制器芯片。據兩名谷歌員工介紹，這類芯片用于管理數據中心內服務器之間的內存共享。不過采購的均為現貨標準產品，并未涉及定制化合作。

多年來，谷歌僅在自有數據中心內部署TPU，用于支撐搜索、YouTube及Gemini大模型等業務，且僅對谷歌云客戶開放。據The Information報道，這一局面在去年出現轉變：谷歌開始向客戶提供TPU算力租賃服務，支持客戶將其部署于非谷歌數據中心，直接挑戰英偉達在AI芯片領域的主導地位。

截至目前，谷歌TPU已被包括Anthropic、Meta以及蘋果在內的客戶采用。

而Marvell主營數據中心通用網絡、存儲及光互聯芯片設計，同時為客戶提供定制化芯片設計服務，該業務已成為其增長最快的板塊。

結語：AI Agent推高算力需求，專用推理芯片研發趨勢持續升溫

谷歌與Marvell的此次合作，不止為降低谷歌對博通的單一依賴。

由于AI推理環節正走向精細化分工，推理任務并非通用處理器就能一概勝任，該任務部分環節依賴峰值算力，另一部分則受限于內存讀寫與數據調度效率。而谷歌與Marvell此次合作研發可與TPU協同工作的內存處理單元，正是這一行業趨勢下的產物。

此外，當前AI Agent對算力的消耗遠高于聊天機器人等傳統AI應用，隨著各類AI企業持續推出更復雜的智能體產品，專用推理芯片市場也進入快速發展階段。

除谷歌外，OpenAI已于4月中旬與AI芯片公司Cerebras達成協議，計劃斥資超200億美元采購其推理芯片，同時該公司也在與博通合作研發自研推理芯片。

綜合來說，為不同任務搭配專用推理芯片，而非依靠單一處理器包攬全部工作，也在逐漸成為頭部廠商提升效率、控制成本的選擇趨勢。在此趨勢下，AI芯片有望加速從通用化路線，向更貼合場景、更聚焦專業功能的方向分化發展。