商湯大裝置代繼：Token經濟大潮下，AI基礎設施怎么演進？

智東西
作者 ZeR0
編輯 漠影

智東西4月14日報道，4月8日，“人工智能賦能新型工業化深度行”活動在鄭州舉行，正式拉開2026年工業和信息化部“人工智能+”行動序幕。本次活動由國家先進計算產業創新中心主辦，國家工業信息安全發展研究中心與光合組織聯合承辦，聚焦打通從算力底層到工業場景的“最后一公里”，推動人工智能與制造業深度融合。

商湯大裝置事業群解決方案總經理代繼在會上發表《AI基礎設施及產業服務實踐》主題演講，系統闡述了Token經濟驅動下AI基礎設施的演進邏輯與產業落地路徑。他談道，大模型產業正從“開源與閉源之爭”轉向“技術生態之爭”，隨著新一代智能體交互模式的火爆，模型已突破普遍應用的技術門檻，而頭部模型用戶付費意愿的上升標志著Token消費共識正在形成。

與此同時，AI基礎設施正迎來歷史性建設窗口。代繼援引行業研究報告談道，2025年AI工作負載以模型訓練為主導，但到2027年，模型推理將成為主要算力需求。這意味著AI的價值創造正從一次性的模型開發轉向持續性的規模化應用。預計到2030年，全球數據中心總容量將突破200GW，5年內規模翻番，復合年增長率達14%。

Token的規模化生產與消費，AI基礎設施需要在算力供給、調度效率與系統穩定性等方向實現全面升級。圍繞這一趨勢，商湯大裝置構建了系統化技術支撐體系。

1、多云納管，保障大規模跨域異構集群穩定運行

面對推理需求爆發與算力結構復雜化的趨勢，商湯大裝置打造了具備“異構統一納管與彈性調度能力”的AI基礎設施體系。

基于SenseCore AI云平臺，商湯大裝置實現了多云環境下的統一管理與異構算力調度，平臺兼容Kubernetes原生生態，將自建集群、第三方云資源以及多種國產CPU/GPU算力整合為統一資源池。這種“算力池化”能力，使企業能夠在不同區域、不同架構之間靈活調用資源，支撐大規模分布式推理任務。

在異構環境下，商湯針對不同芯片架構進行了深度優化，使訓練與推理任務均可獲得最優的性價比表現。在Token持續消耗的場景下，企業能以更低成本獲得穩定、可預期的算力供給，從而提升整體投入產出比。

2、全棧智能可觀測，從“可用”到“可控”的關鍵支撐

如果說算力調度解決的是“資源如何用”，那么可觀測性解決的則是“系統是否可控”。

在大規模海量高并發場景下，系統需要同時處理海量請求與復雜任務鏈路，傳統監控體系難以支撐。

對此，商湯構建了覆蓋基礎設施到應用層的全棧智能可觀測體系：單秒可處理80萬數據點，性能提升超過20倍；日志檢索效率提升60%，顯著縮短問題定位時間等。

同時，通過跨地域數據掛載技術，實現“一份數據，多地使用”，在保證接近本地性能的前提下，打破數據孤島。這不僅降低了數據流轉成本，也為跨區域業務部署提供了基礎支撐。

在Token經濟驅動下，AI調用頻率越高，對系統穩定性與可觀測性的要求越高，“可感知、可分析、可優化”的智能監控才能真正支撐規模化應用。

3、國產算力規模化商用，推動成本與供給優化

在算力成本與供應鏈雙重挑戰下，國產算力成為重要支撐路徑，不僅能夠降低基礎設施成本，也有效提升了算力資源選擇的靈活性。

目前，商湯大裝置已完成20余款國產AI芯片適配，并率先實現萬卡規模國產芯片的異構混訓，算力利用率達到80%，訓練效率接近同構集群的95%，有效突破單一芯片限制，實現了國產算力規模化商用。

與此同時，商湯聯合產業伙伴推出“算力Mall”，將算力資源、平臺工具與模型服務進行標準化封裝，企業可以像選購商品一樣進行組合與調用。這種服務模式，本質上也在重構AI供給方式，使Token成本更加可控。

在產業側，AI應用正從“局部優化”走向“系統性重構”。代繼以某央國企實踐為例，展示了AI在傳統行業的完整落地路徑。

截至目前，商湯大裝置已幫助該企業構建起覆蓋基礎模型（語言、多模態、視覺）、管理平臺（大模型開發平臺+應用平臺+知識庫平臺）以及上層智能應用的完整技術棧，能力滲透至生產、物流、業務管理、辦公等全鏈條。

（1）生產與質量提升：在傳統生產線引入3D動作捕捉多模態模型與數字孿生技術，實現工藝質量的可量化提升；

（2）安全生產管理：結合多模態大模型與視覺小模型，構建起覆蓋人員管理、軌跡分析與事件感知的智能安防體系，通過對超過3萬路視頻的統一管理，全面支撐安保管理及安全生產管理需求。

（3）智能辦公：已實現知識問答、內容審核、智能問數、合同審核等眾多場景。

代繼總結說，商湯以“多模態大模型+視覺小模型+大語言模型”協同的方式，率先在傳統行業實現了從車間到園區、從管理到辦公的全鏈條AI重構。隨著模型能力的持續提升，越來越多傳統行業有望補齊信息化時代未完成的能力短板，實現真正意義上的“智能躍遷”。

從Token經濟的興起，到算力結構的重構，再到產業實踐的深化，AI正加速從技術能力轉化為現實生產力。在他看來，未來競爭將不再局限于模型本身，而是圍繞“基礎設施+生態+應用”的系統能力展開。

商湯大裝置正通過“平臺+生態”的協同優勢，構建高效、穩定、靈活的AI基礎設施體系，為大模型在千行百業的規模化落地提供堅實支撐。