HPE攜手英偉達將分布式AI工廠轉型為智能AI網格

隨著人工智能從以訓練為中心向推理轉變，HPE宣布推出一系列由英偉達圖形處理單元驅動的計算和網絡產品。該公司表示，這些產品將重新定義AI服務的交付方式，將智能能力部署到數據和用戶所在的位置，并使網絡成為支持實時體驗的可靠基礎。

HPE AI網格

產品系列中的一大亮點是HPE AI網格，旨在將分布式AI工廠轉型為由英偉達驅動的智能AI基礎設施。據稱，這些產品為依賴低延遲、實時連接的AI服務和應用場景提供了"關鍵"應用，包括零售個性化、制造業等行業的預測性維護、醫療保健的本地化邊緣推理以及運營商級AI服務。

HPE認為，AI原生應用需要可預測、低延遲的分布式基礎設施。HPE AI網格服務是英偉達AI計算HPE產品組合的一部分，聲稱能夠為實時AI服務提供可預測的"超低"延遲性能，具備零接觸配置和自動化安全功能以及集成編排。

這套端到端系統基于英偉達參考架構構建，旨在安全連接分布在區域和遠端站點的AI工廠和分布式推理集群。它可以促進數千個分布式推理站點的部署和運營，將AI安裝轉變為單一的智能系統。

從預期應用場景來看，HPE設想的實施范圍涵蓋從零售個性化和預測性維護到邊緣醫療保健和運營商級AI服務，這些都需要可預測的超低延遲連接。AI網格還旨在讓運營商能夠將現有具備電力和連接條件的站點轉換為就緒的AI網格，實現大規模分布式推理和新服務。

除了與AI網格參考架構保持一致，為服務提供商提供統一的硬件和軟件堆棧外，HPE AI網格還通過提供全棧AI服務器和AI網絡的能力而脫穎而出。

技術特性

HPE AI網格包含HPE Juniper的多云路由和相干光學技術，可提供可預測的長距離和城域連接；云原生和多租戶安全；防火墻；廣域網自動化；以及用于實現零接觸部署和生命周期運營的編排功能。它還包含配備英偉達加速計算的ProLiant Compute邊緣和機架服務器，包括英偉達RTX PRO 6000 Blackwell GPU，以及英偉達BlueField DPU、Spectrum-X以太網交換機、Connect-X SuperNIC和用于快速AI推理的AI藍圖。

CityFibre首席技術信息官Neil McRae表示："我們的客戶越來越期望獲得毫秒級響應、低延遲連接和全面安全性來支持他們的應用和服務。我們正在探索基于英偉達參考架構的HPE AI網格如何支持分布式AI推理，并將智能能力更貼近用戶和數據。通過利用我們的光纖網絡資產，我們看到了將高性能連接與智能服務相結合為客戶提供服務的潛力。"

英偉達電信全球副總裁Chris Penrose表示："AI網格統一了地理上分布的AI集群，將AI工作負載放置在運行效果最佳的位置，在AI工廠、區域站點和邊緣之間平衡性能、成本和延遲。我們與HPE合作，通過結合英偉達的加速計算和網絡技術以及HPE的電信級多云路由和邊緣基礎設施，將這一愿景變為現實，創造了用于分布式推理的單一智能架構。"

作為推進AI網格戰略的一部分，運營商康卡斯特已經在其分布式網絡上開始AI現場試驗，用于實時邊緣AI推理，為下一波AI應用解鎖更快速、響應更靈敏的體驗。初始試驗涉及多個應用場景，包括利用在英偉達GPU上運行Personal AI小型語言模型的HPE ProLiant服務器，Personal AI是HPE Unleash AI合作伙伴計劃的一部分。

Q&A

Q1：HPE AI網格是什么？有什么特點？

A：HPE AI網格是一種智能AI基礎設施，旨在將分布式AI工廠轉型為由英偉達驅動的統一系統。它的主要特點是提供可預測的超低延遲性能，支持零接觸配置和自動化安全，并能將數千個分布式推理站點轉變為單一的智能系統。

Q2：HPE AI網格主要應用在哪些場景？

A：HPE AI網格主要應用于需要低延遲、實時連接的場景，包括零售個性化、制造業預測性維護、醫療保健的本地化邊緣推理以及運營商級AI服務。這些應用都需要可預測的超低延遲連接來保證實時體驗。

Q3：HPE AI網格包含哪些技術組件？

A：HPE AI網格包含HPE Juniper的多云路由和相干光學技術、云原生多租戶安全、防火墻、廣域網自動化和編排功能。硬件方面包括配備英偉達RTX PRO 6000 Blackwell GPU的ProLiant服務器，以及英偉達BlueField DPU、Spectrum-X以太網交換機和Connect-X SuperNIC等組件。