Hosted.ai獲1900萬美元融資優化GPU資源池效率

HostedAI Inc.是一家專注于提升圖形處理單元基礎設施效率的軟件平臺和市場，今天宣布已獲得1900萬美元早期融資，用于在同一GPU上同時運行多個工作負載。

通過在GPU資源上匯集人工智能工作負載，HostedAI將未充分利用的計算資源進行整合，使被稱為"新云"的云運營商能夠在現有基礎設施上實現高達五倍的輸出效率。

隨著人工智能基礎設施建設熱潮成為世界歷史上最大的基礎設施項目，GPU框架仍然以卡、服務器和機架級別進行租賃。然而，許多客戶只需要可用容量的一小部分。

首席執行官迪特萊夫·布雷達爾表示："當今為人工智能提供支持的GPU基礎設施極其浪費。客戶被迫將GPU作為靜態資源租用，因為這是運營商銷售的唯一方式，而人工智能工作負載平均會讓大約60%的GPU處于閑置狀態。"

在基礎設施運營商層面，硬件可以支持更高水平的使用，這意味著他們可以從投入建設數據中心和購買服務器的資本中獲得更多收益。這種低利用率對新云提供商來說可能極其不利，他們在閑置計算資源上損失了大量資金。

HostedAI表示，它還旨在讓客戶能夠在市場中接觸到更多樣化的提供商，目前市場主要由美國少數幾家超大規模云提供商主導。尋求維護數據主權或區域效率的歐洲公司和公共部門組織將以更便宜的成本獲得更好的替代方案。

該公司補充說，其聯合GPU市場將提供一個平臺，本質上可以發布閑置容量并從其他提供商訂閱容量以擴大地理覆蓋范圍。

AI開發者通過基于消費的定價模式訪問該公司的系統，而不是租用服務器。這為開發者和企業帶來顯著更低的成本。

HostedAI正在進入一個日趨成熟的按需GPU市場，包括Together Computer Inc.、Runpod Inc.和Vast.ai Inc.等競爭對手。雖然這些現有企業專注于大規模無服務器擴展或非托管的點對點硬件，HostedAI通過將商品定價與區域可用性相結合來確立自己的地位。這針對需要低延遲和生產級可靠性但又不想支付過高費用的中層開發者和企業。

最終結果本質上為新云提供了配置閑置GPU算力的靈活性，這些算力原本會被浪費。HostedAI認為這是一個雙贏局面，將優化基礎設施并吸引更多客戶使用這些閑置容量。布雷達爾補充道："GPU市場存在的是浪費問題，而不是稀缺問題。"

Creandum領投了這輪種子融資，People Ventures和Repeat VC也參與了投資。

Q&A

Q1：HostedAI是什么公司？它主要解決什么問題？

A：HostedAI是一家專注于提升GPU基礎設施效率的軟件平臺和市場公司。它主要解決GPU資源浪費問題，通過在同一GPU上同時運行多個工作負載，將平均60%的閑置GPU資源充分利用起來。

Q2：HostedAI的技術能帶來什么好處？

A：對于云運營商，可以在現有基礎設施上實現高達五倍的輸出效率，從投入的資本中獲得更多收益。對于AI開發者和企業，可以通過基于消費的定價模式獲得顯著更低的成本，不需要租用整臺服務器。

Q3：HostedAI與其他GPU市場平臺有什么不同？

A：與Together Computer、Runpod和Vast.ai等競爭對手相比，HostedAI通過將商品定價與區域可用性相結合來確立差異化地位，主要針對需要低延遲和生產級可靠性但又不想支付過高費用的中層開發者和企業。