Multiverse Computing將壓縮AI模型推向主流市場(chǎng)

在私營(yíng)公司違約率高達(dá)9.2%（多年來最高水平）的背景下，風(fēng)投公司Lux Capital最近建議依賴AI的公司將其計(jì)算資源承諾以書面形式確認(rèn)。Lux警告稱，隨著金融不穩(wěn)定性在AI供應(yīng)鏈中蔓延，僅憑握手協(xié)議是不夠的。

但還有另一個(gè)完全不同的選擇，那就是停止完全依賴外部計(jì)算基礎(chǔ)設(shè)施。直接在用戶設(shè)備上運(yùn)行的小型AI模型——無需數(shù)據(jù)中心、無需云服務(wù)提供商、無對(duì)手方風(fēng)險(xiǎn)——正在變得足夠優(yōu)秀，值得考慮。Multiverse Computing正在積極推進(jìn)這一方向。

這家西班牙初創(chuàng)公司迄今為止保持著比一些同行更低調(diào)的姿態(tài)，但隨著對(duì)AI效率需求的增長(zhǎng)，這種情況正在改變。在壓縮了來自O(shè)penAI、Meta、DeepSeek和Mistral AI等主要AI實(shí)驗(yàn)室的模型后，該公司推出了一款展示其壓縮模型能力的應(yīng)用程序和一個(gè)API門戶——讓開發(fā)者能夠訪問和使用這些模型的網(wǎng)關(guān)——使這些模型得到更廣泛的應(yīng)用。

CompactifAI應(yīng)用程序與Multiverse的量子啟發(fā)壓縮技術(shù)同名，是一個(gè)類似ChatGPT或Mistral Le Chat的AI聊天工具。用戶提問，模型回答。不同之處在于，據(jù)該公司稱，Multiverse嵌入了Gilda，這是一個(gè)小到可以在本地離線運(yùn)行的模型。

對(duì)于終端用戶來說，這是邊緣AI的體驗(yàn)，數(shù)據(jù)不會(huì)離開他們的設(shè)備且不需要連接。但有一個(gè)限制條件：他們的移動(dòng)設(shè)備必須有足夠的RAM和存儲(chǔ)空間。如果沒有——許多較舊的iPhone都不具備這種條件——應(yīng)用程序會(huì)通過API切換回基于云的模型。本地和云處理之間的路由由Multiverse命名為Ash Nazg的系統(tǒng)自動(dòng)處理，這個(gè)名字對(duì)托爾金粉絲來說很熟悉，因?yàn)樗昧恕吨腑h(huán)王》中至尊魔戒的銘文。但當(dāng)應(yīng)用程序路由到云端時(shí)，它在過程中失去了主要的隱私優(yōu)勢(shì)。

這些限制意味著CompactifAI還未完全準(zhǔn)備好大規(guī)?？蛻舨捎?，盡管這可能從來都不是目標(biāo)。根據(jù)Sensor Tower的數(shù)據(jù)，該應(yīng)用程序在過去一個(gè)月的下載量不到5000次。

真正的目標(biāo)是企業(yè)。今天，Multiverse推出了一個(gè)自助式API門戶，讓開發(fā)者和企業(yè)直接訪問其壓縮模型——無需AWS Marketplace。

首席執(zhí)行官Enrique Lizaso在一份聲明中表示："CompactifAI API門戶現(xiàn)在為開發(fā)者提供了直接訪問壓縮模型的途徑，具備在生產(chǎn)環(huán)境中運(yùn)行所需的透明度和控制權(quán)。"

實(shí)時(shí)使用監(jiān)控是API的關(guān)鍵功能之一，這并非偶然。除了在邊緣部署的潛在優(yōu)勢(shì)外，更低的計(jì)算成本是企業(yè)考慮小型模型作為大語言模型替代方案的主要原因之一。

小型模型比以前限制更少也有所幫助。本周早些時(shí)候，Mistral推出了Mistral Small 4，更新了其小型模型系列，據(jù)說同時(shí)針對(duì)通用聊天、編程、智能體任務(wù)和推理進(jìn)行了優(yōu)化。這家法國(guó)公司還發(fā)布了Forge系統(tǒng)，讓企業(yè)能夠構(gòu)建自定義模型，包括可以選擇其用例最能容忍的權(quán)衡的小型模型。

Multiverse的最新結(jié)果也表明與大語言模型的差距正在縮小。其最新的壓縮模型HyperNova 60B 2602基于gpt-oss-120b構(gòu)建——這是一個(gè)底層代碼公開可用的OpenAI模型。該公司聲稱，它現(xiàn)在以更低的成本提供比其派生的原始模型更快的響應(yīng)，這一優(yōu)勢(shì)對(duì)于智能體編程工作流程特別重要，在這種工作流程中AI自主完成復(fù)雜的多步編程任務(wù)。

讓模型小到能在移動(dòng)設(shè)備上運(yùn)行同時(shí)仍然有用是一個(gè)巨大的挑戰(zhàn)。Apple Intelligence通過結(jié)合設(shè)備端模型和云模型來繞過這個(gè)問題。Multiverse的CompactifAI應(yīng)用程序也可以通過API將請(qǐng)求路由到gpt-oss-120b，但其主要目標(biāo)是展示像Gilda這樣的本地模型及其未來替代品具有超越成本節(jié)約的優(yōu)勢(shì)。

對(duì)于關(guān)鍵領(lǐng)域的工作者來說，能夠在本地運(yùn)行且無需連接云端的模型提供了更多隱私和韌性。但更大的價(jià)值在于這可以解鎖的商業(yè)用例——例如，在無人機(jī)、衛(wèi)星和其他無法保證連接性的環(huán)境中嵌入AI。

該公司已經(jīng)為包括加拿大銀行、博世和伊貝德羅拉在內(nèi)的100多家全球客戶提供服務(wù)，但擴(kuò)大客戶群可以幫助它獲得更多資金。在去年籌集了2.15億美元的B輪融資后，據(jù)傳該公司現(xiàn)在正在以超過15億歐元的估值籌集5億歐元的新一輪融資。

Q&A

Q1：CompactifAI應(yīng)用程序有什么特殊功能？

A：CompactifAI是一個(gè)AI聊天工具，類似ChatGPT，但特殊之處在于它嵌入了名為Gilda的小型模型，可以在設(shè)備本地離線運(yùn)行。這意味著用戶數(shù)據(jù)不會(huì)離開設(shè)備且不需要網(wǎng)絡(luò)連接，提供更好的隱私保護(hù)。不過設(shè)備需要有足夠的RAM和存儲(chǔ)空間，否則會(huì)自動(dòng)切換到云端模型。

Q2：小型AI模型相比大語言模型有哪些優(yōu)勢(shì)？

A：小型AI模型的主要優(yōu)勢(shì)包括更低的計(jì)算成本、更好的隱私保護(hù)（可本地運(yùn)行）、更高的韌性（無需云連接）以及無對(duì)手方風(fēng)險(xiǎn)。Multiverse的最新壓縮模型HyperNova 60B 2602聲稱能以更低成本提供比原始模型更快的響應(yīng)，特別適合智能體編程等復(fù)雜任務(wù)。

Q3：Multiverse Computing的商業(yè)模式是什么？

A：Multiverse Computing主要面向企業(yè)客戶，通過自助式API門戶讓開發(fā)者和企業(yè)直接訪問其壓縮模型。該公司已為包括加拿大銀行、博世和伊貝德羅拉在內(nèi)的100多家全球客戶提供服務(wù)。其技術(shù)特別適用于無人機(jī)、衛(wèi)星等無法保證網(wǎng)絡(luò)連接的環(huán)境中嵌入AI應(yīng)用。