IT之家 4 月 14 日消息,YouTube 博主 Alex Ziskind 前天發布視頻,使用 Tiny Corp 最近發布的開源驅動,將英偉達 RTX 5090 顯卡與蘋果 Mac mini M4 Pro 搭配使用,并在 macOS 上成功運行。
![]()
蘋果多年前與英偉達鬧掰,導致 macOS 系統失去后者的 GPU 驅動支持,也讓 CUDA 生態在 macOS 幾乎消亡,開發者只能被迫轉向蘋果自家的 Metal 架構。
據介紹,“Tiny GPU”開源定制驅動可以通過雷靂 5/USB4 接口連接外置顯卡,讓 RTX 5090 直接與蘋果芯片 Mac 通信,完全不需要虛擬機等性能折損方案。
![]()
Alex Ziskind 在視頻中成功將 RTX 5090 連接到 Mac mini,運行 Llama 3.1 8B 模型時性能約為 7.48 Token/s。
他在視頻中強調,RTX 5090 并沒有在 macOS 中跑出全部性能。主要是因為驅動當前依賴 Tiny Grad 編譯器,未使用 Metal / CUDA 原生優化,性能相比 Metal 原生方案慢了 10 倍。不過 Blackwell 架構的優勢也有體現,其首 Token 響應速度相比 Metal 方案快 3-4 倍。
![]()
因此,雖然這套方案目前還無法替代成熟的 Metal 開發環境,但它仍是蘋果 Mac 平臺近年來首個可用的外接顯卡跑大模型方案。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.