4月20日,阿里通義團隊開源新一代多模態(tài)大模型 Qwen3.6-35B-A3B 不到24小時,眾智FlagOS社區(qū)即宣布完成“Day0全量適配多芯片”。目前,該模型已在包括英偉達、華為昇騰、昆侖芯、海光、沐曦、天數(shù)、平頭哥等多種AI芯片上完成適配與部署驗證,并提供開箱即用版本。
此次適配基于 FlagOS 統(tǒng)一開源技術(shù)棧完成。開發(fā)者可通過其vLLM插件實現(xiàn)“零代碼修改”部署,在不同芯片間實現(xiàn)一致性推理與性能對齊。
據(jù)悉,本次Qwen3.5升級到Qwen3.6,模型結(jié)構(gòu)等并沒有明顯變化。由于此前FlagOS已經(jīng)適配過英偉達、平頭哥、海光、沐曦、天數(shù)等五款芯片,所以本次適配更多的是針對昆侖芯、華為這兩款新增芯片完成,并針對新的模型權(quán)重重新進行一致性測試。基于FlagOS建立的從編譯器、算子庫、多芯片框架統(tǒng)一plugin等技術(shù),F(xiàn)lagOS團隊可以快速完成模型適配、跨芯遷移驗證、精度對齊評測、開源版本發(fā)布等重要步驟。
![]()
經(jīng) GPQA_Diamond、ERQA等權(quán)威評測集驗證,F(xiàn)lagOS 適配后的 Qwen3.6-35B-A3B,在 Agentic Coding 能力、復(fù)雜推理等核心能力上,與 CUDA 原生版本對齊,可放心應(yīng)用于代碼生成、日志分析、Bug 排查、復(fù)雜文檔編輯等生產(chǎn)場景,無需擔心適配導(dǎo)致業(yè)務(wù)效果折損。
![]()
據(jù)介紹,F(xiàn)lagOS是一款專為異構(gòu)AI芯片打造的開源、統(tǒng)一系統(tǒng)軟件棧,支持 AI 模型一次開發(fā)即可無縫移植至各類硬件平臺,大幅降低遷移與適配成本。它包括大型算子庫、統(tǒng)一AI編譯器、并行訓(xùn)推框架、統(tǒng)一通信庫等核心開源項目,致力于構(gòu)建「模型-系統(tǒng)-芯片」三層貫通的開放技術(shù)生態(tài),通過"一次開發(fā)跨芯遷移"釋放硬件計算潛力,打破不同芯片軟件棧之間生態(tài)隔離。
![]()
該項目由 北京智源人工智能研究院 聯(lián)合多家科研機構(gòu)、芯片廠商及軟件企業(yè)共同發(fā)起,目前眾智FlagOS社區(qū)已匯聚78家成員單位,正加速構(gòu)建跨芯片協(xié)同的AI基礎(chǔ)設(shè)施生態(tài)。(袁寧)
