信通院最新報(bào)告：百度文心飛槳協(xié)同優(yōu)化 推理性能提升百余倍

近日，中國信息通信研究院（簡稱“中國信通院”）對外發(fā)布《人工智能發(fā)展報(bào)告（2024年）》。報(bào)告指出，隨著國產(chǎn)深度學(xué)習(xí)框架技術(shù)能力不斷完善，百度飛槳等國產(chǎn)框架正快速崛起，基于國產(chǎn)框架的行業(yè)解決方案向垂直領(lǐng)域快速滲透。未來，人工智能逐步進(jìn)入大規(guī)模賦能新型工業(yè)化階段，國產(chǎn)深度學(xué)習(xí)框架將迎來新一輪發(fā)展機(jī)遇，繼續(xù)加強(qiáng)滲透。

深度學(xué)習(xí)框架是支撐大模型技術(shù)創(chuàng)新的核心工具，對大模型技術(shù)發(fā)展至關(guān)重要。它通過提供高效開發(fā)環(huán)境、靈活擴(kuò)展機(jī)制、模型復(fù)用與共享功能，以及分布式訓(xùn)練與推理能力，極大簡化復(fù)雜算法的開發(fā)、優(yōu)化和實(shí)際應(yīng)用過程，顯著降低大模型開發(fā)門檻，提高設(shè)計(jì)、訓(xùn)練和部署深度學(xué)習(xí)模型的效率。以百度文心大模型為例，通過與飛槳框架協(xié)同優(yōu)化，其推理性能提升了百余倍。中國互聯(lián)網(wǎng)絡(luò)信息中心（CNNIC）不久前發(fā)布的《生成式人工智能應(yīng)用發(fā)展報(bào)告（2024）》也強(qiáng)調(diào)，深度學(xué)習(xí)框架已成為生成式人工智能的迭代關(guān)鍵。

2022年以來，大模型行業(yè)飛速發(fā)展，全球大模型廠商的模型矩陣不斷擴(kuò)充完善。信通院報(bào)告指出，在Scaling Law驅(qū)動(dòng)下，大模型支持模態(tài)已逐步從自然語言處理拓展到多模態(tài)理解和生成等場景。2024年，大模型推理理解能力躍遷，并開始探索垂類領(lǐng)域應(yīng)用落地。

語言、視覺和多模態(tài)三類基礎(chǔ)模型布局

截取自中國信息通信研究院《人工智能發(fā)展報(bào)告（2024年）》

在大模型技術(shù)快速迭代的要求下，大規(guī)模分布式訓(xùn)練正成為框架發(fā)展的新發(fā)力點(diǎn)，百度飛槳所采納的集成分布式能力的一體化通用發(fā)展路徑，是這一進(jìn)程中的重要路線之一。作為中國首個(gè)自主研發(fā)、功能豐富、開源開放的深度學(xué)習(xí)平臺(tái)，百度飛槳框架原生支持超大規(guī)模分布式訓(xùn)練能力，推出端到端自適應(yīng)分布式訓(xùn)練技術(shù)，實(shí)現(xiàn)了低成本自動(dòng)并行開發(fā)、最優(yōu)并行策略自動(dòng)選擇和異步流水調(diào)度，突破了模型結(jié)構(gòu)和硬件環(huán)境多樣導(dǎo)致的分布式訓(xùn)練策略開發(fā)復(fù)雜、訓(xùn)練性能調(diào)優(yōu)難的技術(shù)瓶頸。

公開數(shù)據(jù)顯示，截至2024年11月，百度飛槳文心開發(fā)者數(shù)量已達(dá)1808萬，服務(wù)了43萬家企業(yè)，創(chuàng)建了101萬個(gè)模型。

此外，2024年大模型應(yīng)用也迎來了爆發(fā)。相較于傳統(tǒng)應(yīng)用開發(fā)，智能應(yīng)用開發(fā)的門檻大幅降低。報(bào)告認(rèn)為，一方面，大模型服務(wù)化供給加速了智能技術(shù)的普惠化落地，Agent、RAG等框架成為常用AI 應(yīng)用開發(fā)框架；另一方面，大模型應(yīng)用開發(fā)工具趨于平臺(tái)化，不僅整合了必要的開發(fā)工具、框架與服務(wù)，還極大地簡化了從模型調(diào)用到應(yīng)用部署的全過程，為開發(fā)者提供了高效、便捷的創(chuàng)新環(huán)境。例如，百度智能云千帆AppBuilder面向不同開發(fā)能力的用戶和開發(fā)場景，分別以零代碼態(tài)、低代碼態(tài)、代碼態(tài)的產(chǎn)品形態(tài)，幫助開發(fā)者構(gòu)建AI原生應(yīng)用。

展望未來，信通院報(bào)告表示，引入強(qiáng)化學(xué)習(xí)等技術(shù)來增強(qiáng)大模型能力仍是近期技術(shù)演進(jìn)的重點(diǎn)方向，多模態(tài)模型、智能體有望加速突破。隨著人工智能賦能新型工業(yè)化向縱深發(fā)展，人工智能在實(shí)體經(jīng)濟(jì)中的應(yīng)用場景將進(jìn)一步拓展，加速向生產(chǎn)制造環(huán)節(jié)滲透，加速邁向全方位、深層次智能化轉(zhuǎn)型升級(jí)新階段。