亞馬遜云科技CEO：推理將成為應(yīng)用未來的核心組件

如果2023年是生成式AI概念的興起之年，吸引到全球各類用戶的關(guān)注；那么2024年則是生成式AI的驗(yàn)證之年，不同行業(yè)的各類用戶均或多或少在不同業(yè)務(wù)場(chǎng)景中對(duì)生成式AI進(jìn)行驗(yàn)證。

無疑，經(jīng)過兩年的發(fā)展之后，生成式AI這項(xiàng)變革性技術(shù)正展露出極大的應(yīng)用潛力。那么，生成式AI接下來會(huì)對(duì)企業(yè)業(yè)務(wù)應(yīng)用場(chǎng)景產(chǎn)生哪些巨大影響？企業(yè)又應(yīng)該如何讓生成式AI應(yīng)用順利融入到生產(chǎn)場(chǎng)景之中？大模型未來又有哪些關(guān)鍵的趨勢(shì)？

作為云計(jì)算領(lǐng)域的頂級(jí)盛會(huì)，亞馬遜云科技 re：Invent大會(huì)一向是云計(jì)算、人工智能等前沿技術(shù)應(yīng)用與探索的風(fēng)向標(biāo)。對(duì)于生成式AI帶來的變革性影響，亞馬遜云科技在2024 re：Invent大會(huì)帶來全新的思考與洞察。

正如亞馬遜云科技新CEO Matt Garman在大會(huì)所言，生成式AI是一項(xiàng)變革性技術(shù)，隨著生成式AI更多進(jìn)入生產(chǎn)場(chǎng)景，生成式AI將會(huì)與各類應(yīng)用緊密集成，而推理也會(huì)成為未來應(yīng)用中一個(gè)極為重要的組件。

與此同時(shí)，亞馬遜CEO Andy Jassy也時(shí)隔三年再次出現(xiàn)在re：Invent舞臺(tái)上。他在大會(huì)上宣布了亞馬遜最新多模態(tài)大模型Nova，包括六個(gè)基礎(chǔ)模型，支持多模式任務(wù)的文本、圖像和視頻處理。Andy Jassy 認(rèn)為Amazon Nova是提供智能和行業(yè)領(lǐng)先性價(jià)比的最先進(jìn)的新基礎(chǔ)模型。

01

推理將成為未來應(yīng)用的核心組件

“應(yīng)用已經(jīng)徹底改變了。”Matt Garman在大會(huì)上直言道。

根據(jù)亞馬遜過去多年的構(gòu)建經(jīng)驗(yàn)，計(jì)算、存儲(chǔ)和數(shù)據(jù)庫通常是應(yīng)用構(gòu)建的三大不可或缺核心模塊；但現(xiàn)在，隨著生成式AI的興起和融入，推理正變得愈發(fā)重要，成為構(gòu)建應(yīng)用當(dāng)之無愧的核心組件模塊之一。

在Matt Garman看來，生成式AI具有改變和顛覆每一個(gè)行業(yè)的潛力，改變每一個(gè)流程、應(yīng)用體驗(yàn)，而讓生成式AI真正融入生產(chǎn)應(yīng)用端，而不是停留在驗(yàn)證階段，關(guān)鍵就是把推理這個(gè)核心組件做好。

因此，亞馬遜云科技在今年大會(huì)上，著重介紹Bedrock產(chǎn)品的重要性，旨在在產(chǎn)品層上提供高性能、靈活、安全的模型推理服務(wù)，顯著降低AI推理的門檻，真正幫助用戶們用最簡單的方法與工具來構(gòu)建、擴(kuò)展生成式AI應(yīng)用。

例如，在Scaling Law的驅(qū)動(dòng)下，大模型參數(shù)規(guī)模越來越大，但模型規(guī)模并非越大越好，在一些特別的領(lǐng)域或者場(chǎng)景中，往往需要小且快的模型，這也讓模型蒸餾正變得越來越重要。但過去用戶在模型蒸餾往往只能選擇開源大模型，并且需要依靠AI框架和代碼開發(fā)來完成工作，在效率和使用上屬實(shí)一言難盡。

為此，亞馬遜云科技在本次大會(huì)上推出Amazon Bedrock Model Distilation模型蒸餾功能，選擇自己想要的模型去契合場(chǎng)景使用需求，更能夠讓模型運(yùn)行速度大幅提升、成本大幅下降。

又如，哪怕是再好的大模型，也需要面臨幻覺的挑戰(zhàn)。當(dāng)生成式AI進(jìn)入到現(xiàn)實(shí)生產(chǎn)場(chǎng)景，用戶不可避免地會(huì)遇到幻覺問題，這也是當(dāng)前用戶們對(duì)于模型在生產(chǎn)場(chǎng)景中應(yīng)用的顧慮所在。亞馬遜云科技的思路是自動(dòng)推理檢查，通過Amazon Bedrock Automated Reasoning checks來檢查推理是否正確，防止事實(shí)錯(cuò)誤、模型幻覺等出現(xiàn)。

再如，AI Agent是生成式AI應(yīng)用的巨大價(jià)值所在。在單一、簡單的工作任務(wù)重，AI Agent已經(jīng)能夠勝任，但是面對(duì)復(fù)雜任務(wù)時(shí)，數(shù)百個(gè)任務(wù)并行處理則帶來的極為復(fù)雜的工作流，需要多個(gè)代理進(jìn)行協(xié)同。為此，亞馬遜云科技打造了Amazon Bedrock multi-agent Collaboration，支持多代理的復(fù)雜工作流程。

除了上述功能之外，亞馬遜云科技在此次大會(huì)上還發(fā)布了不少于Amazon Bedrock相關(guān)功能?？梢钥闯?，隨著生成式AI融入生產(chǎn)應(yīng)用中，推理在未來將會(huì)無處不在，幫助用戶真正做好推理的意義重大，而亞馬遜云科技正在不斷圍繞Amazon Bedrock構(gòu)建起越來越豐富的功能，以滿足用戶們?cè)谕评碇杏龅降母魃鳂拥男枨螅瑥亩铀偻苿?dòng)生成式AI在生產(chǎn)場(chǎng)景的應(yīng)用。

02

亞馬遜最新大模型Amazon Nova亮相

在本次大會(huì)上，亞馬遜CEO Andy Jassy的出現(xiàn)可謂是一大驚喜，這是他在三年之后重返re：Invent舞臺(tái)。

作為全球電商巨頭，亞馬遜與其他行業(yè)用戶一樣，也是積極擁抱生成式AI的一份子。在Andy Jassy看來，永遠(yuǎn)不會(huì)有一種工具統(tǒng)治世界，推動(dòng)人工智能的應(yīng)用關(guān)鍵在于降低成本和提升生產(chǎn)效率，而非參與各種評(píng)測(cè)和競賽。

Andy Jassy介紹，亞馬遜內(nèi)部有大約1000個(gè)正在運(yùn)行的生成式AI應(yīng)用，并且開發(fā)了供內(nèi)部使用的新模型，現(xiàn)在決定公開分享出來，于是就有了本次大會(huì)上發(fā)布的Amazon Nova最新一代多模態(tài)基礎(chǔ)大模型。

據(jù)悉，Amazon Nova包括四款模型：Amazon Nova Micro是一款僅處理文本的模型，能夠以極低的延遲和成本提供響應(yīng)；Amazon Nova Lite是一款極具成本效益的多模態(tài)模型，能夠快速處理圖像、視頻和文本輸入；Amazon Nova Pro是一款功能強(qiáng)大的多模態(tài)模型，可在準(zhǔn)確性、速度和成本之間實(shí)現(xiàn)絕佳平衡，適合多種任務(wù)；Amazon Nova Premier是亞馬遜的頂級(jí)多模態(tài)模型，專為復(fù)雜推理任務(wù)而生，并可用于作為“教師模型”來蒸餾定制模型。

此外，亞馬遜還推出了兩款專注于創(chuàng)意內(nèi)容生成的模型：Amazon Nova Canvas用于生成高質(zhì)量圖像；Amazon Nova Reel用于制作高質(zhì)量視頻。

Andy Jassy透露，目前Amazon Nova Micro、Lite、Pro、Canvas、Reel已全部正式可用，并且已經(jīng)在Amazon Bedrock上線，而Amazon Nova Premier預(yù)計(jì)將在2025年第一季度可用。預(yù)計(jì)明年，亞馬遜還將推出Amazon Nova Speech-to-Speech語音轉(zhuǎn)語音模型和Amazon Nova Any to Any任意模態(tài)生成任意模態(tài)模型。

根據(jù)相關(guān)行業(yè)基準(zhǔn)測(cè)試結(jié)果顯示，Amazon Nova Micro、Amazon Nova Lite和Amazon Nova Pro表現(xiàn)出非常不錯(cuò)的競爭力。例如，Amazon Nova Micro在所有11項(xiàng)適用基準(zhǔn)測(cè)試中，其表現(xiàn)與Meta的LLaMa 3.1 8B相當(dāng)或更優(yōu)，Amazon Nova Pro在與OpenAI的GPT-4o的20項(xiàng)基準(zhǔn)測(cè)試中，有17項(xiàng)表現(xiàn)相當(dāng)或更優(yōu)。

事實(shí)上，亞馬遜云科技在大模型領(lǐng)域的布局正在走向完善，其競爭力也在加速凸顯。除了過去Amazon Titan大模型之外，隨著Amazon Nova系列基礎(chǔ)模型的發(fā)布，亞馬遜云科技進(jìn)一步增強(qiáng)了自身大模型的實(shí)力。此外，亞馬遜云科技與Anthropic的深度合作，也將有利于亞馬遜云科技提供豐富的生成式AI服務(wù)給各種用戶。

03

給予客戶選擇權(quán)

“給予用戶選擇權(quán)”是亞馬遜云科技反復(fù)強(qiáng)調(diào)的核心原則。“亞馬遜公司內(nèi)部團(tuán)隊(duì)的洞察與實(shí)踐表面，開發(fā)人員希望有廣泛的 AI 模型可供選擇，預(yù)計(jì)這種情況將持續(xù)下去?！盇ndy Jassy如是說。

當(dāng)下，生成式AI、大模型依然處于產(chǎn)業(yè)發(fā)展的早期，技術(shù)、產(chǎn)品的創(chuàng)新保持著極高的活躍性，這也使得各類大模型涌現(xiàn)，模型本身也在不斷地迭代、升級(jí)與演進(jìn)，新版本、新功能層出不窮；另一方面，用戶在生成式AI與場(chǎng)景的適配方面也處于早期，不同領(lǐng)域不同場(chǎng)景往往存在著不一樣的需求，需要綜合考慮大模型的性能、成本、可靠性等各種因素。

因此，亞馬遜云科技認(rèn)為用戶在生成式AI需要有充分的選擇權(quán)，從而更好地將生成式AI與業(yè)務(wù)場(chǎng)景進(jìn)行融合。

例如，Amazon Bedrock已經(jīng)推出了Marketplace，匯聚了超過100個(gè)大模型供用戶進(jìn)行選擇。另外，用戶往往需要根據(jù)具體業(yè)務(wù)場(chǎng)景需求來對(duì)模型進(jìn)行蒸餾，亞馬遜云科技Amazon Bedrock Model Distilation可以讓用戶選擇lLama、Claude等多種先進(jìn)模型進(jìn)行蒸餾，讓用戶可以蒸餾出更適配業(yè)務(wù)場(chǎng)景的模型。

綜合觀察，如果說去年亞馬遜云科技展示的生成式AI三層技術(shù)棧，給業(yè)界展示了推動(dòng)生成式AI應(yīng)用的整體技術(shù)框架；那么，今年大會(huì)亞馬遜云科技針對(duì)生成式AI 的眼花繚亂、目不暇接眾多新功能發(fā)布，意味著亞馬遜云科技極大填充了生成式AI技術(shù)應(yīng)用的技術(shù)框架，讓生成式AI在工程化方面大幅前進(jìn)。面向未來，隨著生成式AI與場(chǎng)景的深度融合，亞馬遜云科技在人工智能的數(shù)據(jù)、分析、訓(xùn)練和推理等方面全面、細(xì)致的工作，將推動(dòng)用戶們?cè)谕ㄍ墒紸I之路中行穩(wěn)致遠(yuǎn)。

大數(shù)據(jù)在線是聚焦人工智能、大數(shù)據(jù)、云計(jì)算等前沿科技領(lǐng)域深度觀察的深度媒體。目前，大數(shù)據(jù)在線在微信公眾號(hào)、今日頭條號(hào)、新浪財(cái)經(jīng)、36氪、雪球號(hào)、觀察號(hào)等主流自媒體平臺(tái)均有入駐，積累粉絲超過20W；并榮獲今日頭條十大科技新銳媒體、商業(yè)新知十大人工智能媒體等多項(xiàng)殊榮。商務(wù)聯(lián)系請(qǐng)?zhí)砑游⑿牛篛wen_Inter，添加請(qǐng)備注具體信息。