出品/鈦媒體APP

撰文/張帥

過去一年，云計(jì)算行業(yè)“內(nèi)卷式”競爭的趨勢漸消，但如何在生成式AI浪潮中蹚出一條云計(jì)算新路，沒有什么標(biāo)準(zhǔn)答案能參考，無論是海外的還是國內(nèi)的云服務(wù)商，都在一邊實(shí)踐一邊驗(yàn)證。

阿里云也不例外。阿里云智能集團(tuán)資深副總裁、公共云事業(yè)部總裁劉偉光表示：“如果我不自己在一線去感受客戶的需求，我沒有辦法或者沒有信心去設(shè)計(jì)出面向未來幾年的戰(zhàn)略方向。”

他的解決方法很簡單，也很有效。過去一年，他的日程表記錄下了至少162家客戶的走訪日程——這還不是全部。來自一線的AI應(yīng)用需求千差萬別，最終如何沉淀為公共云平臺(tái)的能力，這是劉偉光和阿里云公共云團(tuán)隊(duì)面臨的挑戰(zhàn)。

在革命性技術(shù)發(fā)展的早期，需求是廣泛發(fā)散再到不斷收斂的過程，現(xiàn)階段的AI需求已經(jīng)能夠凝練出一些共性。

基礎(chǔ)大模型的先行者還在持續(xù)地訓(xùn)練大模型，垂直化應(yīng)用公司開始深度使用大模型，一些傳統(tǒng)公司探索用大模型進(jìn)行業(yè)務(wù)的創(chuàng)新和提效。一個(gè)更值得關(guān)注的趨勢是，越來越多企業(yè)不僅是使用簡單調(diào)用大模型，而是在原有應(yīng)用中大量嵌入AI Agent，甚至在原有應(yīng)用之外開發(fā)AI原生應(yīng)用。

這些企業(yè)的需求集體推動(dòng)了AI云的進(jìn)化。如果說自2006年，云計(jì)算開創(chuàng)了一個(gè)時(shí)代，讓更多中小企業(yè)上云、節(jié)省成本和降低門檻，初步成為企業(yè)的數(shù)字化生產(chǎn)力工具。

那么，AI和云的結(jié)合，將云計(jì)算產(chǎn)業(yè)送入一個(gè)至關(guān)重要的節(jié)點(diǎn)，未來所有基礎(chǔ)設(shè)施的能力都會(huì)被AI所沖擊。被沖擊的過程就是云計(jì)算能力的完全迭代升級(jí)甚至重構(gòu)的過程，AI云時(shí)代已經(jīng)到來。

如同傳統(tǒng)IT時(shí)代的IOE（IBM的小型機(jī)、Oracle數(shù)據(jù)庫、EMC存儲(chǔ)設(shè)備），作為上一個(gè)計(jì)算紀(jì)元的代表產(chǎn)物，它們締造了通用算力的基礎(chǔ)設(shè)施底座；AI云則是典型的智能算力的基礎(chǔ)設(shè)施底座，大語言模型從誕生的第一天起，就生長在云上、成長在云上。

這一階段的云服務(wù)的重要標(biāo)志是——不論主動(dòng)還是被動(dòng)，企業(yè)擁抱云不是單純的IaaS（Infrastructure as a Service，基礎(chǔ)設(shè)施即服務(wù)）資源需求，而是IaaS、PaaS（Platform as a Service, 平臺(tái)即服務(wù)）、大語言模型、AI應(yīng)用等全棧能力，這個(gè)垂直技術(shù)棧的最佳承載毫無疑問便是云計(jì)算。

而對于云計(jì)算的最終使用者——企業(yè)而言，如何基于大模型形成智能時(shí)代的生產(chǎn)關(guān)系、發(fā)揮AI真正的價(jià)值成為一道必答題。

劉偉光在走訪162家客戶后，感知到越來越多的傳統(tǒng)企業(yè)級(jí)市場客戶、外資企業(yè)及跨國公司（MNC）不僅將資源遷移到云端，更是將業(yè)務(wù)系統(tǒng)全面云化，涵蓋網(wǎng)絡(luò)、存儲(chǔ)、大數(shù)據(jù)、數(shù)據(jù)庫等IaaS+PaaS一體化的全棧服務(wù)。

他給出了旗幟鮮明的觀點(diǎn)：“只有具備IaaS+PaaS一體化能力的云，才能被稱為真正的云。這是我今天對‘云’的定義。同樣地，在AI時(shí)代不創(chuàng)造社會(huì)價(jià)值的大模型，很難稱之為大模型。”

關(guān)于上述問題，在鈦媒體《AI云年度10問》欄目中，鈦媒體集團(tuán)聯(lián)合創(chuàng)始人、聯(lián)席CEO、ITValue發(fā)起理事劉湘明與阿里云智能集團(tuán)資深副總裁、公共云事業(yè)部總裁劉偉光，以及阿里云智能集團(tuán)副總裁、公共云首席解決方案架構(gòu)師韓鴻源，展開了一次對AI云的深度剖析。

以下為對話實(shí)錄，經(jīng)鈦媒體編輯整理。

右一為阿里云智能集團(tuán)資深副總裁、公共云事業(yè)部總裁劉偉光；左一為鈦媒體集團(tuán)聯(lián)合創(chuàng)始人、聯(lián)席CEO劉湘明

只有具備IaaS+PaaS一體化能力的云才是真正的云

劉湘明：阿里云公共云事業(yè)部是去年11月底成立的，這一年以來作為公共云事業(yè)部總裁，你有什么感受？

劉偉光：我的第一感受是“希望”。無論是內(nèi)部產(chǎn)品研發(fā)的進(jìn)展、AI能力的提升，還是大語言模型的日益精進(jìn)，以及各行各業(yè)客戶在探索云和AI結(jié)合方面的實(shí)踐，都讓我對未來充滿信心——不僅是未來一年，甚至是接下來的5到10年。

今天，許多客戶不僅將云計(jì)算視為資源，更將其當(dāng)成數(shù)字化轉(zhuǎn)型的關(guān)鍵工具；同時(shí)，他們也不僅僅把AI看作創(chuàng)新手段，而是當(dāng)作推動(dòng)產(chǎn)業(yè)升級(jí)、面向未來的戰(zhàn)略性武器。因此，我看到了非常大的希望。

劉湘明：AI可能是下一次“蒸汽機(jī)出現(xiàn)”的時(shí)刻，你提的“希望”我也特別認(rèn)同。最近IDC發(fā)布《中國公有云服務(wù)市場（2024上半年）跟蹤》，顯示IaaS+PaaS市場同比增長12.2%，對比之前的增速，可以說中國公有云市場開始回暖了。其中 PaaS同比增長達(dá)21.9%，表現(xiàn)更突出一些，這里面阿里云依然保持市場領(lǐng)先和穩(wěn)定的提升。背后的原因有哪些？

劉偉光：從內(nèi)因來講，阿里云一直在踐行推動(dòng)IaaS+PaaS一體化，而不僅僅把云當(dāng)成資源來進(jìn)行售賣。我們希望客戶能大規(guī)模采用我們PaaS層的產(chǎn)品，尤其像數(shù)據(jù)庫、大數(shù)據(jù)、容器化、Serverless、開發(fā)運(yùn)維工具等產(chǎn)品。PaaS層的能力和數(shù)據(jù)能力對企業(yè)業(yè)務(wù)有非常直接的支撐作用，甚至可以直接推動(dòng)業(yè)務(wù)。當(dāng)PaaS的產(chǎn)品與客戶業(yè)務(wù)百分百結(jié)合在一起，才能真正激發(fā)生產(chǎn)力。

許多傳統(tǒng)企業(yè)級(jí)客戶、外資企業(yè)及跨國企業(yè)（MNC），已經(jīng)把IaaS+PaaS全棧搬上云去。因?yàn)樗麄冋J(rèn)為全棧上云節(jié)省了采購、時(shí)間、創(chuàng)新成本，還縮短了創(chuàng)新的時(shí)間。

從外因角度看，這一年我拜訪了非常多客戶，發(fā)現(xiàn)他們對云的認(rèn)知跟過去有了很大不同。很多客戶認(rèn)識(shí)到云不僅僅是服務(wù)器資源，更提供豐富的數(shù)字化能力。比如，開源軟件發(fā)展速度遠(yuǎn)超商業(yè)化軟件，在云上選擇各種具備不同技術(shù)能力且開源的組件，是最好的選擇。

如果客戶自行開發(fā)軟件、產(chǎn)品，所花費(fèi)的人力成本、研發(fā)成本、服務(wù)器成本、創(chuàng)新成本、試錯(cuò)成本都非常高。相比之下，云計(jì)算提供的開箱即用的PaaS化能力，可以直接助力客戶業(yè)務(wù)創(chuàng)新迭代。

越來越多的客戶意識(shí)到，IaaS+PaaS一體化才是充分利用云、用云來實(shí)現(xiàn)業(yè)務(wù)的迭代創(chuàng)新、幫助業(yè)務(wù)實(shí)現(xiàn)直接的增長的最好選擇。

阿里云服務(wù)了小紅書、喜馬拉雅、得物這種大型互聯(lián)網(wǎng)企業(yè)，他們通過阿里云的大數(shù)據(jù)產(chǎn)品，不僅激發(fā)了數(shù)據(jù)價(jià)值，更實(shí)現(xiàn)了對搜索、推薦、廣告等業(yè)務(wù)價(jià)值的直接提升。

2024年，小紅書宣布成功遷移500PB數(shù)據(jù)湖至阿里云

最近，我跟很多同事講，沒有PaaS的云，很難稱之為云，只有具備IaaS+PaaS一體化能力的云，才是真正的云。

劉湘明：可能十年前，大家經(jīng)常問的問題是“為什么要上云”，處于搖擺狀態(tài)。但當(dāng)AI出現(xiàn)之后，大家發(fā)現(xiàn)需要的能力在本地再也無法獲得了，一定要在云上獲得。

劉偉光：非常對。我這一年遇到的企業(yè)幾乎沒有不談AI的。這里面有一個(gè)重要的契機(jī)——企業(yè)大模型應(yīng)用必須要跟數(shù)據(jù)結(jié)合，這就繞不過PaaS層的大數(shù)據(jù)、數(shù)據(jù)庫產(chǎn)品。沒有過去這么多年云計(jì)算規(guī)模化地從底層算力到網(wǎng)絡(luò)、存儲(chǔ)、大數(shù)據(jù)的積累，就不會(huì)有今天的大模型，它不可能在空中樓閣上建立起來。這也推動(dòng)了很多客戶重新審視云計(jì)算中IaaS、PaaS、SaaS的意義。

劉湘明：從資源池到技術(shù)棧，企業(yè)的用云深度在不斷加強(qiáng)，從自研、自建向直接選擇PaaS層產(chǎn)品，從簡單的資源租賃到全棧上云，有哪些原因或者業(yè)務(wù)價(jià)值推動(dòng)這種轉(zhuǎn)變？

劉偉光：從外部市場看，云上的技術(shù)優(yōu)勢非常明顯，所有的先進(jìn)技術(shù)都優(yōu)先誕生在云上。企業(yè)會(huì)優(yōu)先選擇先進(jìn)的技術(shù)棧，而先進(jìn)的技術(shù)棧只有云上有。

從云計(jì)算從業(yè)者角度看，我們要滿足不同類型的客戶需求，就必須把能力做“厚”——不僅是滿足資源層面需求，還要做好容器化往上的所有PaaS層。

這里面還有一個(gè)與時(shí)俱進(jìn)的點(diǎn)：云計(jì)算把所有客戶聚集在云上，跟IOE時(shí)代把客戶、技術(shù)散落在無數(shù)點(diǎn)上，是兩種不同的技術(shù)主張。過去沒有規(guī)模化的時(shí)候，只能看單點(diǎn)需求；在云上，當(dāng)規(guī)模化的客戶每天調(diào)用大模型時(shí)，大模型對網(wǎng)絡(luò)、存儲(chǔ)、彈性計(jì)算等都有著非常大的推動(dòng)作用。因此，今天云必須要為AI改變、適配、升級(jí)原有的技術(shù)能力，才能滿足今天AI使用者的需求。

沒有商業(yè)價(jià)值和社會(huì)價(jià)值的大模型很難稱之為大模型

劉湘明：你出差很多，可能是國內(nèi)見客戶最多的人之一，對客戶的痛點(diǎn)、需求應(yīng)該也有很明顯的體感。有沒有統(tǒng)計(jì)過這一年大概見了多少客戶？他們有什么痛點(diǎn)和需求？

劉偉光：從公共云事業(yè)部成立到今天為止，我大概拜訪過162個(gè)客戶，走遍大江南北，看千行百業(yè)。如果不去一線感受不同行業(yè)和地域的客戶需求，就沒有辦法判斷在下一個(gè)財(cái)年我們?nèi)绾卧O(shè)計(jì)更好的戰(zhàn)略，支撐好市場。

大家對AI的需求千差萬別，有做基礎(chǔ)大模型的先行者還在持續(xù)訓(xùn)練大模型，有做垂直化應(yīng)用的公司在深度使用大模型，還有一些傳統(tǒng)行業(yè)的公司用大模型進(jìn)行業(yè)務(wù)創(chuàng)新和提效……他們不僅是簡單調(diào)用，還會(huì)在原有應(yīng)用中大量嵌入AI Agent（智能體），還有很多客戶在原有的應(yīng)用之外去開發(fā)AI原生的應(yīng)用，不僅在手機(jī)端，還有PC端的企業(yè)應(yīng)用。

我認(rèn)為，未來整個(gè)市場對于大語言模型的使用，無論是從模型調(diào)用還是開發(fā)自己的模型，一定不僅僅局限在手機(jī)APP上。未來會(huì)有更多應(yīng)用來自于企業(yè)應(yīng)用。這些企業(yè)的應(yīng)用如果站在大語言模型的肩膀上，其實(shí)真正釋放的是商業(yè)價(jià)值，是社會(huì)價(jià)值。

阿里云服務(wù)了很多To B企業(yè)、創(chuàng)造商業(yè)價(jià)值。比如在中華財(cái)險(xiǎn)，他們通過阿里云通義千問，輸入目標(biāo)客戶各類情況的提示詞，就可以自動(dòng)生成一份定制化團(tuán)險(xiǎn)保單。如果不完整可以再次對話，大模型會(huì)繼續(xù)設(shè)計(jì)。整個(gè)項(xiàng)目耗時(shí)只有人工的1‰或者1?。最后如果成交就會(huì)創(chuàng)造商業(yè)價(jià)值。

2024年中華財(cái)險(xiǎn)宣布新一代分布式核心系統(tǒng)全面上線，圖為中華財(cái)險(xiǎn)與阿里云的簽約儀式

在快遞領(lǐng)域，中國快遞行業(yè)發(fā)展迅速，效率高、人員多、數(shù)據(jù)多且迭代快、場景多，大模型應(yīng)用就非常有效果。申通快遞和阿里云經(jīng)過多次碰撞、驗(yàn)證場景之后，一起實(shí)現(xiàn)了大模型應(yīng)用在網(wǎng)點(diǎn)經(jīng)營分析、客服摘要、客服質(zhì)檢、地址校驗(yàn)等多個(gè)物流場景的落地，實(shí)現(xiàn)客服違規(guī)率下降50%，信息處理率提升60%。

一家國內(nèi)領(lǐng)先的藍(lán)領(lǐng)招聘企業(yè)利用Qwen-Plus整理本地公眾號(hào)、微信群中的零散用工信息，降低了80%運(yùn)營人力成本；使用模型檢測潛在的用工歧視、跨國用工等風(fēng)險(xiǎn)信息，大幅提升平臺(tái)合規(guī)能力。此外，人崗匹配、搜索推薦、客服質(zhì)檢等場景灰度上線中。

此外，中國的跨境電商非常發(fā)達(dá)，一家垂類的電商企業(yè)，面對大量細(xì)分品類和近百萬SKU的日常上架及運(yùn)營工作，通過通義大模型，進(jìn)行商品關(guān)鍵詞生成、標(biāo)題提煉、商品描述，并輔助進(jìn)行商品上架前的違規(guī)檢測，可以高質(zhì)量完成海量商品上線，提升商品上架效率。

還有，基于通義打造的智能招投標(biāo)信息服務(wù)平臺(tái)，利用大模型的自然語言理解和推理能力，通過Prompt工程識(shí)別項(xiàng)目名稱和公告名稱中的關(guān)鍵信息，進(jìn)行關(guān)聯(lián)概率計(jì)算，向最終用戶提供與項(xiàng)目關(guān)聯(lián)的所有公告信息的搜索查詢服務(wù)。

盡管我們看到很多實(shí)實(shí)在在的效率提升成果，但從市場整體來看還是滄海一粟。未來中國在大語言模型發(fā)展和場景應(yīng)用上會(huì)迎來快速普及，我對未來充滿信心。因?yàn)樵绞侨硕啵瑪?shù)據(jù)多、流程復(fù)雜、場景復(fù)雜的業(yè)務(wù)，大模型起到的效果就越明顯。

我們明年有個(gè)目標(biāo)，希望阿里云提供的推理資源能服務(wù)中國90%的AI agent、90%的AI原生應(yīng)用。如果說沒有PaaS的云今天不能稱為云，那么大模型不能創(chuàng)造社會(huì)價(jià)值和商業(yè)價(jià)值也是沒有意義的，所以我們朝著創(chuàng)造價(jià)值的方向來做。

劉湘明：AI在To B的價(jià)值要實(shí)現(xiàn)，意味著AI應(yīng)用和服務(wù)一定要無縫嵌入現(xiàn)有數(shù)據(jù)流和工作流，真正進(jìn)入生產(chǎn)環(huán)境才能發(fā)揮價(jià)值，有哪些挑戰(zhàn)？

劉偉光：第一個(gè)難點(diǎn)是大家都知道AI重要，但是不知道如何下手，不知道大模型應(yīng)該跟企業(yè)的哪一個(gè)場景、哪一類數(shù)據(jù)結(jié)合才能最快出效果。

第二個(gè)難點(diǎn)是人才。在實(shí)現(xiàn)AI最后一公里建設(shè)的時(shí)候，在開源模型和推理資源基礎(chǔ)上構(gòu)建專屬模型、AI應(yīng)用、AI Agent等等工作是需要客戶自己來做，別人無法代勞。它是好幾件事情的組合：第一是AI應(yīng)用開發(fā)的范式；第二是這個(gè)范式之下所有要用到的AI工具鏈；第三是選擇基礎(chǔ)大模型；第四是合理選擇底層的推理資源。這四件事組合在一起才是開發(fā)一個(gè)AI agent或者AI應(yīng)用的充分且必要條件。

挑戰(zhàn)存在于方方面面，但同時(shí)我也看到很多客戶有獨(dú)立的AI規(guī)劃、AI預(yù)算，AI人才、AI辦公室……這是非常好的現(xiàn)象。因?yàn)橹挥姓嬲袮I做成一個(gè)企業(yè)的一把手工程、企業(yè)級(jí)戰(zhàn)略項(xiàng)目，才有可能把AI真正跟企業(yè)完整融合在一起。

AI云，一個(gè)充滿想象力的新時(shí)代

劉湘明：現(xiàn)在人們對于AI基礎(chǔ)設(shè)施創(chuàng)新的關(guān)注度，遠(yuǎn)不及對大模型和生成式AI服務(wù)的關(guān)注，你怎么看？

劉偉光：關(guān)注大語言模型或者AI對基礎(chǔ)設(shè)施的演變的，是非常小的一個(gè)客戶群體，比如這個(gè)領(lǐng)域?qū)I(yè)的工作者、觀察者，或者是基礎(chǔ)大模型的研發(fā)者。

更多人會(huì)關(guān)注AI應(yīng)用，這很正常。就像人們戴個(gè)AI眼鏡，關(guān)注的是它能實(shí)現(xiàn)什么功能，能翻譯嗎？能對話嗎？而不會(huì)關(guān)注背后是用什么技術(shù)來實(shí)現(xiàn)的。但支撐這些AI應(yīng)用創(chuàng)新的核心競爭力的基礎(chǔ)設(shè)施技術(shù)是非常重要的，就像我們打開水龍頭，不會(huì)關(guān)心它從哪個(gè)水廠流出來，但那個(gè)水廠的設(shè)備應(yīng)該是最先進(jìn)的。所以，當(dāng)AI能力越來越強(qiáng)，提示詞工程產(chǎn)生的效果越來越好、反應(yīng)越來越快、對話越來越流暢的時(shí)候，實(shí)際上是因?yàn)楸澈蟮幕A(chǔ)設(shè)施能力非常強(qiáng)，這兩者是相輔相成的。

劉湘明：我們正站在一個(gè)拐點(diǎn)上，展望2025年，AI與云計(jì)算的結(jié)合將開啟一個(gè)充滿想象力的新時(shí)代，你預(yù)判未來的增長機(jī)會(huì)將發(fā)生在哪里？企業(yè)需要做好哪些準(zhǔn)備？

劉偉光：我的想象力是無窮的，這來自于我的客戶，我拜訪了這么多客戶，看到他們對AI未來發(fā)展感到興奮。

AI和云的結(jié)合是云二次騰飛的關(guān)鍵。從云計(jì)算提出來到今天將近20年時(shí)間，是讓全世界各種企業(yè)認(rèn)識(shí)到云是先進(jìn)技術(shù)的聚集地，云是讓更多中小企業(yè)上云，能節(jié)省成本。同時(shí)能夠把云不僅是資源，還是數(shù)字化生產(chǎn)力工具。

未來的所有基礎(chǔ)設(shè)施的能力都會(huì)被AI沖擊，這個(gè)過程就是能力的完全迭代、升級(jí)甚至重構(gòu)，這是一個(gè)AI云的時(shí)代。我相信未來各行各業(yè)都會(huì)不斷擁抱AI，基于大語言模型去構(gòu)建的AI應(yīng)用、AI agent會(huì)層出不窮，甚至可能會(huì)有專門的AI agent store，這會(huì)產(chǎn)生一個(gè)全新的世界。越來越多的客戶正加速擁抱云的進(jìn)程，而且這次擁抱云不是簡簡單單是對IaaS的擁抱，而是包含IaaS、PaaS、AI資源、大語言模型、AI應(yīng)用、AI agent……是真正更加廣義的全棧。

對于企業(yè)來講，要進(jìn)行更細(xì)分的資源規(guī)劃，從AI的頂層設(shè)計(jì)，到IT層面的AI人才、AI資源，包括AI開發(fā)工具，都要進(jìn)行全方位考量。今天所有企業(yè)都要為AI重新準(zhǔn)備一套數(shù)字化工具或者AI工具鏈，這是企業(yè)應(yīng)該做好的事情。

我非常相信中國在擁抱AI這件事情上，不會(huì)比其他國家慢。中國的創(chuàng)新能力將在AI應(yīng)用時(shí)代爆發(fā)，這也是我所說的“希望”所在。

大語言模型應(yīng)在適合的場景發(fā)揮效果而非泛化到解決一切問題

右一為阿里云智能集團(tuán)副總裁、公共云首席解決方案架構(gòu)師韓鴻源；左一為鈦媒體集團(tuán)聯(lián)合創(chuàng)始人、聯(lián)席CEO劉湘明

劉湘明：在2024年與企業(yè)的交流中，你看到高頻的問題或者關(guān)注點(diǎn)有哪些變化？這些高頻詞匯反映了企業(yè)在AI與云計(jì)算結(jié)合的新時(shí)代下，需求產(chǎn)生了什么變化？

韓鴻源：大語言模型的效果，還是要停留在其本身適合發(fā)揮的場景里討論，而不是泛化到一個(gè)解決一切問題的大模型。今天我們在做的所有事情，還是希望大語言模型能夠在業(yè)務(wù)里面發(fā)揮其支撐作用。

比如AI輔助寫代碼，這是所有大語言模型應(yīng)用領(lǐng)域里面，經(jīng)過了最充分的驗(yàn)證、最能體現(xiàn)出直接效果的場景。通過調(diào)研大互聯(lián)網(wǎng)公司，我們看到絕大部分領(lǐng)先企業(yè)，已經(jīng)有20%甚至30%的代碼使用了AI輔助生成。通義靈碼已經(jīng)得到了比較廣泛的應(yīng)用。

有些大型企業(yè)客戶會(huì)采購上萬個(gè)座席的通義靈碼使用權(quán)，小一些的企業(yè)可能采購幾千個(gè)座席，這種情況現(xiàn)在已經(jīng)非常常見。當(dāng)客戶使用了這個(gè)工具之后，他會(huì)持續(xù)使用下去，會(huì)提出更多的需求，迭代之后也會(huì)逐步發(fā)揮更大的作用。

另外我們看到，除了大語言模型本身的變化外，它還推動(dòng)了底層基礎(chǔ)設(shè)施的演進(jìn)。許多客戶開始更多地利用GPU資源進(jìn)行業(yè)務(wù)創(chuàng)新，例如在搜索和推薦系統(tǒng)中引入GPU以提升性能。

企業(yè)落地生成式AI的普遍難點(diǎn)和解決方案

劉湘明：生成式AI在企業(yè)落地的環(huán)境準(zhǔn)備、模型就緒、應(yīng)用工程三個(gè)階段中，企業(yè)普遍遇到了哪些難點(diǎn)？阿里云提供了哪些解決思路和方法？

韓鴻源：我從上往下說，先從應(yīng)用工程開始，在選擇合適的AI應(yīng)用場景時(shí)，我們看到兩個(gè)典型的做法。

一是構(gòu)建全新的應(yīng)用和業(yè)務(wù)系統(tǒng)時(shí)，希望引入AI或以AI為主構(gòu)建。這種情況我們充分地分析能力，尋找適合的應(yīng)用場景，并經(jīng)過驗(yàn)證逐步迭代，最終使系統(tǒng)趨于完善。這種做法包袱比較小，見效快，但對現(xiàn)有業(yè)務(wù)的影響有限，依賴于新場景的需求。

另外一個(gè)是在既有應(yīng)用里引入AI以提升效率。這是我們比較看好的方向。企業(yè)內(nèi)部已有大量數(shù)字化系統(tǒng)支撐業(yè)務(wù)運(yùn)轉(zhuǎn)，這些系統(tǒng)在構(gòu)建時(shí)AI尚未成熟，因此存在許多可以優(yōu)化的點(diǎn)。例如，許多業(yè)務(wù)流程依賴文字處理，涉及大量重復(fù)性工作。如果引入機(jī)器語言理解技術(shù)，將大幅提升效率。

從全球化范圍看，Salesforce等領(lǐng)先公司已經(jīng)展示了這種潛力，將其Agentforce平臺(tái)視為未來的增長點(diǎn)。

然而，這種潛力的釋放的前置條件是：流程會(huì)被使用足夠多的次數(shù)，否則改造成本有可能支持不了業(yè)務(wù)回報(bào)。

回到環(huán)境準(zhǔn)備和模型就緒階段，選擇合適的模型及其運(yùn)行方式至關(guān)重要。尤其在國內(nèi)嚴(yán)格的合規(guī)要求下，通義提供了一個(gè)可靠的選擇，它不僅在國內(nèi)廣泛使用，在海外也是最受歡迎的開源模型之一。

下一步是決定如何支持模型運(yùn)行。最簡單的方式是調(diào)用現(xiàn)成的模型服務(wù)。模型服務(wù)已成為云計(jì)算不可或缺的能力。用戶可以選擇直接使用模型的服務(wù)能力，或者根據(jù)特殊需求定制模型。

當(dāng)模型規(guī)模化使用時(shí)，優(yōu)化其運(yùn)行環(huán)境變得非常關(guān)鍵。它直接涉及成本和生命周期管理，能否以低成本讓客戶持續(xù)有效地使用模型，發(fā)揮其最大價(jià)值，是一個(gè)重要挑戰(zhàn)。

云為整個(gè)模型使用全生命周期提供了一個(gè)非常好的條件。不管是從用戶的選擇角度還是靈活性上，都提供了非常多可能性。

企業(yè)的AI應(yīng)用部署范式

劉湘明：你覺得對于不同能力的企業(yè)，未來在模型的應(yīng)用部署方式上面，他們的選擇會(huì)有什么不同？

韓鴻源：如果想以最快的方式開展應(yīng)用開發(fā)，模型服務(wù)可能是一個(gè)入手最簡單的方式，而且這些模型本身經(jīng)過的驗(yàn)證也比較多。

如果企業(yè)還是想要保留一部分知識(shí)產(chǎn)權(quán)，就會(huì)選擇另外一條路：使用一些模型做調(diào)整，或者在不做調(diào)整的情況下，自己把推理設(shè)施建起來，最后調(diào)用這些模型服務(wù)，實(shí)現(xiàn)相對偏私有域的應(yīng)用的使用方式，也是完全合理的需求。

通義千問會(huì)繼續(xù)保持開源開放，客戶完全可以選擇自己搭建推理平臺(tái)，把模型的調(diào)用變成自己內(nèi)部的事情，不讓別人介入到自己的模型調(diào)用過程中。

語言交互的推理有波峰波谷的效應(yīng)，云提供了一個(gè)比較好的選擇，大家在云上使用云的全球基礎(chǔ)設(shè)施，也可以保持自己運(yùn)行的相對獨(dú)立性的情況下，保有自己的一些保密和隱私。

面向推理和多模態(tài)數(shù)據(jù)處理趨勢

劉湘明：推理也是今年特別熱的詞。推理市場的繁榮將對于企業(yè)使用公共云有哪些影響？又對公共云提出了哪些新的要求？深度用云的企業(yè)有哪些關(guān)注點(diǎn)？

韓鴻源：我覺得其實(shí)訓(xùn)練是更吸引眼球的，但一個(gè)模型的訓(xùn)練過程不直接產(chǎn)生任何實(shí)際價(jià)值，模型真正要發(fā)揮作用是在推理階段。訓(xùn)練投入會(huì)繼續(xù)增長，但模型要重復(fù)使用才能釋放價(jià)值，所以，未來推理投入占比可能會(huì)遠(yuǎn)遠(yuǎn)高于訓(xùn)練。

今天云上所有模型API服務(wù)本身就是一個(gè)推理，是包裝一層API之后被用戶去用，通義大模型本身會(huì)使用很大的推理資源來響應(yīng)客戶的需求。另一種，是客戶不想用現(xiàn)成的API方式使用模型，選擇自己去做推理。

通義系列模型在對外服務(wù)過程中積累了豐富的推理技術(shù)優(yōu)化經(jīng)驗(yàn)，使用戶能夠直接享受這些技術(shù)帶來的紅利。比如，阿里云會(huì)提供通義模型服務(wù)、會(huì)提供百煉上調(diào)整模型的方式和使用模型的方式，包括工具鏈，同時(shí)也會(huì)提供PAI平臺(tái)去做更底層的能力承載，用戶可以基于這些做相對更自由一些探索。最終，我們是希望能夠去滿足用戶的全方位的需求。

劉湘明 ：“多模態(tài)數(shù)據(jù)”也是今年的一大熱詞。您如何看待多模態(tài)數(shù)據(jù)處理的需求和發(fā)展趨勢？在這個(gè)大趨勢下，阿里云在多模態(tài)數(shù)據(jù)的統(tǒng)一存儲(chǔ)、檢索和管理方面有哪些優(yōu)勢？

韓鴻源：一方面模型提取非結(jié)構(gòu)化數(shù)據(jù)的結(jié)構(gòu)化信息能力在提升，視覺語言模型具備了自動(dòng)化的信息提取的能力，可以更好地理解這些多模態(tài)數(shù)據(jù)，讓以前無法有效使用的數(shù)據(jù)充分發(fā)揮作用。

另一方面，Agent和這些數(shù)據(jù)探索能力的結(jié)合蘊(yùn)藏著巨大的潛力。以前，人們收集到的結(jié)構(gòu)化和半結(jié)構(gòu)化的數(shù)據(jù)需靠人去理解、探索，很多時(shí)候無法充分挖掘出數(shù)據(jù)的潛力。今天AI提供了自動(dòng)化處理能力，結(jié)合大數(shù)據(jù)讓AI探索數(shù)據(jù)會(huì)成為一個(gè)非常有潛力的發(fā)展方向。

對云計(jì)算而言，除了提供基礎(chǔ)的資源供應(yīng)，上層軟件能力會(huì)變得越來越重要。

例如，將多模態(tài)數(shù)據(jù)管理能力被集中整合到特定產(chǎn)品中，實(shí)現(xiàn)對多種類型數(shù)據(jù)的統(tǒng)一管理。在RAG（檢索增強(qiáng)）過程中，這些數(shù)據(jù)可以在模態(tài)之間無縫切換和使用，大大簡化了客戶的操作復(fù)雜度和數(shù)據(jù)管理難度，從而更順暢地運(yùn)行其業(yè)務(wù)流程。