每經(jīng)記者｜劉旭強(qiáng)    每經(jīng)編輯｜劉艷美

“個(gè)人級(jí)推理設(shè)備（AI PC）將從概念走向現(xiàn)實(shí)。”12月30日，第三屆全國(guó)先進(jìn)計(jì)算技術(shù)創(chuàng)新大賽在成都舉行，中國(guó)工程院院士、清華大學(xué)計(jì)算機(jī)系教授鄭緯民在現(xiàn)場(chǎng)分享中提到，隨著AI大模型向普惠化、低成本方向發(fā)展，部署成本顯著下降，讓邊緣側(cè)、端側(cè)的低成本大模型應(yīng)用從構(gòu)想變成現(xiàn)實(shí)。

沿著這一思路，與會(huì)學(xué)界、企業(yè)及機(jī)構(gòu)代表聚焦“成本普惠化”“應(yīng)用垂直化”“產(chǎn)業(yè)生態(tài)化”等方向，探討AI如何與千行百業(yè)深度融合，并推動(dòng)算力價(jià)值轉(zhuǎn)化為現(xiàn)實(shí)生產(chǎn)力。

一個(gè)越來(lái)越明顯的共識(shí)是，AI產(chǎn)業(yè)正從早期的技術(shù)模型探索，進(jìn)入以“應(yīng)用創(chuàng)新”“產(chǎn)業(yè)深耕”為核心的新階段，深度賦能政務(wù)、醫(yī)療、工業(yè)制造、交通、能源等關(guān)鍵領(lǐng)域，持續(xù)催生新業(yè)態(tài)、新模式。

圖片來(lái)源：主辦方提供

破解算力難題 “AI PC”加速走進(jìn)現(xiàn)實(shí)

“現(xiàn)在智算算力需求非常旺盛，租GPU做AI推理，得提前兩個(gè)星期排隊(duì)預(yù)約。”鄭緯民表示，曾經(jīng)由“模型訓(xùn)練”主導(dǎo)的算力需求，如今已經(jīng)轉(zhuǎn)向“推理”，簡(jiǎn)單說(shuō)就是AI從“學(xué)習(xí)成長(zhǎng)”階段，進(jìn)入了“給人干活”的實(shí)用階段，而這也催生出爆發(fā)式的算力缺口。

要讓AI高效“干活”，選對(duì)芯片是關(guān)鍵。相較于CPU，更擅長(zhǎng)高效矩陣運(yùn)算和高速數(shù)據(jù)讀寫(xiě)的GPU脫穎而出。

不過(guò)高效的GPU也面臨“煩惱”，其內(nèi)存主要用于存儲(chǔ)兩類(lèi)數(shù)據(jù)，一是訓(xùn)練所得的模型參數(shù)，二是推理過(guò)程中產(chǎn)生的中間結(jié)果。隨著Kimi等支持?jǐn)?shù)百萬(wàn)字上下文的模型走紅，AI大模型趨向“數(shù)據(jù)更多、模型更大、上下文更長(zhǎng)”，但這也帶來(lái)了極高的推理負(fù)載，導(dǎo)致用戶量激增時(shí)頻繁宕機(jī)。

鄭緯民以熱門(mén)論文的推理需求為例，“十萬(wàn)個(gè)用戶同時(shí)查詢，如果每個(gè)用戶都單獨(dú)存儲(chǔ)文章原文和推理中間結(jié)果，AI必然不堪重負(fù)。”

鄭緯民提到，業(yè)內(nèi)的破解思路是“公共數(shù)據(jù)共享存儲(chǔ)”，即將重復(fù)出現(xiàn)的公共數(shù)據(jù)和推理中間結(jié)果僅存儲(chǔ)一份，讓所有用戶共用。通過(guò)“緩存復(fù)用”“以存換算”大幅減少算力浪費(fèi)，從而緩解大模型AI宕機(jī)問(wèn)題。

鄭緯民透露，該技術(shù)開(kāi)源后獲得行業(yè)廣泛認(rèn)可，英偉達(dá)、華為、阿里等國(guó)內(nèi)外頭部企業(yè)都在采用。

除了存儲(chǔ)問(wèn)題，公共算力“不夠用”也是一大行業(yè)痛點(diǎn)。

“我經(jīng)常清晨五點(diǎn)半起來(lái)用AI查論文，往往問(wèn)三次就會(huì)‘流量超限’。要是等到高峰期，可能問(wèn)完一個(gè)問(wèn)題，AI就會(huì)提示我‘休息一會(huì)’。其實(shí)不是我累了，是它忙不過(guò)來(lái)了。”

鄭緯民拿親身體驗(yàn)舉例，大家常用的DeepSeek大模型，背后是由6000多塊芯片組成、耗資20多億元的“超級(jí)芯片”，但即便如此，高峰時(shí)段還是扛不住頻繁的用戶查詢需求。

鄭緯民介紹，針對(duì)企業(yè)部署本地推理的高成本問(wèn)題，業(yè)內(nèi)一項(xiàng)解決辦法是“CPU+GPU”協(xié)同的“性價(jià)比”方案。具體來(lái)說(shuō)，就是把AI最需要快速運(yùn)算的核心參數(shù)放在GPU里，把占比更高、不那么急的普通參數(shù)放在CPU里。這樣一來(lái)，只用一套更低成本的設(shè)備，就能讓大模型“滿血”運(yùn)行。

鄭緯民透露，現(xiàn)在這個(gè)方案已經(jīng)被多家大模型企業(yè)采用，相當(dāng)于給企業(yè)提供了“平價(jià)解決方案”。

而這兩項(xiàng)技術(shù)創(chuàng)新，正讓AI PC概念加速走向現(xiàn)實(shí)。

“有可能過(guò)兩年，在座各位都會(huì)用上AI PC。”鄭緯民預(yù)判，就像當(dāng)年計(jì)算機(jī)普及一樣，AI技術(shù)有望從“集群級(jí)服務(wù)”向“個(gè)人級(jí)應(yīng)用”發(fā)展，這也是當(dāng)下AI行業(yè)最值得關(guān)注的趨勢(shì)。

產(chǎn)業(yè)價(jià)值兌現(xiàn) AI重構(gòu)千行百業(yè)

如果說(shuō)前幾年是AI的技術(shù)競(jìng)賽，今年則是產(chǎn)業(yè)場(chǎng)景中的價(jià)值兌現(xiàn)。

政策層面的系統(tǒng)性布局，為這場(chǎng)變革筑牢了根基。國(guó)家層面早已按下加速鍵。今年8月，國(guó)務(wù)院發(fā)布《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》，明確提出到2027年，率先實(shí)現(xiàn)人工智能與6大重點(diǎn)領(lǐng)域廣泛深度融合，新一代智能終端、智能體等應(yīng)用普及率超70%。

地方層面的實(shí)踐則讓政策落地生根，以四川為例，四川推進(jìn)人工智能“一號(hào)創(chuàng)新工程”，將其納入“15+N”重點(diǎn)產(chǎn)業(yè)鏈，打造國(guó)家創(chuàng)新試驗(yàn)區(qū)，34個(gè)本土垂直大模型落地生根，形成政策與產(chǎn)業(yè)共振的良好生態(tài)。

工信部電子信息司副司長(zhǎng)史惠康表示，當(dāng)前，以先進(jìn)計(jì)算為核心驅(qū)動(dòng)力的科技創(chuàng)新正加速重構(gòu)全球產(chǎn)業(yè)格局，催生出生成式人工智能、具身智能、數(shù)字孿生等前沿應(yīng)用，深刻改變著人們的生產(chǎn)和生活方式，重塑全球創(chuàng)新格局和產(chǎn)業(yè)生態(tài)。

以技術(shù)突破、政策賦能為雙引擎，AI的產(chǎn)業(yè)應(yīng)用快速落地。

以人工智能的重要分支具身智能為例，華為技術(shù)有限公司昇騰計(jì)算業(yè)務(wù)副總經(jīng)理劉偉現(xiàn)場(chǎng)提供了一組數(shù)據(jù)：2024年具身領(lǐng)域投融資超過(guò)300億美元，是2023年的3倍以上，全年我國(guó)機(jī)器人相關(guān)企業(yè)注冊(cè)量就超19萬(wàn)家。同時(shí)，海外英偉達(dá)、特斯拉、OpenAI等巨頭加快布局大模型+具身智能，并視為第二增長(zhǎng)曲線。到2025年，大模型迅猛發(fā)展，引領(lǐng)AI、智能體、具身智能等產(chǎn)業(yè)爆發(fā)，加速AI在行業(yè)核心場(chǎng)景的落地。

若把具身智能視為AI的“四肢”，智能體則是驅(qū)動(dòng)產(chǎn)業(yè)協(xié)同的“大腦”。

2025年，被普遍認(rèn)為是大模型智能體的“元年”。天府絳溪實(shí)驗(yàn)室先進(jìn)計(jì)算前沿研究中心業(yè)務(wù)支持部副部長(zhǎng)李昕表示，隨著人工智能從“大模型”邁向“大應(yīng)用”，多智能體協(xié)同技術(shù)正在打破單一應(yīng)用的局限，“智能體經(jīng)濟(jì)”已然成型。AI浪潮下，多智能體協(xié)同完成生產(chǎn)調(diào)度、質(zhì)量檢測(cè)、設(shè)備維護(hù)的全流程，在智慧城市里聯(lián)動(dòng)交通、安防、政務(wù)系統(tǒng)高效運(yùn)轉(zhuǎn)，釋放規(guī)?；闹悄軆r(jià)值。

隨著算力產(chǎn)業(yè)指數(shù)級(jí)增長(zhǎng)、技術(shù)持續(xù)突破、生態(tài)協(xié)同開(kāi)放態(tài)勢(shì)，AI普惠已不是抽象概念，而是通過(guò)“To B+To C”雙輪驅(qū)動(dòng)，深度融入醫(yī)療、公安、金融、政務(wù)等社會(huì)運(yùn)轉(zhuǎn)的方方面面。