【導(dǎo)讀】2026驍龍峰會(huì)期間，高通技術(shù)公司宣布攜手階躍、無(wú)量火與江波龍開(kāi)展四方合作，基于第六代驍龍? 8超級(jí)至尊版移動(dòng)平臺(tái)，將階躍StepEdge-Omni 30B-MoE（混合專(zhuān)家）模型面向端側(cè)進(jìn)行深度適配與推理優(yōu)化，成功打造具備自主服務(wù)和個(gè)性化能力的端側(cè)智能體助手，并在峰會(huì)現(xiàn)場(chǎng)完成基于高通參考設(shè)計(jì)的現(xiàn)場(chǎng)演示，驗(yàn)證了復(fù)雜智能體AI工作流在智能手機(jī)上的高效部署與規(guī)模化擴(kuò)展能力，進(jìn)一步加速智能體AI體驗(yàn)走進(jìn)更多終端和廣大消費(fèi)者。
基于第六代驍龍8超級(jí)至尊版移動(dòng)平臺(tái)的強(qiáng)大AI性能基礎(chǔ)和完整軟件棧支持，江波龍?zhí)峁┑亩藗?cè)AI存儲(chǔ)解決方案，模型權(quán)重可從端側(cè)閃存高效加載，通過(guò)存儲(chǔ)與計(jì)算協(xié)同減少大模型對(duì)運(yùn)行內(nèi)存的持續(xù)占用，進(jìn)一步提升模型加載和運(yùn)行效率，成功打造端側(cè)智能體助手，實(shí)現(xiàn)從郵件理解到行程規(guī)劃、日歷同步、航班酒店推薦、行程分享到郵件草擬的全鏈路自主辦公，全程本地完成，無(wú)需云端調(diào)用。得益于NPU+GPU雙引擎協(xié)同，模型預(yù)填充吞吐性能超過(guò)330 Token/s，對(duì)比僅使用NPU的通用推理方案提升超過(guò)30%，解碼吞吐性能超過(guò)28 Token/s，并能保持持續(xù)穩(wěn)定運(yùn)行，且首個(gè)詞元生成速率達(dá)到毫秒級(jí)，對(duì)比云端API調(diào)用快數(shù)倍至數(shù)十倍。
從AI PC到AI手機(jī)，江波龍端側(cè)AI存儲(chǔ)方案加速落地
江波龍這套端側(cè)AI存儲(chǔ)解決方案由iSA?存儲(chǔ)智能體與搭載慧憶微自研主控的UFS 4.1存儲(chǔ)芯片共同支持。UFS 4.1存儲(chǔ)芯片為端側(cè)AI推理提供可調(diào)度容量、高性能傳輸?shù)幕A(chǔ)，iSA?則是江波龍行業(yè)獨(dú)有的、專(zhuān)為端側(cè)AI推理場(chǎng)景打造的存儲(chǔ)智能調(diào)度引擎，兩者軟硬件協(xié)同構(gòu)成端側(cè)AI場(chǎng)景下的先進(jìn)存力。
iSA?存儲(chǔ)智能體圍繞 AI 數(shù)據(jù)的訪問(wèn)特點(diǎn)與計(jì)算時(shí)序，協(xié)同設(shè)計(jì)存儲(chǔ)介質(zhì)、數(shù)據(jù)布局、主控和固件。
在數(shù)據(jù)組織上，針對(duì)模型權(quán)重、MoE Expert 和 KV Cache 的不同特點(diǎn)，優(yōu)化分層存放、訪問(wèn)粒度和生命周期管理，提高有限內(nèi)存與存儲(chǔ)資源的使用效率。
在數(shù)據(jù)供給上，通過(guò)預(yù)取提示、關(guān)鍵讀取優(yōu)先、后臺(tái)維護(hù)協(xié)調(diào)和設(shè)備狀態(tài)反饋，讓存儲(chǔ)訪問(wèn)更好地匹配推理節(jié)奏，以減少計(jì)算等待、改善持續(xù)運(yùn)行體驗(yàn)為目標(biāo)。
在壽命管理上，針對(duì) KV Cache 卸載帶來(lái)的額外寫(xiě)入，通過(guò)優(yōu)化寫(xiě)入策略、數(shù)據(jù)放置和回收機(jī)制，并結(jié)合介質(zhì)壽命反饋，通過(guò)介質(zhì)調(diào)優(yōu)并優(yōu)化寫(xiě)放大，減少不必要的 NAND 擦寫(xiě)，延長(zhǎng)存儲(chǔ)使用壽命。
此前，江波龍端側(cè)AI存儲(chǔ)方案已在AI PC和AI移動(dòng)工作站場(chǎng)景完成能力驗(yàn)證。此次在移動(dòng)端平臺(tái)的適配與演示，進(jìn)一步驗(yàn)證了該方案的跨平臺(tái)復(fù)用能力，也為后續(xù)規(guī)模化商用奠定了基礎(chǔ)。
系統(tǒng)級(jí)存算協(xié)同，共促端側(cè)AI落地
端側(cè)AI推理對(duì)存儲(chǔ)提出新要求，常規(guī)標(biāo)準(zhǔn)存儲(chǔ)難以高效響應(yīng)MoE參數(shù)調(diào)度、KV Cache膨脹和多輪對(duì)話(huà)的I/O節(jié)奏。為此，江波龍與推動(dòng)存儲(chǔ)端與SoC端聯(lián)動(dòng)，讓存儲(chǔ)參與端側(cè)AI推理數(shù)據(jù)調(diào)度：理解推理節(jié)奏、預(yù)判數(shù)據(jù)需求、提前準(zhǔn)備。30B MoE大模型在智能手機(jī)上的完整部署，正是這一系統(tǒng)級(jí)協(xié)同的創(chuàng)新實(shí)踐。
江波龍副總裁、嵌入式存儲(chǔ)事業(yè)部總經(jīng)理黃強(qiáng)表示："端側(cè)AI的規(guī)模化落地，離不開(kāi)算力與存儲(chǔ)的深度協(xié)同。江波龍將行業(yè)獨(dú)有的iSA?存儲(chǔ)智能體，率先適配高通第六代驍龍8超級(jí)至尊版，通過(guò)存算協(xié)同釋放平臺(tái)算力價(jià)值，突破端側(cè)大模型推理存儲(chǔ)瓶頸。期待與高通持續(xù)深化生態(tài)協(xié)作，共同打造高性能端側(cè)AI解決方案，為終端用戶(hù)帶來(lái)更穩(wěn)定、可靠的本地AI體驗(yàn)。"
結(jié)論
本次四方合作基于第六代驍龍8超級(jí)至尊版移動(dòng)平臺(tái)，完成了30B混合專(zhuān)家模型的手機(jī)端高效部署，依托軟硬件協(xié)同優(yōu)化，實(shí)現(xiàn)了全鏈路本地自主辦公服務(wù)，擺脫了對(duì)云端調(diào)用的依賴(lài)，大幅提升了終端服務(wù)的響應(yīng)速度與運(yùn)行穩(wěn)定性。通過(guò)NPU與GPU雙引擎協(xié)同、存儲(chǔ)智能調(diào)度引擎與高性能存儲(chǔ)芯片的搭配優(yōu)化，設(shè)備模型加載、數(shù)據(jù)解碼、首詞響應(yīng)等核心性能大幅提升，有效解決了大模型運(yùn)行內(nèi)存占用過(guò)高、存儲(chǔ)讀寫(xiě)損耗大、運(yùn)行卡頓等問(wèn)題。
江波龍端側(cè)存儲(chǔ)解決方案具備成熟的跨平臺(tái)適配能力，此前已在AI PC、AI移動(dòng)工作站完成驗(yàn)證，此次移動(dòng)端的成功落地，充分證明了方案的通用性與實(shí)用性。算力與存儲(chǔ)的深度協(xié)同模式，突破了終端設(shè)備大模型部署的存儲(chǔ)瓶頸，最大化釋放了驍龍平臺(tái)的硬件性能。未來(lái)，隨著產(chǎn)業(yè)鏈生態(tài)協(xié)作的持續(xù)深化，這套成熟的端側(cè)軟硬件解決方案，將加速在各類(lèi)終端設(shè)備規(guī)模化商用，為消費(fèi)終端帶來(lái)更穩(wěn)定、高效、本地化的智能服務(wù)體驗(yàn)，持續(xù)推動(dòng)終端智能化技術(shù)的落地普及。
