雖然端側(cè)AI優(yōu)勢(shì)明顯、端側(cè)大模型的布局熱度正酣，但終端芯片受到體積和功耗的限制，對(duì)于更大的模型和調(diào)優(yōu)等重度負(fù)載并非最優(yōu)解，更加高階或復(fù)雜的AI用例往往誕生于云端大模型。

　　那么，當(dāng)終端用戶偶爾需要超越端側(cè)大模型的功能時(shí)，該如何獲取?高通在《混合AI是AI的未來》白皮書中，提出了在云端和邊緣終端之間分配并協(xié)同處理AI工作負(fù)載的混合AI架構(gòu)。這種架構(gòu)可以根據(jù)模型和查詢需求的復(fù)雜度等因素，在云端和終端側(cè)之間分配處理負(fù)載。

　　5G或未來6G的連接，是實(shí)現(xiàn)混合AI架構(gòu)的關(guān)鍵。當(dāng)終端大模型判斷出現(xiàn)了終端無(wú)法處理的工作，可以通過5G連接，將數(shù)據(jù)上傳到云端進(jìn)行運(yùn)算，之后再將結(jié)果推回到終端。5G或6G的高速連接，能夠保障數(shù)據(jù)處理和結(jié)果反饋的實(shí)時(shí)性。如此一來，云端、邊緣云的訓(xùn)練和計(jì)算資源，都將為終端大模型服務(wù)，保障了用戶體驗(yàn)。

　　雖然6G尚未到來，但行業(yè)已經(jīng)行至5G第二個(gè)階段的演進(jìn)——5G Advanced(以下簡(jiǎn)稱5G-A)。相比5G，5G-A可實(shí)現(xiàn)網(wǎng)絡(luò)能力的10倍提升，支撐10Gbps體驗(yàn)、全場(chǎng)景物聯(lián)、通信感知一體、L4級(jí)別自動(dòng)駕駛網(wǎng)絡(luò)、綠色I(xiàn)CT等業(yè)態(tài)，進(jìn)一步開發(fā)和釋放5G的潛能。

　　最新一代驍龍8 Gen 3集成的驍龍X75是業(yè)界首個(gè)5G Advanced-ready調(diào)制解調(diào)器及射頻系統(tǒng)，面向智能手機(jī)、移動(dòng)寬帶、汽車、計(jì)算、工業(yè)物聯(lián)網(wǎng)、固定無(wú)線接入和5G企業(yè)專網(wǎng)等細(xì)分領(lǐng)域，提升網(wǎng)絡(luò)覆蓋、時(shí)延、能效和移動(dòng)性體驗(yàn)。在11月8日于烏鎮(zhèn)舉辦的“世界互聯(lián)網(wǎng)大會(huì)領(lǐng)先科技獎(jiǎng)”頒獎(jiǎng)典禮上，高通5G Advanced-ready調(diào)制解調(diào)器及射頻系統(tǒng)X75獲得“世界互聯(lián)網(wǎng)大會(huì)領(lǐng)先科技獎(jiǎng)”。

　　內(nèi)生AI被視為5G-A的關(guān)鍵技術(shù)之一，使網(wǎng)絡(luò)更智能、靈活地按需提供功能。驍龍X75是業(yè)界首次在調(diào)制解調(diào)器及射頻系統(tǒng)中采用專用硬件張量加速器，將AI性能提升至前代產(chǎn)品的2.5倍以上。驍龍X75還引入了5G AI套件，為連接速度、移動(dòng)性、鏈路穩(wěn)健性等5G性能和特性的優(yōu)化提供更大空間。

　　5G-A的加持，除了讓手機(jī)、PC等終端能夠高效運(yùn)行大模型，也為大模型進(jìn)入XR(虛擬現(xiàn)實(shí)、增強(qiáng)現(xiàn)實(shí)等)、汽車等終端帶來更多可能。5G-A提供的萬(wàn)兆體驗(yàn)，能夠更有力地支撐VR/AR和車聯(lián)網(wǎng)等需要高帶寬、低時(shí)延的應(yīng)用。例如微軟基于云流媒體和第二代驍龍XR2芯片平臺(tái)，在XR終端側(cè)運(yùn)行先進(jìn)的算法，實(shí)現(xiàn)了將Windows體驗(yàn)安全傳輸?shù)組eta Quest設(shè)備，用Azure遠(yuǎn)程渲染MR終端內(nèi)容等用例，更有效地融合了XR云端和客戶端內(nèi)容。

　　混合AI架構(gòu)以及5G+AI的協(xié)同工作，也為開發(fā)者在本地和云上的無(wú)縫開發(fā)大模型相關(guān)應(yīng)用帶來便利。今年9月，微軟將AI助手Copilot接入Windows11，將生成式AI引入更多應(yīng)用程序。微軟Windows和設(shè)備副總裁帕萬(wàn)·達(dá)武魯里在2023驍龍峰會(huì)表示，終端側(cè)AI促進(jìn)了客戶端和云端之間的平衡，將使開發(fā)人員能夠使用本地和云計(jì)算編寫混合AI應(yīng)用?！拔磥恚覀冃枰粋€(gè)能夠模糊云端和邊緣端芯片界限的操作系統(tǒng)，在合適的地方使用合適的芯片，從而實(shí)現(xiàn)最佳體驗(yàn)。這將讓W(xué)indows成為一個(gè)跨應(yīng)用、內(nèi)容和圖形的編排系統(tǒng)。”

　　萬(wàn)物互聯(lián)，萬(wàn)物智能。AIGC提升了終端的智能上限，而5G-A和未來的6G拓展了智能的觸達(dá)范圍，兩者將一起為終端的使用和交互體驗(yàn)帶來更多可能。