當(dāng)前位置:首頁 >  科技 >  IT業(yè)界 >  正文

讓智能計(jì)算無處不在,高通ChinaJoy AIGC大會(huì)展望終端側(cè)AI行業(yè)賦能

 2024-07-29 14:35  來源: 互聯(lián)網(wǎng)   我來投稿 撤稿糾錯(cuò)

  域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過

2024年7月26日,中國(guó)國(guó)際數(shù)字娛樂產(chǎn)業(yè)大會(huì)(CDEC)旗下ChinaJoy AIGC大會(huì)于ChinaJoy期間在上海舉行。大會(huì)從技術(shù)、應(yīng)用等全生態(tài)角度共同探討了AIGC技術(shù)下的內(nèi)容產(chǎn)業(yè)新業(yè)態(tài)和未來發(fā)展趨勢(shì),聚焦AIGC如何助力產(chǎn)業(yè)升級(jí)、如何提升AIGC場(chǎng)景應(yīng)用、如何促進(jìn)人機(jī)融合等。

高通技術(shù)公司副總裁兼產(chǎn)品、合作伙伴和技術(shù)市場(chǎng)全球負(fù)責(zé)人 Mike Roberts 在大會(huì)上發(fā)表了主題演講。他指出,終端側(cè)生成式AI已經(jīng)到來,高通公司作為終端側(cè)AI的領(lǐng)導(dǎo)者,在AI領(lǐng)域有著超過15年的投入,借助強(qiáng)大的硬件和軟件支持組合、異構(gòu)計(jì)算優(yōu)勢(shì)、以及全球范圍內(nèi)的領(lǐng)先邊緣側(cè)布局,高通的產(chǎn)品和技術(shù)已支持出貨超過25億臺(tái)AI賦能終端,賦能廣泛的行業(yè)領(lǐng)域和生成式AI體驗(yàn),正在推動(dòng)實(shí)現(xiàn)“讓智能計(jì)算無處不在”。

以下為演講全文:

大家好,很高興第四次參加ChinaJoy。我很榮幸代表高通,與大家分享我們正在如何助力讓智能計(jì)算無處不在。作為終端側(cè)AI的領(lǐng)導(dǎo)者,高通在人工智能領(lǐng)域有著超過15年的投入,擁有行業(yè)領(lǐng)先硬件和軟件解決方案覆蓋廣泛邊緣終端,并且擁有跨NPU、CPU和GPU的卓越異構(gòu)計(jì)算能力、領(lǐng)先的軟件優(yōu)化、以及能效。此外,我們還在全球范圍內(nèi)擁有無與倫比的邊緣側(cè)布局和高達(dá)數(shù)十億的用戶設(shè)備數(shù)量,覆蓋智能手機(jī)、PC、汽車、XR、邊緣網(wǎng)絡(luò)設(shè)備等等。同時(shí),我們也與微軟、谷歌、百川、騰訊、字節(jié)跳動(dòng)等眾多生態(tài)合作伙伴共同推動(dòng)AI技術(shù)的創(chuàng)新和應(yīng)用。

生成式AI不僅是不可或缺的個(gè)人助手,也在眾多領(lǐng)域展現(xiàn)出了巨大的商業(yè)價(jià)值。預(yù)計(jì)每年可帶來2.6萬億到4.4萬億美元的經(jīng)濟(jì)效益,大約相當(dāng)于2023年上海GDP的5倍。然而,推動(dòng)生成式AI的規(guī)?;l(fā)展面臨諸多挑戰(zhàn)。以成本為例,基于生成式AI的搜索單次推理成本是傳統(tǒng)網(wǎng)絡(luò)搜索的約10倍。目前,我們還處于生成式AI應(yīng)用的早期階段,新的應(yīng)用不斷涌現(xiàn),包括圖像和視頻創(chuàng)作、文本摘要、對(duì)話聊天機(jī)器人等。再考慮到未來需要使用AI推理的數(shù)十億用戶數(shù),這個(gè)總體需求量就會(huì)非常驚人。預(yù)計(jì)2024年至2028年,生成式AI相關(guān)的token生成量將增長(zhǎng)150 倍,云端的推理需求將超過訓(xùn)練需求。如果還保持當(dāng)前的AI處理方式,到2030年AI可能會(huì)消耗全球3.5%的電力,這足以為上海這樣的大城市供電約35年。

那么我們應(yīng)如何應(yīng)對(duì)這一挑戰(zhàn)?為了實(shí)現(xiàn)規(guī)?;瘮U(kuò)展,AI處理的重心正在向邊緣側(cè)轉(zhuǎn)移,最終目標(biāo)是實(shí)現(xiàn)混合AI,讓云端和邊緣側(cè)終端能夠協(xié)同處理工作負(fù)載,并使用高性能連接來實(shí)現(xiàn)更加強(qiáng)大、高效、優(yōu)化的AI。如果將 20% 的生成式 AI 工作負(fù)載轉(zhuǎn)移到終端側(cè),預(yù)計(jì)到 2028 年將節(jié)省 160 億美元的計(jì)算資源成本。

讓我們分別看看終端側(cè)和云端的AI處理。終端側(cè)主要支持100億參數(shù)級(jí)別的大模型。終端側(cè)AI處理具備眾多優(yōu)勢(shì),不僅能夠提高性能和效率,還能確保隱私和安全性,同時(shí)提供即時(shí)性、低時(shí)延、高可靠性和個(gè)性化的用戶體驗(yàn)。另一方面,中心云能夠支持運(yùn)行參數(shù)超過千億級(jí)別的超大模型。在中心云上,用戶可以輕松地對(duì)模型進(jìn)行開發(fā)、部署和訓(xùn)練,實(shí)現(xiàn)資源聚合和極致性能。

基于此,面對(duì)各個(gè)垂直領(lǐng)域?qū)ι墒紸I用例日益增長(zhǎng)的需求,高通推出了面向計(jì)算性能的系統(tǒng)級(jí)解決方案。提供系統(tǒng)級(jí)解決方案的理念植根于高通公司的DNA之中,也是我們作為一家公司應(yīng)對(duì)諸多挑戰(zhàn)的關(guān)鍵。這一解決方案包括我們專為生成式AI全新打造的神經(jīng)網(wǎng)絡(luò)處理器(NPU),同時(shí),我們還將NPU與CPU、GPU整合到一起。比如,我們已經(jīng)在PC端推出的高通Oryon CPU,未來還將擴(kuò)展到手機(jī)、汽車等更多終端品類;此外,我們推出了高通Adreno GPU,我們?cè)谶@款定制化GPU上已經(jīng)投入了超過十年的研發(fā)。

我們針對(duì)不同計(jì)算需求,策略性地使用適宜的處理器,從而提升系統(tǒng)性能,實(shí)現(xiàn)異構(gòu)計(jì)算。異構(gòu)計(jì)算讓我們能夠?qū)崿F(xiàn)最佳應(yīng)用性能、能效和電池續(xù)航。如今,終端側(cè)AI已經(jīng)廣泛應(yīng)用于各類消費(fèi)終端和各行各業(yè),包括邊緣網(wǎng)絡(luò)設(shè)備、汽車、以及制造車輛的工業(yè)機(jī)器人等。在此,我想重點(diǎn)談?wù)剝煞N主要的終端類型:智能手機(jī)和PC。

我們最新的第三代驍龍8旗艦移動(dòng)平臺(tái)已經(jīng)賦能諸多手機(jī)廠商合作伙伴推出了豐富的終端側(cè)AI體驗(yàn)。上個(gè)月,我們的合作伙伴微軟以及其他領(lǐng)先PC廠商,推出了20多款搭載驍龍X Elite和驍龍X Plus平臺(tái)的最新Windows 11 AI+ PC,這些設(shè)備已經(jīng)實(shí)現(xiàn)了實(shí)時(shí)翻譯、實(shí)時(shí)轉(zhuǎn)譯、AI照片編輯、文本總結(jié)、寫作輔助等豐富的AI功能。

讓我們先從智能手機(jī)的角度來談?wù)勥@些終端側(cè)AI用例。我們與合作伙伴攜手在他們推出的旗艦智能手機(jī)上,為用戶帶來了生成式AI功能,將驍龍的AI能力直接呈現(xiàn)給消費(fèi)者。三星Galaxy S24系列借助終端側(cè)AI,以先進(jìn)的實(shí)時(shí)翻譯功能,將手機(jī)通話實(shí)時(shí)翻譯成用戶首選語言,打破語言障礙,促進(jìn)無縫的跨文化交流。此外,OPPO Find X7 Ultra集成了出色的終端側(cè)AI特性,讓用戶能夠?qū)⒄掌胁恍枰奈矬w或人物消除,且無需連接互聯(lián)網(wǎng)。榮耀Magic6系列的“智慧成片”功能則能夠利用相冊(cè)中的照片和文本提示生成視頻。

接下來,讓我們聊聊PC領(lǐng)域的應(yīng)用。 在PC方面,我們與djay Pro等眾多公司展開了合作。djay Pro是一款全球領(lǐng)先的混音應(yīng)用,經(jīng)過我們雙方的合作優(yōu)化,現(xiàn)在可以在驍龍X Elite的NPU上運(yùn)行,讓用戶能夠利用Neural Mix實(shí)時(shí)分離和操作人聲、樂器、鼓等不同音軌。

現(xiàn)在,讓我們將目光轉(zhuǎn)向汽車制造商和其他服務(wù)提供商,他們可以根據(jù)需求提供特性升級(jí)和新服務(wù)。中國(guó)的汽車市場(chǎng)有著全球領(lǐng)先的發(fā)展速度。在網(wǎng)聯(lián)汽車中使用生成式AI服務(wù),能夠賦能我們的合作伙伴打造全新特性,擴(kuò)展他們的產(chǎn)品,并為駕駛員和乘客提供更佳體驗(yàn)。網(wǎng)聯(lián)汽車能夠支持各種軟件定義特性和服務(wù),也將重新定義出行體驗(yàn)。

高通還在引領(lǐng)終端側(cè)AI在物聯(lián)網(wǎng)領(lǐng)域的應(yīng)用。一個(gè)具體的用例是工廠車間,工廠車間中數(shù)據(jù)處理的低時(shí)延至關(guān)重要,因?yàn)榧词故亲钗⑿〉腻e(cuò)誤也需要即刻關(guān)注。通過多模態(tài)AI助手,我們可以使用視覺、文本和語音處理為工廠車間的工人提供實(shí)時(shí)幫助。

我們還提供了高通AI軟件棧這一全面的統(tǒng)一解決方案,以支持廣泛的垂直領(lǐng)域和合作伙伴。高通AI軟件棧旨在幫助開發(fā)人員優(yōu)化和部署AI模型,它集成了我們自主的高通神經(jīng)網(wǎng)絡(luò)處理SDK、以及模型壓縮和量化工具——高通AI模型增效工具包(AIMET)。

綜上所述,憑借強(qiáng)大的硬件和軟件支持組合,高通的產(chǎn)品和技術(shù)已支持超過25億臺(tái)AI賦能終端的出貨。隨著我們不斷縮小云端和終端側(cè)AI之間的差距,未來這一數(shù)字將繼續(xù)快速增長(zhǎng)。最后,非常歡迎大家來到ChinaJoy驍龍主題館E4參觀體驗(yàn)。謝謝大家!

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)文章

熱門排行

信息推薦