當(dāng)前位置:首頁 >  科技 >  IT業(yè)界 >  正文

科華數(shù)據(jù):與金融大模型激情共舞

 2024-08-23 14:06  來源: 互聯(lián)網(wǎng)   我來投稿 撤稿糾錯

  域名預(yù)訂/競價(jià),好“米”不錯過

在全球金融科技領(lǐng)域,中國金融機(jī)構(gòu)正以驚人的速度崛起,不僅在大模型專利創(chuàng)新上占據(jù)領(lǐng)先地位,更在智能金融服務(wù)的實(shí)際應(yīng)用中展現(xiàn)出強(qiáng)大的實(shí)力。

這一趨勢的背后,是算力需求的爆炸性增長,以及對高效、可靠、節(jié)能的數(shù)據(jù)中心基礎(chǔ)設(shè)施的迫切需求。

* 上述摘要由筆者通過「大模型」讀取本文智能生成。

近日,全球知名科技刊物《麻省理工技術(shù)評論》(MIT Technology Review)發(fā)布相關(guān)報(bào)告,“全球金融機(jī)構(gòu)大模型領(lǐng)域?qū)@麆?chuàng)新排行榜”揭開面紗。在全球金融機(jī)構(gòu)大模型專利創(chuàng)新領(lǐng)域,中國申請公開量達(dá)1909件,占比超75%。更令人欣喜的是,在這份榜單的TOP10,在全球頂尖的金融機(jī)構(gòu)列表中,中國強(qiáng)勢占據(jù)8席,展現(xiàn)出泱泱大國在全球科技領(lǐng)域的熠煜之姿。

螞蟻集團(tuán)、平安集團(tuán)、工商銀行、建設(shè)銀行、中國銀行、馬上消費(fèi)金融、微眾銀行、農(nóng)業(yè)銀行……中國領(lǐng)先的金融機(jī)構(gòu)于科技制高點(diǎn)布局的各類金融大模型,正如同浩瀚宇宙中點(diǎn)綴著的繁星,每一顆都閃爍著智慧的光芒。

同樣浩瀚的,是高速流轉(zhuǎn)于服務(wù)器之間的數(shù)據(jù)流量,更是全球秩序及格局博弈下中國科技自強(qiáng)不息的奮進(jìn)力量。

01 千帆競渡,金融智算登上時(shí)代舞臺

據(jù)IDC數(shù)據(jù),2023年下半年中國智算服務(wù)市場整體規(guī)模達(dá)114.1億元,同比增長85.8%;全年來看,這一數(shù)據(jù)可達(dá)194.2億元,同比增長72.5%。據(jù)預(yù)測,2022-2027年期間,我國智能算力規(guī)模的年均復(fù)合增長率將達(dá)到33.9%,遠(yuǎn)高于通用算力16.6%的增速。

在金融行業(yè),央行2022年1月發(fā)布的《金融科技發(fā)展規(guī)劃(2022-2025 年)》即明確提出,“要抓住全球人工智能發(fā)展新機(jī)遇,以人為本全面推進(jìn)智能技術(shù)在金融領(lǐng)域深化應(yīng)用”。

我們看到,圓融詼諧的機(jī)器人早已成為智慧網(wǎng)點(diǎn)的基本標(biāo)配,西裝革履的數(shù)字員工在屏幕上對答如流,智能客服、智能辦公、智能研發(fā)、智能投研等多個(gè)業(yè)務(wù)場景上均有著大模型在金融業(yè)的合理探索及應(yīng)用,金融機(jī)構(gòu)的服務(wù)半徑得以迅速擴(kuò)大。作為新質(zhì)生產(chǎn)力的典型縮影,金融智算在金融科技的強(qiáng)催化下登上時(shí)代舞臺,正翩然起舞。

再來看看金融智算在一線的公開戰(zhàn)績。

據(jù)工商銀行2023年年報(bào)披露,其首個(gè)基于大模型的網(wǎng)點(diǎn)員工智能助手上線,提升網(wǎng)點(diǎn)效能,全年運(yùn)營領(lǐng)域智能處理業(yè)務(wù)量3.2億筆,比上年增長14%;農(nóng)業(yè)銀行ChatABC在智能問答場景已提供超過200萬次問答服務(wù),在輔助編碼場景已編寫超過8萬行代碼投入生產(chǎn)應(yīng)用;建設(shè)銀行智能客服工單生成每單平均節(jié)約客服工作時(shí)間15-20秒,可用率達(dá)82%,一致性達(dá)80%。

“方舟計(jì)劃”、倉頡、軒轅、天鏡……一個(gè)個(gè)上古神學(xué)中耳熟能詳?shù)拿?,身披大模型?ldquo;外衣”從遙遠(yuǎn)的神話走到了現(xiàn)實(shí),成為金融垂直領(lǐng)域數(shù)字化轉(zhuǎn)型的關(guān)鍵力量,推動探索虛擬現(xiàn)實(shí)與AIGC(人工智能)融合發(fā)展邁向新高度。

據(jù)不完全統(tǒng)計(jì),現(xiàn)階段各大金融機(jī)構(gòu)在大模型應(yīng)用上的情況如下表,可以看出,頭部金融機(jī)構(gòu)在大模型各場景上已有較多投入和應(yīng)用,他們依托于自有數(shù)據(jù)加速訓(xùn)練著適合自己的大模型。

同時(shí),部分中等規(guī)模的金融機(jī)構(gòu),如城商行農(nóng)商行等,也積極擁抱大模型,或采購GPU服務(wù)器部署開源大模型用于內(nèi)部訓(xùn)練,或依托于大模型公司的算力能力快速應(yīng)用落地相關(guān)服務(wù)場景。

總而言之,金融行業(yè)在大模型上的研究和布局上奮力向前,不斷有金融機(jī)構(gòu)加大投入力度。

02 應(yīng)對“烤”驗(yàn),跨越 AI時(shí)代的算力鴻溝

前文提到,IDC預(yù)測近年來我國智算規(guī)模的年均復(fù)合增長率將遠(yuǎn)高于通算,與之相應(yīng)的即是算力需求飛速增長與數(shù)據(jù)中心能耗急劇攀升沖突之下造成的“算力鴻溝”。

近日,華泰證券出具的一份研報(bào)引用了麥肯錫的數(shù)據(jù)——在AI大模型相關(guān)算力需求的快速增加推動下,以能耗衡量的全球服務(wù)器規(guī)模將從2024年的70GW增長至2030年的390GW,年均復(fù)合增長率高達(dá)33%。研報(bào)同時(shí)指出,隨著AI算力需求的持續(xù)增長,2030年全球數(shù)據(jù)中心用電量規(guī)模將達(dá)到約2.2萬億度電,是2022年的3.6倍。

這一說法在金融行業(yè)也得到驗(yàn)證。

行業(yè)資深人士透露,過去10年,基于低負(fù)載及高冗余的特性,一貫以來將業(yè)務(wù)連續(xù)性視為“命根子”的金融數(shù)據(jù)中心的PUE普遍都大于1.5,“這意味著IT設(shè)備每消耗1度電,就有額外的0.5度電用于散熱等其他用途”。

而隨著百億級、千億級金融AI大模型的孵化,過往老舊機(jī)房確已難堪負(fù)荷,這一條“算力鴻溝”,在AI+金融的時(shí)代背景下顯得愈發(fā)淵深難測。

跨越這條鴻溝,一方面需應(yīng)對全球氣候系統(tǒng)變暖趨勢下數(shù)據(jù)中心面臨的嚴(yán)峻“烤”驗(yàn),一方面需應(yīng)對數(shù)據(jù)中心各部件、整機(jī)的高密功耗帶來的散熱剛需,共同推動金融智算基礎(chǔ)設(shè)施加快建設(shè)步伐。

現(xiàn)階段,我國數(shù)據(jù)中心的散熱方式仍以風(fēng)冷為主,以高可靠、高安全著稱的金融數(shù)據(jù)中心尤是。我們需注意到,部分用戶采購風(fēng)冷GPU服務(wù)器后,由于單臺設(shè)備功率高達(dá)6-10.5kW,因此在現(xiàn)有機(jī)房中,單機(jī)柜只能放置1~2臺GPU服務(wù)器。此方案可以暫時(shí)滿足GPU服務(wù)器的散熱需求,但是綜合來看,風(fēng)冷散熱模式下,GPU處于較高運(yùn)行溫度下,也會導(dǎo)致運(yùn)行速度減緩、器件提前老化的情況,此時(shí)昂貴的GPU發(fā)揮不出其極致的算力,生產(chǎn)力打折,著實(shí)可惜。

03 可靠解耦,液冷助力釋放底層算力潛能

在算力激增及高密高熱的雙重推動下,液冷成為智算數(shù)據(jù)中心主流的溫控方式。據(jù)財(cái)信證券研報(bào)中引用的行業(yè)數(shù)據(jù)顯示,2025-2028年液冷技術(shù)的滲透率預(yù)計(jì)有望達(dá)到30%。

液冷,是一種采用液體來進(jìn)行電子設(shè)備冷卻的散熱技術(shù),可顯著提高數(shù)據(jù)中心的散熱效率。目前,液冷技術(shù)主要包括冷板式、浸沒式和噴淋式三種類型,并以前兩者為應(yīng)用主流。

根據(jù)行業(yè)研報(bào),以華東地區(qū)數(shù)據(jù)中心建設(shè)情況為例,基于一定的測算前提條件下,冷板式液冷方案的TCO甚至Capex已經(jīng)低于風(fēng)冷,浸沒式液冷方案的TCO也將在運(yùn)行五年左右之后出現(xiàn)低于風(fēng)冷方案的拐點(diǎn)。

囿于成本的緣故,現(xiàn)階段冷板式液冷相較浸沒式液冷而言,技術(shù)更為成熟、應(yīng)用更為廣泛,在改造及建設(shè)成本,安全可靠性,后期運(yùn)營維護(hù)方面均具備顯著優(yōu)勢。按照服務(wù)器出貨量口徑統(tǒng)計(jì),2023H1我國冷板式液冷服務(wù)器比例為90%左右,浸沒式液冷滲透率為10%。

過去幾年,算力設(shè)備廠商一站式整體交付算力設(shè)備+液冷基礎(chǔ)設(shè)施,優(yōu)勢是交叉配合界面少、整體交付速度快、后期運(yùn)維一家負(fù)責(zé),但算力設(shè)備與液冷基礎(chǔ)設(shè)施強(qiáng)耦合后,劣勢也很明顯:

① 二期算力擴(kuò)容時(shí),較難兼容其他品牌的算力設(shè)備,甚至是無法兼容;

② 算力設(shè)備廠商集成的液冷基礎(chǔ)設(shè)施,在系統(tǒng)冗余性、在線維護(hù)性、服務(wù)能力上較難達(dá)到用戶需求;

③ 液冷基礎(chǔ)設(shè)施溢價(jià)高,成本甚至超過30萬元/柜,遠(yuǎn)高于解耦型冷板式液冷。

如同所有居于供給側(cè)、在AI+金融市場鉆研鏖戰(zhàn)的科技廠商一般,科華數(shù)據(jù)也秉持著行業(yè)領(lǐng)先者的責(zé)任感,乘著這股浩蕩東風(fēng),推出「解耦型冷板式液冷數(shù)據(jù)中心解決方案」,致力于共同助力金融機(jī)構(gòu)釋放算力潛能,為金融智算筑建堅(jiān)實(shí)底座。

經(jīng)過充分的市場調(diào)研和案例應(yīng)用,科華數(shù)據(jù)冷板式液冷數(shù)據(jù)中心解決方案凝聚了「6大優(yōu)勢」。

01 整體優(yōu)化架構(gòu),服務(wù)器全解耦,可兼容多品牌算力設(shè)備,分期建設(shè)無憂

科華數(shù)據(jù)冷板式液冷解決方案,可解耦國內(nèi)主流品牌液冷算力服務(wù)器,解耦點(diǎn)在液冷服務(wù)器側(cè)或液冷整機(jī)柜側(cè),目前已交付多個(gè)項(xiàng)目,并安全穩(wěn)定運(yùn)行,實(shí)現(xiàn)了客戶對于液冷數(shù)據(jù)中心兼容解耦的部署架構(gòu)。

02 高密智算液冷POD解決方案,整系統(tǒng)可靠驗(yàn)證,現(xiàn)場高質(zhì)量快速交付

基于豐富的項(xiàng)目經(jīng)驗(yàn),實(shí)現(xiàn)了建設(shè)方案、系統(tǒng)架構(gòu)、核心產(chǎn)品的標(biāo)準(zhǔn)化,并推出了一站式交付的液冷算力POD解決方案,既優(yōu)化了方案論證、產(chǎn)品選型階段的復(fù)雜工作,又提升了產(chǎn)品質(zhì)量、交付速度、確保系統(tǒng)穩(wěn)定運(yùn)行,維護(hù)管理更加簡便易用,運(yùn)營效率得以大幅提升。

03 核心產(chǎn)品優(yōu)異,CDU循環(huán)泵雙泵冗余,水泵、過濾器等不停機(jī)更換維護(hù)

作為液冷系統(tǒng)中的核心產(chǎn)品,科華數(shù)據(jù)液冷CDU采用N+1冗余架構(gòu)設(shè)計(jì),并可放置在精密空調(diào)間,確保一次側(cè)冷卻水不進(jìn)入算力機(jī)房內(nèi)。CDU內(nèi)的循環(huán)水泵采用節(jié)能型變頻雙泵冗余設(shè)計(jì),單臺水泵即可滿足100%散熱需求,水泵和過濾器均按滿足在線維護(hù)要求,實(shí)現(xiàn)不停機(jī)即可更換維護(hù)。

04 預(yù)制化生產(chǎn)制造,工程產(chǎn)品化,確保交付質(zhì)量,又好又快

基于智能微模塊的豐富經(jīng)驗(yàn),科華數(shù)據(jù)液冷系統(tǒng)將預(yù)制化底座、二次側(cè)管路系統(tǒng)、機(jī)柜(含manifold)、通道封閉、智能小母線、風(fēng)補(bǔ)列間空調(diào)、液冷微模塊監(jiān)測系統(tǒng)、一次側(cè)水力模塊等進(jìn)行預(yù)制化設(shè)計(jì)生產(chǎn),現(xiàn)場快速交付。

05 交付安全穩(wěn)定,基于正向設(shè)計(jì)理念,通過BIM+CFD仿真模擬及液冷測試平臺嚴(yán)格驗(yàn)證

項(xiàng)目正式進(jìn)場后,科華基于BIM三維建模技術(shù),實(shí)現(xiàn)1:1數(shù)字孿生,模擬每一個(gè)設(shè)備、每一段管路和閥門的位置,做到所設(shè)即所得,減少現(xiàn)場管路交叉干涉,確保交付質(zhì)量和速度。通過CFD流體仿真技術(shù),模擬管路流體路徑和機(jī)房內(nèi)的氣流組織,不斷優(yōu)化設(shè)備布局和設(shè)置參數(shù),確保智算機(jī)房高質(zhì)量運(yùn)行。同時(shí),每一套液冷系統(tǒng)出廠前,均會在科華液冷整系統(tǒng)測試平臺中進(jìn)行測試,驗(yàn)證可靠性和功能參數(shù),確保方案質(zhì)量和系統(tǒng)長期穩(wěn)定運(yùn)行。

06 項(xiàng)目經(jīng)驗(yàn)豐富,成功交付多個(gè)液冷數(shù)據(jù)中心項(xiàng)目,全生命周期服務(wù)值得用戶信賴

得益于高效散熱、節(jié)能減排、安全可靠等優(yōu)勢,科華冷板式液冷案例覆蓋了通信、互聯(lián)網(wǎng)、高校、金融等多個(gè)行業(yè)用戶,如河北承德智算中心、中國移動蘇州數(shù)據(jù)中心、廈門大學(xué)嘉庚智算中心等。

科華數(shù)據(jù)冷板式液冷解決方案可囊括從通用算力服務(wù)器20kW/柜到智算算力服務(wù)器高密度50kW/柜,甚至科研場景的70~120kW/柜,為各行業(yè)高密度智算中心打造安全可靠、綠色低碳的液冷數(shù)據(jù)中心,賦能千行百業(yè)。在推動新技術(shù)發(fā)展的同時(shí),科華數(shù)據(jù)也不斷優(yōu)化整體服務(wù)流程,使每一次交付都得到客戶的高度認(rèn)可。

如,于「通信行業(yè)長三角地區(qū)重要液冷數(shù)據(jù)中心項(xiàng)目」上,科華數(shù)據(jù)冷板式液冷解決方案助力項(xiàng)目運(yùn)行指標(biāo)大幅提升——

丨散熱能耗降低超50%

丨PUE降至1.2

丨節(jié)約空調(diào)電費(fèi)超50%

丨提高服務(wù)器算力能力5%-10%

從通信,到金融,行業(yè)天然自帶壁壘又何妨,高可靠的產(chǎn)品技術(shù)是其互通的媒介。

當(dāng)金融機(jī)構(gòu)行至全面擁抱大模型、戰(zhàn)略布局AI算力的風(fēng)口,技術(shù)先行者已在此處,等著共同攀越那崢嶸山崗。

結(jié)語:

人工智能先驅(qū)之一,穆斯塔法·蘇萊曼在其出版的《大浪將至》中提到,“技術(shù)是一種創(chuàng)新集群,即將到來的浪潮是像寒武紀(jì)大爆發(fā)一樣的進(jìn)化爆發(fā),將涌現(xiàn)出成千上萬種新應(yīng)用,這些技術(shù)中的每一項(xiàng)都與其他技術(shù)相互交叉、相互加強(qiáng)、相互完善。”

AI賦能智算行業(yè)蓬勃發(fā)展,創(chuàng)新技術(shù)在金融行業(yè)的各類場景中不斷應(yīng)用、驗(yàn)證、迭代,算力基座也正朝著更可靠、更可用、更節(jié)能、更智慧的方向演進(jìn)。

久經(jīng)檢驗(yàn)的金融數(shù)字化轉(zhuǎn)型合作伙伴——科華數(shù)據(jù),正融合30余年電力電子核心技術(shù)及十?dāng)?shù)年數(shù)據(jù)中心建設(shè)運(yùn)維經(jīng)驗(yàn),深刻洞察金融應(yīng)用側(cè)在新建及改造數(shù)據(jù)中心的能耗痛點(diǎn),以更可靠、更解耦的液冷解決方案,助力更多金融機(jī)構(gòu)實(shí)現(xiàn)更高的算力密度、節(jié)省更多的機(jī)柜空間,推動底層算力潛能的進(jìn)一步釋放。

申請創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)文章

熱門排行

信息推薦