2023年9月 29日,由阿里云、NVIDIA聯(lián)合主辦,阿里云天池平臺承辦的“NVIDIA TensorRT Hackathon 2023生成式 AI模型優(yōu)化賽”圓滿落幕。該賽事自2020年以來,已成功舉辦三屆,本屆賽事于今年 7月啟動,吸引了來自全國729支開發(fā)者團(tuán)隊報名參賽,其中共有 40支團(tuán)隊晉級復(fù)賽,最終 26支團(tuán)隊于決賽中脫穎而出,分獲冠軍/亞軍/季軍及優(yōu)勝獎,展現(xiàn)出了卓越的技術(shù)實力。
解鎖 TensorRT-LLM挖掘生成式 AI新需求
今年的NVIDIA TensorRT Hackathon著重提升選手開發(fā) TensorRT應(yīng)用的能力。
在過去的一年里,生成式 AI迎來了爆發(fā)式增長。計算機(jī)能夠批量生成大量圖像和文本,有的甚至能夠媲美專業(yè)創(chuàng)作者的作品。這為未來生成式 AI模型的發(fā)展鋪平了道路,令人充滿期待。正因如此,NVIDIA TensorRT Hackathon 2023選擇生成式 AI模型作為比賽的主題,以激發(fā)選手的創(chuàng)新潛力。
今年的比賽設(shè)置了初賽和復(fù)賽兩組賽題——初賽階段,選手需要利用 TensorRT加速帶有 ControlNet的 Stable Diffusion pipeline,以優(yōu)化后的運行時間和出圖質(zhì)量作為主要排名依據(jù);復(fù)賽為開放賽題,選手可自由選擇公開的 Transformer模型,并利用 TensorRT或 NVIDIA TensorRT-LLM進(jìn)行模型推理優(yōu)化。
NVIDIA TensorRT™作為 GPU上的 AI推理加速庫,一直以來都備受業(yè)界認(rèn)可與青睞。本次比賽的背后是 NVIDIA TensorRT開發(fā)團(tuán)隊對產(chǎn)品不斷進(jìn)行改進(jìn)和優(yōu)化的結(jié)果。通過讓更多模型能夠順利通過 ONNX自動解析得到加速,并對常見模型結(jié)構(gòu)進(jìn)行深度優(yōu)化,極大地提高了 TensorRT的可用性和性能。這意味著大部分模型無需經(jīng)過繁瑣的手工優(yōu)化,就能夠在 TensorRT上有出色的性能表現(xiàn)。
TensorRT-LLM是 NVIDIA即將推出用于大語言模型推理的工具,目前已于官網(wǎng)開放試用。作為此次復(fù)賽推薦使用的開發(fā)工具之一,TensorRT-LLM包含 TensorRT深度學(xué)習(xí)編譯器,并且?guī)в薪?jīng)過優(yōu)化的 CUDA kernel、前處理和后處理步驟,以及多 GPU/多節(jié)點通信,可以在 NVIDIA GPU上提供出類拔萃的性能。它通過一個開源的模塊化 Python應(yīng)用 API提高易用性和可擴(kuò)展性,使開發(fā)人員能夠嘗試新的 LLM,提供最頂尖的性能和快速自定義功能,且不需要開發(fā)人員具備深厚的 C++或 CUDA知識。
作為本次大賽的主辦方之一,阿里云天池平臺為參賽選手提供了卓越的云上技術(shù)支持,在阿里云GPU云服務(wù)器中內(nèi)置 NVIDIA A10 Tensor Core GPU,參賽者通過云上實例進(jìn)行開發(fā)和訓(xùn)練優(yōu)化模型,體驗云開發(fā)時代的AI工程化魅力。同時,由NVIDIA 30名工程師組成導(dǎo)師團(tuán)隊,為晉級復(fù)賽的 40支隊伍提供一對一輔導(dǎo)陪賽,助力選手獲得佳績。
從實踐到迭代腦力與創(chuàng)造力的集中比拼
本次比賽中涌現(xiàn)出大量優(yōu)秀的開發(fā)者。在獲獎的 26支團(tuán)隊中,有不少團(tuán)隊選擇借助 TensorRT-LLM對通義千問-7B進(jìn)行模型推理優(yōu)化。
通義千問-7B(Qwen-7B)是阿里云研發(fā)的通義千問大模型系列的 70億參數(shù)規(guī)模的模型,基于 Transformer的大語言模型,在超大規(guī)模的預(yù)訓(xùn)練數(shù)據(jù)上進(jìn)行訓(xùn)練得到。在 Qwen-7B的基礎(chǔ)上,還使用對齊機(jī)制打造了基于大語言模型的 AI助手 Qwen-7B-Chat。
獲得此次比賽一等獎的“無聲優(yōu)化者(著)”團(tuán)隊,選擇使用 TensorRT-LLM完成對 Qwen-7B-Chat實現(xiàn)推理加速。在開發(fā)過程中,克服了 Hugging Face轉(zhuǎn) Tensor-LLM、首次運行報顯存分配錯誤、模型 logits無法對齊等挑戰(zhàn)與困難,最終在優(yōu)化效果上,吞吐量最高提升了4.57倍,生成速度最高提升了5.56倍。
而獲得此次賽事二等獎的“NaN-emm”團(tuán)隊,在復(fù)賽階段,則選擇使用 TensorRT-LLM實現(xiàn) RPTQ量化。RPTQ是一種新穎的基于重排序的量化方法,同時量化了權(quán)重與中間結(jié)果(W8A8),加速了計算。從最開始不熟悉任何 LLM模型,到后續(xù)逐步學(xué)習(xí)和了解相關(guān)技術(shù),“NaN-emm”團(tuán)隊啟用了GEMM plugin,GPT Attention plugin,完成了 VIT、Q-Former、Vicuna-7B模型的轉(zhuǎn)化,最終通過 40個測試數(shù)據(jù),基于 Torch框架推理耗時 145秒,而經(jīng)過 TensorRT-LLM優(yōu)化的推理引擎耗時為 115秒。
本次大賽還涌現(xiàn)了一批優(yōu)秀的開發(fā)者,本屆參賽選手鄧順子不僅率領(lǐng)隊伍獲得了一等獎,還收獲了本次比賽唯一的特別貢獻(xiàn)獎。他表示,2022年的 Hackathon比賽是他首次接觸 TensorRT,這使他對模型推理加速產(chǎn)生了濃厚的興趣。盡管當(dāng)時未能進(jìn)入復(fù)賽,但那次經(jīng)歷讓他深感自身技能的不足。在上一次比賽中,他目睹了頂尖選手使用 FasterTransformer在比賽中取得領(lǐng)先地位,這一經(jīng)歷讓他對 AI技術(shù)有了更深入的理解和追求。隨后,他積極做 TensorRT上的模型開發(fā),特別是對 ChatGLM/Bloom等新興模型進(jìn)行了優(yōu)化,感受到了 TensorRT的強(qiáng)大。
今年,他再次參加了 TensorRT Hackathon 2023,利用 TensorRT-LLM成功優(yōu)化了 QWen大模型,實現(xiàn)了自己的夢想。他感謝主辦方給予的機(jī)會,團(tuán)隊的支持,以及所有參賽者的努力,他期待未來能與大家一起為 AI技術(shù)的發(fā)展創(chuàng)造更多奇跡。
人工智能應(yīng)用場景創(chuàng)新日新月異,AI模型的開發(fā)與部署也需要注入新的動能。在此次賽事中,選手們基于 TensorRT挖掘出更多的潛能和功能需求。未來,阿里云和NVIDIA還將持續(xù)為開發(fā)者和技術(shù)愛好者提供展示技能和創(chuàng)意的平臺,天池平臺將與更多優(yōu)秀的開發(fā)者一同推進(jìn) TensorRT的發(fā)展,讓 AI在 GPU上更容易、更高效地部署。
申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！
近日，杭州熙凰科技集團(tuán)有限公司成為阿里云產(chǎn)品生態(tài)合作伙伴。未來，熙凰集團(tuán)將攜手云計算與科技智能的力量，共同建設(shè)影響世界的數(shù)字化企業(yè)服務(wù)產(chǎn)品和解決方案，為全球企業(yè)帶來持續(xù)成功的客戶價值。
阿里云將會在今年9月30日之前，全面關(guān)停代銷業(yè)務(wù)。這件事實際上始于今年4月份，阿里云當(dāng)時已開始通知其經(jīng)銷商。這些經(jīng)銷商早已有所準(zhǔn)備。
阿里云成為國內(nèi)首個加入大模型開源行列的大型科技企業(yè)。就在昨天，阿里云公開表態(tài)，把自家的通義千問大模型開源。阿里云把通用70億參數(shù)模型，包括Qwen-7B和對話模型Qwen-7B-Chat這兩款大模型產(chǎn)品給開源了。
6月1日,2023阿里云峰會·粵港澳大灣區(qū)在廣州舉行,會上阿里云正式推出《云卓越架構(gòu)白皮書》,為企業(yè)用云管云解決方案和產(chǎn)品化落地提供指引,助力企業(yè)構(gòu)建更加安全、高效、穩(wěn)定的云架構(gòu)。本書由阿里云架構(gòu)師團(tuán)隊、產(chǎn)品團(tuán)隊、全球交付團(tuán)隊等眾多團(tuán)隊基于過去多年服務(wù)企業(yè)的經(jīng)驗總結(jié)共同撰寫,從安全合規(guī)、穩(wěn)定性、成本
5月17日，2023阿里云峰會·常州站上，阿里云正式發(fā)布第八代企業(yè)級計算實例g8a以及性能增強(qiáng)性實例g8ae。兩款實例搭載第四代AMDEPYC處理器，標(biāo)配阿里云eRDMA大規(guī)模加速能力，網(wǎng)絡(luò)延時低至8微秒。其中，g8a綜合性價比平均提升15%以上，g8ae算力最高提升55%，在AI推理與訓(xùn)練、深度學(xué)
“技術(shù)日新月異，人類生活方式正在快速轉(zhuǎn)變，這一切給人類歷史帶來了一系列不可思議的奇點。我們曾經(jīng)熟悉的一切，都開始變得陌生?！庇嬎銠C(jī)之父約翰·馮·諾依曼曾這樣說到。
“人工智能的商業(yè)模式，是要創(chuàng)造一個市場，而非一個算法”。這是世界AI泰斗MichaelI.Jordan的觀點。而當(dāng)前的全球AI市場，占據(jù)主導(dǎo)地位的中美雙方，卻也走出了兩條截然不同的技術(shù)路徑，前者執(zhí)著于前沿技術(shù)的探索，后者則發(fā)力應(yīng)用優(yōu)化和商業(yè)化落地。南轅北轍的兩個方向，或許已經(jīng)無法直接進(jìn)行排位先后、優(yōu)
智能體進(jìn)化發(fā)展了一年，現(xiàn)在的RPAAgent迭代到什么程度了？從實在智能最新發(fā)布的實在Agent7.0，看RPAAgent的迭代升級抓取豆瓣信息、自己制作PPT，這款A(yù)IAgent真的實現(xiàn)了流程全自動化AIAgent構(gòu)建到執(zhí)行全自動化，持續(xù)進(jìn)化RPAAgent再次降低智能體應(yīng)用門檻實在智能重磅發(fā)布實
崔大寶｜節(jié)點財經(jīng)創(chuàng)始人進(jìn)入2024年，大模型似乎有熄火之勢：資本市場，與之關(guān)聯(lián)的概念炒不動了，英偉達(dá)股價動輒暴跌重挫，引發(fā)“泡沫戳破”的擔(dān)憂；消費市場，BATH們的推新活動少了，產(chǎn)品更新迭代的速度慢了，民眾的關(guān)注度降了……熱鬧的大概只剩下兩場酣仗：自5月15日字節(jié)跳動宣布“以厘計費”，打響國內(nèi)大模型
文|智能相對論作者|陳泊丞好消息！你心心念念的事業(yè)單位發(fā)錄取公告了！壞消息！他們沒錄你，錄了個數(shù)字人。圖片來源網(wǎng)絡(luò)隨著數(shù)字人技術(shù)的突破，越來越多的傳統(tǒng)企業(yè)和機(jī)構(gòu)開始用上了“數(shù)字員工”。甚至很多中國人心心念念的“鐵飯碗”，也被這些數(shù)字人給捧上了。數(shù)字人捧上了“鐵飯碗”簡單翻看一下全國各地事業(yè)單位的“錄
黑芝麻智能敲鐘后，港交所門口又有一些智駕芯片企業(yè)引發(fā)關(guān)注。據(jù)悉，近日地平線已通過中國證監(jiān)會IPO備案，擬發(fā)行不超過11.5億股境外上市普通股并在香港聯(lián)合交易所上市，預(yù)計籌集約5億美元資金。從天眼查可以了解到，該公司成立于2015年，是一家乘用車高級輔助駕駛（ADAS）和高階自動駕駛（AD）解決方案供
8月21日，萬眾矚目的2024世界機(jī)器人大會暨博覽會在北京亦創(chuàng)國際會展中心盛大開幕。這場為期5天，集“展覽”“論壇”“賽事”于一體的機(jī)器人盛會，反映了當(dāng)下機(jī)器人領(lǐng)域的繁榮生態(tài)。據(jù)官方統(tǒng)計數(shù)據(jù)，今年現(xiàn)場逛展觀眾高達(dá)25萬人次，比去年增加25%。機(jī)器人行業(yè)有多火?看看2024世界機(jī)器人大會火爆程度便可知
瞄準(zhǔn)場景需求，打造國內(nèi)領(lǐng)先的自主可控、高質(zhì)量超大載重高烈度環(huán)境特種智能系留無人平臺。卓翼智能亮相HICOOL峰會以科技實力榮摘創(chuàng)業(yè)大賽一等獎這個比賽5年培育出16家“獨角獸”HICOOL2024全球創(chuàng)業(yè)者峰會暨創(chuàng)業(yè)大賽已于8月25日在北京圓滿落下帷幕，大賽共吸引了124個國家和地區(qū)的7406個創(chuàng)業(yè)項
