国产精品99无码一区二区,亚洲国产精品无码久久90,欧美黑人性A,免费无码黄片在线看

工作動(dòng)態(tài)

我中心在分布式圖神經(jīng)網(wǎng)絡(luò)訓(xùn)練加速研究中取得進(jìn)展

2025-02-28 09:09 | 放大 縮小 |

圖神經(jīng)網(wǎng)絡(luò)能夠處理復(fù)雜的圖結(jié)構(gòu)數(shù)據(jù),在芯片設(shè)計(jì)、能源規(guī)劃、推薦系統(tǒng)等多個(gè)領(lǐng)域具有廣泛應(yīng)用前景。隨著數(shù)據(jù)規(guī)模和復(fù)雜性的增長(zhǎng),單個(gè)計(jì)算單元已無法滿足大規(guī)模圖數(shù)據(jù)的處理需求。盡管使用多GPU加速GNN訓(xùn)練逐漸成為主流,全批次圖神經(jīng)網(wǎng)絡(luò)的分布式訓(xùn)練仍面臨嚴(yán)重負(fù)載不平衡和高通信開銷等挑戰(zhàn)。

我中心人工智能技術(shù)與應(yīng)用發(fā)展部門設(shè)計(jì)了高效全批次訓(xùn)練系統(tǒng)ParGNN。該系統(tǒng)采用了一種由負(fù)載均衡器指導(dǎo)的自適應(yīng)負(fù)載均衡方法,并結(jié)合圖過劃分策略有效緩解了計(jì)算負(fù)載不平衡的問題。ParGNN實(shí)現(xiàn)了新型子圖流水線算法,使得計(jì)算和通信過程得以重疊,從而在不影響GNN訓(xùn)練精度的前提下大幅提高了效率。實(shí)驗(yàn)表明,相較于當(dāng)前最先進(jìn)的解決方案DGLPipe GCNParGNN不僅能實(shí)現(xiàn)最高的訓(xùn)練精度,還能在最短時(shí)間內(nèi)達(dá)到預(yù)設(shè)目標(biāo)精度。此項(xiàng)研究成果已被第62屆國(guó)際設(shè)計(jì)自動(dòng)化會(huì)議Design Automation ConferenceDAC 2025,CCF推薦A類會(huì)議)錄用。該成果得到國(guó)家重點(diǎn)研發(fā)計(jì)劃(2023YFB4502303)和中國(guó)科學(xué)院先導(dǎo)專項(xiàng)(XDB0500103)的支持。

ParGNN總體設(shè)計(jì)

論文第一作者為我中心博士研究生顧峻瑜,我中心副研究員曹榮強(qiáng)和博士研究生李順德為共同一作,通信作者為我中心王玨正高級(jí)工程師。

相關(guān)成果

Junyu Gu,Shunde Li,Rongqiang Cao,Jue Wang,Zijian Wang,Zhiqiang Liang,Fang Liu,Shigang Li,Chunbao Zhou,Yangang Wang,Xuebin Chi. ParGNN: A Scalable Graph Neural Network Training Framework on multi-GPUs. Proceedings of the 62st ACM/IEEE Design Automation Conference. 2025.

責(zé)任編輯:郎楊琴

附件下載
日韩欧美另类在线| 国产精自产拍久久久久| 欧美色www亚洲国产阿娇要播| 无码久久久高清视频| 中文字幕在线视频一二三| 中文无码在线一区| 夜夜免费福利| 九九精品国产一区| 亚洲成人在线中文下载| 亚洲xxx午休国产熟女| 新超碰人妻| 蜜臀视频91| 免费A级毛片出奶水视频| 综合合久久av| 国产精品毛片乱子乱人仑| 亚洲人成网77777亚洲| 波多野结衣一卡二卡| 久久99精品久久久久久国产中国| 在线观看三级片av| 欧美一区二区三区看片| 不雅视频 swag| 国产亚洲国际精品福利| 欧美亚州天堂网| 午夜影院 成人毛片| 丁香激情五月中文网| 久久久久懂色| 曰本女人牲交高潮视频| 丁香6月激情久久| 无码呻吟A V| xxxxxx日韩| 亚洲欧美久久夜夜综合网| 日韩综合在线欧美| 久久久亚洲精品天堂| 性感少妇高潮喷水视频| 欧美精品曰韩一区| 免费无码成人一区二区视频| 91日本黄色高清视频| 亚洲精品网亚| 999精品嫩草久久久久久99 | 中文字幕高清一区| 高清无码不卡一本|