深度神經(jīng)網(wǎng)絡(luò)推理計算中一種基于Profile圖的優(yōu)化方法
基本信息
| 申請?zhí)?/td> | CN202011022468.2 | 申請日 | - |
| 公開（公告）號 | CN112149826A | 公開（公告）日 | 2020-12-29 |
| 申請公布號 | CN112149826A | 申請公布日 | 2020-12-29 |
| 分類號 | G06N3/08(2006.01)I | 分類 | 計算；推算；計數(shù); |
| 發(fā)明人 | 李春江;夏一民;劉宗林;龔國輝;劉蓬俠;羅恒;王磊;趙祥;徐雪剛 | 申請（專利權(quán)）人 | 湖南長城銀河科技有限公司 |
| 代理機構(gòu) | 長沙市護航專利代理事務(wù)所（特殊普通合伙） | 代理人 | 湖南長城銀河科技有限公司 |
| 地址 | 410008湖南省長沙市高新開發(fā)區(qū)尖山路39號長沙中電軟件園一期15棟 | ||
| 法律狀態(tài) | - | ||
摘要
| 摘要 | 本發(fā)明提供了一種深度神經(jīng)網(wǎng)絡(luò)推理計算中一種基于Profile圖的優(yōu)化方法，所述深度神經(jīng)網(wǎng)絡(luò)推理計算中一種基于Profile圖的優(yōu)化方法包括如下步驟：步驟S1、獲取深度神經(jīng)網(wǎng)絡(luò)推理計算節(jié)點的包含計算量和計算時間的Profile信息；步驟S2、將Profile信息與深度神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)描述融合，形成Profile圖：根據(jù)深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)描述文件、Profile信息以及計算核心的信息，構(gòu)建包含計算量、計算時間、計算函數(shù)的Profile圖，用于指導計算調(diào)度；步驟S3、基于深度神經(jīng)網(wǎng)絡(luò)Profile圖的計算核心調(diào)度，實現(xiàn)性能優(yōu)化。本發(fā)明可以對深度神經(jīng)網(wǎng)絡(luò)推理全過程的計算工作負載有更清晰直接的認識，可實現(xiàn)面向具體計算設(shè)備計算資源的性能優(yōu)化調(diào)度。?? |
