深度神經(jīng)網(wǎng)絡(luò)推理計(jì)算中一種基于Profile圖的優(yōu)化方法
基本信息
| 申請(qǐng)?zhí)?/td> | CN202011022468.2 | 申請(qǐng)日 | - |
| 公開（公告）號(hào) | CN112149826A | 公開（公告）日 | 2020-12-29 |
| 申請(qǐng)公布號(hào) | CN112149826A | 申請(qǐng)公布日 | 2020-12-29 |
| 分類號(hào) | G06N3/08(2006.01)I | 分類 | 計(jì)算；推算；計(jì)數(shù); |
| 發(fā)明人 | 李春江;夏一民;劉宗林;龔國輝;劉蓬俠;羅恒;王磊;趙祥;徐雪剛 | 申請(qǐng)（專利權(quán)）人 | 湖南長(zhǎng)城銀河科技有限公司 |
| 代理機(jī)構(gòu) | 長(zhǎng)沙市護(hù)航專利代理事務(wù)所（特殊普通合伙） | 代理人 | 湖南長(zhǎng)城銀河科技有限公司 |
| 地址 | 410008湖南省長(zhǎng)沙市高新開發(fā)區(qū)尖山路39號(hào)長(zhǎng)沙中電軟件園一期15棟 | ||
| 法律狀態(tài) | - | ||
摘要
| 摘要 | 本發(fā)明提供了一種深度神經(jīng)網(wǎng)絡(luò)推理計(jì)算中一種基于Profile圖的優(yōu)化方法，所述深度神經(jīng)網(wǎng)絡(luò)推理計(jì)算中一種基于Profile圖的優(yōu)化方法包括如下步驟：步驟S1、獲取深度神經(jīng)網(wǎng)絡(luò)推理計(jì)算節(jié)點(diǎn)的包含計(jì)算量和計(jì)算時(shí)間的Profile信息；步驟S2、將Profile信息與深度神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)描述融合，形成Profile圖：根據(jù)深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)描述文件、Profile信息以及計(jì)算核心的信息，構(gòu)建包含計(jì)算量、計(jì)算時(shí)間、計(jì)算函數(shù)的Profile圖，用于指導(dǎo)計(jì)算調(diào)度；步驟S3、基于深度神經(jīng)網(wǎng)絡(luò)Profile圖的計(jì)算核心調(diào)度，實(shí)現(xiàn)性能優(yōu)化。本發(fā)明可以對(duì)深度神經(jīng)網(wǎng)絡(luò)推理全過程的計(jì)算工作負(fù)載有更清晰直接的認(rèn)識(shí)，可實(shí)現(xiàn)面向具體計(jì)算設(shè)備計(jì)算資源的性能優(yōu)化調(diào)度。?? |
