用于專用加速器的神經(jīng)網(wǎng)絡(luò)預(yù)編譯算法

基本信息

申請(qǐng)?zhí)?/td> CN202111557330.7 申請(qǐng)日 -
公開（公告）號(hào) CN114219081A 公開（公告）日 2022-03-22
申請(qǐng)公布號(hào) CN114219081A 申請(qǐng)公布日 2022-03-22
分類號(hào) G06N3/063（2006.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 趙梓豪;王艷紅;鄒喬莎;史傳進(jìn) 申請(qǐng)（專利權(quán)）人 復(fù)旦大學(xué)
代理機(jī)構(gòu) 上海正旦專利代理有限公司 代理人 陸飛;陸尤
地址 200433上海市楊浦區(qū)邯鄲路220號(hào)
法律狀態(tài) -

摘要

摘要 本發(fā)明屬神經(jīng)網(wǎng)絡(luò)技術(shù)領(lǐng)域，具體為用于專用加速器的神經(jīng)網(wǎng)絡(luò)預(yù)編譯算法。本發(fā)明算法包括：使用有向圖對(duì)各種神經(jīng)網(wǎng)絡(luò)進(jìn)行建模，神經(jīng)網(wǎng)絡(luò)的算子使用圖節(jié)點(diǎn)表示，神經(jīng)網(wǎng)絡(luò)的輸入輸出關(guān)系使用有向邊表示：對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)處理，包括算子融合、合并算子拆解、大節(jié)點(diǎn)分解、小節(jié)點(diǎn)合并；按照專用加速器的靜態(tài)隨機(jī)存儲(chǔ)器的大小，對(duì)經(jīng)過預(yù)處理的有向圖進(jìn)行分割，使得每個(gè)計(jì)算圖可以直接編譯到專用加速器上運(yùn)行。本發(fā)明通過將神經(jīng)網(wǎng)絡(luò)使用圖來表示，經(jīng)過對(duì)各種節(jié)點(diǎn)的預(yù)編譯處理，使得計(jì)算圖達(dá)到更適合映射到硬件的形式，實(shí)現(xiàn)硬件的加速效果最大化以及硬件的功耗最小化。