一種混合架構(gòu)的深度學(xué)習(xí)方法及裝置
基本信息
| 申請?zhí)?/td> | CN201710196532.0 | 申請日 | - |
| 公開（公告）號 | CN106951926B | 公開（公告）日 | 2017-07-14 |
| 申請公布號 | CN106951926B | 申請公布日 | 2017-07-14 |
| 分類號 | G06K9/62(2006.01)I | 分類 | 計算；推算；計數(shù); |
| 發(fā)明人 | 程歸鵬;盧飛;江濤 | 申請（專利權(quán)）人 | 山東英特力數(shù)據(jù)技術(shù)有限公司 |
| 代理機構(gòu) | 濟寧匯景知識產(chǎn)權(quán)代理事務(wù)所（普通合伙） | 代理人 | 山東英特力數(shù)據(jù)技術(shù)有限公司 |
| 地址 | 272000山東省濟寧市高新區(qū)崇文大道431號英特力工業(yè)園 | ||
| 法律狀態(tài) | - | ||
摘要
| 摘要 | 本發(fā)明公開了一種混合架構(gòu)的深度學(xué)習(xí)方法及裝置，其特征是包括如下步驟：訓(xùn)練數(shù)據(jù)集更新時，訓(xùn)練模塊重新進行深度學(xué)習(xí)網(wǎng)絡(luò)模型訓(xùn)練并存儲權(quán)值和偏置參數(shù)；服務(wù)器端監(jiān)測進程監(jiān)測到參數(shù)文件變化，將其封裝到預(yù)先設(shè)定的數(shù)據(jù)結(jié)構(gòu)中并通知推理模塊；推理模塊中斷推理服務(wù)，從服務(wù)器側(cè)讀取權(quán)值和偏置文件內(nèi)容并更新網(wǎng)絡(luò)模型；服務(wù)器端監(jiān)測進程同時處理需要推理的輸入文件并通知推理模塊；該系統(tǒng)裝置包括服務(wù)器、訓(xùn)練模塊、推理模塊、總線接口；本發(fā)明的訓(xùn)練和推理混合CPU+GPU+CAPI異構(gòu)深度學(xué)習(xí)系統(tǒng)，能充分利用資源，獲得更高的能效比，實現(xiàn)CAPI直接訪問服務(wù)器內(nèi)存，實時在線迭代更新推理模型權(quán)值等參數(shù)。?? |
