計算神經網絡壓縮最佳定點位數(shù)的方法、存儲介質和裝置

基本信息

申請?zhí)?/td> CN201810992672.3 申請日 -
公開（公告）號 CN109359728B 公開（公告）日 2021-04-09
申請公布號 CN109359728B 申請公布日 2021-04-09
分類號 G06N3/063(2006.01)I;G06N3/04(2006.01)N;G06N3/08(2006.01)N 分類 計算；推算；計數(shù);
發(fā)明人 楊志明;陳巍巍;陳臘梅 申請（專利權）人 深思考人工智能科技（上海）有限公司
代理機構 北京德琦知識產權代理有限公司 代理人 謝安昆;宋志強
地址 100085北京市海淀區(qū)信息路12號中關村發(fā)展大廈B座B203-205
法律狀態(tài) -

摘要

摘要 本發(fā)明提供一種計算神經網絡壓縮最佳定點位數(shù)的方法、存儲介質和裝置，包括：步驟11：設置FPn為初始值；步驟12：按照當前FPn，將卷積層參數(shù)進行定點化處理，以構建當前定點化深度學習算法；將L個樣本數(shù)據(jù)對中的樣本輸入值逐個輸入當前定點化深度學習算法，其中，一樣本數(shù)據(jù)對包括樣本輸入值Xl、以及Xl的標準輸出Yl，記錄當前定點化深度學習算法的輸出Y’l，l＝1,2…L；步驟13：通過比較Yl與Y’l，判斷Y’l是否符合預設要求，如果是，則記錄當前FPn為定點化深度學習算法的定點位數(shù)最終值，結束本流程，否則執(zhí)行步驟14；步驟14：調整FPn數(shù)值，返回步驟12。本發(fā)明方法，可以快速確定定點化深度學習算法中的定點位數(shù)，可提高深度學習算法的運算速度，節(jié)省運算時間。??