浮點(diǎn)運(yùn)算定點(diǎn)化方法及系統(tǒng)

基本信息

申請?zhí)?/td> CN201710606500.3 申請日 -
公開（公告）號(hào) CN107451658B 公開（公告）日 2020-12-15
申請公布號(hào) CN107451658B 申請公布日 2020-12-15
分類號(hào) G06N3/063;G06N3/08;G06F7/38 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 丁昊杰;王文華 申請（專利權(quán)）人 杭州菲數(shù)科技有限公司
代理機(jī)構(gòu) 杭州裕陽聯(lián)合專利代理有限公司 代理人 杭州菲數(shù)科技有限公司
地址 310000 浙江省杭州市濱江區(qū)新聯(lián)路608號(hào)誠高大廈801室
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種浮點(diǎn)運(yùn)算定點(diǎn)化方法，包括以下步驟：根據(jù)預(yù)設(shè)的數(shù)值范圍以及計(jì)算的精度需求，調(diào)整可調(diào)精度浮點(diǎn)數(shù)據(jù)的指數(shù)和有效位，預(yù)先將單精度浮點(diǎn)格式的參數(shù)數(shù)據(jù)轉(zhuǎn)換為可調(diào)精度浮點(diǎn)數(shù)據(jù)；計(jì)算時(shí)將所述可調(diào)精度浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換為定點(diǎn)數(shù)據(jù)并用于計(jì)算，并將計(jì)算產(chǎn)生的中間結(jié)果轉(zhuǎn)換為可調(diào)精度浮點(diǎn)數(shù)據(jù)；待全部計(jì)算完成后產(chǎn)生最終結(jié)果，將最終結(jié)果轉(zhuǎn)換為單精度浮點(diǎn)格式數(shù)據(jù)。本發(fā)明可以用16位位寬或是更小的位寬表示標(biāo)準(zhǔn)浮點(diǎn)數(shù)據(jù)，實(shí)現(xiàn)浮點(diǎn)運(yùn)算定點(diǎn)化的轉(zhuǎn)換，從而節(jié)省存儲(chǔ)空間和提升運(yùn)算性能，且?guī)缀醪挥绊懹?jì)算精度。