浮點(diǎn)運(yùn)算定點(diǎn)化方法及系統(tǒng)
基本信息
申請(qǐng)?zhí)?/td> | CN201710606500.3 | 申請(qǐng)日 | - |
公開(kāi)(公告)號(hào) | CN107451658A | 公開(kāi)(公告)日 | 2017-12-08 |
申請(qǐng)公布號(hào) | CN107451658A | 申請(qǐng)公布日 | 2017-12-08 |
分類(lèi)號(hào) | G06N3/063(2006.01)I;G06N3/08(2006.01)I;G06F7/38(2006.01)I | 分類(lèi) | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 丁昊杰;王文華 | 申請(qǐng)(專(zhuān)利權(quán))人 | 杭州菲數(shù)科技有限公司 |
代理機(jī)構(gòu) | 杭州知通專(zhuān)利代理事務(wù)所(普通合伙) | 代理人 | 杭州菲數(shù)科技有限公司 |
地址 | 310000 浙江省杭州市濱江區(qū)新聯(lián)路608號(hào)誠(chéng)高大廈801室 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明公開(kāi)了一種浮點(diǎn)運(yùn)算定點(diǎn)化方法,包括以下步驟:根據(jù)預(yù)設(shè)的數(shù)值范圍以及計(jì)算的精度需求,調(diào)整可調(diào)精度浮點(diǎn)數(shù)據(jù)的指數(shù)和有效位,預(yù)先將單精度浮點(diǎn)格式的參數(shù)數(shù)據(jù)轉(zhuǎn)換為可調(diào)精度浮點(diǎn)數(shù)據(jù);計(jì)算時(shí)將所述可調(diào)精度浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換為定點(diǎn)數(shù)據(jù)并用于計(jì)算,并將計(jì)算產(chǎn)生的中間結(jié)果轉(zhuǎn)換為可調(diào)精度浮點(diǎn)數(shù)據(jù);待全部計(jì)算完成后產(chǎn)生最終結(jié)果,將最終結(jié)果轉(zhuǎn)換為單精度浮點(diǎn)格式數(shù)據(jù)。本發(fā)明可以用16位位寬或是更小的位寬表示標(biāo)準(zhǔn)浮點(diǎn)數(shù)據(jù),實(shí)現(xiàn)浮點(diǎn)運(yùn)算定點(diǎn)化的轉(zhuǎn)換,從而節(jié)省存儲(chǔ)空間和提升運(yùn)算性能,且?guī)缀醪挥绊懹?jì)算精度。 |
