定點與浮點數(shù)據計算方法及裝置
基本信息
申請?zhí)?/td> | CN201910363758.4 | 申請日 | - |
公開(公告)號 | CN110069240B | 公開(公告)日 | 2021-09-03 |
申請公布號 | CN110069240B | 申請公布日 | 2021-09-03 |
分類號 | G06F7/57 | 分類 | 計算;推算;計數(shù); |
發(fā)明人 | 周韌研 | 申請(專利權)人 | 北京探境科技有限公司 |
代理機構 | 北京知呱呱知識產權代理有限公司 | 代理人 | 孫進華;丁彥峰 |
地址 | 100085北京市海淀區(qū)信息路28號6層A座2055號 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明實施例公開了一種定點與浮點數(shù)據計算方法及裝置,包括:將M個第一預設格式的數(shù)據轉換為N個第二預設格式的數(shù)據;將N個第二預設格式的數(shù)據進行相加,根據預設輸出格式,對相加結果進行輸出;其中,第一預設格式為浮點格式或第一定點格式,第二預設格式為第二定點格式,M=2*N?1,N為不小于1的整數(shù)。本發(fā)明實施例提供的方法,通過將M個第一預設格式的數(shù)據轉換為N個第二預設格式的數(shù)據,將N個第二預設格式的數(shù)據進行相加,根據預設輸出格式,對相加結果進行輸出。由于第一預設格式為浮點格式或第一定點格式,從而可以對不同格式的數(shù)據進行計算,計算方法適應性更高。 |
