一種數(shù)據(jù)處理方法及裝置

基本信息

申請?zhí)?/td> CN202111397146.0 申請日 -
公開(公告)號 CN114326922A 公開(公告)日 2022-04-12
申請公布號 CN114326922A 申請公布日 2022-04-12
分類號 G06C3/00(2006.01)I;G06F17/18(2006.01)I 分類 計算;推算;計數(shù);
發(fā)明人 劉大可;唐云翔;劉磊 申請(專利權)人 極芯通訊技術(南京)有限公司
代理機構 北京路浩知識產權代理有限公司 代理人 王宇楊
地址 211800江蘇省南京市自貿區(qū)南京片區(qū)江浦街道浦濱路320號科創(chuàng)總部大廈C座908室
法律狀態(tài) -

摘要

摘要 本發(fā)明提供一種數(shù)據(jù)處理方法及裝置,該方法包括:獲取待處理數(shù)據(jù)及其操作碼;其中,操作碼用于指示對待處理數(shù)據(jù)進行計算的函數(shù)種類;對待處理數(shù)據(jù)進行預處理;預處理后的待處理數(shù)據(jù)包括第一數(shù)據(jù)段、第二數(shù)據(jù)段和第三數(shù)據(jù)段,第一數(shù)據(jù)段用于生成查表地址,第二數(shù)據(jù)段用于參與函數(shù)計算,第三數(shù)據(jù)段用于指示第二數(shù)據(jù)段的小數(shù)點位置;根據(jù)第一數(shù)據(jù)段和操作碼生成查表地址,通過查表地址在系數(shù)表中查找二次多項式系數(shù);根據(jù)二次多項式系數(shù)和第二數(shù)據(jù)段執(zhí)行內插計算,對內插計算結果進行后處理,并根據(jù)第三數(shù)據(jù)段指示的小數(shù)點位置,得到待處理數(shù)據(jù)的計算結果。本發(fā)明實現(xiàn)了若干種不同函數(shù)的高精度、高速計算,且有效降低了計算和存儲資源的開銷。