一種數(shù)據(jù)處理方法及裝置
基本信息
申請?zhí)?/td> | CN202111397146.0 | 申請日 | - |
公開(公告)號 | CN114326922A | 公開(公告)日 | 2022-04-12 |
申請公布號 | CN114326922A | 申請公布日 | 2022-04-12 |
分類號 | G06C3/00(2006.01)I;G06F17/18(2006.01)I | 分類 | 計算;推算;計數(shù); |
發(fā)明人 | 劉大可;唐云翔;劉磊 | 申請(專利權)人 | 極芯通訊技術(南京)有限公司 |
代理機構 | 北京路浩知識產權代理有限公司 | 代理人 | 王宇楊 |
地址 | 211800江蘇省南京市自貿區(qū)南京片區(qū)江浦街道浦濱路320號科創(chuàng)總部大廈C座908室 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明提供一種數(shù)據(jù)處理方法及裝置,該方法包括:獲取待處理數(shù)據(jù)及其操作碼;其中,操作碼用于指示對待處理數(shù)據(jù)進行計算的函數(shù)種類;對待處理數(shù)據(jù)進行預處理;預處理后的待處理數(shù)據(jù)包括第一數(shù)據(jù)段、第二數(shù)據(jù)段和第三數(shù)據(jù)段,第一數(shù)據(jù)段用于生成查表地址,第二數(shù)據(jù)段用于參與函數(shù)計算,第三數(shù)據(jù)段用于指示第二數(shù)據(jù)段的小數(shù)點位置;根據(jù)第一數(shù)據(jù)段和操作碼生成查表地址,通過查表地址在系數(shù)表中查找二次多項式系數(shù);根據(jù)二次多項式系數(shù)和第二數(shù)據(jù)段執(zhí)行內插計算,對內插計算結果進行后處理,并根據(jù)第三數(shù)據(jù)段指示的小數(shù)點位置,得到待處理數(shù)據(jù)的計算結果。本發(fā)明實現(xiàn)了若干種不同函數(shù)的高精度、高速計算,且有效降低了計算和存儲資源的開銷。 |
