一種針對(duì)量化后的LSTM的激活函數(shù)計(jì)算單元

基本信息

申請(qǐng)?zhí)?/td> CN201911076853.2 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN111047007B 公開(kāi)(公告)日 2021-07-30
申請(qǐng)公布號(hào) CN111047007B 申請(qǐng)公布日 2021-07-30
分類號(hào) G06N3/04(2006.01)I 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 鄭勇;陳柱佳;舒毅 申請(qǐng)(專利權(quán))人 北京中科勝芯科技有限公司
代理機(jī)構(gòu) 南京行高知識(shí)產(chǎn)權(quán)代理有限公司 代理人 李曉
地址 100044北京市海淀區(qū)高梁橋斜街42號(hào)院1號(hào)樓6層1-609
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種針對(duì)量化后的LSTM的激活函數(shù)計(jì)算單元,其特征在于,包括:sigmoid函數(shù)計(jì)算單元和tanh函數(shù)計(jì)算單元;所述tanh函數(shù)計(jì)算單元包括第一求補(bǔ)碼單元、第二求補(bǔ)碼單元、幅度比較器、算術(shù)運(yùn)算單元、第一選擇器和第二選擇器。本發(fā)明提供的針對(duì)量化后的LSTM的激活函數(shù)計(jì)算單元,針對(duì)LSTM網(wǎng)絡(luò)的操作數(shù)被量化后,根據(jù)其網(wǎng)絡(luò)精度、噪聲容限以及線性函數(shù)中的偏置系數(shù)對(duì)操作數(shù)的位寬需求確定激活函數(shù)計(jì)算單元的操作數(shù)位寬。針對(duì)8 bits位寬的操作數(shù),確定用于近似激活函數(shù)的線性函數(shù)表達(dá)式。針對(duì)線性函數(shù)表達(dá)式設(shè)計(jì)對(duì)應(yīng)的計(jì)算單元。利用booth算法,使用簡(jiǎn)單的移位相加快速計(jì)算系數(shù)固定的乘法。