一種針對(duì)量化后的LSTM的激活函數(shù)計(jì)算單元
基本信息
申請(qǐng)?zhí)?/td> | CN201911076853.2 | 申請(qǐng)日 | - |
公開(kāi)(公告)號(hào) | CN111047007B | 公開(kāi)(公告)日 | 2021-07-30 |
申請(qǐng)公布號(hào) | CN111047007B | 申請(qǐng)公布日 | 2021-07-30 |
分類號(hào) | G06N3/04(2006.01)I | 分類 | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 鄭勇;陳柱佳;舒毅 | 申請(qǐng)(專利權(quán))人 | 北京中科勝芯科技有限公司 |
代理機(jī)構(gòu) | 南京行高知識(shí)產(chǎn)權(quán)代理有限公司 | 代理人 | 李曉 |
地址 | 100044北京市海淀區(qū)高梁橋斜街42號(hào)院1號(hào)樓6層1-609 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明涉及一種針對(duì)量化后的LSTM的激活函數(shù)計(jì)算單元,其特征在于,包括:sigmoid函數(shù)計(jì)算單元和tanh函數(shù)計(jì)算單元;所述tanh函數(shù)計(jì)算單元包括第一求補(bǔ)碼單元、第二求補(bǔ)碼單元、幅度比較器、算術(shù)運(yùn)算單元、第一選擇器和第二選擇器。本發(fā)明提供的針對(duì)量化后的LSTM的激活函數(shù)計(jì)算單元,針對(duì)LSTM網(wǎng)絡(luò)的操作數(shù)被量化后,根據(jù)其網(wǎng)絡(luò)精度、噪聲容限以及線性函數(shù)中的偏置系數(shù)對(duì)操作數(shù)的位寬需求確定激活函數(shù)計(jì)算單元的操作數(shù)位寬。針對(duì)8 bits位寬的操作數(shù),確定用于近似激活函數(shù)的線性函數(shù)表達(dá)式。針對(duì)線性函數(shù)表達(dá)式設(shè)計(jì)對(duì)應(yīng)的計(jì)算單元。利用booth算法,使用簡(jiǎn)單的移位相加快速計(jì)算系數(shù)固定的乘法。 |
