一種softmax函數(shù)的硬件實現(xiàn)方法、模塊、芯片和系統(tǒng)

基本信息

申請?zhí)?/td> CN202110791019.2 申請日 -
公開（公告）號 CN113407793A 公開（公告）日 2021-09-17
申請公布號 CN113407793A 申請公布日 2021-09-17
分類號 G06F16/903（2019.01）I;G06F16/906（2019.01）I;G06F17/15（2006.01）I;G06N3/04（2006.01）I;G06N3/08（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 李麗;張永剛;陳輝;傅玉祥;何書專;陳健 申請（專利權(quán)）人 南京寧麒智能計算芯片研究院有限公司
代理機構(gòu) 江蘇瑞途律師事務(wù)所 代理人 金龍;計璐
地址 210000江蘇省南京市江寧區(qū)麒麟科技創(chuàng)新園智匯路300號B單元二樓
法律狀態(tài) -

摘要

摘要 本發(fā)明公開一種softmax函數(shù)的硬件實現(xiàn)方法、模塊、芯片和系統(tǒng)，屬于神經(jīng)網(wǎng)絡(luò)多任務(wù)分類激活函數(shù)的硬件實現(xiàn)技術(shù)領(lǐng)域。基于現(xiàn)有技術(shù)softmax激活函數(shù)的硬件中難以實現(xiàn)的e指數(shù)操作和除法操作，硬件實現(xiàn)性能不高等問題，本發(fā)明對softmax函數(shù)進行變換，在硬件系統(tǒng)構(gòu)建主控器模塊、數(shù)據(jù)輸入模塊、計算模塊和數(shù)據(jù)輸出模塊，在計算模塊使用比較、減法、數(shù)據(jù)分割、移位求和、鏡像查找等方法，實現(xiàn)E?to?2softmax函數(shù)。本發(fā)明首先理論分析了E?to?2softmax函數(shù)的可行性，然后詳細介紹函數(shù)的硬件實現(xiàn)部分，在硬件實現(xiàn)上避免了softmax函數(shù)的e指數(shù)運算和除法操作，節(jié)省硬件資源，硬件友好性強，具有性能高、復(fù)雜度低等特點。