原生張量處理器及張量縮并的分割

基本信息

申請(qǐng)?zhí)?/td> CN201810443860.0 申請(qǐng)日 -
公開（公告）號(hào) CN108874745B 公開（公告）日 2020-02-14
申請(qǐng)公布號(hào) CN108874745B 申請(qǐng)公布日 2020-02-14
分類號(hào) G06F17/16 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 呂堅(jiān)平;鄧宇軒 申請(qǐng)（專利權(quán)）人 廣州異構(gòu)智能科技有限公司
代理機(jī)構(gòu) 廣州華進(jìn)聯(lián)合專利商標(biāo)代理有限公司 代理人 北京異構(gòu)智能科技有限公司;廣州異構(gòu)智能科技有限公司
地址 100193 北京市海淀區(qū)東北旺西路8號(hào)院4號(hào)樓313-24
法律狀態(tài) -

摘要

摘要 原生張量處理器使用外積之和計(jì)算張量縮并。在一種實(shí)現(xiàn)中，原生張量處理器優(yōu)選地被實(shí)現(xiàn)為單一集成電路，并且包括輸入緩沖器和縮并引擎。輸入緩沖器緩沖從片外檢索的張量元素，并根據(jù)需要將元素傳輸?shù)娇s并引擎?？s并引擎通過(guò)執(zhí)行來(lái)自等價(jià)矩陣乘法的計(jì)算來(lái)計(jì)算張量縮并，就好像張量被展開成矩陣一樣，但避免了明確展開張量的開銷?？s并引擎包括多個(gè)外積單元，多個(gè)外積單元通過(guò)外積之和計(jì)算矩陣乘法。通過(guò)使用外積，等價(jià)矩陣乘法可以被分割成更小的矩陣乘法，這些更小的矩陣乘法在所需的局部張量間進(jìn)行。