使用外積單元的原生張量處理器

基本信息

申請?zhí)?/td> CN201810444568.0 申請日 -
公開（公告）號 CN108875958B 公開（公告）日 2020-02-18
申請公布號 CN108875958B 申請公布日 2020-02-18
分類號 G06N20/00;G06F15/76 分類 計算；推算；計數(shù);
發(fā)明人 呂堅平;鄧宇軒 申請（專利權(quán)）人 廣州異構(gòu)智能科技有限公司
代理機構(gòu) 廣州華進聯(lián)合專利商標代理有限公司 代理人 廣州異構(gòu)智能科技有限公司
地址 511458 廣東省廣州市南沙區(qū)豐澤東路106號（自編1號樓）X1301-A4048
法律狀態(tài) -

摘要

摘要 原生張量處理器使用外積之和計算張量縮并。在一種實現(xiàn)中，原生張量處理器優(yōu)選地被實現(xiàn)為單一集成電路，并且包括輸入緩沖器和縮并引擎。輸入緩沖器緩沖從片外檢索的張量元素，并根據(jù)需要將元素傳輸?shù)娇s并引擎?？s并引擎通過執(zhí)行來自等價矩陣乘法的計算來計算張量縮并，就好像張量被展開成矩陣一樣，但避免了明確展開張量的開銷?？s并引擎包括多個外積單元，多個外積單元通過外積之和計算矩陣乘法。通過使用外積，等價矩陣乘法可以被分割成更小的矩陣乘法，這些更小的矩陣乘法在所需的局部張量間進行。