用于解決通用AI處理器存儲(chǔ)帶寬效率的動(dòng)態(tài)緩存方法

基本信息

申請(qǐng)?zhí)?/td> CN202110316851.7 申請(qǐng)日 -
公開(公告)號(hào) CN112699063B 公開(公告)日 2021-06-22
申請(qǐng)公布號(hào) CN112699063B 申請(qǐng)公布日 2021-06-22
分類號(hào) G06F12/0886;G06F12/0868 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 蔡浩田;沈亞明;葛悅飛 申請(qǐng)(專利權(quán))人 軫谷科技(南京)有限公司
代理機(jī)構(gòu) 上海浙晟知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 代理人 楊小雙
地址 210000 江蘇省南京市江北新區(qū)星火路17號(hào)創(chuàng)智大廈B座6001室
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及用于解決通用AI處理器存儲(chǔ)帶寬效率的動(dòng)態(tài)緩存方法,在緩存行中增加一個(gè)bit標(biāo)志位C,數(shù)據(jù)段被連續(xù)儲(chǔ)存在常規(guī)的緩存行數(shù)據(jù)中,按照以下步驟進(jìn)行數(shù)據(jù)讀取:S1根據(jù)CPU讀取指令判斷,若是數(shù)據(jù)段讀取則進(jìn)入S2;S2根據(jù)index域確定數(shù)據(jù)段的位置;S3對(duì)比數(shù)據(jù)段的tag和緩存中的tag,若一致則進(jìn)入S4;S4檢查V位,若V位為1則進(jìn)入S5;S5檢查C位,若C位為1則進(jìn)入S6;S6根據(jù)讀取指令需要讀取的數(shù)據(jù)長度,檢查起始地址后面緩存中的C位,如果連續(xù)存儲(chǔ)數(shù)據(jù)的C位都被置為1,并且數(shù)據(jù)長度滿足讀取數(shù)據(jù)長度,則進(jìn)行連續(xù)讀取,否則出現(xiàn)緩存未命中。能同時(shí)滿足CPU和AI處理器的運(yùn)算需求。