一種在NPU中減少計(jì)算資源占用的方法及裝置

基本信息

申請(qǐng)?zhí)?/td> CN202011114887.9 申請(qǐng)日 -
公開(公告)號(hào) CN111931927A 公開(公告)日 2020-11-13
申請(qǐng)公布號(hào) CN111931927A 申請(qǐng)公布日 2020-11-13
分類號(hào) G06N3/063(2006.01)I 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 戴舒詣;范名超 申請(qǐng)(專利權(quán))人 翱捷智能科技(上海)有限公司
代理機(jī)構(gòu) 北京清大紫荊知識(shí)產(chǎn)權(quán)代理有限公司 代理人 翱捷智能科技(上海)有限公司
地址 200120上海市浦東新區(qū)南匯新城鎮(zhèn)環(huán)湖西二路888號(hào)C樓
法律狀態(tài) -

摘要

摘要 本申請(qǐng)?zhí)峁┝艘环N在NPU中減少計(jì)算資源占用的方法及裝置,其中NPU包含了用于卷積運(yùn)算的脈動(dòng)計(jì)算陣列PE array模塊,首先獲取平均池化的共享除法系數(shù)kernel_size,然后將kernel_size擴(kuò)充為第一卷積核,再將第一卷積核輸入PE array模塊,通過PE array模塊實(shí)現(xiàn)所述平均池化。本申請(qǐng)中并未給平均池化設(shè)置獨(dú)立的模塊,而是將其映射到原本主要用于實(shí)現(xiàn)卷積運(yùn)算的PE array模塊上,將其轉(zhuǎn)換為一類卷積運(yùn)算,使原有PE array模塊可以直接實(shí)現(xiàn)任意的平均池化層計(jì)算,從而避免了單獨(dú)的平均池化模塊對(duì)硬件計(jì)算資源的占用,緩解了硬件計(jì)算資源緊缺的情況,也降低了NPU的功耗。??