以圖形處理器為執(zhí)行核心的推理方法和裝置

基本信息

申請?zhí)?/td> CN202110874284.7 申請日 -
公開（公告）號(hào) CN113487033A 公開（公告）日 2021-10-08
申請公布號(hào) CN113487033A 申請公布日 2021-10-08
分類號(hào) G06N5/04（2006.01）I;G06T1/20（2006.01）I 分類 計(jì)算；推算；計(jì)數(shù);
發(fā)明人 不公告發(fā)明人 申請（專利權(quán)）人 上海壁仞智能科技有限公司
代理機(jī)構(gòu) 北京市柳沈律師事務(wù)所 代理人 彭久云
地址 201100上海市閔行區(qū)陳行公路2388號(hào)16幢13層1302室
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及一種以圖形處理器為執(zhí)行核心的推理方法和裝置，其中該推理方法包括：圖形處理器依據(jù)網(wǎng)絡(luò)接口控制器提供的推理命令從非易失性存儲(chǔ)空間調(diào)用和執(zhí)行模型的代碼，用以對所述網(wǎng)絡(luò)接口控制器提供的原始數(shù)據(jù)進(jìn)行并行計(jì)算以生成計(jì)算結(jié)果；統(tǒng)合所述計(jì)算結(jié)果以生成推理結(jié)果；以及回復(fù)所述推理結(jié)果給所述網(wǎng)絡(luò)接口控制器。通過以上述圖形處理器為核心的方式來統(tǒng)合網(wǎng)絡(luò)接口控制器來完成推理操作，可以不再需要中央處理器的參與。