機(jī)器翻譯模型的優(yōu)化方法、系統(tǒng)、電子設(shè)備和存儲(chǔ)介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN202110702102.8 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN113297860A 公開(kāi)(公告)日 2021-08-24
申請(qǐng)公布號(hào) CN113297860A 申請(qǐng)公布日 2021-08-24
分類號(hào) G06F40/58;G06N20/00 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 向玉開(kāi);周姍;李健 申請(qǐng)(專利權(quán))人 上海攜旅信息技術(shù)有限公司
代理機(jī)構(gòu) 上海弼興律師事務(wù)所 代理人 楊東明;羅朗
地址 201803 上海市嘉定區(qū)金園一路1331號(hào)401室-4
法律狀態(tài) -

摘要

摘要 本發(fā)明公開(kāi)了一種機(jī)器翻譯模型的優(yōu)化方法、系統(tǒng)、電子設(shè)備和存儲(chǔ)介質(zhì),涉及模型優(yōu)化領(lǐng)域。所述優(yōu)化方法包括:對(duì)模型中涉及的初始算子進(jìn)行融合,減少模型中的算子數(shù)量,進(jìn)而得到模型的最終算子,融合后的最終算子減少了計(jì)算模塊算子之間來(lái)回調(diào)用、啟動(dòng)所帶來(lái)的時(shí)間開(kāi)銷,提高了運(yùn)算效率;對(duì)模型中融合后的部分算子進(jìn)行計(jì)算邏輯順序調(diào)整,減少算子調(diào)用的同時(shí),又減少了乘法操作,進(jìn)一步進(jìn)行運(yùn)算融合和計(jì)算邏輯優(yōu)化;對(duì)至少兩個(gè)計(jì)算過(guò)程矩陣,采用矩陣列變換、矩陣乘法實(shí)現(xiàn)內(nèi)存拼接,進(jìn)而實(shí)現(xiàn)矩陣拼接運(yùn)算,減少內(nèi)存拷貝,實(shí)現(xiàn)內(nèi)存拼接優(yōu)化,提高運(yùn)算性能。