機(jī)器翻譯模型的優(yōu)化方法、系統(tǒng)、電子設(shè)備和存儲(chǔ)介質(zhì)
基本信息
申請(qǐng)?zhí)?/td> | CN202110702102.8 | 申請(qǐng)日 | - |
公開(kāi)(公告)號(hào) | CN113297860A | 公開(kāi)(公告)日 | 2021-08-24 |
申請(qǐng)公布號(hào) | CN113297860A | 申請(qǐng)公布日 | 2021-08-24 |
分類號(hào) | G06F40/58;G06N20/00 | 分類 | 計(jì)算;推算;計(jì)數(shù); |
發(fā)明人 | 向玉開(kāi);周姍;李健 | 申請(qǐng)(專利權(quán))人 | 上海攜旅信息技術(shù)有限公司 |
代理機(jī)構(gòu) | 上海弼興律師事務(wù)所 | 代理人 | 楊東明;羅朗 |
地址 | 201803 上海市嘉定區(qū)金園一路1331號(hào)401室-4 | ||
法律狀態(tài) | - |
摘要
摘要 | 本發(fā)明公開(kāi)了一種機(jī)器翻譯模型的優(yōu)化方法、系統(tǒng)、電子設(shè)備和存儲(chǔ)介質(zhì),涉及模型優(yōu)化領(lǐng)域。所述優(yōu)化方法包括:對(duì)模型中涉及的初始算子進(jìn)行融合,減少模型中的算子數(shù)量,進(jìn)而得到模型的最終算子,融合后的最終算子減少了計(jì)算模塊算子之間來(lái)回調(diào)用、啟動(dòng)所帶來(lái)的時(shí)間開(kāi)銷,提高了運(yùn)算效率;對(duì)模型中融合后的部分算子進(jìn)行計(jì)算邏輯順序調(diào)整,減少算子調(diào)用的同時(shí),又減少了乘法操作,進(jìn)一步進(jìn)行運(yùn)算融合和計(jì)算邏輯優(yōu)化;對(duì)至少兩個(gè)計(jì)算過(guò)程矩陣,采用矩陣列變換、矩陣乘法實(shí)現(xiàn)內(nèi)存拼接,進(jìn)而實(shí)現(xiàn)矩陣拼接運(yùn)算,減少內(nèi)存拷貝,實(shí)現(xiàn)內(nèi)存拼接優(yōu)化,提高運(yùn)算性能。 |
