深度學(xué)習(xí)語言模型的詞圖重打分方法和系統(tǒng)

基本信息

申請?zhí)?/td> CN201810054749.2 申請日 -
公開（公告）號 CN108415898A 公開（公告）日 2018-08-17
申請公布號 CN108415898A 申請公布日 2018-08-17
分類號 G06F17/27;G06F17/30 分類 計算；推算；計數(shù);
發(fā)明人 俞凱;李豪;陳哲懷;游永彬 申請（專利權(quán)）人 上海交大知識產(chǎn)權(quán)管理有限公司
代理機構(gòu) 北京商專永信知識產(chǎn)權(quán)代理事務(wù)所（普通合伙） 代理人 蘇州思必馳信息科技有限公司;上海交通大學(xué);上海交大知識產(chǎn)權(quán)管理有限公司
地址 215123 江蘇省蘇州市蘇州工業(yè)園區(qū)新平街388號騰飛創(chuàng)新園14棟
法律狀態(tài) -

摘要

摘要 本發(fā)明公開用于智能對話語音平臺的深度學(xué)習(xí)語言模型的詞圖重打分方法、系統(tǒng)和電子設(shè)備，方法包括：在詞圖的每一條邊或各節(jié)點上存儲一個輸出詞；自詞圖的開始節(jié)點按序遍歷詞圖的各節(jié)點和每一條邊，記錄自開始節(jié)點到各第i節(jié)點經(jīng)過的ki條路徑，并將每條路徑上的所有邊或所有節(jié)點上的輸出詞串聯(lián)，以形成ki個詞序列；將ki個詞序列進行縮減處理，形成ji個詞序列；調(diào)用深度學(xué)習(xí)語言模型計算各第i節(jié)點的ji個詞序列的分?jǐn)?shù)。本發(fā)明采用詞圖作為重打分的目標(biāo)，解決搜索空間小的問題，用歷史緩存解決冗余重復(fù)計算的問題，用歷史聚類、令牌剪枝、集束剪枝減少詞圖的擴展，加快計算，減少內(nèi)存消耗，采用節(jié)點并行化計算，加速詞圖重打分效率。