文本摘要的生成方法、裝置及計算機(jī)設(shè)備
基本信息
申請?zhí)?/td> | CN202111142825.3 | 申請日 | - |
公開(公告)號 | CN113987162A | 公開(公告)日 | 2022-01-28 |
申請公布號 | CN113987162A | 申請公布日 | 2022-01-28 |
分類號 | G06F16/34(2019.01)I;G06N3/04(2006.01)I;G06N3/08(2006.01)I | 分類 | 計算;推算;計數(shù); |
發(fā)明人 | 王偉;黃勇其;于翠翠;張黔 | 申請(專利權(quán))人 | 華潤數(shù)字科技(西安)有限公司 |
代理機(jī)構(gòu) | 深圳市世聯(lián)合知識產(chǎn)權(quán)代理有限公司 | 代理人 | 姜妍 |
地址 | 710000陜西省西安市高新區(qū)天谷八路211號環(huán)普科技產(chǎn)業(yè)園C座303、304室 | ||
法律狀態(tài) | - |
摘要
摘要 | 本申請實(shí)施例屬于人工智能和自然語言處理領(lǐng)域,應(yīng)用于文本處理領(lǐng)域中,涉及一種文本摘要的生成方法、裝置、計算機(jī)設(shè)備及存儲介質(zhì),方法包括獲取樣本文本序列進(jìn)行編碼,得到所述樣本文本序列的文本輸入向量;從所述樣本文本序列的隨機(jī)位置開始進(jìn)行掩碼,得到掩碼文本序列,所述掩碼的長度為等差變化;對所述掩碼文本序列進(jìn)行位置編碼,生成位置向量;基于所述位置向量與所述文本輸入向量,對文本摘要模型進(jìn)行訓(xùn)練,得到預(yù)訓(xùn)練的文本摘要模型;將目標(biāo)文本輸入到所述預(yù)訓(xùn)練的文本摘要模型,生成目標(biāo)文本的摘要內(nèi)容。該方法使得文本摘要模型能夠捕捉長距離的依賴信息,進(jìn)一步捕捉原始文本內(nèi)蘊(yùn)含的信息,解決長距離依賴帶來的信息丟失問題。 |
