文本摘要的生成方法、裝置及計算機(jī)設(shè)備

基本信息

申請?zhí)?/td> CN202111142825.3 申請日 -
公開(公告)號 CN113987162A 公開(公告)日 2022-01-28
申請公布號 CN113987162A 申請公布日 2022-01-28
分類號 G06F16/34(2019.01)I;G06N3/04(2006.01)I;G06N3/08(2006.01)I 分類 計算;推算;計數(shù);
發(fā)明人 王偉;黃勇其;于翠翠;張黔 申請(專利權(quán))人 華潤數(shù)字科技(西安)有限公司
代理機(jī)構(gòu) 深圳市世聯(lián)合知識產(chǎn)權(quán)代理有限公司 代理人 姜妍
地址 710000陜西省西安市高新區(qū)天谷八路211號環(huán)普科技產(chǎn)業(yè)園C座303、304室
法律狀態(tài) -

摘要

摘要 本申請實(shí)施例屬于人工智能和自然語言處理領(lǐng)域,應(yīng)用于文本處理領(lǐng)域中,涉及一種文本摘要的生成方法、裝置、計算機(jī)設(shè)備及存儲介質(zhì),方法包括獲取樣本文本序列進(jìn)行編碼,得到所述樣本文本序列的文本輸入向量;從所述樣本文本序列的隨機(jī)位置開始進(jìn)行掩碼,得到掩碼文本序列,所述掩碼的長度為等差變化;對所述掩碼文本序列進(jìn)行位置編碼,生成位置向量;基于所述位置向量與所述文本輸入向量,對文本摘要模型進(jìn)行訓(xùn)練,得到預(yù)訓(xùn)練的文本摘要模型;將目標(biāo)文本輸入到所述預(yù)訓(xùn)練的文本摘要模型,生成目標(biāo)文本的摘要內(nèi)容。該方法使得文本摘要模型能夠捕捉長距離的依賴信息,進(jìn)一步捕捉原始文本內(nèi)蘊(yùn)含的信息,解決長距離依賴帶來的信息丟失問題。