一種基于深度學習的無監(jiān)督文本檢索方法

基本信息

申請?zhí)?/td> CN202110597764.3 申請日 -
公開(公告)號 CN113254586A 公開(公告)日 2021-08-13
申請公布號 CN113254586A 申請公布日 2021-08-13
分類號 G06F16/33;G06F40/126;G06F40/216;G06F40/284 分類 計算;推算;計數(shù);
發(fā)明人 楊敏;賀倩明;方正 申請(專利權(quán))人 深圳得理科技有限公司
代理機構(gòu) 北京市誠輝律師事務所 代理人 耿慧敏;朱偉軍
地址 518055 廣東省深圳市南山區(qū)深圳大學城學苑大道1068號
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種基于深度學習的無監(jiān)督文本檢索方法。該方法包括:對于待查詢文本,根據(jù)其文本向量與數(shù)據(jù)庫中存儲的被匹配文本的文本向量的相似度返回檢索結(jié)果,其中,被匹配文本的文本向量根據(jù)以下步驟生成:對于輸入文本,基于注意力機制的預訓練模型挖掘詞語間的語義聯(lián)系,將文本序列轉(zhuǎn)換成詞向量序列;對于得到的詞向量序列,結(jié)合領域內(nèi)詞匯的平滑逆頻率對詞向量進行加權(quán),生成第一文本向量,其中所述領域內(nèi)詞匯的平滑倒頻率反映詞語在領域文獻中的出現(xiàn)次數(shù);獲取領域內(nèi)文本向量的主成分,并從所述第一文本向量中減去對應的主成分,獲得第二文本向量,作為文本向量存儲。利用本發(fā)明能夠提升檢索的準確性和效率。