語(yǔ)料擴(kuò)展方法、裝置、設(shè)備及介質(zhì)

基本信息

申請(qǐng)?zhí)?/td> CN202010353893.3 申請(qǐng)日 -
公開(kāi)(公告)號(hào) CN111241813B 公開(kāi)(公告)日 2020-06-05
申請(qǐng)公布號(hào) CN111241813B 申請(qǐng)公布日 2020-06-05
分類(lèi)號(hào) G06F40/216(2020.01)I; 分類(lèi) 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 周一競(jìng);燕鵬舉 申請(qǐng)(專(zhuān)利權(quán))人 杭州博盾習(xí)言科技有限公司
代理機(jī)構(gòu) 杭州創(chuàng)智卓英知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 代理人 張迪
地址 311121 浙江省杭州市余杭區(qū)五常街道文一西路998號(hào)18幢210室
法律狀態(tài) -

摘要

摘要 本發(fā)明公開(kāi)了一種語(yǔ)料擴(kuò)展方法,涉及機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域,用于解決現(xiàn)有語(yǔ)料匱乏的情況,該方法包括以下步驟:S110、接收待分析文本及語(yǔ)料池?cái)?shù)據(jù),對(duì)所述待分析文本及所述語(yǔ)料池?cái)?shù)據(jù)進(jìn)行預(yù)處理;S120、將所述待分析文本分為種子文本和測(cè)試文本;S130、當(dāng)所述種子文本數(shù)量大于預(yù)設(shè)數(shù)量時(shí),通過(guò)困惑度ppl篩選出擴(kuò)展語(yǔ)料;當(dāng)所述種子文本數(shù)量小于或等于預(yù)設(shè)數(shù)量時(shí),通過(guò)相似度距離篩選出擴(kuò)展語(yǔ)料;S140、將所述擴(kuò)展語(yǔ)料加入到所述種子文本,并執(zhí)行S130?S140步驟。本發(fā)明還公開(kāi)了一種語(yǔ)料擴(kuò)展裝置、電子設(shè)備和計(jì)算機(jī)存儲(chǔ)介質(zhì)。本發(fā)明通過(guò)對(duì)語(yǔ)料進(jìn)行篩選,并將篩選出的語(yǔ)料與種子文本合并,進(jìn)而擴(kuò)展種子文本的語(yǔ)料量。??