一種基于多重弱監(jiān)督集成的短文本分類方法

基本信息

申請(qǐng)?zhí)?/td> CN202010211121.6 申請(qǐng)日 -
公開(公告)號(hào) CN111444342B 公開(公告)日 2021-12-10
申請(qǐng)公布號(hào) CN111444342B 申請(qǐng)公布日 2021-12-10
分類號(hào) G06F16/35;G06F40/279;G06F40/289 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 修保新 申請(qǐng)(專利權(quán))人 湖南董因信息技術(shù)有限公司
代理機(jī)構(gòu) 長沙大珂知識(shí)產(chǎn)權(quán)代理事務(wù)所(普通合伙) 代理人 伍志祥
地址 410073 湖南省長沙市開福區(qū)金馬路377號(hào)
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種基于多重弱監(jiān)督集成的短文本分類方法,包括:獲取原始數(shù)據(jù)集和知識(shí)庫,并進(jìn)行數(shù)據(jù)預(yù)處理;對(duì)預(yù)處理后的數(shù)據(jù)進(jìn)行知識(shí)抽取;將抽取的知識(shí)表示為標(biāo)注函數(shù),并用于數(shù)據(jù)標(biāo)注;通過條件獨(dú)立模型,進(jìn)行標(biāo)簽集成;基于全連接神經(jīng)網(wǎng)絡(luò),訓(xùn)練分類模型;對(duì)所述分類模型進(jìn)行評(píng)估及優(yōu)化,獲得最優(yōu)模型;利用最優(yōu)模型進(jìn)行短文本分類。本發(fā)明基于多重弱監(jiān)督集成的短文本分類方法:利用關(guān)鍵詞匹配、正則表達(dá)式和遠(yuǎn)監(jiān)督聚類相結(jié)合的方式,完整表達(dá)了顯性知識(shí)和隱性知識(shí);借助標(biāo)簽集成機(jī)制產(chǎn)生的概率標(biāo)簽,不僅實(shí)現(xiàn)了無標(biāo)簽數(shù)據(jù)的自動(dòng)化標(biāo)注,緩解了短文本的數(shù)據(jù)稀疏問題,而且有效解決了短文本的不平衡分類問題。