基于門機(jī)制的多級(jí)注意力模型的評(píng)論方面檢測(cè)方法及系統(tǒng)

基本信息

申請(qǐng)?zhí)?/td> CN202110669829.0 申請(qǐng)日 -
公開(公告)號(hào) CN113254592B 公開(公告)日 2021-10-22
申請(qǐng)公布號(hào) CN113254592B 申請(qǐng)公布日 2021-10-22
分類號(hào) G06F16/33;G06F16/35;G06F40/211;G06F40/284;G06K9/62;G06N3/04;G06N3/08 分類 計(jì)算;推算;計(jì)數(shù);
發(fā)明人 王思宇;黃鵬;江嶺 申請(qǐng)(專利權(quán))人 成都曉多科技有限公司
代理機(jī)構(gòu) 成都睿道專利代理事務(wù)所(普通合伙) 代理人 薛波
地址 610000 四川省成都市天府新區(qū)興隆街道湖畔路西段123號(hào)
法律狀態(tài) -

摘要

摘要 本發(fā)明提供一種基于門機(jī)制的多級(jí)注意力模型的評(píng)論方面檢測(cè)方法及系統(tǒng),待處理的句子轉(zhuǎn)換為嵌入詞形式的詞向量矩陣后使用雙向LSTM神經(jīng)網(wǎng)絡(luò)對(duì)所述詞向量矩陣中的各個(gè)詞向量進(jìn)行處理,得到每個(gè)時(shí)間步的隱藏狀態(tài),并根據(jù)隱藏狀態(tài)得到整個(gè)句子的隱藏狀態(tài)向量矩陣作為該句子的編碼;根據(jù)該隱藏狀態(tài)向量矩陣計(jì)算對(duì)應(yīng)的句子級(jí)自注意特征矩陣;計(jì)算各個(gè)時(shí)間步相對(duì)于最后一個(gè)時(shí)間步的權(quán)重,并根據(jù)該權(quán)重和隱藏狀態(tài)計(jì)算得到對(duì)應(yīng)的詞級(jí)自注意特征向量;對(duì)句子級(jí)自注意特征矩陣進(jìn)行拉伸操作并通過全連接層得到句子級(jí)自注意力特征向量,通過一個(gè)門機(jī)制混合句級(jí)注意力的向量和詞級(jí)注意力的向量后根據(jù)得到的向量分析句子的方面類別概率,確定句子的方面類別。