一種用于電商直播場(chǎng)景的小樣本多輪對(duì)話的生成模型
基本信息
| 申請(qǐng)?zhí)?/td> | CN202210091152.1 | 申請(qǐng)日 | - |
| 公開(kāi)（公告）號(hào) | CN114417892A | 公開(kāi)（公告）日 | 2022-04-29 |
| 申請(qǐng)公布號(hào) | CN114417892A | 申請(qǐng)公布日 | 2022-04-29 |
| 分類(lèi)號(hào) | G06F40/35（2020.01）I;G06F40/289（2020.01）I;G06F40/242（2020.01）I;G06F40/237（2020.01）I | 分類(lèi) | 計(jì)算；推算；計(jì)數(shù); |
| 發(fā)明人 | 宮明 | 申請(qǐng)（專(zhuān)利權(quán)）人 | 北京中科深智科技有限公司 |
| 代理機(jī)構(gòu) | - | 代理人 | - |
| 地址 | 100000北京市大興區(qū)北京經(jīng)濟(jì)技術(shù)開(kāi)發(fā)區(qū)永昌中路4號(hào)院4號(hào)樓3層311A室 | ||
| 法律狀態(tài) | - | ||
摘要
| 摘要 | 本發(fā)明公開(kāi)了一種用于電商直播場(chǎng)景的小樣本多輪對(duì)話的生成模型，包括：使用一元語(yǔ)言模型構(gòu)建包含字和詞的中文詞表，用jieba參照該詞表對(duì)輸入文本進(jìn)行分詞，用分詞后得到的字和詞對(duì)輸入進(jìn)行表征；字或詞，角色，輪數(shù)和位置嵌入的和作為嵌入的表征輸入到模型；模型一共包含12個(gè)Transformer塊，每個(gè)塊中將解碼器和編碼器融合在一起，實(shí)現(xiàn)上下文理解和生成回復(fù)能夠?qū)崿F(xiàn)參數(shù)共享；在每個(gè)塊中使用兩種自注意掩碼的方式來(lái)控制當(dāng)前詞對(duì)上下文詞的訪問(wèn)；處于上下文位置的詞，能夠看到所有的上下文的詞，處于回復(fù)位置的詞，只能看到其之前的詞；在最后的一層輸出每個(gè)字對(duì)應(yīng)的隱狀態(tài)。本發(fā)明使用電商直播過(guò)程中的真實(shí)場(chǎng)景的對(duì)話，采用prompt的方式，在基于少量樣本的數(shù)據(jù)集上，實(shí)現(xiàn)對(duì)話系統(tǒng)。 |
