基于知識蒸餾的營銷活動預(yù)測模型結(jié)構(gòu)和預(yù)測方法

基本信息

申請?zhí)?/td> CN202110235391.5 申請日 -
公開（公告）號 CN112967088A 公開（公告）日 2021-06-15
申請公布號 CN112967088A 申請公布日 2021-06-15
分類號 G06Q30/02（2012.01）I;G06K9/62（2006.01）I;G06N3/04（2006.01）I;G06N3/08（2006.01）I;G06N5/02（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 項亮;潘信法 申請（專利權(quán)）人 上海數(shù)鳴人工智能科技有限公司
代理機(jī)構(gòu) 上海天辰知識產(chǎn)權(quán)代理事務(wù)所（特殊普通合伙） 代理人 陶金龍;尹一凡
地址 200436上海市靜安區(qū)江場三路238號1601-026室
法律狀態(tài) -

摘要

摘要 一種基于知識蒸餾的營銷活動預(yù)測方法，包括數(shù)據(jù)預(yù)處理、教師模型的數(shù)據(jù)集劃分及網(wǎng)絡(luò)訓(xùn)練框架形成、學(xué)生模型的數(shù)據(jù)集劃分和網(wǎng)絡(luò)訓(xùn)練框架形成、預(yù)測模型建立和營銷活動預(yù)測等步驟；其中，本發(fā)明首先構(gòu)建一個以殘差神經(jīng)網(wǎng)絡(luò)為核心的較為復(fù)雜的教師模型Net?T，然后，構(gòu)建一個由簡單神經(jīng)網(wǎng)絡(luò)構(gòu)成的學(xué)生模型Net?S，其通過由教師模型Net?T在高溫下訓(xùn)練得到的軟標(biāo)簽soft label以及學(xué)生模型Net?S在同樣溫度下訓(xùn)練得到的硬標(biāo)簽hard label加權(quán)得到知識蒸餾的總損失函數(shù)；用該總損失函數(shù)作為實際部署時學(xué)生模型Net?S的目標(biāo)函數(shù)，訓(xùn)練得到最終的得到神經(jīng)網(wǎng)絡(luò)模型并做出預(yù)測。結(jié)果顯示，該混合模型有效擴(kuò)展深度學(xué)習(xí)對于計算廣告和推薦系統(tǒng)算法的應(yīng)用，顯著提升用戶點擊預(yù)測的準(zhǔn)確性。