一種預(yù)訓(xùn)練語言模型的生成、檢測方法及裝置

基本信息

申請?zhí)?/td> CN202110436623.3 申請日 -
公開(公告)號 CN113139187A 公開(公告)日 2021-07-20
申請公布號 CN113139187A 申請公布日 2021-07-20
分類號 G06F21/56;G06F21/57;G06K9/62 分類 計算;推算;計數(shù);
發(fā)明人 劉洋 申請(專利權(quán))人 啟明星辰信息技術(shù)集團股份有限公司
代理機構(gòu) 北京安信方達(dá)知識產(chǎn)權(quán)代理有限公司 代理人 曲鵬
地址 100193 北京市海淀區(qū)東北旺西路8號21號樓啟明星辰大廈102號
法律狀態(tài) -

摘要

摘要 本發(fā)明實施例公開了一種預(yù)訓(xùn)練語言模型的生成、檢測方法及裝置,包括:獲取多個訓(xùn)練用的動態(tài)API指令序列;分別對所獲取的每個API指令序列按照預(yù)定的編碼規(guī)則進行編碼,得到多個API指令編碼序列;根據(jù)所述多個API指令編碼序列對預(yù)設(shè)的語言模型進行訓(xùn)練,得到預(yù)訓(xùn)練語言模型。