一種高效的深度學(xué)習(xí)后端模型部署框架

基本信息

申請?zhí)?/td> CN202010041804.1 申請日 -
公開（公告）號 CN111209013A 公開（公告）日 2020-05-29
申請公布號 CN111209013A 申請公布日 2020-05-29
分類號 G06F8/60;G06N20/00 分類 計算；推算；計數(shù);
發(fā)明人 陳磊;隆昌榮;王亮 申請（專利權(quán)）人 深圳市守行智能科技有限公司
代理機構(gòu) 滄州市宏科專利代理事務(wù)所（普通合伙） 代理人 深圳市守行智能科技有限公司
地址 518000 廣東省深圳市寶安區(qū)西鄉(xiāng)街道勞動社區(qū)寶源路1065號F518時尚創(chuàng)意園F4棟F4-309
法律狀態(tài) -

摘要

摘要 本發(fā)明涉及人工智能模型的技術(shù)領(lǐng)域，特別是涉及一種高效的深度學(xué)習(xí)后端模型部署框架，以當(dāng)前市面上最優(yōu)的算法作為基礎(chǔ)，以算法庫文件為紐帶，實現(xiàn)了深度學(xué)習(xí)模型由python端部署至服務(wù)器的功能，開發(fā)人員只需要根據(jù)自己的模型部署到任何服務(wù)器，降低了深度學(xué)習(xí)模型部署的難度，提高了開發(fā)人員的工作效率以及深度學(xué)習(xí)模型算法的落地能力，模型部署采用onnx文件，當(dāng)模型網(wǎng)絡(luò)結(jié)構(gòu)發(fā)生變化時，只需要相應(yīng)的修改onnx文件即可完成重新部署；包括算法模塊、優(yōu)化模塊、轉(zhuǎn)換模塊、加速模塊、算法庫模塊和部署模塊，算法模塊、優(yōu)化模塊、轉(zhuǎn)換模塊、加速模塊、算法庫模塊和部署模塊為呈金字塔結(jié)構(gòu)的關(guān)系，算法模塊為框架提供基礎(chǔ)的算法。