一種大規(guī)模深度學習推斷的分布式系統(tǒng)

基本信息

申請?zhí)?/td> CN202111389422.9 申請日 -
公開（公告）號 CN114154638A 公開（公告）日 2022-03-08
申請公布號 CN114154638A 申請公布日 2022-03-08
分類號 G06N5/04（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 王孝棟;曾成;張晶 申請（專利權）人 長園視覺科技（珠海）有限公司
代理機構 廣州市紅荔專利代理有限公司 代理人 王賢義
地址 519000 廣東省珠海市高新區(qū)唐家灣鎮(zhèn)科技八路9號（1號廠房）四樓B區(qū)401室
法律狀態(tài) -

摘要

摘要 本發(fā)明旨在提供一種采用隊列將任務分步解耦，進而提高后端檢測線程穩(wěn)定性以及解決系統(tǒng)高并發(fā)問題的大規(guī)模深度學習推斷的分布式系統(tǒng)。本發(fā)明包括服務層、工作流層以及基礎設施層，服務層包含推斷邏輯業(yè)務塊、模型訓練業(yè)務塊以及公共業(yè)務塊，推斷邏輯業(yè)務塊承擔系統(tǒng)進行推斷判定的業(yè)務邏輯，模型訓練業(yè)務塊承擔系統(tǒng)訓練的業(yè)務邏輯，公共業(yè)務塊承擔推斷邏輯業(yè)務塊和模型訓練業(yè)務塊的公用邏輯；工作流層包含若干接入點以及若干檢測管道，接入點提供設備所需接入?yún)f(xié)議的接入端口，檢測管道執(zhí)行檢測并將結果返回；基礎設施層用于提供服務層所需的基礎服務。本發(fā)明應用于計算平臺系統(tǒng)的技術領域。