一種算法集成服務框架系統(tǒng)

基本信息

申請?zhí)?/td> CN201910067025.6 申請日 -
公開（公告）號 CN109800035A 公開（公告）日 2019-05-24
申請公布號 CN109800035A 申請公布日 2019-05-24
分類號 G06F9/448（2018.01）I; G06F9/46（2006.01）I 分類 計算；推算；計數(shù);
發(fā)明人 梁良 申請（專利權）人 博云視覺科技（青島）有限公司
代理機構 北京科家知識產權代理事務所（普通合伙） 代理人 博云視覺科技（青島）有限公司
地址 266100 山東省青島市嶗山區(qū)科苑一路1號青島國際創(chuàng)新園B座402
法律狀態(tài) -

摘要

摘要 本發(fā)明公開了一種算法集成服務框架系統(tǒng)，包括算法集成框架底層基礎服務Rmmt_daemon和上層應用sdk；基于管道(pipe)技術和共享內存技術相結合的，支持以消息方式實現(xiàn)跨進程消息傳遞與大內存塊高效傳輸?shù)囊徽讟I(yè)務組件，能夠實現(xiàn)大塊數(shù)據(jù)在AI后端服務間的高效傳輸，但是在功能上弱于一般意義上“消息總線”。將本發(fā)明的算法集成服務框架系統(tǒng)運用于智能安防+AI的圖像算法處理時，rmmt框架在單機4核心處理器(主頻3.2GHz)上的TPS可達到10000左右(一個rmmt_daemon，掛2個上位進程)，在多線程場景下性能沒有明顯減少；在應用環(huán)境下(單機40路視頻算法處理)，rmmt產生的額外CPU占用率在單核心的10％左右，大概比使用傳統(tǒng)pipe/zmq減少了80％?90％，并且內存占用也少了很多。