9月16日,北京商報記者從曠視獲悉,曠視開源深度學習框架曠視天元MegEngine近日開源了MegFlow流式計算框架,助力AI算法開發(fā)者快速完成AI模型的落地應用。MegFlow是面向計算機視覺應用的流式計算框架,提供了一套可快速完成AI應用部署的視覺解析服務方案。AI應用開發(fā)者可以基于MegFlow提供的圖像和視頻解析服務,最快15分鐘即可完成客制化所需功能,例如發(fā)票掃描、明火檢測等。
常規(guī)的AI算法交付流程一般分為模型訓練、SDK封裝、業(yè)務集成和交付驗收四個步驟,冗長繁雜。MegFlow將將冗長的算法交付流程簡化為模型訓練、業(yè)務集成及交付驗收三步,AI算法研究人員可以快速將訓練好的模型集成部署成簡單易用的AI服務并完成交付。
MegFlow針對AI算法工程落地中的頻發(fā)問題,諸如性能調(diào)優(yōu)、安全性、模型加密等,都能提供行之有效的解決方案并有效提升了工程效率。技術(shù)選型上,MegFlow的研發(fā)團隊調(diào)研了多種技術(shù)方案,最終選擇了安全且零額外開銷的Rust異步生態(tài),從基礎(chǔ)上保證了MegFlow的安全性與性能。
MegFlow支持Python插件,且僅需要開發(fā)者編寫同步的Python程序,即可實現(xiàn)可以被MegFlow異步調(diào)度的Python插件。同時MegFlow提供了一套基于Web UI的可視化調(diào)試工具,可有效提升模型部署的工作效率。
表達能力上,MegFlow支持靜態(tài)圖、動態(tài)圖和共享圖,輔以demux、reorder、transform等函數(shù)式語義的通用插件,為搭建多樣化的AI服務提供了豐富的語義支持。(記者 魏蔚)