微軟開源用於機器學習模型的高性能推理引擎ONNX
微軟昨天宣布開放ONNX Runtime,這是一款用於Linux,Windows和Mac平台的ONNX格式的機器學習模型的高性能推理引擎。ONNX Runtime允許開發人員在任何支持的框架中訓練和調整模型,並在雲端和邊緣高性能運轉。微軟也正運用其在內部使用ONNX Runtime進行Bing搜索,Bing Ads,Office生產力服務等。
ONNX為AI框架生態系統帶來了互操作性,提供了可擴展計算圖模型的定義,以及內置運算符和標準數據類型的定義。
ONNX使模型能夠在一個框架中進行訓練並轉移到另一個框架中進行推理。目前,Caffe2,Cognitive Toolkit和PyTorch都支持ONNX模型。
點擊這裡查看 GitHub上的開放式神經網絡交換(ONNX)運行時。