見出し画像

EDGEMATRIXとTensorRTの関係


EDGEMATRIXは、映像エッジAIの基盤技術を開発し、デプロイプラットフォームを提供する会社です。映像エッジAIとは、カメラからの映像データをエッジ(現場)でリアルタイムにAI分析する技術です。

EDGEMATRIXのプラットフォームには、EDGEMATRIX Streamという映像解析に特化した機能があります。EDGEMATRIX Streamのベースにあるのは、Linux向けのマルチメディア処理ソフトとしてOSSプロジェクトから生まれたGStreamerと、推論エンジンTensorRTをGStreamerから使えるようにすべくNVIDIAが開発したソフトDeepStreamです。

GStreamerは、プラグインと呼ぶ一塊の処理ロジックを順につなげていくことで目的の機能を具現化するパイプライン構造に立脚しているのが特徴です¹。TensorRTは、NVIDIAのGPU上で動く深層学習の推論エンジンであり、GPUのハードウェアアクセラレーションによって高速に動作します。DeepStreamは、GStreamerのプラグインからTensorRTを呼び、映像に対するAI解析を可能にするライブラリです。

EDGEMATRIXは、このアイデアをさらに発展させて、EDGEMATRIX Streamとして拡張しました。EDGEMATRIX Streamでは、AIアプリとのキメ細かいやり取りといった部分を独自で開発しました。また、パイプライン処理の動的組み替えやプロセスの独立化といった工夫を行い、エッジAIの堅牢性や柔軟性を高めました。

EDGEMATRIXとTensorRTの関係は、映像エッジAIの分野で協力し合うパートナーと言えるでしょう。EDGEMATRIXは、TensorRTの高速な推論エンジンをGStreamerのパイプライン構造に組み込むことで、映像解析における効率性と多様性を実現しました。TensorRTは、EDGEMATRIXのプラットフォームによって、さまざまな映像AIアプリに活用され、その性能を発揮しました。