AIコラム第4回「DeepStream SDK 5.0 Developer Preview」

DeepStream SDK5.0

前回までDeepStream SDK 4.0について紹介させて頂きましたが、先日DeepStream SDK 5.0 Developer Preview(近々正式版のリリースがあると思われます)が公開されました。

まだ正式リリースではないので、確定情報ではありませんが、より実用的な機能がいくつか追加予定になっています。

次回のAIコラム第5回では、このアップデートで追加予定の機能の一部について実際に動かしていきたいと思いますので、変更点の紹介と次回予告を行います。

まずは、リリースノートから変更点の全容を紹介します。

※DeepStream 5.0 Release Notes

Triton Inference Serverのサポート
イベントベースの録画機能の追加
クラウドからデバイスのメッセージング機能の追加
NVDCFトラッカーの改良
エンコードされた画像をメタデータに添付する機能の追加
Pythonバインディングの改良
RTSPカメラのタイムスタンプの改良
JetsonでのDRCストリームのサポート
10bit H.264, H.265のサポート
プラグインの更新・新規追加
　＞Gst-nvinfer(更新)
　　・TensorRT 7.0のサポート
　　・明示的なFull Dimension Networkのサポート
　　・NMSのサポート
　　・On the fly Model updateのサポート(制限あり)
　　・YoloV3-sspのサポート
　＞Gst-nvdsanalytics(新規追加)
　　・ROIフィルタリング、ラインクロス、方向検出をサポート
　＞Gst-nvinferserver(新規追加)
　　・C++クライアントを用いたTriton Inference Serverをサポート
サンプルアプリの追加
　＞Gst-nvdsanalyticsを使うサンプル
　＞OpenCVを使うサンプル
　＞エンコードした画像をメタデータに添付するサンプル
　＞AppSrc, AppSinkを使うサンプル
その他バグ修正等

次回、数ある変更点の中から以下の2点について、実際にアプリケーションを動かしたいと思います。

On the fly model update (※制限あり)
On the fly model updateとは、実行中のアプリケーションを停止することなく、新しいモデルを適用させる機能です。
実際のサービス運用でもリリース後により精度の高まったモデルに更新をかけたいということが発生します。
その度にサービスを一旦停止して、再起動という手順を踏まなくてよくなるので、非常に有用な機能だと思います。
※現状は、ネットワークパラメータが更新前と更新後で全く同じことが制限になっていますが、今後のアップデートで対応予定になっています。
Gst-nvdsanalytics
Gst-nvdsanalyticsは、今回のバージョンで新しく追加されたプラグインです。
以下の機能を提供しています。
- ROIフィルタリング
  指定した領域に存在するオブジェクトをカウントする機能、また、過密状態かどうか（カウント数が閾値を超えたかどうか）を判定する機能
- ラインクロス・方向検出
  位置の履歴と現在のフレーム情報を用いて、指定した方向にオブジェクトが進んでいるか、また、仮想線の方向に進んでいるか、仮想線を越えたかどうかを判定する機能

最後までご覧いただき、ありがとうございました。

次回のAIコラムも是非ご覧ください。