単眼深度推定サンプル
単一のRGBカメラを用いた深度推定のサンプルプロジェクトです。
環境
- Windows 10 64bit
- Unreal Engine 4.26.2, 5.0.0
- NNEngine plugin v1.5
ダウンロード
GitHubで公開しています。(UE5向けには、UE5ブランチがあります)
リリースページからダウンロードしてください。
デモの実行
- ダウンロードしたzipファイルを展開し、MonoDepthEstimation.uprojectをダブルクリックします。
- 起動後、エディタ上で「Play」をクリックすると、事前に撮影された動画に対してAIでの推定を実行するデモが開始されます。
- 自分のウェブカメラで実行するには、/Content/Common/MediaPlayer_webcam.uassetのVideoに使用したいウェブカメラを指定します。
実装の詳細チュートリアル
追加モデル
Largeモデル
Largeモデル(入力画像サイズが384x384ピクセル)を使用するには、こちら(GitHub Release page)またはこちら(Google Drive)からダウンロードし、Source\ThirdParty\Models
の下に配置してください。
DPTモデル
DPTモデルを使用するには、こちら(GitHub Release page)またはこちら(Google Drive)からダウンロードし、Source\ThirdParty\Models
の下に配置します。次に、/Content/DepthEstimation/DPT/test_DPT.map
を開き、「Play」をクリックします。
プレビューメッシュへのカメラ画像の表示
/Content/DepthEstimation/Grayscale_WPO.uassetのBase Colorを切り替えることで、カメラ画像をプレビューメッシュに表示できます。
モデル詳細
このサンプルで使用しているモデルの詳細は下記をご覧ください。
通常およびLargeモデル
- Towards Robust Monocular Depth Estimation: Mixing Datasets for Zero-shot Cross-dataset Transfer
- GitHub
DPTモデル
ONNXへの変換は、下記を利用させていただきました。