ここでのプロトコルは、最小保存サブサンプリングと勾配領域重み付きガイド付きフィルタリングを統合して、光散乱モデルのリアルタイムヘイジング除去機能を強化します。暗いチャンネルのソース画像の上位 0.1% の最も明るいピクセルの RGB 値を平均すると、大気光が生成され、グラデーションベースの相関係数がビデオ処理の一貫性に使用されます。
Research Article
ここでのプロトコルは、最小保存サブサンプリングと勾配領域重み付きガイド付きフィルタリングを統合して、光散乱モデルのリアルタイムヘイジング除去機能を強化します。暗いチャンネルのソース画像の上位 0.1% の最も明るいピクセルの RGB 値を平均すると、大気光が生成され、グラデーションベースの相関係数がビデオ処理の一貫性に使用されます。
かすみ除去は、大気散乱の影響を受ける画像の鮮明さを回復するためにコンピュータービジョンにおいて非常に重要です。既存の手法では、ビデオ アプリケーションでは、高い計算コスト、勾配の詳細の損失、ちらつきのアーティファクトに悩まされています。効率と視覚品質を向上させるために、この研究では、ビデオと画像の両方に適用できるマルチスケール勾配ドメインの重み付けガイド付き画像フィルターベースの曇り除去技術を提案します。大気パラメータを推定し、計算の複雑さを軽減するために、最小保存サブサンプリング (MPS) が採用されています。次に、勾配ドメイン加重誘導画像フィルター (GWGIF) を使用した反復アップサンプリング プロセスにより、透過マップが微細化され、大量の勾配特徴が保持され、それによってテクスチャとエッジの保持力が向上します。ビデオヘイジングには、勾配ベースの相関係数 (GCF) が導入されており、既存の方法と比較してちらつきのアーティファクトが大幅に減少します。実験的評価では、私たちのアプローチの優位性が実証されており、知覚品質の向上を反映して、知覚ベースの画質評価者 (PIQE) スコア 26.98、自然画質評価器 (NIQE) スコア 2.78、ブラインド/リファレンスレス画像空間品質評価者 (BRISQE) スコア 20.18 を達成しました。さらに、提案された方法は、平均二乗誤差 (MSE) 偏差が 0.003 で、ビデオヘイジングにおける高い時間的コヒーレンスを保証し、自動運転車、監視、リモートセンシングなどのリアルタイム アプリケーションに最適です。
ヘイズは、光が煙、水滴、またはほこりの粒子によって散乱されると、遠くの物体が見えにくくなる大気現象です。ヘイズによる画像の劣化は、ビデオ分析、自動運転車、監視などのコンピュータービジョンアプリケーション1,2に有害です。コンピュータビジョンのパフォーマンスを向上させるには、処理の最初のステップとして、画像からヘイズ成分を除去するためのヘイズ除去戦略が不可欠です。「かすみ除去」という用語は、ぼやけた画像や使用できない画像の鮮明さを復元するために使用される手順を指します。近年、画像の曇り除去のためにいくつかの技術が開発されています。ヘイジング除去の問題は、He et al.3から取得したように、(1)に示すように、位置xのカラーチャネルのターゲット(ぼんやりとした)画像Ihazy(x)を表します。
1
Jclear(x)は透明な画像を表し、Latmとtマップはそれぞれ大気光と媒体透過率マップを表します。カメラセンサーによって拾われる光の部分は、(2)に示すように、Heら3のシーンとカメラの間の距離によって計算されたtマップ距離d(x)で表されます。
2
ここで、βは空気散乱の透過係数を表します。
ヘイジング除去プロセス中に Ihazy(x) から Jクリア (x) を回収すると、(1) の再配置後に達成される (3) に示されています。ここで、t は大気の光透過率を表し、透過係数とも呼ばれます。
3
ダークチャネル事前(DCP)3 モデルは、この目的のための最もよく知られた大気モデルの1つです。よく知られている物理モデルベースのヘイジング除去技術の中で、DCPは最も広く使用されており、ヘイズのない画像では、少なくとも1つのカラーチャネルに非常に低い強度のピクセルが含まれていることを前提としています。この事前は、DCPを使用して透過マップを推定し、(1)からシーン放射輝度を回復するために使用されます。ただし、この手法は時間がかかり、画像内の空の領域が飽和しすぎます。
この研究の動機は、ヘイズによって画質が大幅に低下するコンピューター ビジョン アプリケーションの可視性を高める必要性から生じています。このアプローチは、曇り除去プロセスを加速するだけでなく、エッジやテクスチャなどの画像の詳細も確実に保持します。さらに、この研究では、かすみ除去アルゴリズムをビデオに拡張し、ビデオ処理における重要な問題に取り組みます。照明条件が異なると、画像の視認性が変化することがあり、自動運転や監視などの多くのアプリケーションで別の課題が生じます。
提案されたかすみ除去アルゴリズムの検証は、公開されているさまざまな画像およびビデオデータセットでの広範な実験を通じて実行されました。データセットは合成シーンと現実世界のかすんだシーンの両方で構成されており、さまざまな条件下での包括的な評価が可能です。確立された指標(FADE、NIQE、PIQE、BRISQUE)6を使用して評価し、9つの最先端の方法と比較した、さまざまな現実世界のビデオシーケンス(Riverside、Crossroad、Haze road、Ship)4およびさまざまなヘイズ密度の静止画像5にわたる実験的検証により、リアルタイムパフォーマンスを維持しながら、自動車、監視、海事、およびモバイルコンピューティングの領域へのアルゴリズムの実用的な適用性が実証されました。パフォーマンスは主観的な視覚的比較と客観的な品質指標を使用して評価され、精度と計算効率の点で最先端のアプローチとの競争力が実証されました。
提案された作業はリアルタイム パフォーマンスを考慮して設計されており、最大 1920 ピクセル× 1080 ピクセルの解像度の画像とビデオでテストされています。効率的な処理を確保するために、すべての実験は、Intel i3-6006U CPU (2.00 GHz) と 12 GB の RAM を搭載したワークステーションで実施されました。この方法は、現実世界のさまざまなシナリオで強力なパフォーマンスを示しますが、透過推定が信頼できなくなる非常に濃いヘイズ条件下では精度が低下する可能性があります。これらの詳細は、実際の展開における提案されたアプローチの実用性と限界を浮き彫りにしています。
さまざまな課題を克服するために、本研究では、画像やビデオのヘイジングにマルチスケール GWGIF を使用した新しいアプローチを提案します。この研究では、MPS 手法を統合することにより、ヘイジング除去の重要な要素である透過マップを推定するための計算効率の高い手法を導入します。ちらつきアーティファクトは、連続するフレーム間の時間的一貫性を維持する新しい GCF メソッドを組み込むことで対処され、計算効率と高品質の結果の両方が保証されています。この研究は、より堅牢な画像およびビデオ強化技術の開発に貢献します。 図1 はMPS法で算出した伝送マップ、 図2 はMPS法とGCFを組み合わせた提案法です。私たちの研究の目新しさは、従来のヘイジング除去方法の計算ボトルネックに対処する、勾配ベースの加重ガイド付きフィルターを使用したマルチスケーリングに基づくリアルタイムの画像およびビデオヘイジング除去アルゴリズムの開発にあります。具体的には、私たちの主な新しい貢献は次のとおりです。(1)計算負荷を軽減しながら、正確な伝送推定のために重要な暗領域を保持するMPS技術。(2) 伝送マップの改良中にしっかりとしたエッジを特に保持する GWGIF。(3) 上位 0.1% の最も明るいピクセルのみに焦点を当てた最適化された大気光推定。(4)勾配情報を通じてフレームの類似性を測定するビデオヘイジング用のGCF。(5)類似したビデオフレーム間の計算を再利用し、リアルタイム処理を実現する時間最適化システム。
この方法は、この記事で紹介した広範な実験で実証されているように、最先端のアルゴリズムに匹敵するか、それ以上のヘイジング品質を提供しながら、リアルタイムのパフォーマンスを達成します[図3、 図4、 図5、 図6、 および図7]。
Access restricted. Please log in or start a trial to view this content.
この作品は、人間の主題を含まない合成または自然のシーン画像を使用しました。したがって、倫理上の承認は必要ありませんでした。
この画像ヘイジング プロトコルは、標準的なコンピューティング セットアップに基づいて開発されており、かすんだ画像の鮮明さと視認性を高めるように設計されています。作業環境はMATLAB7です。このアプローチは、ヘイズの推定、改良、画像の復元を含む体系的なプロセスに従います。重要な細部を保ちながら画質を徐々に向上させることで、鮮明で視覚的に魅力的な結果が得られます。広く使用されているデータセット8 でテストされ、標準的な画質測定を使用して評価され、学術的または研究ベースのアプリケーションへの有効性と適合性が実証されています。プロトコル、材料、機器に関する重要な説明と方程式、および提案されたソリューションの手順は、以下のセクションで提供されています。評価パラメータも概説されています。
1. 材料と設備
この実験は、MATLAB Online (24.2.0.2871072 (R2024b) Update 5) を使用して開発され、Intel i3-6006U CPU (2.00 GHz) を搭載したシステムで実行されます。実装に使用される画像データセット5,8は、参照文献から取得されています。この方法論には、双線形補間を伴う 5 × 5 ガウス フィルターの使用、MPS アルゴリズム9 を使用した透過マップ推定、GWGIF フィルターによる改良が含まれており、すべて適切なコンピューティング インフラストラクチャ上で実行されます。研究で使用されたすべての材料と機器の詳細とリンクは、材料表に記載されています。
2. 実験セットアップ
実験セットアップでは、提案された画像とビデオのヘイジング除去アプローチを、行列ベースの画像処理と視覚化をサポートする科学コンピューティング環境に実装します。確立された文献で参照されているように、かすんだ画像とビデオ10で構成される標準ベンチマークデータセット5,8を使用して、メソッドのパフォーマンスを評価しました。このアルゴリズムはマルチスケール処理フレームワークに従い、画像ピラミッドと勾配ベースの相関を利用して適応伝送マップの計算と改良をガイドします。ビデオシーケンスの場合、フレームは一定の間隔で抽出され、GCF を使用して伝送マップを再利用するか再計算するかを決定します。かすみ除去された出力の有効性は、NIQE、PIQE、BRISQE、FADE、MSE などの広く認識されている画質指標を使用して評価され、修復品質の主観的および客観的な評価の両方が保証されました。
3. 評価に使用するパラメータ
客観的な評価のために、5つの品質指標が使用されています:(1)FADE(Fog-Aware Density Evaluator)8;(2) NIQE (Natural Image Quality Evaluator)11;(3) PIQE (Perception-based Image Quality Evaluator)12;(4) BRISQUE (ブラインド/リファレンスレス画像空間品質評価者)13;(5) 連続するフレーム間の MSE (平均二乗誤差)14.
4. 単一画像とビデオのヘイジング除去の方法論
) に変換することから始まります。次に、画像ピラミッド {
,
...,
,
} は、最大寸法が 320 ピクセル以下になるように、最も粗いレベル IL が達成されるまで、係数 2 で Ihazy を再帰的にダウンサンプリングすることによって構築されます。これは、Lがmax(W, H)<= 320という要件によって決定されることを意味します。ここで、WとHは最も粗いレベルLでの幅と高さを表します。L 値は、図 2 のように、ピラミッド構造内の目的の最も粗いレベルに到達するために必要なダウンサンプリング操作の数を示します。
は、入力されたぼやけた画像を最も粗いレベルLでダウンサンプリングすることによってすでに計算されたImageImage
から取得されます。
上のMPSアプローチ9を使用すると、[図1]に示すように、画像は5つの×5つのサイズの正方形のブロックに分割されます。さらに、5ブロック×5ブロックごとに最小値を選択することで
計算し、Kansalら9の(4)に示す寸法(M/m)×(N/m)のダウンサンプリング画像を取得します。ここで、minはブロックBIiの最小強度値を計算する数学関数を表します。
4
に3×3の最小フィルターを適用することにより、最も粗いレベルの暗チャネル画像
4を取得します。
5
は、以下を使用して最終的に推定されます。
6
) は画像ピラミッドの最も粗いレベル (L) でのみ推定されるため、元の入力画像の解像度に一致するようにアップサンプリングする必要があります。単純な双線形アップサンプリングBUp(·)を適用して、全解像度の透過マップを取得します。さらに、伝送マップのエッジの詳細を保持するには、
を絞り込む必要があります。Van et al.14 および Kansal et al.9 で適用されているように、ガイド付きフィルターとグラデーションガイド付きフィルターを使用すると、透過マップにぼやけたアーティファクトが発生し、その結果、テクスチャの詳細とエッジ情報が失われ、最終的に曇り除去性能が低下します。この問題に対処するために、勾配ドメイン強調誘導画像フィルタリング(GWGIF)15 法を採用して、画像の詳細を効果的に保持しています。最後に、洗練された伝送
は、Wangら16から以下のように得られます。
7
:初期伝送マップ(低解像度または粗い)
:元のかすんだ画像(ガイダンスとして使用)
のサイズを変更しました
)から大気光を推定します。次に、暗いチャネル画像の上位0.1%の最も明るいピクセルに対応するRGB値を選択して、He et al.3に示されているように、(8)に示すように、大気光の最終値を取得します。ここで、γ は上位 0.1 の最も明るいピクセルを表します。これらのピクセルは通常、画像内の最もヘイズ不透明な領域に対応します。これらの選択されたピクセルから、元の画像内の対応するRGB値が抽出され、平均化されて、グローバル大気光L atmが決定されます。
8
です。
を見つけた後、Van et al.14、(9)の定式化を使用して、ヘイズのない画像Jclear(x)を取得します。
9
は以下の通りである。
10
と
は、ビデオフレームIKとIK-1に対応するグラデーション画像です。GCF を計算する簡単な手順は次のとおりです。5. 単一画像とビデオの曇り除去アプローチのステップバイステップの要約
アルゴリズムの初期フレームワークを提供する図 2 に導かれ、単一画像とビデオの曇り除去アプローチの段階的な要約が提供されています。(1) 入力されたかすんだ画像
をシステムにロードして処理します。(2)画像をグレースケールに変換し、{
,
..., 
}として2倍のダウンサンプリングを繰り返しました。max (W, H) <= 320 (W と H は最も粗いレベル L での幅と高さを表す)
最も粗い画像を選択します。(3)粗い画像
をm×mのブロックに分割しました。ここで、mは(5)として選択されます。(4) 各ブロックの最小強度を計算して、次元
のダウンサンプリングされた画像
を取得しました。(5) 次に、最も粗いレベルの暗チャンネル画像
は、3 × 3 の最小フィルターを適用して
します。(6) この作業では w が 0.95 として選択されている式
を使用して初期透過マップを推定しました。(7) GWGIF(.) を使用して伝送マップを改良し、
を取得しました。(8)かすんだ画像の暗いチャネル(
)の上位0.1%の最も明るいピクセル位置に対応するRGB値を平均することにより、推定された大気光Latm。(9)光散乱モデルを用いて、かすみ除去画像Jクリア(x)を復元
;(10) 動画の場合、一定の間隔でフレームを抽出します。(11) フレームの類似性を測定するために、2 つの連続するフレーム間の勾配ベースの相関係数 (GCF) を計算しました。(12) 0.5 <場合は、現在のフレームの新しい伝送マップを計算します。GCF≥0.85 の場合、前のフレームの伝送マップを再利用しました。(13)各フレームを改良し、画像と同じ手順で曇り取りされたフレームを復元します。(14) NIQE11、PIQE12、BRISQE13、FADE8、MSE14 などの指標を使用して出力品質を評価しました。
Access restricted. Please log in or start a trial to view this content.
定性的および定量的な結果は、メソッドや実験を評価する際に補完的な洞察を提供します。定性的結果は主観的な評価に焦点を当てており、多くの場合、視覚的な比較、知覚的評価、または専門家の意見を使用してアプローチの有効性を分析します。これらは現実世界のシナリオの改善を説明するのに役立ちますが、人間の認識によって影響を受ける可能性があります。対照的に、定量的な結果は、NIQE11、PIQE12、BRISQE13、FADE8、MSE14 などの精度などの客観的な数値指標に依存して、統計的に厳密に有効性を測定します。通常、強力な評価は両方を組み合わせ、その手法が数値的に優れたパフォーマンスを発揮するだけでなく、実際のアプリケーションでも有意義な改善をもたらすことを保証します。
単一画像ヘイジングの定性結果分析
Access restricted. Please log in or start a trial to view this content.
提案された時間的コヒーレンスアプローチを備えた画像およびビデオのヘイジング除去のための効率的なマルチスケール勾配領域フィルタリングは、画像ピラミッド構造を使用して大気光と透過マップを効率的に推定することにより、物理モデルベースのヘイジング除去アルゴリズムの計算ボトルネックに対処します。重要なイノベーションは、アップサンプリング中のGWGIFフィルタリングに続いて、最も粗いピラミッドレベルでMPS伝送マップ推定を実行し、重要な画像の詳細を維持することです。ビデオの場合、この方法には GCF の考慮事項が組み込まれており、隣接するフレーム間の伝送値の一貫性を維持することでちらつきアーティファクトを低減します。提案された作業を実施するための重要な手順を以下に詳しく説明します。
この手順は、ヘイズ除去の精度、構造の詳細の保存、ビデオの時間的一貫性の維持に直接影響するため、非常に重要です。最小保存サブサンプリング(MPS)を使用した最初の透過マップ推定(ステップ4.2.1)は、特に遠く離れた非常にぼやけた領域で、シーンの深さ...
Access restricted. Please log in or start a trial to view this content.
著者は利益相反を宣言していない
この作品の質と読みやすさを大幅に向上させた、洞察力に富んだコメントと役立つ推奨事項を提供してくれた編集者と匿名の査読者に心から感謝します。彼らの慎重な評価手順と洞察力のある発言は、この分野に対する研究の全体的な貢献を改善し、それを洗練させる上で極めて重要でした。
Access restricted. Please log in or start a trial to view this content.
| Name | Company | Catalog Number | Comments |
|---|---|---|---|
| データセット | ウォータールー大学 視覚・画像処理研究室 | 5http : //ivc.uwaterloo.ca/database/Dehaze/ | 画像およびビデオのヘイジング除去アルゴリズムの評価 |
| 勾配ベースの重み付きガイド付きフィルター (Matlab 実装) | 王 ら。 | 16 https://arxiv.org/pdf/2211.16796 | 効率的な透過マップの改良 |
| MATLAB (Image Processing Toolbox を使用) | バージョン: MATLAB Online (24.2.0.2871072 (R2024b) Update 5) | https://www.mathworks.com/products/matlab.html | 提案されたアルゴリズムとベースラインアルゴリズムの実装 |
| プロセッサー | Intel i3-6006U CPU (2.00 GHz) | https://www.intel.com/content/www/us/en/products/sku/91157/intel-core-i36006u-processor-3m-cache-2-00-ghz/specifications.html | アルゴリズムの実行 |
| ベースラインメソッドのソースコード | キム et al.3、ヴァン et al.14、Yang et al.20, Ren et al.21, チェン et al.23、Li B et al.26 | 3https://github.com/metinsuloglu/Haze-Removal | 学習ベースのヘイジング除去手法の評価 |
| 14https://github.com/viengiaan/MGF 曇り止め | |||
| 20https://github.com/legendongary/Proximal-Dehaze-Net-CPU | |||
| 21https://github.com/rwenqi/GFN-dehazing | |||
| 23https://cchen156.github.io/code/robustdehaze.zip | |||
| 26https://github.com/Boyiliee/EVD-Net | |||
| 4 http : //live.ece.utexas.edu/research/f og/f adedef ade.html |
Access restricted. Please log in or start a trial to view this content.
Request permission to reuse the text or figures of this JoVE article
Request Permission