MRIを用いた4クラスの脳腫瘍分類のためのアテンションガイド付き転移学習フレームワーク

Summary

この研究では、転移学習とMobileNetV2、EfficientNetV1、およびInception-ResNet-V2を使用し、MRI画像から脳腫瘍を4クラス分類するための軽量の注意ベースのディープラーニングフレームワークを提示します。このモデルは計算複雑性を減少させつつ高精度の分類を実現し、リソース制約のある臨床意思決定支援アプリケーションをサポートします。

Abstract

この研究の目的は、磁気共鳴画像（MRI）データを使用して脳腫瘍を4つのカテゴリー（神経膠腫、髄膜腫、下垂体腫瘍、正常な脳組織）に分類するための軽量かつ正確なディープラーニングフレームワークを開発することです。提案された方法論は、転移学習と3つの事前学習済みの畳み込みニューラルネットワークモデル（MobileNetV2、EfficientNetV1、Inception-ResNet-V2）を組み合わせ、画像の臨床的に関連する領域に焦点を当てる人間の視覚システムの能力を模倣する注意メカニズムを統合しています。この注意誘導型アプローチは、腫瘍の局在化を強化しながら、不要な背景情報を抑制します。フレームワークは、4つのクラスにわたって何千ものラベル付けされた画像を含む大規模な公開脳MRIデータセットで評価されます。標準的な前処理、データ拡張、およびトレーニングプロトコルが採用され、提案された方法を簡単に再現できるようになっています。実験結果は、EfficientNetV1が最も高い分類性能を達成し、MobileNetV2とInception-ResNet-V2の両方に優る精度に達したことを示しています。この研究は、提案された軽量で注意ベースのフレームワークが精度と計算複雑性のバランスを効果的に取っており、特にリソース制約のある環境において、リアルタイムおよびモバイルヘルスケアアプリケーションに非常に適していると結論付けています。

Introduction

```html

脳腫瘍の正確な分類は、臨床診断、治療計画、および予後の推定において重要な役割を果たしています<sup>1</sup>。脳腫瘍には、神経膠腫、髄膜腫、および下垂体腫瘍が含まれ、それぞれが異なる病理学的特徴と治療反応を示します。したがって、早期かつ信頼性の高い識別は、治療結果の改善と疾患の進行抑制に不可欠です。MRIは、その優れた軟部組織のコントラスト、非侵襲性、および複数の解剖学的面での腫瘍形態を可視化する能力により、脳腫瘍の評価に広く好まれています。しかし、MRIスキャンの手動解析は時間がかかり、特に腫瘍の境界が不規則な場合や、腫瘍クラス間で視覚的な類似性がある場合には、放射線専門家の専門知識に大きく依存します。そのため、自動化されたコンピュータ支援診断システムが、精確かつ効率的な腫瘍分類を支援する放射線科医にとってますます重要になっています。

ディープラーニング（DL）ベースの画像分析技術は、生物医学およびコンピュータービジョンのアプリケーションにおいて自動化された疾病分類を大幅に進歩させました<sup>2,3</sup>。神経腫瘍学では、機械学習と転移学習技術が腫瘍検出、セグメンテーション、および分類タスクにおいて有望なパフォーマンスを示しています<sup>4</sup>。特に、畳み込みニューラルネットワーク（CNN）は、手作りの特徴エンジニアリングに頼ることなく、MRIスキャンから階層的画像特徴を自動的に抽出する優れた能力を示しています。CNNアーキテクチャは、画像データから腫瘍関連の特徴を学習し、従来の機械学習アプローチと比較して分類性能を向上させることができます。最近のDLの進歩により、大規模な画像データセットをより高い精度で処理し、人間の介入を減らすことができる高性能画像分類システムの開発が可能になりました。

これらの進歩にもかかわらず、従来の深いCNNアーキテクチャは、高メモリ消費、増加したパラメータの複雑さ、および長時間のトレーニングなど、相当な計算資源を必要とします<sup>5</sup>。このような計算要求は、資源制限のある臨床環境やモバイルヘルスケアシステムへの導入を制限します。さらに、軽量の畳み込みニューラルネットワークアーキテクチャは、計算複雑さの低減と低リソースアプリケーションへの適合性により、注目を集めています<sup>5</sup>。最近のいくつかの研究では、最適化されたCNN戦略、効率的な特徴抽出メカニズム、および軽量デプロイメントフレームワークを探索し、予測精度を大幅に損なうことなく分類効率を向上させています<sup>6,7,8</sup>。しかし、計算効率と堅牢な多クラス腫瘍分類性能のバランスを取ることは、MRIベースの脳腫瘍分析において大きな課題です<sup>9</sup>。

アテンションベースのディープラーニングフレームワークは、医療画像分析における特徴表現の改善に効果的なソリューションとして浮上しています<sup>10</sup>。アテンションメカニズムにより、ニューラルネットワークは診断的に関連する画像領域を選択的に強調し、不関連の背景情報を抑制することができます。人間の視覚システムに触発されたアテンションガイド付きアーキテクチャは、計算的注目を腫瘍特有の空間領域と文脈的特性に向けて向けることにより、判別的特徴学習を改善します。このようなメカニズムは、腫瘍組織がしばしば不均一な強度パターン、不規則な形態、および腫瘍カテゴリー間での重複する視覚的特徴を示す脳腫瘍MRI分析に特に有益です。したがって、CNNベースのアーキテクチャにアテンションモジュールを統合することで、分類精度を向上させ、特徴局在化性能を改善することができます。

最近のいくつかの研究は、自動化された脳腫瘍診断とMRIベースの腫瘍分類のためのDLフレームワークの可能性を実証しています<sup>11,12</sup>。Gaoらは、MRIデータを使用して脳腫瘍診断のためのDLモデルを開発し、自動化された神経画像分析の強力な分類能力を示しました<sup>11</sup>。同様に、Abdusalomovらは、MRIスキャンを使用してDLベースの脳腫瘍検出アプローチを調査し、有望な診断性能を報告しました<sup>12</sup>。これらの研究が分類精度を向上させたにもかかわらず、データセットの多様性、モデルの一般化、および計算要件に関連する制限は未解決のままです。多くの場合、トレーニングデータセットのサイズが限られていたり、制限された臨床ソースから派生していたりするため、過学習のリスクが高まり、多様な患者集団間での堅牢性が低下する可能性があります。

腫瘍の視覚化と特徴抽出を改善するために、マルチモーダルMRI分析と再構成技術も探索されています<sup>13,14</sup>。Sunらは、深層学習再構成フレームワークとデノイズ戦略を組み合わせたマルチモーダルMRIベースの膠芽腫評価を調査しました<sup>13</sup>。彼らの研究は、膠芽腫検出精度を向上させるための画像品質の向上の重要性を示しました。同様に、SrinivasとRaoは、マルチモーダルMRI脳腫瘍サブ領域分析のためのDLベースのセグメンテーションフレームワークを提案しました<sup>14</sup>。彼らのアプローチは、腫瘍サブ領域の境界線描画を改善し、個別化された治療計画に貢献しました。しかしながら、マルチモーダルフレームワークは一般的に、広範な前処理、増加した計算資源、および画像モダリティ間の正確な画像登録を必要とし、実践的な臨床環境での適用可能性を制限する可能性があります。

アテンションガイド付きマルチモーダルフュージョン方法も、セグメンテーション精度とMRI特徴統合の改善のために提案されています<sup>15,16,17,18</sup>。Zhouらは、マルチモーダル脳腫瘍セグメンテーションのためのアテンションメカニズムベースのフュージョンフレームワークを導入しました<sup>15</sup>。この研究は、文脈的特徴学習を通じてセグメンテーション性能の向上を示しました。しかし、この

Protocol

この研究では、匿名化された公開データセットを使用したため、インフォームドコンセントは不要でした。提案されたアプローチは、前処理、畳み込みモジュール、注意モジュール、畳み込みと注意モジュールの統合、そして全結合（FC）層の6つの要素で構成されています。図1は、我々の方法の完全なワークフローを示しています。

データセットの取得
ラベル付きの脳のMRI画像は、4つの腫瘍カテゴリーと正常組織を含むKaggleの公開データセットから取得されました。

データの前処理
画像は均一な解像度にリサイズされ、強度が正規化されます。一般化を向上させるために、オプションの拡張（回転、フリップ、ズーム）が適用されます。データセットは訓練（70%）とテスト（30%）のセットに分割されます。

モデルのアーキテクチャ
ImageNetで事前トレーニングされた3つのバックボーンCNN（MobileNetV2、EfficientNetV1、Inception-ResNet-V2）を使用して、MRI画像を用いて脳腫瘍を4つのカテゴリーに分類しました。MobileNetV2とEfficientNetV1は224×224ピクセルの入力次元で設定され、Inception-ResNet-V2は299×299ピクセルの入力サイズを必要としました。転移学習プロセスでは、初期の畳み込み層は一般化された画像特徴を保持するために最初は固定され、上層は脳腫瘍分類用にモデルを微調整するために微調整されました。各バックボーンには、グローバル平均プーリング、稠密層、正則化のためのドロップアウト、そして4クラスを予測するためのSoftmax活性化関数を含む軽量の分類ヘッドが組み合わされました。ドロップアウトは過学習を緩和し、一般化を向上させるために実装されました。設計されたアーキテクチャは、効率的な特徴抽出と低い計算要求を効果的に融合し、正確な分類を可能にしつつ、リソース制限のある環境や概念実証シナリオにも適しています。

注意ベースの特徴抽出
入力画像は初期の畳み込み層を通じて処理され、その後カスタムの注意モジュールを通過します。並行した最大プーリングと平均プーリングが顕著な特徴と文脈的特徴を捉え、それらは結合され、畳み込みを通じて精製され、腫瘍関連の領域を強調します。

畳み込みバックボーンとフュージョン
注意重み付きの特徴は事前トレーニングされたバックボーン（MobileNetV2、EfficientNetV1、またはInception-ResNet-V2）に送られます。高レベルの畳み込み層は論理的にフュージョンされ、メモリアクセスを減少させ、計算効率を向上させます。

分類
フラット化された特徴はReLU6活性化とドロップアウトを持つ全結合層を通過し、最終的な4クラスのソフトマックス分類のためのコンパクトな表現を生成します。

評価
モデルの性能はテストセット上で精度、精密度、再現率、F1スコア、および混同行列を使用して評価されます。

フレームワークの開発
提案されたソリューションはPythonで実装され、実行にはKerasを使用しています。表1はハイパーパラメータを示しています。データセットは70:30の比率で訓練セットとテストセットに分割されます。5つの異なる任意の訓練/テストの分割が使用され、各データセットの最終的なバランスの取れた性能を表示します。

前処理
入力画像は更新される必要があります。なぜなら、MobileNetV2フレームワークが提案されたソリューションの基礎となるからです。写真から高解像度の特徴を抽出するために、入力次元を用いて事前トレーニングされたMobileNetV2モデルが使用されます。各入力画像は次に、224×224ピクセルの範囲[-1, 1]でスケーリングされます。

畳み込みモデル
MobileNetV2は、計算要求を最小限に抑えるように設計された効率的な畳み込みニューラルネットワーク（CNN）アーキテクチャを活用して画像認識を向上させます。従来のCNNは高い精度を達成しますが、多くの場合、大量のメモリと処理能力を必要とします。MobileNetV1は、標準的な畳み込みをフィルタリング入力の深度方向分離畳み込みと特徴の統合のためのポイント方向分離畳み込みの2つの異なる操作に分離する概念を導入しました。MobileNetV2は、拡張層、深度方向畳み込み、投影層、残差接続からなるボトルネック残差ブロックを組み込むことで、このアイデアを拡張しました。投影層は特徴チャネルを圧縮し、残差接続はネットワーク全体を通じてより良い情報の流れを促進します。安定性を向上させ、学習性能を強化するために、ReLU6活性化とバッチ正規化が畳み込み操作の後に適用されます。

この研究では、ImageNetで事前トレーニングされたMobileNetV2がバックボーンモデルとして特徴を抽出するために使用され、脳腫瘍分類において計算コストを低く抑えながら効果的な高レベルの意味表現を提供します。すべての畳み込み層の後にはReLU6活性化層があり、これはReLU活性化関数の適応であり、そのサイズは6で最大化され、バッチ正規化層があります。一般的な1x1畳み込み、平均プーリング、および分類層は残りのボトルネックブロック17個に適用され、完全なMobileNetV2アーキテクチャを形成します。私たちは、ImageNetで事前トレーニングされたMobileNetV2をバックボーンネットワークとして使用しました。このような場合、畳み込みマップはMobileNetV2畳み込み層を通過した後に最後の残差ブロックから取得されます。下位レベルの残差ブロックは、より小さな特徴マップを生成します。このようなブロックは、全体的な画像識別のための高レベルのデータを収集しないため、我々の研究には寄与しません。モデル構築とトレーニング中、7×7の3D特徴マップを生成する畳み込み層の前の層は固定されています。数学的には、これは以下の式（1）で表されます：

F<sub>1</sub>(I) = Conv(I)        (1)

ここで、F<sub>1</sub>(I)は入力画像Iから抽出された畳み込み特徴を表します。

フォーカスモジュール
人類の脳の注意メカニズムは、人々が画像のすべての詳細よりも重要な視覚入力により自然に焦点を当てることを意味し、この変換ネットワークの設計の基礎となります。この考えから、深い学習研究において、多くの注意ベースのモデルが作成されました。提案された注意メカニズムは、脳腫瘍表現における空間相関を強調します。チャネル注意モジュール

Results

3つの事前トレーニングされたディープラーニングモデル、すなわちMobileNetV2、EfficientNetV1、Inception-ResNet-V2が、MRI画像を用いた4分類の脳腫瘍分類のために評価されました。

使用したデータセット
提案されたフレームワークは、Kaggleプラットフォームから入手した公開されている脳腫瘍MRIデータセットを用いて評価されました。このデータセットは、835枚の正常な脳MRI画像、826枚の膠芽腫画像、822枚の髄膜腫画像、および827枚の垂体腫瘍画像で構成されていました。データセットから代表的なMRIサンプルは図2に示されています。

MobileNetV2
MobileNetV2モデルには、2,263,108個の総パラメータが含まれ、うち2,228,996個は学習可能、34,112個は非学習可能でした。分類性能指標は表2に示されています。このモデルは、97％の全体的な分類精度を達成し、比較可能なマクロおよび重み付き平均F1スコアを示しました。表3に示されている混同行列は、4つの腫瘍カテゴリーすべてにわたる強力な分類性能を示しており、膠芽腫と髄膜腫の間で比較的少ない誤分類があります。

図3は、MobileNetV2の学習および検証の精度/損失曲線を示しています。このモデルは、複数の学習エポック後に安定した収束を示し、検証性能は徐々に向上しました。

Inception-ResNet-V2
Inception-ResNet-V2モデルには、54,342,884個の総パラメータが含まれ、うち54,282,340個は学習可能、60,544個は非学習可能でした。分類指標は表4に要約されています。このモデルは98％の全体的な分類精度を達成し、MobileNetV2と比較して性能が向上しました。

Inception-ResNet-V2モデルの表5に示されている混同行列は、すべての腫瘍カテゴリーにわたる高分類精度と、誤分類率の低下を示しています。MobileNetV2モデルと比較して、腫瘍クラス間の識別が向上しました。図4はInception-ResNet-V2の学習および検証性能曲線を示しています。このモデルは、学習エポック全体を通じて安定した学習挙動と一貫した収束を示しました。

EfficientNetV1
EfficientNetV1モデルには、6,580,363個の総パラメータが含まれ、うち6,518,308個は学習可能、62,055個は非学習可能でした。表6に要約された分類指標は、評価されたモデルの中で最高の性能を示し、約99％の精度、精度、再現率、およびF1スコアを達成しています。

EfficientNetV1モデルの表7に示されている混同行列は、4つの腫瘍クラスすべてにわたる強力な分類性能を示しており、誤分類は最小限です。このモデルは、ほとんどの膠芽腫、髄膜腫、非腫瘍、および垂体腫瘍画像を正しく分類しました。

図5は、EfficientNetV1の学習および検証の精度/損失曲線を示しています。このモデルは、他の評価されたアーキテクチャと比較して、より低い検証変動を伴う安定した収束を達成しました。

全体的な比較
評価されたモデルの中で、EfficientNetV1は最も高い分類性能を達成し、Inception-ResNet-V2よりも低い計算複雑性で維持しました。MobileNetV2は、パラメータ要件が減少した効率的な軽量性能を示しましたが、Inception-ResNet-V2はモデルの複雑性が大幅に高くなる代わりに、分類精度が向上しました。これらの結果は、EfficientNetV1が4分類の脳腫瘍MRI分類における分類精度と計算効率性の最良のバランスを提供することを示しています。

データの利用可能性
この研究で分析された脳MRIデータセットは、Kaggleプラットフォームを通じて公開されています。この研究中に生成および分析されたすべてのデータ（分類結果、性能指標、混同行列、および学習/検証結果を含む）は、この記事の図表内に示されています。モデル開発および評価に使用されたカスタムコードは、合理的な要求に応じて対応する著者から入手可能です。

図1: 4分類の脳腫瘍分類のための注意ガイド付き転移学習フレームワーク。 このワークフローは、MRIベースの腫瘍分類に使用される前処理、注意ベースの特徴抽出、畳み込み特徴学習、特徴フュージョン、および全結合分類層を示しています。 こちらをクリックして、この図の拡大版をご覧ください。

図2: 4分類の脳腫瘍データセットからの代表的なMRI画像。
モデルの学習および評価に使用される膠芽腫、髄膜腫、垂体腫瘍、および正常脳クラスに対応するサンプルMRIスキャンが示されています。 こちらをクリックして、この図の拡大版をご覧ください。

図3: MobileNetV2の学習および検証の精度/損失曲線。 このプロットは、学習中のMobileNetV2の収束挙動を示しており、エポックにわたる分類精度と損失の変化を含みます。

Discussion

```html

正確性、再現率、F1スコア、および精度に基づくパフォーマンス評価により、MobileNetV2とInception-ResNet-V2の両方が脳腫瘍分類で同等の結果を達成していることが明らかになりました。両者とも、集約および加重平均正確率が97～98%に達しています。対照的に、EfficientNetは、その強化された一般化と複合スケーリング戦略のおかげで、マクロ平均および加重平均指標で99%の正確率を達成し、他のモデルを上回っています。これらの発見は、マルチクラスMRI腫瘍分類と計算効率的な特徴学習におけるEfficientNetアーキテクチャの有効性を示す以前の研究と一致しています<sup>22</sup>。同様に、転移学習ベースのMobileNetV2フレームワークは、以前、軽量な脳腫瘍分類タスクで強力なパフォーマンスを示しながら、計算複雑性を低く抑えていることが示されています<sup>21</sup>。

EfficientNetV1の改善されたパフォーマンスは、ネットワークの深さ、幅、入力解像度のバランスの取れたスケーリングに起因する可能性があります。これにより、腫瘍関連の特徴の効率的な抽出が可能になります。複合スケーリング戦略の利点に関する同様の観察は、以前のCNN最適化研究で報告されています<sup>7,8</sup>。さらに、注意ガイド付き特徴抽出モジュールの統合により、不関連な背景情報を抑制することで、腫瘍関連領域の局在化が向上した可能性があります。これは、注意ベースの医療画像分類研究の結果と一致しています<sup>10,15</sup>。

これらの結果にもかかわらず、脳腫瘍分類には、不規則な腫瘍の正確な区別、腫瘍コアを超えたサブ領域の分割、および多様な脳組織タイプにわたる正確な分類など、いくつかの課題が残っています。以前の研究でも、MRIベースの腫瘍分類システムにおけるデータセットの多様性、一般化能力、計算複雑性に関連する制限が指摘されています<sup>9,11,12</sup>。さらに、マルチモーダルMRIフレームワークは、特徴表現と腫瘍の可視化を改善していますが、これらの方法は多くの場合、広範な前処理とより高い計算リソースを必要とします<sup>13,17,18,20</sup>。

表8は、5分割検証を使用したMobileNetV2、Inception-ResNet-V2、およびEfficientNetV1の集約クロス検証分析を示しています。表には、正確性、精度、再現率、F1スコアの平均と標準偏差、および分割ごとの正確性が示されています。MobileNetV2は安定していますが比較的低いパフォーマンスを示し、Inception-ResNet-V2は正確性と一貫性を向上させます。EfficientNetV1は、平均正確率が0.989 ± 0.003で最低の分散を示し、最高の平均正確性を達成し、優れた一般化能力を示しています。その一貫した高い分割ごとの正確性（0.986～0.992）は、複数のデータ分割にわたる堅牢かつ安定したパフォーマンスを示し、この研究で最も効果的な4クラスの脳腫瘍MRI分類モデルであることを示しています。

研究の制限
フレームワークの現在の評価は、オンラインデータ拡張のみに依存しており、実世界のシナリオでより広範なデータ変動を処理する際の堅牢性を制限する可能性があります。さらに、この研究は主に最終畳み込み層からの特徴抽出を探索しており、多層特徴フュージョンの潜在的な利点を評価していません。研究は静的MRIデータセットに制限されており、ライブの臨床ワークフローで検証されていないため、統合の課題が生じる可能性があります。

将来の研究方向
将来の研究では、MobileNetV2およびその他のバックボーンからの多層特徴集約を探索して、分類精度をさらに向上させる必要があります。フレームワークをマルチモーダル画像データをサポートするように拡張し、リアルタイムの臨床環境でそのパフォーマンスを検証することで、その実用性が強化されます。さらに、モバイルおよびIoTプラットフォームでの展開用にアーキテクチャを最適化し、高度な拡張技術と実際の患者データセットを組み合わせることで、多様な医療環境でスケーラブルで高性能の脳腫瘍診断を可能にできます。

結論
この研究は、MRI画像を使用した4クラスの脳腫瘍分類のための軽量な注意ガイド付き転移学習フレームワークを提示します。MobileNetV2、EfficientNetV1、およびInception-ResNet-V2を用いた転移学習を活用することで、モデルは計算効率を維持しながら高精度を達成し、リソース制約のある臨床環境に適している可能性があります。バランスの取れた4クラスのMRIデータセットでの実験により、EfficientNetV1が最高の結果を提供し、99%の正確性、精度、再現率、F1スコアを達成することが示されています。提案されたアーキテクチャは、パフォーマンスとリソース使用のバランスを効果的に取っており、リソース制約のある医療画像シナリオに有望なアプローチを提供しています。

```

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
Brain MRI データセット	IEEE	https://dx.doi.org/10.21227/q2vt-tf46	このデータセットは機関アクセスでダウンロードされます。MRI データセットには 4 つのクラスが含まれています：グリオーマ、髄膜腫、下垂体腫瘍、正常な脳
CNN アクセラレータ（レイヤー融合）	提案された作品	—	メモリアクセスを減少させ、計算効率を向上させるための上位畳み込み層の論理融合
カスタムアテンションモジュール	提案された作品	—	マックスプーリングとアベレージプーリングを統合し、腫瘍に関連する領域を強調するアテンションメカニズム
EfficientNetV1	Google	Pre-trained (ImageNet)	最適な精度と効率のトレードオフを提供するスケーラブルな CNN アーキテクチャ
Google Colaboratory	Google	https://colab.research.google.com/	GPU サポート付きのモデルのトレーニング、評価、実験に使用されるクラウドベースの環境
Inception-ResNet-V2	Google	Pre-trained (ImageNet)	Inception モジュールと残差接続を組み合わせた深層ハイブリッド CNN アーキテクチャ
Keras	Google	v2.6.0	高速なモデルプロトタイピング用に TensorFlow 上に構築された高レベルニューラルネットワーク API
Matplotlib	Matplotlib 開発者	v3.4.3	学習曲線、混同行列、性能指標のプロットに使用される可視化ライブラリ
MobileNetV2	Google	Pre-trained (ImageNet)	モバイルおよびエッジ展開用に最適化された軽量 CNN バックボーン
NumPy	NumPy 開発者	v1.21.4	数値演算に使用されるコア科学計算ライブラリ
Pandas	Pandas 開発チーム	v1.3.4	データセットの整理とメタデータ処理に使用されるデータ処理と操作ライブラリ
Python	Python ソフトウェア財団	v3.8.10	データ前処理、モデル開発、評価に使用される主要なプログラミング言語
Scikit-learn	Scikit-learn 開発者	Latest stable	精度、再現率、F1 スコア、混同行列などの性能評価指標に使用
Seaborn	Seaborn 開発者	Latest stable	強化されたグラフィカル分析に使用される高レベルの統計可視化ライブラリ
TensorFlow	Google	v2.6.0	CNN バックボーンとアテンションモジュールを実装するために使用されるエンドツーエンドの深層学習フレームワーク