$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
感情の認識は人間関係やコミュニケーションにおいて重要です。成功した対人関係を築くためには、感情を知覚し理解する能力が必要であり、心理学、神経学、人間とコンピュータの相互作用など多様な領域に広範な影響を及ぼします。近年、脳波(EEG)に基づくBCI(脳コンピュータインターフェース)は、研究者たちが感情を検出するために注目しているメリットツールとなっています。しかし、EEGベースのBCIは人間の脳の電気活動を直接観察できる窓口を提供し、感情状態を探るための適切な研究ツールとなります。自動かつ正確な感情状態分類は、機械学習技術とEEGベースのBCI2を通じて感情認識の分野を根本的に変革しました。
前述の研究では、感情認識とその重要性が紹介されており、医療、人間とコンピュータの相互作用、神経科学など様々な分野での重要性が紹介されています。大きな進展があるにもかかわらず、現在のEEGに基づく感情認識研究には明確な研究ギャップが残っています。まず、文献で紹介された手法は単一領域の特徴抽出(例:スペクトルや時間周波数特徴)や、単独で孤立可能な非線形記述子を用いており、複雑で定常的でない脳波信号の部分的な表現のみを扱うため、モデリングに十分な情報を提供しません。第二に、さまざまな非線形特徴は優れた識別力を持つと報告されていますが、通常は別々に用いられ、ドメイン間でこれらの特徴間の関係を分離しています。この制約により、感情脳の活性化に関わる多スケールおよびソースレベルの動態をモデル化する能力が低下しています。第三に、ほとんどのディープラーニング手法は分類性能の最適化を目的としていますが、クラスの不均衡が存在する場合の特徴解釈可能性、冗長性の削減、堅牢性は考慮していません。したがって、異なる電極構成、サンプリングレート(128–256 Hz)、記録時間(30–60秒)を用いた研究間で、データセット間の一般化は依然として未解決の問題です。感情知能の主な側面は 図1に示されています。
このような欠点を克服するため、本論文では、複数のドメイン非線形特徴を1つのアーキテクチャに集約する複合重み付き特徴連結(CWFC)フレームワークを紹介します。従来の手法のようにICA、DWT、FFTを独立した抽出手法として扱うのではなく、ソースレベル分解(ICA)、多分解能時間動態(DWT)、スペクトルパワー表現(FFT)を重み付き相関を通じてモデル化します。この構造は、モデルが補完的な神経情報を活用し、冗長性を減らして識別能力を高めるのに役立ちます。また、特徴重要度ランキングとGANベースの増強の両方を用いて、最も不均衡なEEGサンプルの少ない強度で堅牢性を達成しています。LSTM分類を通じてマルチモーダル特徴関係と時間的依存性を統合し、統合モデルは多様なEEG獲得条件における一般化を向上させます。したがって、本研究の主な貢献は、非線形EEG表象間の統合不足と既存の手法における一般化可能性の欠如を克服し、実生活のBCI応用において体系的で再現可能かつ安定した感情認識フレームワークを導入したことです。

図1:感情知能の段階。 感情知能のフェーズは、EEG信号から感情認識を抽出する方法を表し、その後、メンタルヘルス評価における感情問題の診断やモニタリングに活用しています。 この図の拡大版はこちらをクリックしてご覧ください。
感情認識研究のための非線形EEG機能は、感情処理に関わる神経プロセスのより深い理解を提供します。非侵襲的で高時間分解能の技術であり、高速な神経動態に敏感であるため、EEGは感情状態に関連する脳活動の研究に広く利用されています。非線形手法は、非定常的かつ複雑な性質を持つため、感情過程における誘発および誘発される活動の両方をより良くモデル化するため、特にEEG信号の研究に適しています。多くの計算モデルにおいて、感情は基本感情モデル4(BEM)やサーカムプレックスモデル5,6など既存の理論モデルを参照して表現されています。構造的かつ機能的に異なる感情の概念は、生物学的に基づいて基本的な核心感情7,8(特に愛)が存在すると仮定する基本感情モデルと、感情を2つの基礎次元、すなわち価数9(正・負)と興奮10,11(低・高)に基づいて感情を組織する概略モデルです。図2に示された価数–覚醒の枠組みは、標準データセットとの整合性や連続的な感情状態のモデル化に応用できるため、EEGに基づく感情認識研究で広く見られます。この次元ベースの表現は、神経活動を感情のカテゴリーに体系的かつ定量的にマッピングする手段を提供し、機械学習に基づく分類を促進します。

図2:価子覚醒感情表象。 感情状態を示す二軸図で、価数は肯定的または否定的な感情を示し、興奮は低から高い感情強度を反映しています。 この図の拡大版はこちらをクリックしてご覧ください。
興奮とは感情的な強度であり、正または負の価数です。感情分析は最近、感情の神経相関を探るためにEEGに重点が置かれています。特徴抽出は非常に重要で、EEGを時間、周波数、時間-周波数領域の量にマッピングします。最も一般的な非線形特性のいくつかにはウェーブレットエントロピー12、相関次元13があり、本研究ではDWTとICAを融合させた複合的な重み付けアプローチとFFT13が用いられています。標準的なDEAP14およびSEED15データセットが再現性評価のために利用可能です。従来の線形特徴はもはや十分でなくなることが多いため、非線形アプローチの設計が必要となります。周波数帯に基づく感情パターンは図2に示されており、EEGバンドの寄与の重みは表1に示されています。
| 異なる周波数帯 | 周波数帯域(Hz) | 感情認識における周波数帯の機能 |
| ガンマ | 30Hzを超える | 感情データの統合や複数の脳領域の同期は、ガンマ線活動に反映される可能性があります。 |
| Beta | 13Hzから30Hzの間です | ベータ値の変動は感情的興奮や感情表現に関連する運動反応のサインかもしれません。 |
| アルファ | 8Hzから13Hzの間です | 感情状態やアルファパワーの変動、特にアルファの非対称性は関連しています。感情的に興奮し、感情入力により注意を払うと、アルファパワーの低下が頻繁に見られます。 |
| シータ | 4Hzから8Hzの間です | 感情的体験はシータパワーの増加と関連し、感情記憶の符号化や検索を助ける場合があります。 |
| デルタ | 0.5〜4 Hz | 感情検出の文脈でデルタ活動の増加は、リラックスまたは安静状態の感情状態を示している可能性があります。 |
表1:感情認識におけるEEG周波数帯の機能と異なる範囲。 この表は、一般的に認識されているEEG周波数帯を概説し、それぞれの周波数帯域を指定し、感情認識研究における機能的意義を説明しています。各バンドが異なる認知的および感情的プロセスと関連していることを強調し、感情状態分類におけるEEG信号の解釈の基盤を提供します。
EEGに基づく感情認識の最近の開発は、ディープラーニングと非線形信号処理のブレークスルーによって促進されています。CNNベースのモデルは電極選択とハイパーパラメータ調整を用いて高い性能を達成し、動的微分エントロピーを用いた被験者非依存CNNモデルは着用性を向上させ、複雑性を低減しました18。しかし、この問題のモデルは通常、被験者に一般化することはできません。シーケンス依存関係をモデル化するために、ドメイン適応機構を持つ注意ベースのLSTMアーキテクチャが提案されましたが、これらは大規模な計算を必要とし、解釈可能性に欠けています。ディープネットワークの領域を超えて、非線形および位相的手法も大きな関心を集めています。持続的相同性に基づく位相空間解析を用いることで、微妙な感情状態に対する識別力が向上しました21,22。エントロピーとフラクタル出力を様々な特徴選択と組み合わせたアンサンブル法は、より良い予測因子であることが知られていました。ハイブリッドCNN–LSTMモデル23はDEAP24で直接価数–覚醒分類を上回り、多柱CNNは電極の空間分布を効果的に活用しました。地形特徴図26、27(TOPO-FM)およびホログラフィック特徴図(HOLO-FM)に基づく特徴表現は、公開データセット28、29、30で評価されました。分類精度の大幅な進歩を示す結果にもかかわらず、モデルの被験者間一般化や解釈可能性、そしてEEG獲得条件の異質性に対する堅牢性に関する課題は依然として残っています。著者31は、この分野における主な課題、アプローチ、さらなる方向性について、信号品質、特徴抽出、応用ソフトコンピューティングにおけるスケーラビリティに焦点を当てた広範な調査を提供しています。関連研究32では、高度な機能的接続性が異なるEEG周波数帯間の振幅包絡線相関を補正し、悪化した運転状況を特定し、オンザフライ行動モニタリングにおけるマルチバンド接続性の強さを強調しました。
より広範な神経画像関係33,36では、EEGや顔の表情、生理学的データなど異なる信号を組み合わせたマルチモーダル学習手法の強力な概観であり、より信頼性の高い感情検出を実現し、AIシステムの性能を大幅に向上させるモダリティ統合の可能性を示すことを目的としています。DEAPやSEEDに加え、DREAMERデータセットはEEGベースの感情認識研究における代表的なベンチマークに最近加わったものです。DREAMERはKatsigiannisとRamzanによって提案されました。37は、安価なワイヤレスデバイスで視聴覚感情刺激を観察した被験者から得られるEEGおよびECG信号を含んでいます。データセットの内容は、感情の境界モデルに沿った価値、覚醒、優位階層を持つ感情の次元モデリングに応用可能です。そのよく考えられた実験パラダイムにより、DREAMERデータセットは深層学習や被験者非依存感情認識モデルの評価に広く利用されています。その応用は、他の次元感情表現データベースと比較できるだけでなく、cirrus dance、DEAP、SEEDデータセットの補完として価値ある代替手段であることも示されました。これらのデータセットは感情計算研究で広く利用されており、標準化された感情刺激を用いた制御された実験条件下で取得されたEEG記録を含みます。このデータセットは、感情的なビデオクリップを受けた32人の被験者からの32チャンネルEEG信号で構成されています。データは価数と覚醒に関する注釈が付されています。SEED:フィルムを基にした感情誘発実験中の被験者の複数セッションEEG記録で、カテゴリー的な感情ラベルを付けています。DREAMERは、感情誘導時に視聴覚刺激の提示を通じて記録されるEEGおよびECGデータセットです。すべてのデータセットは、元の出版物で報告された標準化されたプロトコル、ハードウェア構成、ラベル付け手順の検証を用いて収集されました。ここでは、これらのデータセットのみのEEG信号を分析しました。