$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Emotionserkennung ist wichtig in menschlicher Interaktion und menschlicher Kommunikation. Um erfolgreiche zwischenmenschliche Verbindungen herzustellen, muss man in der Lage sein, Emotionen wahrzunehmen und zu verstehen, was weitreichende Auswirkungen in so unterschiedlichen Bereichen wie Psychologie, Neurologie und Mensch-Computer-Interaktionhaben 1. In den letzten Jahren war das auf Elektroenzephalogramm (EEG) basierende BCI (Brain Computer Interface) ein Leistungswerkzeug, auf das sich Forscher zur Erkennung von Emotionen konzentriert haben. Obwohl EEG-basierte BCI einen direkten Einblick in die elektrische Aktivität des menschlichen Gehirns bietet und ein geeignetes Forschungsinstrument zur Erforschung emotionaler Zustände bietet. Die automatische und genaue Klassifikation emotionaler Zustände hat das Gebiet der Emotionserkennung durch maschinelles Lernen und EEG-basierte BCI2 grundlegend verändert.
In der vorherigen Arbeit wurde die Emotionserkennung eingeführt und ihre Bedeutung in verschiedenen Bereichen eingeführt, darunter Gesundheitswesen, Mensch-Computer-Interaktion und Neurowissenschaften3. Trotz erheblicher Fortschritte bleibt in aktuellen EEG-basierten Studien zur Emotionserkennung eine deutliche Forschungslücke bestehen. Erstens verwenden in der Literatur eingeführte Ansätze eine Einzeldomänen-Merkmalsextraktion (z. B. Spektral- oder Zeitfrequenzmerkmale) oder singuläre nichtlineare Deskriptoren, die verfügbar und isolierbar sind, die nicht ausreichen, um nur mit einer teilweisen Darstellung von inhärent komplexen und nichtstationären EEG-Signalen zu arbeiten. Zweitens, obwohl eine Vielzahl nichtlinearer Merkmale eine überlegene Unterscheidungskraft besitzt, werden sie meist separat verwendet und isolieren die Beziehungen zwischen diesen Merkmalen über verschiedene Domänen hinweg. Diese Einschränkung macht sie weniger fähig, die multiskalierten und quellenbezogenen Dynamiken der emotionalen Gehirnaktivierung zu modellieren. Drittens sind die meisten Deep-Learning-Methoden darauf ausgelegt, die Klassifikationsleistung zu optimieren, ohne dabei Merkmale zu interpretieren, Redundanzreduzierung und Robustheit bei Klassenungleichgewichten zu berücksichtigen. Folglich ist die Verallgemeinerung von Datensätzen zwischen Untersuchungen mit unterschiedlichen Elektrodenaufbauten, Abtastrate (128–256 Hz) und Aufzeichnungsdauer (30–60 s) weiterhin ein offenes Problem. Die Hauptdimensionen der emotionalen Intelligenz werden in Abbildung 1 dargestellt.
Um solche Nachteile zu überwinden, stellen wir in diesem Artikel ein Combined Weighted Feature Concatenation (CWFC)-Framework vor, das multidomänenübergreifende nichtlineare Features in einer Architektur zusammenfasst. Anstatt ICA, DWT und FFT wie herkömmliche Ansätze als unabhängige Extraktionsmethoden zu behandeln, modellieren wir Quellebene-Dekomposition (ICA), Multi-Resolution-Zeitdynamik (DWT) und spektrale Leistungsrepräsentationen (FFT) anhand einer gewichteten Korrelation. Diese Struktur kann dem Modell helfen, komplementäre neuronale Informationen zu nutzen und Redundanz zu reduzieren, um die Diskriminierungsfähigkeit zu erhöhen. Außerdem werden sowohl Merkmals-Wichtigkeits-Ranking als auch GAN-basierte Augmentation eingesetzt, um die Robustheit bei möglichst wenigen unausgewogenen EEG-Proben zu erreichen. Durch die Integration multimodaler Merkmalsbeziehungen und zeitlicher Abhängigkeiten durch LSTM-Klassifikation verbessert das kombinierte Modell die Generalisierung über verschiedene EEG-Aufnahmebedingungen. Der Hauptbeitrag dieser Arbeit besteht daher darin, den Mangel an Integration zwischen nichtlinearen EEG-Darstellungen und die unzureichende Generalisierbarkeit bestehender Methoden zu überwinden und ein systematisches, reproduzierbares und stabiles Emotionserkennungsrahmen in realen BCI-Anwendungen einzuführen.

Abbildung 1: Phasen emotionaler Intelligenz. Phasen der emotionalen Intelligenz stellen dar, wie die Emotionserkennung aus EEG-Signalen extrahiert werden kann, und deren Anwendung bei der Diagnose und Überwachung emotionaler Probleme bei psychischen Gesundheitsuntersuchungen. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.
Nichtlineare EEG-Merkmale für die Emotionserkennungsforschung bieten ein tieferes Verständnis der neuronalen Prozesse, die an der affektiven Verarbeitung beteiligt sind. Als nicht-invasive, hochzeitliche Auflösungstechnik, die empfindlich auf schnelle neuronale Dynamiken reagiert, wurde EEG häufig zur Untersuchung der Gehirnaktivität im Zusammenhang mit emotionalen Zuständen eingesetzt. Nichtlineare Methoden sind besonders geeignet für die Untersuchung von EEG-Signalen, da sie nicht stationär und komplex sind, was ein besseres Modell sowohl der hervorgerufenen als auch der induzierten Aktivität in emotionalen Prozessen darstellt. In beliebig vielen rechnergestützten Modellen wird die Emotion mit Bezug auf bestehende theoretische Modelle wie das Basic Emotion Model4 (BEM) und das Circumplex Model 5,6 dargestellt. Zwei strukturell und funktional unterschiedliche Vorstellungen von Emotion sind das Basic Emotion-Modell, das davon ausgeht, dass es eine Reihe biologisch grundlegender Kernemotionen 7,8 (insbesondere Liebe) gibt, und das Circumplex-Modell, das Emotionen nach zwei zugrundeliegenden Dimensionen organisiert: Valenz9 (positiv–negativ) und Erregung10,11 (niedrig–hoch). Der in Abbildung 2 gezeigte Valenz-Erregungsrahmen ist in EEG-basierten Emotionserkennungsstudien weit verbreitet, hauptsächlich wegen seiner Übereinstimmung mit den Standarddatensätzen und seiner Anwendbarkeit zur Modellierung kontinuierlicher emotionaler Zustände. Diese dimensionsbasierte Darstellung bietet eine systematische und quantifizierbare Möglichkeit, neuronale Aktivitäten in emotionale Kategorien einzuordnen und so maschinell-lernbasierte Klassifikationen zu erleichtern.

Abbildung 2: Darstellung von Valenz-Erregungsemotionen. Zwei-Achsen-Diagramm zeigt emotionale Zustände, wobei Valenz positive oder negative Gefühle anzeigt und Erregung eine niedrige bis hohe emotionale Intensität widerspiegelt. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.
Erregung ist emotionale Intensität, Valenz, positiv oder negativ. Die Emotionsanalyse konzentriert sich kürzlich auf EEG zur Untersuchung neuronaler Korrelate von Emotionen. Die Merkmalsextraktion ist sehr wichtig, da sie das EEG in Größen in Zeit, Frequenz und Zeit-Frequenz-Bereich abbildet. Einige der häufigsten nichtlinearen Eigenschaften sind Wavelet-Entropie12, Korrelationsdimension13, und diese vorgeschlagene Studie verwendet einen kombinierten gewichteten Ansatz, der eine Fusion von DWT, ICA und FFT13 ist. Standard-DEAP-14- und SEED-15-Datensätze stehen für reproduzierbare Auswertungen zur Verfügung. Traditionelle lineare Merkmale sind oft nicht mehr ausreichend, was den Entwurf nichtlinearer Ansätze16 erfordert. Frequenzbandbasierte emotionale Muster sind in Abbildung 2 dargestellt, und die Gewichtungen der EEG-Bänder sind in Tabelle 1 aufgeführt.
| Unterschiedliches Frequenzband | Frequenzbandbereich in Hz | Funktionen des Frequenzbandes in der Emotionserkennung |
| Gamma | Größer als 30 Hz | Die Integration emotionaler Daten und die Synchronisation mehrerer Hirnregionen während der emotionalen Verarbeitung könnten sich in der Gammaaktivität widerspiegeln. |
| Beta | Zwischen 13 und 30 Hz | Schwankungen in der Beta-Kraft könnten ein Zeichen für emotionale Erregung und die motorischen Reaktionen sein, die mit emotionalen Ausbrüchen verbunden sind. |
| Alpha | Zwischen 8 und 13 Hz | Emotionale Zustände und Variationen der Alpha-Kraft, insbesondere Alpha-Asymmetrie, hängen zusammen. Wenn man emotional erregt ist und mehr auf emotionale Eingaben achtet, ist häufig eine verminderte Alpha-Kraft zu beobachten. |
| Theta | Zwischen 4 und 8 Hz | Emotionale Erfahrungen können mit erhöhter Theta-Kraft verbunden sein, was bei der Codierung und Abrufung emotionaler Erinnerungen helfen kann. |
| Delta | 0,5–4 Hz | Eine Zunahme der Delta-Aktivität im Kontext der Emotionserkennung könnte auf einen entspannten oder ruhenden emotionalen Zustand hinweisen. |
Tabelle 1: Funktionen des EEG-Frequenzbandes in der Emotionserkennung zusammen mit unterschiedlichem Bereich. Diese Tabelle listet die allgemein anerkannten EEG-Frequenzbänder auf, legt ihre jeweiligen Frequenzbereiche fest und beschreibt ihre funktionale Bedeutung in der Emotionserkennungsforschung. Sie hebt hervor, wie jedes Band mit unterschiedlichen kognitiven und affektiven Prozessen assoziiert ist und bildet eine Grundlage für die Interpretation von EEG-Signalen in der Klassifikation emotionaler Zustände.
Die jüngste Entwicklung der EEG-basierten Emotionserkennung wird durch Durchbrüche im Bereich Deep Learning und nichtlinearer Signalverarbeitung angeregt. CNN-basierte Modelle erzielten hohe Leistung durch Elektrodenauswahl und Hyperparameter-Tuning17, während das subjektunabhängige CNN-Modell mit dynamischer differentieller Entropie die Tragbarkeit verbesserte und dieKomplexität 18 verringerte. Aber Modelle für dieses Problem lassen sich in der Regel nicht auf verschiedene Themen verallgemeinern. Um Sequenzabhängigkeiten zu modellieren, wurden aufmerksamkeitsbasierte LSTM-Architekturen mit Domänenanpassungsmechanismenvorgeschlagen, 19,20, die große Berechnungen erfordern und keine Interpretierbarkeit haben. Über den Bereich der tiefen Netzwerke hinaus haben auch nichtlineare und topologische Methoden großes Interesse gefunden. Durch die Verwendung persistenter homologiebasierter Phasenraumanalyse wurde eine verbesserte Diskriminierung für subtile emotionale Zuständeerreicht 21,22. Ensemble-Methoden, die Entropie- und Fraktalausgaben mit verschiedenen Merkmalsauswahlen kombinierten, galten als verbesserte Prädiktoren. Hybride CNN–LSTM-Modelle23 übertroffen die direkte Valenz–Erregungsklassifikation auf DEAP24, und mehrsäulige CNNs nutzten die räumliche Verteilung der Elektrodeneffektiv aus 25. Topografische Feature Maps26,27 (TOPO-FM) und Holographic Feature Maps (HOLO-FM) basierte Feature-Darstellungen wurden auf einer Reihe öffentlich verfügbarer Datensätze 28,29,30 ausgewertet. Trotz solcher Ergebnisse, die erhebliche Fortschritte in der Klassifikationsgenauigkeit zeigen, bestehen weiterhin Herausforderungen hinsichtlich der interaktionellen Generalisierung und Interpretierbarkeit des Modells sowie der Robustheit gegenüber der Heterogenität der EEG-Aufnahmebedingungen. Autor31 bietet eine umfassende Übersicht über die Hauptherausforderungen, Ansätze und weitere Ansätze in diesem Bereich, mit Fokus auf Signalqualität, Feature-Extraktion und Skalierbarkeit im Applied Soft Computing. In einer verwandten Arbeit,32, maß fortgeschrittene funktionale Konnektivität die korrigierte Amplituden-Hüllkurvenkorrelation über verschiedene EEG-Frequenzbänder bei der Identifizierung ungünstiger Fahrbedingungen und unterstrich die Stärke der Multiband-Konnektivität für die Verhaltensüberwachung im Flug.
In einer breiteren neuroimaging-Beziehung33,36 gibt es einen ausführlichen Überblick über multimodale Lernmethoden, die verschiedene Signale wie EEG und Gesichtsausdrücke oder physiologische Daten kombinieren, um eine zuverlässigere Emotionserkennung zu gewährleisten, mit dem Ziel, das Potenzial der Integration von Modalitäten zu demonstrieren, die die Leistung in KI-Systemen erheblich steigert. Neben DEAP und SEED ist der DREAMER-Datensatz auch eine aktuelle Ergänzung zu repräsentativen Benchmarks in EEG-basierten Emotionserkennungsstudien. DREAMER wurde von Katsigiannis und Ramzan37 vorgeschlagen und enthält EEG- und EKG-Signale, die von Probanden aufgenommen wurden, die audiovisuelle emotionale Reize mit kostengünstigen drahtlosen Geräten beobachten. Der Inhalt des Datensatzes ist anwendbar für dimensionale Modellierung von Emotionen mit Valenz-, Erregungs- und Dominanzhierarchien im Einklang mit dem Circumplex-Modell der Affekt. Dank seines gut durchdachten experimentellen Paradigmas wurden DREAMER-Datensätze umfangreich zur Bewertung von Deep-Learning- und subjektunabhängigen Emotionserkennungsmodellen verwendet. Seine Anwendungen können mit anderen Datenbanken zur dimensionalen Emotionsdarstellung verglichen werden, und zeigten außerdem, dass es eine wertvolle Alternative als Ergänzung zum Cirrus Dance-, DEAP- und SEED-Datensatz darstellt. Diese Datensätze werden umfangreich in affektiven Computing-Studien verwendet und umfassen EEG-Aufzeichnungen, die unter kontrollierten experimentellen Bedingungen mit standardisierten emotionalen Reizen aufgenommen wurden. Dieser Datensatz besteht aus 32-Kanal-EEG-Signalen von 32 Probanden, denen emotionale Videoclips erhalten wurden. Die Daten sind hinsichtlich Valenz und Erregung annotiert. SEED: Mehrfach-Sitzungs-EEG-Aufnahmen von Probanden während filmbasierter Emotionsausruf-Experimente mit kategorialen Emotionsetiketten. DREAMER ist ein EEG- und EKG-Datensatz, der während der Emotionsinduktion mittels audiovisueller Stimuluspräsentation aufgezeichnet wird. Alle Datensätze wurden ursprünglich mit standardisierten Protokollen, Hardwarekonfigurationen und der Validierung der Kennzeichnungsverfahren erhoben, wie sie in ihren ursprünglichen Veröffentlichungen angegeben sind, erhoben. Hier wurden in dieser Studie EEG-Signale nur aus diesen Datensätzen analysiert.