$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Il riconoscimento delle emozioni è importante nell'interazione e nella comunicazione umana. Per stabilire connessioni interpersonali di successo, è necessario essere in grado di percepire e comprendere le emozioni, avendo così implicazioni di vasta portata in ambiti tanto diversi quanto psicologia, neurologia e interazioneuomo-computer. Negli ultimi anni, l'elettroencefalogramma (EEG) (BCI (Brain Computer Interface) è stato uno strumento di valore su cui i ricercatori si sono concentrati per rilevare le emozioni. Sebbene la BCI basata sull'EEG offra una finestra diretta sull'attività elettrica del cervello umano e uno strumento di ricerca appropriato per esplorare gli stati emotivi. La classificazione automatica e accurata degli stati emotivi ha trasformato radicalmente l'area del riconoscimento delle emozioni attraverso tecniche di machine learning eBCI 2 basata sull'EEG.
Nel lavoro precedente è stato introdotto il riconoscimento delle emozioni e la sua importanza in vari campi, tra cui la sanità, l'interazione uomo-computer e leneuroscienze 3. Nonostante i progressi sostanziali, rimane una chiara lacuna di ricerca negli attuali studi di riconoscimento delle emozioni basati sull'EEG. Innanzitutto, gli approcci introdotti in letteratura utilizzano estrazione di caratteristiche a dominio singolo (ad esempio, caratteristiche spettrali o di frequenza temporale) o descrittori singolari non lineari disponibili e isolabili, che non offrono abbastanza per la modellazione lavorando solo con una rappresentazione parziale di segnali EEG intrinsecamente complessi e non stazionari. In secondo luogo, sebbene una varietà di caratteristiche non lineari abbia riportato un potere discriminativo superiore, di solito vengono usate separatamente e isolano le relazioni tra queste caratteristiche tra i domini. Questo vincolo li rende meno capaci di modellare le dinamiche multiscala e a livello di sorgente coinvolte nell'attivazione cerebrale emotiva. In terzo luogo, la maggior parte dei metodi di deep learning è progettata per ottimizzare le prestazioni di classificazione senza considerare l'interpretabilità delle caratteristiche, la riduzione della ridondanza e la robustezza in presenza di squilibri di classe. Di conseguenza, la generalizzazione cross-dataset resta un problema aperto tra le indagini con diverse configurazioni di elettrodi, frequenza di campionamento (128–256 Hz) e durata di registrazione (30–60 s). Le principali dimensioni dell'intelligenza emotiva sono presentate nella Figura 1.
Per superare tali svantaggi, in questo articolo introduciamo un framework Combined Weighted Feature Concatenation (CWFC) che aggrega caratteristiche non lineari multi-dominio in un'unica architettura. Invece di trattare ICA, DWT e FFT come metodi di estrazione indipendenti come gli approcci convenzionali, modelliamo la decomposizione a livello di sorgente (ICA), la dinamica temporale multi-risoluzione (DWT) e le rappresentazioni di potenza spettrale (FFT) tramite una correlazione ponderata. Questa struttura può aiutare il modello a utilizzare informazioni neurali complementari e ridurre la ridondanza per aumentare la capacità discriminativa. Inoltre, sia il ranking dell'importanza delle caratteristiche sia l'aumento basato su GAN sono impiegati per ottenere la robustezza su un minor numero di campioni EEG sbilanciati. Integrando relazioni di caratteristiche multimodali e dipendenze temporali attraverso la classificazione LSTM, il modello combinato migliora la generalizzazione tra diverse condizioni di acquisizione EEG. Pertanto, il contributo principale di questo lavoro è stato superare la mancanza di integrazione tra rappresentazioni EEG non lineari e la carenza di generalizzazione nei metodi esistenti, introducendo un quadro di riconoscimento delle emozioni sistematico, riproducibile e stabile nelle applicazioni BCI reali.

Figura 1: Fasi dell'intelligenza emotiva. Le fasi dell'intelligenza emotiva rappresentano come il riconoscimento emotivo dai segnali EEG può essere estratto, e poi il suo utilizzo nella diagnosi e nel monitoraggio dei problemi emotivi nelle valutazioni della salute mentale. Clicca qui per visualizzare una versione più grande di questa figura.
Le caratteristiche EEG non lineari per la ricerca sul riconoscimento delle emozioni offrono una comprensione più profonda dei processi neurali coinvolti nell'elaborazione affettiva. Essendo una tecnica non invasiva ad alta risoluzione temporale e sensibile a dinamiche neurali rapide, l'EEG è stato ampiamente utilizzato per lo studio dell'attività cerebrale legata agli stati emotivi. I metodi non lineari sono particolarmente appropriati per lo studio dei segnali EEG, a causa della loro natura non stazionaria e complessa, che costituisce un modello migliore sia della loro attività evocata che indotta nei processi emotivi. In numerosi modelli computazionali, l'emozione è rappresentata con riferimento a modelli teorici esistenti come il Modello EmotivoFondamentale 4 (BEM) e il Modello Circumplex 5,6. Due concezioni strutturalmente e funzionalmente distinte dell'emozione sono il modello dell'Emozione di Base, che assume che esista un insieme di emozioni fondamentali fondamentalibasate su biologia 7,8 (in particolare l'amore), e il Modello Circumplex che organizza l'emozione secondo due dimensioni sottostanti: valenza9 (positiva–negativa) e eccitazione10,11 (basso–alto). Il quadro valenza-risveglianza mostrato nella Figura 2 è diffuso negli studi di riconoscimento delle emozioni basati su EEG, principalmente per la sua allineamento con i dataset standard e per la sua applicabilità alla modellazione di stati emotivi continui. Questa rappresentazione basata sulle dimensioni offre un mezzo sistematico e quantificabile per mappare l'attività neurale in categorie emotive e può quindi facilitare la classificazione basata sul machine learning.

Figura 2: Rappresentazione delle emozioni valence-aroussal. Diagramma a due assi che mostra stati emotivi, con la valenza che indica sentimenti positivi o negativi e l'eccitazione che riflette un'intensità emotiva da bassa ad alta. Clicca qui per visualizzare una versione più grande di questa figura.
L'eccitazione è intensità emotiva, valenza positiva o negativa. L'analisi delle emozioni si è recentemente concentrata sull'EEG per sondare i correlati neurali delle emozioni. L'estrazione delle caratteristiche è molto importante e mappa l'EEG in quantità nel dominio tempo, frequenza e tempo-frequenza. Alcune delle caratteristiche non lineari più comuni sono l'Entropia delle Onda12, Dimensione di Correlazione13, e questo studio proposto utilizza un approccio combinato pesato che è una fusione di DWT, ICA e FFT13. I dataset standard DEAP14 e SEED15 sono disponibili per la valutazione riproducibile. Le caratteristiche lineari tradizionali spesso non sono più adeguate, richiedendo la progettazione di approcci nonlineari 16. I modelli emotivi basati sulle bande di frequenza sono mostrati nella Figura 2, e i pesi dei contributi delle bande EEG sono elencati nella Tabella 1.
| Bande di frequenze diverse | Gamma di bande di frequenza in Hz | Funzioni della banda di frequenza nel riconoscimento delle emozioni |
| Gamma | Più di 30 Hz | L'integrazione dei dati emotivi e la sincronizzazione di diverse regioni cerebrali durante l'elaborazione emotiva potrebbero riflettersi nell'attività gamma. |
| Beta | Tra 13 e 30 Hz | Le variazioni nella potenza beta potrebbero essere un segno di eccitazione emotiva e delle reazioni motorie legate alle manifestazioni emotive. |
| Alpha | Tra 8 e 13 Hz | Gli stati emotivi e le variazioni nel potere alfa, in particolare l'asimmetria alfa, sono correlati. Quando si è emotivamente eccitati e si presta più attenzione agli input emotivi, si osserva spesso una diminuzione del potere alfa. |
| Theta | Tra 4 e 8 Hz | Le esperienze emotive possono essere associate a un aumento del potere theta, che può aiutare nella codifica e nel recupero dei ricordi emotivi. |
| Delta | 0,5-4 Hz | Un aumento dell'attività delta nel contesto del rilevamento delle emozioni potrebbe indicare uno stato emotivo rilassato o a riposo. |
Tabella 1: Funzioni della banda di frequenza EEG nel riconoscimento delle emozioni insieme a diversi intervalli. Questa tabella delinea le bande di frequenza EEG comunemente riconosciute, specifica le rispettive gamme di frequenza e descrive il loro significato funzionale nella ricerca sul riconoscimento delle emozioni. Mette in evidenza come ogni banda sia associata a diversi processi cognitivi e affettivi, fornendo una base per interpretare i segnali EEG nella classificazione degli stati emotivi.
Lo sviluppo recente del riconoscimento delle emozioni basato sull'EEG è stimolato dalle scoperte nel deep learning e nell'elaborazione non lineare del segnale. I modelli basati su CNN hanno ottenuto alte prestazioni utilizzando la selezione degli elettrodi e la sintoniaiperparametrica 17, mentre i modelli CNN indipendenti dal soggetto con entropia differenziale dinamica hanno aumentato la indossabilità e ridotto lacomplessità 18. Ma i modelli per questo problema di solito non possono essere generalizzati tra i soggetti. Per modellare le dipendenze di sequenza, sono state proposte architetture LSTM basate sull'attenzione con meccanismi di adattamento del dominio19,20 che richiedono grandi calcoli e mancano di interpretabilità. Al di là del campo delle reti profonde, anche i metodi non lineari e topologici hanno suscitato notevole interesse. Utilizzando un'analisi persistente basata sull'omologia dello spazio delle fasi, è stata ottenuta una discriminazione migliorata per stati emotivisottili 21,22. I metodi di ensemble che combinano output di entropia e frattali con varie selezioni di caratteristiche erano noti per essere predittori migliorati. I modelli ibridi CNN–LSTM 23 hanno superato la classificazione diretta valenza–attivazione su DEAP24 e le CNN multicolonna hanno sfruttato efficacemente la distribuzione spaziale deglielettrodi 25. Le rappresentazioni basate su Topographic FeatureMaps 26,27 (TOPO-FM) e Holographic Feature Maps (HOLO-FM) sono state valutate su diversi datasetpubblici 28,29,30. Nonostante tali risultati mostrino notevoli progressi nell'accuratezza della classificazione, persistono ancora sfide riguardo alla generalizzazione e interpretabilità del modello tra soggetti, nonché alla robustezza rispetto all'eterogeneità delle condizioni di acquisizione EEG. L'autore 31 offre un'ampia panoramica sulle principali sfide, approcci e ulteriori direzioni in questo ambito, concentrandosi sulla qualità del segnale, l'estrazione di funzionalità e la scalabilità nell'Applied Soft Computing. In un lavorocorrelato 32, Advanced Functional Connectivity Measure ha corretto la correlazione dell'inviluppo di ampiezza tra diverse bande di frequenza EEG nell'identificazione di condizioni di guida avverse, evidenziando la forza della connettività multibanda per il monitoraggio comportamentale al volo.
In una relazione più ampia dineuroimaging 33,36, una panoramica solida dei metodi di apprendimento multimodali che combinano diversi segnali come EEG ed espressioni facciali o dati fisiologici per una rilevazione delle emozioni più affidabile con riferimento alla dimostrazione del potenziale dell'integrazione delle modalità che aumenta notevolmente le prestazioni nei sistemi di IA. Oltre a DEAP e SEED, il dataset DREAMER è anche una recente aggiunta ai benchmark rappresentativi negli studi di riconoscimento delle emozioni basati su EEG. DREAMER è stato proposto da Katsigiannis e Ramzan37 e contiene segnali EEG ed ECG acquisiti da soggetti che osservano gli stimoli emotivi audiovisivi con dispositivi wireless economici. Il contenuto del dataset è applicabile per la modellazione dimensionale delle emozioni con gerarchie di valenza, eccitazione e dominanza in linea con il modello circumplex dell'affetto. Grazie al suo paradigma sperimentale ben ponderato, i dataset DREAMER sono stati ampiamente utilizzati per la valutazione di deep learning e modelli di riconoscimento emozioni indipendenti dal soggetto. Le sue applicazioni possono permettersi di confrontarsi con altri database di rappresentazione delle emozioni dimensionali, e hanno anche dimostrato che è un'alternativa preziosa in complemento ai dataset cirrus dance, DEAP e SEED. Questi dataset sono ampiamente utilizzati negli studi di calcolo affettivo e comprendono registrazioni EEG acquisite in condizioni sperimentali controllate con stimoli emotivi standardizzati. Questo dataset consiste in segnali EEG a 32 canali provenienti da 32 soggetti che hanno ricevuto clip video emotivi. I dati sono annotati riguardo alla valenza e all'eccitazione. SEED: registrazioni EEG multi-sessione dei soggetti durante esperimenti di elicitazione emotiva basati su film con etichette emotive categoriche. DREAMER è un dataset EEG ed ECG registrato durante l'induzione emotiva tramite presentazione audiovisiva di stimoli. Tutti i dataset sono stati originariamente raccolti utilizzando protocolli standardizzati, configurazioni hardware e validazione delle procedure di etichettatura come riportato nelle loro pubblicazioni originali. Qui, in questo studio sono stati analizzati segnali EEG provenienti solo da questi dataset.