$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Распознавание эмоций важно в человеческом взаимодействии и общении. Чтобы установить успешные межличностные связи, необходимо уметь воспринимать и понимать эмоции, что имеет далеко идущие последствия в таких разнообразных областях, как психология, неврология и взаимодействие человека скомпьютером 1. В последние несколько лет электроэнцефалограмма (ЭЭГ) BCI (интерфейс мозга и компьютера) стала инструментом для выявления эмоций, на котором исследователи сосредоточились. Хотя БКИ на основе ЭЭГ дают прямое окно в электрическую активность человеческого мозга и являются подходящим исследовательским инструментом для изучения эмоциональных состояний. Автоматическая и точная классификация эмоциональных состояний фундаментально изменила область распознавания эмоций с помощью методов машинного обучения иBCI 2 на основе ЭЭГ.
В предыдущей работе представлено распознавание эмоций и его значение в различных сферах, включая здравоохранение, взаимодействие человека и компьютера инейронауку 3. Несмотря на значительный прогресс, в текущих исследованиях распознавания эмоций на основе ЭЭГ сохраняется явный пробел. Во-первых, подходы, представленные в литературе, используют извлечение однодоменных признаков (например, спектральные или временные частотные признаки) или уникальные нелинейные дескрипторы, доступные и изолируемые, которые недостаточно для моделирования, поскольку работают только с частичным представлением по своей природе сложных и нестационарных сигналов ЭЭГ. Во-вторых, хотя различные нелинейные признаки сообщают о превосходящей дискриминационной способности, они обычно используются отдельно и изолируют взаимосвязи между этими признаками в разных областях. Это ограничение делает их менее способными моделировать многомасштабную и исходную динамику, связанную с активацией эмоционального мозга. В-третьих, большинство методов глубокого обучения предназначены для оптимизации эффективности классификации, но не учитывают интерпретируемость признаков, снижение избыточности и устойчивость при наличии классового дисбаланса. Следовательно, обобщение межнабора по-прежнему остаётся открытой проблемой между исследованиями с разными установками электродов, частотой дискретизации (128–256 Гц) и длительностью записи (30–60 с). Основные измерения эмоционального интеллекта представлены на рисунке 1.
Чтобы преодолеть такие недостатки, в этой статье мы предлагаем фреймворк Combined Weighted Feature Concatenation (CWFC), который объединяет многодоменные нелинейные признаки в одной архитектуре. Вместо того чтобы рассматривать ICA, DWT и FFT как независимые методы извлечения, как традиционные методы, мы моделируем разложение на уровне источника (ICA), многоразрешённую временную динамику (DWT) и спектральные мощностные представления (FFT) с помощью взвешенной корреляции. Такая структура помогает модели использовать дополнительную нейронную информацию и снижать избыточность для повышения дискриминационных способностей. Кроме того, для достижения устойчивости при наименьшем количестве дисбалансированных ЭЭГ-образцов применяются как ранжирование важности признаков, так и аугментация на основе GAN. Интегрируя мультимодальные взаимосвязи признаков и временные зависимости через классификацию LSTM, объединённая модель улучшает обобщение в различных условиях получения ЭЭГ. Таким образом, основной вклад этой работы заключается в преодолении недостатка интеграции между нелинейными представлениями ЭЭГ и недостаточной обобщаемости в существующих методах, а также введение систематической, воспроизводимой и стабильной структуры распознавания эмоций в реальных приложениях BCI.

Рисунок 1: Фазы эмоционального интеллекта. Фазы эмоционального интеллекта отражают, как можно извлечь распознавание эмоций из сигналов ЭЭГ, а затем использовать его для диагностики и мониторинга эмоциональных проблем в оценке психического здоровья. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.
Нелинейные особенности ЭЭГ для исследований распознавания эмоций дают более глубокое понимание нейронных процессов, связанных с аффективной обработкой. Будучи неинвазивной, высоковременной методикой, чувствительной к быстрой нейродинамике, ЭЭГ широко используется для изучения мозговой активности, связанной с эмоциональными состояниями. Нелинейные методы особенно уместны для изучения ЭЭГ-сигналов благодаря их нестационарной и сложной природе, которая лучше служит моделью как вызываемой, так и индуцированной активности в эмоциональных процессах. В любом из числа вычислительных моделей эмоции представлены с точки зрения существующих теоретических моделей, таких как Базовая модельэмоций 4 (BEM) и модельCircumplex 5,6. Два структурно и функционально различных представления о эмоциях — это модель базовых эмоций, которая предполагает, что существует набор биологически основанных основныхэмоций 7,8 (особенно любовь), и модель Циркумплекс, которая организует эмоции по двум базовым измерениям:валентность 9 (положительно–отрицательная) и возбуждение10,11 (низко–высокое). Рамка валентно-возбуждения, показанная на рисунке 2, широко распространена в исследованиях распознавания эмоций на основе ЭЭГ, главным образом благодаря её соответствию стандартным наборам данных и применимости для моделирования непрерывных эмоциональных состояний. Такое измерение-ориентированное представление предлагает систематический и количественно измеримый способ отображения нейронной активности в эмоциональные категории и, таким образом, может облегчить классификацию на основе машинного обучения.

Рисунок 2: Представление эмоций валентности и возбуждения. Двухосевая диаграмма, показывающая эмоциональные состояния: валентность указывает на положительные или отрицательные чувства, а возбуждение — с низкой или высокой эмоциональной интенсивностью. Пожалуйста, нажмите здесь, чтобы увидеть увеличенную версию этой фигуры.
Возбуждение — это эмоциональная интенсивность, валентность положительная или отрицательная. В последнее время анализ эмоций был сосредоточен на ЭЭГ для изучения нейронных коррелятов эмоций. Извлечение признаков имеет большое значение, поскольку ЭЭГ отображается в величинах во времени, частоте и временно-частотной области. Некоторые из наиболее распространённых нелинейных характеристик — вейвлет-энтропия12, корреляционнаяразмерность 13, и в этом исследовании используется комбинированный взвешенный подход, являющийся слиянием DWT, ICA иFFT 13. Стандартные наборы данных DEAP14 и SEED15 доступны для воспроизводимой оценки. Традиционные линейные признаки часто уже не являются достаточными, что требует проектирования нелинейныхподходов 16. Эмоциональные паттерны, основанные на частотных диапазонах, показаны на рисунке 2, а веса вклада полос ЭЭГ приведены в таблице 1.
| Разные частотные диапазоны | Диапазон частотных диапазонов в Гц | Функции частотного диапазона в распознавании эмоций |
| Гамма | Больше 30 Гц | Интеграция эмоциональных данных и синхронизация нескольких областей мозга во время эмоциональной обработки могут отражаться в гамма-активности. |
| Бета | В диапазоне от 13 до 30 Гц | Вариации в бета-силе могут быть признаком эмоционального возбуждения и моторных реакций, связанных с эмоциональными проявлениями. |
| Альфа | От 8 до 13 Гц | Эмоциональные состояния и вариации альфа-силы, особенно альфа-асимметрия, связаны между собой. При эмоциональном возбуждении и большем внимании к эмоциям часто наблюдается снижение альфа-силы. |
| Тета | В диапазоне от 4 до 8 Гц | Эмоциональные переживания могут быть связаны с увеличением тета-мощности, что может способствовать кодированию и восстановлению эмоциональных воспоминаний. |
| Дельта | 0,5-4 Гц | Увеличение активности дельта в контексте обнаружения эмоций может указывать на расслабленное или состояние покоя. |
Таблица 1: Функции частотного диапазона ЭЭГ в распознавании эмоций вместе с разным диапазоном. В этой таблице представлены широко распознанные частотные диапазоны ЭЭГ, указаны их соответствующие частотные диапазоны и описано их функциональное значение в исследованиях распознавания эмоций. Он подчёркивает, как каждая полоса связана с разными когнитивными и аффективными процессами, что служит основой для интерпретации сигналов ЭЭГ в классификации эмоционального состояния.
Недавнее развитие распознавания эмоций на основе ЭЭГ стимулируется прорывами в глубоком обучении и нелинейной обработке сигналов. Модели на базе CNN достигали высокой производительности благодаря выбору электродов и гиперпараметрической настройке17, тогда как независимая модель CNN с динамической дифференциальной энтропией улучшала носимость и снижаласложность 18. Однако модели для этой проблемы обычно нельзя обобщать между темами. Для моделирования зависимости последовательностей были предложены архитектуры LSTM на основе внимания с механизмами адаптациидоменов 19,20, требующие больших вычислений и недостаточно интерпретируемы. Помимо глубоких сетей, нелинейные и топологические методы также вызвали значительный интерес. С помощью устойчивого гомологического фазового пространственного анализа была получена усиленная дискриминация для тонких эмоциональныхсостояний 21,22. Методы ансамбля, сочетающие выходы энтропии и фракталов с различными выборами признаков, были известны как улучшенные предикторы. Гибридные модели CNN–LSTM 23 превосходили классификацию прямой валентности и возбуждения на DEAP24, а многоколоночные CNN эффективно использовали пространственное распределениеэлектродов 25. Представления объектов на основе топографическихкарт объектов 26, 27 (TOPO-FM) и голографических карт объектов (HOLO-FM) были оценены на ряде общедоступных наборов данных28, 29, 30. Несмотря на значительные достижения в точности классификации, проблемы с межсубъектной обобщённостью и интерпретируемостью модели, а также устойчивостью по гетерогенности условий получения ЭЭГ остаются. Автор31 предлагает обширный обзор основных вызовов, подходов и дальнейших направлений в этой области, с акцентом на качество сигнала, извлечение признаков и масштабируемость в прикладных мягких вычислениях. В связанной работе32 продвинутая функциональная связность измеряет корректированную корреляцию амплитудной огибающей в различных диапазонах ЭЭГ, выявляя неблагоприятные условия вождения, подчёркивая силу многодиапазонной связности для мониторинга поведения на лету.
В более широком нейровизуализированном соотношении33,36 представлен глубокий обзор мультимодальных методов обучения, сочетающих различные сигналы, такие как ЭЭГ и мимики или физиологические данные, для более надёжного обнаружения эмоций с целью демонстрации потенциала интеграции модальностей, что значительно повышает производительность в системах ИИ. Помимо DEAP и SEED, набор данных DREAMER также является недавним дополнением к репрезентативным ориентирам в исследованиях распознавания эмоций на основе ЭЭГ. DREAMER был предложен Кацигианнисом иРамзаном 37 и содержит сигналы ЭЭГ и ЭКГ, полученные от участников, наблюдающих за аудиовизуальными эмоциональными стимулами с помощью недорогого беспроводного устройства. Содержимое набора данных применимо для размерного моделирования эмоций с иерархиями валентности, возбуждения и доминирования в соответствии с циркумплексной моделью аффекта. Благодаря хорошо продуманной экспериментальной парадигме, наборы данных DREAMER широко используются для оценки глубокого обучения и моделей распознавания эмоций, независимых от субъекта. Его приложения могут сравнивать с другими базами данных измерений эмоций, а также показали, что он является ценной альтернативой в дополнении к набору данных cirrus dance, DEAP и SEED. Эти наборы данных широко используются в исследованиях аффективных вычислений и охватывают ЭЭГ-записи, полученные в контролируемых экспериментальных условиях со стандартизированными эмоциональными стимулами. Этот набор данных состоит из 32-канальных ЭЭГ-сигналов от 32 участников, получивших эмоциональные видеоклипы. Данные аннотированы относительно валентности и возбуждения. SEED: многосессионные ЭЭГ-записи испытуемых во время экспериментов по выживанию эмоций на основе плёнки с метками категорий эмоций. DREAMER — это набор данных по ЭЭГ и ЭКГ, записываемый во время индукции эмоций с помощью аудиовизуального подачи стимула. Все наборы данных изначально были собраны с использованием стандартизированных протоколов, аппаратных конфигураций и валидации процедур маркировки, как это было описано в их первоначальных публикациях. В данном исследовании анализировались только сигналы ЭЭГ из этих наборов данных.