$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Duygu tanıma, insan etkileşimi ve iletişimde önemlidir. Başarılı kişilerarası bağlantılar kurmak için, duyguları algılayabilmeli ve anlayabilmelidir; bu da psikoloji, nöroloji ve insan-bilgisayar etkileşimi gibi çeşitli alanlarda geniş kapsamlı sonuçlara sahipolmalıdır. Son birkaç yılda, elektroensefalogram (EEG) tabanlı BCI (Beyin Bilgisayar Arayüzü), araştırmacıların duyguları tespit etmek için odaklandığı bir değerli araç olmuştur. EEG tabanlı BCI, insan beyninin elektriksel aktivitesine doğrudan bir pencere ve duygusal durumları keşfetmek için uygun bir araştırma aracı sunar. Otomatik ve doğru duygusal durum sınıflandırması, makine öğrenimi teknikleri ve EEG tabanlı BCI2 aracılığıyla duygu tanıma alanını kökten değiştirmiştir.
Önceki çalışmalarda, duygu tanıma ve bunun sağlık hizmetleri, insan-bilgisayar etkileşimi ve sinirbilim gibi çeşitli alanlardaki önemitanıtılmıştır. Önemli ilerlemelere rağmen, mevcut EEG tabanlı duygu tanıma çalışmalarında belirgin bir araştırma açığı hâlâ devam etmektedir. İlk olarak, literatürde tanıtılan yaklaşımlar, yalnızca doğası gereği karmaşık ve durağan olmayan EEG sinyallerinin kısmi temsili ile çalışmak için modelleme için yeterli olmayan tek alanlı özellik çıkarımı (örneğin, spektral veya zaman frekansı özellikleri) veya tekil doğrusal olmayan tanımlayıcılar kullanır. İkincisi, çeşitli doğrusal olmayan özelliklerin üstün ayırt etme gücüne sahip olduğu bildirilse de, genellikle ayrı ayrı kullanılır ve bu özellikler arasındaki ilişkileri alanlar arasında izole eder. Bu kısıtlama, duygusal beyin aktivasyonuyla ilgili çok ölçekli ve kaynak düzeyindeki dinamikleri modellemelerini daha az yapmasına neden olur. Üçüncü olarak, derin öğrenme yöntemlerinin çoğu sınıflandırma performansını optimize etmek için tasarlanmıştır ancak sınıf dengesizliği durumunda özellik yorumlanabilirliği, yedeklik azaltımı ve sağlamlığı dikkate almaz. Sonuç olarak, farklı elektrot düzenlemeleri, örnekleme hızı (128–256 Hz) ve kayıt süresi (30–60 s) ile yapılan araştırmalar arasında çapraz veri genellemesi hâlâ açık bir sorundur. Duygusal zekanın ana boyutları Şekil 1'de sunulmaktadır.
Bu tür dezavantajları aşmak için, bu makalede, çoklu alanlı doğrusal olmayan özellikleri tek bir mimaride toplayan Birleşik Ağırlıklı Özellik Birleştirme (CWFC) çerçevesi sunuyoruz. ICA, DWT ve FFT'yi geleneksel yaklaşımlar gibi bağımsız çıkarma yöntemleri olarak ele almak yerine, kaynak düzeyinde ayrıştırma (ICA), çok çözünürlüklü zaman dinamikleri (DWT) ve spektral güç temsillerini (FFT) ağırlıklı bir korelasyon üzerinden modelliyoruz. Bu yapı, modelin tamamlayıcı sinirsel bilgileri kullanmasına ve tekrarı azaltarak ayırt etme yeteneğini artırmasına yardımcı olabilir. Ayrıca, en az dengesiz EEG örneğinde sağlamlığı sağlamak için hem özellik önemi sıralaması hem de GAN tabanlı artırma uygulanır. Çok modlu özellik ilişkilerini ve zamansal bağımlılıkları LSTM sınıflandırması aracılığıyla entegre eden bu model, çeşitli EEG alım koşullarında genellemeyi iyileştirir. Bu nedenle, bu çalışmanın en büyük katkısı, doğrusal olmayan EEG temsilleri arasındaki entegrasyonun eksikliğini ve mevcut yöntemlerde yeterli genellenebilirliğin eksikliğini aşmak ve gerçek hayat BCI uygulamalarında sistematik, tekrarlanabilir ve kararlı bir duygu tanıma çerçevesi sunmaktır.

Şekil 1: Duygusal zekanın evreleri. Duygusal zekanın evreleri, EEG sinyallerinden duygu tanımanın nasıl çıkarılabileceğini ve ardından ruh sağlığı değerlendirmelerinde duygusal sorunların teşhisi ve izlenmesinde nasıl kullanıldığını gösterir. Bu figürün daha büyük bir versiyonunu görmek için lütfen buraya tıklayın.
Duygu tanıma araştırmaları için doğrusal olmayan EEG özellikleri, duygusal işlemede yer alan sinirsel süreçlerin daha derin bir anlaşılmasını sağlar. İnvaziv olmayan, yüksek zamansal çözünürlüklü ve hızlı sinirsel dinamiklere duyarlı bir teknik olan EEG, duygusal durumlarla ilgili beyin aktivitesinin incelenmesinde geniş çapta kullanılmaktadır. Doğrusal olmayan yöntemler, EEG sinyallerinin incelenmesi için özellikle uygundur; çünkü durağan olmayan ve karmaşık yapıları nedeniyle hem uyarlanan hem de tetiklenen aktivitelerinin duygusal süreçlerdeki daha iyi bir modelini oluşturur. Birçok hesaplamalı modelde, duygu Temel DuyguModeli 4 (BEM) ve CircumplexModeli 5,6 gibi mevcut teorik modellerle referans olarak temsil edilir. Yapısal ve işlevsel olarak iki farklı duygu kavramı, biyolojik temelli temelduygular 7,8 (özellikle aşk) kümesinin var olduğunu varsayan Temel Duygu modeli ve duyguyu iki temel boyuta göre organize eden Circumplex Modeli'dir:değerlik 9 (pozitif–negatif) veuyarılma 10,11 (düşük–yüksek). Şekil 2'de gösterilen değerlik–uyarılma çerçevesi, standart veri setleriyle uyumu ve sürekli duygusal durumların modellenmesinde uygulanabilirliği nedeniyle EEG tabanlı duygu tanıma çalışmalarında yaygındır. Bu boyut tabanlı temsil, sinirsel aktiviteyi duygusal kategorilere eşlemek için sistematik ve ölçülebilir bir araç sunar ve böylece makine öğrenimi tabanlı sınıflandırmayı kolaylaştırabilir.

Şekil 2: Valans-uyarılma duygu temsili. Duygusal durumları gösteren iki eksenli diyagram, değerlik pozitif veya olumsuz duyguları gösterirken, uyarılma düşük ila yüksek duygusal yoğunluğu yansıtır. Bu figürün daha büyük bir versiyonunu görmek için lütfen buraya tıklayın.
Uyanık, duygusal yoğunluktur, değerlik pozitif ya da negatif. Duygu analizi, son zamanlarda duyguların sinirsel korelasyonlarını araştırmak için EEG'ye odaklanmıştır. Özellik çıkarımı çok önemlidir ve EEG'yi zaman, frekans ve zaman-frekans alanındaki niceliklere eşler. En yaygın doğrusal olmayan özelliklerden bazıları Wavelet Entropisi12, KorelasyonBoyutu 13'dür ve önerilen çalışma, DWT, ICA ve FFT13'ün birleşimi olan birleşik ağırlıklı yaklaşım kullanmaktadır. Standart DEAP14 ve SEED15 veri setleri tekrarlanabilir değerlendirme için mevcuttur. Geleneksel doğrusal özellikler genellikle artık yeterli değildir ve doğrusal olmayan yaklaşımların tasarlanmasınıgerektirir 16. Frekans bandına dayalı duygusal kalıplar Şekil 2'de gösterilmekte ve EEG bantlarının katkılarının ağırlıkları Tablo 1'de listelenmiştir.
| Farklı Frekans Bandı | Hz cinsinden frekans bandı aralığı | Duygu tanımadaki frekans bandının fonksiyonları |
| Gamma | 30 Hz'den büyük | Duygusal verilerin entegrasyonu ve duygusal işleme sırasında birkaç beyin bölgesinin senkronize edilmesi, gama aktivitesinde yansıyabilir. |
| Beta | 13 ila 30 Hz arasında | Beta güçlerindeki değişiklikler, duygusal uyarılmanın ve duygusal gösterilere bağlı motor tepkilerin bir işareti olabilir. |
| Alfa | 8 ile 13 Hz arasında | Duygusal durumlar ve alfa güçlerindeki varyasyonlar, özellikle alfa asimetrisi, birbirleriyle ilişkilidir. Duygusal olarak uyarıldığında ve duygusal girdilere daha fazla dikkat edildiğinde, alfa gücünde azalma sıklıkla görülür. |
| Theta | 4 ila 8 Hz arasında | Duygusal deneyimler, duygusal anıların kodlanmasına ve geri kazanılmasına yardımcı olabilecek artan teta gücünle ilişkilendirilebilir. |
| Delta | 0.5-4 Hz | Duygu algılama bağlamında delta aktivitesinin artışı, rahatlamış veya dinlenen bir duygusal duruma işaret edebilir. |
Tablo 1: Duygu tanıma sisteminde EEG frekans bandının fonksiyonları ve farklı aralıklar. Bu tablo, yaygın olarak tanınan EEG frekans bantlarını özetler, ilgili frekans aralıklarını belirtir ve duygu tanıma araştırmalarındaki işlevsel önemlerini açıklar. Her bandın farklı bilişsel ve duygusal süreçlerle nasıl ilişkili olduğunu vurgularak EEG sinyallerinin duygusal durum sınıflandırmasında yorumlanması için bir temel sağlar.
EEG tabanlı duygu tanımadaki son gelişmeler, derin öğrenme ve doğrusal olmayan sinyal işlemedeki atılımlarla desteklenmektedir. CNN tabanlı modeller, elektrot seçimi ve hiperparametre ayarınıkullanarak yüksek performans elde etti 17, dinamik diferansiyel entropi kullanan konulardan bağımsız CNN modelleri ise giyilebilirliği artırdı ve karmaşıklığıazalttı 18. Ancak bu sorun için modeller genellikle konular arasında genellenemez. Dizi bağımlılıklarını modellemek için, büyük hesaplama gerektiren ve yorumlanabilirlikten yoksun olan dikkat odaklı LSTM mimarileri19,20 önerilen alan uyarlama mekanizmaları. Derin ağların ötesinde, doğrusal olmayan ve topolojik yöntemler de önemli ilgi görmüştür. Kalıcı homoloji tabanlı faz uzayı analizi kullanılarak, ince duygusal durumlar için artırılmış ayrım eldeedilmiştir 21,22. Entropi ve fraktal çıktıları çeşitli özellik seçimleriyle birleştiren topluluk yöntemlerinin, gelişmiş öngörücüler olduğu bilinmektedir. Hibrit CNN–LSTMmodelleri 23, DEAP24'te doğrudan değerlik–uyarılma sınıflandırmasını geride bıraktı ve çok sütunlu CNN'ler elektrotların mekansal dağılımını etkilişekilde 25 kullandı. Topografik ÖzellikHaritaları 26,27 (TOPO-FM) ve Holografik Özellik Haritaları (HOLO-FM) tabanlı özellik temsilleri, halka açık verisetleri üzerinde değerlendirildi (28,29,30). Bu sonuçlar sınıflandırma doğruluğunda önemli ilerlemeler göstermesine rağmen, modelin çapraz genellemesi ve yorumlanabilirliği ile EEG alım koşullarının heterojenliği üzerindeki sağlamlığı konusundaki zorluklar hâlâ devam etmektedir. Yazar31, bu alandaki ana zorluklar, yaklaşımlar ve ileri yönler üzerine kapsamlı bir anket sunar; Uygulamalı Yumuşak Hesaplamada sinyal kalitesi, özellik çıkarımı ve ölçeklenebilirlik üzerine odaklanır. İlgilibir çalışmada 32, gelişmiş fonksiyonel bağlantı, farklı EEG frekans bantları arasında düzeltilmiş genlik zarfı korelasyonunu ölçerek olumsuz sürüş koşullarını belirledi ve anında davranışsal izleme için çoklu bantlı bağlantının gücünü vurguladı.
Daha geniş bir nörogörüntülemeilişkisi 33,36 olarak, EEG ve yüz ifadeleri gibi farklı sinyalleri veya daha güvenilir duygu tespiti için fizyolojik verileri birleştiren çoklu modal öğrenme yöntemlerinin güçlü bir genel görünümü ve yapay zeka sistemlerinde performansı önemli ölçüde artıran modaliteler entegrasyonunun potansiyelini göstermek için referans gösterilir. DEAP ve SEED'in yanı sıra, DREAMER veri seti EEG tabanlı duygu tanıma çalışmalarında temsil eden kıyaslamalara yeni eklenmiştir. DREAMER, Katsigiannis ve Ramzan37 tarafından önerilmiştir; bu sinyal, uygun fiyatlı kablosuz cihazla görsel-görsel duygusal uyaranları izleyen deneklerden alınan EEG ve EKG sinyallerini içerir. Veri setinin içeriği, duyguların değerlik, uyarılma ve hakimiyet hiyerarşileriyle boyutsal modellemesi için geçerlidir; bu model, circumplex etki modeline uygundur. İyi düşünülmüş deneysel paradigması sayesinde, DREAMER veri setleri derin öğrenme ve özneden bağımsız duygu tanıma modellerinin değerlendirilmesi için yaygın olarak kullanılmıştır. Uygulamaları, boyutsal duygu temsili veritabanlarıyla karşılaştırma imkanı sunabilir ve ayrıca cirrus dansı, DEAP ve SEED veri setine ek olarak değerli bir alternatif olduğunu göstermiştir. Bu veri setleri, duygusal hesaplama çalışmalarında yaygın olarak kullanılır ve kontrollü deneysel koşullarda standartlaştırılmış duygusal uyarıcılarla elde edilen EEG kayıtlarını kapsar. Bu veri seti, duygusal video klipleri alınan 32 denek tarafından alınan 32 kanallı EEG sinyallerinden oluşmaktadır. Veriler değerlik ve uyarılma ile ilgili açıklamalar içerir. SEED: kategorik duygu etiketleriyle film tabanlı duygu ortaya çıkarma deneyleri sırasında deneklerin çok oturumlu EEG kayıtları. DREAMER, duygu indüksiyonu sırasında sessel-görsel uyaran sunumu yoluyla kaydedilen bir EEG ve EKG veri setidir. Tüm veri setleri, orijinal yayınlarında bildirilen standart protokoller, donanım yapılandırmaları ve etiketleme prosedürlerinin doğrulanması kullanılarak başlangıçta toplanmıştır. Burada, yalnızca bu veri setlerinden alınan EEG sinyalleri bu çalışmada analiz edilmiştir.