$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
זיהוי רגשות חשוב באינטראקציה אנושית ובתקשורת אנושית. כדי לבסס קשרים בין-אישיים מוצלחים, יש להיות מסוגלים לתפוס ולהבין רגשות, ולכן יש לכך השלכות רחבות היקף בתחומים מגוונים כמו פסיכולוגיה, נוירולוגיה ואינטראקציהבין אדם למחשב. בשנים האחרונות, ה-BCI (ממשק מוח-מחשב) המבוסס על אלקטרואנצפלוגרם (EEG) היה כלי ראוי שעליו התמקדו חוקרים לזיהוי רגשות. למרות ש-BCI מבוסס EEG מספק חלון ישיר לפעילות החשמלית של המוח האנושי וכלי מחקר מתאים לחקר מצבים רגשיים. הסיווג האוטומטי והמדויק של מצבי רגש שינה באופן יסודי את תחום זיהוי הרגש באמצעות טכניקות למידת מכונה ו-BCI2 מבוסס EEG.
בעבודה הקודמת הוצג זיהוי רגשות וחשיבותו בתחומים שונים, כולל בריאות, אינטראקציה בין אדם למחשב, ומדעי המוח3. למרות התקדמות משמעותית, נותר פער מחקרי ברור במחקרי זיהוי רגשות מבוססי EEG הנוכחיים. ראשית, גישות שהוצגו בספרות משתמשות בחילוץ תכונות חד-תחום (למשל, תכונות ספקטרליות או תדר זמן) או בתיאורים לא ליניאריים בודדים הזמינים וניתנים להפרדה, שאינם מציעים מספיק למידול על ידי עבודה עם ייצוג חלקי של אותות EEG מורכבים ולא-סטציונריים מטבעם. שנית, בעוד שמגוון תכונות לא ליניאריות דווחו כבעלות כוח הבחנה עליון, הן בדרך כלל משמשות בנפרד ומבודדות את הקשרים בין תכונות אלו בין תחומים. מגבלה זו הופכת אותם לפחות מסוגלים למודל את הדינמיקה הרב-קנית ורמת המקור הכרוכה בהפעלת מוח רגשי. שלישית, רוב שיטות הלמידה העמוקה מיועדות לאופטימיזציה של ביצועי הסיווג אך ללא התחשבות בפרשנות תכונות, הפחתת כפילויות ועמידות בנוכחות חוסר איזון מעמדי. כתוצאה מכך, הכללה בין מערכי נתונים היא עדיין בעיה פתוחה בין מחקרים עם מערכות אלקטרודות שונות, קצב דגימה (128–256 הרץ) ומשך הקלטה (30–60 שניות). הממדים העיקריים של אינטליגנציה רגשית מוצגים באיור 1.
כדי להתגבר על חסרונות אלו, במאמר זה אנו מציגים מסגרת Combined Weighted Feature Concatenation (CWFC) שמאגדת תכונות לא ליניאריות רב-תחומיות בארכיטקטורה אחת. במקום להתייחס ל-ICA, DWT ו-FFT כשיטות חילוץ עצמאיות כמו בגישות קונבנציונליות, אנו מודלים פירוק ברמת המקור (ICA), דינמיקה זמנית רב-רזולוציה (DWT) וייצוגי עוצמה ספקטרלית (FFT) באמצעות קורלציה משוקללת. מבנה זה יכול לסייע למודל להשתמש במידע עצבי משלים ולהפחית יתירות כדי להגדיל את יכולת ההבחנה. כמו כן, גם דירוג חשיבות התכונות וגם הרחבה מבוססת GAN משמשים להשגת עמידות בדגימות EEG לא מאוזנות הנמוך ביותר. באמצעות שילוב יחסי תכונות רב-מודאליים ותלות זמנית באמצעות סיווג LSTM, המודל המשולב משפר הכללה בתנאי רכישת EEG מגוונים. לכן, התרומה המרכזית של עבודה זו היא להתגבר על חוסר האינטגרציה בין ייצוגי EEG לא ליניאריים וחוסר הכללה מספקת בשיטות קיימות, ולהכניס מסגרת שיטתית, שחזורית ויציבה לזיהוי רגשות בתוך יישומי BCI במציאות.

איור 1: שלבי האינטליגנציה הרגשית. שלבי האינטליגנציה הרגשית מייצגים כיצד ניתן להפיק זיהוי רגשי מאותות EEG, ולאחר מכן משמשים באבחון ומעקב אחר בעיות רגשיות בהערכות בריאות הנפש. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.
תכונות EEG לא ליניאריות למחקר זיהוי רגשות מספקות הבנה מעמיקה יותר של התהליכים העצביים המעורבים בעיבוד רגשי. בהיותה טכניקה לא פולשנית ורזולוציה זמנית גבוהה ורגישה לדינמיקה עצבית מהירה, EEG שימשה באופן נרחב לחקר פעילות מוחית הקשורה למצבים רגשיים. שיטות לא ליניאריות מתאימות במיוחד לחקר אותות EEG, בשל אופיים הלא-סטציוני והמורכב, המהווה מודל טוב יותר הן לפעילות המעוררת והן לפעילות המושרה בתהליכים רגשיים. במגוון מודלים חישוביים, רגש מיוצג בהתייחסות למודלים תיאורטיים קיימים כגון מודל רגשבסיסי 4 (BEM) ומודל Circumplex 5,6. שתי תפיסות שונות מבנית ופונקציונלית של רגש הן מודל הרגש הבסיסי, המניח שקיים סט של רגשות יסודיים בסיסייםמבוססי ביולוגיה 7,8 (במיוחד אהבה), ומודל Circumplex שמארגן את הרגש לפי שני ממדים בסיסיים: ערך9 (חיובי–שלילי) ועוררות10,11 (נמוך–גבוה). מסגרת הערכיות-עוררות המוצגת באיור 2 נפוצה במחקרי זיהוי רגשות מבוססי EEG, בעיקר בשל התאמותה למערכי הנתונים הסטנדרטיים ויכולת היישום שלה למידול מצבים רגשיים רציפים. ייצוג מבוסס ממדים זה מציע אמצעי שיטתי וכמותי למיפוי פעילות עצבית לקטגוריות רגשיות, ובכך יכול להקל על סיווג מבוסס למידת מכונה.

איור 2: ייצוג רגש בין ערכיות לעוררות. דיאגרמת שני צירים המציגה מצבים רגשיים, כאשר הוולנס מציין רגשות חיוביים או שליליים והעוררות משקפת עוצמה רגשית נמוכה עד גבוהה. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.
עוררות היא עוצמה רגשית, ערך חיובי או שלילי. ניתוח רגשות מתמקד לאחרונה ב-EEG לחקירת מתאמים עצביים של רגשות. חילוץ תכונות חשוב מאוד, שממפה את ה-EEG לכמויות בזמן, תדירות ותחום זמן–תדר. חלק מהמאפיינים הלא-ליניאריים הנפוצים ביותר הם אנטרופיית גלים12, ממד קורלציה13, והמחקר המוצע הזה משתמש בגישה משוקללת משולבת שהיא מיזוג של DWT ו-ICA ו-FFT13. מערכי נתונים סטנדרטיים של DEAP14 ו-SEED15 זמינים להערכה ניתנת לשחזור. תכונות ליניאריות מסורתיות לעיתים קרובות אינן מספקות עוד, מה שדורש עיצוב גישות לא ליניאריות16. דפוסי רגש מבוססי תדרים מוצגים באיור 2, ומשקלי התרומות של תחומי EEG מפורטים בטבלה 1.
| תחום תדרים שונה | טווח תחום התדרים בהרץ | פונקציות של תחום התדרים בזיהוי רגשות |
| גמא | יותר מ-30 הרץ | שילוב נתונים רגשיים וסינכרון של מספר אזורים במוח במהלך עיבוד רגשי יכול להשתקף בפעילות גמא. |
| בטא | בין 13 ל-30 הרץ | שינויים בכוח הבטא יכולים להיות סימן לעוררות רגשית ולתגובות מוטוריות הקשורות לתצוגות רגשיות. |
| אלפא | בין 8 ל-13 הרץ | מצבים רגשיים ושינויים בכוח האלפא, במיוחד אסימטריית אלפא, קשורים זה לזה. כאשר מגורה רגשית ומקשיבה יותר לקלטים רגשיים, לעיתים קרובות נראית ירידה בכוח האלפא. |
| תטא | בין 4 ל-8 הרץ | חוויות רגשיות יכולות להיות קשורות לעלייה בכוח התטא, מה שעשוי לסייע בקידוד ושליפה של זיכרונות רגשיים. |
| דלתא | 0.5-4 הרץ | עלייה בפעילות דלתא בהקשר של זיהוי רגשות עשויה להצביע על מצב רגשי רגוע או מנוחה. |
טבלה 1: פונקציות תחום התדרים של EEG בזיהוי רגשות יחד עם טווח שונה. טבלה זו מתארת את תחומי התדרים המוכרים של EEG, מגדירה את טווחי התדרים המתאימים שלהם, ומתארת את המשמעות התפקודית שלהם במחקר זיהוי רגשות. הוא מדגיש כיצד כל תחום קשור לתהליכים קוגניטיביים ורגשיים שונים, ומספק בסיס לפרשנות אותות EEG בסיווג מצבים רגשיים.
הפיתוח האחרון של זיהוי רגשות מבוסס EEG מונע על ידי פריצות דרך בלמידה עמוקה ועיבוד אותות לא ליניארי. מודלים מבוססי CNN השיגו ביצועים גבוהים באמצעות בחירת אלקטרודות וכיוונון היפרפרמטר17, בעוד שמודל CNN בלתי תלוי בנושא המשתמש באנטרופיה דינציאלית דינמית שיפר את יכולת הלבישה והפחית אתהמורכבות 18. אבל מודלים לבעיה זו בדרך כלל אינם ניתנים להכללה בין נושאים שונים. כדי למודל תלות רצפים, הוצעו ארכיטקטורות LSTM מבוססות קשב עם מנגנוני התאמת תחום,19,20 שדורשות חישוב גדול וחסרות פרשנות. מעבר לתחום הרשתות העמוקות, שיטות לא-ליניאריות וטופולוגיות זכו גם הן לעניין רב. באמצעות ניתוח מרחב פאזה מבוסס הומולוגיה מתמשכת, הושגה הבחנה מוגברת עבור מצבים רגשיים עדינים21,22. שיטות אנסמבל ששילבו יציאות אנטרופיה ופרקטליות עם בחירות תכונות שונות היו ידועות כמנבאות משופרות. מודלים היברידיים של CNN–LSTM23 עקפו את סיווג הערכיות-עוררות ישיר ב-DEAP24, ו-CNNs רב-עמודיים ניצלו את ההתפלגות המרחבית של האלקטרודות ביעילות25. מפות תכונות טופוגרפיות26,27 (TOPO-FM) ומפות תכונות הולוגרפיות (HOLO-FM) הוערכו על מספר מערכי נתונים זמיניםלציבור 28,29,30. למרות שתוצאות אלו מראות התקדמות משמעותית בדיוק הסיווג, עדיין קיימים אתגרים בנוגע להכללה חוצת תחומים ופרשנות של המודל ועמידות ביחס להטרוגניות תנאי רכישת EEG. מחבר31 מציע סקר מקיף על האתגרים, הגישות והכיוונים המרכזיים בתחום זה, תוך התמקדות באיכות אותות, חילוץ תכונות ויכולת הרחבה במחשוב רך יישומי. בעבודה קשורה32, מדד קישוריות פונקציונלית מתקדם תיקן את הקורלציה בין תחומי תדר EEG שונים בזיהוי תנאי נהיגה שליליים, תוך הדגשת חוזק הקישוריות הרב-תחומית למעקב התנהגותי בזמן אמת.
ביחס רחב יותר של דימות מוחי33,36, סקירה חזקה של שיטות למידה רב-מודליות המשלבות אותות שונים כגון EEG והבעות פנים או נתונים פיזיולוגיים לזיהוי רגשות אמין יותר, בהתייחס להדגמת הפוטנציאל של שילוב מודליות שמעלה משמעותית את הביצועים במערכות בינה מלאכותית. מלבד DEAP ו-SEED, מערך הנתונים DREAMER הוא תוספת עדכנית למדדים מייצגים במחקרי זיהוי רגשות מבוססי EEG. DREAMER הוצע על ידי קציגיאניס ורמזאן37, שמכיל אותות EEG ו-ECG שנקלטים מנבדקים שצופים בגירויים רגשיים אודיו-ויזואליים באמצעות מכשיר אלחוטי זול. תוכן מאגר הנתונים מתאים למידול ממדי של רגשות עם היררכיות של ערכיות, עוררות ודומיננטיות בהתאם למודל ההרגשה הסביבתית. בזכות הפרדיגמה הניסיונית המחושבת שלו, מערכי הנתונים של DREAMER שימשו רבות להערכת למידה עמוקה ומודלים לזיהוי רגשות בלתי תלויים בנושא. יישומיו יכולים להרשות לעצמם להשוות למאגרי מידע אחרים של ייצוג רגשות ממדיים, והוכח כי הוא מהווה אלטרנטיבה חשובה כמשלימה למאגר הנתונים cirrus dance, DEAP ו-SEED. מערכי נתונים אלו משמשים רבות במחקרי חישוב רגשי וכוללים הקלטות EEG שנאספו בתנאים ניסיוניים מבוקרים עם גירויים רגשיים סטנדרטיים. מאגר נתונים זה כולל אותות EEG בני 32 ערוצים מ-32 נבדקים שקיבלו קטעי וידאו רגשיים. הנתונים מסומנים לגבי ערך ועוררות. SEED: הקלטות EEG מרובות מפגשים של נבדקים במהלך ניסויי עוררת רגשות מבוססי סרט עם תוויות רגשיות קטגוריות. DREAMER הוא מערך נתונים של EEG ו-ECG שנקלט במהלך השראת רגשות באמצעות הצגה של גירוי אודיו-ויזואלי. כל מערכי הנתונים נאספו במקור באמצעות פרוטוקולים סטנדרטיים, תצורות חומרה ואימות נהלי תיוג כפי שדווחו בפרסומיהם המקוריים. כאן, אותות EEG מתוך מאגרי נתונים אלו נותחו במחקר זה.