למידת מכונה והערת רגשות חסכונית מבוססת כללים לקסיקליים של אמירות הינגליש

Summary

מחקר זה משלב את האסטרטגיה מבוססת הכללים עם למידת מכונה וסיוע של מומחים לביאור הטקסט ההינגליש והאנגלית. הנתונים נבדקים על 19,000 ציוצים בדיוק של 81%, וזה הרבה יותר זול מאשר לעשות זאת ידנית. זה יכול להיות שימושי למעקב אחר רגשות במהלך משבר.

Abstract

הערת רגשות בשפות מעורבות קוד כמו הינגליש (הינדית-אנגלית) מציגה אתגרים ייחודיים בשל מורכבות לשונית ואילוצי משאבים. מחקר זה מציג מסגרת למידה פעילה היברידית המשלבת כללים לקסיקליים, למידת מכונה ומשוב מומחה איטרטיבי כדי להשיג הערת רגשות חסכונית ומדויקת. המסגרת מבוססת על תיאוריות פסיכולוגיות של רגשות, כולל תיאוריית הרגשות הבדידים ותיאוריית ההערכה הקוגניטיבית, ומשתמשת במילוני רגשות דו-לשוניים (למשל, מיפוי גוסה וזעם לכעס), טוקניזציה של תת-מילים למונחים מורכבים (למשל, פיצול ל ), ולמידה פעילה כדי לתעדף דוגמאות דו-משמעיות. המסגרת, שהוערכה על בסיס מערך נתונים של 19,000 ציוצים הקשורים למלחמה וסכסוך, השיגה דיוק של 81% (ציון F: 0.76) תוך הפחתת עלויות התפעול ב-40% בהשוואה להערות ידניות. כללים לקסיקליים פתרו 89% מאי הבהירות בהחלפת קוד, ושכלולים איטרטיביים אפשרו שיפור דיוק מצטבר מ-72% ל-81%. יעילות המערכת נובעת מהגבלת המאמץ האנושי ל-73% ממערך הנתונים, עם עיבוד מקדים אוטומטי של אימוג'ים, האשטאגים וסלנג. מחקר זה מבוסס על ההשערה ששילוב שיטות מבוססות כללים לקסיקליים עם למידה פעילה ולמידת מכונה יכול לשפר את הדיוק של הערת רגשות בטקסט הינגליש, ובמקביל להפחית את התיוג הידני ואת מאמץ ההערות הכולל.

Introduction

כאשר שתי שפות או יותר מעורבבות יחד בשורה אחת או בדיבור אחד, זה נקרא שפה מעורבת קוד. זה נפוץ בדיאלוג מזדמן כמו הינגליש. ישנן דרכים רבות להבנת רגשות אנושיים, ומודל חישובי של סדרה של הצהרות רגשיות פירושו לבאר אותן על ידי האנשים שאמרו את המשפטים האלה. ניתן להבין אותו במונחים של רמות ביולוגיות, פיזיולוגיות, פסיכולוגיות וכן הלאה. על פי מדענים כמו רוג'ר פנרוז, תופעות רבות בעולמנו אינן חישוביות, ומדענים כמו וולפרם סבורים שניתן למדל כל דבר (כל תופעה) באופן חישובי¹. פנרוז מאמין שתודעה מערבת תהליכים (אולי קשורים למכניקת הקוונטים בתוך המוח) שהם מעבר למה שכל הליך אלגוריתמי צעד אחר צעד יכול להשיג. הוא מצטט לעתים קרובות את משפטי האי-שלמות של גדל כדי לתמוך ברעיון שהתובנה המתמטית האנושית, למשל, מתעלה מעל מערכות פורמליות². אם התודעה אינה חישובית, אז לרגשות, כהיבט מרכזי של החוויה המודעת, עשויים להיות גם אלמנטים לא חישוביים. סטיבן וולפרם, הידוע בזכות המתמטיקה ועבודתו על אוטומטים תאיים, מציע את "עקרון השקילות החישובית". זה מצביע על כך שאפילו מערכות מורכבות מאוד, כולל פוטנציאלית היקום עצמו ותופעות בתוכו (כמו רגשות), יכולות בסופו של דבר להיות מתוארות ומודלים על ידי כללים חישוביים, גם אם הכללים האלה פשוטים מאוד, ויוצרים התנהגות מורכבת. אבל מבחינה מעשית, זה לא אפשרי, ואנחנו צריכים מישהו שמכונה מומחה או פשוט מבאר שיכול לעשות ניתוח רגשות³.

במחקר זה, אנו מפיצים את הרעיון של בניית מודלים חישוביים. אבל המודל הזה יהיה מעין-חישובי. המחקר שלנו בהקשר זה שואף להיות חישובי בצורתו, אך ייתכן שלא יתפוס את כל ההיבטים בצורה מושלמת, ואולי ישאיר מקום למורכבויות שקשה או בלתי אפשרי לחשב במלואן. קשה למדל רגשות באופן חישובי מכיוון שהם תלויים בחוויות סובייקטיביות, בהקשר תרבותי ובביטויים ניואנסים שלא ניתן ללכוד במלואם באמצעות אלגוריתמים קבועים.

לכן, למידול רגשות אנושיים באמצעות גישות חישוביות מבוססות משתנים, יש צורך להוסיף הערות לאמירות רגשיות אנושיות. ביאור זה צריך להתבצע על ידי מומחה או מבאר המיומן בניתוח רגשות¹. הבנת המורכבות של רגשות אנושיים אינה משימה קלה, במיוחד כשמדובר בשפות מעורבות. יתר על כן, בעיות הקשורות לקנה מידה פירושן שהסתמכות אך ורק על הערות ידניות על ידי בני אדם אינה אפשרות מעשית. מחקרים אחרונים מצביעים על צורך עקבי בגישה אנושית בלולאה בעת בניית מערכות למשימות מורכבות כאלה. כתוצאה מכך, גישה חצי אוטומטית, הכוללת אוטומציה של החלקים הפשוטים יותר תוך שמירת משימות הדורשות ניואנסים אנושיים לביאורים, נראית המתאימה ביותר לפיתוח מערכות שפה טבעית בתחום זה.

מבאר אנושי יעשה כמובן עבודה ידנית, ובעידן החישוב, זה לא מה שמצופה ממדענים בני זמננו. אם המחבר (ידני, חצי אוטומטי או אוטומטי לחלוטין) מסוגל לנחש בצורה אינטליגנטית את סוג הרגש המגולם באמירות, אמירות המורכבות ממספר סוגים של רגשות המובעים כסמלים, עם דיבור או קוד מעורבב ושימוש במספר אופנים, אז המשימה קשה וקלה בו זמנית. המורכבות של ביאור רגש באמירות הינגליש תלויה באופי הביטוי. כאשר רגשות מועברים בצורה ברורה באמצעות מילים מוכרות או אימוג'ים, ההערות הן פשוטות יחסית. עם זאת, המשימה הופכת למאתגרת כאשר אמירות מערבות רגשות מרובים, ערבוב קודים או ביטויים סמליים מעורפלים. לכן, הערות יכולות להיות גם קלות וגם קשות, תלוי עד כמה הרגש מתבטא ישירות.

גישות עכשוויות בזיהוי רגשות ורגשות מתמודדות עם אתגרים אלה, כולל האופי הסובייקטיבי של רגשות, העמימות בביטויים אנושיים, המורכבות של שפות מעורבות קוד כמו הינגליש, והאופי הגוזל זמן וחוסר עקביות של הערות ידניות. קשור לבניית מודלים חישוביים וניהול משימות הערות מייגעות. מחקרים אחרונים מצביעים על כך שחוקרים משתמשים במגוון רחב של שיטות למטרה זו, כולל למידת מכונה, למידה עמוקה וגישות היברידיות שונות. מחקרים אחרונים מראים שכדי להתגבר על בעיות אלה, חוקרים משתמשים במגוון טכניקות, כגון למידת מכונה, למידה עמוקה ומודלים היברידיים.

מחקרים אחרונים מראים כי חוקרים משתמשים בכל מיני גישות, כולל למידת מכונה, למידה עמוקה³ וגישות היברידיות. המונח ניתוח סנטימנט מתייחס להליך המשמש כאשר מאמינים שהקוטביות של הרגשות היא סמן להבנת הרגש הגולמי של בני אדם ^3,4. הפיתוח של טכנולוגיה כזו עזר לזהות מצב רוח, סנטימנטים, דיבור, רגשות פנים ורמזים לא מילוליים, וכבר עשה את דרכו ליישומים המאפשרים תרגום בזמן אמת². ניתן להשתמש בגישה רב-מודאלית כדי לתרגם את הינגליש לאנגלית ועשויה להיות מועילה בעתיד להפוך את הקולנוע ההודי לנגיש יותר לחברות מרוחקות ^5,6. לדוגמה, בהודו, אנגלית היא לעתים קרובות השפה השנייה. מחקרים בהקשר זה מראים כי זה שיפר את איכות הוראת האנגלית על ידי ניתוח הדיבור ההודי (שפת קוד מעורב) עבור הביטוי, או מידת התחושה והרגש, של כל מילה.

בהקשר מחקרי זה, הוכח כי השימוש בשפת קוד מעורב בשילוב עם תרגום משפר את איכות הוראת האנגלית. זה מושג באמצעות ניתוח הדיבור ההודי (שפת קוד מעורב) כדי לקבוע את האקספרסיביות, או הערכיות הרגשית, של כל מילה. באמצעות יישום למידה עמוקה לאימון מחשבים בפרשנות דיבור, מחקר זה כבר שיפר את הדיוק של ניתוח דיבור ממוחשב והקל על הבנה טובה יותר של תקשורת ^4,5. על פי תוצאות מפקד האוכלוסין משנת 2001, הינגליש, שפה שהיא תערובת של הינדי ואנגלית, משמשת כיום כ-120 מיליון אנשים בהודו⁶.

מהנוף העכשווי של אלגוריתמי למידה, ברור שלמידה פעילה התגלתה ככלי רב עוצמה להפחתה משמעותית של המאמץ האנושי בביאור מערכי נתונים גדולים, במיוחד בתחום זיהוי וזיהוי רגשות. גישה איטרטיבית זו, המבארת באופן סלקטיבי ביאורים משפיעים (עם מדדים מתאימים), לא רק משפרת את דיוק ההערות אלא גם משפרת את היעילות⁵. מחקרים קודמים הוכיחו את יעילותו בהשגת הפחתות משמעותיות בעומס העבודה של הערות ידניות תוך שמירה או אפילו שיפור ביצועים עם מערכי נתונים קטנים יותר של הדרכה והצעת שיטה מבוססת ניתוח אשכולות לבחירת מופע אינפורמטיבי ^7,8. בהקשר הספציפי של זיהוי רגשות הינגליש, חוקרים תרמו תרומות חשובות באמצעות מודלים של למידה עמוקה ומערך נתונים מבואר מרובה תוויות ^9,10,11. מחקרים קודמים ^12,13 הציגו למידה פעילה ושיטות מפוקחות למחצה כדי למזער את התלות בנתונים המסומנים על ידי בני אדם, לשפר עוד יותר את היעילות ולהפחית את עלויות הביאור. יתר על כן, למידה פעילה הוכחה בפרויקטים רבים כדי לשפר את ביצועי הסיווג, במיוחד בסיווג רגשות מרובי תוויות¹⁴.

היעילות של למידה פעילה בשיפור ביצועי המסווג הוכרה ביישומי למידת מכונה שונים. מחקרים ^15,16 הדגישו את תפקידו המכריע בשיפור הביצועים על ידי התמקדות ביישומים חינוכיים. באופן דומה, מחקר מוקדם הציג אלגוריתם חדש ללמידה פעילה עם מכונות וקטוריות תומכות, מה שהפחית משמעותית את הצורך במופעים מתויגים¹⁷. עבודה אחרת חקרה גם את יישומו במשימות הכוללות מופעים מובנים, כגון סיווג טקסט¹⁸. השפעת הלמידה הפעילה על משימות זיהוי רגשות חורגת מעבר לרווחי יעילות, במיוחד במזעור ההסתמכות על נתונים המסומנים על ידי בני אדם. מחקר אחד הציג מסגרת מרובת משימות לסיווג רגשות ורגרסיה, העולה על הביצועים של שיטות משימה בודדת¹⁰.

יתר על כן, חוקרים¹⁹ עשו צעדים משמעותיים בזיהוי רגשות דיבור וטקסט באמצעות למידה פעילה, תוך הדגמת^{יעילותו} בסיווג רגשות מוזיקה מותאם אישית. עם זאת, תהליך הסיווג והתיוג של רגשות מהווה אתגר משמעותי, כפי שהודגש^21,22, במיוחד בהקשרים של ניתוח סנטימנטים. מציין ששימוש בתווית יכול להשפיע באופן משמעותי על סיווג רגשות, במיוחד עבור קטגוריות שנלמדו מאוחר יותר²³. כדי להתמודד עם אתגרים אלה, פותחו אלגוריתמים שונים, כולל שיטות מבוססות מילות מפתח ומבוססות למידה, שהשיגו שיעורי דיוק בולטים²⁴. מחקר על רגשות המבוססים על אמירות וטקסטים כתובים נחקר במודלים רבים, וגישות יישמו מודל ממדי באמצעות מסדי נתונים נורמטיביים לזיהוי רגשות יעיל²⁵. במחקר אחר²⁶, מודל רגש קוגניטיבי שיפר שיטה רציפה המשמשת לזיהוי גורם רגשי חברתי. המחבר סיפק פרשנות לשונית חישובית למודל הרגש של OCC, בעוד שמחקר דומה²⁷הציע מערכת המשתמשת באונטולוגיות לייצוג יחסי תלות ורגשות במילים. מחברי מחקר אחד²⁸דנו באותות הקשורים לעיבוד תמלילים רגשי, והדגישו את הסתגלות המוח להבעת רגשות בשפה כתובה. הערות של מערכים מרובים של רגשות גולמיים, כולל זה של הנתונים מרובי המודלים, היא מאתגרת. עם זאת, חקירת רגשות הקשורים למלחמה וקונפליקט מספקת צוהר מדעי ושיטתי לנפש האדם בנסיבות קיצוניות, ומאפשרת לנו להבין טוב יותר כיצד יחידים וקהילות מתמודדים עם טראומה, אובדן^{ואי ודאות}. מחקר אחר מצא שטכניקת הביאור שיפרה ביעילות את סיווג הז'אנר, כאשר תכונת הכותרת ממלאת תפקיד מכריע בתהליך²⁹. מחקר אחד יצר מערך נתונים של 44K עם מומחה ו-GPT-4V כדי לאמן מקודד מישוש ומודל TVL ליצירת טקסט³⁰. מחקר אחר בחן כריית דעות ומגמות בציוצים פוליטיים, תוך התמקדות בתהליך הלמידה הפעיל להוספת הערות אוטומטיות לציוצים בשפה הצרפתית על^{פוליטיקאים}. מחקר אחר הציג את CloudFlows, פלטפורמת זרימת עבודה מדעית מבוססת ענן המיועדת לניתוח מרכזי דינמי אדפטיבי בזרמי נתונים. זה מאפשר למידה פעילה כדי לשפר את סיווג הסנטימנטים, ומאפשר לאלגוריתם להסתגל לשינויים בנתונים בזמן אמת⁴².

קיים מתח ברור בין מורכבות הרגש האנושי לבין הרצון בניתוח רגשות אוטומטי. קיים מתח מובנה בין מורכבות הרגש האנושי לבין המטרה של ניתוח רגשות אוטומטי. רוב העבודה העכשווית מכירה במגבלות של הערות ידניות ומדגישה את הצורך בשיטות חישוביות מתוחכמות כדי להתמודד עם האתגרים של הבנת רגשות בצורות תקשורת מגוונות. תרחיש אידיאלי זה אינו מעשי ברובו, כלומר, קבלת הערות מהאנשים שכתבו או אמרו את המשפטים⁴³. התרחיש האידיאלי להשגת נתונים, במיוחד קבלת הערות ישירות מהאנשים שכתבו או אמרו את המשפטים, הוא ברובו לא מעשי. חוסר מעשיות זה נובע מחוסר האפשרות לאסוף ולעבד הערות מותאמות אישית כאלה בקנה מידה גדול. לכן, המאמצים הנוכחיים חייבים להסתמך על מפרשים מומחים או אלגוריתמים אוטומטיים לזיהוי רגשות כדי לנתח ולתייג רגשות המובעים בטקסט. בעבודת מחקר זו, ניסינו להתגבר על כמה היבטים של אתגרי תחומים אלה. התרומות העיקריות בתחום בעייתי זה מוצגות להלן⁴⁴.

לכן, עלינו להסתמך על מומחים או מפרשים ואלגוריתמים לזיהוי רגשות כדי לנתח ולתייג את הרגשות המובעים בטקסט. זה בלתי אפשרי לאסוף ולעבד הערות מותאמות אישית כאלה בקנה מידה גדול. לפיכך, בעבודת מחקר זו, ניסינו להתגבר על כמה היבטים של ידע בתחום זה. להלן התרומות העיקריות בתחום בעייתי זה.

המסגרת עובדת יחד עם שיטות מבוססות כללים כמו תיוג רגשות, זיהוי תמהיל קוד ופרשנות אימוג'י עם טכניקות למידת מכונה כגון יער אקראי והטמעות מילים, ומשפרת את דיוק ההערות תוך הפחתת המאמץ הידני. הלמידה האיטרטיבית של המסווג משתמשת בלמידה פעילה כמו גם בלמידת העברה כדי לתעדף דוגמאות תכונות מעורפלות, מה שמפחית את הצורך בעבודה קשה. גישה זו הפחיתה את עלויות התפעול ב-40% בהשוואה לתיוג ידני קשיח.

כדי להתמודד עם הניואנסים של הינגליש ברמה הפרטנית, פותחה שיטת טוקניזציה מותאמת אישית תלוית הקשר. גישה זו מעבדת טקסט מעורבב קוד על ידי התחשבות בהחלפת שפה, פיסוק, אימוג'ים ופילוח תת-מילים, מה שמאפשר הערת רגשות מדויקת יותר בטקסט הינדי-אנגלי מעורב. ברמה הפרטנית, פיתחנו טוקניזציה מותאמת אישית תלוית הקשר עבור טקסט הינגליש. המסגרת מתייחסת למורכבות של טקסט מעורבב קוד על ידי שילוב מילוני רגשות דו-לשוניים, טוקניזציה של תת-מילים וטוקניזציה מותאמת אישית תלוית הקשר. כללים לקסיקליים פתרו 89% מאי הבהירות בהחלפת קוד.

עבודתנו מבוססת על תיאוריות פסיכולוגיות מבוססות של רגשות, כגון תיאוריית הרגשות הבדידים ותיאוריית ההערכה הקוגניטיבית. המחקר מדגים את יכולת ההרחבה של הגישה לתגובה למשברים וניטור מדיה חברתית, ומספק תוכנית ליישומי NLP רב-לשוניים דלי משאבים.

טבלה 1 מסבירה את המחקרים הזמינים עבור אותו תחום בעיה. מסקירת הספרות ומהסיכום הטבלה, ניתן להסיק שרוב המחקרים אינם יכולים לחמוק מביצוע עבודה ראשונית כלשהי על הערות בשיטות ידניות. חוקרים מעטים נוקטים בגישות חצי-אוטומטיות⁴¹. עם זאת, ההבדל האמיתי בביצועים נובע מהשימוש במודל למידה יעיל שיכול להפוך את תהליך ההערות לאוטומטי. התוכן הרגשי של הציוצים חייב להתאים לתיאוריות שמסבירות את נתיבי הרגשות של בני האדם ואת ארגון הרגשות. החלק הבא מגדיר את הבעיה על סמך מגבלות הגישות הקיימות והתוצאות האמפיריות של המאמרים.

מחקר	מערך נתונים	רגש	שיטות	תחום	תהליך עיצוב התוויות	פערים			היקף עתידי
[31]	9,000,000 ציוצים	מתח, דיכאון, כעס, מרץ, עייפות,	פרופיל בלבול של מצבי רוח	אנגלית	ללא תיוג	המחקר מתעלם מהבדלים רגשיים עדינים כמו הפתעה, שמחה או פחד, מה שמצביע על כך שתיוג רגשות יכול לשפר את יכולת הפרשנות והפירוט של מגמות סנטימנט, במיוחד ביחס לאירועים סוציו-אקונומיים.			הוא יכול לחקור כיצד ללכוד ולבחון טוב יותר מגוון ביטויים רגשיים בנתוני מדיה חברתית על ידי שימוש בשיטות סיווג אוטומטיות וטקסונומיות רגשות מבוססות היטב.
[32]	7000 ציוצים	כעס, גועל, פחד, שמחה, אהבה, עצב,	תמיכה במכונת וקטור	אנגלית	ידני	יכולת ההכללה של מערך הנתונים מוגבלת בשל ספציפיות הנושא שלו וחוסר הייצוגיות של השימוש הכולל בטוויטר.  בשל פרשנות סובייקטיבית והקשר מינימלי, המוצג בהסכמה צנועה בין המפרשים, מאתגר להוסיף הערות לרגשות בציוצים קצרים וסתמיים.			העבודה העתידית תתמקד בפיתוח מודלים משופרים לזיהוי רגשות על ידי שילוב הבחנות בין סגנונות לשוניים ספציפיים לנושא לרגשות, מה שיאפשר סיווג מדויק יותר בהקשרי ציוץ מגוונים.
[33]	21,000 ציוצים	כעס, גועל, פחד, שמחה, עצב, הפתעה	תמיכה במכונת וקטור	------	שימוש בהאשטאג	קורפוסים קיימים המסומנים ברגשות מוגבלים בגודלם ובתחומם, וחסרים מערכי נתונים גדולים ומגוונים עבור מיקרו-בלוגים. הציוצים קצרים, רועשים ומוגבלים בהקשר, מה שמקשה על זיהוי רגשות והערות מדויקים.			בעבודה עתידית המחקר עשוי לכלול הרחבת לקסיקון הרגשות עם מילים נרדפות והאשטאגים נוספים כדי לשפר את הכיסוי ודיוק הזיהוי.
[34]	16485 ציוצים	כעס, גועל, פחד, שמחה, עצב, הפתעה	תמיכה ברגרסיה וקטורית	סינית	ידני	שיטות סיווג רגשות מסורתיות מתעלמות לעתים קרובות מהגורם הבסיסי לרגשות, ומגבילות את איכות התכונה. חילוץ מדויק של גורמים רגשיים מפוסטים קצרים ולא רשמיים במיקרו-בלוג דורש מערכות מבוססות כללים חזקות וידע בתחום.			חקירה נוספת של ניתוח סיבות רגש יכולה לשפר מודלים לזיהוי רגשות ולפתוח כיוונים חדשים בהבנת רגשות טקסטואליים.
[35]	10,040 ציוצים	פחד, תקווה, שמחה, כעס, הפתעה, עצב, גועל	LDA, הסכם בין מעריכים	הינגליש	ידני	יש מחסור במערכי נתונים מובנים וזמינים לציבור עבור הינגליש, במיוחד אלה שלוכדים ניואנסים פרגמטיים ורגשיים בתוכן הקשור למשבר. Hinglish היא שפה לא סטנדרטית, מעורבת קוד, וריאציות אזוריות מסבכות ניתוח והערות סנטימנט מדויקות.			כדי להרחיב מערכי נתונים רב-מודאליים, לשלב ניתוח פרגמטי עמוק עם מודלים של למידת מכונה, ולטפל במדרגיות למעקב אחר רגשות בזמן אמת בשיח קונפליקטים.
[36]	134,000 ציוצים	פעיל, לא פעיל שמח, אומלל	תמיכה במכונת וקטור ובשכנים הקרובים ביותר	הינגליש	שימוש בהאשטאגים	תיוג רגשות ידני של ציוצים הוא עתיר עבודה ולא עקבי, ומגביל את מאמצי סיווג הרגשות בקנה מידה גדול הערות במיקור המונים חסרות אמינות, במיוחד בזיהוי רמות עוררות רגשית, ומדגישות סובייקטיביות בפרשנות רגשות.			התמקד בחידוד תיוג מבוסס האשטאג והרחבת מודלים לזיהוי רגשות לשיפור הדיוק והכללה בהקשרים רגשיים מגוונים.
[37]	3,000 סטודנטים, פסיכולוגים ולא-פסיכולוגים מ-37 מדינות	שמחה, פחד, כעס, עצב, גועל, בושה ואשמה.	--	-----	ידני	חקירה מוגבלת של האופן שבו גורמים תרבותיים משפיעים על ויסות וביטוי של רגשות ספציפיים בחברות מגוונות. האיזון בין ראיות לדפוסים רגשיים אוניברסליים לבין וריאציות ספציפיות מבחינה תרבותית בעורר רגשות ובפרשנות נותר מורכב.			מחקרים נוספים צריכים לחקור את האינטראקציה בין אוניברסליות ביולוגית והקשר תרבותי בעיצוב חוויה רגשית ותקשורת
[38]	12000	שמחה, עצב וכעס	הסכם בין מעריכים	הינדית + אנגלית	ידני	המחקר הנוכחי חסר מערך נתונים מקיף ומבואר ומודלים סטנדרטיים לזיהוי רגשות הינגליש. הדקדוק הלא סדיר והאופי המעורב של טקסטים במדיה החברתית מקשים על סיווג רגשות מדויק.			העבודה העתידית תתמקד בהרחבת קטגוריות רגשות ופיתוח מערכי נתונים גדולים ורב-לשוניים מעורבים בקוד.
[39]	2866	שמחה, עצב, כעס, הפתעה ועצב	תמיכה במכונת וקטור	הינגליש (הינדית + אנגלית)	ידני	היעדר מערכי נתונים מעורבים בקוד עם הערות רגש.  ביטוי רגשות בטקסט מעורבב קוד משתנה בין שפות וסקריפטים, מה שהופך את ההערות והסיווג למורכבים.			עבודה עתידית יכולה להרחיב את הקורפוס כך שיכלול יותר גיוון רגשי, לשלב תיוג של חלק מהדיבור ולחקור תוכן מעורבב קוד רב-לשוני.
[40]	13738	---	תרגום מכונה Google Translator	הינגליש	ידני	מערכות תרגום מכונה קיימות חסרות דיוק בנתוני מדיה חברתית מעורבבי קודים עקב היעדר קורפוסים מקבילים גדולים וספציפיים לתחום. שונות איות גבוהה, מבנה לא פורמלי ואי בהירות בזיהוי השפה מסבכים את התרגום של טקסט הינדי-אנגלי לטינית.			הקורפוס יכול לתמוך בפיתוח מערכות תרגום מעורבות קוד ולהרחיב אותו לשפות אחרות בעלות משאבים נמוכים ומשימות NLP כמו זיהוי ישויות בעלות שם
[41]	11527	חיובי, חיובי מאוד ושלילי, שלילי מאוד	סיווג מבוסס kNN, ייצוג BOW	פוליטיקאים צרפתים	ידני	זמינות מוגבלת של מערכי נתונים מבוארים באיכות גבוהה לכריית דעות פוליטיות בשפות שאינן אנגלית. איזון, הפחתת רעשי הערות עם שמירת מידע וטיפול בהפצת תוויות לא אחידה במערכי נתונים של ציוצים בקנה מידה גדול הם קשיים מרכזיים.			עבודה עתידית עשויה לחדד שיטות למידה אקטיביות כדי לשמר טוב יותר תוכן קריטי תוך מזעור רעשי הערות בשיח פוליטי רב-לשוני.
[42]	764,416	---	אשכולות Kmeans, SVM	אנגלית	חצי בפיקוח	תיוג בזמן אמת ועדכון מודלים בניתוח סנטימנט מוגבלים על ידי שונות זרם נתונים, עלות תיוג ומדרגיות מערכת.			עבודה עתידית תחקור סיווג סנטימנטים מרובי מחלקות, תשלב אסטרטגיות תיוג נוספות ותרחיב את השליטה על יצירת המודל הראשוני

טבלה 1: מחקרים זמינים עם שיטות תיוג מתאימות. הטבלה מספקת סקירה השוואתית מלאה של המחקרים הקיימים, מתייחסת לביאור הרגשות ומבססת את הנוף המתודולוגי וממשיגה את תרומת העבודה הנוכחית בספרות הקיימת.

הצהרת בעיה
הרגשות הנחקרים ביותר בביאור מושפעים מאוד ממודלים פסיכולוגיים בסיסיים כמו של אקמן ופלוצ'יק, המתמקדים בעיקר בקטגוריות ליבה כמו כעס, פחד, שמחה, עצב, הפתעה וכן הלאה⁴⁴ . לפיכך, בעבודת מחקר זו, אנו מתכוונים לעבוד על קונוטציות מבוססות היטב של רגשות. האתגר הוא לפתח מסגרת חישובית דינמית, F, המסוגלת לבאר במדויק מופעי טקסט הינגליש (ti) מקורפוס T המתמקד במלחמות וקונפליקטים עם תוויות רגש (ei) מקבוצה מוגדרת מראש E = {e₁, e₂, ..., e₈}. מסגרת זו חייבת לסנתז עקרונות מהתיאוריה הקונסטרוקטיביסטית של הרגש, תיאוריית האירועים הרגשיים (AET), תיאוריית הרגשות הבדידים ותיאוריית ההערכה הקוגניטיבית כדי לעצב את הנוף הרגשי הרב-גוני של שיח הקשור לקונפליקט. כל מופע טקסט ti ב-T הוא מורכב מבחינה לשונית, ומשלב הינדי (בכתב רומי), אנגלית, אימוג'ים וסמלים, מה שמחייב גישה רב-שכבתית ללכידת ביטויים רגשיים ניואנסים.

המודל החישובי של רגשות הקשורים למלחמה (כמקרה מבחן) עשוי לכלול גישה רב-צדדית, החל בכללים לקסיקליים המתייחסים לניואנסים המבוססים על הינגליש. טוקניזציה, המסומנת כ-T, כוללת כתבים רומיים (הינדית כתובה בכתב רומי), יחד עם אימוג'ים וסימני פיסוק, המהווים את הבסיס לעיבוד שפה. מילוני רגשות, המיוצגים כ-D, ממפים מילים בשפות שונות לרגשות מסוימים, כמו למשל כעס, שמחה ואחרים, שבהם לכל emotion_i יש words_j ב-language_k. פירוק תת-מילים, S, מפרק מונחים מורכבים למילות המשנה המרכיבות אותם, ומאפשר הבנה עמוקה יותר של ביטויים מורכבים. לאחר מכן, טכניקות למידת מכונה, M, משתמשות בהטמעות, E, כגון Word2Vec/fastText, כדי להפוך אסימונים לייצוגים וקטוריים, vector_v, מה שמקל על ניתוח נומרי. מסווגי אנסמבל, C, כמו Random Forest, חוזים תוויות רגש, emotion_label_p, מקבוצות הווקטור הללו. כדי לשפר באופן איטרטיבי את מודל למידת ההערות, נעשה שימוש במנגנון למידה פעיל, AL. משוב מומחה, F, מזקק מקרים מעורפלים, ambiguous_sample_q, על ידי הקצאת refined_label_r, מתן תיקונים חיוניים. תעדוף מדגם, P, מתמקד בדגימות ברמת מהימנות נמוכה, low_confidence_sample_s, מקצה להן annotation_priority_t, ובכך מייעל את תהליך הביאור.

על ידי שילוב מרכיבים ותיאוריות אלה, מסגרת זו שואפת לעבד באופן דינמי טקסט הינגליש, לגשר על ניואנסים לשוניים ותרבותיים, ולחדד באופן אדפטיבי הערות רגש, ולהציע פתרון ניתן להרחבה לניתוח ממדים רגשיים בשיח הקונפליקט.

Protocol

סעיף זה מסביר גם כיצד נבנתה המסגרת הרב-מודאלית ל-8 הערות רגשות. החלק מתחיל בדיון במאפייני מערך הנתונים, ואחריו ההליכים הבאים. להבנה טובה יותר של הליך המחקר, עיין באיור 1.

איור 1: מסגרת שיטתית של ביאור רגשות. האיור מסביר את הרגש האפקטיבי, ביאור של טקסט הינגליש המשלב למידת מכונה, למידה פעילה וכללי לקסיקון דינמיים באמצעות קלט מומחה, דוגמאות שסווגו באופן שגוי משתפרות בהדרגה כדי להגביר את הדיוק ולהוזיל את עלות הביאור. אנא לחץ כאן לצפייה בגרסה גדולה יותר של איור זה.

הכנת סל נתונים
איסוף הנתונים מתחיל בזיהוי רשימה מקיפה של מילות מפתח והאשטאגים הקשורים למלחמה, סכסוך ורגשות נלווים. משאבים כגון ספרות אקדמית, מאמרי חדשות ומגמות במדיה החברתית שימשו להרכבת רשימות רלוונטיות וקיימות.

לפי איור 1, לאחר איסוף הציוצים ועיבוד מקדים של הנתונים, מומחים אנושיים מעורבים בתיוג ידני וביצירת כללים לקסיקליים שיש לשלב כדי לשפר את תהליך הביאור. באמצעות מילות מפתח אלה (סכסוך, מלחמה, משבר, גוסה וכו') נאסף מערך נתונים ראשוני של 10,040 ציוצים ושימש כבסיס לתיוג ידני כאשר כל ציוץ הוסבר בשמונה רגשות מוגדרים מראש (כעס, פחד, שמחה, עצב, תסכול, חמלה, מעורב ואחרים הרלוונטיים לתחום המלחמה והסכסוך). תהליך התיוג הידני בוצע על ידי צוות מומחים הבקיא בהינדית ובאנגלית, כדי להבטיח שהניואנסים של האנגלית נלכדים במדויק.

עיבוד לדוגמה מתואר להלן.

טוקניזציה ועיבוד מקדים:
ציוץ קלט: "Mujhe Bhayanak lag raha hai "
פלט טוקניזציה: ["Mujhe", "Bhayanak", "lag", "raha", "hai", ""]
טיפול בכתב רומי: מילים הינדיות ("Mujhe", "Bhayanak") נשמרות בכתב רומי.
זיהוי אמוג'י/סמלים: "" מבודד כאסימון סמלי.

מיפוי מילון רגשות (D):
מיפוי אסימונים לרגשות ב-E באמצעות לקסיקוני רגשות דו-לשוניים (הינדית/אנגלית): "Bhayanak" (הינדי ל"נורא") → פחד; "lag raha hai" (ביטוי הקשרי המרמז על רגש מתמשך) → פחד; "" → כעס

פירוק תת-מילים (S):
לפרק מונחים מורכבים לניתוח מעמיק יותר: "בהאיאנאק" → ["בהאי" (פחד), "אנאק" (סיומת)] כדי להבהיר את השורש הסמנטי שלו בפחד.

דור הטבעה (E):
צור הטמעות אסימונים באמצעות Word2Vec/fastText: הטמעות עבור ["Mujhe", "Bhayanak", "lag", "raha", "hai", ""] → וקטורים v₁, v₂, v₃, v₄, v₅, v₆.
כלל צבירה: הטמעות אסימונים ממוצעות ליצירת וקטור סמנטי גלובלי:
V_avg = (v₁ + v₂ + v₃ + v₄ + v₅ + v₆) / 6

חילוץ תכונות מבוסס כללים:
חלץ תכונות עזר לשרשור. תגיות רגש נחשבות: פחד: 2 מופעים ("Bhayanak", "lag raha hai"); כעס: מופע אחד ("").
דגל החלפת קוד: דגל בינארי = 1 (אסימונים מעורבים בהינדית ובאנגלית: "Mujhe" [הינדית], "lag", "raha", "hai" [נגזר בהינדית]).

פיצ'ר פיוז'ן:
שלב הטמעות מצטברות ותכונות מבוססות כללים לווקטור קלט מאוחד: וקטור סמנטי גלובלי=V_avg(הטמעות ממוצעות),ספירת רגשות=[פחד: 2, כעס: 1, אחרים: 0], דגל מתג קוד=1
וקטור קלט סופי של כלל שרשור = V_avg [פחד: 2, כעס: 1, אחרים: 0] [1]
אלגוריתם למידת המכונה מעבד את הווקטור הסופי הזה, והתהליך האיטרטיבי של שיפור ההערות מתחיל. בחלק הבא נדון בביצועי שיטת הלמידה הפעילה שאומצה למטרה זו.

לאחר מכן, מערך הנתונים הורחב ל-19,000 ציוצים. מערך נתונים זה נאצר באמצעות שילוב של טכניקות אוטומטיות ואוטומטיות למחצה, תוך מינוף התובנה שהתקבלה מההערות הידניות הראשוניות. מערך הנתונים המורחב שוכלל עוד יותר מתהליך למידה איטרטיבי, הוא כלל זיהוי סלקטיבי ותעדוף של נתונים/ציוצים מעורפלים להערות מומחים ומשוב ממומחים בתחום כדי לשפר את הדיוק, העקביות והיעילות של הביאור. לאורך תהליך איסוף הנתונים, ניתנה תשומת לב מיוחדת לשמירה על האיזון בין הרגשות השונים, תוך הקפדה על כך שמערך הנתונים מייצג את הרגשות המגוונים המובעים לגבי מלחמה וסכסוך. מערך הנתונים המתקבל הוא משאב רב ערך לניתוח טקסט הינגליש. להבנה טובה יותר, אפשר להתייחס לאיור 2 .

איור 2: נוהל איסוף מערכי נתונים. האיור מתאר את התפתחות מערך הנתונים מזיהוי מילות זרע לתיוג ידני, ולאחר מכן למידה פעילה, למערך הנתונים הסופי המבואר. אנא לחץ כאן לצפייה בגרסה גדולה יותר של איור זה.

ההכנה הסופית של מערך הנתונים נעשית לאחר השלמת תהליך החידוד האיטרטיבי בעזרת למידה פעילה. למידה פעילה שימשה במסגרת היברידית שכללה כללים לקסיקליים, למידת מכונה וקלט מומחה איטרטיבי כדי לבאר את הרגשות של אמירות הינגליש. השלבים היו כדלקמן:

התהליך מתחיל במערך נתונים עם תווית ידנית. שימוש במסווג יער אקראי, ששימש לזיהוי ציוצים מעורפלים שמודל למידת המכונה לא היה בטוח לגביהם. שלח את הדגימות המעורפלות הללו לסיווג למומחים אנושיים. המודל עודכן שוב ושוב באמצעות הנתונים המבוארים לאחרונה, מה ששיפר בהדרגה את הדיוק והפחית סיווגים שגויים. סיים את מערך הנתונים וסקור את ההערות כדי להבטיח דיוק. הכן את מערך הנתונים לניתוח, וודא שהוא מתועד ומעוצב כראוי לשימוש עתידי ליישום במקרים במורד הזרם. עם זאת, חשוב לחקור את דפוסי הרגשות המוטמעים באמירות כדי שהצעדים הבאים יתבהרו מבחינת היישום. לפיכך, בשלב הבא, יבוצע ניתוח אשכולות כדי למצוא רגשות דומיננטיים המוטמעים במערך הנתונים. זה גם מסייע בזיהוי הרגשות שאנו חוקרים.

בחירת אשכולות רגשות
טבלה 2 מציגה את קבוצות הרגש ואת המקבילות ההינגלישיות שלהן, יחד עם הסיבה לבחירת הרגשות המתאימים. מכל קבוצת רגשות, נבחר רגש דומיננטי להמשך עיבוד. רגשות דומיננטיים אלה נבחרים מניתוח אשכולות.

קבוצת רגש	שווה ערך להינגליש	הצדקת הבחירה
פחד (כולל חרדה ופאניקה)	דאר, חוף, אסהאג', בקבו, אנגדאי, צ'ינטה, מתח, פכר, אשנקה, אודאסי, בשיני, ע'ברהאט	פחד הוא רגש נפוץ במלחמה ובסכסוך, כאשר אנשים מתמודדים עם איומים על ביטחונם ורווחתם. פחד זה יכול להתבטא בדרכים שונות, כגון חרדה, התקפי פאניקה וערנות יתר.
כעס (כולל עצבנות, עוינות, תסכול ופגיעה)	Gussa, raag, Prakop, Raudra, Chidhaan, Shatruta, Krodh, Gussa dilana, apata, Atyachar, Khushfehmi, hairani, Bhayanak, Chakker Kathinaai	כעס הוא רגש נפוץ נוסף במלחמה ובסכסוך, הנובע לעתים קרובות מתחושות של חוסר צדק, בגידה או אובדן. כעס זה יכול לתדלק תוקפנות ואלימות, ולתרום לאופי ההרסני של סכסוכים אלה.
עצב (כולל צער, ייאוש וחוסר תקווה)	Udaasi, gham, Shok, Bhavuk, Dukhi, Udas, Vismay, Nirasha, Shok, Dukhi, Vairagya, Aashank, Vishada, Bhavuk, Dukhi, Udas, Vinamrata, Bhavuk, Hridaytoda, Beumaar, nirasha, Vinaash, Bair, Nirasha, Asambhav, Haar	עצב הוא תגובה טבעית לאובדן ולצער, שלמרבה הצער הם חוויות נפוצות במלחמה ובסכסוך. חיילים עשויים לחוות עצב על אובדן חברים, אזרחים עשויים להתאבל על יקיריהם שנהרגו או נעקרו, וקהילות שלמות עשויות להתאבל על אובדן בתיהם ואורח חייהם. תחושות של ייאוש וחוסר תקווה יכולות להתעורר גם בשל אופיו הממושך של הסכסוך ומעגל האלימות האינסופי לכאורה.
בושה ואשמה	שארם, לאג'בארי, שארם, לאג', זילאת, אפסוס, גונה, אפסוס, פשצ'טאפ, לאג', בצ'יני, אטמסמרפאן, שרמינדג'י, אשרו, פשצ'טאפ, אנטרטמה, קאסור, גונה, חוד קו דושי מאנה, נינדה, דושה	בושה ואשמה הם רגשות מורכבים שיכולים לנבוע מתחושות של עוולה אישית או קולקטיבית, חוסר התאמה או השפלה. במלחמה ובסכסוך, אנשים עלולים לחוות בושה או אשמה על מעשיהם, חוסר יכולתם למנוע פגיעה באחרים או הישרדותם בזמן שאחרים נספו.
גועל	Ghin, nafrat, Asahayak, Pratikool, Ghrina, Vairagya, Dvesha, Nakaratmak, Vibhavsu, Vairagya, Vairagya, Nirasha	גועל הוא תחושה של סלידה או סלידה ממשהו שנתפס כמגעיל או פוגעני. במלחמה ובסכסוך, אנשים עלולים לחוות גועל בתגובה למעשי אכזריות, אלימות וברבריות.
אמפתיה וחמלה	Sahaaanubhuti, hamderdari, Samajhdari, Daan Sahabhooti, רגישות, תמיכה, התחשבות, טוב לב, אכפתיות, חום, רוך, Daya, raham, Sahaaanubhuti, Sahyog, Dayalu, Samajh, Pyar, Daya, Narami, Paropkari	אמפתיה וחמלה חיוניות להבנה ולשיתוף ברגשות של אחרים. במלחמה ובסכסוך, אמפתיה יכולה להיות כלי רב עוצמה לחיבור עם אחרים שחוו חוויות דומות, טיפוח חמלה וקידום פיוס. חמלה יכולה להניע אנשים לעזור לנזקקים ולתרום למאמצי הריפוי והבנייה מחדש.
תקווה והכרת תודה	אומיד, אאשה, צ'ה, איצ'ה, סאפנה, אונאטי , אשוואסאן, חושי, אוטסאה, אשירוואד, סמבדנשילטה, וישוואס, בארוסה (Bharosa), שוקרגוזאר (Shukraguzaar), אשאנאננד (eshaananand), שוקראנה (Shukrana), אבהאר (Aabhaar), נמרטה (Namrata), סמאניה (Samaanya), נאמאן (Naman), אשרוואד (Aasherewad), באדהאי (Badhai), דהאניאוואד (Dhanyavaad), אבהיוואדן, מנובהב (Manobhav), בהקטי (Bhakti)	תקווה היא תחושה של אופטימיות וציפייה שמשהו טוב יקרה למרות האתגרים והקשיים העומדים בפניה. הכרת תודה היא תחושה של הכרת תודה והערכה על הדברים הטובים בחייו של האדם. במלחמה ובסכסוך, תקווה יכולה להיות מקור כוח ומוטיבציה, המאפשרת לאנשים להתמיד ולפעול למען עתיד טוב יותר. הכרת תודה יכולה לעזור לאנשים להתמקד בהיבטים החיוביים של חייהם, לטפח חוסן ולטפח תחושת שלווה בתוך המהומה.
חוסן	Jheelaanek, himmat, Sahasi, Sahas, Dhairya, Majbooti, Samvedansheel, Samarthya, Majbuti, Lachari	חוסן הוא היכולת להסתגל ולהתמודד עם מצבים קשים או מאתגרים. במלחמה ובסכסוך, חוסן חיוני ליחידים ולקהילות כדי לשרוד ולהתמיד מול מצוקה.

טבלה 2: הצדקה לבחירת רגש. הטבלה ממפה קבוצות רגש למקבילותיהן ההינגליות ומסבירה את הרלוונטיות שלהן בהקשרים של מלחמה וסכסוך.

עם זאת, יש לציין כי הבחירה ברגשות אלה אינה מבוססת רק על ניתוח אשכולות אלא גם מעוגנת בתיאוריות של רגשות, כולל תיאוריית ההערכה הקוגניטיבית (CAT), תיאוריית הרגשות הבדידים (DET) והתיאוריה מוכוונת התהליך (POT) של רגש⁴³.

פרטי הקורפוס
מערך הנתונים מורכב מתחום ספציפי (מלחמות, סכסוכים ומשברים) ומערכי נתונים נוספים של ציוצים המכילים שילוב של ציוצים בהינדית ובאנגלית. איור 3 הוא תמונת מצב של מערכי הנתונים של הציוצים הזמינים לציבור המעובדים עבור עבודת מחקר זו. מערך הנתונים הראשי זמין לציבור ב-https://data.mendeley.com/datasets/y63frd6pmf/7.

איור 3: פרטי קורפוס. הזמינות של מערך הנתונים מוסברת כאן. אנא לחץ כאן לצפייה בגרסה גדולה יותר של איור זה.

ביאור תוויות רגש
קורפוס ראשוני של 10,040 ציוצים הינגליים הקשורים למלחמה וסכסוך סומנו ידנית עם שמונה תוויות רגש על ידי מומחים דו-לשוניים. כדי להתמודד עם המורכבות הלשונית של טקסט מעורבב קוד, פותחה מסגרת לקסיקלית מבוססת כללים, המשלבת מספר רכיבים. המסגרת כוללת מילונים ספציפיים לרגש הממפים מונחים הינדיים/אנגליים לרגשות, כגון fear_words = {פחד, אימה, בהאיאנאק, , טרור, } ו-anger_words = {גוסה, זעם, , גירוי, }. כללי שקילות בין-לשוניים קישרו בין המונחים (למשל, אם (Ae == Ah): כעס = gussa | ). נעשה שימוש בכללים לקסיקליים כגון מילוני רגשות, טוקניזציה לשפות מעורבות ופירוק תת-מילים. על מנת להוסיף הערות לרגשות, כללים אלה מעבדים מראש טקסט ומחלצים תכונות, אשר משולבות לאחר מכן עם הטמעות למידת מכונה⁴⁵.

עבור טוקניזציה, המסגרת השתמשה בכללים מותאמים אישית להחלפת שפה, פיסוק, אימוג'ים וטוקניזציה של תת-מילים. טקסט הינדי (Devanagari) עבר אסימונים ברמת התו, בעוד שאנגלית (רומית) השתמשה ברווחים לבנים. דוגמה: Mujhe frustration hai → [Mujhe, frustration, hai]. תווים מיוחדים כמו האשטאגים (#) ואזכורים (@) בודדו כאסימונים בודדים (למשל, #WarCrimes → [#, WarCrimes]), בעוד שסימני פיסוק כמו פסיקים (,) וסימני קריאה (!) פוצלו לאסימונים נפרדים (למשל, → , !]).

אימוג'ים טופלו גם כאסימונים עצמאיים ומופו לרגשות (למשל, → כעס, → עצב). טוקניזציה של תת-מילים שנעשתה בכתב דוואנגארי שבו מילים מורכבות פוצלו באמצעות תבניות רגקס עבור כללי סנדהי (למשל, ] [ממלכה + עולם]) וקידומות/סיומות של סקריפטים רומיים חולקו (למשל, לא יאומן → [un, אמין]). עבור הרחבה ספציפית לדומיין, אסימונים הוחלפו בתוויות רגש אם הותאמו במילונים. לדוגמא: בהאיאנאק → פחד, דאהד" → פחד, גוסה → כעס. צייץ Mujhe Bhayanak lag raha hai → אסימונים [Mujhe, פחד, lag, raha, hai].

לאחר וקטוריזציה, האסימונים המעובדים (מילים, מילות משנה, אימוג'ים) הומרו להטמעות של 300 מימדים באמצעות Word2Vec/fastText. הייצוגים המספריים בווקטורי עמודות של אסימונים, מטריצה של וקטורים המתאימים לאסימונים. כל שורה מתאימה לווקטור הטמעה המשויך לאסימון בטקסט, המייצג את סדר האסימון. עמודות בשורה מציינות ממדים במרחב ההטבעה. הווקטורים מכילים מספרים ממשיים המחושבים באמצעות Word2Vec ו- FastText. אסימונים עם אפס וקטורים, המתוארים על ידי שורות עם כל ערכי האפס, עשויים לציין רווחים או תווים מיוחדים חסרי מידע משמעותי בייצוג זה. ההטמעות נועדו ללכוד קשרי מילים הקשריים לשיפור הביאור. וקטורים שאינם אפס מציינים ייצוגים משמעותיים של מילים או סמלים. ערכים בווקטורים אלה מקודדים תכונות סמנטיות ותחביריות שונות. אפס וקטורים מייצגים בדרך כלל ריפוד, רווח או אסימונים לא מזוהים. שונות בערכים משקפת את עושר התכונות שנלכדו על ידי מודל ההטבעה. ממדים וקטוריים שונים לוכדים היבטים מגוונים של משמעות, הקשר ושימוש במילה. איור 4 מראה כיצד וקטורים מיוצגים, ומאיור 5 ניתן להבין את ההשלכות של השימוש בתהליך הווקטוריזציה.

איור 4: טוקניזציה מותאמת אישית. האיור מראה כיצד וקטורים מיוצגים במרחב ההטמעה ומתאר כיצד כל אסימון מועבר לפורמט מספרי אנא לחץ כאן לצפייה בגרסה גדולה יותר של איור זה.

איור 5: תהליך וקטוריזציה של אסימונים והשלכותיו. האיור ממחיש את ההשלכות של תהליכים, רכיבים אלה, ומדגיש כיצד לכידת הטמעות אלה הן סמנטיקה של רגשות לסיווג רגשי מדויק. אנא לחץ כאן לצפייה בגרסה גדולה יותר של איור זה.

לפי זרימת המחקר, התהליך מתחיל בניתוח טקסט הקלט, הרחבת אסימונים באמצעות מילונים מבוססי כללים ולאחר מכן פירוק האסימונים הללו למילות משנה. גישה זו מספקת הבנה של התוכן הרגשי וההקשר התרבותי של הטקסט, ופסאודו-היגיון למחקר מובא להלן.

אתחול מילוני רגשות (למשל, fear_words = {"פחד", "אימה", "בהאיאנאק", ...}): הגדר ae = אה
SubwordRules(אסימון, סקריפט): אם → לפצל את Devanagari באמצעות ביטוי רגולרי (compound/Sandhi), אם Roman → לפצל קידומות/סיומות באמצעות regex, החזר מילות משנה
DomainSpecificExpansion(token): אם אסימון במילונים רגשיים/לשוניים → להחזיר רגש
אחרת → להחזיר אסימון
ProcessTweet (טקסט): הגדר ביטוי רגולרי עבור Devanagari, Roman, אחרים; חלץ אסימונים באמצעות regex; החל את DomainSpecificExpansion ו- SubwordRules על אסימונים; החזרת מילות משנה מעובדות
וקטוריזציה של אסימונים להטמעות מספריות
החל למידה פעילה עם משוב אנושי

Results

ממצאי מחקר זה מצביעים על כך ששילוב הכללים הלקסיקליים עם למידת מכונה וטכניקות למידה פעילה מציע מסלול בר-קיימא לשיפור היעילות והדיוק של הערת רגשות בטקסט הינגליש מעורבב קוד. באמצעות חידוד איטרטיבי והצעת מומחים, המסגרת המוצעת הצליחה להשיג הפחתות ניכרות במאמץ הידני תוך שמירה על ביצועים גבוהים על פני מטריצות אבולוציה. התוצאות מצביעות על פוטנציאל ליישום רחב יותר בתחומים הדורשים פתרון זיהוי רגשות ניתן להרחבה, במיוחד בסביבות רב-לשוניות ומוגבלות במשאבים כגון ניתוח מדיה חברתית ואינפורמטיקה של משברים...

Discussion

מערך הנתונים למחקר זה נאסף באמצעות שילוב של הערות ידניות ולמידה פעילה. בתחילה, 10,040 ציוצים של הינגליש הקשורים למלחמה וסכסוך סומנו ידנית עם שמונה רגשות מוגדרים מראש. לאחר מכן הורחב מערך הנתונים ל-19,000 ציוצים בגישה חצי אוטומטית. למידה פעילה אפשרה התערבות סלקטיבית של מומחים, הפחיתה את המאמץ הידני ב-40% תוך שמירה על דיוק הערות גבוה של 81% עם ציון F של 0.76. כללים לקסיקליים ומילונים ספציפיים לרגש מילאו תפקיד מכריע בפתרון 89% מאי הבהירות של החלפת קוד. מסגרת הלמידה הפעילה חידדה את המודל באופן איטרטיבי, והדגימה רווחים מצטברי...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
טקסט מהיר	הבינה המלאכותית של פייסבוק	לא ישים	ייצוג וסיווג מילים
גוגל קולאב	גוגל	לא ישים	סביבת Jupyter Notebook מבוססת ענן
Google Colab GPU/TPU	גוגל	לא ישים	האצת חומרה מבוססת ענן
Intel Core i5/i7 או AMD Ryzen 5/7	אינטל / AMD	לא ישים	מעבד לביצוע מקומי (אם נדרש)
מטפלוטלב	קוד פתוח	לא ישים	ספריית תצוגה חזותית של נתונים
NLTK	קוד פתוח	לא ישים	ערכת כלים לשפה טבעית לעיבוד טקסט
NumPy	קוד פתוח	לא ישים	ספריית מחשוב מספרית
NVIDIA GTX 1650 ואילך (אופציונלי)	NVIDIA	לא ישים	GPU למשימות למידה עמוקה
פנדה	קוד פתוח	לא ישים	ספריית טיפול בנתונים
פייתון	קרן התוכנה של פייתון	לא ישים	שפת תכנות ל-ML ו-NLP
פייטורץ'	מטא בינה מלאכותית	לא ישים	מסגרת למידה עמוקה
זיכרון RAM (מינימום 8GB, מומלץ 16GB)	מגוון	לא ישים	דרישת זיכרון למשימות ML
Scikit-learn	קוד פתוח	לא ישים	ספריית למידת מכונה
סיבורן	קוד פתוח	לא ישים	ויזואליזציה של נתונים סטטיסטיים
SpaCy	פיצוץ AI	לא ישים	ספריית NLP בעוצמה תעשייתית
אחסון SSD (מינימום 256GB, מומלץ 512GB)	מגוון	לא ישים	אחסון לעיבוד סל נתונים
TensorFlow	גוגל	לא ישים	מסגרת למידה עמוקה