$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Das Studienprotokoll wurde von dem Sushruta Hospitals Ethics Committee, Hubballi, Karnataka, India (EC-Registrierungsnummer: ECR/372/INST/KA/2013/RR-19) genehmigt, und alle Teilnehmer gaben vor der Einschreibung ihre schriftliche informierte Einwilligung ab.
Der FEA-Algorithmus ist eine proprietäre, auf maschinellem Lernen basierende Methode zur Echtzeitanalyse von Gesichtsmikroexpressionen und Oberkörperbewegungen, um emotionale Zustände anhand des Navarasa-Frameworks abzuleiten. Das Navarasa-Framework, abgeleitet von der klassischen indischen Ästhetiktheorie, beschreibt neun primäre Emotionen: shringara (Liebe), haasya (Freude), karuna (Traurigkeit/Besinnlichkeit), adbhuta (Überraschung), shanta (Frieden), raudra (Zorn), veera (Mut), bhayanaka (Angst) und vibhitsa (Ekel). Der FEA-Algorithmus verwendet ein Modell des maschinellen Lernens, das anhand von Gesichtsmikroexpressionen und Oberkörperbewegungen trainiert wurde, die aus Bildern von Darstellern extrahiert wurden, die die neun Navarasa-Emotionen darstellen. Der Algorithmus leitet den emotionalen Zustand einer Person ab, indem er subtile Gesichtsdynamiken und Mikrobewegungen aus visuellen Aufnahmen analysiert, die von einer einzelnen RGB-Kamera erfasst wurden, und erzeugt quantitative Werte für jede der neun primären Emotionen. Diese nichtinvasive Konfiguration ermöglicht eine unaufdringliche, naturalistische emotionale Bewertung und eignet sich daher für eine breite Palette von Forschungs- und Anwendungsbereichen.
Modellentwicklung
Der FEA-Algorithmus basiert auf einer neuronalen Netzwerk-(NN-)Architektur. Der Trainingsdatensatz wurde intern erhoben und umfasst mehrere Stunden aufgezeichnetes Videomaterial indischer Darsteller, die die neun Navarasa-Emotionen darstellen. Der Datensatz wurde aus kontrollierten Videoaufnahmen mehrerer Darsteller/Teilnehmer abgeleitet, wobei für jeden Darsteller/Teilnehmer mehrere Aufnahmen/Tests in verschiedenen hervorgerufenen emotionalen Zuständen durchgeführt wurden. Nach einer Vorverarbeitung, die die Detektion von Gesichtslandmarken, temporale Konsistenzprüfungen, Qualitätsfilterung sowie die Entfernung unbrauchbarer oder unsicherer Einzelbilder umfasste, blieben etwa 25.000 strukturierte Trainingsbeispiele erhalten. Während der Datensatzzusammenstellung wurden die Aufnahmen nach mehr als zehn demografischen und aufnahmebezogenen Parametern stratifiziert, darunter Alter, Geschlecht und andere relevante Merkmale, und gezielt ausgeglichen, um eine gleichmäßige Repräsentation über diese Parameter hinweg zu gewährleisten und demografische Verzerrungen zu minimieren. Die Geschlechterverteilung betrug etwa 52 % männlich und 48 % weiblich. Die Teilnehmer umfassten breit gefächert die Altersgruppen der Jugendlichen und Erwachsenen mit Repräsentanz in jüngeren, mittleren und älteren Erwachsenenkohorten. Die Darsteller/Teilnehmer stammten aus Indien und repräsentierten mehrere indische regionale und kulturelle Hintergründe sowie mehrere in Indien vertretene internationale ethnische Gruppen. Aufgrund proprietärer Beschränkungen können die genaue Anzahl der Darsteller/Teilnehmer, die Identität auf Ebene der Darsteller/Teilnehmer, die exakte Anzahl der Videos/Aufnahmen pro Darsteller, die genaue Anzahl der Einzelbilder sowie die interne Annotationstechnik nicht offengelegt werden, da diese Bestandteil des proprietären Datensatzes und des geistigen Eigentums von Nihilent Ltd. im Bereich Modellentwicklung sind; dieser Umstand wird im Diskussionsteil ausdrücklich anerkannt.
Aus diesen Aufnahmen extrahierte Gesichtsbilder wurden mithilfe von Bildverarbeitungstechniken verarbeitet, um quantitative Merkmale abzuleiten, die anschließend als Eingaben für ein neuronales Netz zur Vorhersage verwendet wurden. Dieses Modell wurde dann an einer Zielgruppe evaluiert, und die gewonnenen Erkenntnisse dienten dazu, nachfolgende Versionen schrittweise zu verbessern. Dieser Zyklus aus Entwicklung, Testen und Verbesserung wurde wiederholt, bis die Modellleistung stabil war. Das endgültige Vorhersagemodell ist als Multilayer-Perzeptron (MLP) implementiert, das aus einer Eingabeschicht mit etwa 300 ausgewählten Merkmalen, versteckten Schichten und einer Ausgabeschicht besteht, die einen neundimensionalen Score-Vektor erzeugt, der den neun Navarasa-Emotionskategorien entspricht. Zunächst wurden mehr als 700 Merkmale aus den erfassten Daten abgeleitet und anschließend durch Verfahren der Merkmalsauswahl und Modelloptimierung reduziert. Der MLP-Ausgabescore wird danach an proprietäre Nachverarbeitungsalgorithmen übergeben, um die endgültigen aggregierten FEA-Algorithmus-Scores zu berechnen. Weitere architektonische Details – einschließlich der genauen Anzahl trainierbarer Parameter und spezifischer Schichtdimensionen – sind proprietär und können nicht offengelegt werden; dies wird als Einschränkung des vorliegenden Berichts anerkannt. Eine detaillierte Beschreibung der Modellentwicklung findet sich im ergänzenden Material (Supplementary File 1 und Supplementary Figure 1).
Während der iterativen Entwicklung wurde die Modellleistung anhand einer Kreuzvalidierung auf dem hauseigenen Datensatz bewertet und erreichte eine kreuzvalidierte Klassifizierungsgenauigkeit von 96 % über alle neun Navarasa-Kategorien hinweg. Anschließend erfolgte eine unabhängige Validierung an mehr als 15.000 Minuten Videodaten. Eine normalisierte 9 × 9-Konfusionsmatrix, die die Klassifizierungsleistung über alle neun Navarasa-Kategorien zusammenfasst, ist im ergänzenden Material enthalten (Supplementary File 1).
Nach der Stabilisierung durchlief das Modell eine kontrollierte interne Validierung unter fachlicher Aufsicht. Dieser Ansatz betont die empirische Validierung durch direkte Tests an menschlichen Probanden, wodurch die Beurteilung der Anwendbarkeit in der Praxis und der Robustheit über verschiedene Populationen hinweg ermöglicht wird. Die Modellentwicklung ist in Abbildung 1 zusammengefasst.
Der Patient Health Questionnaire-9 (PHQ-9) und die Generalized Anxiety Disorder-7 (GAD-7) Skala: Die Teilnehmer füllten Selbstbeurteilungsfragebögen unter Aufsicht eines geschulten Psychologen aus, um ihren aktuellen emotionalen Zustand zu bewerten. Zu den eingesetzten Instrumenten gehörten der Patient Health Questionnaire-9 (PHQ-9) und die Generalized Anxiety Disorder-7 (GAD-7) Skala. Ein Wert über 9 auf einer der beiden Skalen galt als klinisch bedeutsam.
TRENDS
Das Tool for Recognition of Emotions in Neuropsychiatric Disorders (TRENDS) ist ein kulturell validiertes, ökologisch sensibles Instrument, das zur Beurteilung der Fähigkeit zur Erkennung von Gesichtsemotionen entwickelt wurde11. Es wurde für die Anwendung in indischen Populationen validiert und besteht aus 40 Fotografien von Schauspielern, die die universellen Grundemotionen Neutralität, Freude, Angst, Wut und Traurigkeit darstellen. Bilder aus TRENDS wurden als Referenzreize verwendet, um die Emotionsklassifizierungsergebnisse des FEA-Algorithmus zu validieren.
Experimenteller Aufbau
Das Experiment wurde so konzipiert, dass es eine algorithmische Reaktion auf emotionale Reize hervorruft. Für diese Studie wurden zwei Paradigmen zur Hervorriefung von Emotionen entwickelt und verwendet.
Paradigma der TRENDS-Bilder
Im ersten Paradigma wurde zunächst 60 s lang ein leeres Bildschirmfeld angezeigt, gefolgt von der Präsentation emotionaler Reize. Die emotionalen Reize wurden aus dem TRENDS-Instrument ausgewählt. Insgesamt wurden 20 Bilder präsentiert, die Neutralität, Freude, Traurigkeit, Wut und Angst × zwei Geschlechter × zwei Altersgruppen repräsentierten. Jeder Reiz wurde 5 s lang angezeigt. Die gesamte Präsentationsdauer der Reize betrug somit 20 × 5 s, mit einem zusätzlichen 10 s langen Intervall mit leerem Bildschirm zwischen aufeinanderfolgenden Bildern, was eine Gesamtdauer von 300 s ergab. Während jedes 10 s langen Intervalls mit leerem Bildschirm mussten die Teilnehmer die im vorangegangenen Bild dargestellte Emotion identifizieren, indem sie eines von fünf auf dem Bildschirm angezeigten Emotionslabels auswählten.
Navarasa-Paradigma
Ein zweites, analoges Videoparadigma wurde basierend auf dem Navarasa-Rahmenwerk der neun Rasas konstruiert. Insgesamt wurden 18 Bilder präsentiert (neun Emotionen × zwei Geschlechter). Jeder Reiz wurde 5 s lang angezeigt, jeweils mit einem 10-s-Intervall eines leeren Bildschirms zwischen den Bildern, was eine Gesamtdauer von 270 s ergab. Die neun Emotionen wurden in die Kategorien neutral (shanta), angenehm (haasya, veera, shringara, adbhuta) oder unangenehm (Krodha, vibhitsa, bhayanaka, karuna) eingeteilt. Während jedes 10-s-leeren Intervalls mussten die Teilnehmer die in dem vorangegangenen Bild dargestellte Emotion klassifizieren, indem sie eine aus drei auf dem Bildschirm angezeigten Optionen auswählten: neutral, angenehm oder unangenehm. Die neun Navaras wurden in drei Kategorien zusammengefasst, um die Erfassung der Reaktionen der Teilnehmer bei der Emotionsidentifikation zu erleichtern.
Teilnehmer
Gesunde erwachsene Freiwillige wurden aus Arbeitsstätten und Bildungseinrichtungen rekrutiert. Die Einschlusskriterien umfassten Personen im Alter von 18 bis 50 Jahren, unabhängig vom Geschlecht. Ausschlusskriterien waren eine Anamnese mit diagnostizierten psychiatrischen Erkrankungen, neurologischen Störungen, erheblicher Sehbeeinträchtigung oder körperlichen Behinderungen, die Kopf- und Nackenbewegungen einschränkten.
Verfahren
Die Teilnehmer saßen so, dass die Kamera auf Augenhöhe war und in einem Abstand von 60–70 cm positioniert wurde. Im Rahmen der Studie kam der FEA-Algorithmus zum Einsatz. Die Anwendung wurde auf dem Laptop geöffnet, und der Forscher gab die Probanden-ID ein. Während des gesamten Experiments zeichnete der FEA-Algorithmus kontinuierlich Videodaten auf, um anschließend Gesichtsausdrücke und Mikrobewegungen analysieren zu können. Zunächst wurde eine 60 s dauernde Basislinienaufnahme durchgeführt, während der die Teilnehmer angewiesen wurden, sich zu entspannen und keine offensichtlichen expressiven Verhaltensweisen zu zeigen. Nach Abschluss der Basislinienaufnahme wurden die Teilnehmer den beiden Videoparadigmen ausgesetzt (TRENDS-Bilder, gefolgt von Navarasa). Alle Teilnehmer sahen die Paradigmen in derselben festgelegten Reihenfolge, um potenzielle störende Einflüsse durch die Präsentationsreihenfolge zu minimieren; diese feste Reihenfolge könnte jedoch Reihenfolgeneffekte hervorgerufen haben. Während der Aufnahmesitzungen blieb der Forscher außerhalb des Raums, um Ablenkungen zu vermeiden. Von außerhalb des Raums überwachte der Forscher das Experiment remote mithilfe einer mobilen Anwendung. Zwischen den beiden Paradigmen erhielten die Teilnehmer eine kurze Ruhepause (Abbildung 2).
Analyse
Die gesammelten Daten wurden der im Anwendungsbereich eingegebenen Probanden-ID zugeordnet, um die Datenintegrität sicherzustellen. Der FEA-Algorithmus nutzt eine strukturierte, durchgängige Rechenpipeline zur automatischen Emotionsinferenz, die aus fünf Hauptstufen besteht: Videoaufnahme, Merkmalsdetektion und -extraktion, Daten-Vorverarbeitung, Emotionsklassifizierung und Ergebnisinterpretation. Die extrahierten Merkmale durchliefen eine Reihe von Vorverarbeitungsschritten, einschließlich Rauschunterdrückung, Normalisierung über Probanden und Beleuchtungsbedingungen hinweg sowie Interpolation fehlender Bildsequenzen. Zur Verbesserung der Signalstabilität wurde eine zeitliche Glättung angewandt. Die resultierenden Merkmalsvektoren wurden zeitlich synchronisiert, um sie anschließend dem Klassifizierungsmodell zuzuführen. Diese zeitlich ausgerichteten, rauschreduzierten Merkmalsmatrizen dienten als Eingaben für die Emotionsklassifizierungskomponente.
Merkmalsextraktion
Der Extraktionsrahmen verwendet eine algorithmische Pipeline mit mehreren Merkmalsextraktionsstufen, die standardmäßige 2D-Monokular-Videobildfolgen in einen rekonstruierten 3D-Koordinatenraum umwandelt. Anstatt auf die Verfolgung roher 2D-Pixel zu setzen, bildet das System lokalisierte räumliche Koordinaten im Gesicht und im Oberkörperbereich ab. Die abgeleiteten Merkmale lassen sich in drei breite Kategorien einteilen: (i) Regionen der Gesichtslandmarken, die geometrische Beschreibungen der Gesichtsstruktur und -dynamik umfassen (einschließlich Hinweise aus dem Augenbereich und Korrelate von Gesichtsmikroausdrücken, die auf dem Navarasa-Rahmen basieren, welcher wiederum auf dem Natyashastra beruht – dem frühesten formalisierten Rahmen menschlicher emotionaler Ausdrucksformen, der von der UNESCO anerkannt ist); (ii) Kopfhaltungs-Informationen, die Orientierung und Bewegung des Kopfes erfassen; und (iii) Merkmale der Oberkörperbewegung, die die resultierende Bewegung des Oberkörpers erfassen. Spezifische Merkmalsdefinitionen, einschließlich genauer Landmarkenindizes und Schlüsselpunktkennungen, sind proprietär und können nicht vollständig offengelegt werden; dies wird als Einschränkung anerkannt. Das System verwendet keine direkten Labels der Facial Action Coding System (FACS) Aktions-Einheiten; stattdessen leitet es geometrische und zeitliche Merkmale aus Gesichts- und Körperbewegungen ab. Diese 3D-räumlichen Transformationen werden über die Zeit aggregiert, um einen umfassenden Verhaltenszusammenfassungsvektor zu erzeugen, der als Eingabe für den MLP-Klassifikator dient. Insgesamt wurden zunächst mehr als 700 Kandidatenmerkmale aus den erfassten Daten abgeleitet und anschließend durch Merkmalsauswahl und Modell-Optimierung auf etwa 300 ausgewählte Merkmale reduziert. Die strukturelle Pipeline verläuft von der Videoaufnahme über die 2D-zu-3D-Raumrekonstruktion, zeitliche Aggregation und Merkmalsnormalisierung bis hin zur Klassifizierung.
Modell zur Klassifizierung von Emotionen
Die vorverarbeiteten Merkmalsvektoren wurden einer überwachten mehrschichtigen Perzeptron-(MLP-)Neuronalen-Netzwerk-Architektur bereitgestellt, die auf dem hauseigenen annotierten Datensatz für die neun Navarasa-Emotionskategorien trainiert wurde: Śṛṅgāra (Liebe), Hāsya (Freude), Karuṇā (Trauer), Raudra (Zorn), Vīra (Mut), Bhayānaka (Angst), Bībhatsa (Ekel), Adbhuta (Erstaunen) und Śānta (Frieden). Das Modell wurde explizit entwickelt, um räumlich-zeitliche Abhängigkeiten in expressiven Verhaltensdaten zu erfassen. In jedem Zeitschritt erzeugte die Architektur einen Vektor vorhergesagter Emotionsintensitäten für die neun Kategorien.
Nachbearbeitung der Modellergebnisse
Die Rohmodellergebnisse wurden anschließend einer Nachbearbeitung unterzogen, um stabile und interpretierbare Emotionswerte zu erhalten. Es wurden drei aufeinanderfolgende Operationen angewendet: (i) zeitliche Glättung zur Verringerung kurzfristiger Schwankungen, (ii) Normalisierung, um die Vergleichbarkeit über die Zeit und zwischen Emotionsdimensionen sicherzustellen, und (iii) Aggregation, um zusammenfassende Maße über definierte Zeitfenster oder gesamte Sequenzen abzuleiten. Die Nachbearbeitungsverfahren gewährleisten die Vergleichbarkeit zwischen Probanden und kontrollieren individuelle Basislinienunterschiede.
Ausgabeinterpretation und Visualisierung
Der FEA-Algorithmus erzeugt quantitative und visuelle Darstellungen emotionaler Dynamiken, die aus Videodaten abgeleitet werden. Die beiden primären Ausgabeformen sind zeitliche Emotionsverläufe. Emotionsintensitätswerte werden als Zeitreihendiagramme dargestellt, die die Entwicklung jeder Emotion während des gesamten Videos zeigen. Diese Darstellung bietet eine kontinuierliche Übersicht über affektive Schwankungen und erleichtert die Untersuchung vorübergehender Veränderungen, maximaler Aktivierungen sowie Erholungs- oder Deeskalationsphasen emotionaler Erregung. Vergleichende Emotionsscores: Zusammengefasste Emotionswerte für jede der neun Navarasa-Kategorien werden als vergleichende Score-Diagramme angezeigt, die die relative Stärke jeder Emotion im analysierten Zeitintervall veranschaulichen. Diese vergleichenden Visualisierungen ermöglichen direkte Vergleiche zwischen Emotionen und liefern eine prägnante Zusammenfassung des gesamten affektiven Profils. Die beim Ausgangszustand generierten FEA-Algorithmscores wurden auf etwaige Ausreißer oder fehlende aussagekräftige Veränderungen überprüft, was auf eine unzureichende Aufnahme hindeuten würde.
Statistische Analyse
Die Bewertungen für die neun Emotionsdomänen der Navarasa, die vom FEA-Algorithmus im 10-s-Intervall nach jeder Bildpräsentation im Paradigma generiert wurden, wurden als Zielvariablen behandelt. FEA-Algorithmus-Bewertungen wurden für jede Sekunde im 10-s-Fenster (T0, T1, T2… T9) erzeugt. Die FEA-Algorithmus-Bewertung zu T0 galt als Basislinienbewertung. Die höchste FEA-Algorithmus-Bewertung unter den Aufzeichnungen von T1–T9 wurde als Tmax definiert. Die Veränderung der FEA-Algorithmus-Bewertung gegenüber der Basislinie (Tmax − T0) wurde berechnet und als Zielvariable in den Analysen verwendet. Die Veränderung der FEA-Algorithmus-Bewertungen über die Zeitreihe für jede Emotion ist in Abbildung 3A–D dargestellt.
Bei den TRENDS-Bildern wurden die entsprechenden Ziel-Emotionskategorien wie folgt zugeordnet: Shanta > Neutral; Haasya > Freude; Krodha > Wut; und Bhayanaka > Angst. Bei den Navarasa-Bildern wurden die FEA-Algorithmus-Scores in drei zusammengesetzte Kategorien gruppiert und gemittelt: neutral (Shanta), angenehm (Haasya, Veera, Shringara, Adbhuta) und unangenehm (Krodha, Vibhitsa, Bhayanaka, Karuna).
Sowohl Analysen auf Gruppenebene als auch auf Ebene der Versuchspersonen wurden durchgeführt.
Analyse auf Gruppenebene: Für jede der oben beschriebenen Emotionskategorien wurde die Veränderung des FEA-Algorithmus-Scores vom Ausgangswert bis Tmax mithilfe abhängiger t-Tests verglichen. Eine signifikante Veränderung des FEA-Algorithmus-Scores gegenüber dem Ausgangswert würde auf eine gute Übereinstimmung mit der Emotionserkennung hindeuten. Ein signifikanter Unterschied weist jedoch nicht zwangsläufig auf eine hohe Klassifikationsgenauigkeit hin.
Analyse auf Ebene der Versuchspersonen: Jede Erhöhung eines Emotionsdomänenwerts gemäß dem FEA-Algorithmus gegenüber dem Basiswert wurde als positive emotionale Reaktion klassifiziert. Anschließend wurden Genauigkeitskennzahlen abgeleitet – Sensitivität und Spezifität. Sensitivität und Spezifität quantifizieren jeweils die Wahrscheinlichkeit, dass der Test positiv ist, wenn die Zielbedingung vorliegt (+), und negativ, wenn sie nicht vorliegt (−). Wenn beide Schätzungen dem Wert 1 nahekommen, weist der Test eine hohe diagnostische Genauigkeit auf. Die geschätzte Sensitivität und Spezifität wurden definiert als die Anteile der Teilnehmer mit beziehungsweise ohne die Referenzbedingung (Navarasa-Ausdrücke), die korrekt klassifiziert wurden.
Ein Proband galt als positiv (+) für die Zielbedingung, wenn er mindestens 75 % der dargestellten Emotionen korrekt identifizierte. Diese Klassifizierung basierte auf Validierungsstudien zu TRENDS, bei denen eine Genauigkeit von 60–80 % als ausreichende diskriminative Validität angesehen wurde. Eine Receiver-Operating-Characteristic-(ROC)-Analyse für einen kontinuierlichen Prädiktor wurde durchgeführt, um die Fläche unter der Kurve (AUC) sowie die entsprechenden Werte für Sensitivität und Spezifität zu schätzen. Eine Sensitivität über 80 % wurde als guter diskriminativer Wert eingestuft, unter 80 % als mäßig.