$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Hier stellen wir eine Methode zur zuverlässigen Detektion von Schielen bei hoher zeitlicher Auflösung mit Hilfe von DeepLabCut zur Verfügung. Wir haben die Trainingsparameter optimiert und eine Bewertung der Stärken und Schwächen dieser Methode vorgenommen (Abbildung 1).
Nach dem Training unserer Modelle haben wir überprüft, ob sie in der Lage sind, die oberen und unteren Punkte des Augenlids korrekt zu schätzen (Abbildung 2), die als Koordinatenpunkte für das euklidische Entfernungsmaß dienen. Der euklidische Abstand ist definiert als die durchschnittliche Länge der Abstände zwischen den beiden oberen und unteren Punkten des Auges. Unser Modell war in der Lage, Fälle von Nicht-Schielen (Abbildung 2A) und Schielen (Abbildung 2B) zu erkennen. Die blauen Punkte zeigen Punkte an, die zur Bestimmung des euklidischen Abstands für jedes Bild verwendet werden. Die grünen, gelben, orangefarbenen und violetten Punkte wurden verwendet, um dem Modell zu helfen, den euklidischen Abstand korrekt einzuschätzen und den Wahrscheinlichkeitswert zu verringern, wenn sich der Kopf in einer suboptimalen Position befindet (d. h. unter Berücksichtigung von Kopfbewegungen und Positionsänderungen über Sitzungen hinweg). Anschließend validierten wir die Genauigkeit des Modells mit einer Reihe verschiedener Methoden.
Um die ideale Anzahl von Frames zu validieren, die für das Modell verwendet wurden, haben wir vier Modelle mit unterschiedlicher Stichproben-Framegröße trainiert und getestet (Abbildung 3). Wir verglichen zunächst die RMSE-Werte (Mean Square Error) zwischen den Test- und Trainingsdaten, um zu validieren, wie gut die Modelle Testdaten, mit denen sie nicht trainiert wurden, genau vorhersagen konnten. Dieser Vergleich zeigte, dass sich die Variabilität zwischen den manuell beschrifteten Punkten und den modellbeschrifteten Punkten nach 300 Frames einpendelte. Dieser Trend korrelierte mit den berichteten Durchschnittswerten für die Wahrscheinlichkeit, die sich nach 300 beschrifteten Frames ebenfalls abzuflachen schienen. Wir haben diese berichteten Wahrscheinlichkeitswerte verwendet, um Punkte zu filtern, die kleiner als 0,92 waren. Diese Wahrscheinlichkeitswerte geben an, wie sicher das Modell ist, dass ein bestimmter Punkt auf der Grundlage der Trainingsdaten korrekt beschriftet wurde. Wir haben diese Werte für die Punkte gemittelt, die zur euklidischen Entfernungsmetrik beitragen, um zu untersuchen, wie gut die Modelle im Verhältnis zueinander abschneiden. Es gab zwar keinen signifikanten Unterschied zwischen 300 und 400 Frames, aber wir haben 400 Frames verwendet, weil sie im Durchschnitt über dem Wahrscheinlichkeitswert von 0,95 lagen, der sich unserem Schwellenwert für die manuelle Filterung nähert und mit dem Schwellenwert übereinstimmt, der in ähnlichen Modellen für die Posenschätzung verwendet wird16.
Eine weitere Möglichkeit, die Genauigkeit des Modells zu validieren, bestand darin, eine Konfusionsmatrix zu erstellen, die manuell annotierte Frames mit DLC-gekennzeichneten Frames verglich. Zwei verblindete Personen kommentierten manuell 300 Bilder desselben Auges in acht Videos. Wir verwendeten diese Daten, um eine Konfusionsmatrix zu erstellen, um Wahr- und Falsch-Positive und Negative zu bewerten (Abbildung 4), wobei manuell bewertete Daten als Grundwahrheit verwendet wurden. Für DLC wurde ein positiver Schielwert aufgezeichnet, wenn der euklidische Abstand weniger als 75 Pixel betrug (d. h. das Tier blinzelt), und ein negativer Wert wurde für Werte über 75 Pixel aufgezeichnet (d. h. das Tier schielen nicht). Wir fanden einen positiven prädiktiven Wert von 96,96 %, d. h. den Prozentsatz der Zeit, die das Modell das Schielen im Vergleich zu einem manuell annotierten Schielen genau vorhersagt. Wir fanden einen negativen Vorhersagewert von 99,66 %, was dem Prozentsatz der Zeit entspricht, in der das Modell kein Schielen im Vergleich zu manuell annotiertem Schielen genau vorhersagt. Diese zeigen den Anteil der negativen und positiven Werte, die korrekt beschriftet wurden. Wir fanden auch eine Richtig-Positiv-Rate von 98,1 % und eine Richtig-Negativ-Rate von 99,46 %, die die genaue Vorhersage des Modells von positiven und negativen Werten im Verhältnis zu allen positiven bzw. negativen Werten darstellen. Unser Matthews-Korrelationskoeffizient (MCC) betrug 93,8 %, was den Korrelationskoeffizienten zwischen beobachteten und vorhergesagten Werten angibt.
Nachdem wir sicher waren, dass unser Modell das Schielen zuverlässig verfolgt, verglichen wir diese DLC-Methode mit einer zuvor veröffentlichten Schiel-Tracking-Methode unter Verwendung eines präklinischen Migräne-Datensatzes14. Wir bezeichnen diese andere Methode als "Flächenschielmodell (ASM)", da sie unter Verwendung der offenen Augenpartie als kontinuierlicher Messvariabler Schielen14 entwickelt wurde. Das Flächenschielmodell verwendet eine trainierte Gesichtserkennungssoftware in Kombination mit einem benutzerdefinierten MATLAB-Skript, um die mittlere Pixelfläche des Auges zu analysieren, während Frames mit einer Tracking-Fehlerrate von >15 %14 ausgeschlossen werden. Eine wesentliche Einschränkung besteht darin, dass das "ASM" nicht Open Source ist und daher nicht allgemein zugänglich ist. DLC ermöglicht eine erhöhte Optimierung und Anpassungsfähigkeit, ohne dass ein erheblicher Kauf von Software und Hardware erforderlich ist.
Wir verwendeten einen Datensatz von 10 weiblichen und 10 männlichen CD1-Mäusen. Experimentell wurden alle Tiere über insgesamt 3 Tage vor Beginn der Aufnahmen 30 min lang in sanften Fesseln akklimatisiert. Jedes Tier wurde für 5 Minuten zu Studienbeginn und dann 5 Minuten für Behandlungsaufzeichnungen aufgezeichnet. Während der Behandlungssitzungen wurden die Tiere entweder mit PBS (Vehikel) oder 0,1 mg/kg CGRP (Behandlung) intraperitoneal behandelt, um einen migräneähnlichen Zustand herbeizuführen. Die Daten wurden in einem gut beleuchteten Raum mit Kameras gesammelt, die mit Infrarotlicht ausgestattet waren, um das Gesicht zu beleuchten und eine genaue Erkennung von Sehenswürdigkeiten zu gewährleisten. Die Infrarotkamera enthielt ein Kowa LM35JC 2/3" 35 mm F1,6 C-Mount-Objektiv mit manueller Blende mit einer Brennweite von 254 mm und einer entsprechend eingestellten Blende. Nachdem wir die Daten gesammelt hatten, nutzten wir ASM und DLC, um die Daten zu analysieren. Da die manuelle Bewertung im Feld üblicherweise zur Quantifizierung von Gesichtsgrimassen verwendet wird, wobei das Schielen eine Komponente der Gesichtsgrimasse14 ist, haben wir unsere Daten auch mit manuell bewerteten Daten verglichen.
Basierend auf früheren Befunden, dass die periphere Injektion von CGRP bei Mäusen eine Schielreaktion induziert, erwarteten wir, signifikante Unterschiede in der Schielreaktion zwischen Vehikel und CGRP-Behandlung zu beobachten 6,14. Wir verglichen ASM-, manuelle und DLC-Methoden und stellten fest, dass unser Modell einen Schiel-Phänotyp robust erkannte, ebenso wie die manuelle und die ASM-Methode (Abbildung 5). Es ist wichtig zu beachten, dass das ASM-Modell zur Beurteilung von CGRP-induzierten Schmerzen und Schielen verwendet wurde. In dieser Studie verglichen Rea et al. die Schielreaktion nach CGRP mit der Schielreaktion nach Formalininjektion der Hinterpfote als "traditionelleren" Schmerzinduktionstest14. Darüber hinaus ist gut dokumentiert, dass CGRP durch die Verwendung von von Frey 3,17 eine Berührungsüberempfindlichkeit bei Mäusen induziert. In Übereinstimmung mit dem Feld normalisierten wir das durchschnittliche Schielen während der Behandlungssitzung auf einen Ausgangswert von 5 Minuten vor der Behandlung für jedes Tier und verglichen PBS (n = 10) mit CGRP-behandelten (n = 11) Tieren. Die statistischen Analysen der PBS- und der CGRP-behandelten Gruppen sind wie folgt. Wir fanden heraus, dass CGRP-behandelte Tiere eine verringerte mittlere Pixelfläche aufwiesen, indem wir die Flächenschielmethode der Nachverfolgung (p = 0,012, Abbildung 5A) verwendeten und eine verringerte euklidische Distanz aufwiesen, wenn sie manuell bewertet wurden (p = 0,0007, Abbildung 5B) und unser DLC-Modell verwendeten (p = 0,007, Abbildung 5C). Als wir jede Methode im Laufe der Zeit an einem einzigen repräsentativen Tier verglichen, wurde das gleiche Muster beobachtet (Abbildung 5). Dieses Tier zeigte einen sehr deutlichen Schiel-Phänotyp als Reaktion auf die CGRP-Behandlung, aber nicht auf PBS. Alle Modelle waren in der Lage, diese Unterschiede zu erkennen, aber die Daten waren in unserem DLC-Modell am deutlichsten dargestellt (Abbildung 5). Präzise und genaue Metriken sind besonders wichtig, wenn Daten mit feineren Auflösungen analysiert werden müssen, bei denen die Mittelwertbildung nicht auf die vollständige Verhaltensauslesung (z. B. Gehirnaktivität) hinweist. Die DLC-Methode zur Erkennung von Schielen bei Mäusen ermöglicht es uns, Daten auf einer Zeitskala von Millisekunden zu sammeln und sie an Messungen der Gehirnaktivität (z. B. lokale Feldpotentiale) zu binden, die auf einer Zeitskala von Millisekunden auftritt. Wir können diese Technik dann nutzen, um ein robusteres Profil eines Gehirnzustands zu erstellen, der auf spontane Schmerzen im Zusammenhang mit Migräne und anderen komplexen Hirnerkrankungen hinweist.

Abbildung 1: Überblick über die Vorgehensweise zur Generierung eines trainierten Netzwerks mit DLC. Allgemeines Schema des Prozesses, mit dem Augenmerkmale eines Tieres verfolgt und dann mit Hilfe von maschinellem Lernen analysiert werden. Abkürzung: DLC = DeepLabCut. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.

Abbildung 2: Beispiel für automatisiertes Schielen-Tracking in einer repräsentativen CD1-Maus. (A) Beispiel für einen Rahmen, der das DLC-Tracking-Schielen (farbige Punkte) auf dem Umriss des Auges während des Behandlungstages zeigt, wenn die Maus nicht blinzelt. (B) Beispiel für einen Rahmen, der die automatische Erkennung von Schielen am Behandlungstag unter Verwendung unseres DLC-Modells zeigt. Die euklidische Distanz wurde anhand des durchschnittlichen Abstands zwischen B und C, den blauen Punkten, am oberen und unteren Rand des Auges gemessen. Die blauen Punkte am oberen und unteren Rand des Auges werden bei der Verfolgung der euklidischen Entfernung verwendet. Die anderen Punkte (grün, gelb, orange, violett) sind einrahmende Orientierungspunkte, die sowohl dem Modell helfen, die euklidischen Entfernungspunkte zu schätzen, als auch die suboptimale Kopfpositionierung nach der Datenerfassung herauszufiltern. Abkürzung: DLC = DeepLabCut. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.

Abbildung 3: Begründung für die Anzahl der Frames, die zum Trainieren des Modells verwendet werden. (A) Die Analyse des mittleren quadratischen Fehlers gibt den durchschnittlichen Abstand zwischen vorhergesagten und beobachteten Werten für Test- und Trainingsdatensätze an. Der Trainingsdatensatz stellt die Frames dar, die beim Trainieren des Modells abgetastet wurden, und der Testdatensatz stellt die Nicht-Trainingsframes dar, die verwendet werden, um zu überprüfen, wie gut das Modell ähnliche, aber unterschiedliche Bilder identifizieren kann. Wir verwendeten fünf Sätze von Trainings- und Testdaten und stellten fest, dass sich die RMSE-Werte in der Testgruppe bei etwa 300 Frames einpendelten. (B) Die Wahrscheinlichkeit, dass ein bestimmter Punkt korrekt beschriftet ist (Mittelwert + SEM). Dabei zeigte sich, dass 400 manuell beschriftete Frames ideal waren, da die Rohdatensätze im Durchschnitt eine Wahrscheinlichkeit von über 0,95 aufwiesen, während sie einen RMSE-Wert aufwiesen, der dem der Trainingsdaten am nächsten kam. Dies bedeutete, dass das Modell in der Lage war, die Punkte, an denen es trainiert worden war, genau zu approximieren und gleichzeitig die meisten Frames mit hoher Wahrscheinlichkeit zu melden. Abkürzung: RMSE = Root-Mean Squared Error. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.

Abbildung 4: Konfusionsmatrix für DLC-Schielmessungen. Wir haben 300 s von acht Videos (fünf CGRP und drei PBS) abgetastet und diese Punkte mit einem manuell beschrifteten binären Ja- oder Nein-Wert für Schielen verglichen. Wir quantifizierten die vorhergesagten Werte als diejenigen, die durch DLCs identifiziert wurden, und die tatsächlichen Werte als diejenigen, die manuell von einem Menschen bewertet wurden. Wir haben dies dann mit den manuell bewerteten Daten verglichen, um zu sehen, wie oft das Schielen im Verhältnis zu dem manuell bewerteten binären Ja oder Nein des Schielens korrekt identifiziert wurde. Abkürzungen: DLC = DeepLabCut; CGRP = Calcitonin-Gen-verwandtes Peptid; PBS = phosphatgepufferte Kochsalzlösung; TP = richtig positiv; FP = falsch positive Ergebnisse; FN = falsch negative Ergebnisse; TN = wahre Negative; PPV = positiver prädiktiver Wert; NPV = negativer prädiktiver Wert; TPR = True-Positive-Rate; TNR = wahre negative Rate; MCC = Matthäus-Korrelationskoeffizient. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.

Abbildung 5: Schielen-Phänotyp über drei verschiedene Modelle zur Erkennung von Schielen. Die oberen beiden Zeilen enthalten das gleiche repräsentative Tier mit jeder Erkrankung (PBS oder CGRP) in drei verschiedenen Modellen zur Erkennung von Schielen. Die untere Zeile zeigt die Durchschnittswerte aller Tiere. (A) Es gab eine Abnahme der mittleren Pixelfläche (mittlere Gesamtpixelfläche/Baseline) bei CGRP-behandelten im Vergleich zu PBS-behandelten Mäusen (t(18) = 2,805, p = 0,012) nach Verarbeitung aller Daten unter Verwendung des zuvor veröffentlichten und validierten Flächenschielmodells14. (B) Eine ähnliche Reaktion gab es bei manuell bewerteten Daten (t(18) = 4,064, p = 0,0007). (C) CGRP-behandelte Mäuse zeigten einen verringerten durchschnittlichen Abstand zwischen Augenlid (euklidischer Abstand der Behandlung/euklidischer Abstand vor der Behandlung, Ausgangswert) als mit PBS behandelte Mäuse (t(18) = 3,040, p = 0,007, wenn DLC zur Verarbeitung aller Daten verwendet wurde. N = 20 (10 Weibchen, 10 Männchen). Fehlerbalken zeigen die mittlere ± SEM an. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzuzeigen.