W niniejszym materiale przedstawiamy metodę niezawodnego wykrywania zeza z wysoką rozdzielczością czasową przy użyciu oprogramowania DeepLabCut. Zoptymalizowaliśmy parametry treningowe oraz przedstawiamy ocenę mocnych i słabych stron tej metody (Rycina 1).
Po przeszkoleniu naszych modeli zweryfikowaliśmy, że są one w stanie prawidłowo oszacować górny i dolny punkt powieki (Rysunek 2), które służą jako punkty współrzędnych dla pomiaru odległości euklidesowej. Odległość euklidesowa jest definiowana jako średnia długość dystansów pomiędzy dwoma górnymi i dolnymi punktami oka. Nasz model był w stanie wykryć przypadki braku zmrużenia oczu (Rysunek 2A) oraz zmrużenia oczu (Rysunek 2B). Niebieskie kropki wskazują punkty wykorzystywane do wyznaczenia odległości euklidesowej dla każdej klatki. Zielone, żółte, pomarańczowe i fioletowe kropki posłużyły do pomocy modelowi w prawidłowym szacowaniu odległości euklidesowej oraz zmniejszenia wartości prawdopodobieństwa w sytuacjach, gdy głowa znajduje się w nieoptymalnej pozycji (t.j. uwzględniając ruchy głowy i zmiany pozycji pomiędzy sesjami). Następnie zweryfikowaliśmy dokładność modelu, stosując szereg różnych metod.
Aby zweryfikować optymalną liczbę klatek wykorzystanych w modelu, przeszkoliliśmy i przetestowaliśmy cztery modele o różnej wielkości próby klatek (Rycina 3). W pierwszej kolejności porównaliśmy wartości średnia błędu kwadratowego (RMSE) dla danych testowych i treningowych, aby ocenić, jak precyzyjnie modele potrafią przewidywać dane testowe, na których nie były trenowane. Porównanie to wykazało, że zmienność między punktami etykietowanymi ręcznie a punktami etykietowanymi przez model ustabilizowała się po 300 klatkach. Trend ten korelował z raportowanymi średnimi wartościami prawdopodobieństwa, które również wydawały się stabilizować po 300 etykietowanych klatkach. Wykorzystaliśmy te wartości prawdopodobieństwa do odfiltrowania punktów, dla których wartość ta była mniejsza niż 0,92. Wartości prawdopodobieństwa wskazują, jak pewny jest model co do prawidłowego etykietowania danego punktu na podstawie danych treningowych. Obliczyliśmy średnie z tych wartości dla punktów wchodzących w skład metryki odległości euklidesowej, aby zbadać względną skuteczność poszczególnych modeli. Choć nie stwierdzono istotnej różnicy między 300 a 400 klatkami, zastosowaliśmy 400 klatek, ponieważ średnia wartość prawdopodobieństwa przekroczyła 0,95, co zbliża się do naszego progu filtrowania ręcznego i jest zgodne z progiem stosowanym w podobnych modelach do estymacji pozy16.
Kolejnym sposobem walidacji dokładności modelu była macierz pomyłek porównująca klatki opisane ręcznie z klatkami opisanymi przez DLC. Dwie osoby w ślepym teście ręcznie opisały 300 klatek tego samego oka w ośmiu filmach. Wykorzystaliśmy te dane do stworzenia macierzy pomyłek w celu oceny wyników prawdziwie i fałszywie dodatnich oraz ujemnych (Rycina 4), przyjmując dane punktowane ręcznie jako prawdę obiektywną (ground truth). W przypadku DLC wartość dodatnią dla mrużenia oka odnotowano, gdy odległość euklidesowa była mniejsza niż 75 pikseli (tzn. zwierzę mruży oko), natomiast wartość ujemną dla odległości większej niż 75 pikseli (tzn. zwierzę nie mruży oka). Uzyskano wartość predykcyjną dodatnią na poziomie 96,96%, co stanowi procent czasu, w którym model poprawnie przewiduje mrużenie w stosunku do ręcznie opisanego mrużenia. Uzyskano wartość predykcyjną ujemną na poziomie 99,66%, co stanowi procent czasu, w którym model poprawnie przewiduje brak mrużenia w stosunku do ręcznie opisanego mrużenia. Wyniki te pokazują proporcję wartości ujemnych i dodatnich, które zostały poprawnie oznaczone. Odnotowaliśmy również odsetek prawdziwie dodatnich wyników na poziomie 98,1% oraz odsetek prawdziwie ujemnych wyników na poziomie 99,46%, co reprezentuje dokładność przewidywań modelu dla wartości dodatnich i ujemnych w stosunku do wszystkich wartości dodatnich i ujemnych odpowiednio. Współczynnik korelacji Matthewsa (MCC) wyniósł 93,8%, co wskazuje na współczynnik korelacji między wartościami obserwowanymi a przewidywanymi.
Po upewnieniu się, że nasz model niezawodnie śledzi mruganie, porównaliśmy tę metodę DLC z wcześniej opublikowaną metodą śledzenia mrugania, wykorzystując zbiór danych przedklinicznych dotyczących migreny.14Tę drugą metodę będziemy określać jako „model mrużenia oczu oparty na powierzchni (ASM)”, ponieważ została ona opracowana z wykorzystaniem otwartej powierzchni oka jako zmiennej ciągłej służącej do pomiaru mrużenia.14Model mrużenia obszarowego wykorzystuje wyszkolone oprogramowanie do detekcji twarzy w połączeniu z niestandardowym skryptem MATLAB w celu analizy średniego obszaru pikseli oka, przy jednoczesnym wykluczeniu klatek z błędem śledzenia na poziomie >15%14Jednym z głównych ograniczeń jest fakt, że „ASM” nie jest oprogramowaniem o otwartym kodzie źródłowym, a w konsekwencji nie jest powszechnie dostępne. DLC umożliwia większą optymalizację i adaptacyjność bez konieczności ponoszenia znacznych wydatków na oprogramowanie i sprzęt.
Wykorzystaliśmy zestaw danych obejmujący 10 samic i 10 samców myszy CD1. W ramach przygotowań wszystkie zwierzęta były aklimatyzowane w łagodnych unieruchomiaczach przez 30 min dziennie przez łącznie 3 dni przed rozpoczęciem rejestracji. Każde zwierzę poddano 5-minutowej rejestracji bazowej, a następnie 5-minutowej rejestracji po podaniu preparatu. Podczas sesji terapeutycznych zwierzęta otrzymywały dobrzusznie albo PBS (nośnik), albo 0,1 mg/kg CGRP (leczenie), aby wywołać stan przypominający migrenę. Dane zbierano w dobrze oświetlonym pomieszczeniu przy użyciu kamer wyposażonych w światło podczerwone do oświetlenia pyska, co zapewniło dokładną detekcję punktów orientacyjnych. Kamera podczerwona posiadała obiektyw Kowa LM35JC 2/3" 35 mm F1.6 z manualną przysłoną, mocowaniem C-mount, odległością ogniskową 254 mm i odpowiednio dostosowaną aperturą. Po zebraniu danych wykorzystaliśmy ASM oraz DLC do ich analizy. Ponieważ w tej dziedzinie tradycyjnie stosuje się ocenę manualną do kwantyfikacji grymasu twarzy, w której mrużenie oczu jest jednym z komponentów grymasu twarzy14, porównaliśmy nasze dane z danymi ocenianymi manualnie.
Opierając się na wcześniejszych odkryciach, według których obwodowe wstrzyknięcie CGRP indukuje reakcję mrużenia oczu u myszy, spodziewaliśmy się zaobserwować istotne różnice w tej reakcji pomiędzy grupą kontrolną (vehicle) a grupą leczoną CGRP6,14. Porównaliśmy metody ASM, manualną oraz DLC i stwierdziliśmy, że nasz model niezawodnie wykrył fenotyp mrużenia oczu, podobnie jak metody manualna i ASM (Rycina 5). Należy zauważyć, że model ASM został wykorzystany do oceny bólu i mrużenia oczu indukowanych przez CGRP. W tamtym badaniu Rea i wsp. porównali reakcję mrużenia oczu po podaniu CGRP z reakcją po wstrzyknięciu formaliny do tylnej łapy, która jest „bardziej tradycyjnym” testem indukcji bólu14. Ponadto dobrze udokumentowano, że CGRP indukuje nadwrażliwość dotykową u myszy, co wykazano przy użyciu włókien von Frey3,17. Zgodnie z przyjętymi standardami w tej dziedzinie, znormalizowaliśmy średnie mrużenie podczas sesji zabiegowej względem 5-minutowej linii bazowej przed zabiegiem dla każdego zwierzęcia i porównaliśmy zwierzęta traktowane PBS (n = 10) z tymi traktowanymi CGRP (n = 11). Analizy statystyczne grup PBS i CGRP przedstawiają się następująco. Stwierdziliśmy, że zwierzęta traktowane CGRP wykazały zmniejszoną średnią powierzchnię pikseli przy zastosowaniu metody śledzenia obszaru mrużenia (p = 0,012, Rycina 5A) oraz zmniejszoną odległość euklidesową podczas oceny manualnej (p = 0,0007, Rycina 5B) i przy użyciu naszego modelu DLC (p = 0,007, Rycina 5C). Po porównaniu każdej metody w czasie u pojedynczego reprezentatywnego zwierzęcia zaobserwowano ten sam wzorzec (Rycina 5). Zwierzę to wykazało bardzo wyraźny fenotyp mrużenia oczu w odpowiedzi na podanie CGRP, ale nie w odpowiedzi na PBS. Wszystkie modele były w stanie wykryć te różnice, jednak dane zostały najpełniej przedstawione w naszym modelu DLC (Rycina 5). Precyzyjne i dokładne metryki są szczególnie istotne, gdy dane muszą być analizowane w wyższych rozdzielczościach, w których uśrednianie nie odzwierciedla pełnego odczytu behawioralnego (np. aktywności mózgu). Metoda DLC wykrywania mrużenia oczu u myszy pozwala nam na gromadzenie danych w skali milisekundowej i synchronizację czasową z pomiarami aktywności mózgu (np. lokalnymi potencjałami polowymi), które również zachodzą w skali milisekundowej. Możemy następnie wykorzystać tę technikę do zbudowania bardziej solidnego profilu stanu mózgu wskazującego na ból spontaniczny w kontekście migreny i innych złożonych zaburzeń mózgowych.

Rycina 1: Przegląd procedury generowania wytrenowanej sieci za pomocą DLC. Ogólny schemat procesu, w którym cechy oka zwierzęcia są śledzone, a następnie analizowane przy użyciu uczenia maszynowego. Skrót: DLC = DeepLabCut. Kliknij tutaj, aby wyświetlić większą wersję tej ryciny.

Rysunek 2: Przykład zautomatyzowanego śledzenia mrugania u reprezentatywnej myszy CD1. (A) Przykład klatki pokazującej śledzenie mrugania przez DLC (kolorowe kropki) na obrysie oka w dniu zabiegu, gdy mysz nie mruga. (B) Przykład klatki pokazującej zautomatyzowaną detekcję mrugania w dniu zabiegu przy użyciu naszego modelu DLC. Odległość euklidesowa była mierzona jako średnia odległość między punktami B i C, niebieskimi kropkami, na górnej i dolnej krawędzi oka. Niebieskie zestawy kropek na górze i na dole oka są wykorzystywane do śledzenia odległości euklidesowej. Pozostałe punkty (zielone, żółte, pomarańczowe, fioletowe) to punkty orientacyjne ramy, które pomagają modelowi oszacować punkty odległości euklidesowej oraz odfiltrować nieoptymalne ustawienie głowy po zebraniu danych. Skrót: DLC = DeepLabCut. Kliknij tutaj, aby zobaczyć powiększoną wersję tego rysunku.

Rycina 3: Uzasadnienie liczby klatek wykorzystanych do trenowania modelu. (A) Analiza pierwiastka błędu średniokwadratowego (RMSE) wskazuje średnią odległość między wartościami przewidzianymi a obserwowanymi dla zbiorów danych testowych i treningowych. Zbiór danych treningowych reprezentuje klatki pobrane podczas trenowania modelu, a zbiór danych testowych reprezentuje klatki nietreningowe wykorzystane do walidacji tego, jak dobrze model potrafi zidentyfikować podobne, lecz inne obrazy. Wykorzystano pięć zestawów danych treningowych i testowych i stwierdzono, że wartości RMSE ustabilizowały się w okolicach 300 klatek dla grupy testowej. (B) Prawdopodobieństwo (wiarygodność), że dany punkt został poprawnie oznakowany (średnia + SEM). Wykazało to, że 400 ręcznie oznakowanych klatek było optymalną liczbą, ponieważ surowe zbiory danych osiągały średnią wiarygodność powyżej 0,95, mając jednocześnie wynik RMSE najbliższy wynikowi danych treningowych. Oznaczało to, że model był w stanie ściśle przybliżyć punkty, na których był trenowany, raportując jednocześnie większość klatek z wysoką wiarygodnością. Skrót: RMSE = pierwiastek błędu średniokwadratowego. Aby wyświetlić powiększoną wersję tej ryciny, kliknij tutaj.

Rycina 4: Macierz pomyłek dla pomiarów mrużenia oczu za pomocą DLC. Pobrano próbki z 300 s z ośmiu filmów (pięć CGRP i trzy PBS), a następnie porównano te punkty z ręcznie przypisaną binarną oceną tak lub nie dla mrużenia oczu. Wartości przewidywane zdefiniowano jako te zidentyfikowane przez DLC, a wartości rzeczywiste jako te ocenione ręcznie przez człowieka. Następnie porównano te wyniki z danymi ocenianymi ręcznie, aby sprawdzić, jak często mrużenie oczu było prawidłowo identyfikowane w odniesieniu do ręcznej binarnej oceny tak lub nie. Skróty: DLC = DeepLabCut; CGRP = peptyd związany z genem kalcytoniny; PBS = soli fizjologicznej w buforze fosforanowym; TP = prawdziwie dodatnie; FP = fałszywie dodatnie; FN = fałszywie ujemne; TN = prawdziwie ujemne; PPV = dodatnia wartość predykcyjna; NPV = ujemna wartość predykcyjna; TPR = odsetek prawdziwie dodatnich; TNR = odsetek prawdziwie ujemnych; MCC = współczynnik korelacji Matthewsa. Kliknij tutaj, aby wyświetlić powiększoną wersję tej ryciny.

Rycina 5: Fenotyp zmrużenia oczu w trzech różnych modelach wykrywania zmrużenia.Dwie górne rzędy przedstawiają to samo reprezentatywne zwierzę dla każdego stanu (PBS lub CGRP) w trzech różnych modelach wykrywania zmrużenia. Dolny rząd odzwierciedla średnie dla wszystkich zwierząt. (A) Odnotowano spadek średniego pola pikseli (średnie całkowite pole pikseli/baseline) u myszy traktowanych CGRP w porównaniu z myszami traktowanymi PBS (t(18) = 2.805, p = 0.012) po przetworzeniu wszystkich danych przy użyciu wcześniej opublikowanego i zwalidowanego modelu pola zmrużenia14. (B) Podobną odpowiedź zaobserwowano w danych ocenianych ręcznie (t(18) = 4.064, p = 0.0007). (C) Myszy traktowane CGRP wykazały mniejszą średnią odległość między powiekami (odległość euklidesowa po traktowaniu/odległość euklidesowa przed traktowaniem, baseline) niż myszy traktowane PBS (t(18) = 3.040, p = 0.007) przy zastosowaniu DLC do przetworzenia wszystkich danych. N = 20 (10 samic, 10 samców). Słupki błędów wskazują średnią ± SEM. Kliknij tutaj, aby wyświetlić powiększoną wersję tej ryciny.