Większość stawonogów porusza czułkami lub innymi wyrostkami, aby próbkować sygnały i bodźce środowiskowe w czasie i przestrzeni. Zwierzęta te mogą wykorzystywać czułki do nawigacji w środowisku poprzez wykrywanie bodźców sensorycznych, takich jak lotne substancje chemiczne oraz bodźce smakowe i mechaniczne1,2,3,4. U owadów czułki zawierają receptory sensoryczne, które wiążą lotne substancje chemiczne4,5,6 i przekazują ten sygnał za pośrednictwem węchowych neuronów sensorycznych do ośrodkowych obszarów mózgu1,7,8,9. Owady mogą korygować położenie czułków, aby modulować informacje o docierających zapachach4,10,11. Modulacja ta ułatwia aktywne, oparte na informacjach reakcje behawioralne na zapachy i ich pióropusze12,13.
Wiele owadów, w tym błonkówki (np. pszczoły miodne i trzmiele), motyle (np. motyle dzienne) oraz muchówki (np. muchy i komary), między innymi, żywi się poprzez wysuwanie trąbki14,15,16,17,18,19,20,21. Wysuwanie trąbki było w przeszłości wiarygodnie wykorzystywane w różnych zadaniach dotyczących uczenia się i pamięci22,23,24,25,26,27,28,29,30,31. Podobnie, ilościowa ocena ruchu czułków z wysoką rozdzielczością czasową i przestrzenną może dostarczyć informacji o zależności między bodźcem, zachowaniem a stanem wewnętrznym zwierzęcia. Rzeczywiście, wcześniejsze prace wykazały, że ruchy czułków zawierają bogatą ilość informacji o sposobie monitorowania środowiska przez pszczołę miodną oraz o tym, jak ruchy te zmieniają się w procesie uczenia się32,33,34,35,36,37,38.
W ciągu ostatniej dekady metody obserwacji zachowań zwierząt uległy znacznemu przyspieszeniu dzięki postępom w dziedzinie kamer wideo o wysokiej rozdzielczości, prędkości przetwarzania danych przez komputery oraz algorytmów wizji komputerowej. Zadania takie jak detekcja, liczenie, śledzenie zwierząt oraz analizy preferencji miejsca są wspomagane przez zaawansowane oprogramowanie, które potrafi przetwarzać nagrania wideo z zachowań zwierząt i wyodrębniać istotne parametry pomiarowe39,40,41,42,43,44,45,46,47.
Technologie te pomogły również w śledzeniu ruchów czułków i aparatów gębowych owadów. Osoby oceniające mogą używać kursora myszy do ręcznego śledzenia pozycji czułków. Jednakże, choć metoda ta może być dokładna, zadanie to jest czasochłonne, a brak uwagi i zmęczenie operatora mogą prowadzić do niewiarygodnych wyników. Aby zmniejszyć potrzebę stosowania złożonego oprogramowania, można wykorzystać specjalistyczny sprzęt i przygotowanie. Na przykład w jednej z konfiguracji wykorzystano kamerę wysokiej prędkości i pomalowano końcówki czułków, aby śledzić ich ruch48. Można również poprosić użytkowników o wybranie klatek kluczowych z nagrań wideo, aby pomóc oprogramowaniu w wykrywaniu położenia czułków i aparatu gębowego49. Inne podejście polegało na wykrywaniu dwóch największych skupisk ruchu w celu identyfikacji czułków, jednak nie pozwala ono na wykrycie położenia aparatu gębowego50. Inny pakiet oprogramowania potrafi wykrywać położenie czułków i aparatu gębowego, lecz wymaga około 7,5 s czasu przetwarzania na każdą klatkę51, co może być ograniczające w przypadku obserwacji w czasie rzeczywistym lub badań długoterminowych. Wreszcie, możliwe może być dostosowanie komercyjnych pakietów oprogramowania (np. EthoVision) do wykonania tego zadania46, jednak koszty licencji i szkolenia mogą być zbyt wysokie.
Stosując opisaną tutaj metodę, rozszerzyliśmy nasze poprzednie prace nad oprogramowaniem do analizy ruchu41 w celu śledzenia położenia czułków i ssawki owadów, wyznaczając następujące cele: (1) brak wymogu stosowania specjalistycznego sprzętu lub złożonego przygotowania zwierząt, (2) przetwarzanie klatek w czasie rzeczywistym (30 fps lub szybciej) na konwencjonalnym komputerze, (3) łatwość obsługi oraz (4) kod o otwartym źródle, łatwy do rozbudowy.
Opracowana nowa metoda oraz otwartoźródłowe oprogramowanie, SwarmSight Appendage Tracking, nie wymagają malowania końcówek anten, umożliwiają wykorzystanie konsumenckiej kamery internetowej do nagrywania filmów oraz przetwarzają klatki wideo z prędkością 30-60 fps na konwencjonalnym komputerze (Ryc. 1). Oprogramowanie przyjmuje pliki wideo jako dane wejściowe. Użytkownik wskazuje położenie głowy owada na filmie, a po przetworzeniu generowany jest plik wartości rozdzielanych przecinkami (.csv) z lokalizacjami anten i proboscis. Oprogramowanie jest w stanie odczytywać setki różnych formatów wideo (w tym formaty generowane przez większość aparatów cyfrowych) dzięki zastosowaniu biblioteki FFmpeg52.

Rysunek 1: Konfiguracja zwierzęcia i wynik działania oprogramowania. (A) Pszczoła miodna zbieraczka z głową i ciałem unieruchomionymi w uprzęży. (B) Źródło zapachu umieszczone przed zwierzęciem, kamera wideo zlokalizowana powyżej oraz źródło próżni umieszczone za zwierzęciem. (C) Zmienne dotyczące końcówki anteny i trąbki wykryte przez oprogramowanie SwarmSight z nagrania wideo. (D) Użytkownik umieszcza sensor anteny nad zwierzęciem i dostosowuje parametry filtra. Oprogramowanie wykrywa pozycje anten i trąbek (żółte pierścienie). Kliknij tutaj, aby wyświetlić większą wersję tego rysunku.
Najpierw ciało i głowa owada są unieruchomione w uprzęży w taki sposób, aby ruchy czułków i trąbki były łatwo obserwowalne (Rysunek 1A). Przed owadem umieszcza się źródło zapachu, a za nim źródło próżni, aby usuwać zapachy z powietrza i zminimalizować potencjalne efekty adaptacji sensorycznej (Rysunek 1B). Nad głową owada, na statywie, umieszcza się konwencjonalną kamerę internetową. W polu widzenia kamery można ustawić diodę LED, która będzie sygnalizować moment podawania zapachu.

Rysunek 2: Układ współrzędnych anteny. Wartości X, Y odpowiadają układowi współrzędnych wideo, w którym lewy górny róg jest początkiem układu, a wartości X i Y zwiększają się podczas przesuwania w kierunku prawego dolnego rogu. Kąty wyrażone są w stopniach względem przodu głowy (zazwyczaj źródła zapachu). Wartość „0” oznacza, że linia tworzona przez flagellum anteny jest skierowana bezpośrednio przed zwierzę. Wszystkie kąty są dodatnie, z wyjątkiem sytuacji, gdy antena jest skierowana w przeciwnym kierunku (np. prawe flagellum skierowane jest w lewo). Kliknij tutaj, aby wyświetlić większą wersję tego rysunku.
Po nagraniu plik wideo jest otwierany w oprogramowaniu SwarmSight, w którym użytkownik umieszcza widżet Antenna Sensor (Rysunek 1D, czarny kwadrat) nad głową owada i uruchamia odtwarzanie wideo. Po zapisaniu wyników plik .csv będzie zawierał pozycje X, Y końcówek czułków, kąty nachylenia czułków względem przodu głowy (Rysunek 2) oraz pozycję X, Y cycumna. Dodatkowo dla każdego czułka obliczana jest metryka sektora dominującego. Metryka ta wskazuje, który z pięciu 36-stopniowych sektorów otaczających każdy czułek zawierał najwięcej punktów uznanych za prawdopodobne położenie czułków; może to być przydatne w sytuacjach, gdy metryki pozycji/kąta czułków są niewiarygodne z powodu szumów lub innych problemów w nagraniu wideo.
Krótko mówiąc, oprogramowanie działa w oparciu o zestaw filtrów ruchu53 oraz zmodyfikowany algorytm zalewania (flood fill)54. Aby zidentyfikować prawdopodobne punkty czułków, stosuje się dwa filtry: filtr różnicy trzech następujących po sobie klatek41,55 oraz filtr odejmowania tła medianowego56. Do wykrywania punktów na trąbce stosowany jest filtr progu odległości kolorystycznej. Połączono górne 10% punktów z każdego filtra, a algorytm zalewania, który sprawdza sąsiadujące punkty z przerwami do 2 pikseli (px), lokalizuje punkty skrajne. Wysoką wydajność uzyskano dzięki równoległym potokom dekodowania, przetwarzania i renderowania klatek oraz zoptymalizowanej alokacji pamięci dla przepływu danych filtrów. Surowe wartości współrzędnych x i y generowane przez oprogramowanie są poddawane postprocesowaniu za pomocą kroczącego filtra medianowego z 3 klatek57 (patrz: Dyskusja). Instrukcje pobierania pełnego kodu źródłowego znajdują się w internecie58.
Poniżej znajduje się protokół przygotowania robotnicy pszczoły miodnej do śledzenia ruchów czułków. Podobny protokół można zastosować do śledzenia ruchów czułków lub proboscis u każdego innego owada. W sekcji wyników opisujemy przykładowy zapis ruchu czułka wykryty przez oprogramowanie, porównanie wyników oprogramowania z analizą przeprowadzoną przez oceniających oraz ocenę ruchu czułków w odpowiedzi na pięć substancji zapachowych.