Automatisierte Interactive Video Playback für Studies of Animal Communication

Published 2/09/2011
0 Comments
  CITE THIS  SHARE 
Neuroscience
 

Summary

Video-Wiedergabe ist eine weit verbreitete Technik in das Verhalten von Tieren. Wir erstellt und ausgewertet ein Programm, das auf Regeln basierte, interaktive Wiedergabe von 3-D Computeranimationen gilt als Reaktion auf Echtzeit, automatische Daten unterliegen Verhalten.

Cite this Article

Copy Citation

Butkowski, T., Yan, W., Gray, A. M., Cui, R., Verzijden, M. N., Rosenthal, G. G. Automated Interactive Video Playback for Studies of Animal Communication. J. Vis. Exp. (48), e2374, doi:10.3791/2374 (2011).

Please note that all translations are automatically generated.

Click here for the english version. For other languages click here.

Abstract

Video-Wiedergabe ist eine weit verbreitete Technik zur kontrollierten Manipulation und Präsentation von optischen Signalen in Tierkommunikation. Insbesondere bietet Parameter-basierten Computer-Animation die Möglichkeit, selbständig zu bearbeiten beliebige Anzahl von Verhaltens-, morphologischen, oder die spektralen Eigenschaften im Rahmen der realistischen, bewegte Bilder von Tieren auf dem Bildschirm. Eine wesentliche Einschränkung der herkömmlichen Wiedergabe ist jedoch, dass der visuelle Reiz die Fähigkeit, mit den lebenden Tieren zu interagieren fehlt. In Anlehnung an Video-Game-Technologie, haben wir eine automatisierte, interaktive System zur Wiedergabe von Videos mit Animationen steuert in Reaktion auf Echtzeit-Signale von einem Video-Tracking-System erstellt. Wir haben gezeigt, diese Methode durch die Durchführung Mate-Choice-Tests auf die weibliche Schwertträger Fisch, Xiphophorus birchmanni. Frauen waren eine gleichzeitige Wahl zwischen einem anderen Männchen umwerben und ein Werben um männliche heterospezifischen (X. Malinche) auf gegenüberliegenden Seiten eines Aquariums gegeben. Die virtuelle männlichen Reiz war so programmiert, dass die horizontale Position der weiblichen track, wie umwerben Männchen in freier Wildbahn zu tun. Mate-Wahl Versuche an wild gefangenen X. birchmanni Weibchen wurden verwendet, um den Prototyp der Lage ist, effektiv erzeugen einen realistischen visuellen Reiz zu bestätigen.

Protocol

1. Einrichten der Hardware und-Viewer-System.

Das System besteht aus einem Test-Tank von zwei Monitoren flankiert. Eine Videokamera an der BIOBSERVE Viewer-System erfasst die Bewegung des Motivs in Echtzeit. Motion-Daten zur interaktiven Video-Wiedergabe (IVP)-Programm auf einem separaten Server, der die Bewegung des animierten Reiz auf dem Bildschirm bestimmt weitergegeben.

  1. Legen Sie zwei CRT-Monitore an den entgegengesetzten Enden eines 80-l Aquarium mit sauberem Wasser gefüllt; Match Monitor-Ausgang.
  2. Legen Sie die Kamera über Kopf zu erfassen vollen Blick auf Aquarium; verbinden Grafikkarte BIOBSERVE.
  3. Konfigurieren Sie die Viewer-System Tracking-Informationen von der Kamera erhalten.
  4. Enable-Plug-in um-Viewer, dass die Koordinaten des Tieres Schnauze, Körper und Schwanz Animation-Server in Echtzeit sendet über einen bestimmten Netzwerk-IP-Adresse.
  5. Schalten Sie Animation-Server.

2. Kalibrierung.

  1. Auf die Animation Server öffnen InteractiveDisplaySetup.txt. Geben Sie Bildschirmbreite und Bildschirmhöhe in Pixel unter "Monitor Info". Unter "ProgramType" enter "Kalibrierung". Speichern Sie die Änderungen in einer Datei.
  2. Auf IVP Programm-Icon doppelklicken, um Programm zu starten.
  3. Geben Sie in den Ausmaßen des Tanks Dimensionen wie in der Viewer-System in Schritt 2.3. Dadurch wird sichergestellt, Korrespondenz zwischen Viewer-Daten und interaktive Ausgabe von IVP.
  4. Da die Enden von Aquarien kleiner als die Monitore sind, ermöglicht die Software den Benutzer auf der Tastatur (a und s für die Breite, Tasten z und x für die Höhe, und der Pfeil für die Position) zu verwenden, um den Anzeigebereich (Viewport) des Umzugs Reize, mit den Enden des Tests Tank ausrichten. Betrachtet auf die Animation-Server, ist die rosa Ansichtsfenster auf einer Prüfung zu überwachen und die blaue Ansichtsfenster auf der anderen Seite (Abbildung 1) wiederholt.
  5. Verwenden Sie z und x auf der Tastatur, um die Anzeige der männlichen Fische auf beiden Fenstern Skala, bis es die gewünschte Stimulus Größe entspricht.
  6. Bewegen Sie die Felder angezeigt, so dass sie an den Rändern der Testtank auszurichten. Der Nutzer verwendet die Q oder W-Tasten, um die Kisten hin oder weg von der Mitte des Fisches zu bewegen.
  7. Geben Sie Informationen zum Experiment, wenn die vom Programm dazu aufgefordert werden. Der Benutzer hat die Möglichkeit der Auswahl unter den vorinstallierten Modellen (in unserer Demonstration, umwerben männlichen Xiphophorus birchmanni, X. Malinche). Der Benutzer legt auch das Verhalten der einzelnen Fische in jeder Phase (non-interactive oder interaktiv), der Seite und der Bühne, in dem jeder Reiz erscheint, und die gewünschte Größe (Standardlänge) jedes Stimulus.
  8. Die nächste Frage, wenn der Nutzer will das Fischen Bewegungen gespiegelt, dh, dass die Bewegung des Modells auf beiden Seiten des Aquariums wird genau das gleiche sein. Dies wird nur verwendet, wenn der Fisch sowohl in der Animation sind. Die letzten Fragen beziehen sich auf die Bewegung der Rückenflosse. Der Benutzer kann auswählen Standard dorsal; dies würde die dorsale nur bei einem Seitenaufprall Balz zu erhöhen. Wenn der Rücken ist nicht voreingestellt, kann der Benutzer entscheiden, ob das Modell wirft seine Rückenflosse nach der Entfernung des Motivs aus dem Monitor.

3.Starting IVP für Mate-Wahl zu testen.

  1. Öffnen InteractiveDisplaySetup.txt und setzen Sie "ProgramType" zu liveTesting und set 'experimentName', um den gleichen Dateinamen, dass die experimentellen Daten enthält.
  2. Gently Orten, an denen Fische im Aquarium und warten Sie 10 min.
  3. Starten Sie den Viewer 2.0 und der IVP.

4. Mate-Wahl-Studie.

Die gesamte experimentelle Sequenz folgt früheren Studien mit nicht-interaktiven Video-Stimuli 1-4. Die Weibchen sind mit zwei verschiedenen Stimuli auf Monitoren an den entgegengesetzten Enden eines Tests Aquarium vorgestellt. Weibliche Verhalten ist in Echtzeit durch die Biobserve Viewer-System verfolgt. Die Antwort Assay Verein Zeit, die Höhe der Zeit, dass eine weibliche verbringt innerhalb von 10 cm von einem Monitor oder das andere. Verband wird automatisch vom Viewer berechnet.

  1. Die Video-Stimuli zu Themen in einer Studie, bestehend aus zwei 20-minütigen Etappen angezeigt. Eine Bühne besteht aus vier 5-Minuten-Segmente:
    1. Das erste Segment akklimatisiert das Weibchen zum Test Tank für 5 Minuten durch die Anzeige eines monochromen Bildschirm auf beiden Monitoren.
    2. In dem zweiten Segment sind zwei verschiedene Video-Impulse für die weibliche und eine auf dem linken Monitor und das andere auf der rechten Seite für fünf Minuten angezeigt.
    3. Unmittelbar nach der Anzeige des Video-Stimuli, ist eine monochrome Bildschirm wieder auf beiden Monitoren für fünf Minuten angezeigt.
    4. In der vierten und letzten Segment, sind Impulse aus dem zweiten Segment präsentiert, sondern die Position eines jeden Reiz ist eingeschaltet. Dies stellt eine in-Buchse Steuerung für Seite Bias.
  2. Die second Bühne wiederholt die gleichen Muster, mit einem anderen Satz von gleichzeitig präsentierten Stimuli.
  3. Zusätzliche Studien sind durch die Rückkehr zu Schritt 2 und systematische Variation Seite und die Reihenfolge der Präsentation ausführen.

5. Repräsentative Ergebnisse.

Wir untersuchten die Wirksamkeit von interaktiven Wiedergabe durch den Vergleich weibliche Antwort auf interaktive und non-interaktiven Animationen zu hofieren Männer. Die nicht-interaktive Stimulus führte eine Brautwerbung Reiz auf dem Bildschirm, unabhängig von weibliches Verhalten, wie in früheren Studien 1-4.

Die interaktive Stimulus verfolgt die horizontale Position der weiblichen über den Bildschirm. Die Position der entweder die simulierte Fisch oder das Thema Fisch wurde operativ als der Mittelpunkt der Verbindungslinie zwischen dem Schwerpunkt und die Schnauze definiert. Die drei Regeln Führung männliches Verhalten sich wie folgt dar, wo die X-Richtung bezieht sich auf die Länge des Tanks, und Z-Richtung bezieht sich auf die Breite des Tanks (Bild 2):

Regel 1: Die simulierten Männchen folgt immer dem Thema über den Bildschirm verfolgen sie in der Z-Richtung.

Regel 2: Die simulierte männlichen Rückenflosse wird nur ausgelöst, wenn es die Durchführung ist eine seitliche Balz.

Regel 3: Die simulierte männlichen Schwertträger Fische werden nur dann eine seitliche Balz für 50% der gesamten Zeit ist auf das weibliche angezeigt wird. Die seitlichen Balz wird durch die männlichen Fische in einem Viertel männlichen Körper Länge der weiblichen Fische in Z-Richtung ausgelöst. Die seitlichen Balz ist unabhängig davon, wie nahe das Weibchen ist, um den Monitor in der X-Richtung.

Die interaktive Stimulus eng verfolgt die weibliche Position in Echtzeit (Abbildung 3).

Frühere Arbeiten mit nicht-interaktiven Stimuli 4,5 zeigten, dass weibliche X. birchmanni stark bevorzugt visuelle Signale der eigenen Spezies. Die nicht-interaktive Stimuli durch die IVP erstellt wurden ebenso wirksam zu entlocken Artgenossen paaren Präferenzen (t = 1,923, N = 9, p = 0,046). Wenn Frauen auf simulierten interaktiven Artgenossen und artfremden Männchen wurden getestet unmittelbar vor oder nachher in der gleichen Studie wurde jedoch versäumt sie zu einer Bevorzugung (Abb. 4) zeigen.

Abbildung 1
Abbildung 1. Monitor-Setup für die Kalibrierung.

Abbildung 2
Abbildung 2. Schematische Darstellung der Tank-und Monitor-Setup, was darauf hinweist Achsen verwendet werden, um Position zu beschreiben.

Abbildung 3
Abbildung 3. Horizontale Position der animierten Vorbild und Vertreter weibliche Subjekt im Laufe der Zeit.

Abbildung 4
Abbildung 4. Verein Zeit (s) der Frauen mit interaktiven und nicht interaktiven Artgenossen und artfremden Männchen Reize. Jede Parzelle ist von einem Fünf-Minuten-Aufzeichnung der Positionen Ausgabe vom Prototyp erstellt. In diesen Parzellen, schreitet der Zeit in die vertikale Y-Richtung von 0 bis 5 Minuten.

Abbildung 5
Abbildung 5. Representative Verein Zeit Daten und Tracking von zwei interaktiven Stimuli. Zwei Fünf-Minuten-Segmente für zwei Frauen gezeigt.

Discussion

Bisherige Methoden zur interaktiven Video-Wiedergabe in das Verhalten der Tiere haben sich auf einen menschlichen Bediener, Antworten auf Verhaltens-Signale von Themen einzuholen verlassen. Mit IVP, haben wir ein Programm, das auf Regeln basierenden Interaktivität in Reaktion auf Echtzeit, automatische Daten unterliegen Verhalten angewendet. Wir kurz die Schritte bei der Erstellung des Programms unter beteiligt.

Der erste Schritt bestand darin, digitale männliche Exemplare von X. erstellen birchmanni und X. Malinche. Wir haben einen ähnlichen Ansatz wie zu früheren Studien 6. Wir erstellten 3D-Maschen, die auf Texturen basieren auf Fotos von realen X. modelliert birchmanni und X. Malinche. Zur Erfassung der realistischen Texturen der echten Fischen, die gleichen Fotos verwendet werden, um die Fische Formen Modells wurden als Texturen für die Fische eingesetzt. Eine planare Karte angewandt, um deren UV-Koordinaten der UV-Karte mit dem Foto Textur ausgerichtet. Zweitens muss die digitale Fisch greifen wie ein echter Fisch zu verformen. Um dies zu erreichen, wurde ein virtuelles Skelett für Körper und Flossen angelegt und "Haut" auf das Netz. Das Skinning-Verfahren ermöglicht die Maschen verformt werden, wenn die Gelenke gedreht werden.

Zweitens, haben wir Bewegung in die digitale Fisch. Sechs Schlüssel Bewegungen, die einen männlichen Schwertträger Fisch macht animiert wurden. Drei der Bewegungen wurden verwendet, um die unterschiedlichen Geschwindigkeiten, mit denen ein Fisch schwimmen würde repräsentieren. Die anderen drei Sätze waren die Fische noch immer, Drehen, oder Ausstellen eines seitlichen Balz. Da Männchen heben oder senken ihre Rückenflosse nach, ob männlich oder weiblich Empfänger vorhanden sind 3, wir die Bewegung der Rückenflosse aus, dass der seitliche Balz entkoppelt. Die Rückenflosse war so gefertigt, dass es angehoben oder abgesenkt werden zu irgendeinem Zeitpunkt während des Zyklus. Insgesamt 24 Animationen Zyklen verwendet wurden. Jeder Zyklus begann und endete mit dem Fisch in der gleichen Haltung, so dass die Animation Zyklen könnte leicht ineinander übergehen. Alle 24 Animationen Zyklen wurden durch Rotoscoping 7,8 die gewünschte Bewegung von oben Video einer Live erstellt, umwerben männlichen X. birchmanni.

Drittens ermöglichte wir Interaktivität. Wir nutzten die Biobserve Viewer-System in Echtzeit verfolgen die Position der Schnauze, Körper und Schwanz des Weibchens Schwertträger und übermitteln diese Informationen in Echtzeit an die IVP-Programm. Dies war für jeden umwerben Männchen auf jedem Monitor. Die männliche Animation folgte das Thema Fisch Position. Wir modellierten folgenden using Reynolds kam Lenkverhalten 9,10, die die Männchen auf das Weibchen zu folgen und abbremsen, wie sie die weibliche Ansätze erlaubt.

Zur Berechnung der Position des männlichen Schwertträger Fisch bei jedem Schritt wurde das System mit der aktuellen Position des Weibchens, die das Programm auf die Kräfte, die die männlichen Festplatte zu berechnen erlaubt geliefert. Zunächst wurde das Ziel-Versatzvektor durch Subtraktion der Position der männlichen Fische aus der Position der weiblichen Fische berechnet. Zweite den Abstand von der männlichen Fische zu den weiblichen Fisch wurde, indem die Größe der Ziel-Versatzvektor bestimmt. Drittens wurde die gewünschte Geschwindigkeit der männlichen Fische, indem der Abstand von einer konstanten Verzögerung ermittelt. Dies ermöglichte den männlichen Fischen zu verlangsamen, da es die weiblichen Fische heran. Zuletzt wurde das gewünschte Beschleunigung durch Subtraktion des Mannes aktuelle Geschwindigkeit von der gewünschten Geschwindigkeit berechnet.

Da Animationen als diskrete Videoframes bei 60 Hz wiedergegeben werden, wurden die Berechnungen für jeden diskreten Zeitschritt gemacht, im Abstand von 0,016 Sekunden. Maximale Geschwindigkeit wurde auf einen Wert von 10 cm / s für diese Versuche eingestellt. Wenn die Größe der neuen Geschwindigkeit war größer als die maximale Geschwindigkeit, war die Geschwindigkeit auf den Maximalwert eingestellt.

Für diese besondere Simulation, hob die interaktive Männchen seiner Rückenflosse 50% der Zeit, und nur während der Balz-Interaktionen. Die seitlichen Balz Verhalten wurde ausgelöst, wenn die männlichen Reiz war innerhalb von 0,25 Körperlängen der weiblichen Schwertträger Fisch in der Z-Dimension.

Wir waren überrascht, dass Interaktivität die weibliche Vorliebe für Artgenossen abgeschafft, trotz der Tatsache, dass die nicht-interaktiven Animationen eine starke Präferenz ausgelöst und bestimmten, dass Frauen die Mehrheit der Zeit den Umgang mit den interaktiven Stimuli. Eine Möglichkeit besteht darin, dass sich eng an das Weibchen visuelle Hinweise zum Männchen zu bewerten, wie das Schwert und Rückenflosse zu überschreiben. Alternativ können Frauen weniger geneigt sein, Interesse an einem Hof ​​männlichen zu verlieren, und daher weniger wahrscheinlich, dass sowohl Einzelpersonen (Abbildung 5) Probe.

Dennoch zeigen unsere Ergebnisse, dass das Funktionsprinzip der Video-Game-Technologie, nämlich der Software gesteuert, können regelbasierte Agenten reagieren auf Benutzereingaben erfolgreich interaktive Wiedergabe werden in Studien der angewandtendas Verhalten der Tiere. Diese Art von Regeln-basierte interaktive Wiedergabe sollte sich als nützlich erweisen für das Studium der shoaling und kollektive Bewegung 11,12. Insbesondere sollte die Möglichkeit, die Regeln, dass ein virtueller Prototyp nutzt für shoaling manipulieren geben uns Einblick in die Prozesse, die Tiere zu verwenden, um shoaling Entscheidungen zu treffen.

Disclosures

Die Produktion dieses Video-Artikel wurde von Biobserve Forschung gefördert.

Acknowledgements

Wir danken Stephan Schwartz und Christian Gutzen von Biobserve GmbH für das Sponsoring dieses Artikels und für einen Großteil der technischen Hilfe. Wir bedanken uns bei Olivia Ochoa, Christian Kaufman, und Zachary Cress für die Unterstützung bei Fisch Pflege, wir sind dankbar, dass die mexikanische Bundesregierung für die Genehmigung zum Fischen zu sammeln. Wir danken Glen Vigus, Frederic Parke, und die Visualisierung Lab an der Texas A & M. Athena Mason und Ryan Easterling bei der Erstellung dieser Publikation unterstützt. Die Finanzierung wurde von der Texas A & M University und NSF IOS-1045226 zur Verfügung gestellt.

Materials

Name Company Catalog Number Comments
Maya 8.0
C# program using Microsoft’s XNA Game Studio 2.0
BIOBSERVE Viewer 2
Dell 15” CRT monitor (2)
20 X 20 X 80 cm Plexiglas testing aquarium
Dell Latitude computer (animation server)

DOWNLOAD MATERIALS LIST

References

  1. Fisher, H. S., Mascuch, S., Rosenthal, G. G. Multivariate male traits misalign with multivariate female preferences in the swordtail fish, Xiphophorus birchmanni. Anim. Behav. 78, 265-269 (2009).
  2. Fisher, H. S., Rosenthal, G. G. Hungry females show stronger mating preferences. Behavioral Ecology. 17, 979-981 (2006).
  3. Fisher, H. S., Rosenthal, G. G. Male swordtails court with an audience in mind. Biology Letters. 3, 5-7 (2007).
  4. Wong, B. B. M., Rosenthal, G. G. Female disdain for swords in a swordtail fish. American Naturalist. 167, 136-140 (2006).
  5. Fisher, H. S., Wong, B. B. M., Rosenthal, G. G. Alteration of the chemical environment disrupts communication in a freshwater fish. Proceedings of the Royal Society B-Biological Sciences. 273, 1187-1193 (2006).
  6. Rosenthal, G. G. Design considerations and techniques for constructing video stimuli. Acta Ethol. 3, 49-54 (2000).
  7. Turnell, E. R., Mann, K. D., Rosenthal, G. G., Gerlach, G. Mate choice in zebrafish (Danio rerio) analyzed with video-stimulus techniques. Biol. Bull. 205, 225-226 (2003).
  8. Rosenthal, G. G., Ryan, M. J. Assortative preferences for stripes in danios. Animal Behaviour. 70, 1063-1066 (2005).
  9. Flocks, herds and schools: A distributed behavioral model. Reynolds, C. W. Proceedings of the 14th annual conference on Computer graphics and interactive techniques, 1985, ACM Press. New York, NY. 256 (1985).
  10. Reynolds, C. W. Steering Behaviors For Autonomous Characters. Game Developers Conference, 1999, San Jose, California, Miller Freeman Game Group. San Francisco, California. (1999).
  11. Hoare, D. J., Couzin, I. D., Godin, J. -G. J., Krause, J. Context-dependent group size choice in fish. Animal Behaviour. 65, 663-669 (2004).
  12. Hoare, D. J. &, Krause, J. Social organisation, shoal structure and information transfer. Fish and Fisheries. 4, 269-279 (2003).

Comments

0 Comments


    Post a Question / Comment / Request

    You must be signed in to post a comment. Please or create an account.

    Video Stats