Geautomatiseerde Interactive Video Playback voor Studies van Animal Communication

Published 2/09/2011
0 Comments
  CITE THIS  SHARE 
Neuroscience
 

Summary

Video afspelen is een veel gebruikte techniek in het gedrag van dieren. We creëerden en geëvalueerd worden een programma dat op regels gebaseerd, interactief afspelen van 3-D computer animatie is van toepassing in reactie op real-time, geautomatiseerde data over het onderwerp gedrag.

Cite this Article

Copy Citation

Butkowski, T., Yan, W., Gray, A. M., Cui, R., Verzijden, M. N., Rosenthal, G. G. Automated Interactive Video Playback for Studies of Animal Communication. J. Vis. Exp. (48), e2374, doi:10.3791/2374 (2011).

Please note that all translations are automatically generated.

Click here for the english version. For other languages click here.

Abstract

Video afspelen is een veel gebruikte techniek voor de gecontroleerde manipulatie en de presentatie van visuele signalen in dierlijke communicatie. In het bijzonder, parameter-computer animatie biedt de mogelijkheid om zelfstandig te manipuleren een aantal van gedrags-, morfologische of spectrale kenmerken in de context van realistische, bewegende beelden van de dieren op het scherm. Een belangrijke beperking van de conventionele afspelen, echter, is dat de visuele stimulus de mogelijkheid tot interactie met het levende dier mist. Lenen van video-game-technologie, hebben we een geautomatiseerd, interactief systeem voor het afspelen van video-animaties die controles in reactie op real-time signalen van een video-tracking systeem. We hebben laten zien deze methode door het uitvoeren van partner-keuze proeven op vrouwelijke zwaarddragers vis, Xiphophorus birchmanni. Vrouwtjes kregen een simultane keuze tussen een mannelijke soortgenoten het hof en een hof mannelijk heterospecific (X. Malinche) aan weerszijden van een aquarium. De virtuele mannen stimulans was geprogrammeerd om de horizontale positie van de vrouwelijke spoor, zoals het hof mannen doen in het wild. Mate-choice proeven op in het wild gevangen X. birchmanni vrouwtjes dat werd gebruikt om het prototype in staat is om effectief te genereren van een realistische visuele stimulus te valideren.

Protocol

1. Instellen van de hardware en Viewer systeem.

Het systeem bestaat uit een test tank geflankeerd door twee monitoren. Een videocamera is aangesloten op de BIOBSERVE Viewer systeem registreert de beweging van het onderwerp in real time. Motion data wordt doorgegeven aan de interactieve video afspelen (IVP) programma op een aparte server, die de beweging van de bewegende stimulus op het scherm bepaalt.

  1. Plaats twee CRT-monitoren aan de tegengestelde uiteinden van een 80-l aquarium gevuld met schoon water; overeenkomen met monitor-uitgang.
  2. Plaats de camera overhead tot volledige weergave van de aquarium te vangen, verbinding te maken met videokaart BIOBSERVE.
  3. Configureren van het systeem om Viewer tracking informatie ontvangen van de camera.
  4. Schakel plug-in om Viewer die de coördinaten van snuit van het dier, lichaam en staart aan animatie server in real-time stuurt via een bepaald netwerk IP-adres.
  5. Zet de animatie server.

2. Kalibratie.

  1. Op de animatie server, opent u InteractiveDisplaySetup.txt. Vul het scherm breedte en hoogte van het scherm in pixels onder "Monitor Info". Onder "ProgramType" enter "kalibratie". Sla de wijzigingen naar bestand.
  2. Dubbelklik op IVP-programma icoon om het programma te starten.
  3. Geef in de mate van de tank afmetingen, als bedoeld in de Viewer systeem in stap 2.3. Dit zal ervoor zorgen correspondentie tussen Viewer data en interactieve output van IVP.
  4. Omdat de uiteinden van de aquaria zijn kleiner dan de monitoren, de software kan de gebruiker het toetsenbord (een en s voor de breedte, z en x voor de hoogte, en pijltjestoetsen voor positie) gebruiken om het weergavegebied (viewport) van de verhuizing stimuli aan te sluiten bij de uiteinden van het testen tank. Bekeken op de animatie-server, is de roze viewport herhaald op een monitor en het testen van de blauwe viewport op de andere (figuur 1).
  5. Gebruik Z en X op het toetsenbord om de weergave van de mannelijke vissen aan beide viewports schaal totdat deze overeenkomt met de gewenste stimulus grootte.
  6. Verplaats wordt weergegeven de dozen, zodat ze af te stemmen op de randen van de test tank. De gebruiker maakt gebruik van de Q of W toetsen om de dozen te verplaatsen naar of weg van het midden van de vis.
  7. Geef experiment informatie wanneer daarom wordt gevraagd door het programma. De gebruiker heeft de mogelijkheid om te kiezen tussen voorgeladen modellen (in onze demonstratie, vrijen mannelijk Xiphophorus birchmanni, X. Malinche). De gebruiker bepaalt ook het gedrag van elke vis in elke fase (niet-interactieve of interactief), de zijkant en stadium waarin elke stimulus zal verschijnen, en de gewenste grootte (standaard lengte) van elke stimulus.
  8. De volgende vraag vraagt ​​of de gebruiker wil de vis bewegingen worden gespiegeld, dat wil zeggen dat de beweging van het model aan beide zijden van het aquarium zal precies hetzelfde zijn. Dit wordt alleen gebruikt wanneer de vis zowel in de animatie-modus. De laatste vragen hebben betrekking op de beweging van de rugvin. De gebruiker kan kiezen standaard dorsale, dit zou de dorsale slechts sprake te brengen op een laterale verkering weer te geven. Als de dorsale niet is ingesteld op standaard, kan de gebruiker beslissen of het model verhoogt haar rugvin op basis van de afstand van het onderwerp van de monitor.

3.Starting IVP voor de mate-choice test.

  1. Open InteractiveDisplaySetup.txt en zet "ProgramType" om liveTesting en stel 'experimentName' om dezelfde bestandsnaam die het Experiment gegevens bevat.
  2. Voorzichtig bloot vissen in het aquarium en wacht 10 minuten.
  3. Start de Viewer 2.0 en het IVP.

4. Mate-choice test.

De totale experimentele volgorde volgt eerdere studies met behulp van niet-interactieve video stimuli 1-4. Vrouwtjes worden met twee verschillende stimuli op monitoren aan de tegengestelde uiteinden van een test aquarium. Vrouwelijk gedrag wordt bijgehouden in real-time door de Biobserve Viewer systeem. De respons test is de tijd vereniging, de hoeveelheid tijd die een vrouwelijke besteedt binnen 10 cm van een monitor of het ander. Vereniging tijd wordt automatisch berekend door de Viewer.

  1. De video stimuli worden weergegeven om proefpersonen bij een onderzoek dat bestaat uit twee, 20-minuten fasen. Een podium bestaat uit vier vijf-minuten segmenten:
    1. Het eerste segment acclimatizes het vrouwtje op de proef tank gedurende vijf minuten door het weergeven van een monochroom scherm op beide monitoren.
    2. In het tweede segment, zijn twee verschillende video stimuli getoond aan de vrouw, een aan de linker monitor en de andere aan de rechterkant voor vijf minuten.
    3. Onmiddellijk na de weergave van de video stimuli, is een monochroom scherm opnieuw weergegeven op beide monitoren gedurende vijf minuten.
    4. In de vierde en laatste segment, zijn prikkels uit het tweede segment gepresenteerd, maar de positie van elke stimulus is ingeschakeld. Dit zorgt voor een binnen-vrouw controle voor kant bias.
  2. Het secNDD stadium herhaalt hetzelfde patroon, met een andere set tegelijkertijd gepresenteerde stimuli.
  3. Aanvullende onderzoeken worden uitgevoerd door terug te keren naar stap 2 en systematisch verschillende zij-en volgorde van presentatie.

5. Representatieve resultaten.

We evalueerden de effectiviteit van interactief afspelen door het vergelijken van vrouwelijke antwoord op interactieve en niet-interactieve animaties van het hof mannen. De niet-interactieve stimulus uitgevoerd een verkering stimulus op het scherm, onafhankelijk van vrouwelijk gedrag, zoals in eerdere studies 1-4.

De interactieve stimulans volgde de horizontale positie van de vrouw over het scherm. De positie van een van de gesimuleerde vis of het onderwerp vis was operationeel gedefinieerd als het middelpunt van de lijn tussen het zwaartepunt en de snuit. De drie regels leidend mannelijk gedrag waren als volgt, waarbij de X-richting verwijst naar de lengte van de tank, en de Z-richting verwijst naar de breedte van de tank (figuur 2):

Regel 1: De gesimuleerde mannen altijd volgt het onderwerp over het scherm, het bijhouden van haar in de Z-richting.

Regel 2: De gesimuleerde mannelijke rugvin is alleen verhoogd wanneer het uitvoeren van een laterale hofmakerij.

Regel 3: De gesimuleerde mannen zwaarddragers vis maakt het alleen uitvoeren van een laterale verkering display voor 50% van de totale tijd die wordt weergegeven op het vrouwtje. De laterale verkering display is veroorzaakt door de mannelijke vissen worden binnen een vierde mannelijk lichaam lengte van de vrouwelijke vis in de Z-richting. De laterale hofmakerij is onafhankelijk van hoe dicht de vrouw is om de monitor in de X-richting.

De interactieve stimulans voet gevolgd de vrouwelijke positie in real time (figuur 3).

Eerdere werk met behulp van niet-interactieve stimuli 4,5 toonde aan dat vrouwelijke X. birchmanni een sterke voorkeur voor visuele signalen van hun eigen soort. De niet-interactieve stimuli die door het IVP zijn even effectief bij het uitlokken soortgenoten mate voorkeuren (t = 1.923, N = 9, p = 0,046). Bij de vrouwen werden getest op gesimuleerde interactieve soortgenoten en heterospecific mannen onmiddellijk voor-of achteraf in hetzelfde onderzoek, maar ze niet aan een voorkeur (figuur 4) laten zien.

Figuur 1
Figuur 1. Monitor setup voor kalibratie.

Figuur 2
Figuur 2. Schematische weergave van de tank en monitor setup, wat aangeeft assen gebruikt om de positie te beschrijven.

Figuur 3
Figuur 3. Horizontale positie van geanimeerde voorbeeld en representatieve vrouwelijke onderwerp in de tijd.

Figuur 4
Figuur 4. Association tijd (s) van de vrouwen met een interactieve en niet-interactieve soortgenoten en heterospecific mannelijk stimuli. Elk perceel is gemaakt van een vijf-minuten-verbaal van de posities uitgang van het prototype. In deze percelen, de tijd vordert in de verticale Y-richting van 0 tot 5 minuten.

Figuur 5
Figuur 5. Representatieve vereniging time data en het bijhouden van de twee interactieve stimuli. Twee vijf-minuten segmenten voor twee vrouwtjes worden weergegeven.

Discussion

Vorige methoden voor interactieve video afspelen in dierlijk gedrag hebben vertrouwd op een menselijke operator om reacties te verstrekken aan gedrags-signalen van patiënten. Met IVP, creëerden we een programma dat op regels gebaseerde interactiviteit toegepast in reactie op de real-time, geautomatiseerde data over het onderwerp gedrag. We kort de stappen voor het maken van het programma hieronder.

De eerste stap was om digitale mannelijk voorbeelden van X. te creëren birchmanni en X. Malinche. We hebben een aanpak die vergelijkbaar is met eerdere studies 6. We creëerden 3D mazen die op texturen gemodelleerd op basis van foto's van echte X. birchmanni en X. Malinche. Voor het vastleggen van de realistische texturen van de echte vis, dezelfde foto's gebruikt om de vis vormen model werden gebruikt als texturen voor de vissen. Een vlakke kaart toegepast op de UV-coördinaten lijn van de UV-kaart met de foto textuur. Ten tweede moet de digitale vis mesh vervormt als een echte vis. Om dit te bereiken, werd een virtueel skelet gemaakt voor lichaam en vinnen en "gevild" aan de mesh. Het skinning proces maakt het gaas te worden vervormd wanneer de gewrichten zijn gedraaid.

Ten tweede, voegden we beweging aan de digitale vissen. Zes belangrijke bewegingen die een mannelijke zwaarddragers vis maakt zijn geanimeerd. Drie van de bewegingen werden gebruikt om de verschillende snelheden waarop een vis zou zwemmen vertegenwoordigen. De andere drie bewegingen waren de vis nog steeds, draaien, of de uitstalling van een laterale hofmakerij. Omdat mannetjes kunnen verhogen of hun rugvin verlagen in overeenstemming met de vraag of mannelijke of vrouwelijke ontvangers aanwezig zijn drie, we ontkoppeld de beweging van de rugvin van die van de laterale hofmakerij. De rugvin was ingetoetst, zodat het kan worden verhoogd of verlaagd op enig moment tijdens de cyclus. Een totaal van vierentwintig animatie cycli werden gebruikt. Elke cyclus begon en eindigde met de vissen in dezelfde houding, zodat de animatie cycli gemakkelijk in elkaar over. Alle vierentwintig animatie cycli werden gemaakt door rotoscoping 7,8 op de gewenste beweging van overhead video van een live, hofmakerij mannen X. birchmanni.

Ten derde, we in staat interactiviteit. We gebruikten de Biobserve Viewer-systeem te volgen in real time de positie van de snuit, het lichaam en de staart van de vrouwelijke zwaarddragers en die informatie aan in real-time aan het IVP-programma. Dit werd apart gedaan voor iedere hof man op elke monitor. De mannelijke animatie volgde het onderwerp vis positie. We gemodelleerd met behulp van volgende Reynolds kwam het stuurgedrag 9,10, waardoor het mannetje om het vrouwtje te volgen en vertragen bij het ​​naderen van het vrouwtje.

Voor het berekenen van de positie van de mannelijke zwaarddragers vis op elk tijdstip stap, werd het systeem geleverd met de huidige positie van de vrouw, waardoor het programma om de krachten die de mannelijke station te berekenen. Eerst werd het doelwit-offset vector berekend door de positie van de mannelijke vissen vanuit de positie van de vrouwelijke vis. Tweede de afstand van de mannelijke vissen aan de vrouwelijke vissen werd bepaald door het nemen van de omvang van de target-offset vector. Ten derde, was de gewenste snelheid van de mannelijke vissen bepaald door de afstand door een constante vertraging waarde. Hierdoor kon de mannelijke vissen te vertragen als het naderde de vrouwelijke vissen. Last, was de gewenste versnelling berekend door het mannetje de huidige snelheid van de gewenste snelheid.

Aangezien de animaties worden weergegeven als discrete frames van de video bij 60 Hz, werden berekeningen gemaakt voor elke afzonderlijke keer stap, met een interval van 0,016 seconde. Maximum snelheid is ingesteld op een waarde van 10 cm / s voor deze experimenten. Als de grootte van de nieuwe snelheid was groter dan de maximale snelheid, was de snelheid ingesteld op het maximum.

Voor deze simulatie, de interactieve mannelijke vissen verhoogde haar rugvin 50% van de tijd, en alleen tijdens verkering interacties. De laterale hofmakerij gedrag werd veroorzaakt wanneer de mannelijke stimulans was binnen de 0.25 lichaam lengtes van de vrouwelijke zwaarddrager vis in de Z-dimensie.

We waren verrast dat de interactiviteit van de vrouwelijke voorkeur voor soortgenoten afgeschaft, ondanks het feit dat de niet-interactieve animaties een sterke voorkeur uitgelokt en het feit dat vrouwen het merendeel van de tijd te associëren met de interactieve stimuli. Een mogelijkheid is dat de voet volgen de vrouwelijke kan opheffen visuele signalen gebruikt om mannen te beoordelen, zoals het zwaard en de rugvin. Als alternatief, kunnen vrouwen minder kans op interesse in een hofmakerij mannen te verliezen, en dus minder kans op zowel particulieren als (figuur 5) monster.

Toch, onze resultaten laten zien dat het werkingsprincipe van de video-game, namelijk technologie, software-gedreven, kan op regels gebaseerde agenten reageren op input van de gebruiker met succes worden toegepast op interactief afspelen in studies vanhet gedrag van dieren. Dit soort regels gebaseerde interactieve afspelen moet nuttig zijn voor studies van ondieper en collectieve beweging 11,12. In het bijzonder moet de mogelijkheid om de regels die een virtuele voorbeeld gebruikt voor het ondieper te manipuleren geven ons inzicht in de processen die dieren gebruiken voor het ondieper worden beslissingen te nemen.

Disclosures

De productie van deze video-artikel werd gesponsord door Biobserve Research.

Acknowledgements

We zijn dank verschuldigd aan Stephan Schwartz en christelijke Gutzen van Biobserve GmbH voor sponsoring van dit artikel en voor veel technische bijstand. Wij danken Olivia Ochoa, Christian Kaufman, en Zachary Cress voor hulp bij vis zorg, wij zijn dankbaar voor de Mexicaanse federale overheid voor toestemming om vissen te verzamelen. We zijn dank verschuldigd aan Glen Vigus, Frederic Parke, en de visualisatie Lab aan de Texas A & M. Athena Mason en Ryan Easterling geholpen bij de voorbereiding van deze publicatie. De financiering werd verstrekt door Texas A & M University en NSF IOS-1045226.

Materials

Name Company Catalog Number Comments
Maya 8.0
C# program using Microsoft’s XNA Game Studio 2.0
BIOBSERVE Viewer 2
Dell 15” CRT monitor (2)
20 X 20 X 80 cm Plexiglas testing aquarium
Dell Latitude computer (animation server)

DOWNLOAD MATERIALS LIST

References

  1. Fisher, H. S., Mascuch, S., Rosenthal, G. G. Multivariate male traits misalign with multivariate female preferences in the swordtail fish, Xiphophorus birchmanni. Anim. Behav. 78, 265-269 (2009).
  2. Fisher, H. S., Rosenthal, G. G. Hungry females show stronger mating preferences. Behavioral Ecology. 17, 979-981 (2006).
  3. Fisher, H. S., Rosenthal, G. G. Male swordtails court with an audience in mind. Biology Letters. 3, 5-7 (2007).
  4. Wong, B. B. M., Rosenthal, G. G. Female disdain for swords in a swordtail fish. American Naturalist. 167, 136-140 (2006).
  5. Fisher, H. S., Wong, B. B. M., Rosenthal, G. G. Alteration of the chemical environment disrupts communication in a freshwater fish. Proceedings of the Royal Society B-Biological Sciences. 273, 1187-1193 (2006).
  6. Rosenthal, G. G. Design considerations and techniques for constructing video stimuli. Acta Ethol. 3, 49-54 (2000).
  7. Turnell, E. R., Mann, K. D., Rosenthal, G. G., Gerlach, G. Mate choice in zebrafish (Danio rerio) analyzed with video-stimulus techniques. Biol. Bull. 205, 225-226 (2003).
  8. Rosenthal, G. G., Ryan, M. J. Assortative preferences for stripes in danios. Animal Behaviour. 70, 1063-1066 (2005).
  9. Flocks, herds and schools: A distributed behavioral model. Reynolds, C. W. Proceedings of the 14th annual conference on Computer graphics and interactive techniques, 1985, ACM Press. New York, NY. 256 (1985).
  10. Reynolds, C. W. Steering Behaviors For Autonomous Characters. Game Developers Conference, 1999, San Jose, California, Miller Freeman Game Group. San Francisco, California. (1999).
  11. Hoare, D. J., Couzin, I. D., Godin, J. -G. J., Krause, J. Context-dependent group size choice in fish. Animal Behaviour. 65, 663-669 (2004).
  12. Hoare, D. J. &, Krause, J. Social organisation, shoal structure and information transfer. Fish and Fisheries. 4, 269-279 (2003).

Comments

0 Comments


    Post a Question / Comment / Request

    You must be signed in to post a comment. Please or create an account.

    Video Stats