自动化研究动物交流的交互式视频播放

Published 2/09/2011
0 Comments
  CITE THIS  SHARE 
Neuroscience
 

Summary

视频播放是一种广泛使用的技术在动物行为。我们创建和评估程序,适用于回应,主体行为的实时自动数据的规则为基础的,三维电脑动画的交互播放。

Cite this Article

Copy Citation

Butkowski, T., Yan, W., Gray, A. M., Cui, R., Verzijden, M. N., Rosenthal, G. G. Automated Interactive Video Playback for Studies of Animal Communication. J. Vis. Exp. (48), e2374, doi:10.3791/2374 (2011).

Please note that all translations are automatically generated.

Click here for the english version. For other languages click here.

Abstract

视频播放是一个广泛使用的技术,为控制动物传播的视觉信号的处理和介绍。特别是,参数为基础的电脑动画,提供了机会,独立操纵任意数量的行为,形态,或光谱特征逼真,动物在屏幕上移动图像的背景下。然而,常规播放的一个主要限制是视觉刺激,缺乏互动能力与活的动物。从视频游戏技术的借贷,我们已经创建了一个自动化,视频播放,从视频跟踪系统的实时信号控制动画的交互系统。女剑尾鱼, 剑尾birchmanni进行材料的选择试验,我们证明了这种方法。女性被赋予了一个献殷勤的男同种和水族馆两侧的一个求爱男heterospecific(X. malinche)之间的同步选择。虚拟男性刺激编程跟踪水平位置的女性,在野外求偶的男性。伴侣的选择试验,对野生捕捞的Xbirchmanni女性被用来验证原型的能力,有效地生成一个逼真的视觉刺激。

Protocol

1。设置硬件和查看器的系统。

该系统由一个测试舱两侧是两台监视器。 BIOBSERVE Viewer系统连接到一台摄像机记录的实时问题的运动。运动数据是通过交互式视频播放(IVP)单独的服务器上,这就决定了屏幕上的动画刺激的运动方案。

  1. 两个CRT显示器放置在两端用干净的水装满一个80升的水族馆;匹配监视器输出。
  2. 将相机的开销捕捉水族馆众目睽睽之下;连接到BIOBSERVE视频卡。
  3. 配置查看器的系统,以接收从相机跟踪信息。
  4. 启用插件查看器,通过指定的网络IP地址发送动物的口鼻部,正文和尾部动画实时服务器的坐标。
  5. 打开动画服务器。

2。校准。

  1. 在动画的服务器,打开InteractiveDisplaySetup.txt。输入像素下的“监视器信息”屏幕宽度和屏幕的高度。在“PROGRAMTYPE”进入“校准”。保存文件的变化。
  2. 双击IVP程序图标启动程序。
  3. 在查看器的系统设置步骤2.3罐体外形尺寸范围的输入。这将确保查看器数据和交互式输出从初值之间的通信。
  4. 由于鱼缸的两端均小于显示器,该软件允许用户使用键盘(宽度A和S,Z和X高度,箭头键位置)的移动可视面积(视口)刺激测试槽的两端对齐。观看动画的服务器上,粉红色的视是一个测试显示器和其他蓝色视口(图1)呼应。
  5. 使用键盘上的Z和X,直到它匹配所需的刺激大小规模的雄性鱼都视口中的显示。
  6. 移动显示框,让他们试验槽的边缘对齐。用户使用的Q或W键移动靠近或远离中心的鱼箱。
  7. 程序提示时,输入实验信息。用户已经预装模型(在我们的演示,求爱男剑尾birchmanni,X malinche)之间进行选择的选项。用户还可以指定在每个阶段的每个鱼(非交互式或交互式),侧面和阶段的行为,每个刺激会出现,而且所需的大小,每个刺激(标准长度)。
  8. 接下来的问题询问用户是否希望鱼动作要镜像,即水族馆两侧模型运动将完全相同。这仅仅是用来当鱼在动画模式。最后的问题是关于运动的背鳍。用户可以选择默认的背,这将使的背,只有提高在横向的求爱显示。如果背是不是设置为默认,用户可以决定是否该模型提出了它的背鳍,根据从监视器的主题距离。

3.Starting IVP为队友选择测试。

  1. 打开InteractiveDisplaySetup.txt和设置“PROGRAMTYPE”liveTesting相同的文件名,包含实验数据,并设置“experimentName”。
  2. 轻轻地放置在水族箱受鱼,并等待10分钟。
  3. 启动浏览器2.0和IVP。

4。材料的选择试验。

整体实验顺序如下1-4以往的研究,使用非交互式视频刺激。女性测试水族馆的两端具有两种不同的显示器上的刺激。女性行为Biobserve Viewer系统实时跟踪。响应实验是协会的时间,所需的时间,女性10厘米内的一台监视器或其他花费。协会的时间是自动计算的Viewer。

  1. 视频刺激显示在审判中的科目,包括两个20分钟的阶段。一个阶段包括4个5分钟的环节:
    1. 第一部分acclimatizes测试罐五分钟的女性,在两个监视器上显示的单色屏幕。
    2. 在第二部分中,有两种不同的视频刺激,显示女性,左边的监视器上和其他五分钟的权利。
    3. 紧随视频刺激显示,单色屏幕又是五分钟的两个监视器上显示。
    4. 在第四和最后一节,提出了从第二部分的刺激,但每个刺激的位置切换​​。这提供了一个侧的偏置内女性的控制。
  2. 美国证券交易委员会第二个阶段重复同样的模式,与同时提出了不同的刺激。
  3. 额外的试验运行,返回到步骤2,系统地呈现不同的侧面和秩序。

5。代表性的成果。

我们评估了交互式和非交互式动画拉拢男性比较,女性的反应交互播放的效果。非交互式的刺激进行求爱刺激屏幕上,独立的女性行为,因为在以往的研究 1-4 。

互动刺激追踪在屏幕上的女性的水平位置。在操作模拟鱼或受鱼的位置定义为连接线的质心和吻中点。指导男性行为的三个规则如下,其中X方向是指坦克的长度,和Z方向是指坦克的宽度(图2):

规则1:模拟男性始终遵循在屏幕上的问题,跟踪她在Z方向。

规则2:模拟男性的背鳍是它正在执行一个横向求爱显示时只提出。

规则3:模拟的男剑尾鱼将只执行一个横向求爱显示它正在显示对女性的总时间的50%。横向求爱是引发男性在四分之一的男性在Z方向的雌鱼体长的鱼。横向求爱是独立的女性是在X方向的监控密切。

互动刺激密切跟踪女性的实时位置(图3)。

使用非交互式刺激4,5以前的工作表明,女性 X birchmanni强烈的首选自己种的视觉信号。 IVP创建非交互式的刺激,从而引发同种交配偏好(T = 1.923,N = 9,P = 0.046)同样有效。当女性被测试模拟互动的同种和heterospecific男性立即之前或之后在同一审判,然而,他们没有表现出偏好(图4)。

图1
图1。显示器校准设置。

图2
图2。坦克和显示器安装示意图,用来描述位置指示轴。

图3
图3。随着时间的推移动画的典范和代表女性主体的水平位置。

图4
图4。协会与交互式和非交互式的同种和heterospecific男性刺激女性的时间(S )。每个小区创建原型从5分钟的位置输出记录。在这些地块中,时间的推移在垂直Y方向从0到5分钟。

图5
图5。代表协会的实时数据和跟踪两个互动的刺激。两个五分钟的两名女性细分。

Discussion

前动物行为的交互式视频播放方法依靠人工操作,提供响应的主体行为的线索。有了IVP,我们创建了一个程序,适用于以规则为基础的互动响应,对主体行为的实时自动数据。我们简单介绍一下创建下面的程序中所涉及的步骤。

第一步是创建数字化X 男性典范birchmanniXmalinche。我们花了6以往的研究方法类似。我们创建了一个基于真正的 X的照片上的纹理建模的三维网格birchmanniXmalinche。为了捕捉真正的鱼,用来模拟鱼的形状相同的照片,逼真的纹理被用作鱼的纹理。一个平面贴图应用到自己的紫外线的坐标对齐与照片纹理的UV贴图。其次,数字鱼网状必须像一个真正的鱼变形。而要做到这一点,创建一个虚拟的骨骼是身体和鳍和“剥皮”网格。关节旋转时,使网格变形蒙皮过程。

第二,我们添加了数字鱼的议案。六关键的动作,使得男性的剑尾鱼的动画。三个动作被用来代表不同的速度,鱼会游泳。其他三个乐章,其余仍鱼,转弯,或参展横向的求爱显示。由于雄性能够按照提高或降低其背鳍,无论男性还是女性接收机目前 3,我们从外侧求爱运动解耦的背鳍。背鳍键,这样它可以循环过程中提高或降低在任何时候。共有二十四个动画周期使用。每个周期的开始和截至鱼在同一姿势,使动画周期可以很容易地交融在一起。二十四动画周期对位7,8所需的议案,从现场的开销视频, 拉拢男性 X。 birchmanni。

第三,我们启用了交互性。我们使用的Biobserve查看器的系统,实时跟踪的吻,身体和女剑尾尾的位置和传输实时IVP方案信息。这样做是单独为每个监视器上的每个求爱男。男性动画跟着受鱼的位置。我们仿照下面的使用雷诺抵达转向行为9,10,允许男性遵循女性和减速,因为它接近女性。

要计算出在每个时间步的男剑尾鱼的位置,该系统提供与当前位置的女性,这使得程序来计算的力量,推动男性。首先,目标偏移向量计算,减去从雄鱼雌鱼的位置的位置。二雄鱼雌鱼的距离是由目标偏移矢量的幅度。第三,雄鱼所需的速度是由除以一个常数的减速值的距离。这使雄鱼放慢,因为它接近雌鱼。最后减去所需的速度从目前男性的速度计算,所需的加速度。

由于动画是在60赫兹的离散视频帧渲染,计算每个离散的时间步长,在0.016秒的时间间隔。最大速度设置为10厘米/小号这些实验的价值。如果新速度的幅度大于最大速度,速度设置为最大。

对于这个特殊的模拟,互动雄鱼背鳍提出50%的时间,只有在求偶相互作用。横向的求爱行为是引发男性的刺激时,在0.25 Z尺寸的女剑尾鱼的体长。

我们很惊讶,交互取消conspecifics女性的偏爱,尽管事实上,非交互式的动画引起了强烈的偏好和女性度过了大部分时间与关联的互动刺激。一种可能性是,可以重写用于评估男性的视觉线索,如剑和背鳍,密切关注女性。此外,女性可能不太可能在拉拢男性失去兴趣,因此不大可能样品不论是个人(图5)。

然而,我们的结果表明,视频游戏技术的工作原理,即软件驱动,响应用户输入的规则为基础的药物可以成功地应用于互动式播放,在研究动物的行为。这种类型的以规则为基础的的互动式播放证明对研究变浅和集体运动11,12有用。在操纵一个虚拟的典范变浅使用规则的能力,特别是应该让我们见识到动物使用的进程,使变浅决定。

Disclosures

生产这种视频文章Biobserve研究赞助。

Acknowledgements

我们感谢斯蒂芬施瓦茨和基督教Biobserve公司Gutzen赞助这篇文章中,相当多的技术援助。我们感谢与鱼护理援助奥利维亚奥乔亚,基督教考夫曼和扎卡里水芹,我们感谢墨西哥联邦政府权限收集鱼。我们要感谢格伦Vigus,弗雷德里克帕克,并在得克萨斯州A&M可视化实验室雅典娜梅森和瑞安伊斯特林协助编写本出版物。经费是由美国得克萨斯州A&M大学和美国国家科学基金会的IOS - 1045226。

Materials

Name Company Catalog Number Comments
Maya 8.0
C# program using Microsoft’s XNA Game Studio 2.0
BIOBSERVE Viewer 2
Dell 15” CRT monitor (2)
20 X 20 X 80 cm Plexiglas testing aquarium
Dell Latitude computer (animation server)

DOWNLOAD MATERIALS LIST

References

  1. Fisher, H. S., Mascuch, S., Rosenthal, G. G. Multivariate male traits misalign with multivariate female preferences in the swordtail fish, Xiphophorus birchmanni. Anim. Behav. 78, 265-269 (2009).
  2. Fisher, H. S., Rosenthal, G. G. Hungry females show stronger mating preferences. Behavioral Ecology. 17, 979-981 (2006).
  3. Fisher, H. S., Rosenthal, G. G. Male swordtails court with an audience in mind. Biology Letters. 3, 5-7 (2007).
  4. Wong, B. B. M., Rosenthal, G. G. Female disdain for swords in a swordtail fish. American Naturalist. 167, 136-140 (2006).
  5. Fisher, H. S., Wong, B. B. M., Rosenthal, G. G. Alteration of the chemical environment disrupts communication in a freshwater fish. Proceedings of the Royal Society B-Biological Sciences. 273, 1187-1193 (2006).
  6. Rosenthal, G. G. Design considerations and techniques for constructing video stimuli. Acta Ethol. 3, 49-54 (2000).
  7. Turnell, E. R., Mann, K. D., Rosenthal, G. G., Gerlach, G. Mate choice in zebrafish (Danio rerio) analyzed with video-stimulus techniques. Biol. Bull. 205, 225-226 (2003).
  8. Rosenthal, G. G., Ryan, M. J. Assortative preferences for stripes in danios. Animal Behaviour. 70, 1063-1066 (2005).
  9. Flocks, herds and schools: A distributed behavioral model. Reynolds, C. W. Proceedings of the 14th annual conference on Computer graphics and interactive techniques, 1985, ACM Press. New York, NY. 256 (1985).
  10. Reynolds, C. W. Steering Behaviors For Autonomous Characters. Game Developers Conference, 1999, San Jose, California, Miller Freeman Game Group. San Francisco, California. (1999).
  11. Hoare, D. J., Couzin, I. D., Godin, J. -G. J., Krause, J. Context-dependent group size choice in fish. Animal Behaviour. 65, 663-669 (2004).
  12. Hoare, D. J. &, Krause, J. Social organisation, shoal structure and information transfer. Fish and Fisheries. 4, 269-279 (2003).

Comments

0 Comments


    Post a Question / Comment / Request

    You must be signed in to post a comment. Please or create an account.

    Video Stats