需要JoVE订阅才能观看此内容。 请登录或开始免费试用

方法文章

使用第一人称视角视频在上肢功能障碍个体中捕捉家庭环境下的代表性手部使用情况

2.5K 次观看

DOI:

10.3791/61898

2020年12月23日

本文内容

摘要

提出了一种使用第一人称视角相机在日常活动中捕捉手部功能障碍个体自然手部功能的方案。该方案的目的是确保所记录的内容能够真实反映个体在家中进行日常生活活动时典型的手部使用情况。

摘要

神经损伤后手功能受损可能对独立性和生活质量产生重大影响。目前大多数上肢功能评估需由人员亲自实施,但此类评估并不总能反映个体在社区环境中的实际手部使用情况。为了准确衡量康复干预的真实效果,亟需采用新方法来捕捉日常生活中的手功能表现。已有研究提出,采用以自我为中心的视频记录并结合计算机视觉进行自动化分析,可用于评估个体在家庭环境中的手部使用情况。然而,连续录制视频的时间长度存在局限性。本文介绍了一种实验方案,旨在确保所获取的视频既能代表日常活动模式,同时又能保护参与者的隐私。

研究人员与参与者共同协商选择一个具有代表性的录制时间表,以确保视频能够捕捉到自然状态下的任务和行为表现,同时适用于手功能评估。研究人员会向参与者演示设备的使用方法和操作流程。视频录制总共安排3小时,分两周完成。为减少隐私顾虑,参与者可完全自主控制录制的开始与停止,并可在将视频交还研究团队前对其进行编辑。研究团队将提供提醒服务,必要时还可提供电话协助或上门帮助。

该方案在9名脑卒中幸存者和14名颈椎脊髓损伤个体中进行了测试。所获得的视频包含多种活动,例如准备餐食、洗碗和编织。平均获得3.11 ± 0.98小时的视频资料。由于部分参与者出现疾病或意外事件,记录周期在12至69天之间不等。23名参与者中有22名成功获取了数据,其中6名参与者在家庭录制期间需要研究人员提供协助。该方案在收集神经系统损伤后患者居家手功能相关重要信息方面具有有效性。

引言

手部功能是影响上肢功能障碍临床人群独立性和生活质量的关键因素1,2。在家中对存在手部功能障碍的个体进行手功能评估,对于判断其在康复期间及康复后完成日常生活活动(ADLs)能力的进展至关重要。目前大多数临床手功能评估均在临床或实验室环境中进行,而非在家庭环境中3,4。现有旨在评估家庭环境中手功能对日常生活活动影响的临床评估工具多为问卷形式,依赖于主观的自我报告评分5,6,7。目前仍缺乏一种可用于客观评估康复治疗在家用手功能方面最终效果的方法。

近年来,许多可穿戴技术已被开发并应用于在真实世界环境中捕捉上肢功能。加速度计和惯性测量单元(IMU)等可穿戴传感器通常被用于测量日常生活中的上肢运动。然而,这些设备通常无法区分所检测到的运动片段是否属于功能性上肢运动8,9,即旨在完成特定任务的有目的性动作。例如,某些可穿戴传感器对行走过程中上肢摆动的存在较为敏感,而这种摆动并非上肢的功能性运动。此外,尽管腕戴式加速度计能够捕捉上肢运动,但它们无法在真实世界环境中记录手部功能的详细信息。传感器手套可用于获取有关手部操作的更详细数据10,但对于手部功能或感觉已受损的个体而言,这类设备可能使用不便。也有研究提出通过磁力计或指戴式加速度计来捕捉手指运动的可穿戴方法11,12,13,但这些运动的功能性解读仍具挑战性14。因此,尽管先前提出的可穿戴设备体积小、使用方便,但它们仍不足以描述手部使用过程中的细节及其功能背景。

可穿戴摄像头已被提出用于填补这些空白,并捕捉个体在家庭环境中进行日常生活活动(ADLs)时手部功能的详细信息,以应用于神经康复领域15,16,17,18,19。利用计算机视觉对第一人称视角视频进行自动化分析,具有巨大潜力,可在真实情境中量化手部功能,既提供关于手部本身的信息,也提供关于实际日常生活活动中所执行任务的信息20。然而,由于电池续航、存储容量和佩戴舒适性的限制,连续录制的时长通常被限制在约1至1.5小时。在此类限制条件下,本文提出了一种第一人称视角视频采集方案,旨在获取既能代表个体日常生活、又对手功能评估具有信息价值的数据。

访问受限。请登录或开始试用以查看此内容。

方案

本研究获得了大学健康网络研究伦理委员会的批准。在参与者入组前,均已获得其签署的知情同意书。对于出现在视频记录中的任何护理人员或家庭成员,也均已获得其签署的知情同意书。

1. 验证该方案对个体的适用性

注意:本方案适用于手部功能受损但未完全丧失的个体(具体标准可根据目标人群和/或研究问题进行调整)。

  1. 询问参与者患侧手是否影响其进行日常生活活动(ADL)的能力。
    注:建议要求参与者举例说明其患侧手能够独立完成和无法独立完成的具体任务。
  2. 确认蒙特利尔认知评估(MoCA)的总分高于21分,以避免参与者在理解与遵循实验方案时可能出现困难。

2. 确定参与者的每日作息

  1. 请参与者回忆过去两周内的日常活动。记录他们所执行的日常任务、持续时间以及大致进行时间。
  2. 与参与者合作,选择三个各为1.5小时的时间段用于视频录制。所选时间段应分布在一周中的不同日期,并选择在通常会连续进行涉及手部的日常生活活动(ADLs)的时间段。
    注意:所选的日常生活活动应能代表每位参与者典型的日常行为,并被其视为具有实际意义。将录制时段安排在不同日期,旨在增加所记录的日常生活活动的多样性,以促进获取有用且有意义的数据。
    ​注意:虽然录制时间段的安排旨在提高录制效率,但参与者应明确知晓他们可自主决定何时开始和停止录制。

3. 与参与者商定录制时间表及目标视频内容

  1. 在讨论参与者可能存在的任何顾虑后,获得其对录制时间安排的同意。
  2. 设定在两周内完成3小时视频录制的目标。告知参与者,若录制时长不足,可能需要延长其录制周期。

4. 强调自然进行日常生活活动的重要性

  1. 指导参与者专注于记录真实的日常活动,而不是指定需要记录的特定活动。该指导的目的是为了避免参与者人为地大量记录某些特定活动,使其超出其日常实际情况。

5. 家庭录制过程中潜在隐私问题的告知

  1. 确保参与者理解所有录制过程必须在其家中进行,不得在公共场所进行,以避免隐私问题。
  2. 列举可能引发隐私担忧的示例,如洗澡、穿衣/脱衣以及查看机密信息。提醒参与者注意录像中可能出现的镜子,因其可能反射出他们的面部。
  3. 建议参与者尽量避免在视频中出现其他人员,例如家庭成员或照护者。
    ​注意:在研究研究的背景下,若确有必要出现其他人员,应事先获得这些人员的知情同意。

6. 相机与平板电脑操作说明

注意:如果参与者在初次联系时表明其日常需求大多需要照护者协助,则鼓励照护者同时参加研究访视,并接受设备使用培训,以便后续能够协助参与者。

  1. 向参与者演示如何使用第一人称视角相机(材料表)。
    1. 演示如何打开和关闭相机。
    2. 演示如何使用相机控制录制(开始、暂停、停止)。
  2. 如适用,向参与者演示如何使用预装相机应用程序的平板电脑(材料表)来控制录制。
    ​注意:演示内容包括通过相机应用程序控制录制,以及回放和编辑(例如剪辑或删除)已录制的视频。最初曾考虑使用相机遥控器(补充文件),但在实际操作中未使用,因为参与者更习惯使用相机或平板电脑来开始和停止录制。
    1. 演示如何打开和关闭平板电脑。
    2. 演示如何通过相机应用程序将平板电脑与相机连接。
    3. 演示如何通过相机应用程序控制录制。
    4. 演示如何通过相机应用程序查看已录制的视频。
    5. 演示如何通过相机应用程序剪辑或删除视频。
  3. 演示如何使用可调节至参与者头部尺寸的弹性头带佩戴和摘下相机。
    注意:参见 图1
    可用性测试设置;用户在计算机工作站使用眼动追踪设备进行数据分析。
    图1.可穿戴相机设置。 (A) 第一人称视角相机的佩戴位置。(B) 相机的视角。 请点击此处查看此图的放大版本。
    1. 将相机放置在参与者的前额上,并调节头带以确保相机佩戴舒适且稳固。
    2. 确保相机相对于前额的角度处于最佳位置。
    3. 要求参与者在双手于身前移动并操作物体(例如平板电脑)时录制一段短视频。
    4. 回放所录制的视频,确保在执行操作任务时,双手在画面中央区域清晰可见。
    5. 与参与者及其照护者一起练习使用相机和平板电脑,直至其能够熟练操作。

7. 提供设备

  1. 将包含所有设备的工具包交给参与者,用于在家中记录其日常生活活动(ADL)。除相机和平板电脑外,工具包还包括备用相机电池、相机和平板电脑的电池充电器、充电线缆、相机用头带,以及一份打印好的相机使用指南(参见补充材料)。

8. 实验故障排除与后续步骤

  1. 提供研究人员的联系方式,以帮助解决在家实际录制过程中遇到的障碍。一周后,研究人员将致电参与者,记录录制进展并解决任何潜在的技术问题。

9. 设备与视频的回收

  1. 通过当面交接或预付邮包的方式,从参与者处取回所有设备和视频。
  2. 确保参与者同意共享其返回的全部视频。鼓励参与者在将视频交还研究团队之前,先审阅所有采集到的视频内容,并删除其中不愿共享的部分。
  3. 对于研究用途,研究人员需审阅返回的视频,检查是否有未签署知情同意书的个体出现在视频中。若发现此类情况,应向视频中出现的个体发送知情同意书或电话联系,以获取其使用视频的授权。若无法联系到相关个体,研究人员须删除其在视频中出现的片段。

访问受限。请登录或开始试用以查看此内容。

结果

参与者人口统计学特征与纳入标准
本研究共招募了23名参与者:其中9名为脑卒中幸存者(6名男性,3名女性),14名为慢性脊髓损伤(cSCI)患者(12名男性,2名女性)。招募样本的人口统计学与临床信息汇总见表1

年龄(岁)损伤后持续时间(月)病因损伤水平上肢功能评估(均值 ± 标准差)
损伤水平ASIA损伤分级上肢...

访问受限。请登录或开始试用以查看此内容。

讨论

我们提出了一种使用可穿戴摄像头在家中记录上肢功能障碍个体(如慢性脊髓损伤和脑卒中患者)日常生活活动(ADL)视频的方案。该方案具有灵活性,可针对特定日常生活活动中的手功能表现进行目标导向性记录,也可用于远程追踪居家个体的康复进展。以自我为中心的视觉范式在社区居住个体手功能的远程监测方面具有巨大潜力,也可在患者结束住院治疗后进一步优化康复过程。尽管长时间佩戴(例如超过1小时)存在舒适度方面的某些局限性,但以自我为中心的摄像头能够详细捕捉功能性日常生活活动中手部使用的情况,并提供加速度计和惯性测量单元(IMUs)无法获取的情境信息。该技术的潜在应用包括:作为量化个体在家中独立用手情况的新型结局评估指标的基础,以及通过分析姿势信息识别抓握策略或代偿性姿势,从而为治疗方案制定提供依据。尽管可穿戴摄像头能够记录个体在家中自然的手部使用情况,但由于电池续航、存储容量和佩戴舒适度的限制,摄像头无法连续数小时录制;不过,随着可穿戴技术的快速发展,这些限制有望在不久的将来得到缓解。为了在录制时间有限的情况下仍能捕捉到具有代表性的参与者日常活动模式,本方案采用研究人员与参与者协作的方式,共同确定合适的录制时间安排。

访问受限。请登录或开始试用以查看此内容。

披露

作者无任何利益冲突需要披露。

致谢

本研究方案所涉及的研究由心脏与中风基金会(Heart and Stroke Foundation,项目编号 G-18-0020952)、克雷格·H·尼尔森基金会(Craig H. Neilsen Foundation,项目编号 542675)、加拿大自然科学与工程研究理事会(Natural Sciences and Engineering Research Council of Canada,项目编号 RGPIN-2014-05498)以及安大略省研究、创新与科学部(Ministry of Research, Innovation and Science, Ontario,项目编号 ER16-12-013)提供资助。

访问受限。请登录或开始试用以查看此内容。

材料

本文使用的材料清单
姓名公司目录编号评论
第一人称视角相机GoPro Inc., CA, USAGoPro Hero 4 和 5一种从第一人称视角进行录制的相机。
电池充电器和电池GoPro Inc., CA, USAMAX 双电池充电器 + 电池相机的备用电池及电池充电器
相机充电器GoPro Inc., CA, USASupercharger该充电器可直接连接相机,无需拆卸相机外壳。
相机外壳GoPro Inc., CA, USAThe Frame相机外壳的铰链可用于调节相机的视角。
相机头带GoPro Inc., CA, USAHead Strap + QuickClip
SD 卡SanDisk, CA, USA32GB microSD
平板电脑ASUSTeK Computer Inc., 中国台湾ZenPad 8.0 Z380M平板电脑上已安装 GoPro 应用程序,以便与相机连接。

参考文献

  1. Nichols-Larsen, D. S., Clark, P., Zeringue, A., Greenspan, A., Blanton, S. Factors influencing stroke survivors' quality of life during subacute recovery. Stroke. 36 (7), 1480-1484 (2005).
  2. Anderson, K. D. Targeting recovery: priorities of the spinal cord-injured population. Journal of Neurotrauma. 21 (10), 1371-1383 (2004).
  3. Gladstone, D. J., Danells, C. J., Black, S. E. The Fugl-Meyer assessment of motor recovery after stroke: a critical review of its measurement properties. Neurorehabilitation and Neural Repair. 16 (3), 232-240 (2002).
  4. Barreca, S. R., Stratford, P. W., Lambert, C. L., Masters, L. M., Streiner, D. L. Test-retest reliability, validity, and sensitivity of the Chedoke arm and hand activity inventory: a new measure of upper-limb function for survivors of stroke. Archives of Physical Medicine and Rehabilitation. 86 (8), 1616-1622 (2005).
  5. Uswatte, G., Taub, E., Morris, D., Vignolo, M., McCulloch, K. Reliability and validity of the upper-extremity Motor Activity Log-14 for measuring real-world arm use. Stroke. 36 (11), 2493-2496 (2005).
  6. Duncan, P. W., Bode, R. K., Lai, S. M., Perera, S., Antagonist, G. Rasch analysis of a new stroke-specific outcome scale: the Stroke Impact Scale. Archives of Physical Medicine and Rehabilitation. 84 (7), 950-963 (2003).
  7. Marino, R. J., Shea, J. A., Stineman, M. G. The capabilities of upper extremity instrument: reliability and validity of a measure of functional limitation in tetraplegia. Archives of Physical Medicine and Rehabilitation. 79 (12), 1512-1521 (1998).
  8. Hayward, K. S., et al. Exploring the role of accelerometers in the measurement of real world upper-limb use after stroke. Brain Impairment. 17 (1), 16-33 (2016).
  9. van der Pas, S. C., Verbunt, J. A., Breukelaar, D. E., van Woerden, R., Seelen, H. A. Assessment of arm activity using triaxial accelerometry in patients with a stroke. Archives of Physical Medicine and Rehabilitation. 92 (9), 1437-1442 (2011).
  10. Oess, N. P., Wanek, J., Curt, A. Design and evaluation of a low-cost instrumented glove for hand function assessment. Journal of Neuroengineering and Rehabilitation. 9 (1), 2(2012).
  11. Friedman, N., Rowe, J. B., Reinkensmeyer, D. J., Bachman, M. The manumeter: a wearable device for monitoring daily use of the wrist and fingers. IEEE Journal of Biomedical Health Informatics. 18 (6), 1804-1812 (2014).
  12. Liu, X., Rajan, S., Ramasarma, N., Bonato, P., Lee, S. I. The use of a finger-worn accelerometer for monitoring of hand use in ambulatory settings. IEEE Journal of Biomedical Health Informatics. 23 (2), 599-606 (2018).
  13. Lee, S. I., et al. A novel upper-limb function measure derived from finger-worn sensor data collected in a free-living setting. PloS One. 14 (3), (2019).
  14. Rowe, J. B., et al. The variable relationship between arm and hand use: a rationale for using finger magnetometry to complement wrist accelerometry when measuring daily use of the upper extremity. 2014 36th Annual International Conference of the IEEE Engineering in Medicine and Biology Society. , 4087-4090 (2014).
  15. Dousty, M., Zariffa, J. Tenodesis Grasp Detection in Egocentric Video. IEEE Journal of Biomedical and health. , (2020).
  16. Likitlersuang, J., et al. Egocentric video: a new tool for capturing hand use of individuals with spinal cord injury at home. Journal of Neuroengineering and Rehabilitation. 16 (1), 83(2019).
  17. Tsai, M. -F., Wang, R. H., Zariffa, J. Generalizability of Hand-Object Interaction Detection in Egocentric Video across Populations with Hand Impairment. 2020 42nd Annual International Conference of the IEEE Engineering in Medicine & Biology Society (EMBC). , 3228-3231 (2020).
  18. Bandini, A., Dousty, M., Zariffa, J. A wearable vision-based system for detecting hand-object interactions in individuals with cervical spinal cord injury: First results in the home environment. 2020 42nd Annual International Conference of the IEEE Engineering in Medicine & Biology Society (EMBC). , 2159-2162 (2020).
  19. Dousty, M., Zariffa, J. Towards Clustering Hand Grasps of Individuals with Spinal Cord Injury in Egocentric Video. 2020 42nd Annual International Conference of the IEEE Engineering in Medicine & Biology Society (EMBC). , 2151-2154 (2020).
  20. Bandini, A., Zariffa, J. Analysis of the hands in egocentric vision: A survey. IEEE Transactions on Pattern Analysis and Machine Intelligence. , (2020).
  21. Likitlersuang, J., Sumitro, E. R., Theventhiran, P., Kalsi-Ryan, S., Zariffa, J. Views of individuals with spinal cord injury on the use of wearable cameras to monitor upper limb function in the home and community. Journal of Spinal Cord Medicine. 40 (6), 706-714 (2017).

访问受限。请登录或开始试用以查看此内容。

重印与许可

标签

手功能评估计算机视觉分析日常活动记录参与者隐私控制脑卒中幸存者脊髓损伤康复进展追踪可穿戴相机方案