饮水任务的运动学指标已被推荐用于上肢中风康复,但传统的运动学研究方法被认为不切实际。本方案描述了一种基于网络的指南,用于采集饮水任务的视频,这些视频可与计算机视觉技术兼容,以提取推荐的运动学指标。
饮水任务的运动学指标已被推荐用于上肢中风康复,但传统的运动学研究方法被认为不切实际。本方案描述了一种基于网络的指南,用于采集饮水任务的视频,这些视频可与计算机视觉技术兼容,以提取推荐的运动学指标。
上肢功能评估对于康复过程至关重要。在过去二十年中,饮水任务活动的运动学评估已被证实对受多种疾病影响的康复人群(包括脑卒中和肌肉骨骼疾病患者)具有良好的效度,并能敏感地反映临床变化。这些关于饮水任务运动学的基础研究工作,已促成了在康复研究中采用上肢运动学指标的共识性建议。然而,实际应用中的若干问题限制了其在研究领域的推广以及向临床实践的转化。采用运动学评估的主要障碍包括:传统动作捕捉方法在获取运动学数据时的技术复杂性,以及运动学背后活动方案的标准化程度不足。针对前者,人工智能领域中的计算机视觉技术取得的突破正显著降低运动学分析的技术门槛;针对后者,本文介绍了一款基于网络的应用程序(app),旨在指导临床医生使用现成的立体摄像头、个人计算机以及门诊临床环境中易于获取的基本材料,完成高度标准化的饮水任务活动视频采集。此外,我们还展示了该视频采集方式与自主开发的计算机视觉分析流程之间的兼容性,可用于提取饮水任务的运动学参数。通过持续开展的验证研究和可用性评估,我们预期此类工具将显著提升获取高度标准化上肢运动学指标的可及性,从而推动上肢功能障碍康复人群的研究进展与临床诊疗水平。
在日常生活中,我们大部分上肢活动都需要双侧肢体共同参与。神经损伤后常出现上肢功能丧失,约80%的脑卒中幸存者存在上肢功能障碍1。这些功能障碍已知会降低个体的功能水平和生活质量2。康复治疗仍是恢复功能的主要干预手段3,而康复过程被描述为一个以精确评估为基础的循环过程4。在过去二十年中,上肢运动学评估受到越来越多的关注。这部分归因于现有临床评估方法的局限性,这些局限性包括评估者主观性以及对细微变化的分辨能力较差等公认缺点5。
运动学是生物力学的一个分支,涉及研究人体、肢体和关节在运动过程中的活动。在以往的研究中,饮水任务的运动学研究已受到学术界的广泛关注6。饮水任务在运动学评估中广受欢迎,原因在于其运动复杂性、目标导向的任务特异性以及周期性运动特征7。除了在神经发育典型成人和儿童中开展的大量研究外,饮水任务还在多种神经系统疾病中得到了研究8,9,10,11。在脑卒中人群中,这些研究已识别出若干重要的运动学指标,这些指标具有良好的有效性、可靠性和对临床变化的敏感性12,13,14。然而,由于需要复杂的设备、高昂的成本以及专业技术知识,运动学评估长期以来被认为难以在临床实践中推广应用15。
随着人工智能的发展,运动学评估的实际障碍正在显著减少。例如,计算机视觉——人工智能的一个分支领域,能够从数字图像中提取信息——如今可被用于利用相对简单的摄像机和计算机实现无标记动作捕捉系统16,17,18。为了利用计算机视觉领域的这些进展,本方法学论文旨在介绍一种基于网络的工具,以指导临床医生完成以下工作:(i)实施饮水任务的标准化活动方案;(ii)录制与计算机视觉工作流程兼容的饮水任务视频,以便提取运动学参数。尽管这些运动学参数尚未纳入常规临床诊疗,但本方案的目标是吸引希望将生物力学研究融入临床实践的医务人员参与其中。预期影响是显著提升临床对上肢运动学参数的可及性,从而为当前康复治疗方案提供依据,并支持新型治疗方案的研发与探索。
代表性结果部分展示的图示对应于根据《赫尔辛基宣言》开展的两项独立病例研究。在数据收集前,已从所有参与者处获得知情同意。由于这两项独立病例研究仅涉及两名参与者,未达到当地机构审查委员会(IRB)所定义的临床研究标准,因此无法提供指定的IRB方案编号。
注意:该方案及相关的网络应用程序主要分为以下三个步骤:(i)工作区设置;(ii)校准任务;(iii)饮水任务。信息图(图1)直观展示了这些步骤,包括用户在使用网络应用程序(https://mobile-motion-lab-public.web.app)时可能遇到的工作流程。

图1:本实验方案的流程图解。 结合基于网页应用程序的截图,本图展示了每个主要步骤的示意图,包括工作区设置(左图)、校准工作流程(中图)和饮酒任务工作流程(右图)。请点击此处查看此图的放大版本。
1. 工作区设置
注意:此步骤概述了如何正确设置工作区(图2),以进行后续的校准任务和饮水任务。正确的设置对于确保视频采集的标准化和质量至关重要,从而通过计算机视觉工作流程可靠地进行后期处理并提取运动学参数。
2. 校准操作
注意:本步骤概述了如何成功完成校准操作,并通过网络应用程序确保将图像正确整理至适当的保存位置。校准操作建议每天在采集受试者视频数据前进行一次。如果在当天因任何原因改变了摄像头位置(包括路人意外触碰摄像头或三脚架导致的位置变动),建议重新进行校准,并且所有后续录制的视频活动在计算机视觉工作流程中均需关联此次新的校准数据。
3. 饮水任务活动
注意:此步骤概述了如何指导受试者完成饮水任务活动,如何创建饮水任务的视频记录,以及如何通过网络应用程序确保将视频正确整理并保存至指定位置。
开发基于网络的临床医生指南的一个主要动机是降低技术门槛,从而避免临床医生因技术障碍而无法使用计算机视觉来评估患者的上肢生物力学。该基于网络的临床医生指南预计将为用户提供两种主要输出结果:(i)基于立体相机双图像传感器的一系列同步棋盘格校准图像,以及(ii)受试者每次试验过程中标准化饮水任务活动的一对同步视频(图3)。该网络指南以多种形式提供操作说明,包括书面操作流程、视频/音频演示以及交互式虚拟操作引导。为减轻管理负担,数据整理过程已实现自动化。图像和视频数据将根据用户指定的路径自动保存至首选的数字文件夹中,例如保存在计算机桌面或机构内部的基于云的网络存储中。数据会自动归档到压缩文件夹中,文件夹结构包含嵌套的子文件夹,文件命名遵循标准化格式,依据受试者编号、数据采集的日期/时间、手部侧别、相机类型/侧别以及试验序号进行组织。

图2:用于采集图像和视频的门诊诊所设置。 饮水任务的运动学数据可通过计算机视觉技术从兼容的视频中提取,该过程可借助图示的立体相机、计算机以及诊所中常见的物品(如椅子、桌子、打印资料、文件夹、水杯、饮用水)实现。尽管相机的具体放置位置和朝向会因设备型号而异,(A) 图中显示了一个近似位置,(B) 可根据需要进行调整,以完整捕捉受试者在执行饮水任务时的身体及上肢活动范围。 请点击此处查看此图的放大版本。

图3:基于网络的临床指南生成的兼容图像与视频。 基于网络的临床指南的主要输出包括(A)一系列棋盘格校准图案的同步图像,以及(B)一对同步视频,记录受试者完成饮水任务各个阶段的表现。请点击此处查看该图的放大版本。
根据采集的图像和视频数据,可利用计算机视觉技术提取饮水任务期间上肢的生物力学参数。重要的是,原始数据的采集与计算机视觉技术的应用可以相互独立。已有多种计算机视觉工作流程在先前文献中被描述,可用于此类数据的分析16,18,用户也可采用自行构建的工作流程。例如,我们此前开发了一种用于估计人体三维姿态(图4)并进一步提取三个运动学指标的计算机视觉工作流程。简而言之,该工作流程包含以下关键步骤:(i)相机标定,以提取相机的内参和外参,实现像素到真实世界尺寸的映射;(ii)人体姿态检测,用于在二维图像中标注人体解剖关键点的像素位置;(iii)应用提升算法,从两幅二维图像中计算三维信息;(iv)应用滤波方法对轨迹进行平滑处理,例如移动平均滤波和卡尔曼滤波。更详细的描述超出了本文范围,但可在先前的研究中查阅16。通过应用该工作流程,所提取的运动学指标可量化运动平滑性(例如运动单元数量,NMU)、代偿行为(例如躯干位移,TD)以及运动时间(MT),这些指标在脑卒中康复研究中已被证实具有有效性、可靠性和对临床变化的敏感性5,13,14。与传统的基于标记点的运动捕捉系统相比,该计算机视觉工作流程产生的误差较小(NMUerror为-0.12个单位,TDerror为3.4 mm,MTerror为0.15 s),远低于临床显著变化的估计值(3–7个NMU,20–50 mm TD,2.5–5 s MT)16。为说明某一具体运动学指标,即基于NMU的运动平滑性(图5),在一项针对既往脑卒中个体的案例研究中,绘制了饮水任务期间手腕速度曲线图,展示了所测得的NMU(例如,每个运动单元以红色星号标示)(受试者为51岁女性,右利手,曾发生右侧延髓缺血性脑卒中,导致轻度左侧偏瘫,脑卒中发病时间>6个月前,合并症包括高血压和右侧腕管综合征)。

图 4:计算机视觉在图像与视频中提取人体运动数据的应用。 已有多种计算机视觉工作流程用于获取饮水任务的运动学数据。(A)初始校准步骤需要二维图像,以将像素映射到真实世界的尺寸;(B)随后可通过投影几何方法将这些二维数据转换为三维坐标。接着,在饮水任务的视频上应用人体姿态估计,(C)可自动检测出二维解剖关键点,并进一步转换为(D)三维关键点,用于各种度量计算与可视化,例如关键点轨迹。请点击此处查看该图的放大版本。

图 5:饮水任务中运动平滑性的运动学指标。 基于饮水任务获取的三维人体运动数据,可获得多种卒中后运动学指标。以一位处于卒中恢复慢性期的受试者为例,可通过计算机视觉技术从视频中提取运动平滑性的运动学指标(例如运动单位数,NMU,如手腕速度曲线上红色星号的数量所示),从而揭示(A)左侧与(B)右侧上肢在运动功能上的客观差异。请点击此处查看该图的放大版本。
已有研究推荐在脑卒中康复研究中使用饮水任务的运动学评估方法6。然而,实际应用中的顾虑被指出是阻碍运动学方法在康复研究中推广的障碍,其中包括传统用于测量人体生物力学的运动捕捉技术所需的成本和技术要求15。这些顾虑继而妨碍了运动学评估在临床实践中的应用和转化。作为替代方案,可通过计算机视觉技术,利用单个立体摄像头、一台个人计算机以及门诊诊所环境中常见的物品,实现更为实用的运动学参数提取方法16。本文介绍了一项面向临床医生的实验方案,该方案采用基于网页的指导工具,记录可用于计算机视觉流程的图像和视频,以提取饮水任务的运动学指标。本方法的长期目标是提高这些运动学指标的可及性,这些指标此前已被开发并推荐用于脑卒中康复研究5,6,12,13,14。
视频同步对于计算机视觉中的双摄像头方法至关重要。双摄像头设置模拟了人眼,能够从现实世界中略微不同的视角同时感知场景,从而实现深度感知。在计算机视觉中,从两个二维信息源(例如,手腕在图像中的像素位置)确定三维信息(例如,手腕在笛卡尔坐标系中的位置)的准确性,依赖于适当的同步。根据我们的经验,当双摄像头的同步精度在1毫秒以内时,可以获得合理的结果16。多种因素可能降低同步性能,包括摄像头帧率不稳定、线缆数据传输速率有限、软件效率低下以及硬件规格不足(例如,内存较低或处理器等级较低)。为缓解同步问题,本实验方案采用一款现成的立体摄像头,其体积较小,并设计为即插即用设备(例如,通过单根USB线连接至标准个人计算机),可自动从两个内置图像传感器获取同步图像。
在任何计算机视觉应用中,都需要仔细考虑相机的特性。理论上,更高分辨率的图像和更高帧率的人体运动录像能够提供更丰富的数据,从而以更高的时空精度检测解剖关键点。然而,在数据量与可用计算资源之间必须取得不可避免的平衡。本方案所采用的双目相机以60 Hz的帧率录制分辨率为1280 × 720像素的视频,这与先前将计算机视觉应用于饮水任务运动学研究的实验条件相当16,18。在录制此类视频时,我们发现使用高端消费级计算机(例如,3.2 GHz CPU,128 GB内存)可稳定获得成功结果,而使用笔记本电脑(例如,2.6 GHz CPU,16 GB内存)则结果不稳定。当使用低端计算机时,常见问题是视频帧丢失,通常表现为输出视频的持续时间短于预期的20秒录像。值得注意的是,虽然数据计算能力通常是导致视频帧丢失的主要原因,但数据传输同样重要。例如,在医疗环境中,与计算机接口(如USB端口)相关的安全设置可能导致数据传输延迟,从而影响视频录制的可靠性。
视线干扰会影响计算机视觉工作流程中的关键步骤,包括相机标定和人体姿态估计。相机标定依赖于标准尺寸棋盘格图案的数字图像,从而使计算机视觉系统能够将图像像素映射到真实世界的物理尺寸。清晰地呈现棋盘格图案有助于提高该映射的成功率。视觉干扰可能由多种原因引起,包括但不限于以下情况:(i)光照问题(例如,来自附近窗户的强烈反光或深色阴影);(ii)棋盘格移动过快(例如,由于相机曝光时间过长导致图像模糊);或(iii)相机固有参数设置不当(例如,焦距错误或严重的镜头畸变)。人体姿态估计利用人工智能技术,从单人图像(单人姿态估计)或多个人图像(多人姿态估计)中自动标注解剖学关键点。因此,清晰地呈现人体对于姿态估计的成功至关重要。根据计算机视觉参数(例如,人工智能架构、预测阈值)的不同,某些视觉干扰可能在一定程度上被容忍。然而,为了评估视频是否适用于人体姿态估计,需警惕以下常见问题:(i)在进行单人姿态估计时,画面中出现旁观者;(ii)身体部位间歇性地超出相机视场范围;以及(iii)由于身体部位重叠造成的自遮挡。
将数据采集与计算机视觉工作流程本身分离既有优势也存在不足。一个显著的不足是,临床医生和患者获得用于决策的临床相关信息会有所延迟。潜在的优势则是减少了对医患互动的干扰。例如,假设在患者就诊前已完成校准,按照先前文献所述12,录制饮水任务10次重复的视频,理想情况下所需视频录制时间少于4分钟,外加指导不熟悉该方案的患者所花费的时间。此外,这种分离可通过分担信息处理责任来提高临床医生的接受度。在这种职责划分下,临床医生负责决定视频评估的时机与目的,而数据科学家或工程师则负责优化生成准确且可靠临床指标(如饮水任务运动学参数)的计算机视觉工作流程。事实上,这种情况类似于当前临床实践中许多基于血液(如全面代谢检测)和基于影像(如磁共振成像检查)的检测常态,均由临床医生常规开具申请。最后,随着人工智能领域持续发展,这种分离模式可能更具优势。当前采集的视频数据未来可由更先进的计算机视觉方法进行重复分析,从而以更高的速度、准确性和可靠性提取更多的运动学指标。
我们的目标是进一步推动康复领域(包括门诊临床医生以及未来可能涉及的家庭环境中的个体,例如远程康复)对上肢运动学数据的获取。本方案及基于网络的应用程序应被视为处于早期开发阶段,迄今为止仅针对一项高度集中的活动(即饮水任务)以及相对有限的利益相关者群体(即临床医生用户和能够顺利完成饮水任务的受试者)。未来的版本需要适应更加多样化的用户群体、更多样化的活动类型以及更广泛的受试人群(例如存在严重功能障碍、需调整活动方式的个体)。此外,未来的发展还需在广泛实施前纳入重要的关键环节,例如与电子病历系统的整合,以及对患者隐私和保密性的维护。这些后续版本还可能引入新技术并对现有技术进行优化。例如,当前方案采用基于双目视觉(如立体相机)的计算机视觉工作流程。下一步合理的发展方向是采用单目视觉(如更基础的相机设备)的方案,这可能通过利用基于双目数据集训练的人工智能(AI)技术实现。值得注意的是,当前方案生成的图像和视频数据可兼容目前最先进的计算机视觉解决方案,但这些方案的性能正逐渐被更新的技术所超越18。本文所述的基于网络的方案可使临床医生在其实践中建立计算机视觉应用的基础,而随着人工智能技术在医疗健康行业的深入渗透,该技术有望实现显著进步。
我们感谢Mitchell Embry贡献其网络开发专长,实现了所构想的网络应用程序设计。我们还感谢肯塔基大学(UK)移动健康应用现代化与移动化联盟(MAMMA)的负责人Mikhail Koffarnus博士和Carolyn Lauckner博士。本项目资金由MAMMA联盟通过肯塔基大学医学院、研究副校长办公室以及肯塔基大学医疗保健部门提供。
| 姓名 | 公司 | 目录编号 | 评论 |
|---|---|---|---|
| 相机安装臂,两段式单关节带相机平台 | Manfrotto | 196B-2 | 立体相机支架 |
| 相机三脚架,兼容 1/4 英寸和 3/8 英寸标准安装螺钉 | iFootage | CB3 Base | 用于安装立体相机的三脚架 |
| 文件夹板,标准信纸尺寸 | N/A | N/A | 用于固定校准图案的表面 |
| 杯子,8 盎司塑料杯 | N/A | N/A | 饮水任务用水容器 |
| 高度可调椅子,带锁定脚轮 | Vermund Larsen A/S | VELA Independence | 受试者使用的椅子 |
| 高度可调桌子,带锁定脚轮 | Midmark Corporation | 6215 Rectangular Workstation | 用于设置饮水任务的桌子 |
| 校准棋盘格打印件 | N/A | N/A | 校准视频用图案 |
| 饮水任务活动垫打印件 | N/A | N/A | 指导饮水任务设置的垫板 |
| 立体相机,4mm 焦距,无偏振镜,5m USB 3.0 线缆 | Stereolabs | Zed 2i | 用于视频录制的立体相机 |
| 胶带 | N/A | N/A | 用于固定打印材料的粘合剂 |