需要JoVE订阅才能观看此内容。 请登录或开始免费试用

方法文章

用于工业与医疗的单通道非侵入式可穿戴脑-机接口

4.1K 次观看

DOI:

10.3791/65007

2023年7月7日

本文内容

摘要

本文讨论了如何利用消费级设备和稳态视觉诱发电位构建脑机接口。为此,将采用干电极的单通道脑电图仪与用于刺激呈现和输出数据可视化的增强现实眼镜相结合。最终系统具有非侵入性、可穿戴性和便携性。

摘要

本研究重点介绍如何构建一种可穿戴式脑机接口(BCI)。脑机接口是一种新型的人机交互方式,通过直接测量脑信号,既可辅助残障人士,也可用于健康个体。其应用实例包括机器人控制、工业检测和神经康复等。值得注意的是,近期研究表明,稳态视觉诱发电位(SSVEPs)特别适用于通信与控制类应用,目前正致力于将脑机接口技术引入日常生活。为实现这一目标,最终系统必须依赖于可穿戴、便携且低成本的设备。在利用SSVEPs时,需要使用具有固定频率的闪烁视觉刺激。因此,本研究结合日常生活中的实际限制,探索了通过智能眼镜提供视觉刺激的可能性。此外,为检测诱发的电位信号,选用了商用脑电图(EEG)设备。该设备包含一个单差分通道和干电极(无需导电凝胶),从而实现了最大程度的可穿戴性与便携性。在此类脑机接口中,用户仅需注视显示屏上的图标,即可与智能眼镜进行交互。基于这一简单原理,通过将扩展现实(XR)眼镜与市售EEG设备集成,构建出一种用户友好、低成本的脑机接口系统。该可穿戴式XR-BCI系统的功能通过一项包含20名受试者的实验研究进行了验证。根据刺激时间的不同,分类准确率平均在80%至95%之间。基于这些结果,该系统既可用作工业检测中的人机接口,也可用于注意缺陷多动障碍(ADHD)和自闭症的康复治疗。

引言

脑机接口(BCI)是一种无需依赖天然神经通路即可实现与设备通信和/或控制的系统1。从技术角度看,该系统通过测量受试者产生(可为自主或非自主)的诱发或诱发电脑活动来实现运行2。脑机接口技术是人类目前最接近仅凭思维力量控制物体的技术。历史上,相关研究主要聚焦于通过脑机接口辅助运动功能障碍患者3,但如今越来越多的公司提供基于脑机接口的仪器,应用于游戏4、机器人5、工业6以及其他涉及人机交互的领域。值得注意的是,脑机接口可能在第四次工业革命(即工业4.07)中发挥重要作用,其中信息物理生产系统正在改变人类与周围环境之间的交互方式8。总体而言,欧洲BNCI Horizon 2020项目确定了若干应用场景,包括替代、恢复、改善、增强或补充中枢神经系统丧失的自然功能,以及利用脑机接口开展脑科学研究9

在此框架下,近期的技术进步意味着脑机接口可能适用于日常生活应用10,11。为实现这一目标,首要要求是非侵入性,这对于避免手术干预风险并提高用户接受度至关重要。然而需要注意的是,非侵入性神经影像技术的选择会影响所测脑信号的质量,因此脑机接口设计必须应对由此带来的相关缺陷12。此外,还需具备可穿戴性和便携性。这些要求虽符合用户友好系统的需求,但也带来一定限制。总体而言,上述硬件限制可通过使用无凝胶电极的脑电图(EEG)系统得以解决6。此类基于脑电图的脑机接口 также具有低成本优势。同时,在软件方面,期望实现最少的用户训练(或理想情况下无需训练);即最好避免在用户能够使用系统前,需要长时间调校处理算法。由于受试者间和受试者内的非平稳性,这一方面在脑机接口中尤为关键13,14

既往文献表明,诱发脑电位的检测在信号采集过程中对非平稳性和噪声具有较强的鲁棒性。换句话说,依赖诱发脑电位检测的脑机接口被称为反应式脑机接口,在脑电模式识别方面性能最佳15。然而,这类接口需要感官刺激,这可能是其主要缺点。因此,本方法的目标是构建一种高度可穿戴且便携的脑机接口,该接口基于现成可用的可穿戴设备。此处的感官刺激由智能眼镜产生的闪烁光构成,能够诱发稳态视觉诱发电位(SSVEP)。已有研究考虑将脑机接口与虚拟现实单独或结合增强现实进行整合16。例如,已有研究提出一种基于SSVEP的脑机接口-增强现实(BCI-AR)系统用于控制四旋翼飞行器17。虚拟现实、增强现实及其他相关范式统称为扩展现实。在此背景下,选择智能眼镜符合可穿戴性和便携性的要求,并且智能眼镜可与极简的脑电(EEG)采集装置集成。本文表明,基于SSVEP的脑机接口在实现适用于中低速通信与控制应用的可接受分类性能的同时,所需训练极少。因此,该技术适用于日常生活场景中的脑机接口应用,尤其适合工业与医疗健康领域。

访问受限。请登录或开始试用以查看此内容。

方案

本研究获得了意大利那不勒斯费德里科二世大学人文学部心理学研究伦理委员会的批准。志愿者在参与实验前均签署了知情同意书。

1. 准备非侵入式可穿戴脑-机接口

  1. 获取一款低成本的消费级干电极脑电图仪,并将其配置为单通道使用。
    1. 将低成本脑电图仪上任何未使用的输入通道按照其固有数据手册的规定短路或连接至内部参考电压。通过这种方式,未使用的通道将被禁用,从而不会产生串扰噪声。
    2. 调节脑电图仪的增益(通常通过可变电阻组件),使输入范围处于100 µV量级。
      注意:待测量的脑电(EEG)信号幅值约为数十微伏。然而,干电极受运动伪迹影响显著,由于电极-皮肤阻抗的波动,可能产生幅值达100 µV量级的振荡。增大输入电压范围有助于限制脑电放大器的饱和,但无法完全消除饱和现象。另一方面,进一步增大输入电压范围并不理想,因为这将影响对目标脑电信号成分进行测量时的电压分辨率。最终,必须结合脑电图设备电路板内模数转换器的位分辨率,综合权衡上述两个方面。
    3. 准备三个干电极用于连接至脑电图仪电路板。参考电极应使用无源电极(无前置放大功能),其余两个测量电极应为有源电极(即具备前置放大及最终的模拟滤波功能)。
      注意:在毛发覆盖的头皮区域放置电极时,需使用针状电极以克服电极与皮肤之间的接触阻抗。如有可能,建议焊接带扁平头部的银针(以减少使用者的疼痛感),或理想情况下使用带有Ag/AgCl涂层的导电(软)橡胶电极。
  2. 获取搭载安卓操作系统的商用智能眼镜,其刷新率为 60 Hz。也可选用刷新率较低的产品。更高的刷新率有助于减轻视觉疲劳,因而是刺激呈现的理想选择,但目前市场上尚无此类解决方案。
    1. 下载用于通信或控制的 Android 应用程序的源代码,或自行开发一个。
    2. 通过修改应用程序中的固有对象(通常使用 Java 或 Kotlin),将虚拟按钮替换为闪烁的图标。建议使用白色方块,其尺寸至少占屏幕尺寸的 5%。通常情况下,刺激方块越大,可检测到的稳态视觉诱发电位(SSVEP)成分越强,但最佳尺寸需根据具体情况进行调整。推荐的闪烁频率为 10 Hz 和 12 Hz。为避免加重智能眼镜的计算单元(CPU)负担,应在图形处理单元(GPU)上实现闪烁效果,为此可使用 OpenGL 库中的对象。
    3. 实现安卓应用程序中的一个模块,用于实时处理输入的脑电图(EEG)数据流。可添加安卓USB服务,以接收该数据流 通过 USB。实时处理可通过考虑传入的数据包,对脑电(EEG)信号流应用滑动窗口。通过快速傅里叶变换函数计算与10 Hz和12 Hz频率相关的功率谱密度。随后,训练好的分类器可通过分类功率谱密度特征,区分用户正在注视的是10 Hz闪烁图标还是12 Hz闪烁图标。

2. 基于稳态视觉诱发电位的脑-机接口校准

注意:本研究选择健康志愿者。排除有脑部疾病史的受试者。受试者需具有正常或矫正至正常的视力。实验过程中要求受试者保持放松,避免不必要的身体活动,尤其是头部运动。

  1. 让用户佩戴带有Android应用程序的智能眼镜。
  2. 让用户佩戴紧贴的头带以固定电极。
  3. 将低成本脑电图仪连接到个人电脑 通过 在 PC 与主电源断开连接时,使用 USB 电缆。
    1. 首先,将所有电极从脑电图采集板上断开,以确保从一个已知状态开始。
    2. 在此阶段,使用与Android应用程序中实现的处理方式兼容的脚本,在计算机上对脑电图(EEG)数据流进行离线处理。运行该脚本以接收脑电信号并对其进行可视化。
  4. 检查离线处理后显示的信号。该信号必须仅对应于脑电放大器的量化噪声。
  5. 连接电极。
    1. 将被动电极通过定制夹具固定于左耳,或使用耳夹式电极。此步骤中输出信号必须保持不变,因为测量差分通道仍处于开路状态。
    2. 将一个有源电极连接到测量 EEG 通道差分输入的负极端子,并使用头带将其放置于额区(Fpz 标准位置)。数秒后,信号应恢复至零(量化噪声)。
    3. 将另一个有源电极连接到测量 EEG 通道差分输入的正极端子,并使用头带将其施加于枕部区域(Oz 标准位置)。此时显示的脑信号对应于相对于额叶脑区测得的视觉活动(该区域无预期视觉活动)。
  6. 获取用于系统校准的信号。
    1. 以10 Hz和12 Hz(以及后续其他频率)反复刺激用户,通过启动Android应用程序中的闪烁图标,采集并保存固有的脑电图(EEG)信号以供离线处理。确保本阶段每次刺激均为单个图标闪烁10秒,并通过按压智能眼镜的触摸板启动闪烁图标,同时启动EEG信号采集与可视化脚本。
    2. 从与每次刺激相关的10秒信号中,利用快速傅里叶变换提取两个特征:10 Hz和12 Hz处的功率谱密度。或者,可考虑二次谐波(20 Hz和24 Hz)。
    3. 在特征域中表示所获取的信号,用于训练支持向量机分类器。使用工具(如Matlab或Python中的工具)根据输入特征确定超平面的参数,并可选择适当的核函数。训练完成的模型将能够对未来的脑电图(EEG)信号观测进行分类。

3. 组装最终的可穿戴便携式基于稳态视觉诱发电位(SSVEP)的接口

  1. 从计算机上拔下USB线缆,然后直接将其连接到智能眼镜。
  2. 将训练好的分类器参数输入安卓应用程序中。系统现已准备就绪。

访问受限。请登录或开始试用以查看此内容。

结果

上述系统的一种可能实现方式如图1所示;该实现方式允许用户通过增强现实技术浏览大脑活动。智能眼镜显示屏上闪烁的图标对应于应用程序的操作指令(图1A),因此,这种眼镜可替代基于按钮操作或触摸板的传统交互界面。此类交互的有效性严格依赖于对闪烁刺激所诱发的脑电位进行成功分类。为实现这一目标,首先对系统进行了计量学表征18,随后开展了涉及人类使用者的实验验证。

选择图标界面示意图及使用可穿戴技术进行数据采集的实验室实验。

访问受限。请登录或开始试用以查看此内容。

讨论

系统的正常运行涉及两个关键方面:稳态视觉诱发电位(SSVEP)的诱发与信号采集。除了本研究中选用的特定设备外,SSVEP也可通过其他能够提供闪烁光源的设备来诱发,但为确保可穿戴性和便携性,优先推荐使用智能眼镜。类似地,也可考虑其他商用脑电图设备,但这些设备必须具备可穿戴性、便携性,并尽可能采用少量干电极以提升用户友好性。此外,系统还可根据易于编程的设备进行定制。另外,信号处理策略决定了系统的最终性能;尽管在所述系统设计中处理策略似乎并非关键因素,但其优化无疑将有助于提升系统在通信与控制应用中的速度与准确性10,11,19

可以指出该系统存在的一些不足之处。实际上,对于稳态视觉诱发电位(SSVEP)的诱发,闪烁刺激需要具备较大的尺寸和稳定的闪烁频率。前者意味着安卓应用程序中的按钮可能较为庞大,从而对扩展现实场景的应用造成限制;后者则要求智能眼镜具备通常在商用设备中不具备的计量学特性。此外,即使满足...

访问受限。请登录或开始试用以查看此内容。

披露

作者无任何利益冲突需要披露。

致谢

本工作是ICT for Health项目的一部分,该项目由意大利教育、大学与研究部(MIUR)在“卓越部门”计划(意大利预算法第232/2016号)下提供资金支持,并通过授予意大利那不勒斯费德里科二世大学信息与电气工程系的卓越资助得以实施。该项目的实现还得益于Res4Net倡议以及IEEE仪器与测量学会TC-06(测量中的新兴技术)的支持。作者还要感谢L. Callegaro、A. Cioffi、S. Criscuolo、A. Cultrera、G. De Blasi、E. De Benedetto、L. Duraccio、E. Leone和M. Ortolano在系统开发、测试与验证过程中所做出的宝贵贡献。

访问受限。请登录或开始试用以查看此内容。

材料

本文使用的材料清单
姓名公司目录编号评论
带有 Ag/AgCl 涂层的导电橡胶 ab medica s.p.a.N/A替代电极 – 类型 2
耳夹电极OpenBCIN/A耳夹
EEG-AEOlimexN/A有源电极
EEG-PEOlimexN/A无源电极
EEG-SMTOlimexN/A低成本脑电图仪
Moverio BT-200EpsonN/A智能眼镜
按扣式电极OpenBCIN/A替代电极 – 类型 1

参考文献

  1. Wolpaw, J. R., et al. Brain-computer interface technology: A review of the first international meeting. IEEE Transactions on Rehabilitation Engineering. 8 (2), 164-173 (2000).
  2. Zander, T. O., Kothe, C., Jatzev, S., Gaertner, M. Enhancing human-computer interaction with input from active and passive brain-computer interfaces. Brain-Computer Interfaces. Tan, D. S., Nijholt, A. , Springer. London, UK. 181-199 (2010).
  3. Ron-Angevin, R., et al. Brain-computer interface application: Auditory serial interface to control a two-class motor-imagery-based wheelchair. Journal of Neuroengineering and Rehabilitation. 14 (1), 49(2017).
  4. Ahn, M., Lee, M., Choi, J., Jun, S. C. A review of brain-computer interface games and an opinion survey from researchers, developers and users. Sensors. 14 (8), 14601-14633 (2014).
  5. Bi, L., Fan, X. A., Liu, Y. EEG-based brain-controlled mobile robots: A survey. IEEE Transactions on Human-Machine Systems. 43 (2), 161-176 (2013).
  6. Arpaia, P., Callegaro, L., Cultrera, A., Esposito, A., Ortolano, M. Metrological characterization of a low-cost electroencephalograph for wearable neural interfaces in industry 4.0 applications. IEEE International Workshop on Metrology for Industry 4.0 & IoT (MetroInd4. 0&IoT). , 1-5 (2021).
  7. Rüßmann, M., et al. Industry 4.0: The future of productivity and growth in manufacturing industries. Boston Consulting Group. 9 (1), 54-89 (2015).
  8. Angrisani, L., Arpaia, P., Moccaldi, N., Esposito, A. Wearable augmented reality and brain computer interface to improve human-robot interactions in smart industry: A feasibility study for SSVEP signals. IEEE 4th International Forum on Research and Technology for Society and Industry (RTSI). , 1-5 (2018).
  9. Brunner, C., et al. BNCI Horizon 2020: Towards a roadmap for the BCI community. Brain-Computer Interfaces. 2 (1), 1-10 (2015).
  10. Yin, E., Zhou, Z., Jiang, J., Yu, Y., Hu, D. A dynamically optimized SSVEP brain-computer interface (BCI) speller. IEEE Transactions on Biomedical Engineering. 62 (6), 1447-1456 (2014).
  11. Chen, L., et al. Adaptive asynchronous control system of robotic arm based on augmented reality-assisted brain-computer interface. Journal of Neural Engineering. 18 (6), 066005(2021).
  12. Ball, T., Kern, M., Mutschler, I., Aertsen, A., Schulze-Bonhage, A. Signal quality of simultaneously recorded invasive and non-invasive EEG. Neuroimage. 46 (3), 708-716 (2009).
  13. Grosse-Wentrup, M. What are the causes of performance variation in brain-computer interfacing. International Journal of Bioelectromagnetism. 13 (3), 115-116 (2011).
  14. Arpaia, P., Esposito, A., Natalizio, A., Parvis, M. How to successfully classify EEG in motor imagery BCI: A metrological analysis of the state of the art. Journal of Neural Engineering. 19 (3), (2022).
  15. Ajami, S., Mahnam, A., Abootalebi, V. Development of a practical high frequency brain-computer interface based on steady-state visual evoked potentials using a single channel of EEG. Biocybernetics and Biomedical Engineering. 38 (1), 106-114 (2018).
  16. Friedman, D. Brain-computer interfacing and virtual reality. Handbook of Digital Games and Entertainment Technologies. Nakatsu, R., Rauterberg, M., Ciancarini, P. , 151-171 (2015).
  17. Wang, M., Li, R., Zhang, R., Li, G., Zhang, D. A wearable SSVEP-based BCI system for quadcopter control using head-mounted device. IEEE Access. 6, 26789-26798 (2018).
  18. Arpaia, P., Callegaro, L., Cultrera, A., Esposito, A., Ortolano, M. Metrological characterization of consumer-grade equipment for wearable brain-computer interfaces and extended reality. IEEE Transactions on Instrumentation and Measurement. 71, 1-9 (2021).
  19. Wolpaw, J. R., Birbaumer, N., McFarland, D. J., Pfurtscheller, G., Vaughan, T. M. Brain-computer interfaces for communication and control. Clinical Neurophysiology. 113 (6), 767-791 (2002).
  20. Duszyk, A., et al. Towards an optimization of stimulus parameters for brain-computer interfaces based on steady state visual evoked potentials. PLoS One. 9 (11), 112099(2014).
  21. Prasad, P. S., et al. SSVEP signal detection for BCI application. IEEE 7th International Advance Computing Conference (IACC). , 590-595 (2017).
  22. Xing, X., et al. A high-speed SSVEP-based BCI using dry EEG electrodes). Scientific Reports. 8, 14708(2018).
  23. Luo, A., Sullivan, T. J. A user-friendly SSVEP-based brain-computer interface using a time-domain classifier. Journal of Neural Engineering. 7 (2), 026010(2010).

访问受限。请登录或开始试用以查看此内容。

重印与许可

标签

单通道脑电图稳态视觉诱发电位SSVEP 脑-机接口智能眼镜脑电信号处理支持向量机功率谱密度工业检测神经康复