Cet article présente la conception et la mise en œuvre d’un module de chirurgie automatique basé sur la reconstruction 3D basée sur la réalité augmentée (RA). Le système permet la chirurgie à distance en permettant aux chirurgiens d’inspecter les caractéristiques reconstruites et de reproduire les mouvements chirurgicaux de la main comme s’ils effectuaient la chirurgie à proximité.
Un abonnement JoVE est requis pour visualiser ce contenu. Connectez-vous ou commencez votre période d'essai gratuite.
Article de méthode
Chirurgie automatique dans le remplacement transcathéter de la valve aortique à l’aide de la réalité augmentée
Dans cet article
Résumé
Résumé
La réalité augmentée (RA) est très demandée dans les applications médicales. L’objectif de l’article est de fournir une chirurgie automatique utilisant l’AR pour le remplacement transcathéter de la valve aortique (TAVI). Le TAVI est la procédure médicale alternative pour la chirurgie à cœur ouvert. Le TAVI remplace la valve blessée par la nouvelle à l’aide d’un cathéter. Dans le modèle existant, le guidage à distance est donné, tandis que la chirurgie n’est pas automatisée sur la base de la RA. Dans cet article, nous avons déployé une caméra alignée spatialement qui est reliée à un moteur pour l’automatisation de la capture d’images dans l’environnement chirurgical. La caméra suit l’image 2D haute résolution du cœur du patient ainsi que le banc d’essai du cathéter. Ces images capturées sont téléchargées à l’aide de l’application mobile vers un chirurgien à distance qui est un expert en cardiologie. Cette image est utilisée pour la reconstruction 3D à partir du suivi d’images 2D. Ceci est affiché dans un HoloLens comme un émulateur dans un ordinateur portable. Le chirurgien peut inspecter à distance les images reconstruites en 3D avec des fonctions de transformation supplémentaires telles que la rotation et la mise à l’échelle. Ces fonctionnalités de transformation sont activées par des gestes de la main. Les conseils du chirurgien sont transmis à l’environnement chirurgical pour automatiser le processus en temps réel. Le banc d’essai du cathéter dans le domaine chirurgical est contrôlé par le guidage gestuel de la main du chirurgien à distance. Le modèle prototype développé démontre l’efficacité du guidage chirurgical à distance par AR.
Introduction
La RA peut superposer le modèle 3D dans un environnement réel. Le développement technologique vers la RA a opéré un changement de paradigme dans de nombreux domaines, à savoir l’éducation1, la médecine2, la fabrication3 et le divertissement4. La technologie AR, associée à une communication ultra-fiable à faible latence, prouve son rôle incontournable dans le domaine médical. De l’étape d’apprentissage de l’anatomie humaine au guidage chirurgical, les étapes de l’apprentissage peuvent être visualisées à l’aidede logiciels et de matériel alimentés par la RA. La RA fournit une solution cruciale et fiable au médecin dans un environnement chirurgical 7,8.
La sténose de la valve aortique est la maladie des valves cardiaques, qui est la plus fréquente chez l’humanité9. La cause profonde de la maladie est de mauvaises habitudes alimentaires et des routines irrégulières de la vie quotidienne. Le symptôme et le résultat de la maladie est le rétrécissement de la valve cardiaque, suivi d’une réduction du flux sanguin. Ce problème doit être résolu avant que tout dommage ne soit causé au cœur humain. Ainsi, le cœur est surchargé pour traiter le flux sanguin. Ainsi, avant que tout dommage ne se produise, une intervention chirurgicale doit être effectuée, ce qui, en raison des développements technologiques de ces derniers jours, peut également être effectué à l’aide de la procédure TAVI. La procédure peut être adoptée en fonction de l’état du cœur et d’autres parties du corps des patients. Dans ce TAVI10,11, le cathéter est inséré pour remplacer la valve endommagée dans le cœur. Cependant, placer le cathéter en position12 pour remplacer la valve est fastidieux pour le praticien. Cette idée nous a motivés à concevoir un modèle de chirurgie automatisé basé sur l’AR13,14, qui aide le chirurgien à positionner précisément la valve pendant le processus de remplacement. De plus, l’opération peut être réalisée par un algorithme de cartographie du mouvement, qui cartographie le mouvement du chirurgien capturé à distance jusqu’au bras robotique.
Dans le travail existant 15,16,17, la visualisation de la procédure TAVI 18 est surveillée par fluoroscopie. Par conséquent, il est difficile d’analyser la valve cardiaque et fastidieux de trouver l’emplacement de remplacement. Cela crée un obstacle au positionnement du cathéter dans le cœur humain. De plus, le mouvement à distance est mappé au champ opératoire pour automatiser le processus. Cependant, pour combler le manque de recherche, nous proposons une chirurgie robotisée automatisée pour le remplacement des valves à l’aide de la technologie assistée par AR.
Le protocole est un modèle générique qui peut être appliqué à tous les environnements chirurgicaux. Au début du travail, des images 2D sont capturées tout autour de l’environnement chirurgical avec la résolution spatiale la plus complète et le plus grand degré de liberté. Cela signifie qu’un nombre suffisant d’images sont capturées pour la reconstruction 3D19 objectif, suivie d’une cartographie de mouvement par le suivi des gestes de la main20.
Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.
Protocole
1. Environnement chirurgical
- Concevez un environnement chirurgical comme illustré à la figure 1. Assurez-vous que l’environnement dispose d’un plateau de transport d’objets, d’un bras robotique et de deux bras suspendus sur le côté, l’un pour tenir un espace réservé à la caméra et l’autre pour avoir un fond blanc cohérent avec le module de pesée pour l’équilibre.
- Développer deux pilotes, l’un pour l’instantané de l’environnement chirurgical en direct, comme mentionné aux étapes 2.1 à 2.10, et l’autre pour contrôler le mécanisme rotatif qui prend en charge la surveillance à 360°, comme mentionné aux étapes 3.1 à 3.4.
- Avant d’implémenter les deux modules ci-dessus, activez Bluetooth de l’appareil mobile et de l’ordinateur portable, qui servent d’émulateur HoloLens du chirurgien.
- Associez les appareils pour une transmission d’image ininterrompue.
2. Configuration du conducteur pour contrôler les deux bras de suspension
- Assurez-vous que les bras suspendus sont contrôlés par un moteur pas à pas avec la disposition indiquée sur la figure 2 pour une révolution sans faille de 360°.
- Connectez le moteur à la carte du microcontrôleur à l’aide du pilote TB 6600. Pour faire fonctionner le moteur, installez l’IDE du microcontrôleur à partir du navigateur.
- Cliquez sur le bouton Télécharger pour télécharger le logiciel. Ensuite, dans l’IDE du microcontrôleur, allez dans Fichier > Ouvrir un nouveau croquis pour écrire le code.
- Assurez-vous de connecter la carte du microcontrôleur pour s’interfacer avec le nouveau croquis via un port de connexion dédié, par exemple COM 4. Vérifiez le port Com et assurez-vous qu’il affiche la carte du microcontrôleur.
- Vérifiez les paramètres du commutateur matériel du pilote de moteur pas à pas TB 6600. Assurez-vous que les réglages sont tels que le flux de courant soit de 2 A, ce qui peut être atteint en réglant SW4 ON et SW5 et SW6 OFF.
- Assurez-vous que les positions des commutateurs SW1, SW2 et SW3 sont réglées de manière à ce que le micro-pas soit de 1/8 pas pour atteindre les pas de révolution conformément aux exigences. Assurez-vous que les paramètres sont SW1 OFF, SW2 ON et SW3 OFF dans le TB6600.
- Connectez le RTC 3231 au microcontrôleur pour avoir une véritable synchronisation temporelle globale. Assurez-vous que la taille du pas de tour est de 12° et que l’incrément du pas du moteur n’est déclenché que lorsque l’unité temps réel, c’est-à-dire les secondes lues à partir du module RTC, est en nombre impair.
- Connectez la broche 5 V de la carte du microcontrôleur au VCC RTC et le GND du microcontrôleur au GND du RTC.
- Connectez la broche SCL du RTC à la broche A0 et le SDA à la broche A1 du microcontrôleur. Ce module peut assurer une taille de pas de 12°, soit 30 pas en un tour. Assurez-vous que l’incrément d’étape se produit toutes les secondes impaires. Laissez ce module logiciel piloter le moteur pas à pas21.
- Vérifiez que le programme d’installation fonctionne correctement en exécutant le code, qui est disponible sur la page GitHub : https://github.com/Johnchristopherclement/Automatic_Surgery_model_using_AR.
- Téléchargez Android Studio pour développer l’application appareil photo automatique. Assurez-vous que la configuration système requise est respectée, puis téléchargez le logiciel à partir du site Web.
3. Développement d’un pilote pour la surveillance de scène et la transmission d’images sur mobile en tant que module client
- Développez une application d’appareil photo dans le système d’exploitation Android qui peut prendre des instantanés toutes les 2 s, en particulier lorsque les secondes sont des nombres impairs.
- Connectez le téléphone portable au système. Dans Android Studio, cliquez sur Nouveau > Nouveau projet , puis choisissez Activité des vues vides. Cliquez sur Suivant pour développer un code Android, qui est disponible à l’adresse https://github.com/Johnchristopherclement/Automatic_Surgery_model_using_AR.
- Assurez-vous que l’application capture automatiquement les images et les envoie de manière cohérente à un appareil distant.
- Envoyez des instantanés de l’application mobile immédiatement après avoir pris l’instantané à l’appareil couplé, c’est-à-dire au système du chirurgien à distance, via Bluetooth.
REMARQUE : Assurez-vous que les modules mentionnés dans les sections 2 et 3 fonctionnent en synchronisation temporelle, l’un pour chaque nombre pair de secondes et l’autre pour chaque nombre impair de secondes.
4. Développement d’un module client pour la réception et le traitement des images de surveillance
- Ouvrez le module serveur, qui est une interface utilisateur graphique.
- Entrez le numéro de port VVID dans le champ de texte VVID, dont la valeur par défaut est 94f39d29 7d6d 437d 973b fba39e49d4ee.
- Cliquez sur Créer une châsse pour créer et lier la châsse. Cliquez sur Connecter pour établir une connexion avec l’application mobile.
- Cliquez sur Capturer pour capturer et enregistrer les images de surveillance de la scène dans le dossier local
- Entrez le nom du dossier local dans le champ Nom du dossier s’il doit être différent de celui par défaut mentionné.
5. Fonctionnement du bras robotique
- Le module client comprend également un bras robotique. Concevez le bras de manière à ce qu’il ait un mouvement de rotation dans sa base, son épaule, son coude, son poignet et ses doigts.
- Assurez-vous que les servos MG 996R sont utilisés pour réguler le mouvement de rotation à la base, à l’épaule et au coude. Assurez-vous que le servomoteur SG 90 est utilisé pour contrôler le mouvement de rotation au niveau du coude et des doigts.
- Compilez le code donné en https://github.com/Johnchristopherclement/Automatic_Surgery_model_using_AR dans l’IDE du microcontrôleur pour piloter le bras robotique en fonction des commandes reçues du chirurgien à distance.
6. 3D reconstruction pour la réalité augmentée
- Lisez deux images à la fois dans une séquence, une par une, à partir du dossier local pour obtenir le chevauchement possible (comme les images sont collectées à proximité, il y aura un chevauchement entre les images consécutives) entre elles.
- Concevez un filtre tertiaire conformément aux exigences de la description directionnelle intensifiée des caractéristiques à l’aide de l’algorithme Tertiary Filtering22 (DITF) pour obtenir le gradient et l’orientation.
- Extrayez les caractéristiques à l’aide de la méthode DITF22, comme illustré à la figure 3.
- Reconstruisez des images 3D à partir des caractéristiques collectées à l’aide de SFM23.
7. Reconnaissance des gestes de la main à l’emplacement du chirurgien
- Facilitez l’inspection par le chirurgien des caractéristiques de l’image reconstruite en 3D en lui permettant de visualiser l’environnement sous tous les angles en fournissant une rotation basée sur les gestes de la main et un zoom avant/arrière des caractéristiques reconstruites.
- Normalisez et cartographiez la distance entre l’extrémité du pouce du chirurgien et l’index de la main droite dans un angle de rotation correspondant. Soit la normalisation de telle sorte que la distance minimale minimale corresponde à 0° et la distance maximale à 180°.
- Transmettez le contrôle gestuel de la main, via Bluetooth, à l’environnement de chirurgie à distance ainsi que pour la rotation du plateau d’objets, ce qui le fait tourner sur son axe comme les éléments reconstruits en 3D tournent à l’extrémité du chirurgien.
- Trouvez la distance entre la pointe et le pouce de la main gauche du chirurgien pour contrôler le mouvement des doigts du bras du robot.
- Mesurer l’angle d’élévation à partir de la distance spatiale entre l’extrémité du pouce et l’index de la main gauche du chirurgien par rapport à un plan de sol x-y imaginaire pour déterminer l’angle d’élévation. Cartographiez cet angle en un angle d’élévation que le bras du robot peut faire avec le plan x-y.
- Trouvez l’angle d’azimut que la main du chirurgien fait avec celle du plan virtuel y-z. Identifiez ces angles grâce à la reconnaissance basée sur les gestes de la main.
- Cartographiez la distance, l’élévation et les angles d’azimut pour contrôler le mouvement des doigts et la rotation du bras du robot, qui correspondent tous deux aux angles d’élévation et d’azimut.
- Laissez le chirurgien inspecter les caractéristiques reconstruites en zoomant et en tournant. Laissez le chirurgien transmettre des commandes au bras robotique pour effectuer une intervention chirurgicale à distance.
- Assurez-vous que les commandes de chirurgie sont transmises sous la forme d’une chaîne de contrôle de séquence commençant par une corde de concurrence suivie des valeurs de contrôle de la rotation du plateau et du contrôleur du bras robotique. Soit [θb, θs, θe, θw, θf] l’angle du vecteur constitué de valeurs, chacune correspondant au signal de commande correspondant à la base, à l’épaule, au coude, au poignet et au doigt du bras du robot.
REMARQUE : Le lien GitHub fournit le code permettant d’activer le contrôle gestuel de la main dans le domaine chirurgical. https://github.com/Johnchristopherclement/Automatic_Surgery_model_using_AR.
Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.
Résultats
Le protocole a été testé avec le modèle du fantôme cardiaque. La figure 2 montre la configuration attendue pour la surveillance en direct du champ opératoire à l’aide de caméras distribuées dans l’espace. Les caméras distribuées, comme le montre la figure 2, aident à augmenter la résolution spatiale du champ pour une reconstruction 3D efficace. Cependant, la réalisation de l’emplacement physique de ces caméras dans divers endroits spatiaux implique de la complex...
Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.
Discussion
Dans un travail existant15, des radiographies et des tomodensitogrammes sont examinés pour localiser le cathéter dans le cœur. Cependant, le remplacement de l’AR TAVI ouvre de nouvelles possibilités dans la procédure chirurgicale TAVR18 par la mise en œuvre d’un modèle automatisé utilisant la reconstruction 3D. Comme mentionné dans la section protocole, la conception de ce travail comporte cinq étapes. La première étape de DITF22, mentionnée à la sec...
Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.
Déclarations de divulgation
Les auteurs ne déclarent aucun conflit d’intérêts.
Remerciements
Les auteurs ne reconnaissent aucun financement pour cette recherche.
Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.
Matériaux
| Nom | Entreprise | Numéro de catalogue | Commentaires |
|---|---|---|---|
| Le logiciel Android IDE | https://developer.android.com/studio | logiciel peut être téléchargé à partir de ce lien | |
| Carte Arduino | Ardunio Uno | Ardunio Uno | Microcontrôleur pour le traitement du |
| logiciel arduino | https://www.arduino.cc/en/software. | Le logiciel peut être téléchargé à partir de ce lien | |
| Modèle de fantôme de cœur humain | Fabricant et exportateur d’équipement de laboratoire de biologie | B071YBLX2V (8B-ZB2Q-H3MS-1) | modèle léger avec 3 parties à l’analyse profonde du cœur. |
| support mobile | Humble support de monopoad universel | B07S9KNGVS | Pour transporter le mobile dans le domaine chirurgical |
| le logiciel pycharm IDE | https://www.jetbrains.com/pycharm/ | le logiciel peut être téléchargé à partir de ce lien | |
| Bras | Printed-bots | B08R2JLKYM(P0-E2UT-JSOU) | bras peut être contrôlé par contrôle signal.it dispose d’une liberté d’accès de 5 degrés. |
| servomoteur | Kollmorgen Co-Engineers Motors | MG-966R | servomoteur à couple élevé, impulsions servo allant de 500 à 2500 microsecondes (µ ; s), avec une fréquence de 50 Hz à 333 Hz. |
| servomoteur | Kollmorgen Co-Engineers ; Les moteurs | SG-90R | d’une charge de 1,8 kg-cm à 2,5 kg-cm peuvent être appliqués au servo SG-90R. |
| Moteur pas à pas | 28BYJ-48 | 28BYJ-48 | Moteur Steper, 5V DC, fréquence 100 Hz, couple 1200 Gf.cm |
| Moteur pas à pas | Nema 23 | Moteur Nema | Steper, 9V - 42 V DC, fréquence 100 Hz |
Références
- Wang, L. J., Casto, B., Reyes-Molyneux, N., Chance, W. W., Wang, S. J. Smartphone-based augmented reality patient education in radiation oncology. Tech Innov Patient Supp Radiation Oncol. 29, 100229(2024).
- Guerroudji, M. A., Amara, K., Lichouri, M., Zenati, N., Masmoudi, M. A 3D visualization-based augmented reality application for brain tumor segmentation. Comput Anim Virtual Worlds. 35 (1), e2223(2024).
- Xia, L., et al. Augmented reality and indoor positioning based mobile production monitoring system to support workers with human-in-the-loop. Robotic Comput Integ Manufac. 86, 102664(2024).
- Preece, C., Skandalis, A. Time to imagine an escape: investigating the consumer timework at play in augmented reality. Eur J Market. 58, 92-118 (2024).
- Suresh, D., Aydin, A., James, S., Ahmed, K., Dasgupta, P. The role of augmented reality in surgical training: a systematic review. Surg Innov. 30, 366-382 (2023).
- Moreta-Martinez, R., et al. Combining augmented reality and 3D printing to display patient models on a smartphone. J Vis Exp. (155), 60618(2020).
- Ma, L., Huang, T., Wang, J., Liao, H. Visualization, registration and tracking techniques for augmented reality guided surgery: a review. Phys Med Biol. 68, 04TR02(2023).
- Hofman, J., et al. First-in-human real-time ai-assisted instrument deocclusion during augmented reality robotic surgery. Healthc Technol Lett. 11 (2-3), 33-39 (2023).
- Thiene, G., Rizzo, S., Basso, C. Bicuspid aortic valve: The most frequent and not so benign congenital heart disease. Cardiovasc Pathol. 70, 107604(2024).
- Mack, M. J., et al. Transcatheter aortic-valve replacement in low-risk patients at five years. New Engl J Med. 389, 1949-1960 (2023).
- Vitanova, K., et al. Aortic valve versus root surgery after failed transcatheter aortic valve replacement. J Thorac Cardiovas Surg. 166, 1418-1430 (2023).
- Bydlon, T. M., Torjesen, A., Fokkenrood, S., Di Tullio, A., Flexman, M. L. 3d visualisation of navigation catheters for endovascular procedures using a 3d hub and fiber optic realshape technology: phantom study results. EJVES Vascular Forum. 59, 24-30 (2023).
- Faris, H., Harfouche, C., Bandle, J., Wisbach, G. Surgical tele-mentoring using a robotic platform: initial experience in a military institution. Surg Endosc. 37, 9159-9166 (2023).
- Fitzgerald, L., et al. Mentoring approaches in a safe surgery program in tanzania: Lessons learned during covid-19 and recommendations for the future. Surg Open Sci. 14, 109-113 (2023).
- de Turenne, A., Eugène, F., Blanc, R., Szewczyk, J., Haigron, P. Catheter navigation support for mechanical thrombectomy guidance: 3d/2d multimodal catheter-based registration with no contrast dye fluoroscopy. Int J Comput Assist Radiol Surg. 19 (3), 459-468 (2023).
- Tang, H., et al. A multiple catheter tips tracking method in x-ray fluoroscopy images by a new lightweight segmentation network and bayesian filtering. Int J Med Robotics Comput Assist Surg. 19, e2569(2023).
- Annabestani, M., Caprio, A., Wong, S. C., Mosadegh, B. A machine learning-based roll angle prediction for intracardiac echocardiography catheter during bi-plane fluoroscopy. Appl Sci. 13, 3483(2023).
- Thourani, V. H., et al. Survival after surgical aortic valve replacement in low-risk patients: a contemporary trial benchmark. Ann Thorac Surg. 117, 106-112 (2024).
- Domínguez-Velasco, C. F., et al. Augmented reality simulation as training model of ventricular puncture: Evidence in the improvement of the quality of punctures. Int J Med Robotics Comput Assist Surg. 19, e2529(2023).
- Wang, Q., Xie, Z. Arias: An ar-based interactive advertising system. Plos One. 18, e0285838(2023).
- Ji, F., Chong, F., Wang, F., Bai, D. Augmented reality platform for the unmanned mining process in underground mines. Mining,Metal Explor. 39 (2), 385-395 (2022).
- Indhumathi, S., Clement, J. C. Directional intensified feature description using tertiary filtering for augmented reality tracking. Sci Rep. 13, 20311(2023).
- Gao, L., Zhao, Y., Han, J., Liu, H. Research on multi-view 3D reconstruction technology based on SFM. Sensors. 22 (12), 4366(2022).
- Suárez, I., Sfeir, G., Buenaposada, J. M., Baumela, L. BEBLID: Boosted efficient binary local image descriptor. Pattern Recog Lett. 133, 366-372 (2020).
- Borman, R. I., Harjoko, A. Improved ORB algorithm through feature point optimization and Gaussian pyramid. Int J Adv Comp Sci Appl. 15 (2), 268-275 (2024).
Accès restreint. Veuillez vous connecter ou commencer un essai pour afficher ce contenu.
Réimpressions et autorisations
