Name: Test robotizzati delle posizioni della telecamera per determinare la configurazione ideale per la visualizzazione 3D stereo della chirurgia a cuore aperto (Video) | JoVE Journal
Uploaded: 2021-08-12T14:45:00.000+00:00
Duration: 5 min 12 s
Description: Scopri un metodo robotizzato per testare le configurazioni delle telecamere 3D stereo durante la chirurgia a cuore aperto. Questa tecnica migliora la percezione della profondità e l'addestramento chirurgico.

ai_agent_IP

ai_agent

maintenance

instantTrialDurationMinutes

isBiopharma

enableNewMyJoveSectionDesign

educationFeatures

seoMetaApi

ai_copilot_institution_blacklist

ai_chat_institution_blacklist

freeAccessWindow

ssoRoleCapture

scheduledMaintenanceBanner

joveLabsFeatures

disable_autoplay_for_bots

extended_trial_duration

5 minutes

La ricerca è stata condotta con finanziamenti da Vinnova (2017-03728, 2018-05302 e 2018-03651), Heart-Lung Foundation (20180390), Family Kamprad Foundation (20190194) e Anna-Lisa e Sven Eric Lundgren Foundation (2017 e 2018).

Gli esperimenti sono stati approvati dal Comitato Etico locale di Lund, in Svezia. La partecipazione è stata volontaria e i tutori legali dei pazienti hanno fornito un consenso scritto informato.
1. Configurazione e configurazione del robot
NOTA: questo esperimento ha utilizzato un robot industriale collaborativo a doppio braccio e il pannello di controllo standard con display touch. Il robot è controllato con il software di controllo RobotWare 6.10.01 e l'ambiente di sviluppo integrato robot (IDE) RobotStudio 2019.525. Il software sviluppato dagli autori, tra cui l'applicazione robot, l'applicazione di registrazione e gli script di post-elaborazione, sono disponibili nel repository GitHub26.
ATTENZIONE: utilizzare occhiali protettivi e velocità ridotta durante l'installazione e il collaudo del programma robot.
<ol><li>Montare il robot a soffitto o su un tavolo utilizzando bulloni dimensionati per 100 kg come descritto a pagina 25 delle specifiche del prodotto24, seguendo le specifiche del produttore. Assicurarsi che le braccia possano muoversi liberamente e che la linea di vista verso il campo visivo non sia oscurata. ATTENZIONE: utilizzare corde di sollevamento o di sicurezza quando si monta il robot in posizione elevata.</li>
	<li>Avviare il robot ruotando l'interruttore di avvio situato alla base del robot. Calibrare il robot seguendo la procedura descritta nel manuale d'uso alle pagine 47-5625.</li>
	<li>Avviare l'IDE del robot su un computer Windows.</li>
	<li>Collegarsi al sistema robotizzato fisico (manuale operativo pagina 14027).</li>
	<li>Caricare il codice per il programma robot e le librerie di applicazioni per l'interfaccia utente sul robot:<ol>
<li>Il codice robot per un robot montato a soffitto si trova nella cartella Robot/InvertedCode e per un robot montato su tavolo in Robot/TableMountedCode. Per ciascuno dei file left/Data.mod, left/MainModule.mod, right/Data.mod e right/MainModule.mod:</li>
		<li>Creare un nuovo modulo di programma (vedere manuale operativo pagina 31827) con lo stesso nome del file (Data o MainModule) e copiare il contenuto del file nel nuovo modulo.</li>
		<li>Premere su Applica nell'IDE del robot per salvare i file sul robot.</li>
	</ol>
</li>
	<li>Utilizzare Trasferimento file (pagina del manuale operativo 34627) per trasferire i file dell'applicazione robot TpSViewStereo2.dll, TpsViewStereo2.gtpu.dll e TpsViewStereo2.pdb che si trovano nella cartella FPApp al robot. Dopo questo passaggio, l'IDE del robot non verrà ulteriormente utilizzato.</li>
	<li>Premere il pulsante Reset sul retro del display touch del robot (FlexPendant) per ricaricare l'interfaccia grafica. L'applicazione robot Stereo2 sarà ora visibile sotto il menu del display touch.</li>
	<li>Installare l'applicazione di registrazione (Liveview) e l'applicazione di post-elaborazione su un computer Ubuntu 20.04 eseguendo lo script install_all_linux.sh, che si trova nella cartella principale nel repository Github.</li>
	<li>Montare ogni telecamera sul robot. I componenti necessari per il montaggio sono visualizzati nella Figura 3A.<ol>
<li>Montare l'obiettivo sulla fotocamera.</li>
		<li>Montare la fotocamera sulla piastra dell'adattatore della fotocamera con tre viti M2.</li>
		<li>Montare la piastra di montaggio circolare sulla piastra dell'adattatore della telecamera con quattro viti M6 sul lato opposto della telecamera.</li>
	</ol>
</li>
	<li>Ripetere i passaggi 1.9.1-1.9.3 per l'altra fotocamera. Gli assiemi risultanti vengono specchiati, come illustrato nella Figura 3B e nella Figura 3C.</li>
	<li>Montare la piastra dell'adattatore al polso del robot con quattro viti M2.5, come mostrato nella Figura 3D.<ol>
<li>Per un robot montato a soffitto: collegare la telecamera sinistra nella Figura 3C al braccio sinistro del robot, come mostrato nella Figura 2A.</li>
		<li>Per un robot montato su tavolo: collegare la telecamera sinistra nella Figura 3C al braccio destro del robot.</li>
	</ol>
</li>
	<li>Collegare i cavi USB alle fotocamere, come mostrato nella Figura 3E, e al computer Ubuntu.</li>
</ol>2. Verificare la calibrazione della fotocamera
<ol><li>Sul display touch del robot, premere il pulsante Menu e selezionare Stereo2 per avviare l'applicazione robot. Si aprirà la schermata principale, come mostrato nella Figura 6A.<ol>
<li>Nella schermata principale, premere Vai per avviare per 1100 mm nell'applicazione robot e attendere che il robot si sposti nella posizione iniziale.</li>
		<li>Rimuovere i cappucci protettivi delle lenti dalle fotocamere e collegare i cavi USB al computer Ubuntu.</li>
		<li>Posizionare una griglia di calibrazione stampata (CalibrationGrid.png nel repository) a 1100 mm dai sensori della telecamera. Per facilitare la corretta identificazione dei quadrati corrispondenti, posizionare un piccolo dado a vite o un segno da qualche parte al centro della griglia.</li>
	</ol>
</li>
	<li>Avviare l'applicazione di registrazione sul computer Ubuntu (eseguire lo script start.sh che si trova nella cartella liveview all'interno del repository Github). Verrà avviata l'interfaccia, come illustrato nella Figura 4.<ol>
<li>Regola l'apertura e metti a fuoco l'obiettivo con le ghiere di apertura e messa a fuoco.</li>
		<li>Nell'applicazione di registrazione, selezionare Mirino per visualizzare il mirino.</li>
	</ol>
</li>
	<li>Nell'applicazione di registrazione, assicurarsi che il mirino sia allineato con la griglia di calibrazione nella stessa posizione in entrambe le immagini della telecamera, come mostrato nella Figura 4. Molto probabilmente, saranno necessari alcuni aggiustamenti come segue:<ol>
<li>Se le croci non si sovrappongono, premere l'icona a forma di ingranaggio (in basso a sinistra Figura 6A) nell'applicazione robot sul display touch del robot per aprire la schermata di impostazione, come mostrato nella Figura 6B.</li>
		<li>Premere su 1. Passare a Start Pos, come illustrato nella Figura 6B.</li>
		<li>Spingere il robot con il joystick per regolare la posizione della fotocamera (manuale operativo pagina 3123).</li>
		<li>Aggiornare la posizione dell'utensile per ciascun braccio robotico. Premere 3. Aggiorna lo strumento a sinistra e 4. Aggiorna strumento destro per salvare la calibrazione rispettivamente per il braccio sinistro e destro.</li>
		<li>Premere l'icona Freccia indietro (in alto a destra, Figura 6B) per tornare alla schermata principale.</li>
	</ol>
</li>
	<li>Premere su Esegui esperimento (Figura 6A) nell'applicazione robot e verificare che il mirino sia allineato. In caso contrario, ripetere i passaggi 2.3-2.3.5.</li>
	<li>Aggiungi e testa eventuali modifiche alle distanze e/o all'ora a questo punto. Ciò richiede modifiche nel codice del programma robot e competenze avanzate di programmazione del robot. Modificare le seguenti variabili nel modulo Dati nell'attività sinistra (braccio): le distanze di separazione desiderate nella variabile di matrice intera Distanze, le distanze di convergenza nell'array intero ConvergencePos e modificare l'ora ad ogni passaggio modificando la variabile Nwaittime (valore in secondi). ATTENZIONE: non eseguire mai un programma robot non testato durante un intervento chirurgico dal vivo.</li>
	<li>Al termine della calibrazione, premere su Alza per sollevare i bracci del robot in posizione di standby.</li>
	<li>Facoltativamente, spegnere il robot. NOTA: la procedura può essere sospesa tra uno dei passaggi precedenti.</li>
</ol>3. Preparazione all'inizio dell'intervento chirurgico
<ol><li>Spolverare il robot.<ol>
<li>Se il robot è stato spento, avviarlo attivando l'interruttore Start situato alla base del robot.</li>
	</ol>
</li>
	<li>Avviare l'applicazione robot sul display touch e sull'applicazione di registrazione descritta nei passaggi 2.1 e 2.2.</li>
	<li>Nell'applicazione di registrazione, creare e quindi selezionare la cartella in cui salvare il video (premere Cambia cartella).</li>
	<li>Nell'applicazione robot: premere l'icona dell'ingranaggio, posizionare le telecamere in relazione al paziente. Modificare la direzione X e Z premendo +/- per Distanza della mano dal robot e Altezza, rispettivamente, in modo che l'immagine catturi il campo chirurgico. Eseguire il posizionamento nella direzione Y spostando manualmente il robot o il paziente. NOTA: i preparativi possono essere sospesi tra le fasi di preparazione 3.1-3.4.</li>
</ol>4. Esperimento
ATTENZIONE: Tutto il personale deve essere informato in anticipo sull'esperimento.
<ol><li>Mettere in pausa l'intervento chirurgico.<ol>
<li>Informare il personale di sala operatoria che l'esperimento è stato avviato.</li>
	</ol>
</li>
	<li>Premere Registra nell'applicazione di registrazione.</li>
	<li>Premere Esegui esperimento nell'applicazione robot.</li>
	<li>Attendere mentre il programma è in esecuzione; il robot visualizza "Fatto" nell'applicazione robot sul display touch al termine.</li>
	<li>Interrompere la registrazione nell'applicazione di registrazione premendo Esci.<ol>
<li>Informare il personale di sala operatoria che l'esperimento è terminato.</li>
	</ol>
</li>
	<li>Riprendere l'intervento chirurgico. NOTA: l'esperimento non può essere sospeso durante i passaggi 4.1-4.6.</li>
</ol>5. Ripeti
<ol><li>Ripetere i passaggi 4.1-4.6 per acquisire un'altra sequenza e i passaggi 3.1-3.4 e 4.1-4.6 per acquisire sequenze da diversi interventi chirurgici. Cattura circa dieci sequenze complete.</li>
</ol>6. Post-elaborazione
NOTA: i seguenti passaggi possono essere eseguiti utilizzando la maggior parte dei software di editing video o gli script forniti nella cartella di post-elaborazione.
<ol><li>In questo caso, debayer il video in quanto viene salvato nel formato RAW:<ol>
<li>Eseguire lo script postprocessing/debayer/run.sh per aprire l'applicazione debayer mostrata nella Figura 8A.</li>
		<li>Premere Sfoglia directory di input e selezionare la cartella con il video RAW.</li>
		<li>Premere Sfoglia directory di output e selezionare una cartella per i file video debayered e regolati a colori risultanti.</li>
		<li>Premi Debayer! e attendere il completamento del processo: entrambe le barre di avanzamento sono piene, come illustrato nella Figura 8B.</li>
	</ol>
</li>
	<li>Unisci i video sincronizzati a destra e a sinistra in formato stereo 3D28:<ol>
<li>Eseguire lo script postprocessing/merge_tb/run.sh per avviare l'applicazione di unione; apre l'interfaccia utente grafica mostrata nella Figura 8C.</li>
		<li>Premi Sfoglia directory di input e seleziona la cartella con i file video debayered.</li>
		<li>Premere Sfoglia directory di output e selezionare una cartella per il file stereo 3D unito risultante.</li>
		<li>Premi Unisci! e attendere fino a quando non viene visualizzata la schermata di fine nella Figura 8D .</li>
	</ol>
</li>
	<li>Utilizzate un software di editing video standard come Premiere Pro per aggiungere etichette di testo a ogni distanza della videocamera nel video. NOTA: nel video, c'è una scossa visibile ogni volta che il robot si muove e la distanza della telecamera aumenta. In questo esperimento, le etichette A-T sono state utilizzate per le distanze della fotocamera.</li>
</ol>7. Valutazione
<ol><li>Visualizza il video in formato 3D superiore-inferiore con un proiettore 3D attivo.</li>
	<li>L'esperienza visiva dipende dall'angolo di visione e dalla distanza dallo schermo; valutare il video utilizzando il pubblico e la configurazione previsti.</li>
</ol>

<ol><li>Held, R. T., Hui, T. T. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((A+guide+to+stereoscopic+3D+displays+in+medicine%5BTitle%5D)+AND+%22Academic+Radiology%22%5BJournal%5D)">A guide to stereoscopic 3D displays in medicine.</a> Academic Radiology. 18 (8), 1035-1048 (2011).</li>
<li>van Beurden, M. H. P. H., IJsselsteijn, W. A., Juola, J. F. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Effectiveness+of+stereoscopic+displays+in+medicine%3A+A+review%5BTitle%5D)+AND+%223D+Research%22%5BJournal%5D)">Effectiveness of stereoscopic displays in medicine: A review.</a> 3D Research. 3 (1), 1-13 (2012).</li>
<li>Luursema, J. M., Verwey, W. B., Kommers, P. A. M., Geelkerken, R. H., Vos, H. J. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Optimizing+conditions+for+computer-assisted+anatomical+learning%5BTitle%5D)+AND+%22Interacting+with+Computers%22%5BJournal%5D)">Optimizing conditions for computer-assisted anatomical learning.</a> Interacting with Computers. 18 (5), 1123-1138 (2006).</li>
<li>Takano, M., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Usefulness+and+capability+of+three-dimensional%2C+full+high-definition+movies+for+surgical+education%5BTitle%5D)+AND+%22Maxillofacial+Plastic+and+Reconstructive+Surgery%22%5BJournal%5D)">Usefulness and capability of three-dimensional, full high-definition movies for surgical education.</a> Maxillofacial Plastic and Reconstructive Surgery. 39 (1), 10(2017).</li>
<li>Triepels, C. P. R., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Does+three-dimensional+anatomy+improve+student+understanding%5BTitle%5D)+AND+%22Clinical+Anatomy%22%5BJournal%5D)">Does three-dimensional anatomy improve student understanding.</a> Clinical Anatomy. 33 (1), 25-33 (2020).</li>
<li>Beermann, J., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Three-dimensional+visualisation+improves+understanding+of+surgical+liver+anatomy%5BTitle%5D)+AND+%22Medical+Education%22%5BJournal%5D)">Three-dimensional visualisation improves understanding of surgical liver anatomy.</a> Medical Education. 44 (9), 936-940 (2010).</li>
<li>Battulga, B., Konishi, T., Tamura, Y., Moriguchi, H. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((The+Effectiveness+of+an+interactive+3-dimensional+computer+graphics+model+for+medical+education%5BTitle%5D)+AND+%22Interactive+Journal+of+Medical+Research%22%5BJournal%5D)">The Effectiveness of an interactive 3-dimensional computer graphics model for medical education.</a> Interactive Journal of Medical Research. 1 (2), (2012).</li>
<li>Yammine, K., Violato, C. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((A+meta-analysis+of+the+educational+effectiveness+of+three-dimensional+visualization+technologies+in+teaching+anatomy%5BTitle%5D)+AND+%22Anatomical+Sciences+Education%22%5BJournal%5D)">A meta-analysis of the educational effectiveness of three-dimensional visualization technologies in teaching anatomy.</a> Anatomical Sciences Education. 8 (6), 525-538 (2015).</li>
<li>Fitzgerald, J. E. F., White, M. J., Tang, S. W., Maxwell-Armstrong, C. A., James, D. K. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Are+we+teaching+sufficient+anatomy+at+medical+school%3F+The+opinions+of+newly+qualified+doctors%5BTitle%5D)+AND+%22Clinical+Anatomy%22%5BJournal%5D)">Are we teaching sufficient anatomy at medical school? The opinions of newly qualified doctors.</a> Clinical Anatomy. 21 (7), 718-724 (2008).</li>
<li>Bergman, E. M., Van Der Vleuten, C. P. M., Scherpbier, A. J. J. A. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Why+don%27t+they+know+enough+about+anatomy%3F+A+narrative+review%5BTitle%5D)+AND+%22Medical+Teacher%22%5BJournal%5D)">Why don't they know enough about anatomy? A narrative review.</a> Medical Teacher. 33 (5), 403-409 (2011).</li>
<li>Terzić, K., Hansard, M. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Methods+for+reducing+visual+discomfort+in+stereoscopic+3D%3A+A+review%5BTitle%5D)+AND+%22Signal+Processing%3A+Image+Communication%22%5BJournal%5D)">Methods for reducing visual discomfort in stereoscopic 3D: A review.</a> Signal Processing: Image Communication. 47, 402-416 (2016).</li>
<li>Fan, Z., Weng, Y., Chen, G., Liao, H. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((3D+interactive+surgical+visualization+system+using+mobile+spatial+information+acquisition+and+autostereoscopic+display%5BTitle%5D)+AND+%22Journal+of+Biomedical+Informatics%22%5BJournal%5D)">3D interactive surgical visualization system using mobile spatial information acquisition and autostereoscopic display.</a> Journal of Biomedical Informatics. 71, 154-164 (2017).</li>
<li>Fan, Z., Zhang, S., Weng, Y., Chen, G., Liao, H. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((3D+quantitative+evaluation+system+for+autostereoscopic+display%5BTitle%5D)+AND+%22Journal+of+Display+Technology%22%5BJournal%5D)">3D quantitative evaluation system for autostereoscopic display.</a> Journal of Display Technology. 12 (10), 1185-1196 (2016).</li>
<li>McIntire, J. P., et al. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Binocular+fusion+ranges+and+stereoacuity+predict+positional+and+rotational+spatial+task+performance+on+a+stereoscopic+3D+display%5BTitle%5D)+AND+%22Journal+of+Display+Technology%22%5BJournal%5D)">Binocular fusion ranges and stereoacuity predict positional and rotational spatial task performance on a stereoscopic 3D display.</a> Journal of Display Technology. 11 (11), 959-966 (2015).</li>
<li>Kalia, M., Navab, N., Fels, S. S., Salcudean, T. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((A+method+to+introduce+%26+evaluate+motion+parallax+with+stereo+for+medical+AR%2FMR%5BTitle%5D)+AND+%22IEEE+Conference+on+Virtual+Reality+and+3D+User+Interfaces%22%5BJournal%5D)">A method to introduce & evaluate motion parallax with stereo for medical AR/MR.</a> IEEE Conference on Virtual Reality and 3D User Interfaces. , 1755-1759 (2019).</li>
<li>Kytö, M., Hakala, J., Oittinen, P., Häkkinen, J. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Effect+of+camera+separation+on+the+viewing+experience+of+stereoscopic+photographs%5BTitle%5D)+AND+%22Journal+of+Electronic+Imaging%22%5BJournal%5D)">Effect of camera separation on the viewing experience of stereoscopic photographs.</a> Journal of Electronic Imaging. 21 (1), 1-9 (2012).</li>
<li>Moorthy, A. K., Su, C. C., Mittal, A., Bovik, A. C. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Subjective+evaluation+of+stereoscopic+image+quality%5BTitle%5D)+AND+%22Signal+Processing%3A+Image+Communication%22%5BJournal%5D)">Subjective evaluation of stereoscopic image quality.</a> Signal Processing: Image Communication. 28 (8), 870-883 (2013).</li>
<li>Yilmaz, G. N. A depth perception evaluation metric for immersive 3D video services. <a target="_blank" href="http://scholar.google.com/scholar?hl=en&safe=off&q=author%3aYilmaz%2C+GN+%223DTV+Conference%3A+The+True+Vision+-+Capture%2C+Transmission+and+Display+of+3D+Video%22">3DTV Conference: The True Vision - Capture, Transmission and Display of 3D Video</a>. , 1-4 (2017).</li>
<li>Lebreton, P., Raake, A., Barkowsky, M., Le Callet, P. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Evaluating+depth+perception+of+3D+stereoscopic+videos%5BTitle%5D)+AND+%22IEEE+Journal+on+Selected+Topics+in+Signal+Processing%22%5BJournal%5D)">Evaluating depth perception of 3D stereoscopic videos.</a> IEEE Journal on Selected Topics in Signal Processing. 6, 710-720 (2012).</li>
<li>López, J. P., Rodrigo, J. A., Jiménez, D., Menéndez, J. M. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Stereoscopic+3D+video+quality+assessment+based+on+depth+maps+and+video+motion%5BTitle%5D)+AND+%22EURASIP+Journal+on+Image+and+Video+Processing%22%5BJournal%5D)">Stereoscopic 3D video quality assessment based on depth maps and video motion.</a> EURASIP Journal on Image and Video Processing. 2013 (1), 62(2013).</li>
<li>Banks, M. S., Read, J. C., Allison, R. S., Watt, S. J. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Stereoscopy+and+the+human+visual+system%5BTitle%5D)+AND+%22SMPTE+Motion+Imaging+Journal%22%5BJournal%5D)">Stereoscopy and the human visual system.</a> SMPTE Motion Imaging Journal. 121 (4), 24-43 (2012).</li>
<li>Kytö, M., Nuutinen, M., Oittinen, P. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Method+for+measuring+stereo+camera+depth+accuracy+based+on+stereoscopic+vision%5BTitle%5D)+AND+%22Three-Dimensional+Imaging%2C+Interaction%2C+and+Measurement%22%5BJournal%5D)">Method for measuring stereo camera depth accuracy based on stereoscopic vision.</a> Three-Dimensional Imaging, Interaction, and Measurement. 7864, 168-176 (2011).</li>
<li>Kang, Y. S., Ho, Y. S. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Geometrical+compensation+algorithm+of+multiview+image+for+arc+multi-camera+arrays%5BTitle%5D)+AND+%22Advances+in+Multimedia+Information+Processing%22%5BJournal%5D)">Geometrical compensation algorithm of multiview image for arc multi-camera arrays.</a> Advances in Multimedia Information Processing. 2008, 543-552 (2008).</li>
<li>Product Specification IRB 14000. DocumentID: 3HAC052982-001 Revision J. ABB Robotics. , Available from: 
 <a target="_blank" href="https://library.abb.com/en/results">https://library.abb.com/en/results</a> (2018).</li>
<li>Operating Manual IRB 14000. Document ID: 3HAC052986-001 Revision F. ABB Robotics. , Available from: 
 <a target="_blank" href="https://library.abb.com/en/results">https://library.abb.com/en/results</a> (2019).</li>
<li>Github repository. , Available from: 
 <a target="_blank" href="https://github.com/majstenmark/stereo2">https://github.com/majstenmark/stereo2</a> (2021).</li>
<li>Operating manual RobotStudio. Document ID: 3HAC032104-001 Revision Y. ABB Robotics. , Available from: 
 <a target="_blank" href="https://library.abb.com/en/results">https://library.abb.com/en/results</a> (2019).</li>
<li>Won, C. S. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Adaptive+interpolation+for+3D+stereoscopic+video+in+frame-compatible+top-bottom+packing%5BTitle%5D)+AND+%22IEEE+International+Conference+on+Consumer+Electronics%22%5BJournal%5D)">Adaptive interpolation for 3D stereoscopic video in frame-compatible top-bottom packing.</a> IEEE International Conference on Consumer Electronics. 2011, 179-180 (2011).</li>
<li>Kim, S. K., Lee, C., Kim, K. T. Multi-view image acquisition and display. <a target="_blank" href="http://scholar.google.com/scholar?hl=en&safe=off&q=author%3aKim%2C+SK+%22Three-Dimensional+Imaging%2C+Visualization%2C+and+Display%22">Three-Dimensional Imaging, Visualization, and Display</a>. Javidi, B., Okano, F., Son, J. Y. , Springer. New York. 227-249 (2009).</li>
<li>Liu, F., Niu, Y., Jin, H. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Keystone+correction+for+stereoscopic+cinematography%5BTitle%5D)+AND+%22IEEE+Computer+Society+Conference+on+Computer+Vision+and+Pattern+Recognition+Workshops%22%5BJournal%5D)">Keystone correction for stereoscopic cinematography.</a> IEEE Computer Society Conference on Computer Vision and Pattern Recognition Workshops. 2012, 1-7 (2012).</li>
<li>Kang, W., Lee, S. <a target="_blank" href="http://www.ncbi.nlm.nih.gov/pubmed?term=((Horizontal+parallax+distortion+correction+method+in+toed-in+camera+with+wide-angle+lens%5BTitle%5D)+AND+%223DTV+Conference%3A+The+True+Vision+-+Capture%2C+Transmission+and+Display+of+3D+Video%22%5BJournal%5D)">Horizontal parallax distortion correction method in toed-in camera with wide-angle lens.</a> 3DTV Conference: The True Vision - Capture, Transmission and Display of 3D Video. 2009, 1-4 (2009).</li>
</ol>

Gli autori non hanno nulla da rivelare.

Durante la chirurgia dal vivo, il tempo totale dell'esperimento utilizzato per la raccolta di dati video 3D è stato limitato per essere sicuro per il paziente. Se l'oggetto non è focalizzato o sovraesposto, i dati non possono essere utilizzati. I passaggi critici sono durante la calibrazione e la configurazione dello strumento della fotocamera (passaggio 2). L'apertura e la messa a fuoco della fotocamera non possono essere modificate quando l'intervento chirurgico è iniziato; le stesse condizioni di illuminazione e dista...

In chirurgia, la visualizzazione 3D può essere utilizzata per l'istruzione, le diagnosi, la pianificazione pre-operatoria e la valutazione post-operatoria1,2. La percezione realistica della profondità può migliorare la comprensione3,4,5,6 di anatomie normali e anormali. Semplici registrazioni video 2D di procedure chirurgiche sono un buon inizio. Tuttavia, la mancanza di percezione della profondità può rendere difficile per i colleghi non chirurgici comprendere appieno le relazioni antero-posteriori tra diverse strutture anatomiche e quindi introdurre anche un rischio di interpretazione errata dell'anatomia7,8,9,10.
L'esperienza di visualizzazione 3D è influenzata da cinque fattori: (1) La configurazione della telecamera può essere parallela o integrata come mostrato nella Figura 1, (2) Distanza di base (la separazione tra le telecamere). (3) Distanza dall'oggetto di interesse e altre caratteristiche della scena come lo sfondo. (4) Caratteristiche dei dispositivi di visualizzazione come le dimensioni dello schermo e la posizione di visualizzazione1,11,12,13. (5) Preferenze individuali degli spettatori14,15.
La progettazione di una configurazione della fotocamera 3D inizia con l'acquisizione di video di prova registrati a varie distanze e configurazioni di base della telecamera da utilizzare per la valutazione soggettiva o automatica16,17,18,19,20. La distanza della fotocamera deve essere costante rispetto al campo chirurgico per acquisire immagini nitide. La messa a fuoco fissa è preferita perché l'autofocus si regola per mettere a fuoco mani, strumenti o teste che potrebbero entrare in vista. Tuttavia, questo non è facilmente realizzabile quando la scena di interesse è il campo chirurgico. Le sale operatorie sono aree ad accesso limitato perché queste strutture devono essere mantenute pulite e sterili. Attrezzature tecniche, chirurghi e infermieri di scrub sono spesso raggruppati strettamente attorno al paziente per garantire una buona panoramica visiva e un flusso di lavoro efficiente. Per confrontare e valutare l'effetto delle posizioni della telecamera sull'esperienza di visualizzazione 3D, una gamma di test completa delle posizioni della telecamera deve registrare la stessa scena perché le caratteristiche dell'oggetto come forma, dimensioni e colore possono influire sull'esperienza di visione 3D21.
Per lo stesso motivo, le gamme di test complete delle posizioni della telecamera devono essere ripetute su diverse procedure chirurgiche. L'intera sequenza di posizioni deve essere ripetuta con elevata precisione. In un ambiente chirurgico, i metodi esistenti che richiedono la regolazione manuale della distanza di base22 o diverse coppie di telecamere con distanze fisse di base23 non sono fattibili a causa di vincoli di spazio e tempo. Per affrontare questa sfida, è stata progettata questa soluzione robotizzata.
I dati sono stati raccolti con un robot industriale collaborativo a doppio braccio montato nel soffitto della sala operatoria. Le telecamere sono state attaccate ai polsi del robot e spostate lungo una traiettoria a forma di arco con una distanza di base crescente, come mostrato nella Figura 2.
Per dimostrare l'approccio, sono state registrate 10 serie di test da 4 diversi pazienti con 4 diversi difetti cardiaci congeniti. Le scene sono state scelte quando una pausa in chirurgia era fattibile: con i cuori che battono appena prima e dopo la riparazione chirurgica. Le serie sono state fatte anche quando i cuori sono stati arrestati. Gli interventi chirurgici sono stati sospesi per 3 minuti e 20 secondi per raccogliere quaranta 5-ssequence con diverse distanze di convergenza della fotocamera e distanze di base per catturare la scena. I video sono stati successivamente post-elaborati, visualizzati in 3D per il team clinico, che ha valutato quanto fosse realistico il video 3D su una scala da 0 a 5.
Il punto di convergenza per le telecamere stereo toed-in è dove si incontrano i punti centrali di entrambe le immagini. Il punto di convergenza può, in linea di principio, essere posizionato davanti, all'interno o dietro l'oggetto, vedi Figura 1A-C. Quando il punto di convergenza si trova di fronte all'oggetto, l'oggetto verrà catturato e visualizzato a sinistra della linea mediana per l'immagine della fotocamera sinistra e a destra della linea mediana per l'immagine della fotocamera destra (Figura 1A). Il contrario si applica quando il punto di convergenza è dietro l'oggetto (Figura 1B). Quando il punto di convergenza è sull'oggetto, l'oggetto apparirà anche nella linea mediana delle immagini della fotocamera (Figura 1C), che presumibilmente dovrebbe produrre la visione più comoda poiché non è necessario strizzare gli occhi per unire le immagini. Per ottenere un comodo video 3D stereo, il punto di convergenza deve essere posizionato sopra, o leggermente dietro, l'oggetto di interesse, altrimenti lo spettatore è tenuto a strizzare volontariamente gli occhi verso l'esterno (esotropia).
I dati sono stati raccolti utilizzando un robot industriale collaborativo a doppio braccio per posizionare le telecamere (Figura 2A-B). Il robot pesa 38 kg senza attrezzatura. Il robot è intrinsecamente sicuro; quando rileva un impatto imprevisto, smette di muoversi. Il robot è stato programmato per posizionare le telecamere da 5 Megapixel con obiettivi con innesto C lungo una traiettoria a forma di arco fermandosi a distanze di base predeterminate (Figura 2C). Le telecamere sono state attaccate alle mani del robot utilizzando piastre adattatori, come mostrato nella Figura 3. Ogni telecamera ha registrato a 25 fotogrammi al secondo. Le lenti sono state impostate a f-stop 1/8 con messa a fuoco fissa sull'oggetto di interesse (centro geometrico approssimativo del cuore). Ogni fotogramma dell'immagine aveva un timestamp che veniva utilizzato per sincronizzare i due flussi video.
Gli offset tra il polso del robot e la fotocamera sono stati calibrati. Ciò può essere ottenuto allineando il mirino delle immagini della fotocamera, come mostrato nella Figura 4. In questa configurazione, l'offset traslazionale totale dal punto di montaggio sul polso del robot e dal centro del sensore di immagine della telecamera era di 55,3 mm nella direzione X e 21,2 mm nella direzione Z, visualizzati nella Figura 5. Gli offset rotazionali sono stati calibrati a una distanza di convergenza di 1100 mm e una distanza di base di 50 mm e regolati manualmente con il joystick sul pannello di controllo del robot. Il robot in questo studio aveva una precisione specificata di 0,02 mm nello spazio cartesiano e una risoluzione rotazionale di 0,01 gradi24. Con un raggio di 1100 m, una differenza d'angolo di 0,01 gradi compensa il punto centrale di 0,2 mm. Durante il movimento completo del robot da 50-240 mm di separazione, il mirino di ogni telecamera era entro 2 mm dal centro ideale di convergenza.
La distanza di base è stata aumentata gradualmente dalla separazione simmetrica delle telecamere attorno al centro del campo visivo con incrementi di 10 mm compresi tra 50 e 240 mm (Figura 2). Le telecamere sono state tenute ferme per 5 s in ogni posizione e spostate tra le posizioni ad una velocità di 50 mm/s. Il punto di convergenza può essere regolato nelle direzioni X e Z utilizzando un'interfaccia utente grafica (Figura 6). Il robot ha seguito di conseguenza all'interno del suo raggio di lavoro.
L'accuratezza del punto di convergenza è stata stimata utilizzando i triangoli uniformi e i nomi delle variabili nella Figura 7A e B. L'altezza 'z' è stata calcolata dalla distanza di convergenza 'R' con il teorema di Pitagora come
<img alt="Equation 1" src="/files/ftp_upload/62786/62786eq01.jpg">
Quando il punto di convergenza reale era più vicino del punto desiderato, come mostrato nella Figura 7A, la distanza di errore 'f1' è stata calcolata come
<img alt="Equation 2" src="/files/ftp_upload/62786/62786eq02.jpg">
Allo stesso modo, quando il punto di convergenza era distale al punto desiderato, la distanza di errore 'f2' veniva calcolata come
<img alt="Equation 3" src="/files/ftp_upload/62786/62786eq03.jpg">
Qui, 'e' era la massima separazione tra il mirino, al massimo 2 mm alla massima separazione della linea di base durante la calibrazione (D = 240 mm). Per R = 1100 mm (z = 1093 mm), l'errore era inferiore a ± 9,2 mm. Per R = 1400 mm (z = 1395 mm), l'errore è stato ± 11,7 mm. Cioè, l'errore del posizionamento del punto di convergenza era entro l'1% del desiderato. Le due distanze di prova di 1100 mm e 1400 mm erano quindi ben separate.

<table><tbody><tr><td>2 obiettivi C-mount (35 mm F2.1, 5 M pixel)</td><td>Tamron</td><td>M112FM35</td> Classificato per occhiali 3D da <td>5 Mpixel</td></tr><tr><td>(otturatore attivo DLP-link)</td><td>Celexon</td><td>G1000</td><td>È possibile utilizzare qualsiasi occhiale 3D compatibile</td></tr><tr><td>Proiettore 3D</td><td>Viewsonic</td><td>X10-4K</td><td>Visualizza 3D in 1080, può essere sostituito con altri proiettori 3D</td></tr><tr><td>6 viti</td><td></td><td></td> <td>M2 x 8Per fissare le telecamere cXimea alle piastre dell'adattatore della fotocamera</td></tr><tr><td>8 viti</td><td></td><td></td> M2,5 x 8 <td>Per fissare le piastre di montaggio circolari al polso del robot</td></tr><tr><td>8 viti</td><td></td><td></td> M5 x 40 <td>Per montare il robot</td></tr><tr><td>8 viti M6 x 10 con teste</td><td></td><td></td> piatte <td>Per il fissaggio della piastra di montaggio circolare e delle piastre dell'adattatore della fotocamera</td></tr><tr><td>Piastra a scacchiera di calibrazione (25 x 25 mm)</td><td></td><td></td><td>È possibile utilizzare qualsiasi scacchiera standard, anche stampata, purché la griglia sia chiaramente visibile nelle piastre dell'adattatore</td></tr><tr><td>della fotocamera, x2</td><td></td><td></td><td>Progettato dagli autori in robot_camera_adaptor_plates.dwg, fresato in alluminio.</td></tr><tr><td>Piastre di montaggio circolari, x2</td><td></td><td></td><td>Distribuito con il permesso del designer Julius Klein e stampato con plastica ABS su una stampante 3D FDM. Licenza Tecnalia Research & Innovazione 2017. Allegato come Mountingplate_ROBOT_SIDE_ NewDesign_4.stl</td></tr><tr><td>Fissa le telecamere USB di messa a fuoco, x2 (5 Mpixel)</td><td>Ximea</td><td>MC050CG-SY-UB</td><td>Con sensore IMX250LQR Sony</td></tr><tr><td>Flexpendant</td><td>ABB</td><td>3HAC028357-001</td><td>robot touch display</td></tr><tr><td>Applicazione di registrazione Liveview</td><td></td><td></td><td></td></tr><tr><td>RobotStudio</td><td></td><td></td><td>&nbsp; ambiente di sviluppo integrato nel robot (IDE)</td></tr><tr><td>Cavi attivi USB3 (10,0 m), x2</td><td></td><td></td><td>connettori di blocco a vite a testa zigrinata, impermeabili.</td></tr><tr><td>Robot a doppio braccio YuMi</td><td>ABB</td><td>IRB14000</td><td></td></tr></tbody></table>

test robotizzati delle posizioni della telecamera per determinare la configurazione ideale per la visualizzazione 3d stereo della chirurgia a cuore aperto

Robotized Testing of Camera Positions to Determine Ideal Configuration for Stereo 3D Visualization of Open-Heart Surgery

Il video 3D stereo delle procedure chirurgiche può essere molto prezioso per l'educazione medica e migliorare la comunicazione clinica. Ma l'accesso alla sala operatoria e al campo chirurgico è limitato. È un ambiente sterile e lo spazio fisico è affollato di personale chirurgico e attrezzature tecniche. In questo contesto, la cattura non oscurata e la riproduzione realistica delle procedure chirurgiche sono difficili. Questo documento presenta un metodo per la raccolta rapida e affidabile di dati di video 3D stereoscopici a diverse distanze di base della telecamera e distanze di convergenza. Per raccogliere i dati dei test con interferenze minime durante l'intervento chirurgico, con alta precisione e ripetibilità, le telecamere sono state collegate a ciascuna mano di un robot a doppio braccio. Il robot era montato a soffitto in sala operatoria. È stato programmato per eseguire una sequenza temporizzata di movimenti sincronizzati della telecamera che attraversano una serie di posizioni di prova con distanza di base compresa tra 50-240 mm a passi incrementali di 10 mm e a due distanze di convergenza di 1100 mm e 1400 mm. L'intervento chirurgico è stato sospeso per consentire 40 campioni video consecutivi da 5 s. Sono stati registrati un totale di 10 scenari chirurgici.

Un video di valutazione accettabile con l'immagine giusta posizionata in alto nel 3D stereoscopico superiore-inferiore viene mostrato in Video1. Una sequenza riuscita deve essere nitida, focalizzata e senza fotogrammi di immagine non sincronizzati. I flussi video non sincronizzati causeranno sfocature, come mostrato nel file Video 2. Il punto di convergenza deve essere centrato orizzontalmente, indipendentemente dalla separazione della telecamera, come mostrato nella <st...

La percezione della profondità umana dei video stereo 3D dipende dalla separazione della telecamera, dal punto di convergenza, dalla distanza e dalla familiarità dell'oggetto. Questo documento presenta un metodo robotizzato per la raccolta rapida e affidabile dei dati di test durante la chirurgia a cuore aperto dal vivo per determinare la configurazione ideale della telecamera.

Test robotizzati delle posizioni della telecamera per determinare la configurazione ideale per la visualizzazione 3D stereo della chirurgia a cuore aperto

Stereo 3D video from surgical procedures can be highly valuable for medical education and improve clinical communication. But access to the operating room ...

Consente l'acquisizione di video 3D di alta qualità per la formazione e l'istruzione. Può essere applicato alla maggior parte delle impostazioni della sala operatoria con chirurgia a cielo aperto. Con un approccio robotizzato, possiamo raccogliere rapidamente e con precisione i dati per valutare le posizioni della telecamera.Questo metodo viene utilizzato per testare rapidamente la configurazione della telecamera per applicazioni di visione 3D. Può anche essere usato per indagare su come soggetti diversi percepiscono la profondità. Per iniziare a montare la fotocamera sul robot, prima, montare l'obiettivo sulla fotocamera e quindi la fotocamera sulla piastra dell'adattatore con tre viti M2.Quindi, montare la piastra di montaggio circolare sulla piastra dell'adattatore della fotocamera con quattro viti M4 sul lato opposto della telecamera. Una volta che tutte le telecamere sono montate sul robot, osservare il mirroring degli assiemi risultanti. Montare la piastra dell'adattatore al polso del robot con quattro viti M2.5.Per un robot montato su tavolo, collegare la telecamera sinistra al braccio destro del robot. Collegare i cavi USB alle fotocamere e al computer Ubuntu. Sul display t

robotized-testing-camera-positions-to-determine-ideal-configuration

Research

Ricerca

JoVE Journal

Medicine

Medicina

È stato implementato un nuovo sistema computazionale con simulazione di dinamica molecolare accelerata da GPU e visualizzazione, analisi e manipolazione 3D/VR di nanostrutture, che rappresenta un nuovo approccio per far progredire la ricerca sui materiali e promuovere indagini innovative e metodi alternativi per conoscere le strutture dei materiali con dimensioni invisibili all'occhio umano.

Romanzo 3D / VR Interactive Environment per MD simulazioni, visualizzazione e l&#39;analisi

Questo articolo fornisce una panoramica di un programma di mappatura del cervello multimodale progettato per identificare le regioni del cervello che supportano le funzioni cognitive critiche nei singoli pazienti di neurochirurgia.

Mappatura del cervello traslazionale presso il centro medico dell'Università di Rochester: Preservare la mente attraverso la mappatura del cervello personalizzata

La videoradiografia biplana può quantificare la cinematica della spalla con un alto grado di precisione. Il protocollo qui descritto è stato specificamente progettato per tracciare la scapola, l'omero e le costole durante l'elevazione omerale planare e delinea le procedure per la raccolta, l'elaborazione e l'analisi dei dati. Vengono inoltre descritte considerazioni univoche per la raccolta dei dati.

Misurazione della cinematica della spalla 3D in vivo utilizzando la videoradiografia biplanare

Il display montato sulla testa di realtà aumentata, Magic Leap, è stato utilizzato in combinazione con un sistema di navigazione convenzionale per posizionare viti peduncolari in un modello suino aderendo a un nuovo flusso di lavoro. Con un tempo di inserimento mediano di &lt;2,5 min, sono state raggiunte un'accuratezza tecnica submillimetrica e un'accuratezza clinica del 100% secondo Gertzbein.

Posizionamento della vite peduncolare utilizzando un display montato sulla testa a realtà aumentata in un modello suino

I progressi nel trattamento endovascolare hanno sostituito le complesse procedure chirurgiche a cielo aperto con opzioni minimamente invasive, come la sostituzione della valvola e la riparazione dell'aneurisma. Questo documento propone di utilizzare la modellazione tridimensionale (3D) e la realtà virtuale per facilitare il posizionamento dell'arco a C, le misurazioni dell'angolo e la generazione di roadmap per la pianificazione procedurale del laboratorio di cateterismo neurointerventistico,...

Approcci pionieristici specifici per il paziente per la chirurgia di precisione utilizzando l'imaging e la realtà virtuale

Questo protocollo presenta una pipeline completa per analizzare campioni ottenuti da cuori umani che abbracciano le scale microscopiche e macroscopiche.

Pipeline per lo studio anatomico tridimensionale multiscala del cuore umano

Questo articolo presenta la progettazione e l'implementazione di un modulo di chirurgia automatica basato sulla ricostruzione 3D basata sulla realtà aumentata (AR). Il sistema consente la chirurgia remota consentendo ai chirurghi di ispezionare le caratteristiche ricostruite e replicare i movimenti chirurgici della mano come se stessero eseguendo l'intervento chirurgico nelle immediate vicinanze.

Chirurgia automatica nella sostituzione transcatetere della valvola aortica utilizzando la realtà aumentata

Qui, descriviamo un protocollo per costruire un modello di cuore da zero basato sulla tomografia computerizzata e lo presentiamo agli studenti di medicina utilizzando la stampa tridimensionale (3D) e la tecnologia di realtà mista per apprendere l'anatomia.

Tecnologia di realtà mista e stampa tridimensionale nell'insegnamento: l'anatomia del cuore come esempio

Questo protocollo offre una guida per implementare il tracciamento dei marcatori a infrarossi per fantocci in movimento libero (ad esempio, organi) e la visualizzazione olografica utilizzando la realtà aumentata. Inoltre, delinea una configurazione per la convalida preclinica di sistemi di navigazione olografica che utilizzano il tracciamento elettromagnetico su fantocci in movimento libero.

Approccio tecnico per il tracciamento a infrarossi per la navigazione dei tessuti molli con un display olografico montato sulla testa e convalida preclinica

Descriviamo una nuova tecnica per il trapianto addominale eterotopico cuore-polmone (HAHLT) nei ratti. La configurazione del trapianto si traduce in una circolazione dell'innesto parzialmente caricata, consentendo una valutazione funzionale diretta. Questo modello può essere impiegato per studi acuti o cronici sulla funzione e sullo stato immunologico del trapianto trapiantato.

Rat eterotopico addominale Cuore / Trapianti Single-polmone in una configurazione del volume-caricato

Scopri un metodo robotizzato per testare le configurazioni delle telecamere 3D stereo durante la chirurgia a cuore aperto. Questa tecnica migliora la percezione della profondità e l'addestramento chirurgico.

Test robotizzati delle posizioni della telecamera per determinare la configurazione ideale per la visualizzazione 3D stereo della chirurgia a cuore aperto (Video) | JoVE Journal

Test robotizzati delle posizioni della telecamera per determinare la configurazione ideale per la visualizzazione 3D stereo della chirurgia a cuore aperto

Esplora altri video