Methodenartikel

High-Auflösung, High-Speed-, Three-dimensional Imaging mit Digital-Video-Streifenprojektionstechnik

16.5K Aufrufe

DOI:

10.3791/50421

3. Dezember 2013

In diesem Artikel

Zusammenfassung

Dieses Video beschreibt die Grundlagen der digitalen Streifenprojektionstechniken, die dichte 3D-Messungen von dynamisch veränderlichen Oberflächen ermöglichen. Es demonstriert auch das Design und den Betrieb eines binären Hochgeschwindigkeits-Defokussierungssystems, das auf diesen Techniken basiert.

Zusammenfassung

Die Techniken der digitalen Streifenprojektion (DFP) ermöglichen dichte 3D-Messungen von sich dynamisch verändernden Oberflächen. Wie das menschliche Auge und Gehirn verwendet DFP die Triangulation zwischen übereinstimmenden Punkten in zwei Ansichten derselben Szene aus unterschiedlichen Winkeln, um die Tiefe zu berechnen. Im Gegensatz zu einer stereobasierten Methode wird bei DFP jedoch ein digitaler Videoprojektor verwendet, um eine der Kameras zu ersetzen1. Der Projektor projiziert schnell ein bekanntes sinusförmiges Muster auf das Motiv, und die Oberfläche des Motivs verzerrt diese Muster im Sichtfeld der Kamera. Drei verzerrte Muster (Streifenbilder) der Kamera können verwendet werden, um die Tiefe mittels Triangulation zu berechnen.

Im Gegensatz zu anderen 3D-Messmethoden führen DFP-Techniken zu Systemen, die tendenziell schneller, kostengünstiger für die Ausrüstung, flexibler und einfacher zu entwickeln sind. DFP-Systeme können auch die gleiche Messauflösung wie die Kamera erreichen. Aus diesem Grund sind DFP und andere digitale Strukturiertlichttechniken in letzter Zeit im Mittelpunkt intensiver Forschung gestanden (wie in1-5 zusammengefasst). Unter Ausnutzung von DFP, der Grafikverarbeitungseinheit und optimierten Algorithmen haben wir ein System entwickelt, das in der Lage ist, 30-Hz-3D-Videodaten für über 300.000 Messpunkte pro Frame zu erfassen, zu rekonstruieren und anzuzeigen6,7. Mit binären Defokussierungs-DFP-Verfahren können sogar noch höhere Geschwindigkeiten erreichtwerden 8.

Vielfältige Anwendungen können von DFP-Techniken profitieren. Unsere Mitarbeiter haben unsere Systeme für die Gesichtsfunktionsanalyse9, die Gesichtsanimation10, kardiologische Mechanikstudien11 und die Messung von Flüssigkeitsoberflächen verwendet, aber es gibt noch viele andere potenzielle Anwendungen. Dieses Video vermittelt die Grundlagen der DFP-Techniken und veranschaulicht das Design und den Betrieb eines binären defokussierenden DFP-Systems.

Einleitung

Die Techniken der digitalen Streifenprojektion (DFP) basieren auf der Korrelation und Triangulation zwischen zwei Ansichten derselben Szene aus unterschiedlichen Winkeln, dem gleichen Prinzip, das von den menschlichen Augen und dem Gehirn verwendet wird, um Stereosehen zu erreichen. Im Gegensatz zu einem stereobasierten Verfahren wird bei DFP jedoch ein digitaler Videoprojektor verwendet, um eine der Kameras1 zu ersetzen. Der Projektor projiziert schnell ein bekanntes sinusförmiges Muster auf das Objekt, das von der Oberfläche des Objekts im Blick der Kamera verzerrt wird. Drei solcher verzerrten Muster (Streifenbilder) mit unterschiedlichen Phasenverschiebungen voneinander können analysiert werden, um die Tiefe durch Triangulation zu ermitteln. Die Verwendung eines bekannten Musters eliminiert das schwierige Rechenproblem der Identifizierung von Korrespondenzpunkten und ermöglicht die Erfassung von Tiefenmessungen mit der Kameraauflösung. Mit einer Kamera mit 576 x 576 Pixeln kann die Technik beispielsweise 331.776 Punkte erfassen. Dies ermöglicht es DFP-Systemen, sehr feine Details wie die Bewegung der Gesichtsmuskulatur in menschlichen Emotionen zu messen.

Optische 3D-Bildgebungsverfahren für statische oder quasi-statische Ereignisse wurden in den letzten Jahrzehnten ausgiebig untersucht und haben große Erfolge in den Bereichen Videospieldesign, Animation, Filme, Musikvideos, Virtual Reality, Telechirurgie und vielen technischen Disziplinen erzielt5. Obwohl es zahlreiche 3D-Profilometrie-Techniken gibt, können sie in zwei Kategorien eingeteilt werden: Oberflächenkontaktmethoden und Oberflächenkontaktmethoden. Sowohl das Koordinatenmessgerät (KMG) als auch das Rasterkraftmikroskop (Rasterkraftmikroskop (AFM) benötigen den Kontakt mit der Messoberfläche, um 3D-Profile mit hoher Genauigkeit zu erhalten. Diese Anforderung schränkt die Geschwindigkeit der Kontaktmethoden stark ein. Sie können die kHz-Messgeschwindigkeit mit Tausenden von Punkten pro Scan nicht erreichen.

Oberflächenberührungslose Techniken verwenden typischerweise optische Triangulationsmethoden (z. B. Stereosehen, Raumzeitstereo, strukturiertes Licht). Durch die aktive Projektion bekannter Muster auf die Objekte können strukturierte Lichttechniken zur Messung von Oberflächen ohne starke lokale Texturvariationen eingesetzt werden1. Die Streifenanalyse ist eine spezielle Gruppe von Techniken des strukturierten Lichts, bei denen sinusförmig strukturierte Muster (auch als Streifenmuster bezeichnet) verwendet werden. Da diese Muster Intensitäten aufweisen, die von Punkt zu Punkt auf bekannte Weise kontinuierlich variieren, verstärken sie die Techniken des strukturierten Lichts von der Projektorpixelauflösung auf die Kamerapixelauflösung12. In der jüngeren Vergangenheit waren Techniken der Streifenanalyse maßgeblich daran beteiligt, hochauflösende 3D-Bildgebung zu erzielen.

Bei der digitalen Streifenprojektion (DFP) werden digitale Videoprojektoren verwendet, um sinusförmige Streifenmuster zu erzeugen. Diese Technik hat die Vorteile geringerer Kosten, höherer Geschwindigkeit und einfacher Entwicklung und war in den letzten zehn Jahren ein sehr aktiver Forschungsbereich. Jüngste Entwicklungen im Bereich DFP und ähnlicher digitaler strukturierter Lichttechniken sind in1-5 zusammengefasst. Um Hochgeschwindigkeitsanwendungen zu realisieren, ist ein DLP-Projektor (Digital Light-Processing) aufgrund seines grundlegenden Funktionsmechanismus vorzuziehen. Die Geschwindigkeit und Flexibilität dieser Technik hat es uns ermöglicht, 3D-Videos bei 40 Hz 13 und später bei 60 Hz 6,7 aufzunehmen.

Dennoch gibt es für die traditionelle DFP-Technik eine grundsätzliche Geschwindigkeitsbegrenzung. Ein DLP-Projektor kann nur 8-Bit-Farbbilder mit seiner maximalen Bildwiederholfrequenz (in der Regel 120 Hz) austauschen. Da es sich bei den traditionellen Farbsäumen um 8-Bit-Graustufenbilder handelt, können wir drei davon in einem Farbbild als Rot-, Grün- und Blau-Farbkanäle codieren. Der Projektor tauscht jeden Kanal (und damit jedes Farbstreifenmuster) mit der dreifachen Bildwiederholfrequenz (in der Regel 360 Hz) aus. Da jedoch für jedes 3D-Videobild drei Farbsäummuster erforderlich sind, beträgt die maximale Rate der 3D-Videoaufnahme immer noch nur die Bildwiederholfrequenz (120 Hz)3,14. Um diese Hardware-Einschränkung zu überwinden, haben wir eine modifizierte DFP-Technik erfunden, die die binäre Defokussierung8 verwendet. Anstelle von 8-Bit-Graustufenmustern verwendet diese Technik computergenerierte binär strukturierte 1-Bit-Muster. Diese Muster werden mit der Projektorlinse defokussiert, um zu pseudosinusförmigen Mustern für DFP zu werden. Da DLP-Projektoren binäre Bilder um Größenordnungen schneller anzeigen können als 8-Bit-Graustufenbilder, ermöglicht die binäre Defokussierungstechnologie eine Geschwindigkeit von mehreren zehn Kilohertz bei 3D-Videoabbildung bei gleicher Auflösung wie die herkömmlichen DFP-Techniken15.

Das übergeordnete Ziel des folgenden Protokolls besteht darin, die grundlegende Implementierung und den Betrieb eines dreistufigen Phasenverschiebungs-DFP-Systems mit binärer Defokussierung zu demonstrieren. Zunächst wird das Protokoll die Auswahl und Integration der notwendigen Komponenten abdecken. Anschließend wird die einfachste und am leichtesten zugängliche Methode zur Kalibrierung des Systems erläutert. Komplexere Kalibriermethoden sind in der Literatur für spezifische Anwendungen verfügbar16,17. Das Protokoll konzentriert sich dann auf das Verfahren für die 3D-Videoerfassung mit dem System und den Prozess zur Umwandlung der Streifenbilder in visualisierte 3D-Messungen. Abschließend werden wir einige repräsentative Ergebnisse aus unseren Echtzeit- und Hochgeschwindigkeitssystemen vorstellen.

Protokoll

1. Systemkonfiguration

Ein Schema des Systems ist in Abbildung 1 dargestellt.

  1. Generieren Sie die Farbstreifenmuster für die Projektion. Diese können mit einer Bildprogrammierumgebung wie MATLAB, OpenCV oder QT weit im Voraus vorbereitet werden. Konstruieren Sie die Muster nach dem dreistufigen Phasenverschiebungsalgorithmus in18. Erstellen Sie drei Bilder, die phasenverschoben um 2π/3 voneinander verschoben sind. Verwenden Sie für die binäre Defokussierung eine Dithering-Technik, um sinusförmige Muster nur mit schwarzen und weißen Pixeln zu erzeugen, wie in19 beschrieben.
  2. Wählen Sie den Projektor für die digitale Lichtverarbeitung aus. Ein binäres Hochgeschwindigkeits-Defokussierungssystem erfordert einen schnelleren, spezialisierten Projektor wie den DLP LightCommander mit ALP High Speed-Modul. Achten Sie darauf, die binäre oder monochrome Einstellung zu verwenden, um die Farbsäume zu projizieren. Da die Bildwerte rein ein- oder ausgeschaltet sind, sind keine Nichtlinearitätsanpassungen erforderlich. Verwenden Sie das Softwareprogramm des Projektors, um die Muster für die Phasenverschiebung hochzuladen.
  3. Wählen Sie die Kamera aus. Wählen Sie eine Schwarzweiß-CCD- oder CMOS-Kamera mit der richtigen Aufnahmerate für das System. Vermeiden Sie Farbkameras für die 3D-Erfassung, da keine Farbe benötigt wird und Farbkameras Nichtlinearitäts- und Gammaanpassungen erfordern. Beachten Sie, dass die Kamera den gesamten Satz von Streifenbildern für jedes 3D-Videobild erfassen muss. Hochwertige sinusförmige Systeme erfordern eine präzise Synchronisation zwischen Projektor und Kamera. Für binäre Defokussierungssysteme ist diese Anforderung lockerer20.
  4. Bestimmen Sie die gewünschte maximale Reichweite (x, y) und den Abstand vom Projektor zum Objekt (d0). Wählen Sie einen Bereich, der für die Anwendung sinnvoll ist, aber stellen Sie sicher, dass der Bereich etwas größer als das Motiv ist, um optische Randeffekte zu reduzieren. Da die Lichtleistung eines Projektors ein Stumpf ist, wird dieser Bereich (x, y) d0 erzeugen. Bewegen Sie den Projektor relativ zu einer großen, flachen Projektionsfläche, bis der gewünschte Bereich (x, y) erreicht ist, und messen Sie dann d0 mit einem Maßband.
  5. Wählen Sie das Kameraobjektiv mit der richtigen Brennweite. Ermitteln Sie anhand der Sensorgröße der Kamera die Brennweite so, dass das Sichtfeld in der Entfernung d0 dem gewünschten Bildbereich (x, y) entspricht.
  6. Bestimmen Sie den Abstand zwischen dem Projektor und der Kamera. Hier findet ein Kompromiss zwischen Rauschen und Verschattung statt. Bei einem großen Winkel zwischen diesen Komponenten ist die Triangulation zwischen Merkmalspunkten deutlicher, aber mehr Merkmale gehen aus der Kameraperspektive im Schatten verloren. Bei einem kleinen Winkel wird die Triangulation schwierig, was das Rauschen in den Ergebnissen erhöht. In der Regel ist 10-15° ein guter Kompromiss.

2. Systemkalibrierung

Diese Referenzebenenkalibrierung ist die einfachste und am leichtesten zugängliche Methode zur Kalibrierung des Systems. Daher ist es das Beste für den Einstieg. Genauere Kalibrierungsmethoden sind in der Literatur für spezifische sinusförmige16- und binäre Defokussierungsanwendungen17 verfügbar. Um maximale Genauigkeit zu erzielen, sollte die Kalibrierung erst kurz vor der Datenerfassung durchgeführt werden. Nach der Kalibrierung sollten Kamera und Projektor nicht relativ zueinander verschoben werden.

  1. Fokussieren/Defokussieren des Projektors. Schärfen Sie das Projektionsobjektiv vorsichtig, bis die Muster in der Abbildungsebene hochwertigen Sinuskurven ähneln. Dies kann einen iterativen Prozess der Überprüfung der Datenqualität (Abschnitt 4) und der Anpassung der Linse erfordern.
  2. Erfassen Sie Farbausschnitte einer Referenzebene. Platzieren Sie eine flache weiße Tafel in der Brennebene des Projektors und im Sichtfeld der Kamera. Eine 5 mm (3/16 Zoll) dicke weiße Schaumstoffkernplatte funktioniert gut, vorausgesetzt, die dem System zugewandte Oberfläche ist nicht glänzend oder stark verschmutzt oder gerissen. Nehmen Sie die Randbilder dieses Boards auf und speichern Sie sie für den Datenverarbeitungsschritt.
  3. Erfassen Sie Farbausschnitte eines Referenzobjekts mit bekannten Abmessungen. Ein einfaches Beispiel für diesen Schritt ist ein Hartschaumwürfel. Decken Sie den Würfel mit Quadraten von 1,5 mm (1/16 Zoll) weißem Klebeschaum ab, damit er diffus wird. Platzieren Sie es in der Fokusebene der Kamera im Sichtfeld der Kamera und nehmen Sie Streifenbilder für den Verarbeitungsschritt auf.

3. Datenerfassung

  1. Platzieren Sie das Objekt oder laden Sie das Motiv ein, sich in die Fokusebene der Kamera zu setzen. Warnen Sie ein menschliches Subjekt, dass das Projektorlicht hell sein kann. Ein schwarzer Stoffhintergrund kann hinter dem Motiv verwendet werden, um die äußere Umgebung zu verbergen.
  2. Passen Sie die Kamerablende an, um die Lichtstärke zu optimieren. Beispielbilder von Farbsäumen sollten so hell wie möglich, aber nicht gesättigt sein. Dunkle Bilder weisen zu viel Rauschen auf, während gesättigte Bereiche (signifikante Bereiche mit maximaler Helligkeit) in Bildern zum Verlust von Details im gesättigten Bereich führen.
  3. Erfassen Sie die gewünschte Anzahl von Frames. Stellen Sie sicher, dass Sie eine Festplatte mitbringen, die groß genug ist, um alle aufgenommenen Bilder sowohl für das Motiv als auch für die Kalibrierungsdatensätze aufzunehmen. Mit der . OBJ-Dateiformat kann ein 3D-Video, das 1 Minute lang bei 30 Hz und einer Auflösung von 640 x 480 aufgenommen wurde, über 50 GB groß sein.

4. Datenanalyse und Visualisierung

Mit auf Geschwindigkeit optimierter Software, wie z.B. unserer hauseigenen GUI, kann dieser Schritt während der Datenerfassung stattfinden. Die Echtzeitverarbeitung ermöglicht es dem Benutzer, sofort zu erkennen, ob die resultierenden Daten für die Anwendung wünschenswert sind, und sie gegebenenfalls anzupassen. Die Nachbearbeitung kann jedoch flexibler und genauer sein. Die Nachbearbeitung ist auch viel einfacher zu implementieren und der beste Ausgangspunkt.

  1. Berechnen Sie die umschlossene Phase sowohl für die Kalibrierungs- als auch für die Probanddaten. Im dreistufigen Phasenverschiebungsalgorithmus in18 beschreibt die Phase die Position eines Punktes innerhalb der Kosinusfunktion. Da wir drei Gleichungen und drei Unbekannte haben, können wir die Gleichungen lösen, die zur Erzeugung der Streifenbilder in Schritt 1.1 für die Phase an jedem Punkt verwendet wurden. Aufgrund der Arkustangensfunktion liegt die berechnete Phase im Bereich (-π, π]; Daher wird es als "Wrapped Phase" bezeichnet. Um die Verarbeitungsgeschwindigkeit zu verbessern, haben wir einen schnellen Phasenwrapping-Algorithmus entwickelt, der in21 besprochen wird.
  2. Packen Sie die Phasen-Maps aus. Verwenden Sie einen Phasen-Unwrapping-Algorithmus, der die 2π-Sprünge in der Phase erkennt und sie entfernt, indem er Vielfache von 2π addiert oder subtrahiert. Wir haben den schnellen Algorithmus in22 in früheren Systemen verwendet, um die Phase robust und dennoch schnell zu entpacken. In dem Video demonstrieren wir die in15 beschriebene Mehrfrequenztechnik, die zusätzliche Sätze von drei phasenverschobenen Mustern bei unterschiedlichen Frequenzen verwendet. Die umschlossenen Phasenkarten aus jedem Dreiersatz können kombiniert werden, um robust eine einzige ungewickelte Phasenkarte zu erhalten. Diese Technik vergrößert den Tiefenbereich für eine genaue Erfassung mit binärer Defokussierung.
  3. Optional: Berechnen Sie die 2D-Textur. Durch die Mittelung von Sätzen aus drei benachbarten Farbsäumen werden die Farbstreifen ausgewaschen und die 2D-Texturkarte generiert. Dies kann auf Wunsch während der Visualisierung auf die 3D-Daten abgebildet werden.
  4. Konvertieren Sie die ausgepackten Phasen-Maps in die Tiefe. Wie inNummer 23 beschrieben, kann die Tiefe für den Kalibrierwürfel als Differenz zwischen der Phasenkarte des Kalibrierwürfels und der Phasenkarte der Referenzebene berechnet werden. Vergleichen Sie diese berechnete Tiefe mit der bekannten Tiefe, um den korrekten Tiefenskalierungsfaktor c0 zu berechnen. Berechnen Sie dann die Tiefe für das Motiv, indem Sie die Phase der Referenzebene von der Phase des Motivs subtrahieren und die Ergebnisse mit c0 multiplizieren.
  5. Berechnen Sie die x- und y-Koordinaten. Wenden Sie den Skalierungsfaktor c0 auf die Tiefenkarte des Kalibrierwürfels an. Bestimmen Sie den Umrechnungsfaktor ρ von den Würfelabmessungen in Pixel zu den bekannten Würfelabmessungen in der xy-Ebene. Multiplizieren Sie die Pixelanzahl in den Probandendaten mit ρ, um die x- und y-Koordinaten zu berechnen.
  6. Visualisieren Sie die Daten. Einzelne Frames können in unserem hauseigenen Format gespeichert und mit einfachem MATLAB-Code angezeigt oder in gespeichert werden. OBJ-Format und mit einem kommerziellen 3D-Modellierungsprogramm wie Blender angezeigt. Aufgrund der großen Datenmenge in jedem Frame können diese Anwendungen auf einigen Computern träge sein. Für eine bessere Reaktionsfähigkeit oder für die Live-Videoanzeige schreiben Sie Software mit einer Computergrafikbibliothek wie OpenGL oder Direct3D. Diese Software kann die Vorteile der GPU (Graphics Processing Unit) nutzen, um schnell die x-, y- und z-Koordinaten aus der unverpackten Phase zu generieren, ein Dreiecksnetz zu bilden, Beleuchtungsnormalen zu berechnen und die Ergebnisse anzuzeigen. Mit der GPU haben wir eine Live-3D-Datenvisualisierung von bis zu 30 Hz mit ca. 300.000 Punkten pro Frame erreicht.

Ergebnisse

Abbildung 1 zeigt das Schema des Systems. Das Hochgeschwindigkeits-Binärdefokussierungssystem in diesem Video besteht aus einem Logic PD DLP LightCommander Projektor und einer Phantom v9.1 CMOS-Kamera.

Abbildung 2 zeigt einen einzelnen Bildausschnitt unseres 3D-Echtzeitsystems eines menschlichen Gesichts. Dieses System verwendet eine 640 x 480 Kamera. Dank des zuvor erwähnten bekannten sinusförmigen Musters können wir 640 x 480 = 307.200 Messwerte erfassen, was eine ausreichende Auflösung bietet, um sehr feine Details aufzuzeichnen.

Abbildung 3 zeigt ein Beispiel für die Erfassung menschlicher Gesichtsausdrücke in 3D mit 60 Hz. Hier veranschaulichen vier aus einer Videosequenz ausgewählte Einzelbilder deutlich die Fähigkeit des Echtzeitsystems, dynamische Veränderungen in fein detaillierter Geometrie aufzuzeichnen.

Abbildung 4 zeigt unsere Live-Visualisierungssoftware, die in Kombination mit unserem Echtzeit-Binärdefokus-3D-Videosystem verwendet wird. Das aufgenommene 3D-Video des Probanden wird in Echtzeit auf dem Computermonitor rechts neben ihm angezeigt. Diese Software wurde in C++ unter Verwendung der OpenGL-Bibliothek, GLSL und QT geschrieben. Als Computer kam ein Lenovo-Laptop zum Einsatz.

Abbildung 5 zeigt 3D-Aufnahmen aus einer Messung am lebenden Kaninchenherzen mit unserem neu entwickelten ultraschnellen binären Defokussierungssystem. Dieses System kann 3D-Aufnahmen mit 667 Hz und einer Bildauflösung von 576 x 576 erfassen. Eine sehr hohe Aufnahmegeschwindigkeit ist erforderlich, um die Herzoberfläche artefaktfrei zu messen, ohne durch Bewegung verursachte Störungen. Die Forschung zur Herzvermessung erfolgt in Zusammenarbeit mit Prof. Igor Efimov an der Washington University-St. Louis (weitere Einzelheiten siehe11); beachten Sie, dass das Kaninchen human getötet wurde und die Bilder aufgenommen wurden, während das Herz noch schlug.

Diagramm der Strukturierten Beleuchtung mit Projektionsgleichungen; Projektions-Kamera-Setup analysiert Muster.
Abbildung 1. Aufbau des 3D-Videobildgebungssystems. In diesem System projiziert ein Hochgeschwindigkeits-DLP-Projektor nacheinander drei binäre, geditherte, phasenverschobene Bilder rasch auf das Objekt. Eine Hochgeschwindigkeits-CMOS-Kamera dient zur nacheinander erfolgenden Aufnahme der drei Streifenmusterbilder zur Tiefenberechnung.

3D-Gesichtsrekonstruktionsprozess; Mesh-Visualisierung; digitale Modellierungstechnik; anthropometrische Studie
Abbildung 2. 3D-Messungen eines menschlichen Gesichts mit einer Auflösung von 640 x 480, die feine Details sichtbar machen. Von links nach rechts sind die gleichzeitig erfasste Textur, die perfekt mit der Geometrie ausgerichtet ist, eine schattierte Ansicht der Geometrie, die Drahtgitteransicht, die die Dichte der Punkte zeigt, eine vergrößerte Ansicht des Nasenbereichs und eine vergrößerte Ansicht des Augenbereichs dargestellt.

3D-Gesichtsausdrucksmorphing, digitale Transformation, visuelle Analyse, Sequenzdiagramm
Abbildung 3. Vier ausgewählte Einzelbilder aus einem 3D-Video zur Entstehung eines Gesichtsausdrucks. Das Video wurde mit 60 Hz und einer Auflösung von 640 x 480 aufgezeichnet. Diese Bilder zeigen die geometrischen Veränderungen im Gesicht der Frau, während sie von einem neutralen Ausdruck zu einem Lächeln übergeht.

Aufbau zur Gesichtserkennung mit optischem Scanning und 3D-Bildgebung, der Echtzeitergebnisse zeigt.
Abbildung 4. Echtzeit-Erfassung, Verarbeitung und Darstellung von 3D-Videobildern. Die 3D-Messungen werden in Echtzeit auf dem Computerbildschirm rechts neben dem Probanden angezeigt.

3D-Herzmodelle; Diagramm, das verschiedene Drehansichten für die medizinische Bildanalyse zeigt.
Abbildung 5. Aufnahme eines lebenden Kaninchenherzens mit unserem ultraschnellen 3D-Videobildgebungssystem. Das Herz schlägt mit etwa 200 Schlägen/min. Die 3D-Aufnahmerate betrug 166 Hz bei einer Bildauflösung von 576 × 576. Weitere Einzelheiten finden sich in11.

Diskussion

Diese hochauflösende Echtzeit- bis superschnelle 3D-Videobildgebungstechnologie ist eine Plattformtechnologie, von der zahlreiche und unterschiedliche wissenschaftliche Bereiche, von der Biowissenschaften bis zur Ingenieurpraxis, profitieren könnten. Zu den biomedizinischen Anwendungen gehören Präzisionsmessungen von Gesichtsbewegungen und Organoberflächen. Zu den weiteren Anwendungen gehören die automatisierte 3D-Qualitätskontrolle mit Erkennung verzerrter Oberflächenmerkmale; 3D-gestützte Videokonferenzen; detaillierte Digitalisierung von Gesichtsmerkmalen für Filme und Videospiele; dichte und schnelle Verformungsmessungen für den Entwurf und die Analyse von Strukturen; Viele biologische und ingenieurtechnische Anwendungen (z. B. schlagende Kaninchenherzen, Flüssigkeitsschockwellen) erfordern die superschnellen Abbildungsraten eines binären Defokussierungssystems, um Merkmale ohne Aliasing-Artefakte korrekt aufzulösen.

Dennoch gibt es noch viele Herausforderungen bei der weit verbreiteten Einführung dieser Technologie. Bei der herkömmlichen DFP-Technologie muss der Projektor sinusförmige 8-Bit-Graustufenmuster anzeigen. Die Geschwindigkeit dieser Technik wird durch die Bildwiederholfrequenz des Projektors (in der Regel 120 Hz) begrenzt. Diese Geschwindigkeit ist ausreichend für Zeitlupenaufnahmen, wie z. B. von Gesichtsausdrücken. Es gibt zahlreiche Anwendungen, die schnellere Erfassungsraten erfordern.

Die binäre Defokussierungstechnologie hat diese Geschwindigkeitsbeschränkung gelockert, und wir haben erfolgreich ein superschnelles 3D-Videobildgebungssystem entwickelt. Dieses System hat jedoch zwei Nachteile: Erstens erfordert es einen teuren Projektor wie die DLP Discovery-Plattform und eine teure Hochgeschwindigkeits-Videokamera wie die Vision Research Phantom v9.1. Zweitens, da es durch die Defokussierung von quadrierten binären Mustern sinusförmige Muster erzeugt, Die binäre Defokussierungstechnik hat Schwierigkeiten, sinusförmige Streifen von der gleichen Qualität wie die traditionelle DFP-Technik zu erzeugen, und einen reduzierten Tiefenmessbereich (für weitere Erläuterungen siehe23). Neuere Untersuchungen deuten darauf hin, dass gerasterte binäre sinusförmige Muster die Einschränkungen des Tiefenmessbereichs erheblich verringern können19. Zukünftige Forschungen werden sich darauf konzentrieren, die verbleibenden Probleme zu überwinden und gleichzeitig die Vorteile der binären Defokussierung zu erhalten.

Eine weitere Herausforderung ist die Komprimierung und Speicherung der großen Datenmengen, die von Hochgeschwindigkeits- und hochauflösenden 3D-Videobildgebungssystemen erzeugt werden. Unkomprimierte 3D-Videos sind drastisch größer als unkomprimierte 2D-Videos. Bei einem 3D-Video, das 1 Minute lang bei 30 Hz und einer Auflösung von 640 x 480 aufgenommen wurde, wird beispielsweise die . Die OBJ-Dateigröße kann über 50 GB betragen, was die Speicherung extrem schwierig macht. Da im Bereich der 3D-Videokomprimierung nur geringe Fortschritte gemacht wurden, werden wir uns auch in Zukunft darauf konzentrieren.

Offenlegungen

Die Autoren haben keine konkurrierenden finanziellen Interessen.

Danksagungen

Diese Forschung war eine kumulative Anstrengung, die vor mehr als 10 Jahren begann, als Dr. Zhang war Doktorand an der Stony Brook University. Die aktuellen und früheren Studenten in unserem Team an der Iowa State University haben enorm dazu beigetragen, diese Technologie zu dem zu machen, was sie heute ist. Diese Arbeit wurde teilweise von der National Science Foundation unter der Projektnummer CMMI 1150711 und der William and Virginia Binger Foundation gesponsert.

Materialien

Liste der in diesem Artikel verwendeten Materialien
NameUnternehmenKatalognummerKommentare

Es wurden keine Materialien oder Geräte verwendet.

Referenzen

  1. Salvi, J., Fernandez, S., Pribanic, T., Llado, X. A state of the art in structured light patterns for surface profilometry. Patt. Recogn. 43, 2666-2680 (2010).
  2. Gorthi, S. S., Rastogi, P. Fringe projection techniques: Whither we are. Opt. Laser Eng. 48 (2), 133-140 (2010).
  3. Zhang, S. Recent progresses on real-time 3-D shape measurement using digital fringe projection techniques. Opt. Laser Eng. 48 (2), 149-158 (2010).
  4. Su, X., Zhang, Q. Dynamic 3-D shape measurement method: A review. Opt. Laser Eng. 48 (2), 191-204 (2010).
  5. Geng, J. Structured-light 3D surface imaging: a tutorial. Adv. Opt. Photonics. 3 (2), 128-160 (2011).
  6. Zhang, S., Yau, S. -T. High-resolution, real-time 3-D absolute coordinate measurement based on a phase-shifting method. Opt. Express. 14 (7), 2644-2649 (2006).
  7. Zhang, S., Royer, D., Yau, S. -T. GPU-assisted high-resolution, real-time 3-D shape measurement. Opt. Express. 14 (20), 9120-9129 (2006).
  8. Lei, S., Zhang, S. Flexible 3-D shape measurement using projector defocusing. Opt. Lett. 34 (20), 3080-3082 (2009).
  9. Mehta, R. P., Zhang, S., Hadlock, T. A. Novel 3-D video for quantification of facial movement. Otolaryngol. Head Neck Surg. 138 (4), 468-472 (2008).
  10. Wang, Y., et al. High resolution acquisition, learning and transfer of dynamic 3D facial expressions. Comput. Graph. Forum. 23 (3), (2004).
  11. Laughner, J. I., Zhang, S., Li, H., Efimov, I. R. Mapping cardiac surface mechanics with structured light imaging. Am. J. Physiol. Heart Circ. Physiol. , in press (2012).
  12. Ekstrand, L., Wang, Y., Karpinsky, N., Zhang, S. Superfast 3D profilometry with digital fringe projection and phase-shifting techniques. Handbook of 3-D machine vision: Optical metrology and imaging. , Taylor & Francis. Boca Raton, FL. (2012).
  13. Zhang, S., Huang, P. S. High-resolution real-time three-dimensional shape measurement. Opt. Eng. 45 (12), 123-601 (2006).
  14. Li, Y., Zhao, C., Qian, Y., Wang, H., Jin, H. High-speed and dense three-dimensional surface acquisition using defocused binary patterns for spatially isolated objects. Opt. Express. 18, 21-635 (2010).
  15. Wang, Y., Zhang, S. Superfast multifrequency phase-shifting technique with optimal pulse width modulation. Opt. Express. 19 (6), 5143-5148 (2011).
  16. Zhang, S., Huang, P. S. Novel method for structured light system calibration. Opt. Eng. 45 (8), 083601(2006).
  17. Merner, L., Wang, Y., Zhang, S. Accurate calibration for 3D shape measurement system using a binary defocusing technique. Opt. Laser Eng. 51 (5), 514-519 (2013).
  18. Optical Shop Testing. Malacara, D. , 3rd, John Wiley and Sons. New York. (2007).
  19. Wang, Y., Zhang, S. Three-dimensional shape measurement with binary dithered patterns. Appl. Opt. 51 (27), 6631-6636 (2012).
  20. Ekstrand, L., Zhang, S. Autoexposure for three-dimensional shape measurement with a digital-light-processing projector. Opt. Eng. 50 (12), 123-603 (2011).
  21. Huang, P. S., Zhang, S. Fast three-step phase-shifting algorithm. Appl. Opt. 45 (21), 5086-5091 (2006).
  22. Zhang, S., Li, X., Yau, S. -T. Multilevel quality-guided phase unwrapping algorithm for real-time 3-D shape reconstruction. Appl. Opt. 46 (1), 50-57 (2007).
  23. Xu, Y., Ekstrand, L., Dai, J., Zhang, S. Phase error compensation for 3-D shape measurement with projector defocusing. Appl. Opt. 50 (18), 2572-2581 (2011).

Nachdrucke und Genehmigungen

Tags

3D VideoimagingPhasenverschiebungsalgorithmusbin re DefokussierungHochgeschwindigkeitsimagingTriangulationsmethodeOberfl chenmessungGraphics Processing UnitKalibrationsebeneTiefenrekonstruktion