סרטון זה מתאר את היסודות של טכניקות הקרנת שוליים דיגיטליות, המספקות מדידות תלת מימד צפופות של משטחים המשתנים באופן דינמי. הוא גם מדגים את התכנון והתפעול של מערכת ביטול מיקוד בינארית במהירות גבוהה המבוססת על טכניקות אלה.
Method Article
סרטון זה מתאר את היסודות של טכניקות הקרנת שוליים דיגיטליות, המספקות מדידות תלת מימד צפופות של משטחים המשתנים באופן דינמי. הוא גם מדגים את התכנון והתפעול של מערכת ביטול מיקוד בינארית במהירות גבוהה המבוססת על טכניקות אלה.
טכניקות הקרנת שוליים דיגיטליות (DFP) מספקות מדידות תלת-ממדיות צפופות של משטחים המשתנים באופן דינמי. בדומה לעיניים ולמוח האנושיים, DFP משתמש בטריאנגולציה בין נקודות תואמות בשתי תצוגות של אותה סצנה בזוויות שונות כדי לחשב עומק. עם זאת, בניגוד לשיטה מבוססת סטריאו, DFP משתמש במקרן וידאו דיגיטלי כדי להחליף את אחת המצלמות1. המקרן מקרין במהירות דפוס סינוסואידלי ידוע על הנושא, ופני השטח של הנושא מעוותים את הדפוסים הללו בשדה הראייה של המצלמה. ניתן להשתמש בשלוש תבניות מעוותות (תמונות שוליים) מהמצלמה כדי לחשב את העומק באמצעות טריאנגולציה.
בניגוד לשיטות מדידה תלת-ממדיות אחרות, טכניקות DFP מובילות למערכות הנוטות להיות מהירות יותר, נמוכות יותר בעלות הציוד, גמישות יותר וקלות יותר לפיתוח. מערכות DFP יכולות גם להשיג את אותה רזולוציית מדידה כמו המצלמה. מסיבה זו, DFP וטכניקות אור מובנות דיגיטליות אחרות עמדו לאחרונה במוקד מחקר אינטנסיבי (כפי שסוכםב-1-5). תוך ניצול DFP, יחידת העיבוד הגרפי ואלגוריתמים מותאמים, פיתחנו מערכת המסוגלת לרכישה, שחזור ותצוגה של נתוני וידאו תלת מימדיים של 30 הרץ עבור למעלה מ-300,000 נקודות מדידה למסגרת6,7. שיטות DFP בינאריות לביטול מיקוד יכולות להשיג מהירויות גבוהות עוד יותר8.
יישומים מגוונים יכולים להפיק תועלת מטכניקות DFP. משתפי הפעולה שלנו השתמשו במערכות שלנו לניתוח תפקודי פנים9, אנימציית פנים10, מחקרי מכניקת לב11 ומדידות פני נוזלים, אך קיימים יישומים פוטנציאליים רבים אחרים. סרטון זה ילמד את היסודות של טכניקות DFP וימחיש את התכנון והתפעול של מערכת DFP בינארית.
טכניקות הקרנת שוליים דיגיטליות (DFP) מבוססות על מתאם וטריאנגולציה בין שתי תצוגות של אותה סצנה בזוויות שונות, אותו עיקרון המופעל על ידי העיניים והמוח האנושיים להשגת ראיית סטריאו. עם זאת, בניגוד לשיטה מבוססת סטריאו, DFP משתמש במקרן וידאו דיגיטלי כדי להחליף את אחת המצלמות1. המקרן מקרין במהירות דפוס סינוסואידלי ידוע על האובייקט שפני השטח של האובייקט מעוותים בשדה הראייה של המצלמה. ניתן לנתח שלושה דפוסים מעוותים כאלה (תמונות שוליים) בשינויי פאזה שונים זה מזה כדי לאחזר את העומק באמצעות טריאנגולציה. השימוש בדפוס ידוע מבטל את הבעיה החישובית הקשה של זיהוי נקודות התכתבות, ומאפשר לכידת מדידות עומק ברזולוציית המצלמה. לדוגמה, עם מצלמה של 576 x 576, הטכניקה יכולה ללכוד 331,776 נקודות. זה מאפשר למערכות DFP למדוד פרטים עדינים מאוד כמו תנועת שרירי הפנים ברגשות אנושיים.
טכניקות הדמיה אופטית תלת מימדית לאירועים סטטיים או מעין-סטטיים נחקרו בהרחבה במהלך העשורים האחרונים וזכו להצלחה רבה בעיצוב משחקי וידאו, אנימציה, סרטים, סרטוני מוזיקה, מציאות מדומה, טלכירורגיה ודיסציפלינות הנדסיות רבות5. למרות שקיימות טכניקות פרופילומטריה תלת מימדיות רבות, ניתן לסווג אותן לשתי קטגוריות: שיטות מגע עם פני השטח ושיטות ללא מגע עם פני השטח. גם מכונת מדידת הקואורדינטות (CMM) וגם מיקרוסקופ הכוח האטומי (AFM) דורשים מגע עם משטח המדידה כדי להשיג פרופילים תלת מימדיים בדיוק גבוה. דרישה זו מטילה מגבלות חמורות על מהירות דרכי המגע. הם לא יכולים להגיע למהירות מדידת קילו-הרץ עם אלפי נקודות לסריקה.
טכניקות ללא מגע פני השטח משתמשות בדרך כלל בשיטות טריאנגולציה אופטיות (למשל ראיית סטריאו, סטריאו מרחב-זמן, אור מובנה). על ידי הקרנה פעילה של דפוסים ידועים על האובייקטים, ניתן להשתמש בטכניקות אור מובנות למדידת משטחים ללא וריאציות מרקם מקומיות חזקות1. ניתוח שוליים הוא קבוצה מיוחדת של טכניקות אור מובנות המשתמשות בדפוסים מובנים סינוסואידיים (הידועים גם בשם דפוסי שוליים). מכיוון שלדפוסים אלה יש עוצמות המשתנות ברציפות מנקודה לנקודה באופן ידוע, הם מגבירים את טכניקות האור המובנות מרזולוציית פיקסל מקרן לרזולוציית פיקסל מצלמה12. בעבר הלא רחוק, טכניקות ניתוח שוליים היו חיוניות בהשגת הדמיה תלת מימדית ברזולוציה גבוהה.
טכניקת הקרנת השוליים הדיגיטלית (DFP) משתמשת במקרני וידאו דיגיטליים כדי ליצור דפוסי שוליים סינוסואידיים. לטכניקה זו יש יתרונות של עלות נמוכה יותר, מהירות גבוהה יותר ופשטות פיתוח, והיא הייתה תחום מחקר פעיל מאוד בעשור האחרון. ההתפתחויות האחרונות ב-DFP וטכניקות אור מובנות דיגיטליות דומות מסוכמותב-1-5. כדי להשיג יישומים במהירות גבוהה, עדיף מקרן עיבוד אור דיגיטלי (DLP) בשל מנגנון הפעולה הבסיסי שלו. המהירות והגמישות של טכניקה זו אפשרו לנו לרכוש וידאו תלת מימד ב-40 הרץ 13 ולאחר מכן ב-60 הרץ 6,7.
עם זאת, קיימת מגבלת מהירות בסיסית עבור טכניקת DFP המסורתית. מקרן DLP יכול להחליף רק תמונות צבעוניות של 8 סיביות בקצב הרענון המרבי שלו (בדרך כלל 120 הרץ). מכיוון שדפוסי השוליים המסורתיים הם תמונות בגווני אפור של 8 סיביות, אנו יכולים לקודד שלוש מהן לתמונה צבעונית אחת כערוצי הצבע האדום, הירוק והכחול. המקרן יחליף כל ערוץ (ולכן כל דפוס שוליים) פי שלושה מקצב הרענון (בדרך כלל 360 הרץ). עם זאת, מכיוון שכל פריים וידאו תלת-ממדי דורש שלוש דפוסי שוליים, הקצב המרבי של לכידת וידאו תלת-ממדית הוא עדיין רק קצב הרענון (120 הרץ)3,14. כדי לפרוץ את מגבלת החומרה הזו, המצאנו טכניקת DFP שונה המשתמשת בביטול מיקוד בינארי8. במקום דפוסי שוליים בגווני אפור של 8 סיביות, טכניקה זו משתמשת בתבניות מובנות בינאריות של 1 סיביות שנוצרו על ידי מחשב. דפוסים אלה אינם ממוקדים באמצעות עדשת המקרן כדי להפוך לדפוסים פסאודו-סינוסואידיים עבור DFP. מכיוון שמקרני DLP יכולים להציג תמונות בינאריות בסדר גודל מהיר יותר מתמונות בגווני אפור של 8 סיביות, טכנולוגיית ביטול המיקוד הבינארי מאפשרת מהירות הדמיית וידאו תלת מימדית של עשרות קילו-הרץ באותה רזולוציה כמו טכניקות DFP הקונבנציונליות15.
המטרה הכוללת של הפרוטוקול הבא היא להדגים את המימוש והתפעול הבסיסיים של מערכת DFP בינארית לשינוי פאזה תלת-שלבי. ראשית, הפרוטוקול יכסה את הבחירה והאינטגרציה של הרכיבים הדרושים. לאחר מכן, הוא ידון בשיטת הכיול הפשוטה והנגישה ביותר עבור המערכת; שיטות כיול מורכבות יותר זמינות בספרות עבור יישומים ספציפיים16,17. לאחר מכן הפרוטוקול יתמקד בהליך לכידת וידאו תלת מימד עם המערכת ובתהליך המרת תמונות השוליים למדידות תלת מימד חזותיות. לבסוף, נציג כמה תוצאות מייצגות מהמערכות שלנו בזמן אמת ובמהירות גבוהה.
1. תצורת מערכת
סכימה של המערכת מוצגת באיור 1.
2. כיול מערכת
כיול מישור ייחוס זה הוא שיטת הכיול הפשוטה והנגישה ביותר עבור המערכת. לכן, זה הטוב ביותר להתחלה. שיטות כיול מדויקות יותר זמינות בספרות עבור יישומי סינוסואיד16 ובינארייםספציפיים 17. לדיוק מרבי, יש לבצע כיול ממש לפני לכידת הנתונים. לאחר הכיול, אין לעקור את המצלמה והמקרן זה לזה.
3. רכישת נתונים
4. ניתוח נתונים והדמיה
עם תוכנה מותאמת למהירות כמו ממשק המשתמש הפנימי שלנו, שלב זה יכול להתרחש במהלך לכידת נתונים. עיבוד בזמן אמת מאפשר למשתמש לזהות מיד אם הנתונים המתקבלים רצויים עבור היישום ולהתאים במידת הצורך. עם זאת, עיבוד לאחר יכול להיות גמיש יותר ודיוק גבוה יותר. עיבוד לאחר הוא גם הרבה יותר פשוט ליישום והמקום הטוב ביותר להתחיל בו.
איור 1 מציג את הסכימה של המערכת. מערכת ביטול המיקוד הבינארית המהירה בסרטון זה מורכבת ממקרן Logic PD DLP LightCommander ומצלמת Phantom v9.1 CMOS.
איור 2 מציג פריים יחיד ממערכת תלת-ממדית בזמן אמת של פנים אנושיות. מערכת זו משתמשת במצלמת 640 x 480. הודות לדפוס הסינוסואידלי הידוע שהוזכר לעיל, אנו יכולים ללכוד 640 x 480 = 307,200 מדידות, מספיק רזולוציה כדי לתעד פרטים עדינים מאוד.
איור 3 מציג דוגמה למדידת הבעות פנים אנושיות בתלת-ממד ב-60 הרץ. כאן, ארבע פריימים שנבחרו מתוך רצף וידאו מדגימים בבירור את היכולת של מערכת זמן אמת ללכוד שינויים דינמיים בגיאומטריה מפורטת עדינה.
איור 4 מדגים את תוכנת ההדמיה החיה שלנו המשמשת בשילוב עם מערכת הווידיאו התלת-ממדית שלנו לביטול מיקוד בינארי בזמן אמת. הווידיאו התלת-ממדי של הנושא מוצג בזמן אמת על צג המחשב מימינו. תוכנה זו נכתבה ב-C++ באמצעות ספריית OpenGL, GLSL ו-QT. המחשב בו נעשה שימוש הוא מחשב נייד של Lenovo.
איור 5 מציג פריימים תלת-ממדיים ממדידת לב ארנב חי עם מערכת דה-מיקוד בינארית סופר-מהירה שפיתחנו לאחרונה. מערכת זו יכולה להקליט פריימים תלת-ממדיים ב-667 הרץ ברזולוציית תמונה של 576 x 576. נדרש קצב סופר מהיר כדי למדוד את פני הלב ללא חפצים המושרים על ידי תנועה. מחקר מדידת הלב נעשה בשיתוף פעולה עם פרופ' איגור אפימוב מאוניברסיטת וושינגטון-סנט. לואי (ראה11 לפרטים נוספים); שימו לב שהארנב נהרג באופן אנושי ושהתמונות צולמו כשהלב עדיין פועם.

איור 1.פריסת מערכת הדמיית וידאו תלת מימדית. במערכת זו, מקרן DLP מהיר מקרין שלוש תמונות בינאריות עם הסטת פאזה ברצף מהיר על הנושא. מצלמת CMOS מהירה משמשת לצילום שלוש תמונות השוליים בזו אחר זו לצורך חישוב העומק.

איור 2.מדידות תלת מימד של פנים אנושיות ברזולוציה של 640 x 480, חושפות פרטים עדינים. משמאל לימין מציג את המרקם שצולם בו-זמנית כשהוא מיושר באופן מושלם עם הגיאומטריה, תצוגה מוצללת של הגיאומטריה, תצוגת מסגרת תיל המתארת את צפיפות הנקודות, תקריב של אזור האף ותקריב של אזור העין.

איור 3.ארבע פריימים נבחרים מתוך וידאו תלת מימד של היווצרות הבעת פנים.הסרטון צולם ב-60 הרץ ברזולוציה של 640 x 480. פריימים אלה מדגישים את השינויים הגיאומטריים בפניה של האישה כשהיא עוברת מהבעה ניטרלית לחיוך.

איור 4.צילום, עיבוד ועיבוד וידאו תלת-ממדי בשידור חי. המדידות התלת-ממדיות מוצגות בזמן אמת על גבי מסך המחשב מימין לנושא הצילום.

איור 5.לכידת לב ארנב חי עם מערכת הדמיית הווידאו התלת-ממדית המהירה שלנו. הלב פועם בקצב של כ-200 פעימות לדקה. קצב הלכידה בתלת מימד היה 166 הרץ עם רזולוציית תמונה של 576 x 576. ראה11 לפרטים נוספים.
טכנולוגיית הדמיית וידאו תלת-ממדית ברזולוציה גבוהה, בזמן אמת עד מהירה במיוחד, היא טכנולוגיית פלטפורמה שעשויה להועיל לתחומים מדעיים רבים ומגוונים, החל ממדע ביולוגי ועד פרקטיקה הנדסית. יישומים ביו-רפואיים כוללים מדידות מדויקות של תנועות פנים ומשטחי איברים. יישומים אחרים כוללים בקרת איכות אוטומטית תלת מימדית עם זיהוי תכונות משטח מעוותות; שיחות ועידה בווידאו משופרות בתלת-ממד; דיגיטציה מפורטת של תווי פנים לסרטים ומשחקי וידאו; מדידות דפורמציה צפופות ומהירות לתכנון וניתוח מבנים; ואפיון פני השטח של נוזלים. יישומים ביולוגיים והנדסיים רבים (למשל לבבות ארנב פועמים, גלי הלם נוזליים) דורשים קצבי הדמיה מהירים במיוחד של מערכת דה-מיקוד בינארית כדי לפתור נכון תכונות מבלי ליצור כינוי של חפצים.
עם זאת, נותרו אתגרים רבים לאימוץ נרחב של טכנולוגיה זו. טכנולוגיית DFP קונבנציונלית מחייבת את המקרן להציג תבניות שוליים סינוסואידיות בגווני אפור של 8 סיביות. מהירות טכניקה זו מוגבלת על-ידי קצב הרענון של המקרן (בדרך כלל 120 הרץ). מהירות זו מספיקה ללכידה בהילוך איטי כמו זו בהבעות פנים. עם זאת, קיימים יישומים רבים הדורשים קצבי לכידה מהירים יותר.
טכנולוגיית ביטול המיקוד הבינארי הקלה על מגבלת המהירות הזו, ויצרנו בהצלחה מערכת הדמיית וידאו תלת-ממדית מהירה במיוחד. עם זאת, למערכת זו יש שני חסרונות. ראשית, היא דורשת מקרן יקר כמו פלטפורמת DLP Discovery ומצלמת וידאו יקרה במהירות גבוהה כמו Vision Research Phantom v9.1. שנית, מכיוון שהיא מייצרת דפוסים סינוסואידיים באמצעות ביטול המיקוד של תבניות בינאריות בריבוע, לטכניקת ביטול המיקוד הבינארי יש קושי ליצור שוליים סינוסואידיים באותה איכות כמו טכניקת DFP המסורתית וטווח מדידת עומק מופחת (להסבר נוסף, ראה23). מחקר שנערך לאחרונה מצביע על כך שדפוסים סינוסואידיים בינאריים מהוססים יכולים להקל משמעותית על המגבלות על טווח מדידת העומק19. מחקר עתידי יתמקד בהתגברות על הבעיות הנותרות תוך שמירה על היתרונות של ביטול מיקוד בינארי.
אתגר נוסף הוא דחיסה ואחסון של כמות גדולה של נתונים הנוצרים על-ידי מערכות הדמיית וידאו תלת-ממדיות במהירות גבוהה וברזולוציה גבוהה. סרטוני וידאו תלת-ממדיים לא דחוסים גדולים באופן דרסטי מסרטוני וידאו דו-ממדיים לא דחוסים. לדוגמה, עבור סרטון תלת-ממד שהוקלט ב-30 הרץ למשך דקה אחת ברזולוציה של 640 x 480, הקובץ . גודל קובץ OBJ יכול להיות מעל 50 ג'יגה-בייט, מה שמקשה מאוד על האחסון. מכיוון שנעשתה התקדמות מועטה בתחום דחיסת הווידאו התלת מימדי, נמשיך להתמקד בכך בעתיד.
למחברים אין אינטרסים כלכליים מתחרים.
מחקר זה היה מאמץ מצטבר שהחל לפני יותר מ-10 שנים כאשר ד"ר ג'אנג היה סטודנט לתואר שני באוניברסיטת סטוני ברוק. הסטודנטים הנוכחיים והקודמים בצוות שלנו באוניברסיטת איווה סטייט תרמו רבות לקידום הטכנולוגיה הזו למקום שבו היא נמצאת היום. עבודה זו מומנה בחלקה על ידי הקרן הלאומית למדע במסגרת פרויקט מספר CMMI 1150711, וקרן וויליאם ווירג'יניה בינגר.
| Name | Company | Catalog Number | Comments |
|---|---|---|---|
לא נעשה שימוש בחומרים או ציוד. | |||
Request permission to reuse the text or figures of this JoVE article
Request Permission