$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
סעיף זה מציע תחילה שיטת התאמת FP לתמונות תיירות, המשלבת SURF ואלגוריתם ORB משופר לשיפור עמידות התאמת FP. לאחר מכן, המחקר מציע טכניקת רישום תלת-ממדי לתיירות AR המבוססת על שיפור HM כדי לשפר את אפקט המיזוג בין מידע וירטואלי לעולם האמיתי. הניסויים נערכו באמצעות מערכי נתונים של תמונות זמינים לציבור. באופן ספציפי, נעשה שימוש במערך הנתונים של קבוצת הגאומטריה הוויזואלית של אוקספורד (VGG), הכולל רצפי תמונה עם שינויים בקנה מידה, טשטוש, תאורה ונקודת מבט, והוא מאומץ באופן נרחב להערכת אלגוריתמים של התאמת תכונות ורישום בראיית מחשב. לא נדרשה אישור מוועדה אתית לשימוש במאגר הנתונים הזמין לציבור זה.
שילוב SURF ואלגוריתם ORB משופר להתאמת FP בתמונות תיירות
עם ההתפתחות המשגשגת של תעשיית התיירות, הביקוש לטכנולוגיית AR בשירותי תיירות אוטומטית גובר. אלגוריתם ORB הוא אלגוריתם יעיל לזיהוי ותיאור FP. טכנולוגיית AR הייתה בשימוש נרחב19. עם זאת, בתהליך התאמת תמונות תיירות ב-FP, האלגוריתם הקיים של ORB סובל מפגמים כמו עמידות לקויה בשינויים בקנה מידה, דיוק התאמת תכונות נמוך,ו-20 גוזל זמן. כדי להגדיל את הדיוק והעמידות של ההתאמה, מחקר זה מציע שיטת התאמת תכונות חזקה המשלבת את SURF עם אלגוריתם ORB משופר. כדי להשיג אי-שינוי בקנה מידה, התמונה הנכנסת עוברת סינון גאוסיאני ובניית פירמידה. אלגוריתם SURF מזהה FPs אינבריאנטיים בקנה מידה, כאשר הכיוון נקבע באמצעות תגובות גל. איכות התכונות משתפרת על ידי שיפור הנקודות הראשוניות באמצעות קריטריון הפינה של האריס ושמירה על הנקודות הייחודיות ביותר. שיטת הזרימה האופטית לוקאס-קנאדה עוקבת אחרי תכונות בין פריימים שונים, ואלגוריתם RANSAC מבטל נקודות לא תואמות. הפער המתודולוגי שמטופל כאן אינו רק יישום רציף של SURF ו-ORB, אלא אסטרטגיית היברידיזציה חדשנית שנועדה להתגבר על המגבלות הספציפיות של היברידים סטנדרטיים בסביבות תיירות מורכבות. בניגוד לשיטות SURF-ORB המסורתיות, שמשתמשות ב-SURF לזיהוי ואז מיישמות ישירות את תיאור ORB, השיטה הנוכחית מציגה שני שיפורים קריטיים. ראשית, הכיוון של כל FP הממוקם על ידי SURF מחושב מחדש באמצעות תגובת הגל שלו. זה מספק הערכה כיוונית חזקה יותר מאשר SURF לבדה באמצעות שיטת ה-Haar-wavelet הסטנדרטית. שנית, וחשוב יותר, נקודות ה-SURF הראשוניות אינן בשימוש ישיר. במקום זאת, הם מעודנים בקפדנות באמצעות קריטריון הפינה של האריס כדי לסנן נקודות לא מובחנות עם תגובות נמוכות הממוקמות באזורים שטוחים או לאורך הקצוות.
עיבוד מוקדם של תמונה
בשלב העיבוד המוקדם של תמונות תיירות, המחקר מחלץ את התכונות מתמונות גווני אפור. כדי לאפיין עוד יותר את התכונות המקומיות של התמונה, המחקר משתמש ברכיב הגרדיאנט לזיהוי וסיווג התמונה21. משוואה (1) הדגימה את ביטויה.
(1)
במשוואה (1) I(x,y) מציין את ערך הפיקסל של התמונה בקואורדינטה (x,y).
מסמן את וקטור הגרדיאנט של התמונה ב-(x,y).
ומציגים
את הנגזרות החלקיות של התמונה בכיווני x ו-y, בהתאמה. T מציין את הטרנספוזיציה של וקטור הגרדיאנט.
זיהוי נקודות תכונה
לאחר זיהוי התמונה באמצעות רכיבי גרדיאנט, המחקר משתמש בתכונות ממבחן המקטעים המואצים (FAST) באלגוריתם ORB כדי לזהות את ה-FPs של התמונה. יתרה מזאת, ה-FPs מותאמים בצורה אלימה באמצעות אלגוריתם תיאור תכונות אלמנטריות בלתי תלויות (BRIEF)22 הבינארי. הסכמטיקה של זיהוי והתאמת תכונות של אלגוריתם זה מוצגת באיור 1.

איור 1: דיאגרמה סכמטית של התאמת תכונות בין אלגוריתם זיהוי תכונות FAST לבין אלגוריתם תיאור BRIEF. אנא לחצו כאן כדי לצפות בגרסה גדולה יותר של איור זה.
איור 1 ממחיש את תהליך זיהוי התכונות של האלגוריתמים FAST ו-BRIEF. איור 1A הוא דיאגרמה סכמטית של זיהוי תכונות באמצעות אלגוריתם FAST. תבנית עגולה של 16 פיקסלים משמשת להשוואת בהירות סביב הפיקסל המרכזי לזיהוי מהיר של תכונות פינה בתמונה. איור 1B הוא דיאגרמה סכמטית של התאמת תכונות באלגוריתם BRIEF. על ידי בחירת מספר זוגות פיקסלים סביב נקודות התכונה להשוואה בגווני אפור, נוצרים תיאורים בינאריים, ומשתמשים בהתאמת כוח גס להשגת התאמה בין נקודות התכונה בין שתי תמונות. השיפור כולל שימוש ראשוני בשיטת הסינון הגאוסיאנית, שמטרתה להחליק את התמונה ולהפחתת רעש בתדרים גבוהים. בהמשך, שיטת הדגימה המוטה משמשת להפחתת הרזולוציה המרחבית של התמונה, ובכך להפחית את המורכבות החישובית תוך שמירה על התכונות העיקריות של התמונה. המחקר עושה שימוש בשיטת בניית פירמידת תמונה, תוך ניצול שתי הטכניקות שהוזכרו לעיל כדי להבטיח ש-FPs של תמונות יפגינו תכונות אינווריאנטיות בקנה מידה23. הביטוי להחלקת התמונה באמצעות מסנן גאוסי נמוך מוצג במשוואה (2).
(2)
במשוואה (2), ge(x,y) מציין את פונקציית המסנן הגאוסיאנית. e היא סטיית התקן (SD) של פונקציית גאוסיאנית. exp מציין את הפונקציה האקספוננציאלית. פירמידת התמונה שנבנתה על ידי סינון גאוסיאני מוצגת סכמטית באיור 2.

איור 2: דיאגרמה סכמטית של פירמידת התמונה שנבנתה על ידי סינון גאוסיאני. אנא לחצו כאן לצפייה בגרסה רחבה יותר של האיור.
איור 2 מציג את מבנה פירמידת התמונה, שבו מספר תמונות ברזולוציה נמוכה נוצרות בהדרגה על ידי סינון גאוסיאני ודגימה קטנה. ביניהם, המסנן הגאוסי מפחית את רעש התדר הגבוה בתמונה על ידי טשטוש באמצעות פעולה קונבולוציונית. כנקודת ביקורת ויזואלית בשלב העיבוד המוקדם הזה, ניתן להציג את פירמידת התמונה שנוצרה. יש לציין שכל רמה בפירמידה מציגה רזולוציה הולכת ויורדת יותר של התמונה המקורית. ישנה עלייה ניכרת בטשטוש והפחתה בפרטים העדינים בעקבות סינון גאוסיאני והדגימה המוטה. כדי לשפר את יעילות זיהוי ה-FPs בתמונה, המחקר משתמש באלגוריתם SURF למיקום ה-FPs הללו בתמונה. שיטה זו כוללת כימות האזור שמסביב ל-FP ומינוף תגובת הגל כדי לקבוע את כיוון ה-FP. עקב קיומם של FPs כפולים ובלתי תקינים שמופקים על ידי SURF, מספרם המופרז יפחית את מהירות הזיהוי של תכונות תמונת המטרה (TI). לכן, המחקר עושה שימוש באלגוריתם זיהוי נקודות זווית Harris כדי לזהות את FPs24 האופטימליים של תמונות. משוואה (3) מציגה את ערך התגובה הזוויתית של האלגוריתם.
(3)
במשוואה (3), H מציין את מטריצת האריס. u(x,y) מציין את פונקציית המשקל של החלון. ix ו-i y מסמנים את גודל הערך האפור (GV) של נקודת הפיקסל. A מציין את ערך התגובה של זווית האריס. det H ו-traceH מציינים את הדטרמיננטה והעקבה של מטריצת האריס, בהתאמה. k מציין את ערך המקדמים. הסכמטיקה של כיוון ה-FPs שנבחרו על ידי אלגוריתם SURF וחלון ההחלקה של אלגוריתם זיהוי זוויות האריס מוצגות באיור 3.

איור 3: דיאגרמה סכמטית של אלגוריתם SURF, בחירת FP, וחלון הזזה עבור אלגוריתם זיהוי הפינות Harris. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.
איור 3 מציג את הרכב אלגוריתם SURF לזיהוי FPs בתמונה. איור 3A מציג את התרשים הסכמטי של בחירת כיוון נקודות תכונה באלגוריתם SURF. על ידי חישוב הכיוון הראשי של תגובת גל האר בשכונת נקודות התכונות, נקבעת כיוון הסיבוב הבלתי משתנה של נקודת התכונה, בדרך כלל מיוצג באופן אינטואיטיבי על ידי חצים או קטעי קו כיווניים. איור 3B הוא דיאגרמה סכמטית של חלון הזזה של אלגוריתם זיהוי הפינות האריס, המראה את תהליך התנועה של החלון בתוך אזור התמונה. נקודות פינה מזוהות על ידי חישוב השינויים בגווני אפור של פיקסלים בתוך החלון, ואזורים עם ערכי תגובה גבוהים מזוהים כנקודות פינה.
התאמת תכונות
לאחר זיהוי FPs של תמונה, המחקר משתמש בשיטת LK OF כדי לעקוב אחרי FPs שזוהו. שיטה זו מחשבת את התנועה בין פריימים סמוכים על ידי מעקב אחר תנועת ה-FPs בתמונה כדי להשיג התאמת FP ברצף הווידאו. שיטת LK OF צריכה לקיים את ההנחות של פיקסל קבוע GV, תנועה קטנה ועקביות תנועה אזורית בעת חישוב התנועה בין פריימים סמוכים25. שיטת לוקאס-קנאדה מאומצת באופן אסטרטגי בהתחשב ביעילות החישובית שלה, שהיא קריטית ליישומי תיירות AR בזמן אמת. ההנחות שלו מתמתנות בתוך ההקשר הספציפי. קצב הפריימים הגבוה של לכידת וידאו בדרך כלל מבטיח הזזות קטנות בין הפריימים, מה שממלא את דרישת התנועה הקטנה. בעוד שיציבות הבהירות המוחלטת היא אידיאלית, חלון המעקב הקצר בין פריימים עוקבים ממזער הפרות חמורות. הכי חשוב, אלגוריתם RANSAC הבא מטפל ביעילות בשגיאות מעקב פוטנציאליות הנובעות מהפרות הנחות על ידי סינון חריגים. לכן, LK משמש כמעקב התחלתי יעיל שפלטו מאומת בקפדנות, מה שהופך אותו למתאים למערכת בזמן אמת, שבה איזון בין מהירות לעמידות הוא חיוני. לפי ההנחה של פיקסל GV קבוע, הביטוי מוצג במשוואה (4).
(4)
במשוואה (4), I(x,y,t) מציין את הפיקסל GV של התמונה במיקום (x,y) ברגע t . Ix ו-Ix מסמנים את ההיסט של הפיקסל בכיווני x ו-y, בהתאמה. i ו-j מציינים את רכיבי ה-OF של נקודת הפיקסל. Ix,i y ו-it מסמנים את ההבדל בתמונה בכיווני x, y ו-t, בהתאמה. ההנחה של עקביות תנועה אזורית מחושבת במשוואה (5).
(5)
במשוואה (5), itb מציין את הנגזרת החלקית של נקודת הפיקסל b th בתחום בכיוון הזמן t . v x v מציין את גודל שטח התחום הנבחר. b מציין את כל נקודות הפיקסל בתוך הדומיין. לסיכום, המחקר הנוכחי עושה שימוש בתיאור BRIEF כדי להתאים את ה-FPs המעקבים ובאלגוריתם RANSAC כדי לדחות את ה-FPs שנעקבו בטעות על ידי ה-ORB. שילוב זה של שיטות משפר את עמידות התאמת התכונות26. איור 4 מציג את התרשים הסכמטי של שיטת LK OF.

איור 4: דיאגרמה סכמטית של שיטת LK OF. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.
איור 4 מציג את תהליך היישום של שיער אופטי זרם של LK, המשתמש בשיטת אופטימיזציה איטרטיבית להעתקת FP בין פריימים סמוכים. לצורך אימות איכותי של אלגוריתם התאמת התכונות, ניתן לשכב ויזואלית את ה-FPs המותאם בין התבנית לתמונות הבדיקה. זוגות נקודות מותאמים נכון בדרך כלל מחוברים בקווים ירוקים או מסומנים באינדיקטורים ירוקים. לעומת זאת, אלגוריתם RANSAC יכול להציג חריגים עם סימנים אדומים. זה מספק הערכה חזותית מיידית של עמידות ודיוק תואמים לפני ניתוח כמותי. המחקר משתמש באלגוריתם RANSAC כדי לחשב את ה-HM של ה-FPs המתאימים בתמונה, ובכך להסיר את אלו שאינם תואמים נכון. ה-FPs שמותאמים בדיוק נשמרים אז. במקרה זה, ביטוי HM ופרמטר הסקאלה של אלגוריתם RANSAC מוצגים במשוואה (6).
(6)
במשוואה (6), M מציין את HM. m מציין את האלמנט במטריצה M. S מציין את פרמטר הסקאלה. (x,y) ו-(x',y') מציינים את מיקומי ה-FP של תמונת התבנית ותמונת הבדיקה, בהתאמה. לאחר קבלת קואורדינטות ה-FPs של תמונת הבדיקה, המחקר מבצע ניתוח השוואתי של המרחקים ביניהן לבין הנקודות המותאמות. משוואה (7) ממחישה שהיא גם מעדכנת את מספר האיטרציות וקובעת את מספר הנקודות הפנימיות.
E = log(1 - c)/log(1 - ηn) (7)
במשוואה (7), E היא האיטרציות. c מציין את רמת הביטחון. η מציין את יחס הנקודות הפנימיות. n הוא כמות הדגימות. אז הביטוי עבור SD של האיטרציה E מוצג במשוואה (8).
(8)
במשוואה (8), Sd(E) מציין את ה-SD. השיפור באלגוריתם ORB שתואר לעיל מוצג כמספק בסיס התאמת תכונות באיכות גבוהה לטכנולוגיית הרישום התלת-ממדית הבאה. שיפור זה מראה דיוק ועמידות גבוהים יותר בסצנות מורכבות. חלק מהסצנות הללו כוללות שינוי קנה מידה, שינוי אור והסתרה.
הקוד המדומה לשיפור ORB עם SURF והומוגרפיה משופרת לתיירות AR הוא כדלקמן.
אלגוריתם 1: שיפור ORB עם SURF והומוגרפיה משופרת לתיירות AR
קלט: רצף תמונת תיירות I, מודל וירטואלי תלת-ממדי M
פלט: סצנת AR מוצגת עם אובייקט וירטואלי רשום
שלב 1: עיבוד מוקדם של תמונה
1: I_gray ← ConvertToGrayscale(I)
2: I_smooth ← GaussianBlur(I_gray, קרנל=5×5, σ=1.2)
3: פירמידה ← BuildImagePyramid(I_smooth, רמות = 4, קנה מידה = 1.2)
שלב 2: זיהוי נקודות תכונה
4: keypoints_SURF ← SURF_Detect(פירמידה, סף הסיאן=1000)
5: עבור כל KP ב-keypoints_SURF
6: כיוון ← ComputeWaveletResponse(kp)
7: סוף עבור
8: keypoints_Harris ← HarrisCornerFilter(keypoints_SURF, k=0.04)
9: תיאורים ← ImprovedORB_Describe(keypoints_Harris)
שלב 3: התאמת תכונות
10: keypoints_tracked ← LucasKanadeOpticalFlow (keypoints_Harris, חלון=15×15)
11: התאמות ← BruteForceMatcher (תיאורים)
12: inliers, H ← RANSAC (התאמות, maxIterations=2000, reprojThreshold=3.0)
שלב 4: רישום תלת-ממדי עם הומוגרפיה משופרת
13: H_improved ← ComputeImprovedHomography (inliers, camera_intrinsics)
14: R, t ← DecomposeHomography(H_improved)
15: פוזה ← ComposeCameraPose(R, t)// שלב 5: רינדור AR
16: virtual_object ← Load3DModel(M)
17: scene_rendered ← OpenGL_Render(virtual_object, פוזה, רקע=I)
18: חזרה scene_rendered
טכניקת רישום תלת-ממדית בתיירות AR המבוססת על HM משופר
לאחר התאמה מדויקת של תכונות תמונות תיירות באמצעות שיטת התאמת FP, יש ליישם אותה עוד יותר בטכנולוגיית AR. טכנולוגיית רישום תלת-ממדי היא טכנולוגיה יסודית למימוש מערכות AR. הוא מחשב את פרטי התנוחה של המצלמה בעולם האמיתי באמצעות הקרנת תמונת תיירות יעדית. זה מאפשר התאמה ומיזוג מדויקים של אובייקטים וירטואליים וסצנות אמיתיות27. ה-HM יכול למפות את האובייקט הווירטואלי לעולם האמיתי מנקודת המבט של המשתמש, מה שמגביר את אפקט המיזוג בין מידע וירטואלי לעולם האמיתי. יתרה מזאת, היא יכולה לפתור את בעיית רישום המציאות המדומה כאשר הלוגו מוסתר חלקית. עם זאת, יעילות הרישום של HM בטכנולוגיית הרישום התלת-ממדית עצמה נמוכה, והיא מובילה לחוסר יישור של אובייקטים וירטואליים, מה שמוביל לאי-יציבות של אובייקטים וירטואליים28. לכן, מחקר זה מציע טכניקת רישום תלת-ממדית המבוססת על HM משופר. באמצעות זוגות FP מדויקים משלב 1, HM משופר מחושב באמצעות שיטת חישוב חזרה של אובייקטים וירטואליים למציאותיים המשלבת אינטרינסיקים של המצלמה. שיטה זו מתמודדת ביעילות עם יעילות רישום נמוכה וחוסר יישור אובייקטים וירטואליים של שיטות מסורתיות בסצנות דינמיות. המטריצה מפורקת למטריצת סיבוב ולוקטור תרגום כדי להגדיר את תנוחת המצלמה. מנוע הרינדור של OpenGL מקרין בדיוק מודלים וירטואליים תלת-ממדיים לזרם וידאו חי בהתבסס על פרמטרי תנוחה. מודלים של מיפוי טקסטורות ותאורה מבטיחים מיזוג פיזיקלי עקבי.
רישום ויזואליזציה תלת-ממדית
למימוש טכניקת הרישום התלת-ממדית, המחקר צריך תחילה לבנות מודל הדמיית חור סיכה כדי למפות את העולם האמיתי התלת-ממדי לתמונה דו-ממדית. הביטוי של מודל זה מוצג במשוואה (9).
(9)
במשוואה (9), X, Y ו-O מציינים את שלושת צירי המצלמה CS. (x,y,f) מציין את וקטור הקואורדינטות. f מציין את אורך המוקד (FL). λ מציין את גורם הסקאלה. כפי שמודגם באיור 5, המחקר הנוכחי בוחן את תכונות ההדמיה של מצלמת החור הסיכה באמצעות מערכת הטרנספורמציה בין CS התמונה ל-CS של המצלמה.

איור 5: מודל הדמיית חור סיכה והקשר בין נקודות מרחביות לנקודות הקרנה מישוריות. אנא לחצו כאן לצפייה בגרסה רחבה יותר של איור זה.
איור 5 מציג את המבנה הבסיסי של הדמיית חורי סיכה. איור 5A הוא דיאגרמה סכמטית של מודל הדימות של חור הסיכה, המתארת את המבנה הגאומטרי הבסיסי של הקרנת סצנה תלת-ממדית על מישור הדמיה דו-ממדי דרך חור קטן במרכז המצלמה, המשקף את עקרונות הפצת הקרניים והקרנת פרספקטיבה. איור 5B ממחיש עוד יותר את תהליך הקרנת נקודות מרחביות על הנקודות המתאימות במישור ההדמיה דרך מרכז המצלמה, ומבהיר את הקשר הפרופורציונלי בין אורך המוקד, קואורדינטות נקודת התמונה וקואורדינטות נקודת האובייקט. לאחר בניית מודל הדימות של חור הסיכה, המחקר עושה שימוש נוסף ב-HM כדי לבנות את מיפוי הקשר בין התבנית לתמונות הסצנה האמיתיות תחת צילום המצלמה. מניחים כי נקודות ההתאמה של שתי תמונות I1 ו-I2 נמצאות באותו מישור. המישור צריך לקיים את הביטוי המוצג במשוואה (10).
NZ P + d = 0 (10)
במשוואה (10), P מציין את המישור. N מציין את הווקטור הנורמלי של המישור P. d מציין את המרחק מהמישור P לנקודת המקור. Z מציין את וקטור התרגום. לסיבובים ותרגומות, המחקר משתמש בשיטת פירוק הערכים הסינגולריים להפקתם. הביטוי מוצג במשוואה (11)29.
(11)
במשוואה (11), p1 ו-p2 מציינים את קואורדינטות הפיקסלים של זוגות הצללים התואמים לתכונה בתמונות I1 ו-I2, בהתאמה. r1 ו-r2 מציינים את גורמי הסקיילינג של נקודות הפיקסל בתמונות I1 ו-I2, בהתאמה. K מציין את מטריצת הייחוס הפנימית של המצלמה. R מציין את מטריצת הסיבוב. ל-HM יש מורכבות חישובית גבוהה והוא נוטה לבעיה של שגיאת התאמת FP. לכן, המחקר משפר אותו באמצעות שיטת חישוב הפוכה של אובייקטים וירטואלייםואמיתיים 30. הביטוי המשופר של HM מוצג במשוואה (12).
(12)
במשוואה (12), M' מציין את ה-HM המשופר. fx ו-fy מסמנים את ה-FLs של המצלמה לאורך צירי X ו-Y, בהתאמה. u ו-v מציינים את קואורדינטות הנקודה הראשית. γ מציין את פרמטר ההטיה. הטרנספורמציה הפיזיקלית של השיטה מוצגת במשוואה (13).
(13)
במשוואה (13), T' מציין את מטריצת הטרנספורמציה הפיזיקלית. tx,t y ו-to מציינים את רכיבי הסיבוב של שלושת צירי הקואורדינטות. [R|Z] מציין את מטריצת הטרנספורמציה של העולם והמצלמה CS. ביישום טכנולוגיית AR, הביטוי של המיפוי בין התבנית לתמונה של סצנת הנסיעה האמיתית מוצג במשוואה (14).
(14)
במשוואה (14), Is ו-Iמסמנים את הנקודות על הייחוס ו-TI, בהתאמה. המחקר מחשב עוד את דיוק היישור של ה-HM המשופר כדי לבדוק את יעילות היישור של השיטה, כפי שמובע במשוואה (15).
(15)
במשוואה (15), Pre(M') מציין את דיוק היישור של ה-HM המשופר. (xa,y a,o a) מציין את ה-FPs בפועל. (xb,y b,o b) מציין את ה-FPs המיושרים. n מציין את מספר הקבוצות של נקודות תואמות. איור 6 מציג את המיפוי בין התרשים הסכמטי לתמונות של ה-HM המשודרג.

איור 6: יחס המיפוי בין התמונות לדיאגרמת הסכימה של ה-HM המשופר. אנא לחצו כאן לצפייה בגרסה גדולה יותר של איור זה.
כפי שמודגם באיור 6, קיימת התאמה ברורה בין תמונת התבנית ל-TI. לאחר יישום ה-HM המשופר, נקודת ביקורת ויזואלית מרכזית כוללת עיוות ויישור של תמונת התבנית על תמונת הסצנה המטרה. הקצוות של התבנית המוקרנת צריכים להתאים במדויק לתכונות המתאימות ב-TI. במהלך ההדמיה הסופית ב-AR, בדקו ויזואלית את המודל התלת-ממדי הווירטואלי כדי לוודא שהוא מעוגן באופן עקבי ומדויק למיקום ולכיוון הנכונים בסצנה האמיתית. לא אמור להיות רטט או סטייה מורשים כשהפרספקטיבה של המצלמה משתנה.
המחקר מדגים את מיפוי תמונת התבנית באמצעות מטריצת השפעה משופרת של but-for. כדי להשיג אינטראקציה בזמן אמת בין אובייקטים וירטואליים לנופים תיירותיים אמיתיים, המחקר משתמש בטכנולוגיית OpenGL כדי להציג מודלים תלת-ממדיים לבניית מערכת התיירות המציאותית. הטכניקה תחילה מגדירה את ההקשר של OpenGL, טוענת את המודל התלת-ממדי של אלמנטים תיירותיים וירטואליים, ומחשבת עם מיפוי טקסטורות ותאורה. לאחר מכן, זרם הווידאו בזמן אמת שנקלט על ידי המצלמה משמש כרקע כדי לספק נקודת ייחוס לרינדור אובייקטים וירטואליים. אובייקטים וירטואליים מונחים בדיוק על העולם האמיתי באמצעות HM, שמציג את האובייקטים הווירטואליים במיקום ובכיוון הנכונים כדי למזג אותם עם הסצנה האמיתית. במערכת התיירות AR, שבה הווידאו מצולם דרך ספריית OpenCV לווידאו בזמן אמת של הסיור31. עיבוד תמונה משתמש באלגוריתם ORB אופטימלי לזיהוי והתאמת תכונות במסגרת וידאו. במודול הרישום התלת-ממדי, המחקר משתמש ב-HM משופר למיזוג מציאות וירטואלית. הפלט הסופי והאינטראקציה מוצגים באמצעות טכנולוגיית OpenGL. תהליך היישום של טכנולוגיית סיורי AR מוצג באיור 7, המדגים את תהליך היישום הכולל של טכנולוגיית סיורי AR. איור 7 מציג את תרשים הזרימה של יישום המערכת של טכנולוגיית התיירות AR. לאחר הפעלת המערכת, זרם הווידאו בזמן אמת מתועד תחילה דרך המצלמה, ממנה מופקת תמונת היעד. התהליך נכנס לאחר מכן לשלב עיבוד התכונות, ומבצע ברצף חילוץ נקודות תכונה ותיאור לבניית תכונות תמונה. אם התאמת נקודות התכונה מצליחה, המערכת ממשיכה לשלב רישום המעקב התלת-ממדי, שבו מחושבים פרמטרי תנוחת המצלמה. זה משולב עם מודלים תלת-ממדיים מספריית החומרים הווירטואלית כדי להשיג מיזוג וירטואלי-ריאלי, ואפקט ה-AR הסופי המומזג מוצג למשתמש בזמן אמת. אם ההתאמה נכשלת, אלגוריתם RANSAC משמש להסרת נקודות אי-תואמות, ושלב עיבוד התכונות נכנס מחדש כדי להבטיח יציבות ועמידות המערכת. כל התהליך יוצר לולאה סגורה שלמה, מרכישת תמונה ועיבוד תכונות ועד רישום תלת-ממדי, מיזוג וירטואלי-ריאלי ותצוגה אינטראקטיבית, הממחיש את המסלול הטכני למערכות תיירות AR להשגת מיזוג וירטואלי-ריאלי יציב בזמן אמת בסצנות דינמיות.

איור 7: דיאגרמה סכמטית של תהליך היישום של טכנולוגיית תיירות AR. אנא לחצו כאן כדי לצפות בגרסה גדולה יותר של איור זה.
הכנה ניסיונית וחומרים
כדי להבטיח שחזוריות הניסויים, מפרטי החומרה, סביבת התוכנה ומאגרי הנתונים ששימשו במחקר זה מפורטים במפורש בטבלה 1.
| קטגוריה | פריט | מפרט / גרסה |
| חומרה | מצלמה | מצלמת רשת Logitech C920 HD Pro |
| מעבד מחשבים | מעבד AMD Ryzen 7 3700X עם 8 ליבות |
| זיכרון מחשב | 32GB RAM |
| מערכת הפעלה | Windows 10 (64 ביט) |
| תוכנה וספריות | שפת תכנות | C++ |
| סביבת פיתוח | Microsoft Visual Studio 2019 |
| ספריית ראיית המחשב | OpenCV 4.5.1 |
| API גרפי | OpenGL 4.6 |
| פלטפורמת סימולציה | כלי סימולציה של Visual Studio |
| מערך נתונים | מערך נתונים ראשי | מערך הנתונים של אוקספורד |
טבלה 1: הגדרת ניסוי: חומרה, תוכנה ומפרטי מאגרי נתונים.
ב-OpenCV, הטשטוש הגאוסי מיושם באמצעות פונקציית GaussianBlur(). פירמידת התמונה בנויה באמצעות buildPyramid(). גלאי SURF מאותחל עם SURF.create(), וקובע את סף ההסאן ל-400. תגובת פינת האריס מחושבת באמצעות cornerHarris(), ולאחר מכן מוחלת דיכוי לא מקסימלי כדי לסנן את נקודות המפתח. זרימת האופטיקה של LK מחושבת באמצעות פונקציית calcOpticalFlowPyrLK() שמיישמת את שיטת לוקאס-קנאדה הפירמידלית. פונקציית findHomography() משמשת להערכת הומוגרפיה, כאשר דגל השיטה מוגדר ל-RANSAC כדי לנצל את סף ההקרנה שנקבע. ה-HM המתקבל משמש אז עם perspectiveTransform() לאימות נקודות inlier. בצינור הרינדור של OpenGL, ה-HM מומר לתנוחת מצלמה ומוגדר באמצעות glLoadMatrix(). המודלים הווירטואליים התלת-ממדיים נטענים כקבצי .obj ומוצג באמצעות פקודות טרנספורמציה סטנדרטיות של OpenGL (glTranslate, glRotate). הזנת הווידאו בזמן אמת מ-OpenCV מועברת ל-OpenGL כטקסטורה באמצעות glTexImage2D() להשגת שכבת AR הסופית. הפרמטרים המרכזיים לאלגוריתמים בהם השתמשו במחקר זה מוגדרים במפורש בטבלה 2.
| אלגוריתם / רכיב | פרמטר | ערך |
| מסנן גאוסיאני | גודל הגרעין | 5 × 5 פיקסלים |
| סטיית תקן | 1.2 |
| זרימה אופטית LK | גודל החלון | 15 × 15 פיקסלים |
| RANSAC | איטרציות מקסימליות | 2000 |
| סף הקרנה מחדש | 3.0 פיקסלים |
| גלאי תכונות ORB | מספר מרבי של תכונות | 1000 |
| גורם קנה מידה (פירמידה) | 1.2 |
| מספר רמות הפירמידה | 4 |
| גלאי תכונות SURF | סף הסי | 1000 |
| גלאי פינת האריס | גודל הצמצם | 3 |
| ערך k | 0.04 |
טבלה 2: פרמטרים מרכזיים של אלגוריתמים לשחזוריות.