$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
מתודולוגיית QTSMixer
נניח
שתהיה סדרת זמן רב-משתנית של אורך sl ומספר ערוצים c. משימת החיזוי הרב-משתנית מוגדרת כחיזוי ערכים
עתידיים בהינתן היסטוריה
מסוימת על ידי מודל
חיזוי , שניתן לנסח כ

היכן
אורך רצף התחזית ומציין
את ערך החיזוי. ב-QTSMixer, נניח ש-XL×C מציין את סדרת הזמן הרב-משתנית המקורית באורך L ואת מספר הערוצים c. אנו מזינים את סדרת הזמן הרב-משתנית על ידי מיני-אצווה
, כאשר sl ≤ L ו- b הוא גודל האצווה. כפי שמוצג באיור 1, מודל QTSMixer מורכב מארבעה מרכיבים: נורמליזציה, הטמעת תיקון, ערבוב שכבות וחיזוי. בשלב האימון, אובדן המודל מחושב על ידי פונקציית
ההפסד של שגיאה ריבועית ממוצעת (MSE) כדי להשיג את ההתאמה הטובה ביותר. ניתן לאפיין את ה-QTSMixer כ

כאשר θ הוא וקטור הפרמטר הניתן לאימון ומתעדכן על ידי ירידת שיפוע סטוכסטית.

איור 1: הארכיטקטורה ברמה הגבוהה של QTSMixer. כאן אנו מחלקים את QTSMixer לארבעה מרכיבים: נורמליזציה, הטמעת תיקון, ערבוב שכבות וחיזוי. אנא לחץ כאן לצפייה בגרסה גדולה יותר של איור זה.
לאחר מכן, נפרט את רכיבי המודל של QTSMixer.
נרמול
תהליך ההתפשטות קדימה של QTSMixer מתחיל בקבלת נתוני
סדרת זמן הקלט. ראשית, נתוני הקלט מנורמלים ומתוקננים על ידי PatchTSMixer StandardScaler8 או סקלרים אחרים כדי לבטל את הבדלי הממדים בין התכונות ולהבטיח את יציבות ביצועי הנתונים במהלך האימון.
הטמעת תיקון
ראשית, נתוני סדרות הזמן הסטנדרטיים מחולקים למספר מקטעים באורך קבוע (טלאים) דרך מודול התיקון. עיצוב דגם זה הוא בהשראת Ekambaram et al.8, והיכולת ללכוד תכונות מקומיות משופרת באמצעות חלוקת טלאים. באמצעות חלוקת תיקונים, QTSMixer יכול להתמודד ביעילות עם דפוסי נתונים מורכבים של סדרות זמן, להפחית את מספר אסימוני קלט המודל ולהשיג תוצאות טובות יותר בזמן אימון קצר יותר. המיני-אצווה
מעוצבת מחדש ל-
, כאשר n הוא מספר התיקונים ו-pl מציין את אורך התיקון. בואו s מציין את צעד התיקון, אז
.
כדי להגביר את כוח הביטוי של המודל, כל טלאי ממופה למרחב בעל מימד גבוה יותר באמצעות שכבה ליניארית. לאחר מכן, הנתונים מעוצבים מחדש על
ידי טרנספורמציה ליניארית
, כאשר hf הוא מספר התכונות הנסתרות. למטריצת המשקל יש ממד של pl × hf .
ערבוב שכבות
בחלק זה, מידות התיקון, התכונה והתעלה מעורבבות באמצעות שכבות ערבוב מרובות. בהתבסס על הממד הממוקד בכל שכבת מערבל, הקלט מוחלף תחילה בהתאם כדי ללמוד מתאם לאורך הממד הממוקד. לאחר מכן, המידע מחולץ על ידי נורמליזציה של שכבות, MLP, QNN ומנגנון תשומת לב מגודרת (GA) כדי לחלץ מידע מקיף יותר על תכונות.
בשכבת ערבוב הטלאי, הקלט מעוצב תחילה מחדש ל-
, שבו אנו מתמקדים בממד התיקון (כלומר, הממד האחרון); לאחר מכן, מבוצעת נורמליזציה של השכבה. לאחר מכן, מודול זה משתמש ב-MLP משותף (ממד משקל n × n) כדי ללמוד את המתאם בין טלאים שונים. בינתיים, ה-QNN מתממש על ידי טכנולוגיית העלאה מחדש קוונטית20 כדי לשפר את יכולת הביטוי של השכבה הקוונטית. למעגל הקוונטי ב- QNN יש סך של שכבות ql , והשכבה iמכילה מעגל קידוד Ux ו- ansatz
, כאשר θi הוא וקטור הפרמטר הניתן לאימון ו - i = 1, 2, ..., ql. לאחר פעולת תוספת משוקללת, המודל מייצר מבנה היברידי של MLP ו-QNN, שנוסח כמרכיב
הראשון שלממד התיקון, כדי לשלב ביעילות יכולות חילוץ תכונות קלאסיות וקוונטיות. שימו לב שכאן αi הוא פרמטר הניתן לאימון עם ערך התחלתי של 0, המציין עד כמה ההתנהגות הקוונטית מוצגת. לבסוף, ה-GA8 משדרג באופן הסתברותי את התכונות הדומיננטיות ומקטין את התכונות הלא חשובות. שכבת ערבוב התכונות ושכבת ערבוב הערוצים פועלות בצורה דומה.
לאחר שכבות ערבוב מרובות, הנתונים מעובדים כ-
.
חיזוי
בשכבת החיזוי, הנתונים מעוצבים תחילה מחדש ל-
. הערכים העתידיים נחזים באמצעות ראש חיזוי קלאסי8 - התכונות המקודדות משוטחות ומוזנות לשכבה ליניארית קלאסית עם נשירה כדי ליצור חיזוי
של ערכים עתידיים.
תוצאות ניסויים
ערכנו ניתוח אמפירי מפורט על מערך הנתונים בעולם האמיתי, כלומר, מערך הנתונים של חיזוי תעבורת רשת לטווח ארוך (LTNTF)21, ושלושה מערכי נתונים ציבוריים פופולריים אחרים. הניסוי הראשון מבוסס על מערך הנתונים LTNTF21, המספק נתוני תנועה שעתיים ומידע על חגים עבור שלוש ערים A, B ו-C, ברשת העולם האמיתי בין ה-1 בינואר 2017 ל-20 בפברואר 2019. המשימה היא להשתמש בנתונים היסטוריים כדי לבנות מודל מתאים לחיזוי ערכי התנועה השעתיים עבור כל עיר במשך 95 הימים הבאים. הייחודיות של מערך הנתונים טמונה באותנטיות שלו ובאופיו ארוך הטווח, ומציע נתוני תעבורת רשת מפורטים מדי שעה המכסים מספר ערים לאורך יותר מ-800 ימים. תוצאות הניסוי מסוכמות בטבלה 1, איור 2 ואיור 3. כדי לשחזר את הניסוי, עיין README.md ב-Experiment_1_LTNFT בקובץ משלים 1.
טבלה 1: השוואת ביצועים בין QTSMixer ל-TSMixer במערך הנתונים של LTNTF. כאן ה-MAPE וה-RMSE משמשים כמדדי ההערכה העיקריים, וערכים נמוכים יותר מצביעים על ביצועים טובים יותר. אנא לחץ כאן להורדת טבלה זו.

איור 2: השוואה בין תוצאות החיזוי של TSMixer ו-QTSMixer. כאן אנו בוחרים באופן אקראי שלוש דוגמאות משלוש ערים ונותנים את ההשוואה החזותית בין הערכים האמיתיים לערכים החזויים של TSMixer ו-QTSMixer. אנא לחץ כאן לצפייה בגרסה גדולה יותר של איור זה.

איור 3: השוואה של תוצאות חיזוי של מקרה מיוחד של TSMixer ו-QTSMixer. כאן נבחרים הדגימות עם הביצועים הטובים ביותר של QTSMixer. אנא לחץ כאן לצפייה בגרסה גדולה יותר של איור זה.
הניסוי השני מבוסס על מסגרת BasicTS+(Basic Time Series)22 , שהיא ספריית בנצ'מרק וארגז כלים לחיזוי סדרות זמן. הוא תומך במגוון משימות ומערכי נתונים, כגון חיזוי מרחבי-זמני וחיזוי סדרות ארוכות, ומכסה מודלים סטטיסטיים, מודלים של למידת מכונה, מודלים של למידה עמוקה ואלגוריתמים אחרים. BasicTS+ מספקת פלטפורמה הוגנת ומקיפה לשכפול והשוואה של מודלים פופולריים של למידה עמוקה באמצעות תהליך מאוחד וסטנדרטי. אמת המידה של BasicTS כוללת שבעה מערכי נתונים של סדרות זמן רב-משתניות (MTS) שנאספו בקפידה המשתרעים על פני תחומים מגוונים בעולם האמיתי כדי לאפשר הערכה קפדנית של מודלים של חיזוי. האוסף כולל מערכי נתוני תנועה (PEMS04/08 לניטור זרימה), רשומות צריכת אנרגיה (חשמל/Etth1/Ettm1), אינדיקטורים כלכליים (שער חליפין) ומדידות סביבתיות (איכות האוויר של בייג'ינג). תוצאות הניסוי מוצגות בטבלה 2. כדי לשחזר את הניסוי, עיין README.md ב-Experiment_2_Basicts בקובץ משלים 1.
טבלה 2: השוואות ביצועים בין QTSMixer ומודלים אחרים על מערכי נתונים שונים של מסגרת BasicTS+. כאן MAE, WAPE ו-RMSE משמשים כמדדי הערכה, וערכים נמוכים יותר מצביעים על ביצועים טובים יותר. המודלים עם ספירת פרמטרים דומים מקובצים. אנא לחץ כאן להורדת טבלה זו.
הניסוי השלישי כולל ניתוח השוואתי בין הסימולטור הקוונטי למחשב קוונטי אמיתי. ניסוי זה משווה את הביצועים של Qiskit ומסגרת DQ על ידי הערכת היישומים שלהם של QTSMixer. הדיוק ויעילות הביצוע של שתי המסגרות במשימות חיזוי הוערכו. המחשב הקוונטי מוליך-על, ibm_brisbane, משמש בניסוי זה. תוצאות הניסוי מוצגות באיור 4 ובטבלה 3. כדי לשחזר את הניסוי, עיין README.md ב-Experiment_3_Qiskit בקובץ משלים 1.

איור 4: השוואה בין תוצאות החיזוי של Qiskit (בחומרה קוונטית) ו-DQ (בסימולטור). השוואה בין ערכים ותחזיות בפועל, עם תחזיות הנגזרות מניסויי Qiskit ו-DQ. אנא לחץ כאן לצפייה בגרסה גדולה יותר של איור זה.
טבלה 3: השוואת ביצועים של QTSMixer בין חומרה קוונטית לניסויי סימולציה. כאן, ה-MAPE וה-RMSE משמשים כמדדי ההערכה העיקריים, וערכים נמוכים יותר מצביעים על ביצועים טובים יותר. אנא לחץ כאן להורדת טבלה זו.