זרימת עבודה בינה מלאכותית המשלבת ייצוגי מקודדים דו-כיווניים מטרנספורמרים (BERT) ורשתות עצביות גרפיות (GNNs) לשליפת ידע בארגונים דיגיטליים

Summary

פרוטוקול זה מציג זרימת עבודה מונחית בינה מלאכותית שניתן לשחזור ומכוונת את BERT להפקת ישויות ויחסים, משתמשת ברשתות עצביות גרפיות ליישור אונטולוגיה, בונה גרפים של ידע ארגוני מנתונים לא מובנים, ומעריך באופן שיטתי ביצועי שליפה סמנטית ויעילות תמיכה בהחלטות.

Abstract

כמויות גדולות של נתונים ארגוניים לא מובנים עלולים להקשות על מערכות ניהול ידע ארגוניות (KM) לחלץ מידע נכון ורלוונטי להקשר, מה שעלול להוביל לשיתוף ידע לא יעיל ולעיכוב בקבלת החלטות. מחקר זה מציע מסגרת מאוחדת המונעת על ידי בינה מלאכותית כדי להתגבר על מגבלה זו. הוא משלב רשתות עצביות גרפיות (GNNs) ליישור אונטולוגיה והסקה סמנטית עם ייצוגי מקודד דו-כיווני משופרים מטרנספורמרים (BERT) להפקת ישויות ויחסים ספציפיים לתחום הספציפי. איסוף נתונים שיטתי, עיבוד מוקדם של קורפוסי טקסט ארגוניים, כיוונון עדין של BERT לזיהוי ישויות ויחסים, המרת טריפלים שהופקו לגרפי ידע מובנים, ויישור אונטולוגי מבוסס GNN להבטחת עקביות סמנטית בין מקורות ידע הטרוגניים, מהווים את צינור המתודולוגיה. כדי להעריך את יעילות המערכת בתרחישי ארגון אמיתיים, המסגרת משלבת גם מדדי הערכה ממוקדי משימות, כגון דיוק שחזור, נכונות יישור אונטולוגי והשהיית החלטה. בהשוואה לשיטות בסיס, אימות ניסויי בשני יישומים בתעשייה מראה ירידה של 35% בהשהיה קבלת ההחלטות ושיפור של 21% בדיוק שליפת הידע.

יתרה מזאת, משוב המשתמשים מצביע על כך שממשק KM הגביר את שביעות רצון המשתמשים בזכות חיפוש סמנטי ותיוג הקשר. הארכיטקטורה המוצעת מקלה על בניית גרף ידע שניתן לשחזור מנתוני ארגונים לא מובנים על ידי מיזוג שיטתי של הסקה והתאמה מבוססת גרף עם חילוץ מידע מבוסס למידה עמוקה. הממצאים מראים כי גם תוצאות ניהול ידע אסטרטגיות וגם תפעוליות השתפרו כאשר ייצוגי הידע המאורגנים מותאמים לנהלים הארגוניים. בהתחשב בכל הנסיבות, השיטה המוצעת משפרת את דיוק השחזור, מאיצה את זמני התגובה לתהליך ההחלטה, ומציעה אפשרות ישימה וניתנת להרחבה למערכות ניהול מידע ברמת הארגון.

Introduction

ניהול נתונים אפקטיבי יכול להיות קשה לאימוץ בתוכניות טרנספורמציה דיגיטלית בשל מאגרי נתונים מפוצלים, פלטפורמות ארגוניות מגוונות וידע מפוצל המתפשט על פני מסמכים לא מובנים. מסגרת טכנית ניתנת לשחזור, המיושמת באופן שיטתי, שמחליקה, מבנתת, מיישרת ומפעילת ידע ארגוני לא הוצע על ידי מחקרים רבים, למרות מחקרים קודמים שבחנו את אימוץ הבינה המלאכותית והטרנספורמציה הדיגיטלית מנקודת מבט ארגונית ומגזרית ^1,2,3. השיטות הנוכחיות מתמקדות בעיקר בתוצאות ניהוליות או אסטרטגיות, אך אינן מציעות מספיק פרטים ארכיטקטוניים לפריסת קנה מידה.

מערכות ניהול מידע קונבנציונליות (MIS) ומערכות תכנון משאבים ארגוניות (ERP) מטפלות בעיקר בנתונים מובנים ומאפשרות דיווח טרנזקציוני, אך אינן יכולות לעבד טקסט לא מובנה או לבצע חשיבה סמנטית מודעת להקשר. מצד שני, ישות קונטקסטואלית ו-RE מקופסות טקסטואליות מסובכות ^4,5 מתאפשרות בזכות מודלים מבוססי טרנספורמרים כמו BERT. באותו אופן, GNNs הוכיחו יכולת גבוהה להסקה יחסית, למידת ייצוג גרפי ויישור אונטולוגי במגוון תחומים^{מגוונים 6,7,8}. למרות ההתפתחויות הללו, המחקר הנוכחי בדרך כלל משתמש במודלים אלו בנפרד במקום לשלב אותם בצינור ניהול ניהול עסקים מגובש.

אנליטיקה של ביג דאטה, מחשוב ענן, האינטרנט התעשייתי של הדברים ולמידת מכונה מתקדמת הם דוגמאות להתפתחויות טכנולוגיות אחרונות שהאיצו את הטרנספורמציה הדיגיטלית בתעשיות כמו ייצור, בריאות, שירותים מקצועיים^וממשל 9,10,11,12. במקביל, מסגרות מדיניות בינלאומיות שמות דגש רב על יישום אחראי של בינה מלאכותית, תוך דגש על התאמה אתית, אחריות ושקיפות במערכות דיגיטליות 13,14,15. עם זאת, פרשנות אתית ועמידות טכנית כמעט ולא משולבות בארכיטקטורה אחת במערכות KM קיימות.

בדוחות סביבתיים, חברתיים וממשל (ESG), לדוגמה, קבלת החלטות מונעת בינה מלאכותית עשויה להתעלם מסוגיות מוסריות מורכבות שדורשות החלטות מבני אדם. ירידה ביכולת להעריך נתונים באמצעות החלטה¹⁶ המיוחדת עלולה לנבוע מהסתמכות יתר על הידע. פונקציית הייעוץ שמבוצעת על ידי PAs, שבעבר התבססה על ידע כלכלי ואינטראקציה עם הלקוח, עשויה בסופו של דבר להיפגע על ידי אוטומציה¹⁷. זה עלול להפריע כי הכלים שנועדו לקדם את המקצוע עלולים בטעות לפגוע ביכולות אנושיות קריטיות.

השילוב הטבעי של טכנולוגיה דיגיטלית מתקדמת עם דאגה מוגברת לביצועים מסחריים מוסריים ויזמות שמספקים אנשים מסמלים את תעשייה 6.0, שלב פורץ דרך בפיתוח התעשייתי¹⁸. שלב זה, שמתרחש על תעשייה 4.0 ותעשייה 5.0, הוא השלב הבא בצמיחה הטכנית. על ידי דמיון תקופה שבה ההמצאה משפרת את הכישורים האנושיים במקום להחליף אותם, תעשייה 6.0 מרחיב את המחשבות הללו¹⁹. תוכנית זו מדברת על דאגות מוסריות לגבי מיכון תוך כדי תמיכה בשיתוף פעולה בין בני אדם לרובוטים, יעילות מצטברת²⁰. המרכיב העסקי ב-DL של העובדים חשוב, שכן אינטראקציות עם עמיתים בחברה לעיתים קרובות מעצבות את המיומנות וההבנה של האדם בטכנולוגיה דיגיטלית. אסטרטגיה זו שואפת להתאים למחקרים שמנסים להבהיר דרכים לאפשר לעובדים ולטכנולוגיה חדשה לשתף פעולה כך שניתן יהיה לבצע עבודות ותפעולות שונות בעסקים^21,22. מכיוון שזה מעניק להם חשיפה לקהל צרכנים גדול יותר, DL נחשבת לקריטית להישרדות עסקים קטנים²³. בהשוואה למבני החברה המסורתיים, מנהלים בעסקים קטנים ובינוניים יכולים לנהל את חברותיהם ביעילות רבה יותר ועם פחות נכסים פיזיים על ידי ניצול התקדמות טכנולוגית^24,25.

פיתוח יכולות הפרסום המקוון, שבפועל משפר את ביצועי העסק, תלוי במשאבים טכנולוגיים כמו התקדמות טכנולוגית וחיבור למטרות החברה²⁶. המיקוד האלקטרוני של החברה והמהפכה הטכנולוגית בסביבת הלקוח שלה, עם זאת, משמשים כממתנים להשפעות אלו²⁷. עסקים יכולים להשתמש בהתקדמות ובסנכרון IT בצורה יעילה יותר כדי לפתח את יכולות הקידום שלהם באינטרנט על ידי שילוב עמוק של טכנולוגיה דיגיטלית בעסקים, במוצרים, בהיצע ובתוכניות שלהם.

שני המנגנונים של עתודות טכנולוגיות בינה מלאכותית הם הוצאות הון (capex), שניתן להשתמש בהן לארגון פלטפורמות ביג דאטה, תוספות והתקדמות, ותוכניות המצאה למדעי המידע ולמידת מכונה, או עלויות תפעול, המשמשות לאישור רישיונות לכלי בינה מלאכותית וביג דאטה בארגון, או לבסוף, הכשרה הקשורה לבינה מלאכותית לעובדים²⁸. היתרונות של אימוץ בינה מלאכותית גבוהים יותר עבור עסקים שגם הם עוסקים בטכנולוגיות אחרות ועוקבים אחר אסטרטגיית מחקר ופיתוח פנימית, לפי מחקר²⁹של לי לפעולות נכסי בינה מלאכותית. בנוסף, חשוב להחליט בין עבודה מחוץ לרשויות לבין^שימוש בצוות פנימי מיומן בבינה מלאכותית. מעמד משאבי האנוש בתחום ההכשרה הזה הוא מוקד מרכזי במחקר הנוכחי, והתוצאות מראות שעסקים עם ידע פנימי בבינה מלאכותית משקיעים בפיתוח כישרון זה כדי להשיג יתרון על פני מתחרים^31,32.

אינטראקציות חלבונים עם GNNs נחזו^ב-33, והתחזיות אומתו באמצעות מודלים גדולים (LLMs). הגישה הייתה מדויקת מאוד וסיפקה הסברים ניתנים לפרשנות. טכניקות למידת מכונה מתקדמות ולמידה עמוקה כמו BERT שימשו לחקר נתוני מדיה חברתית בקנה מידה גדול בזמני^משבר. RNN, CNN ו-GCN מסייעים לעבד ולסווג כמויות עצומות של נתונים וניתן ליישם בגילוי גידולים³⁵. המחברים ב-36,37,38,39 מציגים גישה חדשנית להרחבת מערכות המלצות על ידי שילוב גרפים חברתיים וידע עם מודלים מבוססי GNN.

מחקרים קודמים לא חקרו לעומק כיצד ניתן לשלב באופן שיטתי חילוץ סמנטי מבוסס טרנספורמרים והסקה מבוססת גרף לשיפור פונקציות ניהול ניהול תפעוליות ואסטרטגיות, למרות ש-AI וניתוח נתונים גדולים מוכרים ככוחות טרנספורמטיביים בסביבות מקצועיות. במיוחד, מסגרות מבוססות ש-(i) הופכות טקסט ארגוני לא מובנה לגרפים של ידע מיושרים סמנטית, (ii) מבטיחות עקביות ברמת האונטולוגיה בין מקורות רחוקים, ו-(iii) מעריכות סטטיסטית את השפעת תמיכה בהחלטות ארגוניות חסרות.

כדי לסגור פער זה, מחקר זה חוזה כי, בהשוואה למערכות KM מבוססות ERP/MIS ומונחות מילות מפתח מסורתיות, שילוב חילוץ מידע מבוסס טרנספורמטור אדפטיבי-דומיין עם יישור אונטולוגיה מונעת GNN יגביר משמעותית את דיוק השחזור הסמנטי ויפחית את השהיית ההחלטות הארגוני. במחקר זה מוצעת מסגרת ניהול ניהול מידע המופעלת על ידי AI-Big Data Analytics. הוא יכול לבצע את המשימות הבאות: חילוץ ישות ויחסים ספציפיים לתחום באמצעות מודל טרנספורמר מכוון היטב; בניית גרף ידע משולשים שהופצו; יישור אונטולוגי מבוסס GNN והיגיון יחסי; והערכה מוכוונת משימה באמצעות דיוק שחזור, דיוק יישור ומדדי השהיה החלטות.

החידוש בגישה המוצעת הוא יישור ניהול המערכת הדו-שכבתית, התומך במקביל בניהול ידע אסטרטגי באמצעות אינטגרציה מובנית של ידע המשפרת את הגמישות הארגונית ויכולת החדשנות; ו-KM תפעולי באמצעות תמיכה משופרת בקבלת החלטות, אופטימיזציה של תהליכים ושליפה הקשרית. מאמר זה מציע ארכיטקטורה מוכחת אמפירית מקצה לקצה, המיושמת בשתי מערכות ארגוניות אמיתיות, בניגוד למחקר קונספטואלי או מודל יחיד קודם. תוצאות הניסוי מראות ירידה של 35% בהשהיית קבלת ההחלטות ועלייה של 21% בדיוק בשחזור. בנוסף, על ידי חיבור פלטים מונעי בינה מלאכותית לייצוגי ידע מאורגנים סמנטית, המערכת משפרת את הפרשנות ומקלה על קבלת החלטות שקופה ואחראית. מחקר זה יוצר פרדיגמה ניתנת להרחבה וחזרה לבניית גרף ידע ארגוני ולניהול קישור חכם בסביבות טרנספורמציה דיגיטלית מתקדמות התואמות את עקרונות Industry 6.0, על ידי מיזוג שיטתי של קידוד הקשרי מבוסס טרנספורמרים עם חשיבה סמנטית מבוססת גרפים.

Protocol

הצהרה אתית

מחקר זה נבדק ואושר על ידי מועצת הביקורת המוסדית (IRB) של האוניברסיטה הלאומית של מלזיה (UKM) לפני איסוף הנתונים (מזהה אישור: UKM/FEP/2025/AI-047; תאריך אישור: 12 במרץ 2025). הפרוטוקול המאושר כלל ביצוע סקרים מובנים וראיונות חצי-מובנים עם משתתפים אנושיים. כל המשתתפים קיבלו מידע על מטרת המחקר, על אופיו הוולונטרי של השתתפותם, ועל זכותם לפרוש בכל עת ללא השלכות, והסכמה בכתב ודעת התקבלה לפני הכללתם. אנונימיות המשתתפים וסודיות נשמרו בקפדנות, ללא כל מידע מזהה אישי בניתוח או בפרסום, וכל הנתונים נשמרו ושימשו באופן מאובטח למטרות מחקר אקדמי בלבד, בהתאם לסטנדרטים אתיים מוסדיים ולהנחיות בינלאומיות רלוונטיות למחקר על בני אדם.

הארכיטקטורה הכוללת של מסגרת BERT–GNN KM המוצעת

בהתחלה נעשה שימוש במקודד שנאי מכוון לעיבוד טקסט לא מובנה, כולל מסמכים פנימיים, אינטראקציות עם לקוחות ותוכן ברשתות החברתיות. ארכיטקטורת המערכת הכוללת של זרימת העבודה KM מבוססת BERT–GNN מוצגת באיור 1. הנתונים הארגוניים ששימשו במחקר זה נאספו בפורמטים דיגיטליים של מסמכים, כולל קבצי סקר מובנים, תמלילי ראיונות, דוחות ארגוני פנימיים ומסמכי מחקר מקרה זמינים לציבור. כל המסמכים אוחדו לקורפוס מאוחד לניתוח. תוכן טקסטואלי הופק ממקורות אלו ונוקה, כדי להסיר מטא-דאטה לא רלוונטיים, ערכים כפולים וארטיפקטים בעיצוב. הקורפוס המנוקה חולק לאחר מכן למשפטים והפך אותו לטוקניזציה כדי להכין אותו לעיבוד שפה טבעית בהמשך כמו חילוץ טקסט באמצעות מנתחים, הסרת רעשים, סגמנטציה של משפטים וטוקניזציה באמצעות טוקנייזר חלקי וורד. מאגר הנתונים הטקסטואלי המעובד הזה שימש כקלט למודל המדויק לחילוץ ישויות ויחסים³³ , הכולל 12 שכבות עם 12 ראשי תשומת לב ו-768 יחידות נסתרות. הנתונים שהופקו אורגנו לגרף ידע, שסיפק ייצוג מובנה ומקושר של ידע במיפוי האונטולוגיה של תחום הארגון. GNNs יושמו ליישור אונטולוגי באמצעות דמיון קוסינוס והיגיון כדי להבטיח שיחסים סמנטיים בין תחומי ידע יתפסו במדויק ויוהסקו לוגית על ידי הסרת הכפילויות דרך דמיון מחרוזת עם סף 0.85. הידע המעובד נוצל בשכבת קבלת ההחלטות, מה שאפשר ניתוח נתונים יעיל והקל על קבלת החלטות מונעות נתונים. ארכיטקטורה זו הפכה נתונים מפורקים לנכסי מידע חכמים ומודעים להקשר. המסגרת אומתה באמצעות סימולציות מקרה עסקי והושוותה מול מערכות KM קונבנציונליות כמו Naive Bayes (NB), Support Vector Machine (SVM), Random Forest (RF), TF-IDF, LDA, BERT ONLY ו-BERT עם KG עם חלוקת מערך הנתונים של 70:15:15 וראייה קבועה של 42 להערכת שיפורי ביצועים בדיוק שחזור, השהיית החלטות ותועלת הידע.

איור 1. ארכיטקטורת המערכת הכוללת של זרימת עבודה KM מבוססת BERT-GNN. ארכיטקטורת המערכת הכוללת AI–BDA–GNN המציגה קליטת נתונים מרובי מקורות, עיבוד מוקדם, כיוונון מדויק של BERT להפקה סמנטית, אוכלוסיית KG, יישור/הסקת אונטולוגיה מבוססת GNN, ושכבת קבלת ההחלטות. החצים מציינים זרימת נתונים ולולאות משוב אופציונליות ללמידה מקוונת. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

רכישת נתונים

מאגר הנתונים ששימש במחקר זה נאסף ממקורות מרובים כדי לתמוך בייצוג ובתוקף חיצוני. איסוף הנתונים הראשוני באמצעות סקרים מובנים וראיונות חצי-מובנים עם אנשי מקצוע בתחומי ה-IT, הייצור, הבריאות והחינוך כלל חברים מוסמכים מלשכת רואי החשבון הפיננסיים של רומניה. הנתונים המשניים כללו מסמכים פנימיים אנונימיים של ארגונים, דוחות שנתיים ומחקרי מקרה של טרנספורמציה דיגיטלית זמינים לציבור. איסוף הנתונים בוצע בתוך תקופת מחקר מוגדרת היטב, וכל הרשומות הוסמרו בטענה של אישור אתי מוסדי כדי להגן על סודיות ולהבטיח עמידה בדרישות.

קריטריוני בחירת השתתפות: כדי להבטיח קפדנות מתודולוגית וייצוגיות, נבחרו המשתתפים על פי קריטריונים מוגדרים היטב של הכללה והוצאה. בנוסף למעורבות פעילה בטרנספורמציה דיגיטלית, KM, בינה מלאכותית, אנליטיקה של ביג דאטה או יוזמות מערכות מידע ארגוניות, המשתתפים הזכאים נדרשו להחזיק לפחות שלוש שנות ניסיון מקצועי ב-IT, ייצור, בריאות, חינוך, חשבונאות או סביבות ארגוניות קשורות. היה צורך שאנשי מקצוע מוסמכים יחזיקו במעמד הסמכה פעיל במהלך תקופת איסוף הנתונים (למשל, חברי לשכת מבקרי הכספים של רומניה). כדי להבין במדויק את חומרי הסקר והראיונות ולתת אישור משכיל בהתאם לפרוטוקול ה-IRB המורשה, נדרשו המשתתפים גם להוכיח שליטה ברומנית או באנגלית. אלו עם פחות משלוש שנות ניסיון רלוונטי, מעמד מקצועי לא פעיל (אם רלוונטי), חוסר מעורבות ישירה בתהליכי ידע או קבלת החלטות ברמת הארגון, תגובות סקר לא שלמות (יותר מ-20% חסרים נתונים), או בדיקות סינון איכות נתונים כושלו, כולם הוצאו מהדרך. בנוסף, תמלילים של ראיונות שלא היו מפורטים מספיק או רלוונטיים לטכניקות KM לא נכללו בניתוח. מדגם משתתף מיומן, מייצג מגזרי ואנליטי הובטח על ידי סטנדרטים אלו.

חברים מוסמכים בלשכת מבקרי הכספים של רומניה (CAFR) היו אוכלוסיית יעד מרכזית לאיסוף נתונים. סקר מקוון פותח והופץ דרך ערוצי תקשורת פנימיים של CAFR כדי לתמוך בהפצה ממוקדת ובשיעורי תגובה גבוהים. כדי ליצור מדגם מייצג, נבדקו היסטוריות של CAFR ונבחרו 250 משתתפים רשומים על בסיס מאפיינים רלוונטיים למחקר.

מבנה כלי הסקר: המחקר השתמש בשאלון מובנה עם 24 פריטים המפוזרים על פני חמישה תחומי בנייה: גמישות ארגונית ויעילות תפעולית (5 פריטים), תמיכה אסטרטגית בקבלת החלטות ויכולת חדשנות (5 פריטים), השפעת ניתוח ביג דאטה על שיתוף ידע (5 פריטים), אימוץ בינה מלאכותית בניהול ידע (5 פריטים), ויעילות ותפיסת המשתמשים ושימושיות מערכת (4 פריטים). סולם ליקרט בן 5 נקודות, כאשר 1 מציין "מאוד לא מסכים" ו-5 מציין "מסכים מאוד", שימש לדירוג כל פריט. הכלי הותאם להקשר ליישום בינה מלאכותית ארגונית ושונה מקני גודל של KM וטרנספורמציה דיגיטלית שאומתו בעבר. שלושה חוקרים אקדמיים ושני מומחים עסקיים ערכו סקירה מקצועית כדי לאמת את תוקף התוכן. כדי לשפר את השפה, למדידת בהירות ולמדידת אמינות, נערך מחקר פיילוט עם 20 אנשי מקצוע; כל הרכיבים היו בעלי ערכי אלפא של קרונבך מעל 0.80, מה שהראה עקביות פנימית חזקה. בוצעו גם ראיונות חצי-מובנים כדי להשלים את תוצאות הסקר. במדריך הראיונות כוסו חמישה תחומי נושא: ניסיון בטרנספורמציה דיגיטלית, קשיים בזרימת ידע ארגונית, שילוב בינה מלאכותית וביג דאטה בקבלת החלטות, מכשולים ליישור סמנטי, ונושאי ממשל אתי. כל ראיון בוצע בהסכמה מדעת, נמשך כ-45 עד 60 דקות, הוקלט באודיו, ולאחר מכן תומלל לניתוח איכותני.

כדי להעריך את ביצועי מסגרת BERT-GNN המוצעת לניהול ניהול מערכות בארגונים המשנים דיגיטלית, הוכן מערך נתונים גדול ומגוון ממקורות שונים בתעשיות מגוונות. מערך הנתונים מכסה היבטים כמותיים ואיכותיים כדי לייצג את התפיסות הדינמיות לגבי זרימת ידע ושינוי ארגוני. נתונים מובנים נאספו מיותר מ-250 אנשי מקצוע באמצעות שאלון מקוון שכלל פריטים בקנה מידה לייקרט (טווח 1–5) למדידת השפעות נתפסות של בינה מלאכותית (AI) וניתוח ביג דאטה (BDA) על שיתוף ידע, חדשנות וגמישות עסקית. במקביל, נתונים לא מובנים נאספו דרך ראיונות חצי-מובנים עם 30 מומחים בתחום העבודה, וסיפקו יותר מ-120,000 מילים בתמלול. נאספו חומרים חצי-מובנים נוספים, כולל דוחות שנתיים של החברה ומסמכי אסטרטגיה דיגיטליים (מעל 50 מסמכים), כדי למקם את דפוסי האימוץ בקנה מידה ארגוני בהקשר. בנוסף, נוספו 15 מחקרי מקרה מפורטים מתעשיות ה-IT, הייצור, הבריאות והחינוך כדי להציע הקשרים מעשיים של טרנספורמציה. מאמרי בסיס ידע פנימיים (כ-200 מגה-בייט), שהיו אנונימיים מטעמי פרטיות, ונכללו גם הם כדי לשפר את ייצוג נכסי הידע התפעוליים. מערך נתונים רב-מקורי זה מאפשר צינור הדרכה והערכה חזק למודלים של למידה עמוקה ולוכד היבטים אסטרטגיים ותפעוליים של KM. טבלה 1 מציגה את מדגם האוכלוסייה המשמש להערכה.

רכיב	סוג	מקור	גודל/נפח
תגובות לסקרים מקצועיים	מובנה	סקרים מקוונים מ-250+ אנשי מקצוע	~10,000 תקליטים
תמלילי ראיונות	לא מובנה	ראיונות חצי-מובנים מ-30 מומחים	~120,000 מילים
דוחות החברה	חצי-מובנה	דוחות שנתיים ומסמכים של אסטרטגיה דיגיטלית	50+ מסמכים
מחקרי מקרה	מעורב	מקרי שימוש ייחודיים לטרנספורמציה דיגיטלית בתעשייה	15 מקרים מפורטים
תוכן בסיס הידע	לא מובנה	מסמכים פנימיים מארגונים (אנונימיים)	~200 MB

עיבוד נתונים מוקדם וכוונון BERT

נתוני המסמך הארגוני הגולמיים ניגשו מרשימה אוצרת ועובדו מראש באמצעות סגמנטציה של משפטים, טוקניזציה, הסרת מילת עצירה ונרמול כדי לעמוד בדרישות הטוקנזר. המודל המאומן מראש שונה לאחר מכן לכוונון מדויק של המודל למשימה מסוימת, וכוונן לביצוע משימת זיהוי ישויות בשם (NER) וחילוץ יחסים (RE). המודל עבר כוונון מדויק על נתוני הקורפוס המעובדים מראש עבור ספירת אפוקים מסוימת באמצעות אופטימייזר אדם. לבסוף, הטמעות-מילים בהקשריות (R⁷⁶⁸) הופקו מישויות מזוהות והקשרים ביניהן. ישויות מנורמליות נוצרו באמצעות טכניקת נרמול מבוססת אונטולוגיה, שבה ישויות שונות, כמו מילים נרדפות, הומרו לצורה מנורמלת. כל ישות מנורמלת מובחנת הייתה צומת, בעוד שהקשר בין הישויות נקרא קצה בייצוג גרף הידע. ההטמעות-ישות המנורמלות, שנוצרו על ידי המודל יצרו את מאפייני הצומת הראשוניים של רשת הגרפים העצבית. בשלב הבא, רשת הגרפים העצבית אומנה בשיטה לחיזוי קישור מפוקח עם דגימה שלילית שהושגה באמצעות השחתת קצוות. באימון יש אובדן חוצה-אנטרופיה לאורך מספר תקופות. המסגרת המאומנת הוערכה באמצעות דיוק שליפת ידע, השהיה קבלת החלטות ושיעור שביעות רצון משתמשים כמדדי הערכה.

שיטת הערות היברידית שימשה ליצירת תוויות הדרכה ל-RE ו-NER. שני מומחים עצמאיים לנושאים סימנו ידנית קורפוס מסמכים ארגוניים ייעודי לתחום הספציפי, כגון דוחות פנימיים, יומני אינטראקציה עם לקוחות ומסמכי מדיניות, תוך שימוש בסכימת אונטולוגיה שנקבעה מראש שזיהתה קטגוריות ישויות (כגון ארגון, תהליך, טכנולוגיה, תפקיד, KPI) וסוגי יחסים (כמו תמיכה, depends_on ומשפרת). כדי להבטיח אחידות בכיווני היחסים ובזיהוי גבולות של ישויות, נוצרו הנחיות מקיפות. 20% ממאגר הנתונים עברו הערות כפולות כדי להעריך אמינות. הקאפה של כהן שימש לבדיקת ההסכמה בין המפרשים, והתוצאות הראו הסכמה חזקה (κ = 0.87 לתיוג ישויות ו-κ = 0.82 להפקת קשרים). לאחר מכן נעשה שימוש בפיקוח חלש להרחבת מאגר הנתונים המוער ידנית באמצעות התאמת דפוסים מבוססת כללים ומוגבלת אונטולוגיה, עם סינון מבוסס ביטחון להפחתת רעש. כדי להבטיח שחזוריות מלאה, נרשמו כל נהלי ההערות, הגדרות האונטולוגיה, פיצולי מערכי הנתונים והזרעים האקראיים.

היעילות בדיוק נמדדה ברמת המסמך, ההשהיה הוערכה על בסיס זמן תגובה לשאילתות מקצה לקצה, והמשתמשים היו מרוצים באמצעות שאלוני סולם Likert. בסיום כל שלב הוקמו נקודות ביקורת פרוטוקוליות מעקבות. (i) נקודת ביקורת פלט BERT - ישויות מדגם ושלישיות יחסים שהופצו; (ii) מדגם נקודת ביקורת KG של תת-גרף מובנה עם תוויות אונטולוגיות; (iii) נקודת ביקורת GNN - מדגם של חיזוי אונטולוגיה וקישור מוסק; ו-(iv) נקודת ביקורת שליפה - מדגם של פריטי ידע שנאספו עם תוויות רלוונטיות.

הפרוטוקול המוצע הוא במבנה הבא: צינור דטרמיניסטי, רב-שלבי עם פלטים ביניים מוגדרים היטב, המאפשר שכפול מלא. שלב 1, לאחר קליטת נתונים ארגוניים מובנים גולמיים, חצי-מובנים ולא מובנים, ייוצרו קורפוסי טקסט מנוקים ומטריצות מספריות מנורמלות. שלב 2: יישמה של מודלים BERT מכוונים היטב להפקת ידע, ותספק פלט מפורש בצורת ישויות עם שם, כגון מחלקה, תהליך, מסמך ו-KPI; (ii) יחסים סמנטיים בין ישויות, המיוצגים כמשולשות נושא-פרדיקט-אובייקט. בשלב 3, הטריפלים הללו מומרת לגרף ידע התחלתי, שבו הצמתים הם ישויות והיחסים הם קשתות מוקפדות, מיושרות עם סכמת אונטולוגיה מוגדרת מראש. בשלב 4, יישום רשת עצבית של גרף זה לצורך יישור והסקת אונטולוגיה ייצור שיפורים בהטמעות צמתים, יסיק קשרים ויישור תוויות אונטולוגיות. שלב 5 מספק את גרף הידע הסופי ותוצאות ההיגיון שיאפשרו שליפה סמנטית, תמיכה בהחלטות והערכת ביצועים.

כל הארטיפקטים הביניים, כולל רשימות ישויות, טריפלים של יחסים, גרפים מיושרים לאונטולוגיה וקישורים מוסקים, נוצרים במפורש בכל שלב בפרוטוקול זה, ומאפשרים שכפול עצמאי של המחקר ללא צורך בתזכורות.

מערך הנתונים מחולק למערך האימון, סט האימות וסט הבדיקות לפי יחס קבוע של 70:15:15 כדי להבטיח שחזוריות תוצאות הניסוי. טוקניזציה, תיקון קטן, הסרת מילות עצירה וקיצור רצף ל-512 טוקנים – כולם נעשים עבור BERT מבחינת הכנת טקסט. מצד שני, נרמול Z-Score משמש לנרמול תכונות מבניות. בנוסף, מודל BERT מותאם באמצעות ספריית מסגרת הלמידה העמוקה עם אופטימייזר אדם, כאשר קצב הלמידה הוא 2e-5, גודל האצווה שווה 16, ומספר התקופות הוא 5. הישויות והקשרים החזויים שהופקו נשמרים בפורמט סטנדרטי לבניית גרף הידע. בנוסף, הטמעת צומת גרף הידע (R⁷⁶⁸) משמשת כקלט ל-GNN ליישור אונטולוגי והסיקה.

ממשק BERT-GNN וזרימת נתונים

במסגרת המוצעת, מקודד הטרנספורמר מותאם לביצוע שתי משימות של NLP: משימת NER ומשימת RE על קורפוס טקסט ארגוני. לבסוף, תוצרי המודל כוללים הטמעות-טוקנים בהקשריות (R⁷⁶⁸), תוויות סיווג ישויות, ושלישיות יחסיות של נושא-פרדיקט-אובייקט. ישויות מנורמלות משמשות על ידי בניית אונטולוגיה ארגונית מוגדרת מראש, שבה וריאציות טקסטואליות ומילים נרדפות של הישות ממופים למזהה ישות. כל ישות מנורמלת ייחודית מקבלת צומת ישות חדש בתוך גרף הידע שנבנה. בהתאם לגודל גוף התעשייה, גרף הידע שנוצר בתרחישי הארגון המוערכים כולל בין 18,000 ל-25,000 צמתים של ישויות ו-42,000 עד 60,000 קצוות יחסיים מוקפדים. אדם, מחלקה, תהליך, מוצר, ארגון ומסמך הם רק כמה מסוגי הצמתים שנמצאים בגרף. סוגי קצה נוספים כוללים works_for, ניהול, belongs_to, תוצרת, approved_by ו-related_to. לכל צומת ניתן מזהה אונטולוגי ייחודי המבוסס על אונטולוגיה שמקורה באונטולוגיית עסק מוגדרת מראש. כתוצאה מכך, הגרף ההטרוגני המתקבל כולל קשתות מסוג המייצגות יחסים מנורמלים וצמתים מוקפדים עם תכונות הטמעה סמנטיות. לאחר מכן, ה-GNN מקבלים את ההטמעות-צמתים האלה להסקה רלציונית ויישור אונטולוגי. חשוב לציין, ה-GNN פועל על הגרף שנוצר מבלי להחזיר גרדיאנטים למקודד BERT, מה שמבטיח אימון מודולרי ושומר על ההפרדה בין רכיבי ההסקה של הגרף והחילוץ הסמנטי.

BERT שימש במחקר זה למידול שפה הקשרי ולחילוץ תכונות סמנטי. המודל יכול ללמוד ביעילות לחזות את תוויות הקטגוריות הנכונות לקלטי טקסט חדשניים כאשר הם מכוונים באמצעות נתונים מתויגים המותאמים למטרה מסוימת של סיווג. מכיוון ש-BERT הוא דו-כיווני, הוא מתחשב הן בהקשר שלפני והן בהקשר הבא של כל מילה, ומאפשר הבנה מקיפה יותר של הקשרים בתוך הטקסט. המקודד של מודל הבסיס BERT מורכב מ-12 בלוקי שנאי, שכל אחד מהם מכיל 12 ראשי ריכוז עצמי וגודל מוסתר של 768. לפני העיבוד, טקסט הקלט מחולק לטוקנים בהתאם לגישת הטוקניזציה הנבחרת, שיכולה לייצג מילים או תת-מילים. ייצוג הרצף המופק באמצעות BERT מתואר בקובץ משלים 1. פרמטרי המודל מותאמים על ידי מזעור הסתברות לוגרית-לוג לתווית הנכונה (איור 2).

איור 2. תהליך עבודה מפורט של מודל BERT המשמש להפקת תכונות סמנטיות. מציג ממדים של קלט/פלט ותפקיד ההטמעות ההקשריות עבור אוכלוסיית ה-KG. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

בניית גרף ידע באמצעות GNN

הסכימה של גרף הידע מוגדרת מראש לפני בניית הגרף. הוא מספק עקביות סמנטית. האונטולוגיה מוגדרת מראש בנוגע למספר סופי של סוגים הן לישויות והן לסוגי יחסים, יחד עם מגבלות טווח תחום, המסייעות להיגיון. הסכימה מתאימה למילוי הגרף מהטריפלים שנאספו ממודל BERT וכן להודעה המודעת ליחסים העוברת דרך GNN.

במסגרת זו, גרף הידע (KG) משמש כייצוג מובנה של ידע ארגוני, מדגים ישויות (כגון מחלקות, מסמכים, תהליכים) ויחסים סמנטיים ביניהם. הנגזרות המתמטיות של KG מתווספות בקובץ המשלים 1. שילוב זה של בניית KG והסקה מבוססת GNN מאפשר יישור אונטולוגי, הסקת יחסים ושליפת סמנטיקה משופרת במסגרת ניהול המערכת הארגוני.

גרף הידע (KG) מיוצג כגרף הטרוגני G, בעוד שהמבנה שלו מבוטא על ידי האונטולוגיה שלו O. KG ניתן לחלופין לראות כקבוצת עובדות שמבוטאות על ידי טענות של הסקת פרדיקטים. יסודות אלו כוללים את התיאורים הבאים³⁴. הגרף G משתנה, כאשר V מייצג את קבוצת האובייקטים או הצמתים (שניהם ניתנים לשימוש לסירוגין) ומייצג את קבוצת היחסים. טריפלט () יכול לשמש גם לאפיון זוגות אובייקטים v₁ ו-והקשר שלהם . הגזירה המתמטית של בניית KG באמצעות GNN מתוארת בקובץ משלים 1.

יישור והיגיון אונטולוגיה מבוסס BERT-GNN

אלגוריתם 1 מציג את ההתאמה וההסקה האונטולוגית המבוססת על GNN. התהליך מתחיל באתחול יכולות הצמתים באמצעות הטמעות-הטבעה שהופצו מראש יחד עם אלו שנוצרות בגרסת BERT מכוונת באיכות גבוהה, אשר תופסות את המשמעות הסמנטית של כל ישות מטקסט לא מובנה. גרף הידע, הכולל צמתים (ישויות) וקשתות (קשרים), מיוצג באמצעות מטריצת שכנות (A) ומטריצת תכונות (X).

מערכת הכללים מתבצעת דרך יותר משכבת GNN אחת. בכל שכבה, הייצוג של צומת מעודכן על ידי צבירת נתונים מהצמתים השכנים, המשוקללים לפי הקישוריות שלהם (כלומר, באמצעות מטריצת השכנות). זה מנוסח מתמטית באמצעות שיטת העברת הודעות, שבה הטמעות-צמתים מורחבות באמצעות מטריצות משקל ניתנות לאימון ומועברות דרך מאפיין הפעלה לא ליניארי הכולל את ReLU. שלב נרמול (למשל, נרמול שכבה או שימוש במטריצות דיפלומה כמו במשוואת GCN) מבטיח רכישת ידע יציב על השכבות הרחבות.

לאחר חזרה על תהליך זה עבור טווח מוגדר מראש של שכבות T, המודל מייצר סט סופי של Z של הטמעת הצמתים, שמקודדים כל שכונה ואת צורתה ויכולות הסמנטיות שלה. הטמעות אלו נעקרות באמצעות שכבת סיווג רכה (soft max) כדי לחזות תוויות אונטולוגיה מיושרות, כולל מיוני ישויות (למשל, "מחלקה", "מוצר", "פרויקט") או תפקידים סמנטיים בתוך התאגיד.

אלגוריתם 1: יישור והיגיון אונטולוגיה מבוסס GNN מבוסס BERT

תהליך היישור וההסקה האונטולוגית מבוסס GNN פעל על גרף ידע שנבנה, שכלל ישויות המיוצגות כצמתים והקשרים שלהן הוצגו כקשתות. הייצוגים הראשוניים של הצמתים נגזרו מהטבעות סמנטיות מבוססות BERT וארגנו למטריצת תכונות. מטריצת הסמיכות ייצגה את מבנה הקישוריות של הגרף, ומספר מוגדר מראש של שכבות GNN הוחל לשיפור ייצוגי הצמתים. לכל שכבה, המודל עדכן כל צומת על ידי צבירת מידע מהצמתים השכנים שלו בהתבסס על מבנה הגרף. אגרגציה זו ב-Eqn (1) כוללת הכפלת ייצוגי צמתים שכנים במטריצות משקל ניתנות לאימון, הוספת מונח הטיה, ויישום פונקציית הפעלה לא ליניארית.

(1)

לאחר כל עדכון שכבה, הוחל נרמול כדי לייצב את האימון ולהבטיח סולמות הטמעה עקביים. לאחר שכל השכבות עובדו, הושגו ההטמעות. הטמעות אלו הועברו דרך שכבת סיווג עם פונקציית softmax לחיזוי תוויות אונטולוגיה מיושרות או מחלקות ישות. ההליך יצר את ההטמעות, ההטמעות, המשופרות הסופיות, ואת התוויות המיושרות לאונטולוגיה כפלטים.

השיטה המוצעת מאפשרת יישור סמנטי של ישויות ממקורות מרובים ותומכת בהיגיון על גרף הידע על ידי הסקת קשרים חדשים וסיווג צמתים שלא סומנו קודם.

איור 3. יישור אונטולוגי והיגיון סמנטי באמצעות GNN. מדגים שלבי עדכון העברת והטמעת הודעות בשכונה בשכונה. אנא לחצו כאן כדי לצפות בגרסה מוגדלת של הדמות הזו.

המאפיינים המצטברים עוברים טרנספורמציה באמצעות מטריצות משקל ספציפיות ליחס ופונקציית הפעלה לא ליניארית (למשל, ReLU), היוצרים הטמעות צמתים מעודכנות שמשלבות תכונות סמנטיות שמקורן ב-BERT עם מידע מבני מהגרף. ההטמעות הללו מועברות לשכבת סיווג softmax כדי לחזות תוויות ישות או מחלקות אונטולוגיה מיושרות. תהליך זה הופך את ה-GNN ליעיל מאוד בניתוח גרפים טכנולוגיים, מסייע במשימות כמו פירוש ישויות, הסקת חיזור וסוג סמנטי, ובסופו של דבר תורם למבני בקרה סטטיסטיים חכמים ומבוססים על ידי בינה מלאכותית (טבלה 2).

רכיב	תיאור
מסגרת/ערכות כלים	פייתון 3.9, PyTorch 2.0.1, Hugging Face Transformers 4.34, DGL 1.1 (ספריית גרפים עמוקים)
חומרה	כרטיס מסך NVIDIA Tesla V100 (16GB), 128GB RAM, אובונטו 20.04
צינור עיבוד מקדים	טוקניזציה (Word Piece עבור BERT), הסרת מילות עצירה, זיהוי ישויות (SpaCy), נרמול ציון z עבור תכונות מספריות
מקורות מערך נתונים	סקר מקצועי (250+ תגובות), תמלילי ראיונות (~120,000 מילים), דוחות חברה (50+), מחקרי מקרה (15), מסמכים פנימיים (200MB)
חלוקת נתונים	70% אימון, 15% אימות, 15% בדיקות
מודל מקודד טקסט	בסיס BERT (ללא מעטפת), 12 שכבות, 768 גודל נסתר, 12 ראשי תשומת לב
BERT Fine-Tuning	4 אפוקים, גודל אצווה = 32, קצב למידה = 2e-5, אדם אופטימייזר, אורך מרבי seq = 512
בניית גרף	הפקת ידע מבוססת שלישייה (נושא, נשוא, אובייקט)
סוג גרף	גרף הטרוגני עם קשתות רלציוניות מרובות (ישויות מפלט BERT)
ארכיטקטורת GNN	רשת עצבית גרף הטרוגנית דו-שכבתית (מודל העברת הודעות)
פרמטרי היפר של GNN	מימד נסתר = 128, הפעלה = ReLU, אופטימייזר = אדם, קצב למידה = 0.001
סוג מפענח	מולט מחוז עם ניקוד מכפלת נקודות לחיזוי קישור
פונקציית אובדן	אנטרופיה חוצה בינארית לסיווג טריפלטים

לבסוף, הפרוטוקול מסתיים ביצירת הפלטים הבאים: גרף ידע ארגוני המיושר לאונטולוגיה, מודלים של BERT ו-GNN, תוצאות שליפת מידע והסקת מידע, ודוחות של KRP, OAA, DML ו-USR. אלה מספקים את הפלט הסופי בצורה שניתן לשחזר. לדגימה שלילית במהלך אימון GNN, שלישיות תקפות מושחתות באמצעות החלפת ישות בהתאם למגבלות טיפוס שהוגדרו על ידי האונטולוגיה. היישורים האונטולוגיים המתקבלים מאומתים לעקביות ונבדקים ידנית על ידי מומחי תחום כדי להבטיח קוהרנטיות סמנטית בין ישויות שהופקו לבין מחלקות אונטולוגיה קנוניות.

קריטריוני הערכה

השהיית קבלת החלטות היא מדד הזמן הכולל שלקח למערכת לספק תגובה ניתנת ליישום לאחר שהגשת שאילתת המשתמש. יהי i שאילתת המשתמש, יהיה הזמן שבו השאילתה מוגשת, יהיה הזמן שבו המערכת מספקת את הפלט הסופי של ההחלטה. השהיית קבלת החלטות (DML) ניתנת על ידי:

(2)

כאשר הוא המספר הכולל של השאילתות המוערכות. מדד זה מודד את זמן התגובה הכולל של המסגרת המוצעת, מאיסוף ידע ועד ליצירת תגובה. ערך נמוך יותר למדד זה הוא אידיאלי כי הוא מראה זמן תגובה מהיר יותר של המערכת, דבר קריטי ליישומי קבלת החלטות ארגוניים רגישים לזמן.

יחס כיסוי ידע הוא היחס בין יכולת המערכת לאסוף את כל פריטי הידע הרלוונטיים הזמינים לשאילתה נתונה. יהי קבוצת כל פריטי הידע הרלוונטיים לשאילתת q, היא קבוצת פריטי הידע שנאספו בפועל על ידי המערכת. יחס כיסוי הידע (KCR) מוגדר כך:

(3)

נוסחה זו מחשבת את שלמות פריטי הידע שנאספו. הוא שקול למדד השליפה המשמש במערכות שליפת מידע מסורתיות.

Results

עיבוד נתונים מוקדם וכוונון BERT

המכשיר המוצע משלב גרסת BERT מותאמת ביותר לחילוץ הבנה לא מובנית ורשת עצבית גרפית (GNN) ליישור אונטולוגיה והיגיון בתוך מסגרת הבנת גרפים. המערכת הניסויית עסקה בהשוואת הביצועים הכוללים של היבט BERT במשימות NER ו-RE, בעוד שפקטור GNN נבדק על חיזוי קישור ומחלקת צומת על פני גרף ההבנה הנבנה.

ציון F1 עבור משימות NER ומשימות RE מדווח בטבלה 3. כדי למנוע דליפת נתונים, כל המספרים ש...

Discussion

מחקר זה מציג מסגרת מאוחדת של ניהול נכסים ארגוני המשלבת חילוץ סמנטי קונטקסטואלי באמצעות BERT עם חשיבה רלציונית מבוססת גרף ויישור אונטולוגי דרך GNNs. כדי לאפשר קישור ישויות, חשיבה חוצת מסמכים וייצוג ידע קוהרנטי בין מקורות נתונים עסקיים שונים, התרומה המרכזית היא שילוב של מודל שפה קונטקסטואלי עמוק עם הסקה מובנית ומודעת לאונטולוגיה בתוך צינור יחיד ^3,4. על ידי התמודדות עם החסרונות של שיטות קיימות כמו מערכות מבוססות חוקים הסובלות מהרחבה...

Materials

List of materials used in this article

Name	Company	Catalog Number	Comments
מודל BERT-Base (ללא מארז) מאומן מראש	גוגל AI	לא זמין	מודל שפה מאומן מראש מבוסס טרנספורמר (וריאנט ברט-בסיס-ללא מעטפת)
ספריית הגרפים העמוקים (DGL)	מעבדות AWS	RRID: SCR_017054	גרסה 2.1 המשמשת למידול רשתות עצביות בגרפים
ספריית הוויזואליזציה של Matplotlib	קהילת PyData	RRID: SCR_008624	משמש לגרפים של ביצועים וניתוחים ויזואליים
ספריית הגרפים של NetworkX	קהילת PyPI	RRID: SCR_005317	גרסה 3.2 המשמשת לבניית וניתוח גרפים
ספריית המחשוב המספרי NumPy	קהילת PyData	RRID: SCR_008633	משמש לפעולות מספריות ועיבוד מערך
כרטיס מסך NVIDIA (טסלה T4 / RTX 3080)	תאגיד NVIDIA	RRID: SCR_016409	מאיץ חומרה התומך ב-CUDA לאימון מודלים
ספריית ניתוח הנתונים של פנדה	קהילת PyData	RRID: SCR_018214	משמש לעיבוד נתונים מובנים
שפת תכנות פייתון	קרן התוכנה של פייתון	RRID: SCR_008394	גרסה 3.10 המשמשת לפיתוח מודלים ועיבוד נתונים
מסגרת הלמידה העמוקה PyTorch	מטא AI	RRID: SCR_018536	גרסה 2.0 המשמשת למימוש רשת עצבית
ספריית למידת המכונה Scikit-learn	מפתחי Scikit-learn	RRID: SCR_002577	גרסה 1.5 המשמשת לעיבוד מוקדם ומדדי הערכה
ספריית NLP של טרנספורמרס	פנים חיבוק	RRID: SCR_020989	גרסה 4.40 המשמשת למודלים של שנאים מאומנים מראש
מערכת ההפעלה אובונטו לינוקס	קנוניקל בע"מ.	RRID: SCR_018317	סביבת ריצה LTS גרסה 20.04