$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
نظام
اعداد
لقد قمنا بنشر نظام الكشف عن شذوذ حركة المرور المقترح ضمن إطار عمل حوسبة هرمي وموزع، مستفيدين من بيئة Intel Tiber Cloud. تتكون هذه البنية من ثلاثة مستويات - الحافة والضباب والسحابة - لضمان الاستدلال بزمن انتقال منخفض وتدريب قابل للتطوير وتخصيص الموارد بكفاءة عبر عقد الحوسبة.
طبقة الحافة: يتم إجراء الكشف عن الشذوذ في الوقت الفعلي على الحافة باستخدام أجهزة مدمجة خفيفة الوزن وقادرة على وحدة معالجة الرسومات (على سبيل المثال ، NVIDIA Jetson Nano أو الأنظمة الأساسية المستندة إلى Intel المكافئة مع وحدات معالجة الرسومات المدمجة). تم وضع هذه الوحدات في موقع مشترك مع كاميرات المراقبة وتم تنفيذ الاستدلال إطارا تلو الآخر مع الحد الأدنى من زمن الوصول ، مما يتيح مراقبة حركة المرور اللامركزية وسريعة الاستجابة.
طبقة الضباب: تمت معالجة المهام الأكثر كثافة في الحوسبة ، بما في ذلك الاستدلال الدفعي وتحسين النموذج في الوقت الفعلي ، بواسطة عقد الضباب التي تم توفيرها كأجهزة افتراضية مخصصة أو مثيلات معدنية مكشوفة داخل Intel Tiber Cloud. تم تكوين كل عقدة ضباب بمعالج Intel Xeon مع 16 جيجابايت على الأقل من ذاكرة الوصول العشوائي وكان لديها إمكانية الوصول إلى تسريع GPU المدمج أو المنفصل من Intel. مكنت هذه الطبقة الوسيطة عمليات عالية الإنتاجية بالقرب من مصدر البيانات مع الحفاظ على الاستقلالية من الخوادم المركزية.
طبقة السحابة: للتدريب والأرشفة على نطاق واسع، تستخدم طبقة السحابة مجموعات حوسبة قابلة للتطوير مقدمة من خلال خدمات الذكاء الاصطناعي من Intel Tiber. يتم استخدام المثيلات المزودة بمسرعات Intel Habana Gaudi أو معالجات Intel Xeon Scalable لتدريب الشبكات العصبية العميقة على مجموعات بيانات الفيديو الشاملة، ودعم إصدار النموذج، والتخزين طويل الأجل، والتنسيق على مستوى النظام.
تم تشغيل مكدس البرامج الكامل في بيئة Python 3.8+ باستخدام مكتبات محسنة من Intel للحساب المتسارع. تتضمن الأطر الأساسية PyTorch (مع Intel Extension for PyTorch) و OpenCV للمعالجة المسبقة للصور والفيديو و Scikit-learn للتقييم. يتم تمكين تسريع وحدة معالجة الرسومات من خلال مجموعات أدوات oneAPI المناسبة وتحسينات DAAL.
عند النشر ، قمنا باستنساخ المستودع الذي يحتوي على بنية EDE المزدوجة وتهيئة مكونات النموذج - اثنان من أجهزة التشفير (E1 ، E2) واثنين من أجهزة فك التشفير (D1 ، D2). تم استخدام طريقة .to(device) لنقل المكونات ديناميكيا إلى وحدة المعالجة المثلى (وحدة المعالجة المركزية أو وحدة معالجة الرسومات أو مسرع Gaudi) اعتمادا على توفر الموارد المحلية.
أعلنا عن معلمات التدريب والتقييم ، بما في ذلك عدد العصور ومعدل التعلم ومعاملات موازنة الخسارة (γ ، δ) ، وعتبات حساسية الشذوذ (ω1 ، ω2) ، في نص التكوين. للتدريب ، اتبعنا بروتوكولا من مرحلتين: (1) إعادة بناء التشفير الذاتي القياسي لتعلم سلوك حركة المرور العادي و (2) إعادة البناء الكامنة العدائية لتضخيم الحالات الشاذة باستخدام تفاعلات EDE.
أتاحت بنية النظام المعيارية والسحابية الأصلية هذه اكتشافا قويا في الوقت الفعلي للشذوذ وقابلية توسع النموذج ونشرا موثوقا به في بيئات النقل الذكية في العالم الحقيقي عبر Intel Tiber Cloud.
مجموعة البيانات
لتدريب وتقييم نظام الكشف عن الشذوذ المقترح ، استخدمنا مجموعة البيانات التي يوفرها NVIDIA الذكاء الاصطناعي City Challenge 2021 ، المسار 4 (شذوذ حركة المرور). تتكون مجموعة البيانات من 100 مقطع فيديو تدريبي و 150 مقطع فيديو تجريبي ، يبلغ متوسط مدة كل منها 15 دقيقة ، مسجلة بدقة 30 إطارا في الثانية ودقة 410 بكسل. يقدم كل مقطع فيديو مستوى مميزا من الصعوبة بسبب الاختلافات في أنواع الطرق وزوايا الكاميرا والإضاءة والظروف الجوية. تلتقط مجموعة البيانات مجموعة واسعة من البنية التحتية للطرق (على سبيل المثال ، الطرق السريعة متعددة المسارات والتقاطعات) ، وكثافة حركة المرور ، والظروف الجوية (على سبيل المثال ، صافية ، ممطرة ، غسق) ، من زوايا كاميرا متعددة. هذه السمات تجعله معيارا مثاليا لتقييم قابلية تعميم نماذج الكشف عن الشذوذ.
تجهيزها
لتدريب النموذج في ظل ظروف غير خاضعة للإشراف، استخدم فقط مشاهد المرور العادية (غير الحوادث)، وتجنب أي تعرض لأحداث شاذة أثناء التدريب. قم بإجراء المعالجة المسبقة للفيديو باستخدام OpenCV. ضع نماذج من الإطارات بشكل موحد بمعدل 5 إطارات في الثانية لضمان تغطية زمنية كافية مع تقليل التكرار. قم بتغيير حجم الإطارات إلى 128 × 128 بكسل، لمطابقة متطلبات الإدخال لشبكة EDE المزدوجة وموازنة التفاصيل المرئية مع الكفاءة الحسابية. تطبيع قيم البكسل إلى النطاق [−1، 1] لتحسين استقرار التدريب.
لتحسين التعميم ومحاكاة التباين في العالم الحقيقي ، قم بتطبيق تقنيات التعزيز التالية على كل إطار تدريب مع احتمال عشوائي:
الاقتصاص والقياس العشوائي: قم بقص المناطق الفرعية العشوائية وقم بتوسيع نطاقها مرة أخرى إلى الدقة الأصلية ، مما يشجع على الثبات لحجم الكائن ، والرؤية الجزئية ، وتحولات الموضع المكاني ، ومحاكاة تأثيرات التكبير والموضوعات خارج المركز في فيديو المراقبة.
تعديل السطوع والتباين: قم بتطبيق التحويلات الخطية أو القائمة على جاما لتقليد اختلافات الإضاءة مثل الظلال والوهج واختلافات شروق الشمس وغروبها والإضاءة الاصطناعية. هذا يحسن مرونة النموذج في مواجهة تقلبات الإضاءة النهارية والموسمية.
حقن الضوضاء الغوسية وضبابية الحركة: أضف ضوضاء غاوسية مع انحرافات معيارية متفاوتة لمحاكاة ضوضاء المستشعر وعناصر الضغط. محاكاة ضبابية الحركة باستخدام النواة التلافيفية الموجهة في اتجاهات ومقادير مختلفة لمحاكاة تأثير الأجسام المتحركة أو اهتزاز الكاميرا ، وهو أمر مهم بشكل خاص في مشاهد حركة المرور سريعة الخطى.
إخفاء الانسداد العشوائي: قم بتطبيق الانسدادات الاصطناعية عن طريق تركيب بقع مستطيلة سوداء أو رمادية ذات أحجام ومواقع عشوائية فوق الإطار. تحاكي هذه الزيادة العوائق الواقعية مثل المشاة أو عناصر البنية التحتية أو المركبات المارة التي تحجب مجال الرؤية. يشجع النموذج على التعلم من السياق والبقاء قويا في مواجهة المناطق المفقودة أو المشوهة.
قم بتطبيق هذه التعزيزات ديناميكيا أثناء التدريب باستخدام خطوط أنابيب تحويل PyTorch، مما يضمن أن كل دفعة تحتوي على مزيج متنوع من الإطارات المعززة، مما يعزز التعرض لأنماط متنوعة ويقلل من التجهيز الزائد.
قم بتحميل الإطارات المعالجة باستخدام DataLoader الخاص ب PyTorch لإدارة التجميع والتبديل العشوائي والتحميل المتوازي. تدريب بأحجام دفعات تتراوح بين 32 و 64 ، اعتمادا على سعة وحدة معالجة الرسومات. للاستدلال وتسجيل الشذوذ، قم بمعالجة الإطارات بشكل فردي (حجم الدفعة = 1) لتمكين الكشف الدقيق على مستوى الإطار.
يعمل خط أنابيب المعالجة المسبقة والزيادة هذا على تحسين المتانة والتعميم ، مما يسمح للنموذج باكتشاف السلوك الشاذ بشكل فعال في بيئات مراقبة حركة المرور المتنوعة والصاخبة في العالم الحقيقي.
الطريقة المقترحة:
يتعلم نظام EDE المقترح التعيينات ثنائية الاتجاه بين توزيعات الصور والمساحات الكامنة. يتيح اثنان من أجهزة التشفير واثنين من أجهزة فك التشفير استخراج الميزات القوية وتمايز الشذوذ. يتم تدريب الشبكات في مرحلتي إعادة الإعمار والعداء. يتم استخدام التعلم التقابلي والتنظيم وعقوبة التدرج لمنع انهيار الوضع وتحسين متانة تدريب GAN.
يعمل إطار عمل EDE على النحو التالي: يقوم برنامج التشفير 1 (E1) بتشفير ميزات الصورة في المساحة الكامنة. يقوم جهاز فك التشفير الأول (D1) بإعادة بناء الصور من المتجهات الكامنة لتقليل فقد إعادة البناء. ثم يتم تعيين الصور المعاد بناؤها مرة أخرى في المساحة الكامنة لالتقاط التناقضات. يولد وحدة فك التشفير الثانية (D2) صورا اصطناعية من الفضاء الكامن الثاني لمساعدة النموذج على التمييز بين البيانات الحقيقية والاصطناعية. يكتشف هذا التعيين ثنائي الاتجاه الحالات الشاذة بناء على التناقضات في المساحة الكامنة بدلا من الاختلافات على مستوى البكسل.
المرحلة 1: التدريب على إعادة الإعمار: يتم تدريب التشفير الذاتي على إعادة بناء صور حركة المرور العادية ، وبالتالي فإن المدخلات الشاذة تنتج أخطاء كبيرة في إعادة الإعمار. تأخذ وظيفة الخسارة في الاعتبار صورة الإدخال وترميزها الكامن والصورة المعاد بناؤها.
التدريب الخصومي: بعد التدريب على إعادة الإعمار ، يتم تطبيق التعلم الخصومي. يتم تمرير المتجهات الكامنة المعاد بناؤها من خلال بنية EDE بديلة لإنتاج صور اصطناعية وناقلات كامنة. الأهداف هي تعظيم الاختلافات بين الصور الحقيقية والاصطناعية. تغيير وإعادة بناء المتجهات الكامنة لتعزيز الكشف عن الشذوذ بواسطة التشفير 2 (E2) ؛ ومنع انهيار برنامج التشفير.
ويهدف التدريب إلى تفادي تقارب المجموعتين E1 و E2 مع التعيينات المتطابقة، مما يقلل من القدرة التمييزية.
التعلم التقابلي: تميز دالة الخسارة بين التمثيلات الحقيقية والمعاد بناؤها ، مع وجود معلمة فائقة للهامش تتحكم في فصل الميزات.
تشمل تقنيات التنظيم ما يلي:
التسرب: التعطيل العشوائي للخلايا العصبية لمنع الإفراط في التركيب.
تسوس الوزن: يعاقب الأوزان الكبيرة لتحقيق الاستقرار في تعلم الميزات.
تتضمن طرق منع انهيار التدريب العدائي20 وما يلي:
عقوبة التدرج: ينظم السلوك التمييزي.
زيادة البيانات: اقتصاص عشوائي وقياس وإضاءة قابلة للتعديل لمحاكاة الظروف المتنوعة.
حقن الضوضاء: إضافة ضوضاء واقعية وضبابية الحركة والانسدادات لتحسين التعميم.
التوقف المبكر: إيقاف التدريب إذا تقلب فقدان التحقق بشكل كبير لتجنب الإفراط في التجهيز.
تضمن هذه التحسينات المعمارية وأساليب التدريب وتدابير المرونة اكتشافا موثوقا به للشذوذ في حركة المرور.
يتم تدريب شبكة الكشف عن الحوادث غير الخاضعة للإشراف حصريا على العينات العادية ويتم اختبارها على كل من العينات العادية وعينات الحوادث. رسميا:
من مجموعة جميع مقاطع الفيديو العادية ومقاطع الفيديو المتعلقة بالحوادث ، ضع في اعتبارك مجموعة بيانات تدريب كبيرة E مع إطارات F عادية فقط (E = {x1 ، x2}). .., xM } ومجموعة بيانات اختبار أصغر Ê تحتوي على كل من الصور العادية وصور الحوادث (Ê = [( x̂1 ، y1) ، (x̂2 ، y2) ، (x̂F * ، yF *)]) ، الإطارات ، حيث yi
[0 ، 1] هي صورة تسمية الإطار. بالنسبة للتدريب F
F *، يجب أن تكون مجموعة بيانات التدريب أكبر بكثير من مجموعة بيانات الاختبار. بعد تعلم مشعب مجموعة البيانات (E) ، حدد إطارات الحوادث في Ê كقيم متطرفة أثناء الاستدلال. يحسب النموذج f درجة الحادث Acc (x) بناء على توزيع البيانات العادية المكتسبة. قد تكون صورة الاختبار x ذات درجة الحادث العالية حادثا. تستند معايير الحكم إلى عتبة درجة الحادث (φ) إذا كان Acc (x) > φ.
بنية الشبكة:
كما هو موضح في الشكل 1 ، يحتوي نموذج GANomaly21 على اثنين من أجهزة التشفير ووحدة فك التشفير وأحد المميزين. قام العديد من الباحثين بتكييف هذه الطريقة لتمييز النواقل الكامنة واكتشاف التشوهات البصرية12،22. يقوم المشفر ووحدة فك التشفير الفردية بتعديل الصورة والمتجه الكامن في النموذج بشكل متبادل. يشار إلى هذه الحقائق الشاذة أثناء التحول. يقسم المميز الصور التي تم إنشاؤها عن الأصل. يعتمد GANomaly على الترميز وفك التشفير وإعادة التشفير.

الشكل 1: بنية GANomaly التي توضح تدفق المعلومات. تتكون البنية من إطار عمل مشفر وفك تشفير متكامل في شبكة خصومة توليدية. يقوم المشفر الأول بضغط رتل فيديو الإدخال في تمثيل فضاء كامن ، ثم يعاد بناؤه بواسطة وحدة فك التشفير. يقوم جهاز التشفير الثاني بتعيين الإطار المعاد بناؤه مرة أخرى في الفضاء الكامن. يقوم المميز بتقييم الفرق بين المدخلات والميزات المعاد بناؤها لحساب درجة الشذوذ. تشير الأسهم إلى التدفق الاتجاهي للبيانات عبر الشبكة. الاختصار: GAN = شبكة الخصومة التوليدية. الرجاء النقر هنا لعرض نسخة أكبر من هذا الرقم.
يوضح الشكل 2 بنية EDE مع اثنين من التشفير ووحدة فك تشفير واحدة. يجب أن يغير هيكل EDE المعلمات باستمرار لاكتشاف حوادث الفيديو. أضفنا وحدة فك ترميز ثانية إلى بنية EDE وسمحنا لهم بمشاركة برامج التشفير لإنشاء النموذج في الشكل 2 مع تكوينين للشبكة. يحتوي اثنان من أجهزة التشفير على أربع طبقات تلافيفية. استخدمنا وظائف تنشيط LeakyReLU لجميع الطبقات باستثناء طبقة الإخراج ، والتي استخدمت تنشيط tanh لربط المخرجات بين -1 و 1. تم تطبيق تطبيع الدفعات بعد طبقات تلافيفية متعددة. تشبه أجهزة فك التشفير (الشكل 3 والشكل 4) أجهزة التشفير ولكنها تستخدم ConvTranspose وتطبيع الدفعات الإضافية بدلا من كل طبقة.

الشكل 2: بنية مقترحة قائمة على EDE مع تدفق المعلومات. تم توضيح معمارية EDE ، والتي تظهر تدفق إطارات الفيديو من خلال مشفرين ووحدة فك تشفير. يقوم المشفر الأول (E1) بضغط إطار الإدخال في تمثيل كامن ، ثم يعاد بناؤه بواسطة وحدة فك التشفير (D1). يتم تمرير الإخراج المعاد بناؤه عبر المشفر الثاني (E2) للحصول على متجه كامن ثان. تستخدم التناقضات بين النواقل الكامنة وجودة إعادة البناء للكشف عن الشذوذ ، مدعومة بمكونات الخسارة العدائية والتقابلية. اختصار: EDE = encoder-decoder-encoder. الرجاء النقر هنا لعرض نسخة أكبر من هذا الرقم.
تفاصيل بنية الشبكة:
يتكون نموذج EDE المزدوج من خطي أنابيب لجهاز التشفير ووحدة فك التشفير والتشفير ، ولكل منهما نفس الهيكل ويتم تحسينه بشكل مشترك أثناء التدريب.
هندسة التشفير (E1 ، E2)
الإدخال: 128×128×3 إطار RGB
الطبقة 1: Conv2D (64 مرشحا ، 4×4 نواة ، الخطوة 2 ، الحشو 1) → LeakyReLU (α = 0.2)
الطبقة 2: Conv2D (128 مرشحا ، 4×4 ، الخطوة 2 ، الحشو 1) → BatchNorm → LeakyReLU
الطبقة 3: Conv2D (256 مرشحا ، 4×4 ، الخطوة 2 ، الحشو 1) → BatchNorm → LeakyReLU
الطبقة 4: Conv2D (512 مرشحا ، 4×4 ، الخطوة 2 ، الحشو 1) → BatchNorm → LeakyReLU
الطبقة 5: تسطيح → المتجه الكثيف إلى الكامن (z
^ 100)
بنية وحدة فك التشفير (D1 ، D2)
الإدخال: z
^ 100 → إعادة تشكيل → كثيفة إلى 8×8×512
الطبقة 1: TransposedConv2D (256 مرشحا ، 4×4 ، الخطوة 2 ، الحشو 1) → BatchNorm → ReLU
الطبقة 2: TransposedConv2D (128 مرشحا ، 4×4 ، الخطوة 2 ، الحشو 1) → BatchNorm → ReLU
الطبقة 3: TransposedConv2D (64 مرشحا ، 4×4 ، الخطوة 2 ، الحشو 1) → BatchNorm → ReLU
الطبقة 4: TransposedConv2D (3 مرشحات ، 4×4 ، الخطوة 2 ، الحشو 1) → Tanh
تتم إعادة ترميز الصورة المعاد بناؤها من خلال المشفر الثاني للحصول على تمثيل كامن ، ويتم استخدام التناقضات بين المتجهات الكامنة الأصلية والمعاد بناؤها لتسجيل الشذوذ.
التنشيط والتطبيع
تستخدم برامج التشفير تنشيط LeakyReLU وتطبيع الدفعات. تستخدم أجهزة فك التشفير تنشيط ReLU ، باستثناء الطبقة النهائية ، التي تطبق Tanh لتطبيع المخرجات إلى النطاق [−1 ، 1].
ضياع وظائف
فقدان إعادة بناء الصورة: ǀǀ x −ǀǀ 2
فقدان الاتساق الكامن: ǀǀ z −ǀǀ2
خسارة الخصومة: تم تقديمها في المرحلة الثانية لتعظيم الاختلاف بين عمليات إعادة البناء الحقيقية والاصطناعية عن طريق إجبار الشبكة على التمييز بين الرموز الكامنة الحقيقية وتلك التي تم إنشاؤها أثناء إعادة الإعمار.
تلتقط هذه البنية كلا من المخالفات في مساحة البكسل والفضاء الكامن ، مما يتيح اكتشاف الانحرافات الدقيقة التي تشير إلى سلوك القيادة غير الطبيعي.
التدريب على مرحلتين
يتم استخدام طريقة تدريب الشبكة على مرحلتين. لكل من إعادة بناء الصورة والمتجه الكامن ، يتم تدريب هيكلين من EDE. في المرحلة الثانية ، يحاول التشفير 2 خداع برنامج الترميز 1 لإساءة تصنيف البيانات على أنها حقيقية أو معاد بناؤها.
التدريب الأولي على إعادة الإعمار
يتم تدريب بنية EDE على تكرار صورة الإدخال والمتجه الكامن. يتم ترميز الإدخال x في المتجه الكامن z بواسطة Encoder E1. يقوم كل من D1 و D2 بفك تشفير z لإنتاج الصور ، x1 و x2. حصلنا على متجهين كامفين (z1 و z2) من المشفر E2 بعد تمرير صورتين معاد بناؤهما (x1 و x2). تحتوي هذه المرحلة على أهداف التدريب التالية:
LEDE1 = γ ǀǀ x −x 1ǀǀ2 + δ ǀǀ z −z1ǀǀ2 (1)
LEDE2 = γ ǀǀ x−x2ǀǀ2+δ ǀǀ z −z2ǀǀ2 (2)
يتم تمرير هذه الصور المعاد بناؤها من خلال التشفير E2 للحصول على المتجهات الكامنة z1 و z2. أهداف التدريب:
تؤثر عوامل الترجيح (γ ، δ) بشكل حاسم على تأثير مكونات الخسارة على الوظيفة الموضوعية.
ثانيا ، قمنا بتدريب بنيتين من هياكل التشفير ووحدة فك التشفير باستخدام طرق عدائية.
هنا ، γ و δ هي المعلمات التي تزن مساهمات إعادة الإعمار وخسائر الاتساق الكامنة.
التدريب الخصومي
يتم تدريب هيكلين من EDE بشكل عدائ. يتعلم التعرف على برنامج الترميز 2 من البيانات. يجب أن يخدع EDE2 EDE1 لأنه عكس ذلك. يقوم D1 بفك تشفير z2 من الخطوة الأولى ويعيد بناء x1 '. يؤدي تكرار x1 'إلى التشفير E2 إلى z1 '. أهداف التدريب المرحلي هي كما يلي:
الحد الأدنى γ الأقصى ǀǀ × −× 1'ǀǀ +δ ǀǀ z -z 1'ǀǀ 2 (3)
EDE2 EDE1
ويحتوي هيكلا EDE على وظائف الخسارة التالية:
LEDE1 = −γ ǀǀ x -x1'ǀǀ 2 −δǀǀ z - z1'ǀǀ 2 (4)
LEDE2 = +γ ǀǀ x - x1'ǀǀ 2+δ ǀǀ z - z1'ǀǀ 2 (5)
تتطابق قيم γ و δ مع المعلمات المحددة مسبقا.

الشكل 3: هيكل التشفير. تستخرج شبكة التشفير المستعملة في بنية EDE المقترحة السمات الزمانية المكانية من إطارات الفيديو المدخلة. يتكون من طبقات تلافيفية متعددة متبوعة بتطبيع الدفعات وتنشيط ReLU ، مما يقلل تدريجيا من الأبعاد المكانية أثناء التقاط التمثيلات الهرمية. يقوم المتجه الكامن النهائي بتشفير المعلومات الدلالية عالية المستوى الضرورية للكشف عن الشذوذ. الاختصارات: ReLU = وحدة خطية مصححة ، EDE = جهاز تشفير - فك تشفير - مشفر. الرجاء النقر هنا لعرض نسخة أكبر من هذا الرقم.
يوفر كل EDE وظيفتين للخسارة للهيكل المقترح. في المرحلة 1 ، يجب أن يقلل EDE1 من خسائر إعادة البناء x و z. يجب أن يحسن EDE1 تباين المرحلة 2 بين المتجهات الكامنة z و z1 'و x و x1'. يقلل EDE2 و EDE1 من أخطاء إعادة بناء المرحلة 1 x و z. يجب أن يقلل EDE1 من الفرق بين z و z1 'و x و x1' في المرحلة 2 ، ولكن يجب أن يحدث العكس.

الشكل 4: هيكل وحدة فك التشفير. يعيد مكون وحدة فك التشفير لبنية EDE المقترحة بناء إطارات الإدخال من الميزات الكامنة. وهو يتألف من سلسلة من الطبقات التلافيفية المنقولة التي تقوم تدريجيا بأخذ عينات من خرائط المعالم إلى دقة الإطار الأصلية. يتعلم جهاز فك التشفير إعادة بناء مشاهد حركة المرور العادية بدقة ، مما يمكن النظام من تحديد الحالات الشاذة بناء على أخطاء إعادة البناء. اختصار: EDE = encoder-decoder-encoder. الرجاء النقر هنا لعرض نسخة أكبر من هذا الرقم.
يتضمن كل هدف تدريب مزدوج لنموذج EDE وظائف الخسارة مع الأوزان التي تتغير بمرور الوقت:
LEDE1 = (γ |س− × 1||2+δ||Z−Z1||2)−(1−)(γ||x−x1 '' ||2+δ||Z−Z1 '' ||2) (6)
LEDE2 = (γ |س− × 1||2+δ||Z−Z1||2)+(1−)(γ||x−x1 '' ||2+δ||Z−Z1 '' ||2) (7)
عدد فترات التدريب هو n.
توضح الخوارزمية 1 التدريب على مرحلتين:
الادخال:
جميع الصور العادية في مجموعة البيانات E = {x1 ، x2 ، . . . ، xF} ،
العصور N ،
المعلمات المرجحة γ ، δ
الناتج:
جهاز التشفير - فك التشفير - التشفير المدرب 1 ،
التشفير - فك التشفير - التشفير 2
هاء1، هاء2، دال1،دال 2 ←التهيئة
اثقال
ن ←1
كرر
ل f = 1 إلى F do
zf←e1 (xf)
←د1 (zf)
← د2 (zf)
←ه2 (
)
←ه2 (
)
←د1 (
)
←ه2 (
)′
LEDE1←
(γ |xf−
||2+δ||zf−
||2) −(1−
)(γ||xf−
'||2+ δ||zf−
'||2)
LEDE2←
(γ |xf−
||2+δ||zf−
||2) +(1−
) (γ||xf−
'||2+ δ||zf−
'||2)
E1 وE2 وD1 وD2← أوزان التحديث
باستخدام LEDE1و LEDE2
انتهى ل
ن ←ن + 1
حتى ن = ن
مراحل التدريب ومعايير الكشف عن الشذوذ
قسم التدريب إلى مرحلتين متسلسلتين:
المرحلة الأولى - إعادة الإعمار التعلم:
يتم تدريب كلا خطي أنابيب EDE فقط على مشاهد حركة المرور العادية.
يتم تمرير صور الإدخال من خلال التشفير 1 → وحدة فك التشفير 1 → التشفير 2 (الشكل 5).
يقلل النموذج من فقدان إعادة بناء الصورة وفقدان الاتساق الكامن. تسمح هذه المرحلة للشبكة بتعلم مساحة كامنة مدمجة ومتسقة للسلوك العادي.
المرحلة الثانية - تعلم المواجهة التوليدية:
يتم إدخال المتجهات الكامنة المعاد بناؤها من وحدة فك التشفير 1 إلى وحدة فك التشفير 2 ثم إعادة ترميزها عبر التشفير 1. يساعد هذا التدفق الدائري النموذج على اكتشاف التناقضات في الأنماط الاصطناعية. تتم إضافة خسارة عدائية للمبالغة في الانحرافات الصغيرة بين التمثيلات الأصلية والمعاد بناؤها. يتم تدريب المميز اختياريا للتمييز بين الرموز الكامنة الحقيقية والرموز المعاد بناؤها ، مما يفرض تمييزا أكثر حدة في الفضاء الكامن.
الكشف عن الشذوذ:
في وقت الاستدلال، قم بتمرير إطار اختبار عبر مسار EDE المزدوج. احسب ثلاثة مقاييس: خطأ إعادة بناء البكسل ، وتناقض المتجه الكامن ، ودرجة التمييز الخصوم (إذا تم استخدامها). احسب درجة الشذوذ المركب كمجموع مرجح:

يتم وضع علامة على الإطارات ذات درجات الشذوذ أعلى من عتبة معايرة كأحداث غير طبيعية محتملة. تمكن هذه الآلية النموذج من اكتشاف الانحرافات الدقيقة في أنماط الفضاء المرئي والكامنة دون الحاجة إلى أي تسميات شذوذ مشروحة.

الشكل 5: بنية نموذج GANomaly الخصومي الذي يدمج EDE 1 و EDE 2. يوضح هذا الشكل تصميم نموذج الكشف عن الشذوذ الخصومي ، الذي يدمج هيكلين من EDE - EDE1 لإعادة البناء و EDE2 لمحاذاة الميزة الكامنة. يستخدم النموذج فقدان اتساق المتجه الكامن والتدريب العدائي عبر المميز لفرض التشابه بين التمثيلات الكامنة للمدخلات والإطارات المعاد بناؤها. تعمل هذه البنية على تحسين اكتشاف الحالات الشاذة من خلال تعلم تضمينات الميزات القوية لأنماط حركة المرور العادية. الاختصارات: EDE1 = أول هيكل لجهاز التشفير وفك التشفير لإعادة البناء ؛ EDE2 = هيكل التشفير الثاني لمحاذاة الميزة الكامنة. الرجاء النقر هنا لعرض نسخة أكبر من هذا الرقم.
أثناء الكشف ، استخدم نموذجنا هذه الدرجات الشاذة:
Acc (x̂) = ω1 |Z−Z2||2 + ω2 ||Z−Z1'||2 (8)
يمكن أن يؤدي تغيير معلمات الوزن (ω1 + ω2 = 1) إلى تغيير الحساسية عن طريق ضبط نسبة الإيجابيات الحقيقية إلى الإيجابيات الخاطئة. في تطبيقات العالم الحقيقي ، يمكن أن يؤدي تغيير هاتين المعلمتين إلى اكتشاف الحوادث ذات الحساسيات المتنوعة في تجربة واحدة.
أثناء التدريب ، يتم تمرير كل إطار إدخال x من خلال التشفير E1 لإنشاء متجه كامن z. ثم يتم إعادة بناء المتجه الكامن عبر وحدة فك التشفير D1 ، مما ينتج عنه الصورة x̂1 ، والتي يتم تمريرها لاحقا من خلال التشفير E2 للحصول على متجه كامن معاد بناؤه z. في موازاة ذلك ، يتم فك تشفير z بواسطة وحدة فك التشفير D2 لإنتاج x̂2 ، والتي يتم إعادة ترميزها أيضا عبر E2 لإنتاج z2. تحافظ هذه العملية ثنائية الاتجاه على كل من المعلومات على مستوى البكسل والكامنة للكشف عن الشذوذ.
خوارزمية اختبار النموذج:
={( x̂1,y 1),( x̂2,y 2),...,( x̂M*,yM*)},
عتبة φ ،
معلمات الترجيح ω1 ، ω2
الإخراج: تسمية التنبؤ لمجموعة بيانات الاختبار
Ere = {y1pre, y2pre, ..., yF * pre}
ل i = 1 إلى F * تفعل
zi ← ه1 (xi)
x2i ← d2 (zi)
z2i ← e2 (×2i)
Z1I' ← d1(Z2i)
z1i' ← e2(z1i')
Acc (x̂i) ←ω1 ||zi−z2i||2 + ω2 ||zi−z1i'||2
إذا كان Acc (x̂i) ≥φ بعد ذلك
yipre ←1
اخر
yipre ←0
endif
انتهاء
يستخدم EDE المميز كمكون تعليمي عدائي لزيادة دقة اكتشاف الشذوذ من خلال تحسين قدرة النموذج على التمييز بين الأحداث العادية وغير الطبيعية. يعزز الأداء على النحو التالي:
التمييز في التعلم: يتم تدريب المميز على التمييز بين التمثيلات التركيبية والمزدوجة المعاد بناء بنية EDE. يمنح تحسين هذه العملية العدائية النموذج ميزات كامنة تمييزية للغاية ، مما يحسن اكتشاف شذوذ مشهد المرور.
إزالة عمليات إعادة البناء السيئة: نظرا لأنها تنحرف كثيرا عن أنماط حركة المرور ، غالبا ما تؤدي الحالات الشاذة إلى حدوث مشكلات في إعادة الإعمار. يعاقب المميز الإطارات المعاد بناؤها بشكل غير صحيح ، مما يحسن اكتشاف الأحداث الطبيعية / غير الطبيعية للشبكة.
تعزيز تمثيل الميزات من خلال التدريب الخصومي: من خلال دمج التعلم العدائي ، يجعل المميز شبكة EDE تولد تضمينات كامنة أكثر متانة وذات مغزى. يكتشف هذا حتى تغييرات طفيفة مثل الكبح المفاجئ والاصطدامات وانحراف السيارة ، مما يحسن اكتشاف الشذوذ.
إزالة الإيجابيات الخاطئة: تقوم أجهزة التشفير الذاتي التقليدية بالإفراط في التعميم والتطبيع للحالات الشاذة ، مما يؤدي إلى ارتفاع معدلات الإيجابية الكاذبة. يحافظ المميز على سمات الشذوذ أثناء إعادة البناء من خلال تحديد التناقضات الكامنة بين الإطارات العادية والشاذة.
تحسين التصنيف من خلال عملية اتخاذ القرار على مرحلتين: تتلقى الإطارات المعاد بناؤها العادية أو غير الطبيعية درجات ثقة من المميز. يتم تقليل أخطاء التصنيف الخاطئ وفقدان إعادة الإعمار في مرحلة التحقق الإضافية هذه ، مما يحسن دقة الكشف.
استخدمنا طرقا مثبتة للكشف عن الحوادث لاختبار الإستراتيجية23،24،25،26. كانت فئة واحدة في مجموعة بيانات متعددة الفئات طبيعية وتم فحص جميع فئات الحوادث الأخرى بعناية باستخدام نهج واحد مقابل جميع النهج. تم تدريب النموذج باستخدام بيانات الفئة العادية فقط ، بينما استخدمت مجموعة الاختبار بيانات الحوادث والبيانات العادية. تم تقسيم مجموعات التدريب والاختبار بطريقتين.
لقد تدربنا واختبرنا باستخدام 80٪ و 20٪ من بيانات الفئة العادية ، على التوالي. تم اختيار نتائج اختبار فئة الحوادث بشكل عشوائي. كان التقييم غير متحيز من خلال استخدام عينات اختبار فئة الحوادث ، والتي تمثل 20٪ من بيانات الفئة العادية ، لتجنب انحراف النموذج نحو الفئة العادية الأغلبية. يمكن اختبار النموذج مقابل أعداد متساوية من البيانات العادية وبيانات الحوادث ، والتي تمثل الظروف العملية. يختبر تعميم النموذج بشكل محايد من خلال التدريب على 80٪ من البيانات العادية وإخفاء 20٪. يوضح هذا أيضا أن الأحداث العادية تفوق عدد الحوادث في الحياة الواقعية ، مما يجعل من المهم تعريض النموذج لبيانات الحوادث غير المتكررة. يؤدي الاختيار العشوائي لعينات الحوادث واختبار النموذج ضد جميع حالات الحوادث دون الإفراط في التجهيز إلى زيادة المتانة. يعد تقسيم البيانات بنسبة 80/20 أمرا شائعا في التعلم الآلي. بيانات التدريب لأنماط ذات مغزى وبيانات الاختبار لتقييم الأداء متوازنة.
استخدمت التجارب مجموعات البيانات للتدريب والاختبار. تم استخدام تقسيم التدريب من الدرجة العادية للتحقق والتدريب. تم اختبار بيانات اختبار جميع الفصول.
يقلل تقليم النموذج وتكميم النموذج بشكل كبير من حجم النموذج والحساب. يتمتع النموذج المخفض بنفس الدقة ولكن الأداء المنخفض لأنه يشتمل على معلمات أقل بنسبة 40٪. بالنسبة للأجهزة الطرفية ذات قوة المعالجة المنخفضة ، فإن قياس النموذج يضغطه. يلبي هذا التحسين دقة مراقبة حركة المرور في الوقت الفعلي واحتياجات الاستدعاء.
تعمل التصميمات خفيفة الوزن مثل MobileNets و EfficientNet على زيادة الاستدلالات في الوقت الفعلي. نظرا لدقة رؤية الكمبيوتر والحد الأدنى من الحساب ، يتم استخدام هذه الأنواع المعمارية على نطاق واسع. في الأنظمة المدمجة ، تقلل هذه الطرز من معالجة الإطارات بنسبة 50٪ مع الحفاظ على درجات F1 القوية للكشف عن الحوادث.
يمكن أن يؤدي استخدام معلمات مماثلة لإعادة بناء الصور واكتشاف الحوادث باستخدام التعلم متعدد المهام إلى تبسيط التصميم. أدى هذا إلى تقليل وقت التدريب وتكلفة الحوسبة دون التأثير على دقة النموذج. قام نظام التعلم متعدد المهام بتبسيط تعلم نموذج معالجة بيانات الفيديو المروري.
أنتج التدريب العدائي التقابلي والإشراف الذاتي نتائج مماثلة لنموذج الكشف عن الشذوذ الأساسي في وقت أقل. تم جمع ميزات حوادث المرور وتعميمها لتحسين المتانة على البيانات غير المرئية.
تم اختبار خوارزمية الكشف عن شذوذ حركة المرور المقترحة على المسار 4 ، وهو أحد مجموعات بيانات الذكاء الاصطناعي City Challenge الخمسلعام 2021 27. قدمت الطرق السريعة هذه البيانات إلى وزارة النقل في ولاية أيوا.
تقييم الأداء المقارن:
للتحقق من صحة نموذجنا ، قمنا بقياسه على مجموعة بيانات الذكاء الاصطناعي City Challenge Track 4 مقابل أحدث النماذج ، بما في ذلك طريقة GANomaly و f-AnoGAN و OCGAN و ByteDance الخاضعة للإشراف. ويلخص الجدول 2 النتائج.
| نموذج | نتيجة F1 | دقة | استذكر | الجامعة الأمريكية بالقاهرة |
| جانومالي | 0.87 | 0.88 | 0.86 | 0.9 |
| أوجان | 0.89 | 0.9 | 0.87 | 0.91 |
| ByteDance (Sup.) | 0.91 | 0.93 | 0.89 | 0.92 |
| مقترح (ثنائي EDE) | 0.94 | 0.95 | 0.93 | 0.94 |
الجدول 2: مقارنة الأساليب. يقارن الجدول طرق الكشف عن الشذوذ حسب درجة F1 والدقة والاستدعاء والدقة. تتم مقارنة تصميمات EDE مع وبدون تدريب عدائي. تغلب تدريبان EDE بالإضافة إلى تدريب عدائي على BADU و ByteDance و WHU في جميع الفئات. تشير البيانات إلى أن التعلم العدائي يزيد من اكتشاف الشذوذ.
يتفوق نموذج EDE المزدوج على جميع خطوط الأساس ، خاصة في الاستدعاء - مما يشير إلى حساسية أقوى للأحداث الشاذة النادرة.