$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
جميع البرامج والأدوات المستخدمة في الدراسة مدرجة في جدول المواد.
معايير التقييم
التصنيف المعتمد في هذه الدراسة يعطي مجالين رئيسيين، وهما الطلاقة والدقة، اللذان يتضمنان جميع متطلبات التقييم الشامل للكتابة باللغة الإنجليزية كلغة أجنبية (EFL). تهدف هذه الأبعاد إلى قياس النقاط الرئيسية في جودة الكتابة التي تساعد في التواصل الفعال وإثبات مهارة اللغة. تقيس وحدة الطلاقة الطبيعية والتعبير والتماسك في الكتابة من خلال قياس سلاسة الأفكار وكذلك مدى جودة استخدام الكلمات وبنية الجمل. تستهدف وحدة الصوابية الدقة النحوية الدقيقة، والكفاءة الميكانيكية، والامتثال للمعايير الإنجليزية القياسية، ونظريا، تقيس وتحسب خطأ اللغة على عدة مستويات. (انظر الجدول 1)
تعريف المهمة
وفقا لشروط تقييم الكتابة الآلي للطلاب الذين يتعلمون اللغة الإنجليزية، تقترح الدراسة الحالية نموذجا جديدا لنظام تقييم كتابة اللغة الإنجليزية بمساعدة الحاسوب بمساعدة EG. مقارنة بالدراسات السابقة التي كانت محدودة بنطاق أنظمة تقييم الكتابة الآلية، سيساعد النظام المقترح في حل هذه القيود من خلال إدخال تقنيات التعلم العميق المبتكرة التي تتيح للمستخدمين مستوى من التحليل اللغوي، ونطاق التعديل، وتحليل التغذية الراجعة على مستوى النظام بناء على معالجة البيانات الواسعة. وبناء على اثنين من أهم مؤشري التركيب، وهما الطلاقة (مدى طبيعة العمل وتناسقه وتعبيره)، أو الدقة (مدى دقة كتابة النص المليء بالأخطاء النحوية والميكانيكية واللغوية بشكل صحيح)، مع المكونات المنفصلة للشبكات العصبية، يجب على نظام النموذج المزدوج إجراء عدد من التقييمات. بالإضافة إلى ذلك، يحدد الأخطاء على عدة مستويات لغوية، ويوصي بإجراءات تصحيحية، ويقدم ملاحظات في قائمة لتمكين المستخدمين من تحسين تعلم الطلاب للغة بطريقة منهجية. لوصف عملية حساب نظام التقييم التلقائي بمساعدة الحاسوب، نقترح النموذج الرياضي التالي في الصيغ (1)–(4) (انظر الجدول 2).
(1)
(2)
(3)
(4)
حيث: الدرجة النهائية = درجة تقييم الكتابة المركبة؛ w1 = الوزن المخصص لدرجة الطلاقة؛ w2 = الوزن المخصص لدرجة الصحة؛ Sf = درجة الطلاقة المعتمدة على BERT (تم تطبيعها إلى [0, 1]); Sc = درجة صحة الانحلال الأسي; λ = عقوبة الخطأ التي تتحكم بها ثابت التدهور؛ σ(x) = دالة تنشيط السينغمويد اللوجستية؛ نسبة الخطأ = نسبة الأخطاء إلى إجمالي الرموز في النص. يتم تطبيع درجات الطلاقة إلى [0, 1] بواسطة دالة السيجمويد اللوجستية σ(x) بينما تستخدم دالة التراجع الأسي في تقييم الصواطنة لفرض عقوبة مناسبة على تكرار الخطأ.
بنية النظام وتصميمها
تستخدم بنية النظام نظام نموذجين مع بنية معالجة متوازية، حيث يتم تحليل مقالات الإدخال بالتوازي عبر مسارات تقييم متوازية. وحدتا الطلاقة والدقة، بدورها، تعطيان درجات متتالية، والدرجة المركبة النهائية هي المتوسط المرجح للدرجتين الفرعيتين. تقدم وحدة الصوابية أيضا اقتراحا حول اكتشاف وتصحيح الأخطاء، بالإضافة إلى التقييم (انظر الشكل 1).
وحدة الطلاقة
يمكن تعريف طلاقة الكتابة بأنها طبيعة أو نمط استخدام اللغة فيما يتعلق بالاختيار الصحيح للمفردات، تنوع بنية الجمل، تعقيد النحو، التماسك، وغيرها. تلتقط نماذج تقييم الطلاقة الأفكار التي تنقل دون تلعثم أو إحراج، وتبدو قريبة من اتجاهات التواصل التقليدية التقليدية. يعتمد قياس الطلاقة التقليدي على المقاييس، مما يبرز مخاوف موثوقية المقيمين المشتركين. يتغلب النظام المقترح على هذا العيب لأنه يتضمن شبكة عصبية قائمة على BERT لتحفيز التماسك الدلالي والطبيعية اللغوية تلقائيا من خلال الفهم العميق للظرف. تم اتخاذ هذا القرار المعماري بالنظر إلى نقاط قوة BERT، التي ثبت فعاليتها في تحديد العلاقات السياقية والأنماط الدلالية الضرورية لقياس الطلاقة. يتم تغذية تسلسلات الإدخال إلى النظام وتمريرها عبر 12 طبقة محول مع تركيز ذاتي متعدد الرؤوس لتحديد التبعيات طويلة المدى والعلاقات السياقية (انظر الشكل 2).
آلية الانتباه ستكون كما يلي:
(5)
لتكن Q و K و V هي المصفوفات التي تمثل الاستعلام والمفتاح والقيمة على التوالي، وd و k هما أبعاد المتجهات الرئيسية. تضمين رمز CLS هو التضمين الملخص، الذي يسجل التماسك الدلالي الكلي لتسلسل الإدخال بأكمله.
حساب درجة الطلاقة هو كما يلي:
(6)
حيث hCLS هو تضمين رمز BERT [CLS]، وWreg هما b reg معلمات رأس الانحدار، و σ هي دالة تنشيط السيجمويد التي تطبيع الناتج إلى [0, 1].
وحدة الصحة
يركز تقييم الدقة على الدقة النحوية، والدقة الميكانيكية، والالتزام بالقواعد الإنجليزية القياسية. يتناول هذا البعد الجوانب التقنية للكتابة، بما في ذلك النحو، والصرف، وعلامات الترقيم، ودقة الإملاء. لا يقتصر مكون الصواب على تقييم عدد الأخطاء اللغوية، بل يفحص أيضا تأثيره على الجودة العامة للنص. على عكس تقييم الطلاقة الذي يركز على التماسك الدلالي والتدفق الطبيعي، تتطلب وحدة تقييم الصحة تحديد الأخطاء بدقة وتصحيحا منهجيا. تميز الوحدة بين أنواع الأخطاء المختلفة، وتقيم شدتها، وتوفر تصحيحات مستهدفة لدعم تحسين التعلم. يستخدم فقدان الصوابة نموذج FLAN-T5، الذي تم ضبطه بدقة لاكتشاف وتصحيح الأخطاء النحوية. يستند هذا الاختيار إلى قابلية تحويل النص إلى نص في T5 التي تسمح للنظام ليس فقط باكتشاف الأعطال، بل أيضا بعرض التصحيحات ذات الصلة داخل نظام واحد. النظام هو شكل مشفر-مفكك، ويتم تغذية النص على شكل هذا التحويل: (انظر الشكل 3)
(7)
ينتج عنصر المشفر تمثيلات حساسة للسياق لا تلتقط فقط الاتجاهات النحوية بل أيضا مناطق الفشل المحتملة:
(8)
بمساعدة توليد الاختلافات النحوية المناسبة للأخطاء التي تم تحديدها بشكل خاطئ، يقوم جهاز فك الترميز بتوليد تسلسلات مصححة:
(9)
هذا النوع من المعالجة ثنائية الاتجاه يمكن النظام من الوعي بسياقات الأخطاء، وكيفية تصحيح السياقات، بحيث تكون التلميحات متماسكة دلاليا، مع التركيز على أي تصحيح في القواعد.
قياس الخطأ وخوارزمية التقييم
قارن تقييم الدقة الكتابة الأصلية بالنسخة الصحيحة من الكتابة، مع الأخذ في الاعتبار الأخطاء اللغوية والشدة بناء على الموقع داخل النص والتداخل مع المعنى. تلتقط هذه الطريقة التمييز بين أنواع الأخطاء مقارنة بتأثيرها على فهم النص النصي. تم التأكيد على العلاقة بين تكرار الأخطاء وجودة النص الرديئة، بطريقة لوغاريتمية في نظام التقييم. خطوة أساسية في مقارنة الرموز بين النص الأصلي والنص المصحح هي درجتان من المقارنة تستند إلى تقنية محاذاة السلاسل النصية على مستوى بت. تشمل المرحلة الثانية تحديد وتصنيف أنواع الأخطاء بناء على بعض التصنيفات اللغوية المعروفة التي تميز بين الأخطاء النحوية (توافق الفاعل مع الفعل، اتساق الزمن، وموثوقية البنية النحوية)، والأخطاء الميكانيكية (الحروف الحروفية، علامات الترقيم، والإملاء)، وأخطاء الاستخدام (اختيار الكلمات، التعبير الاصطلاحي، وملاءمة السجلات). المرحلة الثالثة هي حساب نسبة الخطأ بناء على الطول الكلي للنص. تستغل الخطوة الرابعة خوارزمية تقييم الانحلال الأسي التي تحول نسب الأخطاء إلى درجات صحة قابلة للتفسير مباشرة لتقريب الاعتماد غير الجمعي وغير الخطي بين تكرار الأخطاء وجودة النص.
يبدأ المعالجة الرياضية لعملية قياس الأخطاء بحساب نسبة الأخطاء المثبتة، مما يوفر معدل تثبيت خطأ مطبع، مما يسمح بدوره بإجراء مقارنة عادلة لنصوص بأطوال مختلفة:
(10)
(11)
تم تحديد معامل معايرة 2.5 على أساس تجريبي من خلال التحقق الكامل من ذلك بأحكام الخبراء البشرية، بحيث يمكن لدالة التقييم تقديم نتائج تتماشى مع فهم الإنسان فيما يتعلق بانخفاض جودة النص مع زيادة تكرار الأخطاء. تعيين هذه القيمة بهذه الطريقة يضمن أن أي نص ذو معدل خطأ منخفض (Error_Ratio < 0.1) يحصل على درجة عالية من الدقة لأنه يتبع قواعد الإنجليزية القياسية بدقة، وأي نص ذو معدل خطأ متوسط (0.1 < Error_Ratio ≤ 0.3) له درجة صحة متوسطة تشير إلى وجود بعض المخاوف اللغوية التي ليست كارثية بشكل كامل. وأي نص ذو معدل خطأ مرتفع (Error_Ratio > 0.3) حصل على درجة منخفضة من الصحة بسبب وجود مخاوف لغوية حرجة تؤثر بشكل كبير على إمكانية الفهم.
تأخذ خوارزمية تقييم الصوابية لتقييم الصواب في الاعتبار بشكل منهجي جميع الأخطاء التي تم تحديدها وإصلاحها بواسطة النظام القائم على T5 كعناصر جزائية في حساب نسبة الخطأ النهائية. آلية الجزاء المستخدمة للأخطاء النحوية تمثل بالانخفاض الأسي في نمو نسبة الخطأ نحو القيم العالية، مما يعني أن جودة النص ضعيفة جدا، وتصبح 100 عندما تساوي نسبة الخطأ 0، مما يعني أنه لا توجد أخطاء على الإطلاق. وهو استخدام مثالي للمعايير الإنجليزية. تضمن هذه العلاقة الرياضية أن كود الصواب يقدم تمييزا كبيرا ضمن كامل طيف مستويات الكفاءة اللغوية ويستجيب للتقدمات الصغيرة المتعاقبة التي تشير إلى اكتسابات حقيقية.
مجموعات البيانات: مجموعة التدريب والتقييم
تعد بيانات التدريب ذات الجودة والنطاق الكافيين أمرا بالغ الأهمية لأداء نظام النماذج المزدوجة. استخدمت الدراسة الحالية مجموعة بيانات مصممة جيدا من النصوص التي كتبها الطلاب لتطوير وتقييم النموذج، والذي تم إنتاجه من خلال مهام كتابة مختلفة. تكونت العينة من 45 طالبا في الجامعات الباكستانية و45 طالبة في الجامعات الباكستانية بمتوسط أعمار 19 سنة، يدرسون 'اللغة الإنجليزية الوظيفية' كمادة إلزامية. كتب كل طالب ثمانية مقالات لمدة ثمانية أسابيع، بما في ذلك مقالات ما قبل الاختبار، ومقالات التدخل، ومناسبات ما بعد الاختبار. سمح للطلاب بإنتاج 400–450 كلمة لكل مهمة كتابة. توفر إحصائيات مجموعات البيانات الخصائص التالية:
70,500 كلمة
متوسط طول الجملة: 15.7 كلمة (SD = 3.2)
نطاق المفردات (نسبة النوع إلى الرمز): 0.64 (SD 0.08) كثافة الأخطاء النحوية: 2.3 في 100 كلمة (SD = 1.1)
مبرر وضمان جودة البيانات للبيانات المختارة
تم اختيار مجموعة البيانات بناء على بعض الاعتبارات المهمة التي سمحت بثراء وملاءمة العمل البحثي حول تقييم الكتابة الآلي. في البداية، تم اختيار طلاب الاقتصاد بسبب طبيعتهم، المشابهة لمتعلمي اللغة الإنجليزية كلغة أجنبية في التعليم العالي الباكستاني، مما أتاح عرض عينات كتابة أكثر أصالة تعكس الأوضاع الواقعية. ثانيا، تم بناء بيانات الدراسات التجريبية على تحديد النطاق الأقصى والأدنى للكلمات، 400–450 كلمة، إلى أن هذا النطاق معقد لغويا بما يكفي لتحليله بشكل موثوق بواسطة آلة، وظل في نفس الوقت بحجم قابل للإدارة من حيث التقييمات البشرية المتسقة. تم تقييم كل تركيبة من قبل ثلاثة معلمين مدربين في اللغة الإنجليزية (موثوقية بين المقيمين κ = 0.847، بعد الطلاقة، و0.823، بعد الدقة) على مقاييس موحدة من 10 نقاط للطلاقة وتقييم الدقة. كان تدريب المقيمين البشريين صارما ويعتمد على معايير تقييم مطورة فيما يتعلق بتقييمات كتابة IELTS وTOEFL. تتكون البيانات من مجموعة بيانات مشروحة من قبل الإنسان، يمكن استخدامها في تدريب والتحقق من صحة النماذج ليتم تدريبها على بيانات بشرية مشروحة.
إجراءات معالجة البيانات والتحقق منها
تمت معالجة مجموعة البيانات مسبقا بشكل منهجي وشملت تطبيع النص، وترميز النص باستخدام أداة BERT WordPiece، وإجراء فحوصات تحقق من الجودة. لم يتم تضمين أولئك الذين قدموا أعمالا غير مكتملة وأنتجوا نصوصا منسوخة لتحديد سلامة البيانات. تم تقسيم البيانات الأخيرة عشوائيا إلى تدريب (70٪، n = 189)، التحقق (15٪، n = 41)، ومجموعات الاختبار (15٪، n = 40) من خلال أخذ عينات طبقية لجعلها متوازنة عبر مستويات الكفاءة ونوع المهام. تحليل لغوي لمجموعة مرجعية كبيرة تحتوي على نصوص أكاديمية محررة بشكل احترافي، ومقالات من الصحف، ومقالات منشورة، وتنتج حوالي 50 مليون كلمة. يوفر هذا النموذج أنماط اللغة اللازمة لإجراء اختبارات الطلاقة ويساعد في إجراءات اكتشاف الأخطاء من خلال مقارنتها بالاستخدام القياسي. في مجموعة المراجع المرجعية، الخطوات قبل المعالجة المبدئية والفهرسة هي الترميز، وسم أجزاء الكلام، وتحليل النحو، والتسمية الدلالية لتسهيل الوصول الفعال أثناء التقييم في الوقت الحقيقي.
استراتيجية تدريب نموذج الطلاقة
يقترح نظام تحسين تسلسلي لتدريب البيانات على تحقيق الطلاقة. استخدم التدريب ميزات متطورة، بما في ذلك جدولة معدلات التعلم التكيفي، وحجم الدفعة التدريجي، وطرق تنظيم متقدمة تمنع الإفراط في التكييف مع تقدم التدريب، مما يحافظ على فعالية النموذج في تحديد الأنماط اللغوية التي تدل على طلاقة اللغة. معدل التعلم هو 5 × 10-4 مع جدول تلاشي خطي، مهيأ لضمان بقاء التقارب مستقرا ولا يتذبذب حول قيم المعلمات المثلى. يتم اختيار معدل التعلم هذا من خلال البحث الشبكي في [1 × 10-6، 1 × 10-4] مع كون 5 × 10-5 هو المعادلة الأنسب بين سرعة التقارب والاستقرار. سيتم تقييد التدريب الحقيقي بثلاث فترات فقط، وهو تكوين تم تحسينه بناء على الفوائد التجريبية من خلال تتبع فقدان التحقق لمنع الإفراط في التوافق دون منع تحديثات كافية للمعلمات لجعل التعلم فعالا. تم إجراء توقف مبكر للآليات مع صبر لفترتين ودلتا أدنى 0.001 لمنع التحلل.
يتم تنفيذ التحسين بواسطة محسن AdamW، مع خيارات مبسطة مثل β₁ = 0.9 (الزخم، الذي يتحكم في تراجع تقديرات العزم الأول بشكل أسي)، β₂ = 0.999 (تقدير العزم الثاني، الذي يتحكم في تراجع تقديرات العزم الثاني أسيا)، و ε = 1 × 10⁻8 (مصطلح الاستقرار العددي). تنظيم تناقص الوزن (λ = 0.01) يمنع نمو مقاييس المعلمات بشكل مفرط، مع اختيار هذه القيمة من خلال تحليل أداء التحقق عبر النطاق [0.001، 0.1]. المراقبة المعقدة قادرة على مراقبة مؤشرات مختلفة عبر التدريب لضمان أفضل أداء للنموذج وتجنب الإفراط في التركيب. تشمل إطار المراقبة ما يلي:
تتبع الخسارة: يتم تتبع فقدان التدريب والتحقق في كل حقبة، ويحدث التوقف المبكر تلقائيا عندما لا يتحسن فقدان التحقق خلال حقبتين متتاليتين.
مقاييس الأداء: تستخدم بيانات التحقق في حساب معاملات ارتباط بيرسون بين الدرجات المتوقعة والفعلية كل 100 خطوة تدريب.
استشعار التدرج: تتم مراقبة معايير التدرج لاكتشاف الانحدار المتلاشي والانفجاري، وعند معيار تدرج 1.0، يتم تطبيق قص التدرج.
جدولة معدل التعلم: يتم اكتشاف انخفاض معدل التعلم القائم على التحقق (العامل = 0.5) في حالة وجود أكثر من هضبة حقبة واحدة.
مرتبطة بالتنظيم: تم العثور على معدلات التسرب (0.1 لمرض BERT، 0.3 لرأس الانحدار) من خلال الاستئصال المنهجي. تستخدم عدة طرق تنظيم تعتمد على منع الإفراط في التركيب خلال عملية التدريب: (1) تنظيم الانسحاب باستخدام معدلات الانقطاع المحسنة لكل نوع من الطبقة في الشبكة، (2) تناقص الوزن كما هو موضح أعلاه، (3) التوقف المبكر الذي يحدده أداء التحقق، و(4) تعزيز البيانات بناء على إعادة صياغة 15 بالمئة من أمثلة التدريب باستخدام طرق الترجمة العكسية. تم حفظ نقاط التحقق للنموذج الأفضل أداء بعد كل حقبة، وتم اختيار النماذج الأعلى تقييما بناء على درجات الارتباط الصحيح. دالة الخسارة المستخدمة في جزء تقييم الطلاقة هي متوسط التربيع للخطأ (MSE)، وهو الدالة الهدف الرئيسية لمهمة الانحدار المتمثلة في التنبؤ بدرجات الطلاقة المستمرة. صياغة الخسارة رياضيا تعطى كما يلي:
(12)
N هو حجم العينة التدريبية الكلي، y_pred، i هو درجة الطلاقة المتوقعة للعينة i، و y_true i هي درجة الحقيقة الأرضية المقابلة كما قدمها مقيمون خبراء بشريون. هذا الخسارة مفيد جدا في تثبيط الخطأ التنبؤي الفعلي بشكل تربيعي بحيث تجذب الأخطاء الأكبر عقوبة أكبر، وتكون قابلة للاشتقاق أيضا. آلية جدولة معدلات التعلم متقدمة للغاية مع عملية ذات مرحلتين، وتبدأ بمرحلة تسخين خطية، تليها عملية تلاشي منهجية لإنشاء ميزات تقارب مثالية. يتم ذلك في مرحلة الإحماء، حيث يبدأ معدل التعلم من الصفر ويتغير تدريجيا إلى الحد الأقصى، وبعد ذلك يتم تحسين معلمات النموذج بالنسبة لمجموعة بيانات التدريب. التعبير الرياضي لمرحلة الإحماء هو:
(13)
بعد مرحلة الإحماء، يتم تقليل معدل التعلم بطريقة خطية منهجية لتجنب تجاوز قيم المعلمات المثلى، مما يؤدي إلى تقارب مستمر. رياضيا، تقرأ مرحلة التحلل كالتالي:
(14)
حيث t هي خطوة التدريب الحالية، وlr max هو الحد الأقصى لمعدل التعلم الذي تم تحقيقه أثناء الإحماء، والإحماء هو عدد الخطوات المخصصة لمرحلة الإحماء، والإجمالي هو إجمالي عدد خطوات التدريب عبر جميع العصور. تضمن إجراءات الجدولة المذكورة التعلم العنيف للنموذج في المستويات الأدنى والاستقرار على مستويات التقارب.
استراتيجية تدريب نموذج الصوابية
استند نموذج الصوابية إلى استراتيجية التعلم التحويلي باستخدام نموذج FLAN-T5 المدرب مسبقا للاستفادة من جميع المعرفة النحوية المتاحة حسب الحاجة. كان الهدف من ذلك النظر في الفهم العام للغة بالإضافة إلى المعلومات المحددة المتعلقة بالأخطاء التي يرتكبها متعلمي اللغة الإنجليزية كلغة ثانية. استخدمت طريقة التعلم التحويلي إلى نقطة التحقق pszemraj/flan-t5-large-grammar-synthesis كنموذج أساسي، مع عدة مزايا ملحوظة من حيث الدقة. نظرا لأن النموذج مدرب بالفعل ويمتلك قدرة عالية على فهم اللغة تم تدريبها في مجالات نصية مختلفة، فسوف يتكيف مع العديد من أساليب الكتابة ومواضيع الكتابة. على وجه الخصوص، تم إجراء ضبط دقيق خاص بالقواعد على مجموعات بيانات تصحيحية كبيرة تغطي أنواعا متعددة من الأخطاء النحوية كما هو الحال في الكتابة باللغة الثانية. علاوة على ذلك، تتكون نقطة التفتيش من أنظمة قوية لاكتشاف الأخطاء يتم اختبارها ضد أنواع الأخطاء المختلفة (أي الأخطاء الصرفية، والأخطاء النحوية، والدلالية)، مما يخلق معيارا مثاليا للمقارنة مع معايير اختبار التصحيح الفطري للدراسة.
تعكس عملية تكييف المجال التعديلات المنهجية على المعلمات التي لا تغير القدرات العامة لفهم اللغة للنموذج المدرب مسبقا، بل تقدم الميزات المحددة لحل مهمة تقييم الكتابة. هذه العملية من التكيف لها اشتقاق رياضي كما يلي:
(15)
هنا يمثل θالمدرب مسبقا معلمات النموذج المدرب مسبقا الذي يرمز للفهم العام للغة والمعرفة النحوية، ويمثلالمجال Δθ تحديثات المعلمات المحددة التي تم تعلمها من مهمة تقييم الكتابة المستهدفة. يتم حساب التحديثات الخاصة بالمجال من خلال تحسين قائم على التدرج على مجموعة البيانات المستهدفة، مما يضمن أن النموذج يطور حساسية خاصة بالمهمة لأنواع الأخطاء الشائعة في كتابة اللغة الإنجليزية كلغة أجنبية دون التأثير على قدراته اللغوية الأوسع.
تجارب مع المقارنات
لإثبات وظيفة معامل الارتباط المبكر، يقترح معامل بيرسون كقيمة رئيسية للقياس، والتي تحدد الصلة الخطية بين الدرجات الآلية وخبرة البشر. يتم إيجاد معامل الارتباط بواسطة الصيغة:
(16)
حيث تمثل xi الدرجات الآلية، وتمثل التقييمات البشرية، و
و
هما الوسيلان المعنيان. يتراوح معامل الارتباط بين −1 و1، مع القيم القريبة من 1 تشير إلى علاقة إيجابية قوية بين التقييم الآلي والتقييم البشري.
(17)
(18)
(19)
مقارنات النماذج الأساسية
لتقييم أداء EG وإثبات تفوقه على الطرق الحالية، تجرى مقارنات معمقة مع أساليب AWE الراسخة والأساليب التقليدية ذات المقياس الواحد. تعد هذه المقارنات الأساسية ضرورية للتحقق من القيمة المضافة لبنية EG وإثبات أن دمج الطلاقة وتقييم الدقة يوفر تحسينات قابلة للقياس مقارنة بالأساليب التي تركز على الأبعاد الفردية بشكل منفصل. يشمل اختيار النماذج الأساسية أربع فئات من التأثيرات الذهنية الذهنية، كل منها يعكس توجها مميزا نحو كيفية تقييم الكتابة. الأول يحتوي على نموذج واحد قائم على BERT لتقييم الطلاقة. تستخدم هذه النماذج هياكل المحولات لتقييم أنماط النصوص للسلاسة والتماسك. الفئة الثانية، المدرجة في المنهجيات اللغوية التقليدية، تركز على الأنظمة القائمة على القواعد لاكتشاف الأخطاء النحوية. لذا، ظل التركيز على الصحة، متجاهلا جوانب أخرى تتعلق بجودة الكتابة، مثل التماسك والمحتوى. الفئة الثالثة هي أنظمة AWE القائمة على الميزات، والتي تشمل مؤشرات التعقيد اللغوي — مثل طول الجمل المتغيرة، وتنويع المعجم، والتعقيد النحوي لتوليد درجات جودة عامة. الرابعة تأخذ الأنظمة الهجينة في الاعتبار من خلال دمج ميزات لغوية سطحية مختلفة، غالبا باستخدام طرق المجموعات أو المتوسطات المرجحة. هذه النماذج لا تصل إلى مستوى التعقيد المتكامل الذي تحققه البنى العصبية EG. يتم تقييم أداء النموذج الأساسي بثلاثة أبعاد رئيسية. الأول يقيس توافق الدرجات التي تولدها الأنظمة مع تقييمات الخبراء البشر المدربين (مدرسو اللغة الإنجليزية) باستخدام معايير موحدة. الثاني يحدد قابلية التعميم، ويحدد ما إذا كان الأداء يظل ثابتا عبر ثلاثة مقالات ذات مواضيع وتعقيد متنوعة. يعتمد البعد الثالث على الموثوقية التنبؤية، حيث يقيم دقة واستقرار التقييم من خلال أدوات إحصائية مثل متوسط الخطأ المطلق، والجذر المتوسط التربيعي، وتحليل فترات الثقة. تضع هذه الأبعاد مجتمعة إطارا قويا للمقارنة وتبرز تفوق أنظمة EG، خاصة في تحقيق دقة واستقرار أكبر من الأساليب التقليدية.
المجموعات التجريبية والضابطة
شملت هذه الدراسة 90 طالبا جامعيا في الاقتصاد كانوا يدرسون دورة لغة إنجليزية وظيفية في فصلين سليمين. تم جمع البيانات في ثلاث مناسبات: الاختبار التمهيدي، والتدخل، وبعد الاختبار لتتبع التقدم في دقة الكتابة والطلاقة مع مرور الوقت. تمت الموافقة على هذه الدراسة البشرية من قبل المجلس الاستشاري الإداري، جامعة كومساتس في إسلام آباد، حرم لاهور، باكستان. تعرض المشاركون لحالتين: التغذية الراجعة البشرية التقليدية والتغذية الراجعة المدعومة بالحاسوب. تكونت مجموعة الضابط من 45 طالبا، تلقوا الملاحظات الكتابية التقليدية من مدرس لغة إنجليزية مدرب. تلقى المشاركون ملاحظات مكتوبة حول مقالات الطلاب على شكل علامات شاملة، وتحديد الأخطاء، وتوصيات على شكل تعليقات من مدرس حول كيفية تحسين العمل. شملت المجموعة التجريبية، بدورها، 45 طالبا تلقوا نفس الطريقة في الصف، ومع ذلك تم تعزيز كتابة الطلاب بمساعدة تغذية راجعة آلية سريعة قدمها المهندس المساعد، والتي زودتهم بمعلومات التشخيص، سواء من حيث الطلاقة أو الدقة، خلال حوالي 30 ثانية من التقديم.
أجريت هذه الدراسة على مدى 8 أسابيع، حيث أجري اختبار تمهيدي (الأسبوع الأول) لتحديد الأداء الكتابي الأولي للمشاركين قبل أن يعطى الطلاب تدخلا. تم إعطاء المشاركين تغذية راجعة حاسوبية باستخدام علامات دلالية لغوية طبيعية في المجموعة التجريبية وتقييم المعلمين في مجموعة الضابطة لمدة ستة أسابيع. في النهاية، تم إجراء الاختبار التالي (في الأسبوع الثامن) لفهم الفرق بين مقاييس الدقة والطلاقة قبل وبعد الاختبار. للحصول على نتائج مماثلة في قابلية المقارنة، طلب من المشاركين القيام بمهام مماثلة كتابيا في كل فترة تقييم، مما يقلل من المتغيرات المحتملة المربكة لصعوبة المهمة ومدى إلمام المحتوى بالكتابة. لضمان توافق محفزات الكتابة مع مستوى الصعوبة، بالإضافة إلى تحديد صلاحية المحتوى، تم اختيار محفزات الكتابة بطريقة متناسقة. تم اختيار مواضيع المقالات بناء على أن الطلاب يغطيون مجالات محتوى مختلفة لمنع تأثير التدريب والملل من المشاركين من القيام بمهمة مماثلة على مدى فترة طويلة.
خلال مرحلة ما قبل الاختبار، طلب من المشاركين كتابة مقال من 400 إلى 450 كلمة والكتابة عن الأهداف الأكاديمية والمهنية. استند هذا الواجب الوصفي إلى التجربة الشخصية وتوقعات المستقبل، مما يوحي بالحاجة إلى تنظيم الكتابة، وتقديم أمثلة واضحة، وتقديم بيان منطقي للأهداف والدوافع الشخصية. كانت مهمة التدخل في الكتابة تعتمد على مواضيع مختلفة، مثل الكتابة عن الروتين اليومي للحياة، والهوايات، والسفر، واليوم الأول في الجامعة، وأيام الحياة التي لا تنسى، ولحظات الأصدقاء المقربين. كان موضوع ما بعد الاختبار مرتبطا بموضوع 'تأثير التكنولوجيا على التواصل'، وكان طول المقال المطلوب 400–450 كلمة.