استخدمت هذه الدراسة مجموعات بيانات BVC Challenging Voice Set وMozilla Common Voice المتاحة للعموم دون مشاركة مباشرة من المشاركين. وبناءً على ذلك، لم تكن هناك حاجة للحصول على موافقة أخلاقية مؤسسية أو موافقة مستنيرة إضافية. تمت معالجة البيانات الضرورية فقط لتصنيف الجنس والعمر، ولم يتم إجراء أي محاولة لتحديد هوية المتحدثين الأفراد. وتظهر منهجية سير العمل الكاملة للإطار المقترح في الشكل 1.
جمع البيانات
تكونت مجموعة البيانات المستخدمة في النهج المقترح من ملفات صوتية بصيغة .wav تم الحصول عليها من مجموعة BVC Challenging Voice Set، وهي مجموعة بيانات صوتية متاحة للعامة طورتها مجموعة Biometrics Vision and Computing (BVC) ومستضافة على GitHub32. احتوت مجموعة البيانات على تسجيلات صوتية لـ 526 شخصاً، بما في ذلك 336 متحدثاً من الذكور و190 متحدثة من الإناث. وقد شملت ما يقرب من 3,964 تسجيلاً، تضمنت تسجيلات لجملة واحدة وجمل متعددة لكل متحدث. ويلخص الجدول 2 الخصائص الديموغرافية، والتغطية اللغوية، وخصائص التسجيل، واستراتيجية تقسيم البيانات، وإعدادات المعالجة المسبقة المستخدمة لمجموعات بيانات الكلام في إطار عمل VoiceNet-RAI المقترح.
استخلاص الميزات
تمت معالجة الملفات الصوتية لاستخراج الخصائص الأساسية، والتي تم تخزينها لاحقاً في ملف CSV. كما استُخرجت البيانات الوصفية، بما في ذلك العمر والجنس ونطق المتحدث، من ملفات README المقابلة. استُخدمت لغة Python، جنباً إلى جنب مع حزمة SciPy، لمعالجة ملفات WAV واستخراج الميزات ذات الصلة. ووظفت دوال تحويل فوريه السريع (FFT) والتردد في NumPy لتحويل الإشارات الصوتية من النطاق الزمني إلى النطاق الترددي. مثلت ملفات WAV السعة كدالة في الزمن؛ ومع ذلك، كانت الخصائص المرتبطة بالتردد، والتي يمكنها التمييز بين أصوات الذكور والإناث، ذات أهمية أكبر لمهمة التصنيف33.
لتحويل الإشارات الصوتية إلى تمثيلات في نطاق التردد، تم تطبيق تحويل فوريه المتقطع (DFT) باستخدام خوارزمية FFT. يقوم تحويل فوريه بتحويل الإشارة من النطاق الزمني إلى طيف ترددي. ونظراً لأن هذا الطيف لا يحافظ على المعلومات الزمنية، فقد تم تقسيم الإشارة الصوتية إلى مقاطع متداخلة، وطُبق تحويل فوريه على كل مقطع باستخدام منهج تحويل فوريه قصير المدى (STFT). قامت الدالة np.fft.fft بتوليد طيف التردد المركب، بينما وفرت الدالة np.fft.fftfreq ترددات العينات المقابلة. توفر في دليل العينات 10 ملفات صوتية لمتحدث واحد. تمت معالجة كل ملف WAV باستخدام نوافذ منزلقة بزمن 200 ms لاستخراج الترددات السائدة. على سبيل المثال، أنتج تسجيل صوتي مدته 4 ثوانٍ قائمة تضم 20 قيمة ترددية. وبالنسبة لدليل يحتوي على 10 تسجيلات، دُمجت القوائم العشر المقابلة، والتي تحتوي كل منها على 20 قيمة ترددية، في قائمة من القوائم. كما تم ترشيح الترددات للاحتفاظ بالقيم الواقعة بين 20 Hz و 280 Hz، مع استبعاد الضوضاء المحتملة حول 50 Hz.
تمثيل الميزات الهجين باستخدام MFCC و wav2vec 2.0
لالتقاط كلاً من تمثيلات الكلام السياقية عالية المستوى والخصائص الصوتية منخفضة المستوى، استخدمت هذه الدراسة استراتيجية هجينة لاستخراج الميزات تدمج ميزات MFCC مع تضمينات wav2vec 2.0 القائمة على نموذج Transformer.
استخراج ميزات MFCC
تُعد معاملات السيبسترال بتردد ميل (MFCCs) ميزات مستخدمة على نطاق واسع في معالجة الكلام وإشارات الصوت، لا سيما في تطبيقات مثل التعرف على الكلام وتحديد هوية المتحدث34,35. وفي هذه الدراسة، عمل استخراج MFCC على تحويل الإشارات الصوتية إلى متجهات ميزات تمثل الخصائص ذات الصلة بالإدراك الحسي للكلام. بدأت العملية بالتركيز المسبق (pre-emphasis) لتعزيز المكونات عالية التردد، يليه التأطير والتقطيع النافذي (framing and windowing) لتقسيم الإشارة إلى إطارات قصيرة ومتداخلة. أولاً، تمت إعادة أخذ عينات من كل عينة صوتية بتردد 16 kHz وتقسيمها إلى إطارات مدتها 25-ms مع تداخل قدره 10-ms. ثم طُبق تحويل فوريه السريع (Fast Fourier Transform) على كل إطار لتحويل الإشارة من المجال الزمني إلى المجال الترددي.
تم تمرير طيف التردد الناتج عبر سلسلة من بنوك مرشحات ميل (Mel filter banks) التي تحاكي الاستجابة الترددية غير الخطية للإدراك السمعي البشري. وقد ركزت بنوك المرشحات هذه على الترددات الأكثر أهمية من الناحية الإدراكية مع تقليل مساهمة الترددات الأقل إفادة. بعد ذلك، تم حساب اللوغاريتم لمخرجات كل بنك مرشحات لمحاكاة الحساسية اللوغاريتمية للسمع البشري تجاه الجهارة. ثم طُبِّق تحويل جيب التمام المتقطع (DCT) على طاقات بنوك المرشحات اللوغاريتمية لإزالة الارتباط بين المعاملات وإنتاج تمثيل مدمج للإشارة الصوتية. وقد التقطت المعاملات الناتجة، والمعروفة باسم MFCCs، الخصائص الطيفية الهامة للكلام. استُخدمت MFCCs لتصنيف الجنس والعمر لأنها التقطت الخصائص الصوتية التي تميز الأصوات وفقاً لهذه السمات.
استخراج التضمينات باستخدام wav2vec 2.0
تم تدريب نموذج wav2vec 2.0 Base مسبقاً على مجموعات بيانات كلامية ضخمة غير مصنفة. ويتكون النموذج من مشفر Transformer متعدد الطبقات يقوم بمعالجة مدخلات شكل الموجة الخام وتوليد تضمينات كلامية سياقية36.
بناءً على شكل موجي مدخل x ∈ RT، ينتج نموذج wav2vec 2.0 تسلسلاً من التمثيلات الكامنة:
Z = {z1,z1,....,zn},zi ∈ R768 (1)
حيث كانت أبعاد كل متجه تضمين 768. وللحصول على تمثيل ثابت الطول ومناسب للتصنيف، تم تطبيق عملية تجميع متوسط زمني (temporal mean pooling) عبر جميع الخطوات الزمنية.
(2)
آلية دمج الميزات
تم دمج ميزات MFCC وwav2vec 2.0 عبر التسلسل على مستوى الميزات. وتحديداً، تم تجميع ميزات MFCC أولاً باستخدام المتوسط الزمني لإنتاج متجه ثابت الطول.
m ∈ R40 (3)
تم الحصول على متجه الميزات الهجين النهائي كما يلي:
h = [m || zpooled] ∈ R808 (4)
حيث يشير الرمز || إلى عملية التسلسل. وقد جمع هذا الدمج بين التضمينات السياقية العميقة والميزات الطيفية المصممة يدويًا، مما مكن النموذج من التقاط كل من المعلومات الدلالية رفيعة المستوى والأنماط الصوتية دقيقة التفاصيل.
أولاً، تمت إعادة أخذ عينات من جميع العينات الصوتية بتردد 16 kHz. حُسبت ميزات MFCC لكل إطار على حدة ثم أُجري لها متوسط زمني لإنتاج متجه ثابت بأبعاد 40، بينما تم تجميع تضمينات wav2vec 2.0 بالمتوسط عبر الزمن لإنتاج تمثيل بأبعاد 768. ونظراً لتحويل مجموعتي الميزات إلى متجهات ثابتة الطول قبل الدمج، لم تكن هناك حاجة للمحاذاة الزمنية على مستوى الإطار. بعد ذلك، تم دمج تمثيلات MFCC و wav2vec الناتجة في متجه ميزات هجين بأبعاد 808 قبل تمريره إلى نموذج التصنيف.
التكامل مع EfficientNet-Lite
تمت إعادة تشكيل متجه السمات المدمج، h، إلى تنسيق مناسب لتعلم السمات وتقديمه كمدخل لنموذج EfficientNet-Lite من أجل التدريب. قامت طبقة إسقاط متصلة بالكامل أولاً بخرائط المتجه ذو الـ 808 أبعاد إلى فضاء كامن أعلى أبعاداً، وبعد ذلك قامت كتل EfficientNet-Lite بتنقية السمات الهرمية. واستُخدمت طبقات تطبيع الدفعات (Batch normalization) وطبقات الإسقاط (dropout) لتقليل الإفراط في التخصيص وتحسين تعميم النموذج. كما استُخدمت دالة التنشيط SoftMax لتوليد الاحتمالات المتوقعة النهائية لفئات الجنس والعمر. عومل التمثيل المدمج، h ∈ R808، في البداية كمتجه سمات أحادي البعد ومُرِّر عبر طبقة إسقاط متصلة بالكامل قامت بخرائطه إلى 4,096 بُعداً. ثم أُعيد تشكيل التمثيل المُسقط إلى موتر (tensor) بأبعاد 1 × 64 × 64 قبل تزويده بمعمارية EfficientNet-Lite.
لمواءمة تمثيل سمات الكلام أحادي القناة، بدلاً من إدخال الصور التقليدي ثلاثي القنوات، تم تعديل طبقة التلافيف المدخلة في نموذج EfficientNet-Lite الأصلي من ثلاث قنوات إدخال إلى قناة واحدة. كما تم الاحتفاظ ببقية كتل استخراج السمات في EfficientNet-Lite دون تعديلات هيكلية رئيسية. وطُبقت طبقة تجميع متوسط عام تكيفية (adaptive global average pooling layer) على خرائط السمات النهائية لإنتاج تمثيل ثابت الطول. واستُبدل رأس التصنيف الأصلي بطبقة متصلة بالكامل مخصصة للمهمة، تحتوي على وحدتي إخراج لتصنيف النوع الاجتماعي، والعدد المقابل من وحدات الإخراج لمجموعات العمر المحددة مسبقاً. وأخيراً، طُبقت دالة التنشيط SoftMax لتوليد احتمالات الفئات. وقد دمج التمثيل الهجين المقترح بين تضمينات الكلام ذاتية الإشراف الحديثة وسمات معالجة الإشارات التقليدية؛ حيث التقطت تضمينات wav2vec 2.0 المعلومات السياقية والتبعيات طويلة المدى، بينما وفرت سمات MFCC معلومات صوتية تكميلية منخفضة المستوى. وقد أدى دمج هذه التمثيلات إلى تحسين أداء التصنيف، لا سيما في ظروف الكلام الضوضائية ومتعددة اللغات.
مصنف تعلم الآلة
في هذا البحث، تم تحليل أداء خوارزميات تعلم آلي (ML) متعددة لتصنيف النوع الاجتماعي والفئة العمرية استناداً إلى الصوت.
الغابة العشوائية (Random Forest)
استُخدمت الغابة العشوائية (Random Forest - RF) كـمُصنف قوي من مُصنفات تعلم الآلة (ML)، حيث تجمع بين عدة أشجار قرار (DTs) لتحسين دقة التنبؤ والحد من الإفراط في التخصيص (overfitting). تعمل الغابة العشوائية من خلال إجراء تعلّم تجميعي (ensemble-learning) يتم فيه تجميع التنبؤات من أشجار متعددة لإنتاج التنبؤ النهائي37,38. وقد مكن هذا النهج الغابة العشوائية من رصد أنماط متنوعة في البيانات مع تقليل الإفراط في التخصيص المرتبط عادةً بأشجار القرار الفردية. كما أدت العشوائية المُدخلة أثناء بناء الأشجار إلى تحسين قدرة النموذج على التعميم، مما جعل الغابة العشوائية مناسبة لمهام التصنيف مثل تصنيف الجنس والعمر من بيانات الصوت.
الانحدار اللوجستي
استُخدم الانحدار اللوجستي (LR) كنموذج إحصائي للتعلم الآلي (ML) لأغراض التصنيف39. وفي حالة التصنيف الثنائي، يقوم الانحدار اللوجستي بتقدير احتمالية حدوث نتيجة معينة بناءً على الميزات المدخلة باستخدام الدالة اللوجستية (sigmoid)، وتُستخدم الاحتمالات الناتجة لتوليد تنبؤات الفئات. كما كان الانحدار اللوجستي قابلاً للتطبيق على مشكلات التصنيف متعدد الفئات التي تتضمن أكثر من فئتين؛ حيث استخدم في التصنيف متعدد الفئات مناهج مثل "واحد مقابل البقية" (one-vs-rest) أو انحدار SoftMax، وذلك اعتماداً على إعدادات التصنيف.
مصنف الأشجار الإضافية
استُخدم مصنف الأشجار الإضافية (ETC) كخوارزمية تعلم تجميعي تجمع بين عدة أشجار قرار (DTs) لتوليد التنبؤات40,41. وبخلاف الغابات العشوائية (RF)، يقدم مصنف ETC عشوائية إضافية من خلال اختيار الميزات المرشحة وعتبات التقسيم بشكل عشوائي أثناء بناء الشجرة. وقد أنتج هذا الإجراء أشجاراً أقل ارتباطاً وقلل من حساسية النموذج للميزات الفردية، مما أدى إلى تحسين المتانة تجاه الضجيج. كما استُخدم مؤشر جيني (Gini index) كمعيار تقسيم لتقييم أهمية الميزات وتجزئة البيانات.
آلة متجه الدعم
تم استخدام آلة متجه الدعم (SVM) كمصنف تعلم آلي (ML) لتحديد حد قرار مثالي في فضاء ميزات عالي الأبعاد42. وكان الهدف هو تحديد مستوي فائق يحقق أقصى هامش بين الفئات. وبوجه عام، يدعم الهامش الأكبر بين حد القرار وأقرب نقاط البيانات فصلاً أفضل للفئات وقدرة أعلى على التعميم. وكانت آلة متجه الدعم قابلة للتطبيق في العديد من مهام التعلم الآلي، بما في ذلك التصنيف، والانحدار، وتحليل البيانات القائم على الميزات.
الشبكات العصبية التلافيفية
استُخدمت الشبكات العصبية الالتفافية (CNNs) كنماذج للتعلم العميق (DL) في مهام التصنيف التي تتضمن تمثيلات منظمة لبيانات الصور والصوت. كما طُبقت الشبكات العصبية الالتفافية أحادية الأبعاد (1D-CNNs) على نطاق واسع في البيانات التسلسلية والنصية. وتستخدم بنيات الشبكات العصبية الالتفافية المرشحات الالتفافية وعمليات التجميع لاستخلاص الميزات التمييزية من البيانات المدخلة43,44. ومن أجل تصنيف الجنس والعمر من بيانات الصوت، طُبقت الشبكات العصبية الالتفافية على التمثيلات المشتقة من الكلام لتعلم الأنماط المرتبطة بطبقة الصوت والتردد والنبرة والخصائص الصوتية الأخرى ذات الصلة بتمييز المجموعات العمرية والجنس.
VGG19
استُخدمت بنية VGG19 كبنية للتعلم العميق (DL) تتميز بهيكل هرمي عميق وموحد نسبيًا لاستخلاص الميزات45. وقد اعتمدت بنيتها على مرشحات تلافيفية صغيرة بحجم 3 × 3 عبر 19 طبقة، مما أتاح استخلاصًا تدريجيًا للميزات التمييزية. وعند تطبيقها على التمثيلات المشتقة من الكلام، تمكنت VGG19 من التقاط كل من الأنماط الصوتية منخفضة المستوى، مثل تغيرات طبقة الصوت والتردد، والميزات التمييزية عالية المستوى. كما أتاحت بنيتها العميقة تجريدًا تدريجيًا للميزات لنمذجة الخصائص الصوتية المرتبطة بالجنس والعمر.
EfficientNet-Lite
استُخدم EfficientNet-Lite كبنية للتعلم العميق (DL) تتسم بالكفاءة الحسابية46,47. وقد اعتمد النموذج استراتيجية قياس متوازنة لتحقيق أداء تصنيف قوي مع طلب موارد حسابية أقل مقارنة ببنيات التعلم العميق الأكثر تعقيداً. كما أخذ نهج القياس المركب الخاص به في الاعتبار عمق النموذج وعرضه ودقة المدخلات بشكل مشترك لتحقيق استخراج فعال للميزات.
تم اختيار EfficientNet-Lite لإطار عمل VoiceNet-RAI المقترح نظراً لبنيته خفيفة الوزن والتوازن الملحوظ بين أداء التصنيف وتعقيد النموذج. وبالمقارنة مع البنى الأكثر تعقيداً، فقد استخدم كتل تلافيفية فعالة وتحجيماً مركباً لتحقيق تعلم فعال للميزات بمعلمات أقل ومتطلبات حسابية منخفضة. جعلت هذه الخصائص EfficientNet-Lite مناسباً لإطار عمل تصنيف الكلام المقترح، ووفرت إمكانية نشره في البيئات محدودة الموارد.
MobileNet
استُخدم نموذج MobileNet كبنية خفيفة للتعلم العميق (DL) للتطبيقات ذات الموارد الحسابية المحدودة، بما في ذلك بيئات الحوسبة المتنقلة وحوسبة الحافة48. وقد تحققت كفاءته الحسابية بشكل أساسي من خلال الالتفافات القابلة للفصل بعمق (depthwise separable convolutions)، والتي قللت من عدد المعاملات والعمليات الحسابية مقارنة ببنيات الالتفاف التقليدية. جعلت هذه الخصائص MobileNet مناسباً لتقييم تصنيف الجنس والعمر من بيانات الصوت مع الحفاظ على متطلبات حسابية منخفضة نسبياً.
InceptionV3
استُخدم نموذج InceptionV3 كبنية عميقة لاستخراج السمات الهرمية من التمثيلات المشتقة من الكلام49. وتضمنت هذه البنية عمليات تلافيفية، وعمليات تجميع، وعمليات مختلطة لاستخراج السمات عند مستويات مختلفة من التجريد. ولغرض تصنيف النوع والعمر من بيانات الصوت، استُخدم InceptionV3 لتعلم الأنماط الصوتية المعقدة والتمثيلات الهرمية المرتبطة بالتباينات في الخصائص الصوتية.
معايير التقييم
كانت الدقة أحد أكثر مقاييس التقييم استخداماً لمهام التصنيف50. ورغم أن الدقة قدمت مقياساً مفيداً للأداء العام للتصنيف، إلا أنها لم توفر دائماً تقييماً شاملاً، لا سيما في حالات مجموعات البيانات غير المتوازنة. وبناءً على ذلك، تم استخدام مقاييس إضافية، بما في ذلك الدقة (precision)، والاستدعاء (recall)، ومقياس F1-score، لتقييم أداء النموذج. وقد وفرت هذه المقاييس تقييماً أكثر شمولاً من خلال مراعاة التنبؤات الصحيحة والخاطئة لكل فئة.
عُرِفت الدقة بأنها نسبة الملاحظات المصنفة بشكل صحيح إلى إجمالي عدد الملاحظات. ورغم أن الدقة كانت مفيدة بشكل خاص لمجموعات البيانات المتوازنة، إلا أن مجموعة البيانات المستخدمة في هذه الدراسة كانت غير متوازنة. وبناءً على ذلك، تم أخذ الإيجابيات الحقيقية (TP)، والإيجابيات الكاذبة (FP)، والسلبيات الحقيقية (TN)، والسلبيات الكاذبة (FN) في الاعتبار عند حساب وتفسير مقاييس التصنيف. وتمثل المعادلة أدناه التعريف القياسي للدقة:
الدقة = (TP+TN)/(TP+TN+FP+FN)×100 (5)
تقيس الدقة (Precision) قدرة المصنف على استرجاع الحالات ذات الصلة فقط:
الدقة= TP/(TP+FP) ×100 (6)
يقيس الاسترجاع، المعروف أيضاً بالحساسية، قدرة المصنف على تحديد جميع الحالات ذات الصلة:
الاستدعاء (Recall)= TP/(FN+TP) × 100 (7)
تجمع قيمة F1-score بين الدقة (precision) والاسترجاع (recall) في مقياس واحد، وهي مفيدة بشكل خاص لتقييم أداء التصنيف في مجموعات البيانات غير المتوازنة:
F1-Score =2 ×(PPV ×TPR)/(TPR+PPV) × 100 (8)