Forschung zur pathologischen Spracherkennung auf Basis von XGBoost

Zusammenfassung

Hier stellen wir ein Protokoll zur Einrichtung eines nicht-invasiven, auf XGBoost basierenden KI-Modells zur Diagnose von Stimmbänderpolypen unter Verwendung der Saarbrücken-Datenbank vor.

Zusammenfassung

Mit dem kontinuierlichen Wachstum der menschlichen sozialen Kommunikation nimmt auch die Zahl der Menschen mit Stimmstörungen zu. Aufgrund der objektiven und nicht-invasiven Vorteile akustischer Detektionsmethoden für pathologische Stimme ist der Einsatz der Sprachsignalanalyse zur pathologischen Spracherkennung zu einem Forschungsschwerpunkt geworden. Dieser Artikel wählte erstmals 101 kontinuierliche Vokale /a/ aus der deutschen SVD-Datenbank als Forschungsobjekt aus. Zweitens werden unter Verwendung der Wavelet-Pakettechnologie für die Zeit-Frequenz-Analyse vier nichtlineare dynamische Parameter – nämlich approximative Entropie, Sampleentropie, Fuzzy-Entropie und Permutationsentropie – aus den Subsignalen als Merkmalsparameter für den pathologischen Sprachklassifikator extrahiert. Schließlich wird der maschinelle Lernalgorithmus XGBoost als Mustererkennungsmethode ausgewählt, um einen pathologischen Stimmklassifikator zu etablieren, und die Klassifikationsleistung wird mittels Fünffach-Kreuzvalidierung und ROC-Kurve überprüft. Experimentelle Ergebnisse haben gezeigt, dass die Genauigkeit des pathologischen Stimmklassifikators von XGBoost 0,857 beträgt, der F1-Wert 0,875 und der AUC-Wert 0,944, was alle höher ist als der von SVM erstellte Klassifikator, was darauf hindeutet, dass XGBoost eine bessere Leistung bei der pathologischen Spracherkennung bietet.

Einleitung

Die Zahl der Menschen, die an Stimmstörungen leiden, steigt ständig. Statistiken zufolge hat ein Drittel der Bevölkerung irgendwann in ihrem Leben Stimmprobleme¹. Für professionelle Stimmnutzer wie Sänger und Lehrer ist aufgrund ihres häufigen Missbrauchs und Missbrauchs ihrer Stimme die Häufigkeit von Halserkrankungen höher. Zwei Studien führten Umfragen unter Lehrern in Tianjin und Urumqi durch, und die Ergebnisse zeigten, dass die Wahrscheinlichkeit, an Stimmstörungen zu leiden, bei 33,81 % bzw. 28,23 % ^liegt. Daher wird in der klinischen Praxis zunehmend Wert auf die Erkennung und Diagnose pathologischer Stimme gelegt. Derzeit werden subjektive Bewertungsmethoden, Laryngoskopieuntersuchungen und akustische Nachweismethoden hauptsächlich zur Diagnose von Stimmerkrankungen in der klinischen Praxis^{verwendet 4,5}. Die akustische Detektionsmethode wandelt Sprachsignale für die Forschung in digitale Signale um, sorgt für Objektivität und vermeidet Schmerzen des Patienten während der Untersuchung⁶. Daher ist die akustische Detektion zu einem effektiven Hilfsinstrument für Ärzte in der klinischen Diagnostik geworden, und die Forschung dazu nimmt zu.

Die wichtigsten Techniken zur Diagnose pathologischer Stimme mit akustischen Analysemethoden sind Merkmalsextraktion und Mustererkennung. Seit den 1960er Jahren extrahieren Forscher einige traditionelle akustische Parameter zur Untersuchung pathologischer Stimme und haben viele effektive und robuste akustische Merkmalsparameter gefunden, wie grundlegende Frequenzstörung, Amplitudenstörung und Mel-Frequenz-Cepstralkoeffizienten (MFCC)⁷. In den letzten Jahren haben sich Forscher nicht nur auf die Untersuchung traditioneller akustischer charakteristischer Parameter beschränkt, sondern nichtlineare dynamische Parameter werden auch im Bereich der pathologischen Spracherkennung^eingesetzt. Es hat auch eine sehr gute Wirkung. Mit der rasanten Entwicklung des maschinellen Lernens sind mehr Mustererkennungsmethoden mit hoher Laufgeschwindigkeit und guter Klassifikationsleistung entstanden. Es gibt auch immer mehr Mustererkennungsmethoden in der pathologischen Spracherkennung, wie Support Vector Machines (SVM), Random Forest, neuronale Netze, Deep Learning ^9,10. XGBoost ist eine Mustererkennungsmethode, die in den letzten Jahren Aufmerksamkeit erregt hat¹¹. Es erfordert keine Feature-Normalisierung und kann Features eigenständig auswählen. Es kann sich an verschiedene Verlustfunktionen anpassen und verwendet Regularisierungsterme, um Überanpassungen zu verhindern. Es besitzt Eigenschaften wie hohe Geschwindigkeit, Portabilität und Fehlertoleranz. Daher versucht dieser Artikel, die XGBoost-Methode auf pathologische Spracherkennung anzuwenden, um bessere Erkennungsergebnisse zu erzielen.

Protokoll

Der technische Arbeitsablauf dieser Studie ist in Abbildung 1 dargestellt.

1. Erfassung von Stimmproben

1. Die experimentellen Daten finden Sie vom SVD in Deutschland¹².
2. Erhalten Sie 101 Fälle von Vokal-/a/Sprachdaten, darunter 45 Fälle (19 Männer und 26 Frauen) von Patienten mit Vokalpolypen und 56 Fälle (28 Männer und 28 Frauen) von normalen Personen.

2. Wavelet-Paketzerlegung von Sprachdaten¹³

1. Führen Sie eine umfassende Suche über drei Daubechies-Wavelets (db1, 3, 5) und drei Dekompositionstiefen (4, 6, 8 Ebenen) mit der Software MATLAB R2023a durch.
2. Verwenden Sie eine Abtastrate von 16 kHz, eine vierstufige DB3-Wavelet-Paketzerlegung (WPD), um das Sprachsignal in 16 Unterbänder (jeweils 500 Hz Auflösung) zu unterteilen (Abbildung 2).

3. Extraktion von Merkmalsparametern

1. Diskrete Koeffizientensequenzen aus den 16 Unterbändern extrahieren, die durch 4-Ebenen-WPD in Python 3.10 erhalten wurden und als Eingabewerte für alle unten beschriebenen Entropiegleichungen dienen.
   HINWEIS: Alle in dieser Studie verwendeten Gleichungen wurden aus zuvor veröffentlichten Algorithmen (wie bei rEferences) abgeleitet und nicht unabhängig voneinander abgeleitet.
2. Berechnen Sie die ungefähre Entropie für die 16 WPD-Unterbandfolgen mit der folgenden^{Formel 14}:
   (1)
   (2)
   Cim (r)={d[X(i), X(j)]Parameter: Die Musterdimension m wird mit 2 gewählt, und die Ähnlichkeitstoleranz r mit 0,1 bis 0,25 mal der Standardabweichung¹⁴.
3. Berechnen Sie die Stichprobenentropie für die 16 WPD-Unterbandfolgen mit der Formel unten¹⁵:
   (4)
   (5)
   B_i^m (r) = {d[X(i), X(j)]Parameter: Die Musterdimension m wird als 1 oder 2 gewählt, und die Ähnlichkeitstoleranz r mit 0,1 bis 0,25 mal der Standardabweichung¹⁵.
4. Berechnen Sie die fuzzy-Mitgliedschaftsfunktion mit der folgenden^{Formel 16}:
   (7)
5. Berechnen Sie die unscharfe Entropie mit der folgenden^{Formel 17}:
   (8)
   (9)
   (10)
   Parameter: Die Musterdimension m wird mit 2 gewählt, und die Ähnlichkeitstoleranz r mit 0,15 mal der Standardabweichung.
6. Berechnen Sie die Permutationsentropie mit der folgenden^{Formel 18}:
   (11)
   Parameter: Die Musterdimension m wird mit 6 gewählt, und die Zeitverzögerung L = 2 wurde letztlich für die Permutationsentropieextraktion bestimmt.

4. Modellgründung

1. Teilen Sie Stimmproben von normalen und Patienten mit Stimmbandpolypen in einen Trainingsdatensatz und einen Testdatensatz im Verhältnis 8:2 auf.
2. Verwenden Sie den Trainingsdatensatz für Parameteroptimierung und Modelltraining und wenden Sie dann den resultierenden Klassifikator auf den Testdatensatz zur Krankheitsklassifikation an.
3. Führen Sie das SVM-Modellierungsverfahren mit Python 3.10 durch.
   1. Bestätigen Sie die nichtlineare Natur der Daten, indem Sie die SVM-Kernelleistungen vergleichen. Erste Tests mit einem linearen Kernel ergaben eine schlechte Genauigkeit, während der Kernel der radialen Basisfunktion (RBF) die Klassifikationsergebnisse deutlich verbesserte und zeigte, dass der Merkmalsraum eine nichtlineare Entscheidungsgrenze benötigt.
   2. Verwenden Sie die 16-dimensionalen Entropie-Merkmalsvektoren (extrahiert über WPD) als Eingabe für den SVM-Klassifikator. Implementiere einen RBF-Kernel, um die nichtlinearen Sprachmerkmale in einen hochdimensionalen Raum abzubilden.
   3. Führen Sie eine Gittersuche mit Python (scikit-learn) durch, um die optimale Kombination aus dem Strafkoeffizienten C und der Kernel-Breite γ während der Trainingsphase zu identifizieren. Bewerten Sie jeden Parametersatz, indem Sie die Wiedererkennungsrate der Kreuzvalidierung maximieren.
   4. Trainieren Sie das SVM-Modell mit Stimmproben von normalen Personen und Patienten mit Stimmbänderpolypen. Verwenden Sie die optimalen Hyperparameter, die aus der Gittersuche gewonnen wurden, um das endgültige trainierte Modell zu konstruieren.
   5. Wenden Sie das trainierte Modell auf unsichtbare Testproben an. Jede Testprobe durchläuft das gleiche WPD- und Entropieextraktionsverfahren wie die Trainingsdaten. Das SVM sagt das binäre Klassenlabel (normale vs. Stimmbandpolypen) anhand der räumlichen Position des Testmerkmalvektors relativ zur optimierten Entscheidungsgrenze voraus.
4. Führen Sie das XGBoost-Modellierungsverfahren mit Python 3.10 durch.
   1. Verwenden Sie eine Python-basierte Rastersuche, um wichtige Hyperparameter (einschließlich Lernrate und Baumtiefe) während der Trainingsphase zu optimieren. Bewerten Sie mehrere Parameterkombinationen mittels Kreuzvalidierung, um die Konfiguration zu identifizieren, die die Klassifikationsgenauigkeit maximiert.
   2. Trainieren Sie einen binären XGBoost-Klassifikator mit den sechzehn Entropiemerkmalen, die aus Sprachproben extrahiert werden. Wenden Sie die optimalen Hyperparameter an, die aus der Gittersuche gewonnen werden, um das endgültige Modell zu konstruieren.
   3. Getestet wird das trainierte Modell an einem unabhängigen Validierungsset, das aus unbekannten Stichproben besteht. Dieser Schritt bewertet die Verallgemeinerungsfähigkeit des Klassifikators, indem er seine Leistung auf Daten bewertet, die während des Trainings nicht verwendet wurden.

5. Bewertung der Modellleistung

1. Führen Sie eine fünffache Kreuzvalidierungsmethode durch.
   1. Teile den vorverarbeiteten Sprachdatensatz zufällig in fünf gleich große Falten auf. Verwenden Sie vier Falten als Trainingssatz zur Erstellung des Modells und verwenden Sie die verbleibende Einfache als Validierungssatz für die Leistungsbewertung.
   2. Wiederhole diesen Vorgang fünfmal. Verwenden Sie den Durchschnitt der Ergebnisse der fünf Iterationen als endgültige Modellleistung.
2. Erhalten Sie die Verwirrungsmatrix.
   1. Erzeugen Sie die Verwirrungsmatrix, indem Sie die vorhergesagten Labels des Klassifikators mit den Ground-Truth-Labels aller Testproben gemäß den fünffachen Kreuzvalidierungsergebnissen vergleichen. Aggregieren Sie diese individuellen Vergleiche in eine Kontingenztabelle mit der Python-Bibliothek scikit-learn, um korrekte und falsche Klassifikationen zu quantifizieren, wie in Tabelle 1 gezeigt.
3. Berechnen Sie Genauigkeit, Präzision, Sensitivität und F1-Score, um die Wirksamkeit eines Klassifikationsmodells zu beschreiben. Die relevanten Berechnungsformeln sind wie folgt.
   Genauigkeit = (TP + TN)/(TP + TN + FP + FN)
   Präzision = TP/(TP + FP)
   Empfindlichkeit = Rückruf = TPR = TP/(TP+ FN)
   F1 = (2 × Präzision × Rückruf)/ (Präzision + Rückruf)
   HINWEIS: Diese Metriken (TP, TN, FP, FN) wurden aus den Elementen der Verwirrungsmatrix abgeleitet.
4. Beschreiben Sie die ROC-Kurve mit AUC.
   1. Zeichnen Sie die ROC-Kurve auf, um den Kompromiss zwischen der wahren Positivrate (TPR) und der Falsch-Positiv-Rate (FPR) über alle Klassifikationsschwellenwerte hinweg zu visualisieren. Berechnen Sie die Fläche unter der Kurve (AUC) als zusammenfassende Kennzahl, um die allgemeine Diskriminierungsfähigkeit des Modells zu quantifizieren.
      HINWEIS: Ein AUC-Wert näher bei 1 zeigt eine höhere Wahrscheinlichkeit an, dass der Klassifikator korrekt zwischen normalen Individuen und solchen mit Stimmbandpolypen unterscheidet, unabhängig vom spezifischen Entscheidungsschwellenwert.

Ergebnisse

In dieser Studie wurde eine Wavelet-Paketanalyse eingesetzt, um die Zeit-Frequenz-Zerlegung von Sprachsignalen durchzuführen. Durch die Integration nichtlinearer dynamischer Parameter – einschließlich approximativer Entropie, Probenentropie, fuzzy-Entropie und Permutationsentropie – wurden die Komplexitäts- und Unregelmäßigkeitsmerkmale pathologischer Stimmen, die mit Stimmlippenpolypen assoziiert sind, systematisch charakterisiert. Anschließend wurden zwei pathologische Sprachklassifika...

Diskussion

Die pathologische Stimmdiagnose mittels Sprachsignalanalyse stellt einen nicht-invasiven und objektiven Ansatz^{dar 19}. Folglich hat sich die pathologische Stimmklassifikation als bedeutender Forschungsschwerpunkt in der Sprachsignalverarbeitung und -erkennung etabliert und weist erheblichen klinischen Anwendungswert und Entwicklungsmöglichkeiten^auf. Diese Studie verwendete Sprachproben, die von SVD gesammelt wurden, als experimentelle Korpor...

Materialien

Liste der in diesem Artikel verwendeten Materialien

Name	Unternehmen	Katalognummer	Kommentare
MATLAB	The MathWorks	R2023a	Primäre Softwareplattform für numerische Berechnung und Algorithmusprototyping.
Python-Software	Python Software Foundation	Python 3.10	Kernprogrammiersprache, die während der gesamten Studie verwendet wird.
Saarbruecken Voice Database, SVD	Institut für Phonetik, Saarland-Universität	Saarbrü cken Sprachdatenbank (SVD)	Öffentlich zugängliche Datenbank mit pathologischen und normalen Stimmaufnahmen. Enthält anhaltende Vokale und kontinuierliche Sprache von Probanden mit Erkrankungen wie Stimmbänderpolypen sowie gesunden Kontrollpersonen. Wird für akademische Forschung unter den festgelegten Zugangsbedingungen verwendet.