$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Het huidige protocol presenteert een nieuwigheid op het gebied van (forensische) fonetica. Het is verdeeld in twee fasen: een gebaseerd op productie (akoestische analyse) en een gebaseerd op perceptie (beoordelingsanalyse). De productieanalysefase omvat de gegevensvoorbereiding en geforceerde uitlijning, heruitlijning en automatische extractie van prosodische-akoestische kenmerken naast de statistieken. Dit protocol verbindt de fase van gegevensverzameling met de gegevensanalyse op een snellere en efficiëntere manier dan de traditionele protocollen die voornamelijk gebaseerd zijn op handmatige segmentatie.
De heruitlijningsprocedure, getoond in protocolstappen 1.3.6 tot 1.3.6.9, werkt echter fundamenteel op de fone- en woodeenheden die zijn gegenereerd in protocolstappen 1.3.1 tot 1.3.4. De nieuwigheid van het heruitlijningsproces is dat het een nieuw TextGrid genereert met drie nieuwe tekstlagen: een syllabische laag, een spraakstukslaag die automatisch of handmatig kan worden gegenereerd op basis van woorden, en een toonlaag die heel nuttig kan zijn voor het berekenen van f0-maatregelen. De voor dit protocol voorgestelde heruitlijningsrichtlijnen werden eerder gebruikt in studies van L2 spraakritme21,69,70, studies voor de detectie van de mate van buitenlands accent met behulp van machine learning-technieken22, en studies in het forensische domein9.
De automatische extractie van prosodische kenmerken, gepresenteerd in protocolstappen 1.3.7 tot 1.3.7.10, genereert een multidimensionale matrix van prosodische-akoestische kenmerken zoals kan worden getest in het huidige onderzoek. Dergelijke kenmerken omvatten melodische, duur-, en spectrale (stemkwaliteit en intensiteit) spraakfuncties71. Een aanzienlijk aantal van deze akoestische kenmerken is minder gevoelig en enigszins robuust voor lawaaierige audio-opnamen die uiteindelijk in forensische of andere scenario's worden verzameld72. Bovendien kan de multidimensionale matrix worden toegepast op spraakherkenningssystemen via verschillende AI-technieken (in uitvoering). Het kan nog steeds heel nuttig zijn in het onderwijzen van prosodische aspecten in L2 uitspraakklassen21 (in uitvoering).
De statistische analyse van dit deel van het protocol vertegenwoordigt het gebruik van de GAM-methode, aangezien we te maken hadden met een complexe relatie tussen een specifiek akoestisch kenmerk en meerdere sprekers van taalfactoren. Om een specifiek akoestisch kenmerk te modelleren, was het bijvoorbeeld noodzakelijk om te controleren hoe andere akoestische kenmerken uit de matrix (de vlotte termen) zouden presteren, zodat we nauwkeuriger konden beschrijven wat er gebeurde tijdens spraakproductie.
Met betrekking tot de perceptieanalyse bestond het huidige protocol uit het voorbereiden en implementeren van de voice lineups, statistische analyse en akoestische gelijkenisanalyse. Om de lineups voor te bereiden, gebruikten we het CreateLineup-script voor Praat, dat automatisch een audiobestand genereert voor elke lineup met willekeurig gesequencede foils en doelstem zoals beschreven in protocolstappen 2.2 tot 2.2.1.9.
Voor de statistische analyse van dit protocol hebben we de Kruskal-Wallis niet-parametrische test uitgevoerd, aangezien onze gegevens niet voldeden aan de veronderstellingen van de analyse van variantie (ANOVA). Zodra we een relatie hadden tussen de beoordelingsscores beoordeeld door de luisteraars en gecontroleerd voor de doelstem en de foils, kozen we ervoor om de lineaire modelstatistieken te gebruiken.
Voor de akoestische gelijkenisanalyse gebruikten we het AcousticSmilarity_cosine_euclidean script voor Python. Het programma toont de directoryboom van de computer en vraagt de gebruiker om het bestand te kiezen dat de prosodische-akoestische kenmerken van de foils en de doelstem bevat die de lineup in analyse vormen. Met een klik op een knop genereert het script drie gelijkenismatrices: een cosinus-, een euclidische en een getransformeerde ( zero-to-one ) euclidische, op zowel '.txt' (tab-gescheiden) als '.csv' bestanden. We moeten nog steeds in gedachten houden dat elke dataset (het '.txt' bestand dat de prosodische-akoestische kenmerken van de foils en de doelstem bevat) in de originele folder van de lineup moet staan en elke lineup folder een kopie van het AcousticSmilarity_cosine_euclidean script moet hebben.
Kortom, het huidige protocol maakt vorderingen in het onderzoek naar (forensische) fonetica. Bestaande uit verschillende fasen - productie- en perceptieanalyses, evenals akoestische gelijkenis - overbrugt het de kloof tussen gegevensverzameling en multidimensionale akoestische-kenmerkanalyse. Onderzoekers kunnen profiteren van een holistische perspectief door zowel productie- als perceptieaspecten te verkennen. Bovendien zorgt dit protocol voor reproduceerbaarheid van onderzoek, waardoor anderen kunnen voortbouwen op de richtlijnen van dit werk.
Beperkingen en toekomstige richtingen
We moeten nog steeds in gedachten houden dat alles succesvol zal verlopen als de gegevensvoorbereiding de richtlijnen volgt die worden voorgesteld in protocolstappen 1.3.1 tot 1.3.4. Bovendien moeten we in de procedures voor geforceerde uitlijning bewust zijn dat een externe vooraf getrainde geforceerde uitlijner, zoals MAUS die in het huidige werk wordt gebruikt, vatbaar is voor segmentatiefouten, vooral bij niet-vooraf getrainde buitenlandse geaccentueerde gegevens of zelfs bij vooraf getrainde uitlijners, of het geluid geen goede kwaliteit heeft of de uitlijner de geluidstaal niet bevat (dit feit zou het werk van de expert moeilijker en tijdrovender maken). Forensische transcriptie, vooral van langere audiobestanden, stuit op moeilijkheden met betrekking tot de nauwkeurige en betrouwbare weergave van gesproken opnamen72.
Er zijn ook verschill