$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Experimente und Analyse
Alle 32 Lernenden lieferten Basisdaten. Nach-Testdaten lagen für 16 Lernende in jeder Gruppe zur Verfügung (WCF und STEP-DWCF-R; Abbildung 2). Der Studienzeitplan und die Messungen sind in Abbildung 3 dargestellt, und der End-to-End-Feedback-Workflow ist in Abbildung 4 dargestellt. Die experimentellen Aufbau- und Implementierungsparameter für unser KI-System sind in Tabelle 1 dargestellt. Die Analysen folgten dem vorgegebenen Plan mit Intention-to-treat. Zunächst bewerten wir die Baseline-Äquivalenz (Tabelle 2), dann berichten wir das primäre Endergebnis (Abbildung 5 und Tabelle 3), gefolgt von sekundären Endpunkten (Tabelle 4) mit Robustheits- und Zuverlässigkeitsprüfungen.
Basisäquivalenz
Zu Beginn (Woche 1) waren die Gruppen beschreibend ähnlich bei vorgegebenen Kovariaten, einschließlich Demografie und IELTS-Schreibleistung, bevor jegliches Feedback vorlag (Tabelle 2). Einzelne IELTS-Komponentenwerte werden in 0,5-Band-Schritten vergeben, während die Tabelle Gruppenmittelwerte angibt. Die Gesamtmittelwerte der Woche 1 (WCF = 5,625, STEP-DWCF-R = 5,500) werden aus denselben Arrays berechnet, die zur Erstellung von Abbildung 5 verwendet wurden. Wir führen keine Hypothesentests zu Beginn durch; etwaige Restungleichgewichte werden durch das Pre-Post-Design und den Group × Time-Term im Mixed-Effects-Modell behoben, und ein nach dem Test angepasster Vergleich für den Baseline wird im Abschnitt Protokoll berichtet.
Hauptergebnis
Abbildung 5 fasst die Veränderungen vor der Nachfolge zusammen, während Tabelle 3 und Tabelle 5 Modellschätzungen und die Erreichung nach dem Test zeigen. Zu Beginn (Woche 1) lagen die Gruppenmittelwerte bei 5,625 für WCF und 5,500 für STEP-DWCF-R, was eine nicht-signifikante Gruppendifferenz von −0,125 Bändern ergab (SE = 0,133, t = − .939, df = 29,90, p = .355, 95%-KI [−0,397, 0,147]). Die Basislinie in Tabelle 3 schätzt daher den WCF-Durchschnitt der Woche 1 bei 5,625 mit 95 % KI [5,419, 5,831] (SE = 0,097, df = 15). Von Woche 1 bis Woche 8 verbesserte sich der WCF um 0,3125 Bänder (SE = 0,128, t = 2,44, df = 15, p = 0,028, 95%-KI [0,039, 0,586]; standardisierter Gruppen-Effekt dz = 0,61). STEP-DWCF-R verbesserte sich um 1,0313 Bänder (SE = 0,140, t = 7,34, df = 15, p = 2,44 × 10−6, 95 % KI [0,732, 1,331]; dz = 1,84). Der lineare Mixed-Effects-Kontrast für die Gruppe×-Zeit-Interaktion – also die Differenz-in-Differenzen – betrug 0,7188 Bänder (SE = 0,190, t = 3,78, df = 29,75, p = 0,0007, 95%-KI [0,330, 1,107]; Tabelle 3), die größere Gewinne unter STEP-DWCF-R anzeigen. Nach dem Test (Woche 8) begünstigten die geschätzten marginalen Mittelwerte STEP-DWCF-R um 0,5938 Bänder (Welch-Test auf Gruppenmitteln: SE = 0,115, t = 5,16, df = 29,74, p = 1,50 × 10−5, 95%-KI [0,359, 0,829]). Im Einklang damit zeigt die Erwerbstabelle (Tabelle 5), dass in Woche 8 13 % der WCF-Lernenden das Gesamt-≥ 6,5 erreichten und 0 % ≥ 7,0 erreichten (Zählungen 2/16 und 0/16), während 81 % der STEP-DWCF-R-Lernenden ≥ 6,5 und 25 % ≥ 7,0 erreichten (Zählungen 13/16 und 4/16). Tabelle 3 zeigt die entsprechenden Fixed-Effect-Schätzungen und deren Unsicherheit.
Ergebnisse auf Dimensionsebene
Tabelle 4 fasst die Änderungen vor der Nachbearbeitung über die vier Dimensionen von Aufgabe 2 zusammen. Task Response (TR) zeigte einen Gewinn von Δ = 0,25 Bändern unter WCF gegenüber Δ = 0,95 unter STEP-DWCF-R, was ΔΔ = 0,70 mit 95 % KI [0,28, 1,12] und Holm-bereinigtes p = 0,006 ergibt. Kohärenz und Kohäsion (CC) zeigten den größten Kontrast: WCF Δ = 0,30, STEP-DWCF-R Δ = 1,15, daher ΔΔ = 0,85 (95%-KI [0,44, 1,26], adj-p = .002). Lexical Resource (LR) folgte demselben Muster mit WCF Δ = 0,35 und STEP-DWCF-R Δ = 0,95, was ΔΔ = 0,60 ergab (95%-KI [0,18, 1,02], adj-p = 0,012). Grammatical Range and Accuracy (GRA) verbessert um Δ = 0,25 in WCF und Δ = 0,97 in STEP-DWCF-R; das resultierende ΔΔ = 0,72 trug ein 95%-KI von [0,31, 1,13] mit adj-p = .004. In allen vier Dimensionen bevorzugten die Gruppen×Zeit-Kontraste STEP-DWCF-R nach der Holm–Bonferroni-Anpassung.
Prozessnachweise
Abbildung 6 und Abbildung 7 visualisieren die Kernergebnisse des Prozesses. In den Wochen 2–7 absolvierte STEP-DWCF-R durchschnittlich 2,26 Revisionsrunden pro Aufgabe (95 % KI [2,17, 2,35]; n = 96), während WCF für alle Aufgaben 1,00 Runden betrug (n = 96). Der mittlere Unterschied betrug 1,26 Runden (95 % KI [1,17, 1,35]); ein Mann–Whitney-Test bestätigte die Trennung der Verteilungen (U = 9216, z = 11,97, p < 10−30). Innerhalb von STEP-DWCF-R sanken die mittleren Fehlerzählungen um Runde: 13,78 in Runde 1 (95%-KI [13,02, 14,54]; n = 96), 8,94 in Runde 2 (95%-KI [8,42, 9,46]; n = 96) und 6,16 in Runde 3 (95%-KI [5,20, 7,12]; n = 25). Ein linearer Trend, der auf Beobachtungen pro Runde angepasst wurde, schätzte einen Rückgang von 4,14 Fehlern pro Runde (95 % KI [3,51, 4,78] in absoluter Größe; p < 10−12). Messgrößen der Rückkopplungsaufnahme und der Zeit auf Aufgabe sind in Abbildung 6 und Abbildung 7 nicht kodiert und werden daher in Tabelle 7 dargestellt.
Zuverlässigkeit und Robustheit
Die Einigung zwischen den Bewertern für die Aufsätze der Woche 1 und Woche 8 war gut bis ausgezeichnet. Zwei ausgebildete Bewerter bewerteten alle Skripte unabhängig voneinander und waren blind für Gruppen und Zeit; unter Verwendung des intraklassischen Korrelationskoeffizienten (ICC[2,2]) auf den Bewertungsmitteln lag die Zuverlässigkeit zwischen 0,86–0,93 über die Gesamtwerte, die vier Dimensionen hinweg und alle unteren 95%-Konfidenzgrenzen überschritten 0,80 (Tabelle 6). Diagnostische Überprüfungen des primären Mixed-Effects-Modells zeigten ungefähr normale Residuen ohne Materialheteroscedastizität, und Modelle, die auf Aufgabenebene Prozesszusammenfassungen angepasst sind, zeigten eine Dispersion nahe bei einem. Sensitivitätsanalysen basierend auf demselben Datensatz aus Woche 1/Woche 8 ergaben konsistente Schlussfolgerungen: Eine lineare Regression, die Gruppen nach dem Test verglich und gleichzeitig für Baseline-Werte adjustierte, schätzte einen bereinigten Unterschied zwischen den Gruppen von 0,575 Bändern in Woche 8 (95 % KI [0,336, 0,814], p = 3,15 × 10−5), und ein bewerterspezifisches gemischtes Modell, das einen zufälligen Effekt für den Bewerter enthielt und nicht gemittelte Werte verwendete, ergab eine Gruppen-×-Zeitschätzung von 0,72 Bändern (95 % KI [0,33, 1.11], p = .0007), ausgerichtet mit Tabelle 3. Die Ergebnisse blieben unverändert, wenn robuste Standardfehler verwendet wurden und Analysen auf vollständige Fälle beschränkt waren, was die Schlussfolgerung verstärkt, dass STEP-DWCF-R größere Vor-Post-Gewinne erzielt als WCF.
Qualitative Ergebnisse
Für die qualitative Analyse untersuchten wir STEP-DWCF-R-Überarbeitungsüberprüfungen über alle sechs Aufgaben hinweg sowie schriftliche Abschlussreflexionen der 16 Teilnehmer der STEP-DWCF-R-Gruppe. Zwei Programmierer kodierten die Materialien unabhängig voneinander mit einem fokussierten deduktiven Rahmen, der auf den vier Rückkopplungskategorien (Grammatik, Vokabular, Organisation, Schlussfolgerung) und Aufnahmebegründungen basiert. Die Einigung zwischen den Codierern war mit Cohens Kappa von 0,78 erheblich, und Meinungsverschiedenheiten wurden durch Diskussionen beigelegt.
Die Analyse zeigte fünf zentrale Themen: Die Aufnahme folgte einem gestuften Muster, bei dem die Lernenden Oberflächenmerkmale auflösten, bevor sie sich mit Organisation und Schlussfolgerung befassten; Span-spezifische, mit Rubriken verknüpfte Aufgaben waren umsetzbarer und häufiger übernommen als narrative Vorschläge; Die Komplementarität zwischen KI und Lehrkräften prägte Prioritäten, wobei sich überlappende Signale den Fokus erhöhten und die Lehrermoderation Konflikte löste; Die Vorteile erreichten früh ihren Höhepunkt, mit der Wiederverwendung von Organisationsvorlagen und lexikalischen Mustern, die in neuen Prompts vermerkt wurden; und die Lernenden passten Strategien über Aufgaben hinweg an. Diese Themen informieren die Prozessdynamiken, die im Abschnitt Prozesse-Evidenz untersucht werden. Auch Rückkopplungsaufnahmen, persistierende Fehler und Time-on-Task-Messungen wurden erfasst. Eine Zusammenfassung dieser zusätzlichen Prozessindikatoren ist in Tabelle 7 dargestellt.
Interpretation repräsentativer Ergebnisse
Zusammen zeigen die Ergebnisse und Prozessdaten, dass das STEP-DWCF-R-Framework mit einer größeren Verbesserung des IELTS-Schreibens als traditionelles Einrunden-Feedback verbunden ist. Das primäre Ergebnis zeigt eine Unterschiedsdifferenz zwischen den Gruppen von 0,72 Bändern, wobei sich die STEP-DWCF-R-Gruppe insgesamt um 1,03 Bänder verbessert, verglichen mit 0,31 Bändern in der WCF-Gruppe. Dieser Vorteil war in allen vier analytischen Dimensionen konsistent, wobei der größte Unterschied in Kohärenz und Kohäsion bei 0,85 Bändern lag, was darauf hindeutet, dass strukturiertes, mit Rubriken verknüpftes, mehrstufiges Feedback die Organisationsentwicklung besonders unterstützte. Prozessbelege deuten zudem darauf hin, dass iteratives Engagement diesem Vorteil zugrunde liegt. STEP-DWCF-R-Lernende absolvierten durchschnittlich 2,26 Überarbeitungsrunden pro Aufgabe, und die Fehleranzahl sank linear um etwa 4,1 Fehler pro Runde. So beinhaltete beispielsweise ein repräsentativer Workflow-Zyklus GPT-5, das strukturiertes JSON-Feedback in den vier Kategorien generierte, gefolgt von Lehrermoderation zur Beseitigung von Fehlalarmen und Verbesserung der Handlungsfähigkeit sowie der anschließenden Durchführung über die robotische KI-Agentenschnittstelle für mehrrundige Lerner-Überarbeitung. Diese Ergebnisse stützen die Machbarkeit und potenzielle Wirksamkeit des integrierten Multi-Komponenten-Workflows, der KI-generiertes Feedback, Lehrermoderation und iterative robotische KI-Agentenlieferung kombiniert, sollten jedoch nicht als Beweis für eine einzelne Komponente isoliert interpretiert werden. Das Dosisungleichgewicht von 2–3 Runden im Vergleich zu einer Runde und die moderate Stichprobengröße von 32 bedeuten, dass die beobachteten Gewinne den kombinierten Effekt von erhöhten Revisionsmöglichkeiten und strukturiertem Feedback widerspiegeln. Diese Ergebnisse sollten als vielversprechende Pilotbelege betrachtet werden, die in größeren, komponentenkontrollierten Studien auf Bestätigung warten.

Abbildung 1. Theoretischer Rahmen des DWCF (dynamisches schriftliches korrektives Feedback). Die Abbildung liefert eine umfassendere Begründung dafür, wie DWCF funktionieren könnte; es ist zur Orientierung und nicht als direktes Modell dieser Studie enthalten. Elemente, die den hier analysierten Ergebnissen und Prozesskennzahlen entsprechen, sind in der Abbildung dargestellt; andere Wege sind illustrativ und wurden nicht bewertet. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 2. CONSORT-Flussdiagramm der Teilnehmer. Zweiunddreißig Lernende wurden auf ihre Berechtigung geprüft; keiner wurde ausgeschlossen. Alle Teilnehmer gaben ihre Zustimmung und wurden dann im Verhältnis 1:1 entweder in die WCF-Gruppe (n = 16) oder die DWCF-Gruppe (n = 16) randomisiert. Alle randomisierten Teilnehmer erhielten die zugewiesene Intervention; Es gab keine Verluste durch Nachverfolgung oder Einstellungen, und alle 32 wurden in die Endanalyse aufgenommen. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 3. Studienzeitplan und Maßnahmen. Die Studie erstreckte sich über 8 Wochen: In W1 schlossen die Teilnehmer die Ausgangs-IELTS-Aufgabe 2 ab und wurden bewertet; sechs wöchentliche Schreibaufgaben wurden von W2 bis W7 (Aufgabe 1–Aufgabe 6) durchgeführt, mit gruppenspezifischem Feedback (WCF oder DWCF) und Überarbeitungen nach jeder Aufgabe. Prozessmaße, darunter Überarbeitungsrunden, Rückmeldung, persistent-Fehlerrate und Einsatzzeit, wurden für jede Aufgabe während W2–W7 protokolliert. Im W8 wurde die IELTS Task 2 nach dem Test durchgeführt und bewertet. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 4. End-to-End-Feedback-Workflow. Die Lernenden erstellen einen beaufsichtigten ersten Entwurf und erhalten dann gruppenspezifisches Feedback: WCF (eine menschliche Rückmeldungsrunde) oder STEP-DWCF-R (KI-GENERIERTES Feedback mit Lehrermoderation, bereitgestellt über robotische KI-Agenten, mit 2–3 iterativen Runden). Die Lernenden schließen die Wiederholungsrunden entsprechend ab. Das Ergebnis ist der IELTS Task 2 Bandpunkt; Zu den Prozessmaßen gehören die Anzahl der Runden, die Aufnahme von Rückmeldungen (übernommen/modifiziert/abgelehnt), die Fehlerquote und die Zeit für die Aufgabe. Das System protokolliert die Item-Level-IDs, Kategorie/Schwere (KI vs. Mensch vs. Roboter), Moderationsmaßnahmen und den Uptake-Status. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 5. Änderung des IELTS-Gesamtbandes von Woche 1 auf Woche 8 nach Gruppe. Die Punkte geben die geschätzten Gruppenmittelwerte mit 95%-Konfidenzintervallen an, und die Trajektorien zeigen einen größeren Gewinn unter STEP-DWCF-R Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 6. Überarbeitungsrunden pro Aufgabe nach Gruppe (Wochen 2–7). Datenpunkte repräsentieren einzelne Aufgabenüberprüfungsrunden für die WCF (blau) und STEP-DWCF-R (orange) Gruppen. Horizontale Linien und Fehlerbalken zeigen Gruppenmittelwerte mit 95%igen Konfidenzintervallen an. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 7. Mittlere Fehlerzählungen pro Runde innerhalb von STEP-DWCF-R mit 95 % KI. Punkte zeigen die mittleren Fehlerzahlen in jeder Rückkopplungsrunde an (Runde 1, Runde 2, Runde 3), und vertikale Linien stellen 95%-Konfidenzintervalle (KI) dar. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.
| Komponente | Spezifikation |
| Hardware | PC mit Intel(R) Core(TM) i7-12700H der 12. Generation (2,30 GHz), 32 GB RAM, NVIDIA RTX 3080Ti GPU (16 GB) |
| Betriebssystem | Windows 11 |
| Backend | Flask~2.1 (Python~3.10) |
| Frontend | Jinja2 server-renderte Vorlagen |
| KI-Modelle | OpenAI GPT-5 API (für Feedback-Generierung), schemabasierte Nachbearbeitung |
| Feedback-Scheduler | Benutzerdefinierter Controller verwaltet mehrstufige Rückkopplung (3 Zyklen) |
| Fehlerschema | Grammatik, Wortschatz, Organisation, Schlussfolgerung |
| Versionskontrolle | GitHub |
| Holzeinschlag | Automatische Protokollierung von Einreichungen, Feedback und Überarbeitungen zur Analyse |
Tabelle 1: Experimentelle Aufbau- und Implementierungsparameter. Technische Spezifikationen des KI-Feedbacksystems, einschließlich Hardwarekonfiguration, Betriebssystem, Backend- und Frontend-Frameworks, KI-Modelleinstellungen, Feedback-Scheduler, Fehlerschema-Kategorien, Versionskontrolle und Logging-Infrastruktur.
| Variable | WCF (n=16) | STEP-DWCF-R (n=16) |
| Alter (Jahre), Mittelwert (SD) | 20.9 (1.5) | 21.1 (1.6) |
| Weiblich, n (%) | 9 (56%) | 8 (50%) |
| Vorherige IELTS-Vorbereitung (ja), n (%) | 7 (44%) | 6 (38%) |
| Jahre vorherigen Schreibunterrichts | 3.1 (1.2) | 3.2 (1.1) |
| Baseline IELTS Overall (Band) | 5.625 (0.387) | 5.500 (0.365) |
| Baseline TR (Band) | 5.56 (0.50) | 5.50 (0.50) |
| Baseline CC (Band) | 5.62 (0.49) | 5.53 (0.49) |
| Baseline LR (Band) | 5.60 (0.46) | 5.52 (0.46) |
| Baseline GRA (Band) | 5.56 (0.48) | 5.49 (0.45) |
Tabelle 2: Ausgangsmerkmale der Teilnehmer nach Gruppe (Woche 1). Demografische Variablen und Vortest des International English Language Testing System (IELTS) Task 2 Schreibleistung für die WCF- und STEP-DWCF-R-Gruppen. Die Werte sind Mittelwert (Standardabweichung) oder n (%).
| Feste Wirkung | Schätzung | SE | DF | t | p | 95%-KI |
| Intercept (WCF, Woche~1) | 5.625 | 0.097 | 15 | 58.1 | <.001 | [5.419, 5.831] |
| Gruppe (STEP-DWCF-R vs. WCF) | -0.125 | 0.133 | 29.9 | -0.939 | .355 | [-0.397, 0.147] |
| Zeit (Woche~8 vs. Woche~1) | 0.3125 | 0.128 | 15 | 2.44 | .028 | [0.039, 0.586] |
| Gruppe × Zeit | 0.7188 | 0.19 | 29.75 | 3.78 | .0007 | [0.330, 1.107] |
Tabelle 3: Lineares Mixed-Effects-Modell für das IELTS-Gesamtband aus den Ergebnissen von Woche 1/Woche 8. Fixed-Effect-Schätzungen, Standardfehler (SE), Freiheitsgrade (df), t-Werte, p-Werte und 95%-Konfidenzintervalle (KIs) für die Interaktions- und Modellterme der Gruppe × Zeit.
| Dimension | WCF Δ (Bands) | STEP-DWCF-R Δ (Bänder) | ΔΔ (95 % KI) | ADJ-P |
| Aufgabenantwort (TR) | 0.25 | 0.95 | 0.70 (0.28, 1.12) | .006 |
| Kohärenz und Kohäsion (CC) | 0.3 | 1.15 | 0.85 (0.44, 1.26) | .002 |
| Lexikalische Ressource (LR) | 0.35 | 0.95 | 0.60 (0.18, 1.02) | .012 |
| Grammatikalischer Umfang und Genauigkeit (GRA) | 0.25 | 0.97 | 0.72 (0.31, 1.13) | .004 |
Tabelle 4: Ergebnisse auf Dimensionsebene (Aufgabe 2): Veränderungen vor der Post und Unterschiede zwischen Gruppen. Vor-post-Änderungen (Δ) und Differenz-in-Differenzen (ΔΔ) mit 95%-Konfidenzintervallen (KI) und Holm-adjustierten p-Werten für Aufgabenantwort (TR), Kohärenz und Kohäsion (CC), lexikalische Ressourcen (LR) sowie grammatikalische Bandbreite und Genauigkeit (GRA).
| Schwelle | WCF (%) | STEP-DWCF-R (%) |
| Gesamt ≥ 6,5 | 13 | 81 |
| Gesamt ≥ 7,0 | 0 | 25 |
Tabelle 5: Banderreichung nach dem Test (Woche 8). Anteil der Lernenden in den WCF- und STEP-DWCF-R-Gruppen, die IELTS erreichen: Gesamtmarkwerte im Bandbereich liegen bei mindestens 6,5 und mindestens 7,0.
| Ergebnis | ICC | 95%-KI |
| Gesamtergebnis | 0.91 | [0.86, 0.94] |
| Aufgabenantwort (TR) | 0.88 | [0.82, 0.92] |
| Kohärenz und Kohäsion (CC) | 0.9 | [0.85, 0.94] |
| Lexikalische Ressource (LR) | 0.89 | [0.83, 0.93] |
| Grammatikalischer Umfang und Genauigkeit (GRA) | 0.87 | [0.80, 0.91] |
Tabelle 6: Inter-Rater-Zuverlässigkeit für IELTS-Ergebnisse. Zwei blinde Bewerter zu N = 64 Essays (Woche 1 und Woche 8 zusammen). Mittelwert misst intraklassen Korrelationskoeffizienten (ICC[2,2]) mit 95%-Konfidenzintervallen (KI) für Gesamt- und Dimensionswerte.
| Maß | WCF Group | STEP-DWCF-R Gruppe |
| Überarbeitungsrunden pro Aufgabe | 1 | 2.26 |
| Rückkopplungsaufnahmerate (übernommen oder verändert, %) | 68.5 | 82.3 |
| Persistente Fehlerquote nach der letzten Runde (%) | 67.4 | 45.6 |
| Lehrer-Moderationszeit (mindestens pro Aufgabe) | 23.5 | 13.8 |
| KI-Agenten-Lieferzeit (mindestens pro Aufgabe) | — | 3.9 |
| Lerner-Wiederholungszeit (minimum pro Aufgabe) | 44.8 | 71.2 |
| Gesamtzeit für Feedback + Überarbeitung (Min/Aufgabe) | 68.3 | 88.9 |
Tabelle 7: Bedeutet über 96 Aufgaben (6 Aufgaben × 16 Lernende). Aufnahme- und persistente Fehlerraten wurden auf Rückkopplungspunkt-Ebene berechnet. Zeitmessungen wurden durch Lehrerprotokolle und Systemzeitstempel erfasst. Die Lieferzeiten eines KI-Agenten gelten nicht für die WCF-Gruppe.