$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Teilnahmeberechtigung, Datenvervollständigung und Zuverlässigkeit der Bewertung
Zunächst wurde eine Kohorte von 204 Studierenden aus allen Kursabschnitten zur Teilnahme eingeladen, woraufhin 198 Personen ihre Einwilligung gaben. 14 Fälle wurden anschließend aufgrund eines Kursausstiegs während des Erhebungszeitraums oder unvollständiger Datenverknüpfung zwischen Beobachtungs-, Reflexions- und Plattformdatensätzen ausgeschlossen. Daher umfasste die endgültige Stichprobe für die Analyse 184 Studierende. Die Merkmale der Teilnehmenden, die wöchentlichen Abschlussraten sowie die Gesamtvervollständigung der Daten sind in Tabelle 3 detailliert aufgeführt.
Im Verlauf des vierwöchigen Programms wurden 24 Unterrichtsstunden beobachtet, wodurch für jeden Teilnehmer eine synchronisierte Lernanalyse-Datensammlung entstand. Von den erwarteten 736 reflektierenden Berichten wurden 701 innerhalb des 72-Stunden-Zeitfensters abgegeben, 18 wurden verspätet eingereicht und 17 fehlten gänzlich. Letztendlich schlossen 171 Studierende alle wöchentlichen Reflexionen pünktlich ab. Nach Ausschluss von Dozentenkonten, doppelten Einträgen und Aktivitäten außerhalb des Zeitfensters wurden die Lernanalyse-Daten vollständig für die verbleibenden 184 Teilnehmer extrahiert.
Die Beobachtungskodierung blieb während des gesamten Protokollzeitraums äußerst stabil. Die Interrater-Reliabilität für die sechs Verhaltensindizes der Klassenraumbeobachtung zeigte Cohen’s-Kappa-Werte zwischen 0,76 und 0,84, wobei die Gesamtübereinstimmung während der Drifttests 86 % überstieg. Bei den Bewertungen für reflektierte Äußerungen variierten die Intraklassenkorrelationskoeffizienten (ICC) über die vier Dimensionen zwischen 0,82 und 0,89. Tabelle 4 zeigt die deskriptiven Statistiken und Reliabilitätsindizes für die primären Untersuchungsvariablen.
Klassenzimmer-Verhaltensbeobachtung
Die beobachteten Verhaltensweisen im Klassenzimmer zeigten im Verlauf des vierwöchigen Protokolls eine schrittweise Verbesserung. Wie in Abbildung 2 dargestellt, waren die Konzentration auf die Aufgabe, die verbale Beteiligung und die Zusammenarbeit unter Mitschülern in der vierten Woche deutlich höher als in den Anfangswochen. Insbesondere stieg die verbale Beteiligung von 0,18 ± 0,09 in der ersten Woche auf 0,24 ± 0,10 in der vierten Woche an (p < 0,05). Die Zusammenarbeit unter Mitschülern erhöhte sich ebenfalls von 0,29 ± 0,11 auf 0,35 ± 0,12 (p = 0,006). Die Konzentration auf die Aufgabe verbesserte sich hochsignifikant, indem sie sich von 0,71 ± 0,12 auf 0,76 ± 0,11 veränderte (p < 0,001).
Umgekehrt zeichnete sich beim aufgabenbezogenen Notizenmachen oder Gerätegebrauch lediglich ein geringfügiger wöchentlicher Anstieg ab, der keine statistische Signifikanz erreichte (p = 0.08). Das Hilfe suchende Verhalten blieb während des gesamten Beobachtungszeitraums konstant niedrig und zeigte keinen signifikanten Zeiteffekt (p = 0.21). Ablenkungen abseits der Aufgabe nahmen signifikant von 0,14 ± 0,08 in Woche 1 auf 0,11 ± 0,07 in Woche 4 ab (p = 0,03). Insgesamt stieg der zusammengesetzte Index für beobachtetes Klassenraum-Engagement signifikant von 0,52 ± 0,10 in der ersten Woche auf 0,58 ± 0,11 in der letzten Woche an (p < 0,001).
Reflektierende Äußerungen während des vierwöchigen Protokolls
Die reflektierenden Äußerungen entwickelten sich über den Untersuchungszeitraum hinweg weiter, wobei das Ausmaß der Veränderung zwischen den einzelnen Teilbereichen variierte. Wie in Abbildung 3 dargestellt, stieg die Gesamtpunktzahl für Reflexion von Woche 1 auf 7,2 ± 1,9 in Woche 4 an (p < 0,001).
Die analytische Tiefe war am Ende der Woche 4 deutlich größer als in den ersten beiden Wochen (p < 0,001). Ebenso stieg die sozial-prososhiale Bedeutung von 1,08 ± 0,55 auf 1,54 ± 0,60 (p < 0,001), und die selbstregulatorische Orientierung erhöhte sich von 1,42 ± 0,63 auf 1,69 ± 0,65 (p < 0,05). Im Gegensatz dazu zeigte die deskriptive Spezifität einen leichten Anstieg von 2,14 ± 0,57 auf 2,24 ± 0,55, der statistisch nicht signifikant war (p = 0,09).
Die Einreichungen umfassten durchschnittlich zwischen 223 und 231 Wörter pro Eintrag im gesamten Protokoll. Von den erwarteten 736 reflektierenden Berichten wurden 18 verspätet eingereicht und 17 fehlten ganz; Einträge mit geringem Informationsgehalt sowie Antworten, die den Kontext-Grund- oder den zukunftsorientierten Handlungs-/gesellschaftlichen Wirkungs-Aufforderung ausließen, wurden in der Datenbank markiert. Diese Fälle wurden als Indikatoren für die Durchführbarkeit beibehalten und nur dann von den wochenbezogenen Modellen zur Bewertung der Reflexionsqualität ausgeschlossen, wenn keine entsprechende Bewertung zugewiesen werden konnte.
Lernanalysemuster während des Untersuchungszeitraums
Die Plattformaktivitätsmetriken zeigten über das vierwöchige Zeitfenster hinweg eine erhebliche interindividuelle Varianz, wie in Abbildung 4 dargestellt.
Über den gesamten Zeitraum betrugen die durchschnittlichen aktiven Tage der Studierenden auf der Plattform 9,7 ± 2,4. Die mittlere Anzahl an eindeutigen Ressourcenaufrufen lag bei 27,3 ± 8,6, wobei die Studierenden durchschnittlich einen Anteil von 0,81 ± 0,14 der zugewiesenen Ressourcen öffneten. Außerdem betrug die durchschnittliche Anzahl an Diskussionsantworten 4,8 ± 2,7. Die durchschnittliche Pünktlichkeit bei Abgaben und die mittlere Videoabschlussrate lagen bei 0,86 ± 0,18 bzw. 0,79 ± 0,17. Der Anteil des Plattformzugriffs in den späten Nachtstunden betrug im Durchschnitt 0,12 ± 0,09.
Bemerkenswerterweise zeigten Diskussionsantworten und die Pünktlichkeit bei Abgaben stärkere positive Korrelationen mit anderen Indikatoren der Beteiligung, trotz der breiten Streuung der Pünktlichkeitswerte.
Kreuzassoziation von Beobachtungen, Reflexionen und Lernendaten
Die drei Datenquellen zeigten aussagekräftige, wenn auch nicht einheitliche, Assoziationen. Wie in Abbildung 5 dargestellt, erzielten Studierende mit höheren beobachteten Werten für das Klassenraum-Engagement tendenziell auch höhere Gesamtwerte bei den Reflexionen. Im abschnittsadjustierten Modell sagte das beobachtete Klassenraum-Engagement die Gesamtpunktzahl der Reflexion positiv voraus (β = 0.34, p < 0.001).
Unter den Variablen der Lernanalytik waren Diskussionsantworten und die Pünktlichkeit bei Abgaben signifikant und positiv mit der Qualität der Reflexion korreliert. Wie in Tabelle 5 detailliert beschrieben, sagten Diskussionsantworten die Gesamtpunktzahl der Reflexion positiv voraus (β = 0.19, p = 0.013), ebenso wie die Pünktlichkeit bei Abgaben (β = 0.17, p = 0.028). Während die absolute Anzahl der Ressourcenaufrufe und der Anteil der bearbeiteten zugewiesenen Ressourcen anfänglich positive Zusammenhänge zeigten, schwächten sich diese nach der Anpassung für störende Variablen signifikant ab. Der Anteil von Zugriffen in der Nacht zeigte keine signifikante Assoziation mit der Gesamtpunktzahl der Reflexion (p = 0.18).
Die Daten zeigten außerdem leichte Kreuzkorrelationen zwischen dem beobachteten Klassenraumverhalten und bestimmten Plattformaktivitäten; beispielsweise korrelierten die Rohdaten zu Ressourcenaufrufen nur geringfügig mit dem Index für beobachtete Klassenraumengagement. Darüber hinaus wiesen Studierende, die häufiger an Gruppendiskussionen teilnahmen, eine stärkere verbale Kommunikation auf, während Personen mit höherer Verhaltensregulation weniger Aufschieberneigung bei der Abgabe von Aufgaben zeigten.
Veränderungen in der prosozialen Intention
Die prosoziale Intention zeigte einen signifikanten Anstieg von der Ausgangsmessung bis zur Nachuntersuchung. Der mittlere Wert für die prosoziale Intention stieg von 3,61 ± 0,53 bei der Ausgangsmessung auf 3,84 ± 0,50 nach dem vierwöchigen Protokoll an (p < 0,001). Abbildung 6 veranschaulicht die gepaarten Verteilungen und die adjustierten Zusammenhänge.
Im endgültigen adjustierten Modell sagte ein höherer beobachteter Index der Klassenraum-Engagement eine stärkere Zunahme der prosozialen Absicht nach dem Protokoll im Vergleich zum Basiswertscore voraus (β = 0.21, p < 0.05). Unter den reflektiven Dimensionen entfaltete die sozial-prosoziale Bedeutung den stärksten unabhängigen Effekt auf die prosoziale Absicht nach dem Protokoll (β = 0.29, p < 0.001). Obwohl die verbale Beteiligung eine positive, unadjustierte Korrelation mit den prosozialen Ergebnissen im Nachtest aufwies, verlor dieser Zusammenhang nach Berücksichtigung der Basiswerte an statistischer Signifikanz (p = 0.09). Schließlich zeigte sich keine Beziehung zwischen der Rate der spätabendlichen Zugriffe und der prosozialen Absicht nach dem Protokoll (p = 0.27).
Beobachtete Implementierungseinschränkungen und Nullbefunde
Die durchgeführte Studie ergab mehrere suboptimale, jedoch aussagekräftige Ergebnisse, anstatt protokollbrechende Fehlschläge. Keine beobachtete Sitzung musste aufgrund eines Kappa-Werts unter 0,70 ausgeschlossen werden, kein Lernanalyse-Feld blieb nach dem endgültigen Export unverfügbar, und kein Sichtbarkeitsproblem überstieg die vorab festgelegte Schwelle für fehlende Daten. Die beobachteten Einschränkungen konzentrierten sich auf den Abschluss von Reflexionen sowie auf Null- oder marginale Verhaltensbefunde: 18 Reflexionen wurden verspätet eingereicht, 17 erwartete Reflexionen fehlten, die aufgabenfokussierte Notizen- und Gerätenutzung zeigte lediglich einen marginalen Anstieg (p = 0,08), die Hilfesuche zeigte keinen signifikanten Zeiteffekt (p = 0,21) und der nächtliche Zugriff war nicht mit der Gesamtpunktzahl der Reflexion oder der proszialen Absicht nach dem Protokoll assoziiert.
Diese Ergebnisse wurden beibehalten, da sie die Durchführbarkeit und Randbedingungen des Protokolls beschreiben. Späte oder fehlende Rückmeldungen wurden in den Übersichten zum Teilnehmerfluss und zur Datenvollständigkeit berichtet; marginale oder nicht vorhandene Assoziationen wurden ohne selektive Auslassung angegeben; und die Fehlersuchverfahren im Protokollabschnitt legen fest, wie hypothetische Fehler wie Beobachterdrift, eingeschränkte Sichtbarkeit oder fehlende LMS-Felder bei zukünftigen Anwendungen zu behandeln sind.
Anonymisierte Analyse-Dateien, das Datenwörterbuch, Analyse-Skripte, leere Codierformulare, Reflexionsanregungen, der Reflexions-Rubrik sowie der Fragebogen zur prosocialen Intention wurden in Zenodo hinterlegt: https://zenodo.org/records/20607517. Identifizierbare Rohdaten von Unterrichtsvideos, Namen, institutionelle IDs und nicht geschwärzte Reflexionstexte wurden nicht öffentlich freigegeben.

Abbildung 1: Studienablauf und Protokoll zur Integration von Daten aus mehreren Quellen. (A) Rekrutierung der Teilnehmer, Einholung der Einwilligungen und Zuweisung der Studien-ID in zwei Bachelorveranstaltungen und sechs Kursabschnitten. (B) Der vierwöchige Datenerhebungszyklus: wöchentliche Klassenraumbeobachtung, Aufgabe zum reflektierenden Schreiben und zeitlich synchronisierter Erfassungszeitraum für Lernanalytik. (C) Drei parallele Datenströme: Beobachtung des Verhaltens im Unterricht, Bewertung reflektierender Äußerungen und anonymisierte Aufzeichnungen der Lernplattform. (D) Erstellung des datensatzes auf Teilnehmerebene und der langformatigen Datenbank auf Wochenebene, woraus die primären Forschungsergebnisse resultieren: Index der beobachteten Unterrichtsbeteiligung, Reflexionsscore und prosoziale Intention. Bitte klicken Sie hier, um eine vergrößerte Version dieser Abbildung anzusehen.

Abbildung 2: Wöchentliche Veränderungen des beobachteten Klassenraumverhaltens während des vierwöchigen Protokolls. (A) Aufgabenbezogene Aufmerksamkeit. (B) Mündliche Beteiligung. (C) Zusammenarbeit unter Mitschülern. (D) Aufgabenbezogenes Notizenmachen oder aufgabenbezogener Gerätegebrauch. (E) Ablenkung von der Aufgabe. (F) Hilfesuche. Die Werte sind wöchentliche, auf Schülerebene berechnete Anteilswerte, die sich aus intervallbasierten Klassenraumbeobachtungen ergeben. Die Punkte zeigen die wöchentlichen Mittelwerte an, und die Fehlerbalken zeigen die Standardabweichungen. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 3: Wöchentliche Veränderungen der reflektierenden Ausdrucksweise über die vier reflektierenden Abgaben hinweg. (A) Deskriptive Spezifität. (B) Analytische Tiefe. (C) Selbstregulatorische Orientierung. (D) Sozial-prosioziale Bedeutung. (E) Gesamtwertung der Reflexion. Die Bewertung der Reflexion erfolgte durch zwei verblindete Kodierer mithilfe des vorab festgelegten Bewertungsschemas. Die Punkte zeigen die wöchentlichen Mittelwerte an, und die Fehlerbalken geben die Standardabweichungen an. Bitte klicken Sie hier, um eine vergrößerte Version dieser Abbildung anzusehen.

Abbildung 4: Verteilung von Indikatoren der Lernanalytik während des vierwöchigen Untersuchungszeitraums. (A) Aktive Tage auf der Lernplattform. (B) Zugriffe auf Lernressourcen. (C) Anteil geöffneter zugewiesener Ressourcen. (D) Verfasste Diskussionsantworten. (E) Durchschnittliche Videodurchlaufquote. (F) Pünktlichkeit bei Abgaben. (G) Anteil von Zugriffen in der Nacht. Alle Werte wurden über denselben vierwöchigen Zeitraum berechnet, der auch für die Klassenraumbeobachtung und das reflektierende Schreiben verwendet wurde. Violin-Diagramme zeigen die Verteilung auf Ebene der Studierenden, Boxplots veranschaulichen Median und Interquartilsabstand. Bitte klicken Sie hier, um eine vergrößerte Version dieser Abbildung anzusehen.

Abbildung 5: Zusammenhänge zwischen beobachtetem Klassenraum-Engagement, reflektierendem Ausdruck und ausgewählten Indikatoren der Lernanalytik. (A) Zusammenhang zwischen dem Index für beobachtetes Klassenraum-Engagement und der Gesamtpunktzahl der Reflexion. (B) Zusammenhang zwischen veröffentlichten Diskussionsantworten und der Gesamtpunktzahl der Reflexion. (C) Zusammenhang zwischen der Pünktlichkeit bei Abgaben und der Gesamtpunktzahl der Reflexion. (D) Zusammenhang zwischen mündlicher Beteiligung und der Gesamtpunktzahl der Reflexion. Die Trendlinien stellen angepasste lineare Zusammenhänge dar; schattierte Bänder zeigen 95 % Konfidenzintervalle an. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Abbildung 6: Veränderung der prosozialen Intention und ihre Zusammenhänge mit Klassenraum-Engagement und reflektierendem Sinn. (A) Gepaarte Verteilung der prosozialen Intentionsscores vor und nach dem Protokoll. Linien verbinden gepaarte Vorher-Nachher-Scores desselben Schülers. (B) Zusammenhang zwischen dem beobachteten Klassenraum-Engagement-Index und der prosozialen Intention nach dem Protokoll, bereinigt um den Ausgangswert. (C) Zusammenhang zwischen sozialem/prosozialem Sinn und der prosozialen Intention nach dem Protokoll. (D) Zusammenhang zwischen verbaler Beteiligung und der prosozialen Intention nach dem Protokoll. Die schattierten Bänder in den Panels B–D zeigen 95 % Konfidenzintervalle an. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.
Tabelle 1: Indikatoren und Kodierregeln für die Beobachtung auf Schüler*innenebene im Klassenzimmer. In der Tabelle sind die operationalen Definitionen und Kodierkriterien für Aufmerksamkeit auf die Aufgabe, mündliche Beteiligung, Zusammenarbeit mit Mitschüler*innen, aufgabenbezogenes Notieren oder Gerätbenutzung, Ablenkung von der Aufgabe sowie Hilfesuche aufgeführt. Das 70-minütige Kodierfenster, der 20-Sekunden-Scan-/10-Sekunden-Aufzeichnungszyklus, das Cluster-Scan-Verfahren, die Regel bei fehlender Sichtbarkeit und die OCEI-Formel werden im Protokollabschnitt beschrieben. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.
Tabelle 2: Bewertungsrahmen für reflektierende Texte, beispielhafte Texte je Bewertungsstufe und Definitionen der lernanalytischen Variablen. Die Tabelle beschreibt die Bewertungsskala für reflektierende Texte, einschließlich Beispielen der Bewertungen 0, 1, 2 und 3 für jede reflektierende Dimension sowie der operationalen Definitionen der extrahierten lernanalytischen Variablen. Zu den reflektierenden Komponenten gehören beschreibende Genauigkeit, analytische Tiefe, selbstregulierte Orientierung, sozial-prosioziale Bedeutung, Gesamtbewertung der Reflexion, Wortanzahl und Abgabestatus. Die lernanalytischen Kenngrößen umfassen aktive Tage, Ansichten von Ressourcen, Anteil der geöffneten zugewiesenen Ressourcen, verfasste Diskussionsbeiträge, durchschnittliche Videodurchlaufquote, Pünktlichkeit bei Aufgabenabgaben und Anteil des Zugriffs in Nachtstunden. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.
Tabelle 3: Teilnehmermerkmale, Einschlussfluss und Datenvollständigkeit. Die Tabelle fasst die Teilnahmeberechtigung, Einwilligungsraten, Ausschlusskriterien, endgültige Stichprobengröße und Datenvollständigkeit über die drei Datenquellen hinweg zusammen. Sie berichtet über baseline-demografische Merkmale sowie erwartete reflektierende Einträge, pünktliche Abgaben, verspätete Abgaben, fehlende Reflexionen und erfolgreiche Extraktionen aus den Lernanalysen. Werte sind als n (%) angegeben, sofern nicht anders angegeben. Aufgrund von Rundungen können sich die Prozentangaben möglicherweise nicht exakt zu 100 % summieren. Gemäß dem Protokoll werden verspätete Reflexionen archiviert, aber von den wochenbezogenen Reflexionsanalysen ausgeschlossen. Eine vollständige Extraktion aus den Lernanalysen bezeichnet die erfolgreiche Rückgewinnung der anonymisierten Aufzeichnungen aus dem Studienzeitraum nach Entfernung von Dozentenkonten, doppelten Einträgen und außerhalb des Zeitfensters liegenden Ereignissen. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.
Tabelle 4: Deskriptive Statistiken und Reliabilitätswerte der primären Untersuchungsvariablen. Die Tabelle zeigt wochenweise Mittelwerte, Standardabweichungen und Reliabilitätsindizes für beobachtetes Klassenraumverhalten, reflektierende Äußerungen, Lernanalytik und prosoziale Intentionen. Die Reliabilität der Beobachtungsdaten aus dem Klassenraum wird mithilfe Cohens Kappa bewertet. Die Zuverlässigkeit der Bewertung der Reflexionen wird als Intra-Klassen-Korrelationskoeffizient (ICC) für doppelt bewertete Texte angegeben. Die innere Konsistenz des Messinstruments für prosoziale Intention wird mittels Cronbachs α berichtet. Die Variablen der Lernanalytik werden über denselben vierwöchigen Zeitraum berechnet, der auch für Beobachtungen und Reflexionen verwendet wurde. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.
Tabelle 5: Multivariablee Zusammenhänge zwischen beobachteter Klassenraum-Engagement, reflektierendem Ausdruck, Lernanalytik und prosozialem Intention. Die Tabelle beschreibt die in den Hauptanalysen verwendeten inferenzstatistischen Modelle. Dargestellt sind multivariable Prädiktoren der Gesamtpunktzahl der Reflexion, adjustierte Prädiktoren der prosozialen Intention nach dem Protokoll (unter Kontrolle der Ausgangswerte) sowie ausgewählte unadjustierte Zusammenhänge. Die β-Werte stellen nicht standardisierte Regressionskoeffizienten dar. Alle multivariablen Modelle sind auf Kursabschnitt adjustiert. Für alle Schätzungen werden Standardfehler (SE), 95 %-Konfidenzintervalle (KI) und p-Werte angegeben. Bitte klicken Sie hier, um diese Tabelle herunterzuladen.