$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Inclusie van deelnemers, volledigheid van gegevens en betrouwbaarheid van scores
Een initiële cohort van 204 studenten uit alle klassecties werd uitgenodigd om deel te nemen, wat resulteerde in 198 instemmende individuen. Veertien gevallen werden vervolgens uitgesloten vanwege uitval uit de cursus tijdens het protocolvenster of onvolledige gegevenskoppeling tussen de observatie-, reflectie- en platformgegevens. Bijgevolg bestond de definitieve analytische steekproef uit 184 studenten. De kenmerken van de deelnemers, de wekelijkse voltooiingspercentages en de algemene volledigheid van de gegevens zijn gedetailleerd beschreven in Tabel 3.
Gedurende het 4-weekse programma werden 24 lessen geobserveerd, wat resulteerde in een gesynchroniseerd leeranalyse-record voor elke deelnemer. Van de 736 verwachte reflectieverslagen werden er 701 binnen het venster van 72 uur ingeleverd, 18 werden te laat ingeleverd en 17 ontbraken. Uiteindelijk hebben 171 studenten alle wekelijkse reflecties tijdig voltooid. Leeranalyses werden volledig geëxtraheerd voor de uiteindelijke 184 deelnemers, nadat accounts van instructeurs, dubbele vermeldingen en activiteiten buiten het tijdsbestek waren gefilterd.
De observationele codering bleef zeer stabiel gedurende de protocolperiode. De interbeoordelaarsbetrouwbaarheid voor de zes gedragsindices van de klasobservatie vertoonde Cohen's kappa-waarden variërend van 0,76 tot 0,84, waarbij de totale overeenstemming tijdens de drift-tests 86% overschreed. Voor de scores van de reflectieve expressie varieerden de intraclass-correlatiecoëfficiënten (ICC's) over de vier dimensies tussen 0,82 en 0,89. Tabel 4 presenteert de beschrijvende statistieken en betrouwbaarheidsindices voor de primaire studievariabelen.
Observation van gedrag in de klas
Het geobserveerde gedrag in de klas vertoonde een geleidelijke verbetering gedurende het 4-weekse protocol. Zoals geïllustreerd in Figuur 2, waren de taakgerichte aandacht, verbale participatie en samenwerking met klasgenoten in week 4 significant hoger vergeleken met de beginweken. Specifiek nam de verbale participatie toe van 0,18 ± 0,09 in de eerste week naar 0,24 ± 0,10 in de vierde week (p < 0,05). De samenwerking met klasgenoten steeg op vergelijkbare wijze van 0,29 ± 0,11 naar 0,35 ± 0,12 (p = 0,006). De taakgerichte aandacht vertoonde een zeer significante verbetering en verschoof van 0,71 ± 0,12 naar 0,76 ± 0,11 (p < 0,001).
Omgekeerd vertoonde taakgerichte notitiebehoefte of apparaatgebruik slechts marginale wekelijkse stijgingen die geen statistische significantie bereikten (p = 0.08). Hulpzoekend gedrag bleef gedurende de gehele observatieperiode consistent laag en vertoonde geen significant tijdeffect (p = 0.21). Afleiding buiten de taak nam significant af van 0.14 ± 0.08 in week 1 naar 0.11 ± 0.07 in week 4 (p = 0.03). Over het geheel genomen steeg de samengestelde Observed Classroom Engagement Index significant van 0.52 ± 0.10 tijdens de eerste week naar 0.58 ± 0.11 in de laatste week (p < 0.001).
Reflectieve uitingen gedurende het 4-wekenprotocol
Reflectieve uitingen evolueerden gedurende de studieperiode, hoewel de mate van verandering varieerde over de verschillende subdimensies. Zoals weergegeven in Figuur 3, nam de totale reflectiescore toe vanaf week 1 tot 7,2 ± 1,9 in week 4 (p < 0,001).
De analytische diepgang was aan het einde van week 4 merkbaar groter vergeleken met de eerste twee weken (p < 0.001). Op dezelfde manier nam de sociaal-prosociale betekenis toe van 1,08 ± 0,55 naar 1,54 ± 0,60 (p < 0.001), en nam de zelfregulerende oriëntatie toe van 1,42 ± 0,63 naar 1,69 ± 0,65 (p < 0.05). In tegenstelling hiermee vertoonde de beschrijvende specificiteit een lichte stijgende trend, van 2,14 ± 0,57 naar 2,24 ± 0,55, wat statistisch niet significant was (p = 0.09).
De inzendingen varieerden gemiddeld tussen 223 en 231 woorden per item gedurende het protocol. Van de 736 verwachte reflectieverslagen werden er 18 te laat ingediend en ontbraken er 17; items met weinig informatie en antwoorden waarin de prompt over de contextuele oorzaak of de toekomstige actie/maatschappelijke impact werd weggelaten, werden in de database gemarkeerd. Deze gevallen werden behouden als haalbaarheidsindicatoren en werden alleen uitgesloten van weekspecifieke modellen voor reflectiekwaliteit wanneer de relevante score niet kon worden toegekend.
Patronen van leeranalyse tijdens het studievenster
Metrieken voor platformactiviteit vertoonden aanzienlijke interindividuele variantie over het venster van 4 weken, zoals afgebeeld in Figuur 4.
Over de totale periode hadden studenten gemiddeld 9,7 ± 2,4 actieve dagen op het platform. Het gemiddelde aantal weergaven van verschillende bronnen was 27,3 ± 8,6, waarbij studenten gemiddeld een fractie van 0,81 ± 0,14 van de toegewezen bronnen openden. Verder was het gemiddelde aantal antwoorden in de discussie 4,8 ± 2,7. De gemiddelde punctualiteit bij het inleveren van opdrachten en de gemiddelde voltooiingsgraad van video's waren respectievelijk 0,86 ± 0,18 en 0,79 ± 0,17. Het aandeel platformtoegang laat op de avond/nacht was gemiddeld 0,12 ± 0,09.
Opvallend is dat antwoorden op discussies en de punctualiteit bij het inleveren van opdrachten meer uitgesproken positieve correlaties vertoonden met andere participatie-indicatoren, ondanks de brede spreiding van de punctualiteitsscores.
Kruisassociatie van observaties, reflecties en leergegevens
De drie gegevensbronnen vertoonden betekenisvolle, hoewel niet uniforme, associaties. Zoals weergegeven in Figuur 5, hadden studenten met hogere Observed Classroom Engagement Indices de neiging om hogere totale reflectiescores te behalen. In het op sectie aangepaste model voorspelde de waargenomen betrokkenheid in de klas positief de totale reflectiescore (β = 0.34, p < 0.001).
Onder de variabelen van leeranalyse waren discussie-antwoorden en de punctualiteit van opdrachten significant en positief gecorreleerd met de kwaliteit van de reflectie. Zoals gedetailleerd in Tabel 5, voorspelden discussie-antwoorden positief de totale reflectiescore (β = 0.19, p = 0.013), evenals de punctualiteit van opdrachten (β = 0.17, p = 0.028). Hoewel het aantal weergaven van ruwe bronnen en de proportie geopende toegewezen bronnen aanvankelijk positieve associaties vertoonden, werden deze correlaties significant zwakker na correctie voor storende variabelen. De proportie toegang in de late nacht vertoonde geen significante associatie met de totale reflectiescore (p = 0.18).
De gegevens onthulden ook milde kruiscorrelaties tussen het waargenomen gedrag in de klas en specifieke platformactiviteiten; zo correleerden ruwe weergaven van bronnen slechts marginaal met de Observed Classroom Engagement Index. Bovendien vertoonden studenten die vaker deelnamen aan groepsdiscussies een hogere verbale communicatie, terwijl studenten met een betere gedragsregulatie minder uitstelgedrag vertoonden bij het inleveren van opdrachten.
Veranderingen in prosociale intentie
Prosociale intentie vertoonde een significante groei van de nulmeting tot na de test. De gemiddelde score voor prosociale intentie steeg van 3,61 ± 0,53 bij de nulmeting naar 3,84 ± 0,50 na het 4-weekse protocol (p < 0,001). Figuur 6 illustreert de gepaarde distributie en de gecorrigeerde associaties.
In het uiteindelijke gecorrigeerde model voorspelde een hogere Observed Classroom Engagement Index een grotere toename van de prosociale intentie na het protocol ten opzichte van de basisscore (β = 0.21, p < 0.05). Van de reflectieve dimensies had de sociaal-prosociale betekenis het meest substantiële onafhankelijke effect op de prosociale intentie na het protocol (β = 0.29, p < 0.001). Hoewel verbale participatie een positieve ongecorrigeerde correlatie vertoonde met de prosociale uitkomsten na de test, verloor deze associatie haar statistische significantie na correctie voor de basiswaarden (p = 0.09). Ten slotte bleef de toegangssnelheid laat op de avond ongerelateerd aan de prosociale intentie na het protocol (p = 0.27).
Waargenomen implementatiebeperkingen en nulresultaten
De uitgevoerde studie leverde verschillende suboptimale maar informatieve resultaten op, in plaats van fouten die tot stopzetting van het protocol leidden. Geen enkele waargenomen sessie hoefde te worden uitgesloten vanwege een observer-kappa onder de 0.70, geen enkel veld voor leeranalyse bleef onbeschikbaar na de definitieve export, en geen enkel zichtbaarheidsprobleem overschreed de vooraf vastgestelde drempelwaarde voor ontbrekende gegevens. De waargenomen beperkingen concentreerden zich op de voltooiing van reflecties en op nulresultaten of marginale gedragsbevindingen: 18 reflecties werden te laat ingediend, 17 verwachte reflecties ontbraken, taakgerichte notities/apparaatgebruik vertoonden slechts een marginale toename (p = 0.08), hulpzoeken vertoonde geen significant tijdeffect (p = 0.21), en toegang laat op de avond was niet geassocieerd met de totale reflectiescore of de prosociale intentie na het protocol.
Deze bevindingen zijn behouden omdat ze de haalbaarheid van de implementatie en de randvoorwaarden van het protocol beschrijven. Late of ontbrekende reflecties werden vermeld in de samenvattingen van de deelnemersstroom en de volledigheid van de gegevens; marginale of nul-associaties werden gerapporteerd zonder selectieve weglating; en de procedures voor probleemoplossing in de sectie Protocol specificeren hoe hypothetische fouten, zoals observer drift, belemmerd zicht of ontbrekende LMS-velden, in toekomstige implementaties moeten worden behandeld.
Geanonimiseerde analysebestanden, het datalexicon, analysescripts, lege codeformulieren, reflectievragen, het reflectierubriek en de vragenlijst over prosociale intenties zijn gedeponeerd in Zenodo: https://zenodo.org/records/20607517. Identificeerbare ruwe videobeelden uit de klas, namen, institutionele ID's en niet-geredigeerde reflectieteksten zijn niet openbaar gemaakt.

Figuur 1: Workflow van de studie en protocol voor de integratie van gegevens uit meerdere bronnen. (A) Werving van deelnemers, verzamelen van toestemming en toewijzing van studie-ID's over twee bacheloropleidingen en zes klassecties. (B) De 4-weekse cyclus van gegevensverzameling: wekelijkse observatie in de klas, reflectieve schrijfopdracht en gesynchroniseerd venster voor het vastleggen van leeranalyse. (C) Drie parallelle datastromen: observationele gedragsregistratie in de klas, scoren van reflectieve uitingen en gede-identificeerde records van het leerplatform. (D) Constructie van de masterdataset op deelnemersniveau en de database in lang formaat op weekniveau, wat resulteert in de primaire onderzoeksresultaten: index van waargenomen betrokkenheid in de klas, reflectiescore en prosociale intentie. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 2: Wekelijkse veranderingen in het waargenomen klasgedrag tijdens het 4-weekse protocol. (A) Taakgerichte aandacht. (B) Verbale participatie. (C) Samenwerking met klasgenoten. (D) Taakgerichte notities of taakgericht gebruik van apparaten. (E) Afleiding (off-task). (F) Hulpzoekend gedrag. De waarden zijn wekelijkse proportiescores op studentniveau, afgeleid van intervalgebaseerde klasobservaties. De punten geven de wekelijkse gemiddelden aan en de foutbalken geven de standaarddeviaties aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 3: Wekelijkse veranderingen in reflectieve expressie over de vier reflectieve inzendingen. (A) Beschrijvende specificiteit. (B) Analytische diepgang. (C) Zelfregulerende oriëntatie. (D) Sociaal-prosociale betekenis. (E) Totale reflectiescore. Reflectiescores werden toegekend door twee geblindeerde codeurs met gebruik van het vooraf vastgestelde rubric. Punten geven de wekelijkse gemiddelden aan en foutenbalken geven de standaarddeviaties aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 4: Verdeling van leeranalyse-indicatoren tijdens het studievenster van 4 weken. (A) Actieve dagen op het leerplatform. (B) Weergaven van bronnen. (C) Aandeel geopende toegewezen bronnen. (D) Geplaatste antwoorden in discussies. (E) Gemiddelde voltooiingsgraad van video's. (F) Stiptheid bij het inleveren van opdrachten. (G) Aandeel toegang laat op de avond. Alle waarden werden berekend over hetzelfde venster van 4 weken dat werd gebruikt voor klasobservatie en reflectief schrijven. Vioolplots tonen de verdelingen op studentniveau, en boxplots geven de medianen en interkwartielafstanden aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 5: Associaties tussen de waargenomen betrokkenheid in de klas, reflectieve expressie en geselecteerde leeranalyse-indicatoren. (A) Associatie tussen de Observed Classroom Engagement Index en de totale reflectiescore. (B) Associatie tussen het aantal geplaatste discussiereacties en de totale reflectiescore. (C) Associatie tussen de punctualiteit van opdrachten en de totale reflectiescore. (D) Associatie tussen verbale participatie en de totale reflectiescore. Trendlijnen vertegenwoordigen gefitte lineaire associaties; gearceerde banden geven 95% betrouwbaarheidsintervallen aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 6: Verandering in prosociale intentie en de associaties hiervan met betrokkenheid in de klas en reflectieve betekenis. (A) Gepaarde distributie van prosociale intentiescores bij baseline en na het protocol. Lijnen verbinden gepaarde pre-/postscores van dezelfde student. (B) Associatie tussen de Observed Classroom Engagement Index en prosociale intentie na het protocol, na correctie voor de baseline-score. (C) Associatie tussen sociaal-prosociale betekenis en prosociale intentie na het protocol. (D) Associatie tussen verbale participatie en prosociale intentie na het protocol. Gekleurde banden in panelen B-D geven 95% betrouwbaarheidsintervallen aan. Klik hier om een grotere versie van deze figuur te bekijken.
Tabel 1: Indicatoren voor klasobservatie op leerlingniveau en coderingsregels. De tabel bevat de operationele definities en coderingscriteria voor taakgerichte aandacht, verbale participatie, samenwerking met klasgenoten, taakgerichte aantekeningen of apparaatgebruik, afleidende activiteiten en hulpzoekend gedrag. Het coderingsvenster van 70 min, de scan- en registratiecyclus van 20 s/10 s, de cluster-scanningprocedure, de regel voor ontbrekende zichtbaarheid en de OCEI-formule worden beschreven in de sectie Protocol. Klik hier om deze tabel te downloaden.
Tabel 2: Kader voor de score van reflectieve expressie, voorbeelden op scoreniveau en definities van variabelen voor leeranalyse. De tabel beschrijft het scoringsrubriek voor reflectieve teksten, inclusief voorbeelden van scores 0, 1, 2 en 3 voor elke reflectieve dimensie, en de operationele definities voor de geëxtraheerde variabelen voor leeranalyse. Reflectieve componenten omvatten beschrijvende specificiteit, analytische diepgang, zelfregulerende oriëntatie, sociaal-prosociaal betekenis, totale reflectiescore, woordenaantal en indieningsstatus. Leeranalyses bestaan uit actieve dagen, weergaven van bronnen, proportie geopende toegewezen bronnen, geplaatste reacties in discussies, gemiddelde video-voltooiingspercentage, punctualiteit bij opdrachten en proportie toegang tijdens de nacht. Klik hier om deze tabel te downloaden.
Tabel 3: Kenmerken van de participanten, inclusiestroom en volledigheid van de gegevens.De tabel vat de geschiktheid van participanten, toestemmingspercentages, exclusiecriteria, de uiteindelijke steekproefomvang en de volledigheid van de gegevens over de drie gegevensbronnen samen. Er wordt melding gemaakt van baseline demografische kenmerken naast de verwachte reflectieve invoeren, tijdige indieningen, late indieningen, ontbrekende reflecties en succesvolle extracties van leeranalysegegevens. Waarden worden weergegeven als n (%) tenzij anders vermeld. Afronding kan ertoe leiden dat percentages niet precies optellen tot 100%. Conform het protocol worden late reflecties gearchiveerd, maar uitgesloten van weekspecifieke reflectieanalyses. Volledige extractie van leeranalysegegevens duidt op het succesvol ophalen van gedeïdentificeerde records uit het studievenster na verwijdering van accounts van instructeurs, dubbele invoeren en gebeurtenissen buiten het venster. Klik hier om deze tabel te downloaden.
Tabel 4: Beschrijvende statistieken en betrouwbaarheidsscores van de primaire studievariabelen. De tabel presenteert weekspecifieke gemiddelde waarden, standaarddeviaties en betrouwbaarheidsindices voor waargenomen klasgedrag, reflectieve expressie, leeranalyse en prosociale intentie. De betrouwbaarheid van de klasobservatiedata wordt geëvalueerd met behulp van Cohen's kappa. De betrouwbaarheid van de reflectiescore wordt gepresenteerd als intraclass correlatiecoëfficiënten (ICC's) voor dubbel gescoorde teksten. De interne consistentie van de maatstaf voor prosociale intentie wordt gerapporteerd met behulp van Cronbach's α. Variabelen voor leeranalyse zijn berekend over dezelfde periode van 4 weken die is gebruikt voor de observaties en reflecties. Klik hier om deze tabel te downloaden.
Tabel 5: Multivariabele associaties tussen waargenomen betrokkenheid in de klas, reflectieve expressie, leeranalyse en prosociale intentie. De tabel bevat de inferentiële modellen die zijn gebruikt in de hoofdanalyses. Hierin worden multivariabele predictoren van de totale reflectiescore, gecorrigeerde predictoren van de prosociale intentie na het protocol (gecontroleerd voor baseline-niveaus) en geselecteerde niet-gecorrigeerde associaties gepresenteerd. β-waarden vertegenwoordigen niet-gestandaardiseerde regressiecoëfficiënten. Alle multivariabele modellen zijn gecorrigeerd voor de klassectie. Standaardfouten (SE), 95% betrouwbaarheidsintervallen (CI) en p-waarden worden vermeld voor alle schattingen. Klik hier om deze tabel te downloaden.