Inclusie van deelnemers, volledigheid van gegevens en betrouwbaarheid van scores
Een initiële cohort van 204 studenten uit alle klassensecties werd uitgenodigd om deel te nemen, wat resulteerde in 198 instemmende personen. Veertien gevallen werden vervolgens uitgesloten vanwege het stopzetten van de cursus tijdens het protocolvenster of onvolledige gegevenskoppeling tussen de observatie-, reflectie- en platformgegevens. Bijgevolg bestond de uiteindelijke analytische steekproef uit 184 studenten. De kenmerken van de deelnemers, de wekelijkse voltooiingspercentages en de algehele volledigheid van de gegevens zijn gedetailleerd in Tabel 3.
Gedurende het 4-weekse programma werden 24 lessen geobserveerd, waarbij voor elke deelnemer een gesynchroniseerd learning-analytics-verslag werd gegenereerd. Van de 736 verwachte reflectieverslagen werden er 701 binnen het tijdvenster van 72 u salaries ingediend, 18 werden te laat ingediend en 17 ontbraken. Uiteindelijk hebben 171 studenten alle wekelijkse reflecties tijdig en succesvol voltooid. De learning analytics werden volledig geëxtraheerd voor de uiteindelijke 184 deelnemers, nadat accounts van instructeurs, dubbele invoeringen en activiteiten buiten het tijdvenster waren gefilterd.
De observationele codering bleef gedurende de gehele protocolperiode zeer stabiel. De interbeoordelaarsbetrouwbaarheid voor de zes gedragsindices van de klasobservatie vertoonde Cohen's kappa-waarden variërend van 0,76 tot 0,84, waarbij de algemene overeenstemming tijdens drift-tests boven de 86% lag. Voor de scores van de reflectieve expressie varieerden de intra-klasse correlatiecoëfficiënten (ICC's) over de vier dimensies tussen 0,82 en 0,89. Tabel 4 presenteert de beschrijvende statistieken en betrouwbaarheidsindices voor de primaire studievariabelen.
Gedragsobservatie in de klas
De geobserveerde gedragingen in de klas vertoonden een geleidelijke verbetering gedurende het 4-weekse protocol. Zoals geïllustreerd in Figuur 2, waren de taakconcentratie, verbale participatie en samenwerking met leeftijdsgenoten in week 4 significant hoger dan in de beginweken. Specifiek nam de verbale participatie toe van 0,18 ± 0,09 in de eerste week naar 0,24 ± 0,10 in de vierde week (p < 0,05). De samenwerking met leeftijdsgenoten steeg op soortgelijke wijze van 0,29 ± 0,11 naar 0,35 ± 0,12 (p = 0,006). De taakconcentratie vertoonde een zeer significante verbetering, waarbij deze verschoof van 0,71 ± 0,12 naar 0,76 ± 0,11 (p < 0,001).
Omgekeerd vertoonde taakgerichte notitieverwerking of apparaatgebruik slechts marginale wekelijkse stijgingen die geen statistische significantie bereikten (p = 0,08). Hulpzoekend gedrag bleef gedurende de gehele observatieperiode consistent laag, zonder significant tijdeffect (p = 0,21). Afleiding buiten de taak nam significant af van 0,14 ± 0,08 in week 1 naar 0,11 ± 0,07 in week 4 (p = 0,03). Over het geheel genomen steeg de samengestelde Observed Classroom Engagement Index significant van 0,52 ± 0,10 tijdens de eerste week naar 0,58 ± 0,11 in de laatste week (p < 0,001).
Reflectieve uitingen over het 4-weken protocol
Reflectieve uitingen evolueerden gedurende de studieperiode, hoewel de omvang van de verandering varieerde over de verschillende subdimensies. Zoals getoond in Figuur 3, steeg de totale reflectiescore vanaf week 1 naar 7,2 ± 1,9 in week 4 (p < 0,001).
De analytische diepgang was aan het einde van week 4 aanzienlijk groter vergeleken met de eerste twee weken (p < 0,001). Op soortgelijke wijze nam de sociaal-prosociële betekenis toe van 1,08 ± 0,55 naar 1,54 ± 0,60 (p < 0,001), en nam de zelfregulerende oriëntatie toe van 1,42 ± 0,63 naar 1,69 ± 0,65 (p < 0,05). In tegenstelling hiermee vertoonde de beschrijvende specificiteit een lichte stijgende trend, van 2,14 ± 0,57 naar 2,24 ± 0,55, wat niet statistisch significant was (p = 0,09).
De inzendingen varieerden gedurende het protocol gemiddeld tussen de 223 and 231 woorden per vermelding. Van de 736 verwachte reflectieverslagen werden er 18 te laat ingediend en ontbraken er 17; vermeldingen met weinig informatie en antwoorden waarin de prompt over de contextuele oorzaak of de toekomstige actie/sociale impact werd weggelaten, werden in de database gemarkeerd. Deze gevallen werden behouden als haalbaarheidsindicatoren en werden alleen uitgesloten van weekspecifieke modellen voor reflectiekwaliteit wanneer de relevante score niet kon worden toegekend.
Patronen van leeranalyse tijdens het studievenster
Platformactiviteitsmetrieken vertoonden aanzienlijke interindividuele variatie over het venster van 4 weken, zoals afgebeeld in Figuur 4.
Over de totale periode hadden studenten gemiddeld 9,7 ± 2,4 actieve dagen op het platform. Het gemiddelde aantal weergaven van verschillende bronnen was 27,3 ± 8,6, waarbij studenten gemiddeld een aandeel van 0,81 ± 0,14 van de toegewezen bronnen openden. Bovendien was het gemiddelde aantal antwoorden in de discussie 4,8 ± 2,7. De gemiddelde punctualiteit bij het inleveren van opdrachten en de gemiddelde voltooiingsgraad van video's waren respectievelijk 0,86 ± 0,18 en 0,79 ± 0,17. Het aandeel toegang tot het platform laat op de avond was gemiddeld 0,12 ± 0,09.
Opvallend is dat antwoorden op discussies en de punctualiteit bij het inleveren van opdrachten meer uitgesproken positieve correlaties vertoonden met andere participatie-indicatoren, ondanks de brede spreiding van de punctualiteitsscores.
Kruisassociatie van observaties, reflecties en leergegevens
De drie gegevensbronnen vertoonden betekenisvolle, hoewel niet uniforme, associaties. Zoals getoond in Figuur 5, hadden studenten met hogere indices voor geobserveerde betrokkenheid in de klas de neiging om hogere totale reflectiescores te behalen. In het op sectie aangepaste model voorspelde de geobserveerde betrokkenheid in de klas positief de totale reflectiescore (β = 0,34, p < 0,001).
Onder de variabelen voor leeranalyse waren reacties op discussies en de punctualiteit bij het inleveren van opdrachten significant en positief gecorreleerd met de reflectiekwaliteit. Zoals gedetailleerd in Tabel 5, voorspelden reacties op discussies positief de totale reflectiescore (β = 0.19, p = 0.013), evenals de punctualiteit bij het inleveren van opdrachten (β = 0.17, p = 0.028). Hoewel het aantal weergaven van bronnen en het aandeel geopende toegewezen bronnen aanvankelijk positieve associaties vertoonden, werden deze correlaties significant zwakker na correctie voor storende variabelen. Het aandeel toegang in de late nacht vertoonde geen significante associatie met de totale reflectiescore (p = 0.18).
De gegevens onthulden ook milde cross-correlaties tussen het geobserveerde gedrag in de klas en specifieke platformactiviteiten; zo correleerden weergaven van ruwe bronnen slechts marginaal met de Observed Classroom Engagement Index. Bovendien vertoonden studenten die vaker deelnamen aan groepsdiscussies een hogere verbale communicatie, terwijl studenten met een hogere gedragsregulatie minder uitstelgedrag vertoonden bij het inleveren van opdrachten.
Veranderingen in prosociale intentie
De prosociale intentie vertoonde een significante groei van de nulmeting naar de nameting. De gemiddelde score voor prosociale intentie steeg van 3,61 ± 0,53 bij de nulmeting naar 3,84 ± 0,50 na het 4-weekse protocol (p < 0,001). Figuur 6 illustreert de gepaarde distributie en de gecorrigeerde associaties.
In het definitieve gecorrigeerde model voorspelde een hogere Observed Classroom Engagement Index een grotere toename in de prosociale intentie na het protocol in vergelijking met de nulmeting (β = 0,21, p < 0,05). Onder de reflectieve dimensies had de sociaal-prosociale betekenis het meest substantiële onafhankelijke effect op de prosociale intentie na het protocol (β = 0,29, p < 0,001). Hoewel verbale participatie een positieve ongecorrigeerde correlatie vertoonde met de prosociale resultaten na de test, verloor deze associatie statistische significantie na correctie voor de nulwaarden (p = 0,09). Ten slotte bleef de toegangssnelheid in de late nachtelijke uren ongerelateerd aan de prosociale intentie na het protocol (p = 0,27).
Waargenomen implementatiebeperkingen en nulresultaten
De uitgevoerde studie leverde verschillende suboptimale maar informatieve resultaten op in plaats van fouten die tot het staken van het protocol leidden. Geen enkele waargenomen sessie hoefde te worden uitgesloten vanwege een observer kappa onder de 0,70, geen enkel veld voor leeranalyse bleef onbeschikbaar na de definitieve export, en geen enkel zichtbaarheidsprobleem overschreed de vooraf vastgestelde drempelwaarde voor ontbrekende gegevens. De waargenomen beperkingen concentreerden zich bij het voltooien van reflecties en bij nulresultaten of marginale gedragsbevindingen: 18 reflecties werden te laat ingediend, 17 verwachte reflecties ontbraken, taakgerichte notitievoering/apparaatgebruik vertoonde slechts een marginale toename (p = 0,08), hulpzoekend gedrag vertoonde geen significant tijdeffect (p = 0,21), en toegang laat op de avond was niet geassocieerd met de totale reflectiescore of de prosociale intentie na het protocol.
Deze bevindingen zijn behouden omdat ze de haalbaarheid van de implementatie en de randvoorwaarden van het protocol beschrijven. Late of ontbrekende reflecties werden vermeld in de samenvattingen van de deelnemersstroom en de volledigheid van de gegevens; marginale of nihilistische associaties werden gerapporteerd zonder selectieve weglating; en de procedures voor probleemoplossing in de sectie Protocol specificeren hoe hypothetische fouten, zoals observer drift, belemmerd zicht of ontbrekende LMS-velden, in toekomstige implementaties moeten worden afgehandeld.
Geanonimiseerde analysebestanden, het datadictionary, analysescripts, lege codeerschema's, reflectievragen, een reflectierubriek en de vragenlijst voor prosociale intenties zijn gedeponeerd in Zenodo: https://zenodo.org/records/20607517. Identificeerbare ruwe video's uit de klas, namen, institutionele ID's en niet-geanonimiseerde reflectieteksten zijn niet openbaar gemaakt.

Figuur 1: Workflow van de studie en protocol voor de integratie van gegevens uit meerdere bronnen. (A) Werving van deelnemers, verzamelen van toestemming en toewijzing van studie-ID's over twee bachelorcursussen en zes klassecties. (B) De 4-weekse cyclus van gegevensverzameling: wekelijkse klasobservatie, reflectieve schrijfopdracht en gesynchroniseerd venster voor het vastleggen van leeranalyse. (C) Drie parallelle datastromen: observationele gedragsregistratie in de klas, scoren van reflectieve uitingen en geanonimiseerde records van het leerplatform. (D) Constructie van de masterdataset op deelnemerniveau en de database in long-format op weekniveau, wat leidt tot de primaire onderzoeksresultaten: geobserveerde index van betrokkenheid in de klas, reflectiescore en prosociale intentie. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 2: Wekelijkse veranderingen in het waargenomen klasgedrag tijdens het 4-weekse protocol. (A) Focus op de taak. (B) Verbale participatie. (C) Samenwerking met peers. (D) Taakgerichte aantekeningen of taakgericht gebruik van apparaten. (E) Afleiding buiten de taak. (F) Hulpvragen. Waarden zijn wekelijkse proportiescores op studentniveau, afgeleid van intervalgebaseerde klasobservaties. Punten geven de wekelijkse gemiddelden aan en foutenbalken geven de standaarddeviaties aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 3: Wekelijkse veranderingen in reflectieve expressie over de vier reflectieve inzendingen. (A) Beschrijvende specificiteit. (B) Analytische diepgang. (C) Zelfregulerende oriëntatie. (D) Sociaal-prosociale betekenis. (E) Totale reflectiescore. Reflectiescores werden toegewezen door twee geblindeerde codeurs met behulp van het vooraf vastgestelde rubric. Punten geven de wekelijkse gemiddelden aan, en foutbalken geven de standaarddeviaties aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 4: Distributie van learning-analytics-indicatoren gedurende het 4-weekse studievenster. (A) Actieve dagen op het leerplatform. (B) Weergaven van bronnen. (C) Proportie geopende toegewezen bronnen. (D) Geplaatste antwoorden in discussies. (E) Gemiddelde video-voltooiingsgraad. (F) Stiptheid bij het inleveren van opdrachten. (G) Proportie toegang tijdens de late nacht. Alle waarden werden berekend over hetzelfde 4-weekse venster dat werd gebruikt voor klasobservatie en reflectief schrijven. Violin plots tonen distributies op studentniveau en box plots geven medianen en interkwartielafstanden aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 5: Samenhang tussen waargenomen betrokkenheid in de klas, reflectieve expressie en geselecteerde leeranalyse-indicatoren. (A) Samenhang tussen de Observed Classroom Engagement Index en de totale reflectiescore. (B) Samenhang tussen het aantal geplaatste antwoorden in discussies en de totale reflectiescore. (C) Samenhang tussen de punctualiteit van opdrachten en de totale reflectiescore. (D) Samenhang tussen verbale participatie en de totale reflectiescore. Trendlijnen vertegenwoordigen aangepaste lineaire samenhangen; gearceerde banden geven 95% betrouwbaarheidsintervallen aan. Klik hier om een grotere versie van deze figuur te bekijken.

Figuur 6: Verandering in prosociale intentie en de associaties hiervan met betrokkenheid in de klas en reflectieve betekenis. (A) Gepaarde verdeling van de scores voor prosociale intentie bij de nulmeting en na het protocol. Lijnen verbinden gepaarde pre-/postscores van dezelfde student. (B) Associatie tussen de Observed Classroom Engagement Index en de prosociale intentie na het protocol, gecorrigeerd voor de score bij de nulmeting. (C) Associatie tussen sociaal-prosociale betekenis en de prosociale intentie na het protocol. (D) Associatie tussen verbale participatie en de prosociale intentie na het protocol. Gekleurde banden in panelen B-D geven 95% betrouwbaarheidsintervallen aan. Klik hier om een grotere versie van deze figuur te bekijken.
Tabel 1: Indicatoren voor klasobservatie op studentniveau en coderingsregels. De tabel bevat de operationele definities en coderingscriteria voor taakgerichte aandacht, verbale participatie, samenwerking met medestudenten, taakgerichte aantekeningen of apparaatgebruik, afleiding (off-task) en het zoeken naar hulp. Het coderingsvenster van 70 min, de cyclus van 20 s scannen/10 s registreren, de cluster-scanprocedure, de regel voor ontbrekende zichtbaarheid en de OCEI-formule worden beschreven in de sectie Protocol. Klik hier om deze tabel te downloaden.
Tabel 2: Raamwerk voor de score van reflectieve expressie, voorbeelden per scoreniveau en definities van variabelen voor leeranalyse. De tabel beschrijft het scoringsrubriek voor reflectieve teksten, inclusief voorbeelden van scores 0, 1, 2 en 3 voor elke reflectieve dimensie, en de operationele definities voor de geëxtraheerde variabelen voor leeranalyse. Reflectieve componenten omvatten beschrijvende specificiteit, analytische diepgang, zelfregulerende oriëntatie, sociaal-prosociaal betekenis, totale reflectiescore, woordenaantal en indieningsstatus. Leeranalyse omvat actieve dagen, weergaven van bronnen, proportie geopende toegewezen bronnen, geplaatste reacties op discussies, gemiddelde voltooiingsgraad van video's, punctualiteit van opdrachten en proportie toegang in de late nacht. Klik hier om deze tabel te downloaden.
Tabel 3: Kenmerken van deelnemers, inclusiestroom en volledigheid van de gegevens. De tabel vat de geschiktheid van deelnemers, toestemmingspercentages, uitsluitingscriteria, de uiteindelijke steekproefomvang en de volledigheid van de gegevens uit de drie gegevensbronnen samen. Er wordt melding gemaakt van demografische basiskenmerken naast de verwachte reflectie-invoeren, tijdige indieningen, late indieningen, ontbrekende reflecties en succesvolle extracties van leeranalysegegevens. Waarden worden weergegeven als n (%) tenzij anders aangegeven. Afronding kan ertoe leiden dat percentages niet exact optellen tot 100%. Overeenkomstig het protocol worden late reflecties gearchiveerd, maar uitgesloten van weekspecifieke reflectieanalyses. Volledige extractie van leeranalysegegevens duidt op het succesvol ophalen van gedeïdentificeerde records van het studievenster na verwijdering van instructeursaccounts, dubbele invoeren en gebeurtenissen buiten het venster. Klik hier om deze tabel te downloaden.
Tabel 4: Beschrijvende statistieken en testbetrouwbaarheidsscores van de primaire studievariabelen. De tabel presenteert weekspecifieke gemiddelde waarden, standaarddeviaties en betrouwbaarheidsindices voor geobserveerd klasgedrag, reflectieve expressie, leeranalyse en prosociale intentie. De betrouwbaarheid van de data uit klasobservaties is geëvalueerd met behulp van Cohen's kappa. De betrouwbaarheid van de reflectiescores wordt gepresenteerd als intra-klasse correlatiecoëfficiënten (ICCs) voor dubbel gescorede teksten. De interne consistentie van de maatstaf voor prosociale intentie is gerapporteerd met Cronbach's α. Variabelen voor leeranalyse zijn berekend over dezelfde periode van 4 weken die is gebruikt voor de observaties en reflecties. Klik hier om deze tabel te downloaden.
Tabel 5: Multivariabele associaties tussen waargenomen betrokkenheid in de klas, reflectieve expressie, leeranalyse en prosociale intentie. De tabel bevat de inferentiële modellen die in de hoofdanalyses zijn gebruikt. Er worden multivariabele predictoren van de totale reflectiescore gepresenteerd, gecorrigeerde predictoren van de prosociale intentie na het protocol (gecontroleerd voor baseline-niveaus) en geselecteerde ongecorrigeerde associaties. β-waarden representeren niet-gestandaardiseerde regressiecoëfficiënten. Alle multivariabele modellen zijn gecorrigeerd voor de klassectie. Standaardfouten (SE), 95% betrouwbaarheidsintervallen (CI) en p-waarden worden verstrekt voor alle schattingen. Klik hier om deze tabel te downloaden.