Inclusione dei partecipanti, completezza dei dati e affidabilità dei punteggi
Un gruppo iniziale di 204 studenti provenienti da tutte le sezioni del corso è stato invitato a partecipare, con un totale di 198 soggetti che hanno fornito il consenso. Successivamente, 14 casi sono stati esclusi a causa dell'abbandono del corso durante il periodo del protocollo o per collegamento incompleto dei dati tra le registrazioni di osservazione, riflessione e piattaforma. Di conseguenza, il campione finale per l'analisi ha incluso 184 studenti. Le caratteristiche dei partecipanti, le percentuali settimanali di completamento e la completezza complessiva dei dati sono riportate nella Tabella 3.
Durante il programma della durata di 4 settimane, sono state osservate 24 sessioni di classe, generando un registro sincronizzato di analisi dell'apprendimento per ciascun partecipante. Dei 736 report riflessivi previsti, 701 sono stati consegnati entro la finestra di 72 ore, 18 sono stati consegnati in ritardo e 17 sono risultati mancanti. Alla fine, 171 studenti hanno completato con successo tutte le riflessioni settimanali in tempo utile. Le analisi dell'apprendimento sono state estratte completamente per gli ultimi 184 partecipanti, dopo aver filtrato gli account degli istruttori, le voci duplicate e le attività al di fuori della finestra temporale.
La codifica osservazionale è rimasta altamente stabile per tutta la durata del protocollo. L'affidabilità tra valutatori per i sei indici comportamentali dell'osservazione in classe ha mostrato valori di kappa di Cohen compresi tra 0,76 e 0,84, con un accordo complessivo durante i test di controllo superiore all'86%. Per i punteggi di espressione riflessiva, i coefficienti di correlazione intra-classe (ICC) relativi alle quattro dimensioni sono variati tra 0,82 e 0,89. Tabella 4 presenta le statistiche descrittive e gli indici di affidabilità delle variabili principali dello studio.
Osservazione del comportamento in aula
I comportamenti osservati in aula hanno mostrato un miglioramento graduale durante il protocollo della durata di 4 settimane. Come illustrato in Figura 2, l'attenzione al compito, la partecipazione verbale e la collaborazione tra pari sono risultati significativamente più elevati alla quarta settimana rispetto alle settimane iniziali. In particolare, la partecipazione verbale è aumentata da 0,18 ± 0,09 nella prima settimana a 0,24 ± 0,10 alla quarta settimana (p < 0,05). La collaborazione tra pari è aumentata in modo analogo da 0,29 ± 0,11 a 0,35 ± 0,12 (p = 0,006). L'attenzione al compito ha mostrato un miglioramento altamente significativo, passando da 0,71 ± 0,12 a 0,76 ± 0,11 (p < 0,001).
Al contrario, la presa di appunti orientata al compito o l'uso di dispositivi ha mostrato solo aumenti marginali settimanali che non hanno raggiunto la significatività statistica (p = 0.08). Il comportamento di richiesta di aiuto è rimasto costantemente basso per tutto il periodo di osservazione, senza mostrare un effetto temporale significativo (p = 0.21). Le distrazioni fuori compito sono diminuite significativamente da 0,14 ± 0,08 nella settimana 1 a 0,11 ± 0,07 nella settimana 4 (p = 0,03). Nel complesso, l'Indice Composito di Impegno in Aula Osservato è aumentato significativamente da 0,52 ± 0,10 durante la prima settimana a 0,58 ± 0,11 nell'ultima settimana (p < 0,001).
Espressioni riflessive durante il protocollo di 4 settimane
L'espressione riflessiva è evoluta nel corso del periodo di studio, anche se l'entità del cambiamento ha mostrato variazioni tra le sue sottodimensioni. Come mostrato in Figura 3, il punteggio totale della riflessione è aumentato da 7,2 ± 1,9 alla settimana 1 alla settimana 4 (p < 0,001).
La profondità analitica è risultata notevolmente maggiore alla fine della settimana 4 rispetto alle prime due settimane (p < 0,001). Analogamente, il significato sociale-prosociale è aumentato da 1,08 ± 0,55 a 1,54 ± 0,60 (p < 0,001) e l'orientamento autorregolativo è cresciuto da 1,42 ± 0,63 a 1,69 ± 0,65 (p < 0,05). Al contrario, la specificità descrittiva ha mostrato un lieve incremento, da 2,14 ± 0,57 a 2,24 ± 0,55, che non è risultato statisticamente significativo (p = 0,09).
Le consegne hanno registrato una media compresa tra 223 e 231 parole per voce lungo tutto il protocollo. Dei 736 resoconti riflessivi previsti, 18 sono stati consegnati in ritardo e 17 sono risultati mancanti; le voci con informazioni limitate e le risposte che omettevano il contesto causale o la domanda relativa all'azione futura/all'impatto sociale sono state segnalate nel database. Questi casi sono stati mantenuti come indicatori di fattibilità ed esclusi soltanto dai modelli specifici per la qualità delle riflessioni settimanali quando non è stato possibile assegnare il punteggio pertinente.
Schemi di analisi dell'apprendimento durante il periodo di studio
Le metriche relative all'attività sulla piattaforma hanno mostrato una notevole varianza interindividuale nel corso del periodo di quattro settimane, come illustrato in Figura 4.
Nell'intero periodo, gli studenti hanno registrato in media 9,7 ± 2,4 giorni attivi sulla piattaforma. Il numero medio di visualizzazioni di risorse distinte è stato di 27,3 ± 8,6, con gli studenti che hanno aperto una proporzione media dello 0,81 ± 0,14 delle risorse assegnate. Inoltre, il numero medio di risposte nei forum di discussione è stato di 4,8 ± 2,7. La puntualità media nelle consegne e la percentuale media di completamento dei video sono state rispettivamente di 0,86 ± 0,18 e 0,79 ± 0,17. La proporzione di accessi alla piattaforma durante le ore notturne ha avuto una media dello 0,12 ± 0,09.
È degno di nota che le risposte nei dibattiti e la puntualità nelle consegne degli elaborati hanno mostrato correlazioni positive più marcate con altri indicatori di partecipazione, nonostante la distribuzione ampia dei punteggi relativi alla puntualità.
Associazione incrociata tra osservazioni, riflessioni e dati di apprendimento
Le tre fonti di dati hanno mostrato associazioni significative, sebbene non uniformi. Come mostrato in Figura 5, gli studenti con indici di coinvolgimento in classe osservati più elevati tendevano a ottenere punteggi totali di riflessione più alti. Nel modello aggiustato per sezione, il coinvolgimento in classe osservato prediceva positivamente il punteggio totale della riflessione (β = 0.34, p < 0.001).
Tra le variabili di analisi dell'apprendimento, le risposte nei forum di discussione e la puntualità nella consegna degli elaborati erano correlate in modo significativo e positivo alla qualità della riflessione. Come specificato nella Tabella 5, le risposte nei forum di discussione hanno predetto in modo positivo il punteggio totale della riflessione (β = 0.19, p = 0.013), così come la puntualità nella consegna degli elaborati (β = 0.17, p = 0.028). Sebbene il numero grezzo di visualizzazioni delle risorse e la proporzione di risorse assegnate aperte mostrassero inizialmente associazioni positive, queste correlazioni si sono notevolmente indebolite dopo l'aggiustamento per variabili di confondimento. La proporzione di accessi notturni non ha mostrato alcuna associazione significativa con il punteggio totale della riflessione (p = 0.18).
I dati hanno inoltre rivelato lievi correlazioni incrociate tra il comportamento osservato in classe e specifiche attività sulla piattaforma; ad esempio, le visualizzazioni grezze delle risorse erano correlate solo marginalmente con l'Indice di Coinvolgimento in Classe Osservato. Inoltre, gli studenti che partecipavano più frequentemente alle discussioni di gruppo mostravano una comunicazione verbale più elevata, mentre coloro che presentavano una migliore regolazione comportamentale manifestavano minore procrastinazione nelle consegne dei compiti.
Modifiche nell'intenzione prosociale
L'intenzione prosociale ha mostrato un incremento significativo dal valore iniziale al post-trattamento. Il punteggio medio dell'intenzione prosociale è aumentato da 3,61 ± 0,53 al basale a 3,84 ± 0,50 dopo il protocollo della durata di 4 settimane (p < 0,001). Figura 6 illustra la distribuzione accoppiata e le associazioni aggiustate.
Nel modello finale aggiustato, un indice osservato di impegno in classe più elevato ha predetto un aumento maggiore dell'intenzione prosociale dopo il protocollo rispetto al valore basale (β = 0.21, p < 0,05). Tra le dimensioni riflessive, il significato sociale-prosociale ha esercitato l'effetto indipendente più rilevante sull'intenzione prosociale post-protocollo (β = 0,29, p < 0,001). Sebbene la partecipazione verbale abbia mostrato una correlazione positiva non aggiustata con gli esiti prosociali nel post-test, questa associazione ha perso significatività statistica dopo il controllo dei valori basali (p = 0,09). Infine, la frequenza di accesso serale non si è rivelata correlata all'intenzione prosociale post-protocollo (p = 0,27).
Vincoli di implementazione osservati e risultati nulli
Lo studio implementato ha prodotto diversi risultati subottimali ma informativi, piuttosto che insuccessi che richiedessero l'interruzione del protocollo. Nessuna sessione osservata è stata esclusa a causa di un kappa dell'osservatore inferiore a 0,70, nessun campo di analisi delle attività di apprendimento è rimasto non disponibile dopo l'esportazione finale e nessun problema di visibilità ha superato la soglia di mancata risposta prestabilita. I vincoli osservati erano concentrati nel completamento delle riflessioni e nei risultati comportamentali nulli o marginali: 18 riflessioni sono state inviate in ritardo, 17 riflessioni previste erano mancanti, la presa di appunti e l'uso del dispositivo orientati al compito hanno mostrato solo un aumento marginale (p = 0,08), la richiesta di aiuto non ha mostrato un effetto temporale significativo (p = 0,21) e l'accesso notturno non è risultato associato al punteggio totale delle riflessioni né all'intenzione prosociale post-protocollo.
Questi risultati sono stati mantenuti perché descrivono la fattibilità di implementazione e le condizioni al contorno del protocollo. Riflessioni tardive o mancanti sono state riportate nei riepiloghi sul flusso dei partecipanti e sulla completezza dei dati; associazioni marginali o nulle sono state riportate senza omissioni selettive; e le procedure di risoluzione dei problemi nella sezione Protocollo specificano come gestire in futuri impieghi eventuali fallimenti ipotetici, come deriva dell'osservatore, visibilità ostruita o campi LMS mancanti.
I file di analisi anonimizzati, il dizionario dei dati, gli script di analisi, i moduli di codifica vuoti, i promemoria per la riflessione, la rubrica di valutazione della riflessione e il questionario sull'intenzione prosociale sono stati depositati in Zenodo: https://zenodo.org/records/20607517. I video originali delle lezioni, i nomi, gli ID istituzionali e i testi di riflessione non oscurati non sono stati resi pubblicamente disponibili.

Figura 1: Flusso di lavoro dello studio e protocollo di integrazione dati da fonti multiple. (A) Reclutamento dei partecipanti, raccolta del consenso e assegnazione dell'ID di studio in due corsi universitari di laurea triennale e sei sezioni di classe. (B) Ciclo di raccolta dati della durata di 4 settimane: osservazione settimanale in aula, compito di scrittura riflessiva e finestra sincronizzata di acquisizione dei dati analitici sull'apprendimento. (C) Tre flussi paralleli di dati: osservazione del comportamento in aula, valutazione delle espressioni riflessive e registrazioni anonimizzate della piattaforma di apprendimento. (D) Costruzione del dataset principale a livello di partecipante e del database longitudinale a livello settimanale, che producono gli output principali della ricerca: indice di coinvolgimento osservato in aula, punteggio di riflessione e intenzione prosociale. Cliccare qui per visualizzare una versione ingrandita di questa figura.

Figura 2: Variazioni settimanali nei comportamenti osservati in classe durante il protocollo della durata di 4 settimane. (A) Attenzione rivolta al compito. (B) Partecipazione verbale. (C) Collaborazione tra pari. (D) Presa di appunti orientata al compito o utilizzo di dispositivi finalizzati al compito. (E) Distrazione non correlata al compito. (F) Ricerca di aiuto. I valori sono punteggi proporzionali a livello studentesco calcolati settimanalmente, derivati da osservazioni in classe basate su intervalli temporali. I punti indicano le medie settimanali, mentre le barre di errore indicano le deviazioni standard. Cliccare qui per visualizzare una versione ingrandita di questa figura.

Figura 3: Variazioni settimanali nell'espressione riflessiva nei quattro elaborati riflessivi. (A) Specificità descrittiva. (B) Profondità analitica. (C) Orientamento autoriflessivo. (D) Significato sociale-prosociale. (E) Punteggio totale di riflessione. I punteggi di riflessione sono stati assegnati da due valutatori in cieco utilizzando la griglia predeterminata. I punti indicano le medie settimanali e i baffi indicano le deviazioni standard. Cliccare qui per visualizzare una versione ingrandita di questa figura.

Figura 4: Distribuzione degli indicatori di analisi dell'apprendimento durante la finestra di studio di 4 settimane. (A) Giorni attivi sulla piattaforma di apprendimento. (B) Visualizzazioni delle risorse. (C) Proporzione di risorse assegnate aperte. (D) Risposte pubblicate nei forum di discussione. (E) Tasso medio di completamento dei video. (F) Puntualità nella consegna degli elaborati. (G) Proporzione di accessi notturni. Tutti i valori sono stati calcolati sulla stessa finestra di 4 settimane utilizzata per l'osservazione in aula e la scrittura riflessiva. I grafici a violino mostrano le distribuzioni a livello di studente, mentre i grafici a scatola indicano le mediane e i range interquartili. Cliccare qui per visualizzare una versione ingrandita di questa figura.

Figura 5: Associazioni tra impegno osservato in aula, espressione riflessiva e indicatori selezionati di learning analytics. (A) Associazione tra l'Indice di Impegno Osservato in Aula e il punteggio totale della riflessione. (B) Associazione tra le risposte pubblicate nei dibattiti e il punteggio totale della riflessione. (C) Associazione tra la puntualità nella consegna degli elaborati e il punteggio totale della riflessione. (D) Associazione tra la partecipazione verbale e il punteggio totale della riflessione. Le linee di tendenza rappresentano associazioni lineari stimate; le fasce ombreggiate indicano intervalli di confidenza al 95%. Cliccare qui per visualizzare una versione ingrandita di questa figura.

Figura 6: Variazione dell'intenzione prosociale e le sue associazioni con l'impegno in aula e il significato riflessivo. (A) Distribuzione accoppiata dei punteggi di intenzione prosociale a livello basale e successivo al protocollo. Le linee collegano i punteggi pre/post appaiati dello stesso studente. (B) Associazione tra l'Indice di Impegno Osservato in Aula e l'intenzione prosociale successiva al protocollo, aggiustando per il punteggio basale. (C) Associazione tra significato sociale-prosociale e intenzione prosociale successiva al protocollo. (D) Associazione tra partecipazione verbale e intenzione prosociale successiva al protocollo. Le fasce ombreggiate nei pannelli B-D indicano intervalli di confidenza al 95%. Cliccare qui per visualizzare una versione ingrandita di questa figura.
Tabella 1: Indicatori e regole di codifica per l'osservazione in classe a livello studentesco. La tabella illustra le definizioni operative e i criteri di codifica relativi all'attenzione al compito, alla partecipazione verbale, alla collaborazione tra pari, alla presa di appunti o all'uso di dispositivi finalizzati al compito, alle distrazioni fuori compito e alla richiesta di aiuto. La finestra di codifica di 70 min, il ciclo di scansione di 20 s e registrazione di 10 s, la procedura di scansione per cluster, la regola per la mancata visibilità e la formula OCEI sono descritte nella sezione Protocollo. Cliccare qui per scaricare questa tabella.
Tabella 2: Quadro di valutazione delle espressioni riflessive, esempi per livello di punteggio e definizioni operative delle variabili dell'analisi didattica. La tabella illustra la griglia di valutazione per i testi riflessivi, inclusi esempi di punteggi 0, 1, 2 e 3 per ciascuna dimensione riflessiva e le definizioni operative delle variabili estratte dall'analisi didattica. I componenti riflessivi comprendono specificità descrittiva, profondità analitica, orientamento autoriflessivo, significato sociale-prosociale, punteggio complessivo della riflessione, conteggio delle parole e stato di consegna. L'analisi didattica comprende giorni attivi, visualizzazioni di risorse, proporzione di risorse assegnate aperte, risposte pubblicate nei forum di discussione, tasso medio di completamento dei video, puntualità nella consegna dei compiti e proporzione di accessi notturni. Cliccare qui per scaricare questa tabella.
Tabella 3: Caratteristiche dei partecipanti, flusso di inclusione e completezza dei dati. La tabella riassume l'idoneità dei partecipanti, i tassi di consenso, i criteri di esclusione, la dimensione finale del campione e la completezza dei dati provenienti dalle tre fonti di dati. Vengono riportate le caratteristiche demografiche basali insieme al numero previsto di contributi riflessivi, consegne entro il termine, consegne in ritardo, contributi mancanti ed estrazioni riuscite di dati di learning analytics. I valori sono espressi come n (%) salvo diversa indicazione. Gli arrotondamenti possono determinare che le percentuali non si sommino esattamente al 100%. In conformità con il protocollo, i contributi in ritardo vengono archiviati ma esclusi dalle analisi specifiche per settimana. L'estrazione completa dei dati di learning analytics indica il recupero riuscito di record anonimizzati relativi alla finestra di studio, dopo la rimozione dei profili degli istruttori, delle voci duplicate e degli eventi al di fuori della finestra temporale. Cliccare qui per scaricare questa tabella.
Tabella 4: Statistiche descrittive e indici di affidabilità delle variabili principali dello studio. La tabella presenta valori medi specifici per ciascuna settimana, deviazioni standard e indici di affidabilità relativi al comportamento osservato in classe, all'espressione riflessiva, alle analisi didattiche e all'intenzione prosociale. L'affidabilità dei dati raccolti tramite osservazione in classe è valutata mediante il kappa di Cohen. L'affidabilità della valutazione delle riflessioni è espressa come coefficienti di correlazione intraclasse (ICC) per i testi valutati due volte. La coerenza interna della misura dell'intenzione prosociale è riportata utilizzando l'alfa di Cronbach. Le variabili relative alle analisi didattiche sono calcolate sullo stesso periodo di 4 settimane utilizzato per osservazioni e riflessioni. Fare clic qui per scaricare questa tabella.
Tabella 5: Associazioni multivariate tra impegno osservato in classe, espressione riflessiva, analisi didattica e intenzione prosociale. La tabella illustra i modelli inferenziali utilizzati nelle analisi principali. Riporta i predittori multivariati del punteggio totale della riflessione, i predittori aggiustati dell'intenzione prosociale post-protocollo (aggiustati per i livelli basali) e alcune associazioni non aggiustate selezionate. I valori β rappresentano coefficienti di regressione non standardizzati. Per tutte le stime vengono forniti errori standard (SE), intervalli di confidenza al 95% (CI) e valori p. Cliccare qui per scaricare questa tabella.