Katılımcı dahil etme, veri bütünlüğü ve puan güvenilirliği
Tüm sınıf bölümlerinden oluşan 204 öğrenciden oluşan ilk kohort katılım için davet edilmiş ve 198 kişi onay vermiştir. Protokol penceresi sırasında dersten ayrılma veya gözlem, yansıma ve platform kayıtları arasındaki veri bağlantısının eksik olması nedeniyle on dört vaka daha sonra hariç tutulmuştur. Sonuç olarak, nihai analitik örneklem 184 öğrenciden oluşmuştur. Katılımcı özellikleri, haftalık tamamlama oranları ve genel veri bütünlüğü Tablo 3'te detaylandırılmıştır.
4 haftalık program boyunca 24 ders oturumu gözlemlenmiş ve her katılımcı için senkronize bir öğrenme analitiği kaydı oluşturulmuştur. Beklenen 736 yansıtıcı raporun 701'i 72 saatlik süre içinde, 18'i geç ve 17'si ise eksik olarak sunulmuştur. Sonuç olarak, 171 öğrenci tüm haftalık yansıtıcı raporlarını zamanında başarıyla tamamlamıştır. Eğitmen hesapları, mükerrer girişler ve süre dışı aktiviteler filtrelendikten sonra, son 184 katılımcı için öğrenme analitiği verileri tamamen çıkarılmıştır.
Gözlemsel kodlama, protokol süresi boyunca oldukça stabil kalmıştır. Sınıf gözleminin altı davranışsal göstergesi için değerlendiriciler arası güvenirlik, 0,76 ile 0,84 arasında değişen Cohen's kappa değerleri sergilemiş olup, sapma testleri sırasındaki genel uyum %86'yı aşmıştır. Yansıtıcı ifade puanları için dört boyut genelindeki sınıf içi korelasyon katsayıları (ICC'ler) 0,82 ile 0,89 arasında değişmiştir. Tablo 4, temel çalışma değişkenlerine ilişkin tanımlayıcı istatistikleri ve güvenirlik indekslerini sunmaktadır.
Sınıf içi davranış gözlemi
Gözlemlenen sınıf içi davranışlar, 4 haftalık protokol boyunca kademeli bir iyileşme göstermiştir. Şekil 2'de gösterildiği üzere, görev odaklı dikkat, sözlü katılım ve akran iş birliği, 4. haftada başlangıç haftalarına kıyasla anlamlı derecede daha yüksekti. Spesifik olarak, sözlü katılım ilk haftadaki 0.18 ± 0.09 değerinden dördüncü haftaya kadar 0.24 ± 0.10 değerine yükselmiştir (p < 0.05). Akran iş birliği de benzer şekilde 0.29 ± 0.11'den 0.35 ± 0.12'ye çıkmıştır (p = 0.006). Görev odaklı dikkat, 0.71 ± 0.12'den 0.76 ± 0.11'e kayarak oldukça anlamlı bir iyileşme göstermiştir (p < 0.001).
Buna karşılık, göreve odaklı not alma veya cihaz kullanımı, istatistiksel anlamlılığa ulaşmayan yalnızca marjinal haftalık artışlar göstermiştir (p = 0.08). Yardım arama davranışı, gözlem süresi boyunca tutarlı bir şekilde düşük kalmış ve anlamlı bir zaman etkisi sergilememiştir (p = 0.21). Görev dışı dikkat dağınıklığı, 1. Haftadaki 0.14 ± 0.08 değerinden 4. Haftadaki 0.11 ± 0.07 değerine anlamlı düzeyde azalmıştır (p = 0.03). Genel olarak, bileşik Gözlemlenen Sınıf Katılım İndeksi, ilk haftadaki 0.52 ± 0.10 değerinden son haftaya gelindiğinde 0.58 ± 0.11 değerine anlamlı şekilde yükselmiştir (p < 0.001).
4 haftalık protokol boyunca yansıtıcı ifadeler
Yansıtıcı ifade, çalışmanın süresi boyunca gelişmiş olsa da değişimin büyüklüğü alt boyutlar arasında farklılık göstermiştir. Şekil 3'te gösterildiği gibi, toplam yansıma puanı 1. Haftadan başlayarak 4. Haftaya kadar 7,2 ± 1,9'a yükselmiştir (p < 0.001).
Analitik derinlik, ilk iki haftaya kıyasla 4. haftanın sonunda belirgin şekilde daha yüksekti (p < 0.001). Benzer şekilde, sosyal-prososyal anlam 1.08 ± 0.55'ten 1.54 ± 0.60'a (p < 0.001) ve öz-düzenleyici yönelim 1.42 ± 0.63'ten 1.69 ± 0.65'e (p < 0.05) yükseldi. Buna karşın, betimsel özgünlük 2.14 ± 0.57'den 2.24 ± 0.55'e doğru hafif bir yükselme eğilimi gösterdi ancak bu durum istatistiksel olarak anlamlı değildi (p = 0.09).
Protokol boyunca gönderilen cevaplar, her giriş için ortalama 223 ile 231 kelime arasındaydı. Beklenen 736 yansıtıcı raporun 18'i geç teslim edildi ve 17'si eksikti; düşük bilgi içeren girişler ile bağlamsal neden veya gelecek eylemi/sosyal etki istemlerini atlayan yanıtlar veri tabanında işaretlendi. Bu vakalar fizibilite göstergeleri olarak tutuldu ve yalnızca ilgili puan atanamadığı durumlarda haftaya özel yansıtma kalitesi modellerinden hariç tutuldu.
Çalışma penceresi sırasındaki öğrenme analitiği örüntüleri
Şekil 4'te gösterildiği üzere, platform aktivite metrikleri 4 haftalık pencere boyunca bireyler arasında önemli varyans sergilemiştir.
Toplam süre boyunca, öğrenciler platformda ortalama 9.7 ± 2.4 aktif gün geçirmiştir. Farklı kaynak görüntüleme sayısı ortalaması 27.3 ± 8.6 olurken, öğrenciler atanan kaynakların ortalama 0.81 ± 0.14 oranını açmıştır. Ayrıca, ortalama tartışma yanıt sayısı 4.8 ± 2.7 olarak belirlenmiştir. Ortalama ödev zamanlaması ve ortalama video tamamlama oranı sırasıyla 0.86 ± 0.18 ve 0.79 ± 0.17'dir. Gece geç saatlerdeki platform erişim oranı ortalama 0.12 ± 0.09'dur.
Önemli bir nokta olarak, dakiklik puanlarının geniş bir dağılım göstermesine rağmen, tartışma yanıtlarının ve ödev zamanlamasının diğer katılım göstergeleriyle daha belirgin pozitif korelasyonlar sergilediği görülmüştür.
Gözlemlerin, yansımaların ve öğrenme verilerinin çapraz ilişkisi
Üç veri kaynağı, tekdüze olmasa da anlamlı ilişkiler sergilemiştir. Şekil 5'te gösterildiği gibi, Gözlemlenen Sınıf Katılım Endeksleri daha yüksek olan öğrencilerin, daha yüksek toplam yansıma puanları elde etme eğiliminde oldukları görülmüştür. Bölüme göre düzeltilmiş modelde, gözlemlenen sınıf katılımı, yansıma toplam puanını pozitif yönde öngörmüştür (β = 0.34, p < 0.001).
Öğrenme analitiği değişkenleri arasında, tartışma yanıtları ve ödev zamanlaması, yansıtma kalitesi ile anlamlı ve pozitif bir korelasyon göstermiştir. Tablo 5'te ayrıntılı olarak belirtildiği üzere, tartışma yanıtları yansıtma toplam puanını pozitif yönde öngörmüş (β = 0.19, p = 0.013), benzer şekilde ödev zamanlaması da pozitif bir öngörü sağlamıştır (β = 0.17, p = 0.028). Ham kaynak görüntülemeleri ve atanan kaynakların açılma oranı başlangıçta pozitif ilişkiler gösterse de, karıştırıcı değişkenler için düzeltme yapıldıktan sonra bu korelasyonlar önemli ölçüde zayıflamıştır. Gece geç saat erişim oranı, yansıtma toplam puanı ile anlamlı bir ilişki göstermemiştir (p = 0.18).
Veriler ayrıca, gözlemlenen sınıf davranışı ile belirli platform etkinlikleri arasında hafif çapraz korelasyonlar olduğunu ortaya koymuştur; örneğin, ham kaynak görüntülemeleri, Gözlemlenen Sınıf Katılım İndeksi ile yalnızca marjinal düzeyde korelasyon göstermiştir. Ayrıca, grup tartışmalarına daha sık katılan öğrenciler daha yüksek sözel iletişim sergilerken, davranışsal düzenlemesi daha yüksek olanlar, ödev teslimlerinde daha az erteleme davranışı göstermiştir.
Prososyal niyetteki değişimler
Prososyal niyet, başlangıç değerinden son test değerine kadar anlamlı bir artış göstermiştir. Ortalama prososyal niyet puanı, başlangıçtaki 3.61 ± 0.53 değerinden 4 haftalık protokol sonrası 3.84 ± 0.50 değerine yükselmiştir (p < 0.001). Şekil 6, eşleştirilmiş dağılımı ve düzeltilmiş ilişkileri göstermektedir.
Son düzeltilmiş modelde, daha yüksek bir Gözlemlenen Sınıf Katılım İndeksi, başlangıç skoruna kıyasla protokol sonrası prososyal niyette daha büyük bir artışı öngörmüştür (β = 0.21, p < 0.05). Refleksif boyutlar arasında, sosyal-prososyal anlam, protokol sonrası prososyal niyet üzerinde en belirgin bağımsız etkiyi göstermiştir (β = 0.29, p < 0.001). Sözel katılım, son test prososyal sonuçlarıyla düzeltilmemiş pozitif bir korelasyon sergilese de, bu ilişki başlangıç değerleri kontrol edildikten sonra istatistiksel anlamlılığını yitirmiştir (p = 0.09). Son olarak, gece geç saatlerde erişim oranı, protokol sonrası prososyal niyetle ilişkisiz kalmıştır (p = 0.27).
Gözlemlenen uygulama kısıtlamaları ve anlamsız bulgular
Uygulanan çalışma, protokolü durduracak başarısızlıklar yerine, suboptimal ancak bilgilendirici birkaç sonuç üretmiştir. Gözlemci kappasının 0,70'in altında olması nedeniyle hariç tutulması gereken herhangi bir oturum gözlemlenmemiş, son dışa aktarımdan sonra hiçbir öğrenme analitiği alanı erişilemez kalmamış ve hiçbir görünürlük sorunu önceden belirlenmiş eksiklik eşiğini aşmamıştır. Gözlemlenen kısıtlamalar, yansıtma tamamlamalarında ve anlamsız veya marjinal davranışsal bulgularda yoğunlaşmıştır: 18 yansıtma geç teslim edilmiş, beklenen 17 yansıtma eksik kalmış, göreve odaklı not alma/cihaz kullanımı yalnızca marjinal bir artış göstermiş (p = 0,08), yardım isteme davranışında anlamlı bir zaman etkisi görülmemiş (p = 0,21) ve gece geç saatlerdeki erişimler, toplam yansıtma puanı veya protokol sonrası prososyal niyet ile ilişkilendirilmemiştir.
Bu bulgular, protokolün uygulama fizibilitesini ve sınır koşullarını tanımladıkları için muhafaza edilmiştir. Geç gelen veya eksik olan yansımalar, katılımcı akış ve veri tamamlama özetlerinde raporlanmıştır; marjinal veya yok hükmündeki ilişkiler seçici bir çıkarma yapılmaksızın bildirilmiştir ve Protokol bölümündeki sorun giderme prosedürleri; gözlemci sapması, engellenmiş görüş veya eksik LMS alanları gibi varsayımsal başarısızlıkların gelecekteki uygulamalarda nasıl ele alınması gerektiğini belirtmektedir.
Kimliksizleştirilmiş analiz dosyaları, veri sözlüğü, analiz betikleri, boş kodlama formları, yansıtma istemleri, yansıtma rubriği ve prososyal niyet anketi Zenodo'ya yüklenmiştir: https://zenodo.org/records/20607517. Kimlik belirlenebilir ham sınıf videoları, isimler, kurumsal kimlik numaraları ve düzenlenmemiş yansıtma metinleri kamuya açıklanmamıştır.

Şekil 1: Çalışma iş akışı ve çok kaynaklı veri entegrasyon protokolü. (A) İki lisans dersi ve altı sınıf şubesinde katılımcı alımı, onam toplama ve çalışma-ID ataması. (B) 4 haftalık veri toplama döngüsü: haftalık sınıf gözlemi, yansıtıcı yazma görevi ve senkronize öğrenme analitiği yakalama penceresi. (C) Üç paralel veri akışı: sınıf içi davranışsal gözlem, yansıtıcı ifade puanlaması ve kimliksizleştirilmiş öğrenme platformu kayıtları. (D) Katılımcı düzeyindeki ana veri setinin ve hafta düzeyindeki uzun formatlı veri tabanının oluşturulması; bu işlem sonucunda temel araştırma çıktıları olan gözlemlenen sınıf etkileşim indeksi, yansıtma puanı ve prososyal niyet elde edilmiştir. Bu şeklin daha büyük bir versiyonunu görüntülemek için lütfen buraya tıklayın.

Şekil 2: 4 haftalık protokol boyunca gözlemlenen sınıf içi davranışlardaki haftalık değişimler. (A) Göreve odaklı dikkat. (B) Sözlü katılım. (C) Akran iş birliği. (D) Görev odaklı not alma veya görev odaklı cihaz kullanımı. (E) Görev dışı dikkat dağınıklığı. (F) Yardım arama. Değerler, aralık tabanlı sınıf gözlemlerinden elde edilen haftalık öğrenci düzeyi oran puanlarıdır. Noktalar haftalık ortalamaları, hata çubukları ise standart sapmaları göstermektedir. Bu şeklin daha büyük bir versiyonunu görüntülemek için lütfen buraya tıklayın.

Şekil 3: Dört yansıtıcı gönderim boyunca yansıtıcı ifadelerdeki haftalık değişimler. (A) Betimsel özgünlük. (B) Analitik derinlik. (C) Öz-düzenleyici yönelim. (D) Sosyal-prososyal anlam. (E) Toplam yansıtma puanı. Yansıtma puanları, önceden belirlenmiş rubrik kullanılarak iki kör kodlayıcı tarafından atanmıştır. Noktalar haftalık ortalamaları, hata çubukları ise standart sapmaları göstermektedir. Bu şeklin daha büyük bir versiyonunu görüntülemek için lütfen buraya tıklayın.

Şekil 4: 4 haftalık çalışma penceresi boyunca öğrenme analitiği göstergelerinin dağılımı. (A) Öğrenme platformundaki aktif günler. (B) Kaynak görüntülemeleri. (C) Açılan atanmış kaynakların oranı. (D) Paylaşılan tartışma yanıtları. (E) Ortalama video tamamlama oranı. (F) Ödev zamanlılığı. (G) Geç gece erişim oranı. Tüm değerler, sınıf gözlemi ve yansıtıcı yazı için kullanılan aynı 4 haftalık pencere üzerinden hesaplanmıştır. Keman grafikleri öğrenci düzeyindeki dağılımları, kutu grafikleri ise medyanları ve çeyrekler arası aralıkları göstermektedir. Bu şeklin daha büyük bir versiyonunu görüntülemek için lütfen buraya tıklayın.

Şekil 5: Gözlemlenen sınıf katılımı, yansıtıcı ifade ve seçili öğrenme analitiği göstergeleri arasındaki ilişkiler. (A) Gözlemlenen Sınıf Katılım İndeksi ile toplam yansıtma puanı arasındaki ilişki. (B) Paylaşılan tartışma yanıtları ile toplam yansıtma puanı arasındaki ilişki. (C) Ödev teslim dakikliği ile toplam yansıtma puanı arasındaki ilişki. (D) Sözel katılım ile toplam yansıtma puanı arasındaki ilişki. Trend çizgileri uyarlanmış doğrusal ilişkileri; gölgeli bantlar %95 güven aralıklarını temsil etmektedir. Bu şeklin daha büyük bir versiyonunu görüntülemek için lütfen buraya tıklayın.

Şekil 6: Prososyal niyetteki değişim ve bunun sınıf katılımı ile yansıtıcı anlam ile ilişkileri. (A) Başlangıç ve protokol sonrası prososyal niyet puanlarının eşleşmiş dağılımı. Çizgiler, aynı öğrenciye ait eşleşmiş öncesi/sonrası puanları birleştirir. (B) Başlangıç puanı kontrol edildikten sonra Gözlemlenen Sınıf Katılım İndeksi ile protokol sonrası prososyal niyet arasındaki ilişki. (C) Sosyal-prososyal anlam ile protokol sonrası prososyal niyet arasındaki ilişki. (D) Sözel katılım ile protokol sonrası prososyal niyet arasındaki ilişki. B-D panellerindeki gölgeli bantlar %95 güven aralıklarını belirtir. Bu şeklin daha büyük bir versiyonunu görüntülemek için lütfen buraya tıklayın.
Tablo 1: Öğrenci düzeyindeki sınıf gözlemi göstergeleri ve kodlama kuralları. Tablo; göreve odaklı dikkat, sözel katılım, akran iş birliği, göreve odaklı not alma veya cihaz kullanımı, görev dışı dikkat dağılması ve yardım arama için operasyonel tanımları ve kodlama kriterlerini ayrıntılı olarak sunmaktadır. 70 dakikalık kodlama penceresi, 20 saniyelik tarama/10 saniyelik kayıt döngüsü, küme tarama prosedürü, görünürlük kaybı kuralı ve OCEI formülü Protokol bölümünde açıklanmıştır. Bu tabloyu indirmek için lütfen buraya tıklayın.
Tablo 2: Yansıtıcı ifade puanlama çerçevesi, puan düzeyi örnekleri ve öğrenme analitiği değişken tanımları. Tablo, her bir yansıtıcı boyut için 0, 1, 2 ve 3 puanlarının örneklerini ve çıkarılan öğrenme analitiği değişkenlerinin operasyonel tanımlarını içeren, yansıtıcı metinler için puanlama rubriğini özetlemektedir. Yansıtıcı bileşenler; betimsel özgünlük, analitik derinlik, öz düzenleme yönelimi, sosyal-prososyal anlam, genel yansıtma puanı, kelime sayısı ve gönderim durumunu içerir. Öğrenme analitiği ise aktif günler, kaynak görüntülemeleri, açılan atanmış kaynakların oranı, paylaşılan tartışma yanıtları, ortalama video tamamlama oranı, ödev zamanlılığı ve gece geç saat erişim oranından oluşur. Bu Tabloyu indirmek için lütfen buraya tıklayın.
Tablo 3: Katılımcı özellikleri, dahil etme akışı ve veri tamlığı. Tablo; katılımcı uygunluğunu, onam oranlarını, dışlama kriterlerini, nihai örneklem boyutunu ve üç veri kaynağı genelindeki veri tamlığını özetlemektedir. Başlangıç demografik özelliklerinin yanı sıra beklenen yansıtıcı girişler, zamanında gönderimler, geç gönderimler, eksik yansıtmalar ve başarılı öğrenme analitiği çıkarımları bildirilmektedir. Aksi belirtilmedikçe değerler n (%) olarak sunulmuştur. Yuvarlama nedeniyle yüzdelerin toplamı tam olarak %100 etmeyebilir. Protokol uyarınca, geç gönderilen yansıtmalar arşivlenmiş ancak haftaya özgü yansıtma analizlerinden çıkarılmıştır. Tam öğrenme analitiği çıkarımı; eğitmen hesaplarının, mükerrer girişlerin ve pencere dışı olayların kaldırılmasının ardından, kimliksizleştirilmiş çalışma penceresi kayıtlarının başarıyla geri çağrılmasını ifade eder. Bu tabloyu indirmek için lütfen buraya tıklayın.
Tablo 4: Birincil çalışma değişkenlerinin tanımlayıcı istatistikleri ve test güvenilirlik puanları. Tablo; gözlemlenen sınıf davranışları, yansıtıcı ifade, öğrenme analitiği ve prososyal niyet için haftaya özgü ortalama değerleri, standart sapmaları ve güvenilirlik indekslerini sunmaktadır. Sınıf gözlem verilerinin güvenilirliği Cohen's kappa kullanılarak değerlendirilmektedir. Yansıtma puanlama güvenilirliği, çift puanlanmış metinler için sınıf içi korelasyon katsayıları (ICCs) olarak sunulmuştur. Prososyal niyet ölçümünün iç tutarlılığı Cronbach's α kullanılarak rapor edilmiştir. Öğrenme analitiği değişkenleri, gözlemler ve yansıtmalar için kullanılan aynı 4 haftalık dönem üzerinden hesaplanmıştır. Bu Tabloyu indirmek için lütfen buraya tıklayın.
Tablo 5: Gözlemlenen sınıf içi etkileşim, yansıtıcı ifade, öğrenme analitiği ve prososyal niyet arasındaki çok değişkenli ilişkiler. Tablo, ana analizlerde kullanılan çıkarımsal modelleri detaylandırmaktadır. Yansıtma toplam puanının çok değişkenli yordayıcılarını, protokol sonrası prososyal niyetin düzeltilmiş yordayıcılarını (başlangıç seviyeleri kontrol edilerek) ve seçilmiş düzeltilmemiş ilişkileri sunar. β değerleri, standardize edilmemiş regresyon katsayılarını temsil eder. Tüm çok değişkenli modeller sınıf şubesine göre düzeltilmiştir. Tüm tahminler için standart hatalar (SE), %95 güven aralıkları (CI) ve p-değerleri verilmiştir. Bu Tabloyu indirmek için lütfen buraya tıklayınız.