$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Включение участников, полнота данных и надежность оценок
К участию была приглашена первоначальная когорта из 204 студентов всех разделов курса, из которых согласились принять участие 198 человек. Впоследствии четырнадцать случаев были исключены по причине прекращения обучения в период проведения протокола или из-за неполного связывания данных в записях наблюдений, рефлексии и платформы. Таким образом, окончательная аналитическая выборка составила 184 студента. Характеристики участников, показатели еженедельного выполнения заданий и общая полнота данных подробно представлены в Таблице 3.
В течение 4-недельной программы было проведено наблюдение за 24 учебными занятиями, в результате чего для каждого участника была создана синхронизированная запись аналитики обучения. Из 736 ожидаемых рефлексивных отчетов 701 был представлен в течение 72-часового окна, 18 были представлены с опозданием, и 17 отсутствовали. В итоге 171 студент успешно и своевременно выполнил все еженедельные рефлексии. Данные аналитики обучения были полностью извлечены для итоговых 184 участников после фильтрации учетных записей преподавателей, дублирующих записей и действий, совершенных вне установленного временного окна.
Кодирование результатов наблюдений оставалось высокостабильным на протяжении всего периода выполнения протокола. Надежность межэкспертной оценки для шести поведенческих индексов классного наблюдения продемонстрировала значения каппа Коэна в диапазоне от 0,76 до 0,84, при этом общее согласие в ходе тестов на дрейф превышало 86%. Для показателей рефлексивного выражения коэффициенты внутригрупповой корреляции (ICC) по четырем измерениям варьировались от 0,82 до 0,89. В Таблице 4 представлены описательная статистика и показатели надежности для основных переменных исследования.
Наблюдение за поведением в классе
В ходе 4-недельного протокола наблюдалось постепенное улучшение поведения учащихся в классе. Как показано на Рисунке 2, показатели концентрации внимания на задании, вербального участия и взаимодействия со сверстниками на 4-й неделе были значительно выше по сравнению с начальными неделями. В частности, вербальное участие увеличилось с 0,18 ± 0,09 на первой неделе до 0,24 ± 0,10 к четвертой неделе (p < 0,05). Взаимодействие со сверстниками аналогично возросло с 0,29 ± 0,11 до 0,35 ± 0,12 (p = 0,006). Концентрация внимания на задании продемонстрировала высокозначимое улучшение, изменившись с 0,71 ± 0,12 до 0,76 ± 0,11 (p < 0,001).
Напротив, ведение конспектов по заданию или использование устройств демонстрировали лишь незначительный еженедельный рост, который не достиг статистической значимости (p = 0.08). Поведение, направленное на поиск помощи, оставалось стабильно низким на протяжении всего периода наблюдения, не проявляя значимого временного эффекта (p = 0.21). Отвлечение на задачи, не связанные с уроком, значительно снизилось с 0.14 ± 0.08 на 1-й неделе до 0.11 ± 0.07 на 4-й неделе (p = 0.03). В целом, совокупный индекс наблюдаемой вовлеченности в учебном процессе (Observed Classroom Engagement Index) значительно вырос с 0.52 ± 0.10 в течение первой недели до 0.58 ± 0.11 к последней неделе (p < 0.001).
Рефлексивные высказывания в течение 4-недельного протокола
Характер рефлексивных высказываний менялся на протяжении периода исследования, хотя величина этих изменений различалась по его отдельным измерениям. Как показано на рисунке 3, общий показатель рефлексии увеличился с 1-й недели до 7,2 ± 1,9 к 4-й неделе (p < 0,001).
Аналитическая глубина была заметно выше в конце 4-й недели по сравнению с первыми двумя неделями (p < 0.001). Аналогичным образом, показатель социально-просоциальной значимости вырос с 1.08 ± 0.55 до 1.54 ± 0.60 (p < 0.001), а саморегулирующая ориентация увеличилась с 1.42 ± 0.63 до 1.69 ± 0.65 (p < 0.05). Напротив, для дескриптивной специфичности наблюдалась слабая тенденция к росту — с 2.14 ± 0.57 до 2.24 ± 0.55, что не было статистически значимым (p = 0.09).
Объем представленных работ в среднем составлял от 223 до 231 слова на одну запись на протяжении всего протокола. Из 736 ожидаемых рефлексивных отчетов 18 были представлены с опозданием, а 17 отсутствовали; записи с низким содержанием информации, а также ответы, в которых отсутствовали пункты о контекстуальной причине или будущих действиях/социальном воздействии, были отмечены в базе данных. Эти случаи были сохранены в качестве индикаторов осуществимости и исключались только из моделей качества рефлексии за конкретную неделю в тех случаях, когда невозможно было присвоить соответствующий балл.
Паттерны аналитики обучения в течение периода исследования
Метрики активности на платформе демонстрировали значительную межиндивидуальную вариабельность в течение 4-недельного окна, как показано на Рисунке 4.
За весь период в среднем студенты провели на платформе 9,7 ± 2,4 активных дня. Среднее количество просмотров уникальных ресурсов составило 27,3 ± 8,6, при этом студенты открывали в среднем 0,81 ± 0,14 от общего числа назначенных ресурсов. Кроме того, среднее количество ответов в дискуссиях составило 4,8 ± 2,7. Средний показатель своевременности выполнения заданий и средний коэффициент завершения просмотра видео составили 0,86 ± 0,18 и 0,79 ± 0,17 соответственно. Доля заходов на платформу в ночное время в среднем составила 0,12 ± 0,09.
Примечательно, что ответы в обсуждениях и своевременность сдачи заданий продемонстрировали более выраженные положительные корреляции с другими показателями участия, несмотря на широкий разброс баллов за пунктуальность.
Перекрестный анализ наблюдений, рефлексии и данных об обучении
Три источника данных продемонстрировали значимые, хотя и неоднородные, взаимосвязи. Как показано на Рисунке 5, студенты с более высокими индексами наблюдаемой вовлеченности в учебном процессе имели тенденцию получать более высокие общие баллы за рефлексию. В модели с поправкой на группу (секции) наблюдаемая вовлеченность в учебном процессе была положительным предиктором общего балла за рефлексию (β = 0.34, p < 0.001).
Среди переменных аналитики обучения ответы в обсуждениях и своевременность сдачи заданий значимо и положительно коррелировали с качеством рефлексии. Как подробно показано в Таблице 5, количество ответов в обсуждениях положительно предсказывало общий балл за рефлексию (β = 0.19, p = 0.013), так же как и своевременность сдачи заданий (β = 0.17, p = 0.028). Хотя количество просмотров ресурсов и доля открытых назначенных ресурсов изначально демонстрировали положительную связь, эти корреляции значительно ослабли после поправки на вмешивающиеся переменные. Доля доступа в ночное время не показала значимой связи с общим баллом за рефлексию (p = 0.18).
Данные также выявили слабую кросс-корреляцию между наблюдаемым поведением в классе и конкретными действиями на платформе; например, просмотры исходных ресурсов лишь незначительно коррелировали с индексом наблюдаемой вовлеченности в классе (Observed Classroom Engagement Index). Кроме того, студенты, которые чаще участвовали в групповых дискуссиях, демонстрировали более высокий уровень вербального общения, в то время как студенты с более высоким уровнем поведенческой регуляции реже откладывали сдачу заданий.
Изменения просоциальных намерений
Просоциальные намерения продемонстрировали значительный рост от исходного уровня к моменту послетестирования. Средний показатель просоциальных намерений увеличился с 3,61 ± 0,53 на исходном уровне до 3,84 ± 0,50 после 4-недельного протокола (p < 0,001). На Рисунке 6 показано парное распределение и скорректированные связи.
В окончательной скорректированной модели более высокий наблюдаемый индекс вовлеченности студентов в учебном процессе предсказывал более значительный рост просоциальных намерений после завершения протокола по сравнению с исходным показателем (β = 0.21, p < 0.05). Среди рефлексивных аспектов наиболее существенное независимое влияние на просоциальные намерения после протокола оказало социально-просоциальное значение (β = 0.29, p < 0.001). Хотя вербальное участие демонстрировало положительную нескорректированную корреляцию с просоциальными результатами после тестирования, эта связь утратила статистическую значимость после контроля исходных значений (p = 0.09). Наконец, частота доступа в позднее время суток осталась несвязанной с просоциальными намерениями после протокола (p = 0.27).
Выявленные ограничения реализации и нулевые результаты
В ходе проведенного исследования было получено несколько субоптимальных, но информативных результатов, которые не привели к остановке протокола. Ни одна из наблюдаемых сессий не потребовала исключения из-за коэффициента каппа наблюдателя ниже 0.70, после окончательного экспорта все поля аналитики обучения остались доступными, и ни одна проблема с видимостью не превысила заранее установленный порог пропусков. Выявленные ограничения были сосредоточены в заполнении рефлексий, а также в нулевых или малозначимых поведенческих результатах: 18 рефлексий были представлены с опозданием, 17 ожидаемых рефлексий отсутствовали, сосредоточенное на задаче ведение записей/использование устройств продемонстрировало лишь незначительный рост (p = 0.08), поиск помощи не показал значимого временного эффекта (p = 0.21), а доступ в позднее ночное время не был связан с общим баллом за рефлексию или просоциальными намерениями после завершения протокола.
Эти результаты были сохранены, поскольку они описывают осуществимость реализации и граничные условия протокола. Опоздавшие или отсутствующие ответы были отражены в сводках по потоку участников и полноте данных; малозначимые или нулевые взаимосвязи были представлены без селективного исключения; а процедуры устранения неполадок в разделе «Протокол» определяют, как следует обрабатывать гипотетические сбои, такие как дрейф наблюдателя, ограниченная видимость или отсутствие полей LMS в будущих реализациях.
Обезличенные файлы анализа, словарь данных, скрипты анализа, пустые формы кодирования, подсказки для рефлексии, рубрика оценивания рефлексии и опросник просоциальных намерений были размещены в Zenodo: https://zenodo.org/records/20607517. Идентифицируемые необработанные видеозаписи занятий в классе, имена, институциональные идентификаторы и нередактированные тексты рефлексии в открытый доступ не предоставлялись.

Рисунок 1: Схема исследования и протокол интеграции многоисточниковых данных. (A) Набор участников, получение согласия и присвоение идентификаторов исследования в рамках двух курсов бакалавриата и шести учебных групп. (B) 4-недельный цикл сбора данных: еженедельное наблюдение в классе, задание по рефлексивному письму и синхронизированное окно захвата аналитики обучения. (C) Три параллельных потока данных: наблюдение за поведением в классе, оценка рефлексивного выражения и обезличенные записи с платформы обучения. (D) Создание основного набора данных на уровне участников и базы данных в длинном формате на уровне недель, что позволило получить основные результаты исследования: индекс наблюдаемой вовлеченности в классе, оценку рефлексии и просоциальные намерения. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 2: Еженедельные изменения наблюдаемого поведения в классе в течение 4-недельного протокола. (A) Концентрация на задании. (B) Вербальное участие. (C) Взаимодействие со сверстниками. (D) Ведение записей по теме задания или использование устройств для выполнения задания. (E) Отвлечение от задания. (F) Поиск помощи. Значения представляют собой еженедельные показатели пропорций на уровне студентов, полученные в результате интервальных наблюдений в классе. Точки указывают еженедельные средние значения, а планки погрешностей — стандартные отклонения. Пожалуйста, нажмите здесь, чтобы просмотреть этот рисунок в большем размере.

Рисунок 3: Еженедельные изменения показателей рефлексии в четырех рефлексивных работах. (A) Дескриптивная специфичность. (B) Аналитическая глубина. (C) Саморегуляторная ориентация. (D) Социально-просоциальное значение. (E) Общий балл рефлексии. Баллы за рефлексию присваивались двумя кодировщиками, не знавшими условий эксперимента, с использованием заранее определенного рубрикатора. Точки обозначают еженедельные средние значения, а планки погрешностей — стандартные отклонения. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 4: Распределение показателей аналитики обучения в течение 4-недельного окна исследования. (A) Активные дни на обучающей платформе. (B) Просмотры ресурсов. (C) Доля открытых назначенных ресурсов. (D) Опубликованные ответы в обсуждениях. (E) Средний показатель завершения просмотра видео. (F) Своевременность выполнения заданий. (G) Доля доступа в ночное время. Все значения были рассчитаны за тот же 4-недельный период, который использовался для классных наблюдений и рефлексивного письма. Скрипичные диаграммы (violin plots) показывают распределение на уровне студентов, а диаграммы размаха (box plots) указывают медианы и межквартильные размахи. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 5: Связи между наблюдаемой вовлеченностью в классе, рефлексивным выражением и выбранными показателями аналитики обучения. (A) Связь между индексом наблюдаемой вовлеченности в классе и общим баллом за рефлексию. (B) Связь между количеством опубликованных ответов в дискуссиях и общим баллом за рефлексию. (C) Связь между своевременностью сдачи заданий и общим баллом за рефлексию. (D) Связь между вербальным участием и общим баллом за рефлексию. Линии тренда представляют собой аппроксимированные линейные связи; затененные области указывают на 95% доверительные интервалы. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 6: Изменение просоциальных намерений и их связь с вовлеченностью в учебный процесс и рефлексивным смыслом. (A) Парное распределение показателей просоциальных намерений до и после применения протокола. Линии соединяют парные показатели одного и того же студента до и после исследования. (B) Связь между индексом наблюдаемой вовлеченности в учебный процесс и просоциальными намерениями после протокола с поправкой на исходный показатель. (C) Связь между социально-просоциальным смыслом и просоциальными намерениями после протокола. (D) Связь между вербальным участием и просоциальными намерениями после протокола. Затененные области на панелях B-D обозначают 95% доверительные интервалы. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Таблица 1: Индикаторы наблюдения за учащимися в классе и правила кодирования.В таблице подробно описаны операциональные определения и критерии кодирования для таких показателей, как сосредоточенность на задании, вербальное участие, сотрудничество со сверстниками, ведение записей или использование устройств для выполнения задания, отвлечение от задания и поиск помощи. Окно кодирования длительностью 70 мин, цикл «сканирование 20 с / запись 10 с», процедура кластерного сканирования, правило отсутствия видимости и формула OCEI описаны в разделе «Протокол». Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 2: Система оценки рефлексивного выражения, примеры уровней баллов и определения переменных аналитики обучения. В таблице представлена рубрика оценки рефлексивных текстов, включая примеры баллов 0, 1, 2 и 3 для каждого рефлексивного измерения, а также операционные определения извлеченных переменных аналитики обучения. Рефлексивные компоненты включают дескриптивную специфичность, аналитическую глубину, саморегулирующую ориентацию, социально-просоциальное значение, общий балл рефлексии, количество слов и статус сдачи работы. Аналитика обучения включает активные дни, просмотры ресурсов, долю открытых назначенных ресурсов, опубликованные ответы в обсуждениях, средний показатель завершения просмотра видео, своевременность сдачи заданий и долю доступа в ночное время. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 3: Характеристики участников, схема включения и полнота данных.В таблице обобщены данные о соответствии участников критериям отбора, частоте получения согласия, критериях исключения, окончательном размере выборки и полноте данных по трем источникам. Представлены базовые демографические характеристики, а также количество ожидаемых рефлексивных записей, своевременных и несвоевременных заявок, отсутствующих рефлексий и успешно извлеченных данных аналитики обучения. Значения представлены в виде n (%), если не указано иное. Из-за округления сумма процентов может не составлять ровно 100%. Согласно протоколу, несвоевременные рефлексии архивируются, но исключаются из анализа рефлексий по конкретным неделям. Полное извлечение аналитики обучения означает успешный поиск деидентифицированных записей за период исследования после удаления учетных записей преподавателей, дубликатов записей и событий, выходящих за пределы временного окна. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 4: Описательная статистика и показатели надежности тестов основных переменных исследования. В таблице представлены средние значения по неделям, стандартные отклонения и индексы надежности для наблюдаемого поведения в классе, рефлексивного выражения, учебной аналитики и просоциальных намерений. Надежность данных наблюдения в классе оценивается с помощью каппы Коэна. Надежность оценки рефлексии представлена в виде коэффициентов внутрикластерной корреляции (ICC) для текстов с двойным оцениванием. Внутренняя согласованность показателя просоциальных намерений представлена с использованием α Кронбаха. Переменные учебной аналитики рассчитаны за тот же 4-недельный период, который использовался для наблюдений и рефлексии. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 5: Многофакторные связи между наблюдаемой вовлеченностью в классе, рефлексивным выражением, аналитикой обучения и просоциальными намерениями. В таблице подробно описаны инференциальные модели, использованные в основном анализе. Представлены многофакторные предикторы общего балла рефлексии, скорректированные предикторы просоциальных намерений после применения протокола (с контролем исходных уровней) и выбранные нескорректированные связи. Значения β представляют собой нестандартизированные коэффициенты регрессии. Все многофакторные модели скорректированы по разделению на группы (секции класса). Для всех оценок приведены стандартные ошибки (SE), 95% доверительные интервалы (CI) и p-значения. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.