Включение участников, полнота данных и надежность показателей
К участию была приглашена первоначальная когорта из 204 студентов всех разделений курса, из которых 198 человек дали согласие. Позднее четырнадцать случаев были исключены по причине прекращения обучения в период проведения протокола или неполного сопоставления данных в записях наблюдений, рефлексии и платформы. Таким образом, окончательная аналитическая выборка составила 184 студента. Характеристики участников, показатели еженедельного выполнения заданий и общая полнота данных подробно представлены в Таблице 3.
В течение 4-недельной программы было проведено наблюдение за 24 учебными занятиями, что позволило создать синхронизированную запись аналитики обучения для каждого участника. Из 736 ожидаемых рефлексивных отчетов 701 был представлен в течение 72-часового окна, 18 были представлены с опозданием и 17 отсутствовали. В итоге 171 студент успешно и своевременно выполнил все еженедельные рефлексии. Данные аналитики обучения были полностью извлечены для итоговых 184 участников после фильтрации учетных записей преподавателей, дублирующих записей и действий, совершенных за пределами временного окна.
Кодирование наблюдений оставалось высокостабильным на протяжении всего периода выполнения протокола. Межэкспертная надежность для шести поведенческих показателей классного наблюдения продемонстрировала значения каппы Коэна в диапазоне от 0.76 до 0.84, при этом общая согласованность во время тестов на дрейф превысила 86%. Для баллов рефлексивного выражения коэффициенты внутриклассовой корреляции (ICC) по четырем измерениям варьировались от 0.82 до 0.89. В Таблице 4 представлены описательная статистика и показатели надежности для основных переменных исследования.
Наблюдение за поведением в классе
В ходе 4-недельного протокола наблюдалось постепенное улучшение поведения учащихся в классе. Как показано на рисунке 2, показатели концентрации внимания на задании, вербального участия и взаимодействия со сверстниками на 4-й неделе были значительно выше, чем в первые недели. В частности, вербальное участие увеличилось с 0,18 ± 0,09 на первой неделе до 0,24 ± 0,10 к четвертой неделе (p < 0,05). Взаимодействие со сверстниками аналогичным образом выросло с 0,29 ± 0,11 до 0,35 ± 0,12 (p = 0,006). Концентрация внимания на задании продемонстрировала высокозначимое улучшение, изменившись с 0,71 ± 0,12 до 0,76 ± 0,11 (p < 0,001).
Напротив, ведение записей по теме задания или использование устройств демонстрировали лишь незначительный еженедельный рост, который не достиг статистической значимости (p = 0.08). Поведение, направленное на поиск помощи, оставалось стабильно низким на протяжении всего периода наблюдения, не проявляя значимого временного эффекта (p = 0.21). Отвлекаемость на посторонние дела значительно снизилась с 0.14 ± 0.08 на первой неделе до 0.11 ± 0.07 на четвертой неделе (p = 0.03). В целом, совокупный наблюдаемый индекс вовлеченности в учебный процесс (Observed Classroom Engagement Index) значимо вырос с 0.52 ± 0.10 в течение первой недели до 0.58 ± 0.11 к последней неделе (p < 0.001).
Рефлексивные высказывания в течение 4-недельного протокола
Характер рефлексивных высказываний менялся на протяжении периода исследования, хотя степень этих изменений различалась по его отдельным параметрам. Как показано на Рисунке 3, общий балл рефлексии увеличился с 1-й недели до 7,2 ± 1,9 к 4-й неделе (p < 0,001).
Аналитическая глубина была заметно выше в конце 4-й недели по сравнению с первыми двумя неделями (p < 0.001). Аналогичным образом, социальный/просоциальный смысл увеличился с 1.08 ± 0.55 до 1.54 ± 0.60 (p < 0.001), а саморегуляторная ориентация возросла с 1.42 ± 0.63 до 1.69 ± 0.65 (p < 0.05). Напротив, дескриптивная специфичность продемонстрировала лишь слабую тенденцию к росту — с 2.14 ± 0.57 до 2.24 ± 0.55, что не было статистически значимым (p = 0.09).
Средний объем присланных работ по всему протоколу составил от 223 до 231 слова на одну запись. Из 736 ожидаемых рефлексивных отчетов 18 были представлены с опозданием, а 17 отсутствовали; записи с недостаточным объемом информации, а также ответы, в которых были пропущены пункты о контекстуальной причине или будущих действиях/социальном воздействии, были отмечены в базе данных. Эти случаи были сохранены в качестве показателей осуществимости и исключались только из моделей качества рефлексии за конкретную неделю, если соответствующий балл не мог быть присвоен.
Паттерны аналитики обучения в течение периода исследования
Метрики активности на платформе продемонстрировали значительную межиндивидуальную вариативность на протяжении 4-недельного периода, как показано на Рисунке 4.
За весь период студенты в среднем провели на платформе 9.7 ± 2.4 активных дня. Среднее количество просмотров различных ресурсов составило 27.3 ± 8.6, при этом студенты открывали в среднем 0.81 ± 0.14 от общего числа назначенных ресурсов. Кроме того, среднее количество ответов в обсуждениях составило 4.8 ± 2.7. Средний показатель своевременности выполнения заданий и средний уровень завершения просмотра видео составили 0.86 ± 0.18 и 0.79 ± 0.17 соответственно. Доля посещений платформы в ночное время составила в среднем 0.12 ± 0.09.
Примечательно, что ответы в обсуждениях и своевременность выполнения заданий продемонстрировали более выраженную положительную корреляцию с другими показателями участия, несмотря на широкий разброс баллов за своевременность.
Перекрестный анализ наблюдений, рефлексии и данных об обучении
Три источника данных продемонстрировали значимые, хотя и неоднородные, взаимосвязи. Как показано на Рисунке 5, студенты с более высокими индексами наблюдаемой вовлеченности в занятия имели тенденцию к получению более высоких общих баллов за рефлексию. В модели с поправкой на группу (секцию) наблюдаемая вовлеченность в занятия положительно предсказывала общий балл за рефлексию (β = 0.34, p < 0.001).
Среди переменных аналитики обучения ответы в дискуссиях и своевременность выполнения заданий были значимо и положительно коррелировали с качеством рефлексии. Как подробно показано в Таблице 5, ответы в дискуссиях положительно предсказывали общий балл за рефлексию (β = 0.19, p = 0.013), так же как и своевременность выполнения заданий (β = 0.17, p = 0.028). Хотя общее количество просмотров ресурсов и доля открытых назначенных ресурсов изначально демонстрировали положительную связь, эти корреляции значительно ослабли после поправки на вмешивающиеся переменные. Доля доступа в ночное время не показала значимой связи с общим баллом за рефлексию (p = 0.18).
Данные также выявили слабые кросс-корреляции между наблюдаемым поведением в классе и определенными действиями на платформе; например, просмотры исходных ресурсов лишь незначительно коррелировали с индексом вовлеченности в классе (Observed Classroom Engagement Index). Кроме того, студенты, которые чаще участвовали в групповых дискуссиях, демонстрировали более высокий уровень вербального общения, в то время как студенты с более высокой поведенческой регуляцией реже откладывали сдачу заданий.
Изменения просоциальных намерений
Просоциальные намерения продемонстрировали значительный рост от исходного уровня к уровню после тестирования. Средний показатель просоциальных намерений увеличился с 3,61 ± 0,53 на исходном этапе до 3,84 ± 0,50 после 4-недельного протокола (p < 0,001). На рисунке 6 показано парное распределение и скорректированные взаимосвязи.
В окончательной скорректированной модели более высокий показатель наблюдаемой вовлеченности в классе (Observed Classroom Engagement Index) предсказывал более значительный рост просоциальных намерений после выполнения протокола по сравнению с исходным уровнем (β = 0.21, p < 0.05). Среди рефлексивных измерений наиболее существенное независимое влияние на просоциальные намерения после выполнения протокола оказало социально-просоциальное значение (β = 0.29, p < 0.001). Хотя вербальное участие демонстрировало положительную нескорректированную корреляцию с просоциальными результатами после тестирования, эта связь утратила статистическую значимость после контроля исходных значений (p = 0.09). Наконец, частота доступа в позднее ночное время осталась не связанной с просоциальными намерениями после выполнения протокола (p = 0.27).
Наблюдаемые ограничения реализации и нулевые результаты
В ходе проведенного исследования было получено несколько субоптимальных, но информативных результатов, которые не привели к полной остановке протокола. Ни одна из наблюдаемых сессий не потребовала исключения из-за значения каппы наблюдателя ниже 0.70, ни одно поле аналитики обучения не осталось недоступным после окончательного экспорта, и ни одна проблема с видимостью не превысила заранее определенный порог пропусков данных. Наблюдаемые ограничения были сосредоточены в заполнении рефлексий, а также в нулевых или незначительных поведенческих результатах: 18 рефлексий были представлены с опозданием, 17 ожидаемых рефлексий отсутствовали, запись заметок/использование устройств с фокусом на задаче показали лишь незначительный рост (p = 0.08), поиск помощи не выявил значимого временного эффекта (p = 0.21), а доступ в ночное время не был связан с общим баллом рефлексии или просоциальными намерениями после завершения протокола.
Эти результаты были сохранены, поскольку они описывают возможность реализации и граничные условия протокола. Сведения о запоздалых или отсутствующих рефлексиях были приведены в сводках по потоку участников и полноте данных; незначительные или нулевые связи были указаны без выборочного исключения; а процедуры устранения неполадок в разделе «Протокол» определяют, как следует обрабатывать гипотетические сбои, такие как дрейф наблюдателя, ограниченная видимость или отсутствие полей LMS в будущих реализациях.
Обезличенные файлы анализа, словарь данных, скрипты анализа, пустые формы кодирования, подсказки для рефлексии, рубрика рефлексии и опросник просоциальных намерений были размещены в Zenodo: https://zenodo.org/records/20607517. Идентифицируемые необработанные видеозаписи из классов, имена, идентификаторы учреждений и неотредактированные тексты рефлексии не были опубликованы в открытом доступе.

Рисунок 1: Схема рабочего процесса исследования и протокол интеграции данных из нескольких источников. (A) Набор участников, сбор информированного согласия и присвоение идентификаторов исследования (study-ID) в рамках двух курсов бакалавриата и шести учебных групп. (B) 4-недельный цикл сбора данных: еженедельное наблюдение в аудитории, задание по рефлексивному письму и синхронизированное окно захвата аналитики обучения. (C) Три параллельных потока данных: наблюдение за поведением в аудитории, оценка рефлексивных высказываний и деидентифицированные записи с платформы обучения. (D) Создание основного набора данных на уровне участников и базы данных в длинном формате на уровне недель, что позволило получить основные результаты исследования: индекс наблюдаемой вовлеченности в аудитории, балл рефлексии и просоциальные намерения. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 2: Еженедельные изменения наблюдаемого поведения в классе в течение 4-недельного протокола. (A) Концентрация на задании. (B) Вербальное участие. (C) Взаимодействие со сверстниками. (D) Ведение записей по теме задания или использование устройств для выполнения задания. (E) Отвлечение от задания. (F) Обращение за помощью. Значения представляют собой еженедельные показатели пропорций на уровне учащихся, полученные в результате интервальных наблюдений в классе. Точки обозначают еженедельные средние значения, а планки погрешностей — стандартные отклонения. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 3: Еженедельные изменения рефлексивного выражения в четырех представленных рефлексивных работах. (A) Дескриптивная специфичность. (B) Аналитическая глубина. (C) Саморегуляторная ориентация. (D) Социально-просоциальный смысл. (E) Общий балл рефлексии. Баллы рефлексии присваивались двумя кодировщиками в «слепом» режиме с использованием заранее определенного рубрикатора. Точки обозначают еженедельные средние значения, а планки погрешностей — стандартные отклонения. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 4: Распределение показателей аналитики обучения в течение 4-недельного периода исследования. (A) Активные дни на обучающей платформе. (B) Просмотры ресурсов. (C) Доля открытых назначенных ресурсов. (D) Количество опубликованных ответов в обсуждениях. (E) Средний показатель завершения просмотра видео. (F) Своевременность выполнения заданий. (G) Доля посещений в ночное время. Все значения были рассчитаны за тот же 4-недельный период, который использовался для наблюдения в аудитории и рефлексивного письма. Скрипичные диаграммы показывают распределение на уровне студентов, а диаграммы размаха («ящики с усами») указывают медианы и межквартильные размахи. Пожалуйста, нажмите здесь, чтобы просмотреть этот рисунок в большем размере.

Рисунок 5: Связи между наблюдаемой вовлеченностью в классе, рефлексивным выражением и выбранными показателями аналитики обучения. (A) Связь между индексом наблюдаемой вовлеченности в классе и общим баллом за рефлексию. (B) Связь между количеством опубликованных ответов в дискуссиях и общим баллом за рефлексию. (C) Связь между своевременностью выполнения заданий и общим баллом за рефлексию. (D) Связь между вербальным участием и общим баллом за рефлексию. Линии тренда представляют аппроксимированные линейные связи; затененные области указывают на 95% доверительные интервалы. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.

Рисунок 6: Изменение просоциальных намерений и их связь с вовлеченностью в учебный процесс и рефлексивным смыслом. (A) Парное распределение показателей просоциальных намерений на исходном этапе и после завершения протокола. Линии соединяют парные показатели до и после вмешательства для одного и того же учащегося. (B) Связь между наблюдаемым индексом вовлеченности в учебный процесс и просоциальными намерениями после протокола с поправкой на исходный показатель. (C) Связь между социально-просоциальным смыслом и просоциальными намерениями после протокола. (D) Связь между вербальным участием и просоциальными намерениями после протокола. Затененные области на панелях B-D указывают 95% доверительные интервалы. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Таблица 1: Индикаторы наблюдения за учащимися в классе и правила кодирования.В таблице подробно описаны операциональные определения и критерии кодирования для таких показателей, как сосредоточенность на задаче, вербальное участие, сотрудничество со сверстниками, ведение записей или использование устройств по существу задания, отвлечение от задачи и поиск помощи. Окно кодирования продолжительностью 70 мин, цикл сканирования 20 с/записи 10 с, процедура кластерного сканирования, правило отсутствия видимости и формула OCEI описаны в разделе «Протокол». Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 2: Система оценки рефлексивного выражения, примеры уровней баллов и определения переменных аналитики обучения. В таблице представлена рубрика оценки рефлексивных текстов, включая примеры баллов 0, 1, 2 и 3 для каждого рефлексивного измерения, а также операционные определения извлеченных переменных аналитики обучения. Рефлексивные компоненты включают дескриптивную специфичность, аналитическую глубину, саморегуляторную ориентацию, социально-просоциальный смысл, общий балл рефлексии, количество слов и статус отправки. Аналитика обучения включает активные дни, просмотры ресурсов, долю открытых назначенных ресурсов, опубликованные ответы в обсуждениях, средний показатель завершения видео, своевременность выполнения заданий и долю ночного доступа. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 3: Характеристики участников, поток включения и полнота данных.В таблице обобщены данные о соответствии участников критериям включения, показателях согласия, критериях исключения, конечном размере выборки и полноте данных из трех источников. Представлены базовые демографические характеристики, а также количество ожидаемых рефлексивных записей, своевременных и несвоевременных подач, отсутствующих рефлексий и успешных извлечений данных аналитики обучения. Значения представлены в виде n (%), если не указано иное. Из-за округления сумма процентов может не составлять ровно 100%. Согласно протоколу, несвоевременные рефлексии архивируются, но исключаются из анализа рефлексий по конкретным неделям. Полное извлечение аналитики обучения означает успешное получение деидентифицированных записей за период исследования после удаления учетных записей инструкторов, дубликатов и событий, выходящих за временные рамки исследования. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 4: Описательная статистика и показатели надежности тестов основных переменных исследования. В таблице представлены средние значения по неделям, стандартные отклонения и индексы надежности для наблюдаемого поведения в классе, рефлексивного выражения, аналитики обучения и просоциальных намерений. Надежность данных наблюдений в классе оценивается с помощью каппы Коэна. Надежность оценки рефлексии представлена в виде коэффициентов внутриклассовой корреляции (ICC) для текстов с двойным кодированием. Внутренняя согласованность показателя просоциальных намерений представлена с использованием α Кронбаха. Переменные аналитики обучения рассчитываются за тот же 4-недельный период, который использовался для наблюдений и рефлексии. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.
Таблица 5: Многофакторные связи между наблюдаемой вовлеченностью в учебном процессе, рефлексивным выражением, аналитикой обучения и просоциальными намерениями. В таблице подробно описаны инференциальные модели, использованные в основном анализе. Представлены многофакторные предикторы общего балла за рефлексию, скорректированные предикторы просоциальных намерений после протокола (с контролем исходных уровней) и выбранные нескорректированные связи. Значения β представляют собой нестандартизированные коэффициенты регрессии. Все многофакторные модели скорректированы с учетом раздела класса. Для всех оценок приведены стандартные ошибки (SE), 95% доверительные интервалы (CI) и значения p. Пожалуйста, нажмите здесь, чтобы скачать эту таблицу.