$$\rightleftharpoonup{xx}$$
$$\longleftharp{xx}$$,
$$\longrightharp{xx}$$,
Представленные результаты демонстрируют итоги применения 16-недельного протокола по совершенствованию курса «Стратегический менеджмент» с интеграцией соревновательного элемента. Результаты систематизированы по точности реализации, качеству обучения, результатам на уровне студентов, результатам на уровне команд и заранее определенным тревожным паттернам. Поскольку данные были получены от обычных учебных групп с использованием исторической контрольной группы, а не путем рандомизации, все результаты следует интерпретировать как результаты внедрения и оценки в конкретном контексте, а не как причинно-следственное доказательство эффективности.
Точность реализации и качество обучения
Доступный набор данных образовательных записей включал 88 студентов в когорте исторического сравнения и 92 студентов в когорте протокола. Набор данных на уровне команд включал 22 команды из когорты сравнения и 23 команды из когорты протокола. После применения правила парного предварительного и последующего тестирования знаний для анализа прироста знаний были отобраны 79 студентов из когорты сравнения и 84 студента из когорты протокола.
Перед интерпретацией результатов обучения была проверена точность реализации протокола. Когорта протокола выполнила 15 из 16 запланированных еженедельных мероприятий (93,8%), в то время как контрольная когорта выполнила 13 из 16 (81,3%). Сессия по корпоративному или структурированному кейсу была проведена в когорте протокола, но не входила в полную структуру исторического сравнения. В когорте протокола 88 из 92 студентов выполнили все три конкурсных задания, что составило 95,7%. В контрольной когорте 18 из 88 студентов имели полные записи по трем сопоставимым проектным оцениваниям, что составило 20,5%; эти записи были сохранены только для описательного сравнения, так как в историческом курсе не была реализована полная последовательность конкурсов. Обратная связь была предоставлена в течение 7 календарных дней для 243 из 268 работ когорты протокола (90,7%) по сравнению с 49 из 66 работ контрольной когорты (74,2%). Среднее время предоставления обратной связи составило 5,8 ± 1,9 дня и 8,4 ± 2,7 дня соответственно. Завершенность наблюдений достигла 81,3% и 62,5%. Коэффициент внутриклассовой корреляции (ICC) для двух оценивающих в когорте протокола при перекрывающемся субъективном оценивании составил 0,82, что превысило заранее определенный порог 0,75. В целом, когорта протокола достигла 5 из 5 основных показателей точности реализации, тогда как контрольная когорта достигла 2 из 5.
Показатели качества обучения были выше в когорте, следовавшей протоколу. Взаимодействие в аудитории составило 3,70 ± 0,44 в когорте протокола и 3,15 ± 0,48 в контрольной когорте. Полнота разработки кейсов составила 4,08 ± 0,36 и 3,23 ± 0,42 соответственно. Соответствие заданий критериям оценки составило 4,01 ± 0,39 и 2,30 ± 0,51. Вовлеченность студентов увеличилась на 0,42 ± 0,41 балла в когорте протокола, что превысило заранее определенный порог значимости в 0,30 балла, в то время как в контрольной когорте прирост составил 0,07 ± 0,34 балла. Посещаемость была схожей в обеих когортах: 89,6% ± 5,8% и 89,1% ± 6,2%. Таблица 5 обобщает эти показатели.
| Показатель | Источник данных | Предустановленный порог | Группа исторического сравнения | Протокольная группа | Интерпретация |
| Выполнение запланированной еженедельной активности | Журнал реализации курса | ≥85% | 13/16 недель, 81.3% | 15/16 недель, 93.8% | Достигнуто в протокольной группе |
| Реализация сессии по корпоративным или структурированным кейсам | Журнал корпоративного взаимодействия | ≥1 реализованной сессии | 0/1 сессии, 0.0% | 1/1 сессии, 100.0% | Достигнуто в протокольной группе |
| Завершение полного задания или соответствующей записи проекта | Записи о сдаче работ | ≥85% | 18/88 студентов, 20.5% | 88/92 студентов, 95.7% | Достигнуто в протокольной группе; исторические данные носят только описательный характер |
| Предоставление обратной связи в течение 7 дней | Журнал обратной связи | ≥80% | 49/66 работ, 74.2% | 243/268 работ, 90.7% | Достигнуто в протокольной группе |
| Заполнение контрольного списка наблюдений | Формы наблюдения | ≥75% | 10/16 сессий, 62.5% | 13/16 сессий, 81.3% | Достигнуто в протокольной группе |
| Согласие двух оценивающих | Оценки экспертов | ICC ≥0.75 | Не требуется | ICC = 0.82 | Достигнуто в протокольной группе |
| Время подготовки обратной связи | Журнал обратной связи | Среднее ≤7 дней (предпочтительно) | 8.4 ± 2.7 дней | 5.8 ± 1.9 дней | В пределах предпочтительного диапазона в протокольной группе |
| Взаимодействие в аудитории | Контрольный список наблюдений | Среднее ≥3.50 или прирост ≥0.30 | 3.15 ± 0.48 | 3.70 ± 0.44 | Выше в протокольной группе |
| Полнота разработки кейса | Контрольный список разработки кейса | Среднее ≥4.00 (предпочтительно) | 3.23 ± 0.42 | 4.08 ± 0.36 | Выше в протокольной группе |
| Соответствие задания критериям оценки (рубрикам) | Контрольный список соответствия | Среднее ≥4.00 | 2.30 ± 0.51 | 4.01 ± 0.39 | Достигнуто в протокольной группе |
| Прирост вовлеченности студентов | Посещаемость, журналы, пункты опроса | Прирост ≥0.30 балла | +0.07 ± 0.34 | +0.42 ± 0.41 | Достигнуто в протокольной группе |
| Уровень посещаемости | Журнал посещаемости | Описательный | 89.1% ± 6.2% | 89.6% ± 5.8% | Схож в обеих группах |
| Общий итог точности реализации | Индикаторы реализации | Достигнуто большинство основных пороговых значений | Достигнуто 2/5 пороговых значений | Достигнуто 5/5 пороговых значений | Протокол реализован в соответствии с замыслом |
Таблица 5: Репрезентативные показатели точности реализации и качества обучения.В этой таблице представлены репрезентативные результаты точности реализации и качества обучения для когорты исторического сравнения и когорты протокола, а также указано, были ли достигнуты заранее определенные операционные пороги.
Рисунок 2 представляет профиль точности реализации и качества обучения. На рисунке 2A показано выполнение запланированных еженедельных мероприятий. На рисунке 2B показано выполнение последовательности из трех задач. На рисунке 2C показано предоставление обратной связи в течение 7 календарных дней. На рисунке 2D показаны взаимодействие в классе, полнота разработки кейса, соответствие рубрик задач и рост вовлеченности студентов. На рисунке 2E показано завершение наблюдений и выполнение корпоративных или структурированных сессий по кейсам. Показатели точности в процентах и индикаторы обучения на основе шкал следует интерпретировать в рамках соответствующих измерительных шкал.

Рисунок 2: Профиль точности реализации и качества обучения.На данном рисунке обобщены показатели точности реализации и качества обучения для исторической когорты сравнения и когорты протокола. (A) Выполнение запланированных еженедельных мероприятий. (B) Завершение полной задачи или сопоставимой записи проекта, с разграничением полной последовательности из трех задач для когорты протокола и сопоставимых записей проектов в исторической когорте сравнения. (C) Обратная связь, предоставленная в течение 7 календарных дней; время предоставления обратной связи приведено в дополнительных материалах. (D) Показатели качества обучения, включая взаимодействие в аудитории, полноту разработки кейса, соответствие задачи критериям оценки (рубрикам) и прирост вовлеченности студентов. (E) Заполнение контрольного списка наблюдений и проведение корпоративного или структурированного занятия по кейсу. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Результаты обучения для студентов
Результаты на студенческом уровне анализировались отдельно от результатов командных соревнований. Исходные показатели знаний составили 64.18 ± 8.74 в группе протокола и 62.37 ± 8.91 в контрольной группе, при этом небольшая разница на исходном уровне составила 1.81 балла (d = 0.21). Показатели знаний после прохождения курса составили 71.08 ± 8.58 и 66.41 ± 9.06 соответственно, с разницей в 4.67 балла (d = 0.53). Прирост знаний составил 6.90 ± 5.41 балла и 4.04 ± 5.26 балла, с разницей в 2.86 балла (d = 0.54). Группа протокола превысила заранее определенный порог значимого прироста знаний в 5 баллов.
Результаты индивидуального анализа клинических случаев в конце семестра составили 82,31 ± 7,06 в основной группе и 76,42 ± 7,38 в контрольной группе, при разнице в 5,89 балла (d = 0,82). Данный результат интерпретировался как показатель успеваемости после прохождения курса, а не как парный прирост, поскольку полноценная предварительная оценка навыков анализа случаев не проводилась. Уровень удовлетворенности составил 3,66 ± 0,58 и 3,34 ± 0,62 (d = 0,53). Воспринимаемая практическая значимость составила 3,91 ± 0,55 и 3,41 ± 0,59 (d = 0,88). Давление конкуренции было выше в основной группе — 3,12 ± 0,76 по сравнению с 2,48 ± 0,71 (d = 0,87), однако высокая нагрузка была отмечена 13 из 92 студентов основной группы, что соответствует 14,1%, что ниже заранее установленного предупредительного порога в 20%. Итоговый балл за курс рассматривался как вторичный образовательный результат и составил 87,20 ± 6,10 в основной группе и 84,80 ± 6,70 в контрольной группе (d = 0,37). В Таблице 6 обобщены результаты на индивидуальном и командном уровнях.
| Результат | Уровень | Историческая контрольная группа | Протокольная группа | Разница | Размер эффекта | Интерпретация |
| Доступная выборка образовательных записей | Студент | n = 88 | n = 92 | — | — | Пригодные обезличенные записи курсов |
| Парная выборка для анализа знаний | Студент | n = 79 | n = 84 | — | — | Студенты с результатами тестов по знаниям до и после курса |
| Исходный уровень знаний (балл) | Студент | 62.37 ± 8.91 | 64.18 ± 8.74 | 1.81 | 0.21 | Незначительная разница в исходных данных |
| Результат теста по знаниям после курса (балл) | Студент | 66.41 ± 9.06 | 71.08 ± 8.58 | 4.67 | 0.53 | Выше в протокольной группе |
| Прирост знаний | Студент | 4.04 ± 5.26 | 6.90 ± 5.41 | 2.86 | 0.54 | Протокольная группа превысила порог сигнала ≥5 баллов |
| Балл индивидуального анализа случая | Студент | 76.42 ± 7.38 | 82.31 ± 7.06 | 5.89 | 0.82 | Превышен порог сигнала анализа случая ≥3 балла |
| Прирост вовлеченности студентов | Студент | +0.07 ± 0.34 | +0.42 ± 0.41 | +0.35 | 0.93 | Превышен порог сигнала ≥0.30 балла |
| Балл удовлетворенности | Студент | 3.34 ± 0.62 | 3.66 ± 0.58 | 0.32 | 0.53 | Выше в протокольной группе |
| Воспринимаемая практическая значимость | Студент | 3.41 ± 0.59 | 3.91 ± 0.55 | 0.5 | 0.88 | Выше в протокольной группе |
| Балл давления конкуренции | Студент | 2.48 ± 0.71 | 3.12 ± 0.76 | 0.64 | 0.87 | Более высокое давление в протокольной группе |
| Давление из-за высокой рабочей нагрузки | Студент | Не оценивалось как давление конкуренции | 13/92, 14.1% | — | — | Ниже предупредительного порога в 20% |
| Итоговый балл за курс | Студент | 84.80 ± 6.70 | 87.20 ± 6.10 | 2.4 | 0.37 | Вторичный образовательный результат |
| Количество команд | Команда | n = 22 | n = 23 | — | — | Анализы на уровне команд представлены отдельно |
| Опыт прохождения раундов принятия решений | Команда | 0.77 ± 0.81 раунда | 5.09 ± 0.79 раунда | 4.32 | Не оценивалось | Индикатор степени внедрения |
| Балл за Задание 1 или соответствующий диагноз | Команда | 69.84 ± 6.45 | 72.18 ± 6.28 | 2.34 | 0.37 | Умеренная разница на уровне команд |
| Балл за Задание 2 или соответствующее решение | Команда | 71.09 ± 6.12 | 73.52 ± 5.91 | 2.43 | 0.4 | Умеренная разница на уровне команд |
| Балл за Задание 3 или соответствующую финальную защиту | Команда | 72.71 ± 6.36 | 77.20 ± 6.04 | 4.49 | 0.72 | Наибольшая разница на уровне команд |
| Итоговый балл команды | Команда | 71.21 ± 5.81 | 74.30 ± 5.52 | 3.09 | 0.55 | Средняя разница на уровне команд |
| Критерий стратегического диагноза | Команда | 14.60 ± 1.80
| 15.60 ± 1.70
| 1 | — | Критерий рубрики финальной защиты |
| Критерий стратегического выбора | Команда | 17.90 ± 2.20
| 19.10 ± 2.10
| 1.2 | — | Критерий рубрики финальной защиты |
| Критерий осуществимости внедрения | Команда | 14.40 ± 1.90
| 15.50 ± 1.80
| 1.1 | — | Критерий рубрики финальной защиты |
| Критерий инновационности | Команда | 10.80 ± 1.60
| 11.50 ± 1.50
| 0.7 | — | Критерий рубрики финальной защиты |
| Критерий использования доказательств | Команда | 7.10 ± 1.00
| 7.50 ± 0.90
| 0.4 | — | Критерий рубрики финальной защиты |
| Критерий устной защиты | Команда | 7.91 ± 1.10
| 8.00 ± 1.00
| 0.09 | — | Критерий рубрики финальной защиты |
| Средний вклад коллег | Команда | 3.72 ± 0.41 | 3.91 ± 0.36 | 0.19 | 0.49 | Серьезных сбоев в командных процессах не выявлено |
| Команды с дисбалансом вклада | Команда | 4/22, 18.2% | 3/23, 13.0% | −5.2 процентных пункта | — | Системного паттерна дисбаланса не выявлено |
| Распределение наград | Команда | Неприменимо | 10 нет; 8 третьих; 2 вторых; 3 первых | — | — | Только для протокольной группы |
| Паттерн предупреждения о завышении баллов | Команда | Неприменимо | 2/23 команды, 8.7% | — | — | Отмечено для устранения неполадок |
Таблица 6: Репрезентативные результаты на уровне студентов и команд.В данной таблице представлены репрезентативные результаты на уровне студентов и команд, включая доступную выборку образовательных записей, парную выборку анализа знаний, показатели знаний, прирост знаний, индивидуальный балл анализа кейса, уровень вовлеченности, удовлетворенность, воспринимаемую практическую значимость, нагрузку, итоговый балл по курсу, баллы за командные задания, баллы по критериям рубрики итоговой защиты, вклад коллег, распределение наград и индикаторы предупреждения.
Рисунок 3 представляет результаты на уровне студентов с оценками неопределенности, где это применимо. Рисунок 3A показывает баллы за проверку знаний до и после прохождения курса. Рисунок 3B показывает прирост знаний. Рисунок 3C показывает индивидуальные результаты анализа конкретных случаев. Рисунок 3D показывает прирост вовлеченности, уровень удовлетворенности и воспринимаемую практическую значимость. Рисунок 3E показывает итоговый балл за курс в качестве вторичного результата.

Рисунок 3: Репрезентативные результаты обучения на уровне студентов.На этом рисунке представлены индивидуальные результаты отдельно от результатов командных соревнований. (A) Исходные и итоговые баллы по знаниям в области стратегического менеджмента. (B) Прирост знаний от исходного до итогового оценивания. (C) Балл за индивидуальный анализ кейса в конце семестра. (D) Прирост вовлеченности и показатели восприятия по результатам опроса, включая удовлетворенность и воспринимаемую практическую значимость; там, где это необходимо, используются разные шкалы. (E) Итоговый балл за курс как вторичный образовательный результат и высокий уровень нагрузки когорты протокола относительно заранее определенного предупредительного порога. Значения представлены как среднее ± SD там, где указаны значения ±, а планки погрешностей соответствуют SD. На графике (E) пунктирная контрольная линия указывает на заранее определенный предупредительный порог высокой нагрузки в 20%. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Результаты соревнований на командном уровне
Результаты на уровне команд анализировались отдельно от результатов на уровне студентов. Для описательного отчета записи кейс-проектов контрольной когорты были сопоставлены с соответствующими точками оценки, где это было возможно, однако эти записи не означали завершения всей интегрированной последовательности конкурса. Участие в раундах принятия решений представлялось как индикатор реализации, а не как оценка эффекта обучения. Когорта протокола прошла 5,09 ± 0,79 раундов принятия решений, в то время как контрольная когорта прошла 0,77 ± 0,81 сопоставимых раундов.
В группе протокола средний балл за Задание 1 составил 72,18 ± 6,28, средний балл за Задание 2 — 73,52 ± 5,91, а средний балл за Задание 3 — 77,20 ± 6,04. Соответствующие сопоставимые баллы контрольной группы составили 69,84 ± 6,45, 71,09 ± 6,12 и 72,71 ± 6,36. Итоговый командный балл составил 74,30 ± 5,52 в группе протокола и 71,21 ± 5,81 в контрольной группе. Показатели критериев оценки финальной защиты или сопоставимых финальных проектов были следующими: стратегический диагноз, 15,60 ± 1,70 и 14,60 ± 1,80; стратегический выбор, 19,10 ± 2,10 и 17,90 ± 2,20; осуществимость реализации, 15,50 ± 1,80 и 14,40 ± 1,90; инновационность, 11,50 ± 1,50 и 10,80 ± 1,60; использование доказательств, 7,50 ± 0,90 и 7,10 ± 1,00; и устная защита, 8,00 ± 1,00 и 7,91 ± 1,10 соответственно.
Распределение наград было представлено только для протокольной когорты, так как в контрольной когорте не использовалась полная структура соревнований на основе наград. В протокольной когорте 10 команд не получили наград, 8 получили третий приз, 2 получили второй приз и 3 получили первый приз. Средний вклад коллег составил 3,91 ± 0,36 в протокольной когорте и 3,72 ± 0,41 в контрольной когорте. Дисбаланс вклада был выявлен в 3 из 23 команд протокольной когорты и в 4 из 22 команд контрольной когорты. Паттерн предупреждения о завышении баллов был выявлен в 2 из 23 команд протокольной когорты, что соответствует 8,7%.
Рисунок 4 демонстрирует результаты на уровне команд и закономерности появления предупреждений. На Рисунке 4A показаны баллы команд за Задание 1, Задание 2 и Задание 3. На Рисунке 4B представлены баллы по критериям рубрики итоговой защиты. На Рисунке 4C показано только распределение наград по когортам протокола. На Рисунке 4D отображены случаи предупреждений о завышении баллов. На Рисунке 4E показан баланс вкладов участников и количество случаев дисбаланса вкладов.

Рисунок 4: Результаты соревнований на уровне команд и паттерны предупреждений. На данном рисунке представлены результаты на уровне команд отдельно от результатов обучения на уровне студентов. (A) Баллы команд на этапах выполнения заданий: стратегический диагноз (Задание 1), стратегическое решение (Задание 2) и итоговая защита (Задание 3); для когорты исторического сравнения приведены соответствующие баллы по проектам, где они доступны. (B) Баллы по критериям рубрики итоговой защиты, включая стратегический диагноз, стратегический выбор, осуществимость реализации, инновационность, использование доказательств и устную защиту. (C) Распределение наград только для когорты протокола, так как в когорте исторического сравнения не использовалась полная структура соревнований на основе наград. (D) Паттерн предупреждения о завышении баллов, определяемый как высокая эффективность итоговой защиты при отсутствии подтверждающей диагностической силы или доказательств индивидуального обучения. (E) Балл вклада сверстников и количество случаев дисбаланса вклада представлены в качестве отдельных индикаторов на уровне команд. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Субоптимальные паттерны и показатели для поиска и устранения неисправностей
Две из 23 команд в когорте протокола продемонстрировали заранее определенный паттерн предупреждения о завышении баллов. Эти команды имели относительно высокие итоговые баллы за защиту, но более низкие диагностические баллы по Заданию 1 и ниже среднего индивидуальный прирост знаний. Данный паттерн был отмечен для последующего анализа в следующей итерации курса, а не интерпретирован как свидетельство улучшения обучения. Существенного эффекта потолка не наблюдалось, поскольку исходные баллы знаний были ниже 85 из 100, а исходный уровень удовлетворенности — ниже 4,50 из 5. Посещаемость между когортами была схожей, и систематического дисбаланса вклада участников команды не наблюдалось, хотя три команды в когорте протокола потребовали мониторинга.
В целом, репрезентативные результаты показали, что протокол позволил получить интерпретируемые данные на трех уровнях: точность реализации, доказательства обучения на уровне студентов и показатели эффективности команд в соревновании. Случаи с предупреждающими сигналами подтвердили применимость протокола для мониторинга курса, поиска и устранения неисправностей, а также последующей доработки курса.
Обесличенный набор данных, поддерживающий данное исследование, был размещен на сайте figshare.com и доступен по адресу https://doi.org/10.6084/m9.figshare.33094931. Набор данных включает записи на уровне студентов, записи о соревнованиях на уровне команд, индикаторы реализации, записи о потоке участников, записи аудита пропущенных данных и записи оценок экспертов. Идентификаторы студентов, записи о согласии, файлы связей и идентифицируемые текстовые комментарии не включены.
Дополнительная таблица S1: Процедура обучения экспертов, согласования оценок и устранения расхождений.В данной таблице представлены сведения о назначении экспертов, проверке независимости, ознакомлении с критериями оценки, калибровочном оценивании, проверке согласованности оценок, правилах при наличии разрыва в оценках, процедуре согласования, аудите ввода данных, фиксации оценок и процедуре архивирования.Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительная таблица S2: Матрица устранения неполадок при отклонениях от протокола и неоптимальном выполнении. В этой таблице перечислены отклонения от протокола и примеры неоптимального выполнения, включая триггерные правила, корректирующие действия, необходимые записи и примечания по интерпретации.Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительная таблица S3: Структура набора данных и словарь переменных для деидентифицированного образовательного набора данных.В этой таблице определены переменные на уровне студента, команды и занятия, включая коды переменных, описания, типы данных, диапазоны кодирования, источники данных и правила обработки пропущенных данных.Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительный файл 1: Операционные шаблоны, оценочные материалы и рабочая книга с деидентифицированным набором данных. Этот дополнительный файл содержит операционные шаблоны, оценочные материалы, формы подсчета баллов, пункты опроса, проверку дизайна случаев, правила обработки пропущенных данных, структуру рабочей книги с деидентифицированным набором данных, журнал очистки, шаблон резюме анализа и запись контроля версий, используемые для обеспечения воспроизводимости.Пожалуйста, нажмите здесь, чтобы скачать этот файл.