Репрезентативные результаты демонстрируют итоги, полученные в ходе применения 16-недельного протокола по совершенствованию курса стратегического менеджмента с интеграцией соревновательного элемента. Результаты систематизированы по точности реализации, качеству преподавания, результатам на уровне студентов, результатам на уровне команд и предопределенным паттернам предупреждений. Поскольку данные были получены от обычных образовательных когорт с исторической контрольной группой, а не в результате рандомизированного распределения, все результаты следует интерпретировать как результаты реализации и оценки в конкретном контексте, а не как причинно-следственные доказательства эффективности.
Точность реализации и качество обучения
Доступный набор данных образовательных записей включал 88 студентов в когорте исторического сравнения и 92 студента в когорте протокола. Набор данных на уровне команд включал 22 команды когорты сравнения и 23 команды когорты протокола. После применения правила парного предварительного и последующего тестирования знаний для анализа прироста знаний были отобраны 79 студентов из когорты сравнения и 84 студента из когорты протокола.
Перед интерпретацией результатов обучения была проверена точность реализации протокола. Группа протокола выполнила 15 из 16 запланированных еженедельных мероприятий (93,8%), тогда как контрольная группа выполнила 13 из 16 (81,3%). Сессия по корпоративному или структурированному кейсу была проведена в группе протокола, но не входила в полную структуру исторического контроля. В группе протокола 88 из 92 студентов выполнили все три конкурсных задания, что соответствует 95,7%. В контрольной группе 18 из 88 студентов имели полные записи по трем сопоставимым проектным оценкам, что соответствует 20,5%; эти записи были сохранены только для описательного сравнения, поскольку в историческом курсе не была реализована полная последовательность конкурса. Обратная связь была предоставлена в течение 7 календарных дней для 243 из 268 работ группы протокола (90,7%) по сравнению с 49 из 66 работ контрольной группы (74,2%). Среднее время предоставления обратной связи составило 5,8 ± 1,9 дня и 8,4 ± 2,7 дня соответственно. Доля завершенных наблюдений достигла 81,3% и 62,5%. Коэффициент внутриклассовой корреляции (ICC) для двух оценивающих в группе протокола при перекрывающемся субъективном скоринге составил 0,82, что превысило установленный порог 0,75. В целом, группа протокола достигла 5 из 5 основных показателей точности реализации, в то время как контрольная группа достигла 2 из 5.
Показатели качества обучения были выше в когорте с использованием протокола. Взаимодействие в аудитории составило 3.70 ± 0.44 в когорте с протоколом и 3.15 ± 0.48 в контрольной когорте. Полнота разработки кейсов составила 4.08 ± 0.36 и 3.23 ± 0.42 соответственно. Соответствие заданий критериям оценивания составило 4.01 ± 0.39 и 2.30 ± 0.51. Вовлеченность студентов в когорте с протоколом увеличилась на 0.42 ± 0.41 балла, что превысило заранее определенный порог значимости в 0.30 балла, тогда как в контрольной когорте рост составил 0.07 ± 0.34 балла. Посещаемость в обеих когортах была схожей: 89.6% ± 5.8% и 89.1% ± 6.2%. В Таблице 5 приведены сводные данные по этим показателям.
| Показатель | Источник данных | Предопределенный порог | Историческая когорта сравнения | Когорта протокола | Интерпретация |
| Завершение запланированной еженедельной активности | Журнал реализации курса | ≥85% | 13/16 недель, 81.3% | 15/16 недель, 93.8% | Достигнуто в когорте протокола |
| Реализация сессии по корпоративным или структурированным кейсам | Журнал корпоративного взаимодействия | ≥1 реализованной сессии | 0/1 сессий, 0.0% | 1/1 сессий, 100.0% | Достигнуто в когорте протокола |
| Завершение всех заданий или соответствующих записей проекта | Записи о сдаче работ | ≥85% | 18/88 студентов, 20.5% | 88/92 студентов, 95.7% | Достигнуто в когорте протокола; исторические данные носят только описательный характер |
| Предоставление обратной связи в течение 7 дней | Журнал обратной связи | ≥80% | 49/66 работ, 74.2% | 243/268 работ, 90.7% | Достигнуто в когорте протокола |
| Заполнение контрольного списка наблюдений | Формы наблюдения | ≥75% | 10/16 сессий, 62.5% | 13/16 сессий, 81.3% | Достигнуто в когорте протокола |
| Согласованность двух экспертов | Оценки экспертов | ICC ≥0.75 | Не требуется | ICC = 0.82 | Достигнуто в когорте протокола |
| Время обработки обратной связи | Журнал обратной связи | Предпочтительно среднее ≤7 дней | 8.4 ± 2.7 дней | 5.8 ± 1.9 дней | В пределах предпочтительного диапазона в когорте протокола |
| Взаимодействие в аудитории | Контрольный список наблюдений | Среднее ≥3.50 или прирост ≥0.30 | 3.15 ± 0.48 | 3.70 ± 0.44 | Выше в когорте протокола |
| Полнота разработки кейса | Контрольный список разработки кейса | Предпочтительно среднее ≥4.00 | 3.23 ± 0.42 | 4.08 ± 0.36 | Выше в когорте протокола |
| Соответствие задания критериям оценки | Контрольный список соответствия | Среднее ≥4.00 | 2.30 ± 0.51 | 4.01 ± 0.39 | Достигнуто в когорте протокола |
| Прирост вовлеченности студентов | Посещаемость, журналы, пункты опроса | Прирост ≥0.30 баллов | +0.07 ± 0.34 | +0.42 ± 0.41 | Достигнуто в когорте протокола |
| Уровень посещаемости | Запись о посещаемости | Описательный | 89.1% ± 6.2% | 89.6% ± 5.8% | Схож в обеих когортах |
| Общий итог точности реализации | Показатели реализации | Большинство основных порогов достигнуто | Достигнуто 2/5 порогов | Достигнуто 5/5 порогов | Протокол реализован в соответствии с замыслом |
Таблица 5: Репрезентативные показатели точности реализации и качества обучения.В этой таблице представлены репрезентативные результаты точности реализации и качества обучения для когорты исторического сравнения и когорты протокола, а также указано, были ли достигнуты предопределенные операционные пороги.
Рисунок 2 представляет профиль точности реализации и качества обучения. На рисунке 2A показана завершенность запланированных еженедельных мероприятий. На рисунке 2B показана завершенность последовательности из трех заданий. На рисунке 2C показана обратная связь, предоставленная в течение 7 календарных дней. На рисунке 2D показаны взаимодействие в классе, полнота разработки кейсов, соответствие заданий критериям оценивания и прирост вовлеченности студентов. На рисунке 2E показана завершенность наблюдений и завершенность корпоративных или структурированных сессий по кейсам. Показатели точности в процентах и индикаторы обучения на основе шкал следует интерпретировать в рамках их собственных измерительных шкал.

Рисунок 2: Профиль точности реализации и качества обучения.На данном рисунке обобщены показатели точности реализации и качества обучения для исторической контрольной когорты и когорты по протоколу. (A) Полнота выполнения запланированных еженедельных мероприятий. (B) Полнота выполнения завершенного задания или сопоставленного проекта, с разграничением полной последовательности из трех заданий в когорте по протоколу и сопоставленных записей проектов в исторической контрольной когорте. (C) Обратная связь, предоставленная в течение 7 календарных дней; время обработки обратной связи приведено в качестве вспомогательной информации. (D) Показатели качества обучения, включая взаимодействие в классе, полноту разработки кейса, соответствие задания критериям оценки (рубрикам) и прирост вовлеченности студентов. (E) Полнота заполнения контрольного списка наблюдений и реализация корпоративного или структурированного кейс-сеанса. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Результаты обучения для студентов
Результаты на уровне студентов изучались отдельно от результатов соревнований на уровне команд. Исходные показатели знаний составили 64.18 ± 8.74 в основной группе и 62.37 ± 8.91 в контрольной группе, при этом небольшая разница на базовом уровне составила 1.81 балла (d = 0.21). После окончания курса показатели знаний составили 71.08 ± 8.58 и 66.41 ± 9.06 соответственно, с разницей в 4.67 балла (d = 0.53). Прирост знаний составил 6.90 ± 5.41 балла и 4.04 ± 5.26 балла, с разницей в 2.86 балла (d = 0.54). Показатели основной группы превысили заранее определенный порог прироста знаний в 5 баллов.
Показатели индивидуального анализа клинических случаев в конце семестра составили 82,31 ± 7,06 в когорте протокола и 76,42 ± 7,38 в контрольной когорте, разница составила 5,89 балла (d = 0,82). Этот результат интерпретировался как показатель успеваемости по окончании курса, а не как парный прирост, поскольку истинная исходная оценка навыков анализа случаев не проводилась. Уровень удовлетворенности составил 3,66 ± 0,58 и 3,34 ± 0,62 (d = 0,53). Воспринимаемая практическая значимость составила 3,91 ± 0,55 и 3,41 ± 0,59 (d = 0,88). Давление конкуренции было выше в когорте протокола (3,12 ± 0,76) по сравнению с контрольной группой (2,48 ± 0,71) (d = 0,87), однако высокая нагрузка была отмечена 13 из 92 студентов когорты протокола, что соответствует 14,1%, т. е. ниже заранее определенного предупредительного порога в 20%. Итоговый балл за курс рассматривался как вторичный образовательный результат и составил 87,20 ± 6,10 в когорте протокола и 84,80 ± 6,70 в контрольной когорте (d = 0,37). В Таблице 6 обобщены результаты на уровне отдельных студентов и команд.
| Результат | Уровень | Историческая когорта сравнения | Когорта протокола | Различие | Величина эффекта | Интерпретация |
| Доступный образец учебной записи | Студент | n = 88 | n = 92 | — | — | Пригодные для использования обезличенные записи курсов |
| Образец для парного анализа знаний | Студент | n = 79 | n = 84 | — | — | Студенты с показателями знаний до и после прохождения курса |
| Исходный показатель уровня знаний | Студент | 62.37 ± 8.91 | 64.18 ± 8.74 | 1.81 | 0.21 | Незначительная разница в исходных показателях |
| Балл за итоговое тестирование по окончании курса | Студент | 66.41 ± 9.06 | 71.08 ± 8.58 | 4.67 | 0.53 | Более высокий показатель в когорте протокола |
| Приобретение знаний | Студент | 4.04 ± 5.26 | 6.90 ± 5.41 | 2.86 | 0.54 | Когорта протокола превысила порог сигнала ≥5 баллов |
| Балл анализа отдельного случая | Студент | 76.42 ± 7.38 | 82.31 ± 7.06 | 5.89 | 0.82 | Сигнал анализа конкретных случаев превысил порог ≥3 баллов |
| Повышение вовлеченности студентов | Студент | +0.07 ± 0.34 | +0.42 ± 0.41 | +0.35 | 0.93 | Превышен порог сигнала ≥0,30 балла |
| Показатель удовлетворенности | Студент | 3.34 ± 0.62 | 3.66 ± 0.58 | 0.32 | 0.53 | Более высокий показатель в когорте по протоколу |
| Воспринимаемая практическая значимость | Студент | 3.41 ± 0.59 | 3.91 ± 0.55 | 0.5 | 0.88 | Более высокий показатель в когорте протокола |
| Показатель конкурентного давления | Студент | 2.48 ± 0.71 | 3.12 ± 0.76 | 0.64 | 0.87 | Более высокое давление в когорте протокола |
| Высокая рабочая нагрузка | Студент | Не расценивается как конкурентное давление | 13/92, 14.1% | — | — | Ниже предупредительного порога в 20% |
| Итоговый балл за курс | Студент | 84.80 ± 6.70 | 87.20 ± 6.10 | 2.4 | 0.37 | Вторичный образовательный результат |
| Количество команд | Команда | n = 22 | n = 23 | — | — | Анализы на уровне команд представлены отдельно |
| Экспозиция в раунде принятия решения | Команда | 0,77 ± 0,81 циклов | 5,09 ± 0,79 раундов | 4.32 | Не определено | Индикатор степени воздействия при внедрении |
| Задание 1 или сопоставленный балл диагноза | Команда | 69.84 ± 6.45 | 72.18 ± 6.28 | 2.34 | 0.37 | Незначительная разница на уровне команд |
| Задача 2 или сопоставленный показатель принятия решения | Команда | 71.09 ± 6.12 | 73.52 ± 5.91 | 2.43 | 0.4 | Незначительная разница на уровне команд |
| Задание 3 или приведенный балл за итоговую защиту | Команда | 72.71 ± 6.36 | 77.20 ± 6.04 | 4.49 | 0.72 | Наибольшая разница на уровне команд |
| Итоговый командный счет | Команда | 71.21 ± 5.81 | 74.30 ± 5.52 | 3.09 | 0.55 | Умеренное различие на уровне команды |
| Измерение стратегического диагноза | Команда | 14.60 ± 1.80 | 15.60 ± 1.70 | 1 | — | Критерии оценки финальной защиты |
| Измерение стратегического выбора | Команда | 17.90 ± 2.20 | 19.10 ± 2.10 | 1.2 | — | Критерий оценки итоговой защиты |
| Измерение возможности реализации | Команда | 14.40 ± 1.90 | 15.50 ± 1.80 | 1.1 | — | Критерии оценки итоговой защиты |
| Измерение инноваций | Команда | 10.80 ± 1.60 | 11.50 ± 1.50 | 0.7 | — | Критерии оценки итоговой защиты |
| Измерение использования доказательств | Команда | 7.10 ± 1.00 | 7.50 ± 0.90 | 0.4 | — | Критерии оценки итоговой защиты |
| Аспект устной защиты | Команда | 7.91 ± 1.10 | 8.00 ± 1.00 | 0.09 | — | Критерий оценки итоговой защиты |
| Средний вклад коллег | Команда | 3.72 ± 0.41 | 3.91 ± 0.36 | 0.19 | 0.49 | Отсутствие серьезных сбоев в командных процессах |
| Команды с дисбалансом вклада | Команда | 4/22, 18.2% | 3/23, 13.0% | −5,2 процентного пункта | — | Отсутствие систематического паттерна дисбаланса |
| Распределение наград | Команда | Неприменимо | 10 нет; 8 третий; 2 второй; 3 первый | — | — | Только когорта протокола |
| Паттерн предупреждения о завышении баллов | Команда | Неприменимо | 2/23 групп, 8,7% | — | — | Отмечено для поиска и устранения неисправностей |
Таблица 6: Репрезентативные результаты на уровне студентов и команд. В этой таблице представлены репрезентативные результаты на уровне студентов и команд, включая доступную выборку из образовательных записей, парную выборку анализа знаний, баллы за знания, прирост знаний, индивидуальный балл за анализ кейсов, вовлеченность, удовлетворенность, воспринимаемую практическую значимость, нагрузку, итоговый балл за курс, баллы за командные задания, баллы по критериям рубрики итоговой защиты, вклад коллег, распределение наград и индикаторы предупреждения.
Рисунок 3 представляет результаты на уровне студентов с оценками неопределенности, где это применимо. Рисунок 3A показывает баллы за знания на исходном этапе и после прохождения курса. Рисунок 3B показывает прирост знаний. Рисунок 3C показывает индивидуальные результаты анализа конкретных случаев. Рисунок 3D показывает прирост вовлеченности, уровень удовлетворенности и воспринимаемую практическую значимость. Рисунок 3E показывает итоговый балл за курс в качестве вторичного результата.

Рисунок 3: Репрезентативные результаты обучения на уровне студентов.На данном рисунке представлены индивидуальные результаты отдельно от результатов командных соревнований. (A) Баллы за знания по стратегическому менеджменту на исходном уровне и после прохождения курса. (B) Прирост знаний от исходного уровня до итоговой оценки по курсу. (C) Индивидуальный балл за анализ кейса в конце семестра. (D) Прирост вовлеченности и показатели восприятия по результатам опроса, включая удовлетворенность и воспринимаемую практическую значимость; там, где это необходимо, используются отдельные шкалы. (E) Итоговый балл за курс как вторичный образовательный результат и высокая нагрузка в когорте протокола относительно заранее определенного предупредительного порога. Значения представлены как среднее ± SD там, где указаны значения ±, а планки погрешностей соответствуют SD. На графике (E) пунктирная контрольная линия указывает на заранее определенный предупредительный порог высокой нагрузки, равный 20%. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Результаты соревнований на командном уровне
Результаты на уровне команд анализировались отдельно от результатов на уровне студентов. Для описательного отчета записи кейс-проектов когорты сравнения были соотнесены с сопоставимыми точками оценки, где это было возможно, однако эти записи не означали завершения всей интегрированной последовательности соревнований. Участие в раундах принятия решений представлялось в качестве индикатора реализации, а не оценки эффекта обучения. Когорта по протоколу завершила 5.09 ± 0.79 раундов принятия решений, тогда как когорта сравнения завершила 0.77 ± 0.81 сопоставимых раундов.
В группе протокола средний балл за Задание 1 составил 72.18 ± 6.28, средний балл за Задание 2 — 73.52 ± 5.91, а средний балл за Задание 3 — 77.20 ± 6.04. Соответствующие сопоставимые баллы контрольной группы составили 69.84 ± 6.45, 71.09 ± 6.12 и 72.71 ± 6.36. Итоговый командный балл составил 74.30 ± 5.52 в группе протокола и 71.21 ± 5.81 в контрольной группе. Показатели по критериям оценки итоговой защиты или сопоставимого итогового проекта были следующими: стратегическая диагностика — 15.60 ± 1.70 и 14.60 ± 1.80; стратегический выбор — 19.10 ± 2.10 и 17.90 ± 2.20; осуществимость реализации — 15.50 ± 1.80 и 14.40 ± 1.90; инновационность — 11.50 ± 1.50 и 10.80 ± 1.60; использование доказательств — 7.50 ± 0.90 и 7.10 ± 1.00; и устная защита — 8.00 ± 1.00 и 7.91 ± 1.10 соответственно.
Распределение наград было представлено только для протокольной когорты, так как в контрольной когорте не использовалась полная структура конкурса на основе наград. В протокольной когорте 10 команд не получили наград, 8 получили третий приз, 2 — второй приз и 3 — первый приз. Средний вклад коллег составил 3.91 ± 0.36 в протокольной когорте и 3.72 ± 0.41 в контрольной когорте. Дисбаланс вклада был выявлен в 3 из 23 команд протокольной когорты и в 4 из 22 команд контрольной когорты. Паттерн предупреждения о завышении баллов был выявлен в 2 из 23 команд протокольной когорты, что составляет 8.7%.
Рисунок 4 представляет результаты на уровне команд и паттерны предупреждений. На Рисунке 4A показаны баллы команд за Задание 1, Задание 2 и Задание 3. На Рисунке 4B показаны баллы по критериям рубрикатора финальной защиты. На Рисунке 4C показано только распределение наград по когортам протоколов. На Рисунке 4D показаны случаи предупреждения о завышении баллов. На Рисунке 4E показан баланс вклада участников и количество случаев дисбаланса вклада.

Рисунок 4: Результаты соревнований на уровне команд и паттерны предупреждений. На данном рисунке представлены результаты на уровне команд отдельно от результатов обучения на уровне студентов. (A) Баллы команд на этапах выполнения заданий: стратегическая диагностика (Задание 1), стратегическое решение (Задание 2) и финальная защита (Задание 3); для когорты исторического сравнения приведены соответствующие баллы за проекты, где они доступны. (B) Баллы по критериям рубрики финальной защиты, включая стратегическую диагностику, стратегический выбор, осуществимость реализации, инновационность, использование доказательств и устную защиту. (C) Распределение наград только для когорты по протоколу, так как в когорте исторического сравнения не использовалась полная структура соревнований на основе наград. (D) Паттерн предупреждения о завышении баллов, определяемый как высокая эффективность финальной защиты при отсутствии подтверждающей диагностической силы или свидетельств индивидуального обучения. (E) Баллы за вклад коллег и количество случаев дисбаланса вкладов представлены в виде отдельных показателей на уровне команд. Пожалуйста, нажмите здесь, чтобы просмотреть увеличенную версию этого рисунка.
Субоптимальные паттерны и индикаторы для поиска и устранения неисправностей
У двух из 23 команд протокольной когорты наблюдался заранее определенный паттерн предупреждения о завышении баллов. Эти команды имели относительно высокие итоговые баллы за защиту, но более низкие диагностические баллы по Заданию 1 и ниже среднего прирост индивидуальных знаний. Данный паттерн был отмечен для последующего анализа в следующей итерации курса, а не интерпретирован как свидетельство улучшения процесса обучения. Серьезного предупреждения об «эффекте потолка» отмечено не было, так как исходные баллы за знания были ниже 85 из 100, а исходный уровень удовлетворенности — ниже 4,50 из 5. Посещаемость в когортах была схожей, и систематического дисбаланса вклада участников команд не наблюдалось, хотя три команды протокольной когорты потребовали мониторинга.
В целом, репрезентативные результаты показали, что данный протокол позволил получить интерпретируемые данные на трех уровнях: точность реализации, свидетельства обучения на уровне студента и результаты соревнований на уровне команды. Случаи, вызвавшие предупреждения, подтвердили целесообразность использования протокола для мониторинга курса, поиска и устранения неисправностей, а также последующей доработки курса.
Обезличенный набор данных, поддерживающий данное исследование, был размещен на сайте figshare.com и доступен по адресу https://doi.org/10.6084/m9.figshare.33094931. Набор данных включает записи на уровне отдельных студентов, записи о соревнованиях на уровне команд, показатели реализации, записи о потоке участников, записи аудита пропущенных данных и записи баллов экспертов. Идентификаторы студентов, записи о согласии, файлы связей и идентифицируемые текстовые комментарии в свободном формате не включены.
Дополнительная таблица S1: Обучение экспертов, согласованность оценок и процедура согласования баллов.В этой таблице представлены сведения о назначении экспертов, проверке независимости, ознакомлении с критериями оценивания, калибровочном оценивании, проверке согласованности оценок, правиле разрыва в баллах, процедуре согласования, аудите ввода данных, блокировке баллов и процедуре архивации.Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительная таблица S2: Матрица поиска и устранения неисправностей при отклонениях от протокола и субоптимальной реализации. В данной таблице перечислены отклонения от протокола и примеры субоптимальной реализации, включая триггерные правила, корректирующие действия, необходимые записи и примечания по интерпретации.Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительная таблица S3: Структура набора данных и словарь переменных для деидентифицированного образовательного набора данных.В этой таблице определены переменные на уровне студента, команды и учебного занятия, включая коды переменных, описания, типы данных, диапазоны кодирования, источники данных и правила обработки пропущенных данных.Пожалуйста, нажмите здесь, чтобы скачать этот файл.
Дополнительный файл 1: Операционные шаблоны, материалы для оценки и рабочая книга с деидентифицированным набором данных.Этот дополнительный файл содержит операционные шаблоны, материалы для оценки, формы подсчета баллов, пункты опроса, проверку дизайна кейсов, правила обработки пропущенных данных, структуру рабочей книги с деидентифицированным набором данных, журнал очистки, шаблон резюме анализа и запись контроля версий, используемые для обеспечения воспроизводимости.Пожалуйста, нажмите здесь, чтобы скачать этот файл.