Многообъектное отслеживание (MOT) обеспечивает непрерывную локализацию объектов и сохранение их идентичности в видеопоследовательностях, что позволяет извлекать траектории перемещения спортсменов, проводить тактический и автоматизированный статистический анализ в приложениях для анализа спортивного видео1,2,3. Достоверная визуальная информация также связана с принятием решений в конкретных видах спорта и оценкой эффективности в спортивной науке, что дополнительно подчеркивает ценность стабильных данных о движении, полученных из видео, для последующего спортивного анализа4. В спортивных сценариях надежность тактических данных зависит от непрерывности траекторий отслеживания и согласованности идентификаторов целей.
По сравнению с общими сценариями MOT, спортивные видео содержат резкие изменения направления, внезапные остановки, прыжки, плотные взаимодействия и частые перекрытия. Эти факторы вызывают значительные колебания уверенности в определении ограничивающих рамок (detection-box confidence) и увеличивают частоту обнаружений с низкой степенью уверенности, что может привести к разрыву ассоциации траекторий5,6. Одинаковая командная форма дополнительно снижает дискриминационную способность общих признаков внешнего вида и увеличивает вероятность путаницы с идентификаторами визуально похожих товарищей по команде7,8. Когда перекрытие и сходство внешнего вида происходят в одной последовательности, уверенность в обнаружении снижается, а информация о внешнем виде объекта становится неполной, что затрудняет ассоциацию траекторий и поддержание идентификатора9,10. В MOT повторная идентификация (Re-ID) представляет собой процесс сопоставления одного и того же идентификатора объекта в разных кадрах, периоды перекрытия или случаи повторного появления с использованием визуальных доказательств, связанных с личностью. В видеозаписях командных видов спорта общие признаки Re-ID могут быть ослаблены, поскольку спортсмены одной команды часто имеют схожую форму и телосложение. Обзор технической литературы показывает, что фрагментация траекторий и путаница с идентификаторами в спортивном MOT обычно решаются с помощью двух взаимодополняющих подходов: использования уверенности в обнаружении и усиления признаков идентификации. JerseyTrack расположен на пересечении этих подходов, регулируя использование семантических признаков формы в зависимости от качества обнаружения, а не применяя информацию о цвете и номере игрока единообразно ко всем обнаружениям.
В данном исследовании представлен JerseyTrack — метод многообъектного трекинга (MOT) в спорте с использованием guidance-механизма на основе доверительных интервалов и семантического слияния данных о форме. Метод разработан для видеозаписей командных видов спорта, где атлеты одеты в заметную форму, а результаты детектирования предоставляют ограничивающие рамки с показателями уверенности (confidence scores). JerseyTrack объединяет четыре основных компонента: детектирование атлетов, разделение по уровню уверенности, извлечение семантических признаков формы и каскадную межквадровую ассоциацию. Степень уверенности детектирования используется для адаптивного разделения обнаруженных объектов на группы с высокой, средней и низкой уверенностью, которые обрабатываются с помощью различных стратегий ассоциации. Объекты с высокой уверенностью ассоциируются преимущественно на основе информации о движении, тогда как для объектов со средней и низкой уверенностью дополнительно используются данные о цвете формы и номере игрока для более стабильного сохранения идентификатора при недостаточных визуальных данных. Данный метод предназначен для задач анализа спортивного видео, требующих стабильных траекторий атлетов, таких как тактический анализ и интерпретация поведения игроков.
Предложенный подход также имеет эксплуатационные ограничения. На семантическое извлечение данных с формы могут влиять сильные окклюзии, размытие при движении, низкое разрешение изображения, аномальные позы игроков или невидимые номера на форме. В таких случаях семантические признаки формы могут оказаться неполными, и процесс ассоциации будет в большей степени опираться на согласованность движения и многокадровую верификацию. Таким образом, заявления о производительности в данном исследовании ограничены оценочными наборами данных и экспериментальными условиями. Эксперименты на наборе данных SportsMOT показывают, что JerseyTrack улучшает оцениваемые метрики трекинга и сокращает количество событий переключения идентификаторов (identity-switching) в протестированных условиях спортивного отслеживания. Основная сложность MOT в спортивных видео заключается в поддержании непрерывности траектории и согласованности идентификаторов при быстром движении, окклюзиях и сходстве внешнего вида. Существующие исследования, имеющие отношение к JerseyTrack, можно в целом разделить на два направления: использование достоверности детектирования для ассоциации траекторий и усиление идентификационных признаков с помощью специфических для спорта семантических характеристик.
Доверительная оценка детектирования широко используется для оценки надежности ограничивающих рамок (bounding boxes) и управления ассоциацией траекторий в задачах многообъектного слежения (MOT). Ранние методы трекинга обычно рассматривали уверенность как бинарный критерий фильтрации, при котором детекции ниже фиксированного порога удалялись для сокращения числа ложноположительных срабатываний11,12. Такая стратегия уменьшает количество зашумленных детектий, но может привести к отбраковке истинных целей при окклюзии, быстром движении или низком качестве изображения, что вызывает фрагментацию траекторий13,14,15. Аналогичные стратегии фильтрации также показали, что фиксированные пороги уверенности чувствительны к изменениям сцены и качеству детектирования16,17. Для более эффективного использования детекций с низкой уверенностью в ByteTrack была представлена стратегия ассоциации, которая сохраняет рамки с низкой уверенностью в качестве потенциальных целей для вторичного сопоставления и связывает их с существующими траекториями на основе сходства движения и истории траекторий18. McByte далее расширяет возможности ассоциации в спортивном MOT, используя временно распространяемые маски сегментации в качестве признака ассоциации, что повышает робастность в условиях быстрого движения, окклюзий и смещения камеры без необходимости дополнительного обучения для каждого видео19. В смежных исследованиях также корректировалось использование детекций с низкой уверенностью для сохранения слабых, но потенциально валидных целей в процессе ассоциации20,21,22. Стратегии ассоциации с адаптивной уверенностью в дальнейшем уточнили критерии сопоставления в соответствии с согласованностью движения и надежностью детектирования23,24,25. Методы уточнения траекторий, основанные на регрессии ограничивающих рамок и оптимизации плавности траекторий, также применялись для снижения фрагментации траекторий26,27,28. Дополнительные стратегии уточнения обеспечивают вспомогательную поддержку для поддержания непрерывности траекторий в условиях сложного движения29. Временно когерентный поток объектов дополнительно моделирует временную согласованность на уровне объектов между кадрами, предлагая еще один ориентированный на ассоциацию подход для сокращения разрывов траекторий в сложных сценариях MOT30. Методы слияния трекеров также обучаются на выходных данных нескольких трекеров и используют стратегии выбора или слияния на основе обучаемых моделей для повышения робастности трекинга в различных бенчмарках MOT31. В совокупности эти исследования показывают, что ассоциация с учетом уверенности помогает восстанавливать прерванные траектории; однако признаки уверенности и движения предоставляют ограниченную информацию об идентичности, когда игроки одной команды имеют схожий внешний вид. Хотя эти методы эффективно уменьшают фрагментацию траекторий в общих сценариях, они сталкиваются с внутренними ограничениями в спортивных условиях, поскольку игроки одной команды часто имеют очень похожее визуальное представление, и опора исключительно на информацию об уверенности и движении не может обеспечить достаточную основу для дифференциации личностей32,33,34. Даже при эффективном восстановлении рамок с низкой уверенностью сходство признаков все равно может привести к перепутыванию идентификаторов (identity switching), что затрудняет соблюдение строгих требований к согласованности идентификации, необходимых для спортивного анализа.
Для улучшения дискриминации личностей при отслеживании атлетов также использовались специфические для спорта идентификационные признаки. Семантическая информация о форме, такая как цвет команды и номер игрока, дает идентификационные подсказки, которые более непосредственно связаны со спортивными сценариями, чем общие эмбеддинги внешнего вида35,36,37. Цвет формы использовался для поддержки дискриминации на уровне команд и снижения путаницы между командами, в то время как распознавание номера игрока обеспечивает более точный идентификационный признак, когда область с номером видна и читаема38,39. В существующих исследованиях по спортивному трекингу применялись специфические для данной области визуальные признаки и распознавание цвета формы для улучшения ассоциации игроков в условиях скопления людей на спортивных площадках40,41. Соответствующие работы по распознаванию номеров на форме и синтетическим данным о номерах дополнительно поддерживают моделирование личности в условиях низкого разрешения или частичного перекрытия42,43. Эти исследования показывают, что семантика формы может усилить представление личности в спортивном MOT. Однако большинство методов трекинга с семантическим усилением недостаточно моделируют связь между достоверностью детектирования и качеством семантических признаков. Детектирования с высокой достоверностью могут уже содержать надежную пространственную информацию и информацию о внешнем виде, что делает повторное извлечение семантики менее эффективным. Детектирования с низкой достоверностью часто страдают от перекрытий, размытия, обрезания или низкого разрешения, что снижает надежность признаков цвета и номера игрока. Это ограничение обосновывает разработку ассоциации под руководством достоверности, при которой семантика формы вводится в зависимости от качества детектирования, а не применяется единообразно ко всем объектам. Рассмотренные исследования показывают, что ассоциация с учетом достоверности и семантическое моделирование формы решают разные аспекты спортивного MOT. Стратегии на основе достоверности в основном определяют, должно ли детектирование участвовать в ассоциации и как оно должно быть сопоставлено с существующими траекториями, в то время как стратегии семантики формы прежде всего улучшают представление личности с помощью специфических для спорта признаков. Однако эти два механизма часто проектируются как отдельные компоненты. В результате семантические признаки не всегда корректируются в соответствии с качеством детектирования, а уровни достоверности не регулируют напрямую использование информации о цвете и номере игрока во время ассоциации. Такое разделение ограничивает совместную обработку фрагментации траекторий и путаницы личностей в видеозаписях командных видов спорта. Оставшийся исследовательский пробел заключается в связывании оценки качества достоверности детектирования с семантической ассоциацией формы в рамках одного рабочего процесса трекинга.