Le suivi multi-objets (MOT) permet une localisation continue des objets et le maintien de leur identité dans des séquences vidéo, et soutient l'extraction des trajectoires des athlètes, l'analyse tactique et l'analyse statistique automatisée dans les applications vidéo sportives1,2,3. Des informations visuelles fiables sont également liées à la prise de décision propre à chaque sport et à l'évaluation de la performance en sciences du sport, soulignant davantage la valeur des données de mouvement stables issues de vidéos pour les analyses sportives ultérieures4. Dans les scénarios sportifs, la fiabilité des données tactiques dépend de la continuité des trajectoires de suivi et de la cohérence des identités des cibles.
Contrairement aux scénarios généraux de suivi multi-objets (MOT), les vidéos sportives comportent des changements brusques de direction, des arrêts soudains, des sauts, des interactions denses et des occultations fréquentes. Ces facteurs provoquent des fluctuations importantes de la confiance associée aux boîtes de détection et augmentent la fréquence des détections à faible confiance, ce qui peut interrompre l'association des trajectoires5,6. Les maillots d'équipe uniformes réduisent davantage la capacité discriminante des caractéristiques d'apparence générales et augmentent la confusion d'identité entre des coéquipiers visuellement similaires7,8. Lorsque l'occultation et la similarité d'apparence se produisent dans la même séquence, la confiance de détection diminue et les informations sur l'apparence de la cible deviennent incomplètes, ce qui accroît la difficulté d'association des trajectoires et de maintien de l'identité9,10. En suivi multi-objets, la ré-identification (Re-ID) désigne le processus d'association de la même identité de cible à travers les images, les périodes d'occultation ou les cas de réapparition, en utilisant des indices visuels liés à l'identité. Dans les vidéos de sports collectifs, les indices généraux de Re-ID peuvent être affaiblis car les athlètes d'une même équipe partagent souvent des tenues et des morphologies corporelles similaires. L'examen de la littérature technique indique que la fragmentation des trajectoires et la confusion d'identité dans le suivi multi-objets appliqué aux sports sont généralement abordées selon deux approches complémentaires : l'exploitation de la confiance de détection et le renforcement des indices d'identité. JerseyTrack s'inscrit à l'intersection de ces deux approches en régulant l'utilisation des indices sémantiques liés au maillot selon la qualité de la détection, plutôt qu'en appliquant uniformément les informations de couleur et du numéro du joueur à toutes les détections.
Cette étude présente JerseyTrack, une méthode de suivi multi-objectif (MOT) dans les sports assistée par la confiance et fondée sur la fusion sémantique des maillots. La méthode est conçue pour des vidéos de sports collectifs dans lesquelles les athlètes portent des maillots visibles et où les résultats de détection fournissent des boîtes englobantes accompagnées de scores de confiance. JerseyTrack combine quatre composants principaux : la détection des athlètes, la partition selon le niveau de confiance, l'extraction de caractéristiques sémantiques des maillots et l'association inter-images en cascade. La confiance associée à la détection est utilisée pour partitionner de manière adaptative les détections en groupes à haute, moyenne et faible confiance, qui sont ensuite traités selon des stratégies d'association différentes. Les détections à haute confiance sont principalement associées à l'aide d'informations de mouvement, tandis que les détections à confiance moyenne ou faible intègrent en outre des informations sur la couleur du maillot et le numéro du joueur afin d'améliorer le maintien de l'identité lorsque les indices visuels sont faibles. Cette méthode est destinée à des tâches d'analyse de vidéos sportives nécessitant des trajectoires d'athlètes stables, telles que l'analyse tactique ou l'interprétation du comportement des joueurs.
L'approche proposée présente également des limitations opérationnelles. L'extraction sémantique du maillot peut être affectée par une occultation sévère, un flou de mouvement, une faible résolution d'image, des poses anormales du maillot ou des numéros de joueur invisibles. Dans ces cas, les indices sémantiques basés sur le maillot peuvent devenir incomplets, et le processus d'association dépend davantage de la cohérence du mouvement et de la vérification multi-image. Par conséquent, les affirmations sur les performances dans cette étude sont limitées aux jeux de données évalués et aux conditions expérimentales testées. Des expériences menées sur le jeu de données SportsMOT montrent que JerseyTrack améliore les métriques de suivi évaluées et réduit les changements d'identité dans les conditions de suivi sportif testées. La principale difficulté du suivi multi-objet (MOT) dans les vidéos sportives réside dans le maintien de la continuité des trajectoires et de la cohérence des identités en présence de mouvements rapides, d'occultations et de similitudes d'apparence. Les études existantes liées à JerseyTrack peuvent être regroupées en deux grandes directions de recherche : l'utilisation de la confiance de détection pour l'association de trajectoires et le renforcement des indices d'identité grâce à des caractéristiques sémantiques spécifiques aux sports.
La confiance de détection est largement utilisée pour estimer la fiabilité des boîtes de détection et guider l'association des trajectoires en suivi multi-objets (MOT). Les premières méthodes de suivi traitaient généralement la confiance comme un critère binaire de filtrage, dans lequel les détections situées en dessous d'un seuil fixe étaient supprimées afin de réduire les faux positifs11,12. Cette stratégie permet de réduire les détections bruitées, mais peut également éliminer des cibles réelles en cas d'occultation, de mouvement rapide ou de faible qualité d'image, entraînant une fragmentation des trajectoires13,14,15. Des stratégies de filtrage similaires ont également montré que les seuils de confiance fixes sont sensibles aux variations de scène et à la qualité des détections16,17. Pour améliorer l'utilisation des détections à faible confiance, ByteTrack a introduit une stratégie d'association qui conserve les boîtes à faible confiance comme cibles candidates pour une correspondance secondaire, en les reliant aux trajectoires existantes grâce à la similarité de mouvement et à l'historique des trajectoires18. McByte étend davantage l'association en MOT sportif en intégrant des masques de segmentation propagés temporellement comme indice d'association, améliorant ainsi la robustesse en cas de mouvement rapide, d'occultation ou de changement de caméra, sans entraînement supplémentaire par vidéo19. D'autres études ont également ajusté l'utilisation des détections à faible confiance afin de conserver des cibles faibles mais potentiellement valides durant l'association20,21,22. Les stratégies d'association adaptatives selon la confiance ont ensuite affiné les critères d'appariement en fonction de la cohérence du mouvement et de la fiabilité des détections23,24,25. Des méthodes d'affinement des trajectoires basées sur la régression des boîtes de détection et l'optimisation de la régularité des trajectoires ont également été utilisées pour réduire la fragmentation des trajectoires26,27,28. D'autres stratégies d'affinement apportent un soutien complémentaire pour maintenir la continuité des trajectoires dans des conditions de mouvement complexes29. Le flux temporellement cohérent des objets modélise davantage la cohérence temporelle au niveau objet entre les images, offrant ainsi une autre approche orientée association pour réduire les interruptions de trajectoire dans des scénarios MOT complexes30. Les méthodes de fusion de traqueurs s'appuient également sur les sorties de plusieurs traqueurs et utilisent des stratégies de sélection ou de fusion apprises afin d'améliorer la robustesse du suivi sur différents benchmarks MOT31. Collectivement, ces études indiquent que l'association tenant compte de la confiance aide à récupérer les trajectoires interrompues ; toutefois, la confiance et les indices de mouvement fournissent des informations d'identité limitées lorsque les joueurs d'une même équipe ont des apparences visuelles similaires. Bien que ces méthodes atténuent efficacement la fragmentation des trajectoires dans des scénarios généraux, elles présentent des limitations inhérentes dans les contextes sportifs, car les joueurs d'une même équipe ont souvent des apparences visuelles très proches, et le fait de s'appuyer uniquement sur la confiance et les informations de mouvement ne permet pas de différencier suffisamment les identités32,33,34. Même lorsque les boîtes à faible confiance sont correctement rappelées, la similarité des caractéristiques peut encore entraîner des inversions d'identité, rendant difficile le respect des exigences strictes de cohérence identitaire en analyse sportive.
Des indices d'identité spécifiques aux sports ont également été utilisés pour améliorer la discrimination d'identité dans le suivi des athlètes. Les informations sémantiques du maillot, telles que la couleur de l'équipe et le numéro du joueur, fournissent des indices d'identité plus directement liés aux scénarios sportifs que les intégrations d'apparence générale35,36,37. La couleur du maillot a été utilisée pour faciliter la discrimination au niveau de l'équipe et réduire la confusion entre équipes, tandis que la reconnaissance du numéro du joueur offre un indice d'identité plus précis lorsque la zone du numéro est visible et lisible38,39. Des études existantes sur le suivi en sport ont intégré des caractéristiques visuelles spécifiques au domaine et la reconnaissance de la couleur du maillot afin d'améliorer l'association des joueurs dans des conditions sportives encombrées40,41. Des travaux connexes sur la reconnaissance du numéro du maillot et l'utilisation de données numériques synthétiques soutiennent davantage la modélisation de l'identité dans des conditions de faible résolution ou d'occultation partielle42,43. Ces études indiquent que la sémantique du maillot peut renforcer la représentation de l'identité dans le suivi multi-objets en sport (sports MOT). Toutefois, la plupart des méthodes de suivi améliorées par la sémantique ne modélisent pas suffisamment la relation entre la confiance de détection et la qualité des caractéristiques sémantiques. Les détections à haute confiance contiennent souvent déjà des informations spatiales et d'apparence fiables, rendant l'extraction sémantique répétée moins efficace. Les détections à faible confiance souffrent fréquemment d'occultation, de flou, de troncature ou de faible résolution, ce qui réduit la fiabilité des indices de couleur et de numéro de joueur. Cette limitation motive une conception d'association guidée par la confiance, dans laquelle la sémantique du maillot est introduite en fonction de la qualité de la détection plutôt que d'être appliquée uniformément à toutes les détections. Les études examinées montrent que l'association tenant compte de la confiance et la modélisation sémantique du maillot abordent des aspects différents du suivi multi-objets en sport. Les stratégies fondées sur la confiance déterminent principalement si une détection doit participer à l'association et comment elle doit être appariée avec les trajectoires existantes, tandis que les stratégies sémantiques du maillot renforcent principalement la représentation de l'identité à l'aide d'indices spécifiques au sport. Toutefois, ces deux mécanismes sont souvent conçus comme des composants séparés. En conséquence, les indices sémantiques ne sont pas toujours ajustés en fonction de la qualité de détection, et les niveaux de confiance ne régulent pas directement l'utilisation des informations de couleur et de numéro de joueur durant l'association. Cette séparation limite la gestion conjointe de la fragmentation des trajectoires et de la confusion d'identité dans les vidéos de sports collectifs. Le manque de recherche restant réside dans la liaison entre l'évaluation de la qualité de la confiance de détection et l'association sémantique du maillot au sein d'un même flux de travail de suivi.