Il tracciamento multi-oggetto (MOT) fornisce un localizzazione continua degli oggetti e il mantenimento dell'identità in sequenze video, supportando l'estrazione delle traiettorie degli atleti, l'analisi tattica e l'analisi statistica automatizzata in applicazioni basate su video sportivi1,2,3. Informazioni visive affidabili sono inoltre correlate al processo decisionale specifico dello sport e alla valutazione della prestazione nella scienza dello sport, sottolineando ulteriormente il valore dei dati di movimento stabili derivati dai video per analisi sportive successive4. Negli scenari sportivi, l'affidabilità dei dati tattici dipende dalla continuità delle traiettorie di tracciamento e dalla coerenza delle identità degli obiettivi.
Rispetto agli scenari generali di MOT, i video sportivi contengono rapidi cambi di direzione, arresti bruschi, salti, interazioni fitte e occlusioni frequenti. Questi fattori provocano notevoli fluttuazioni nella confidenza delle scatole di rilevamento e aumentano la frequenza dei rilevamenti a bassa confidenza, che possono interrompere l'associazione delle traiettorie5,6. Le uniformi di squadra uniformi riducono ulteriormente la capacità discriminante delle caratteristiche d'aspetto generali e aumentano la confusione d'identità tra compagni di squadra visivamente simili7,8. Quando occlusione e somiglianza d'aspetto si verificano nella stessa sequenza, la confidenza del rilevamento diminuisce e le informazioni sull'aspetto del bersaglio diventano incomplete, aumentando la difficoltà nell'associazione delle traiettorie e nel mantenimento dell'identità9,10. Nel MOT, il re-identificazione (Re-ID) indica il processo di associazione della stessa identità del bersaglio tra fotogrammi, periodi di occlusione o casi di reingresso, utilizzando evidenze visive legate all'identità. Nei video sportivi di squadra, gli indizi generali di Re-ID possono risultare indeboliti poiché gli atleti della stessa squadra spesso condividono uniformi e aspetti fisici simili. La revisione della letteratura tecnica indica che la frammentazione delle traiettorie e la confusione d'identità nel MOT sportivo sono generalmente affrontate attraverso due approcci complementari: l'utilizzo della confidenza del rilevamento e il potenziamento degli indizi d'identità. JerseyTrack si colloca all'intersezione di questi approcci regolando l'uso degli indizi semantici delle maglie in base alla qualità del rilevamento, piuttosto che applicare in modo uniforme informazioni sul colore e sul numero del giocatore a tutti i rilevamenti.
Questo studio presenta JerseyTrack, un metodo MOT sportivo guidato dalla confidenza, basato sulla fusione semantica delle maglie. Il metodo è progettato per video di sport di squadra in cui gli atleti indossano maglie visibili e i risultati del rilevamento forniscono box delimitatori con punteggi di confidenza. JerseyTrack combina quattro componenti principali: rilevamento degli atleti, partizionamento per livello di confidenza, estrazione di caratteristiche semantiche delle maglie e associazione inter-frame a cascata. La confidenza del rilevamento viene utilizzata per partizionare in modo adattivo i rilevamenti in gruppi ad alta, media e bassa confidenza, che vengono elaborati mediante diverse strategie di associazione. I rilevamenti ad alta confidenza vengono associati principalmente attraverso informazioni di movimento, mentre quelli a media e bassa confidenza integrano ulteriormente informazioni sul colore della maglia e sul numero del giocatore per migliorare il mantenimento dell'identità quando le evidenze visive sono deboli. Il metodo è destinato a compiti di analisi video sportivi che richiedono traiettorie stabili degli atleti, come l'analisi tattica e l'interpretazione del comportamento dei giocatori.
L'approccio proposto presenta anche limitazioni operative. L'estrazione semantica della maglia può essere influenzata da forti occlusioni, sfocature dovute al movimento, bassa risoluzione delle immagini, pose anomale della maglia o numeri dei giocatori non visibili. In questi casi, gli indizi semantici basati sulla maglia possono risultare incompleti, e il processo di associazione si basa maggiormente sulla coerenza del movimento e sulla verifica multi-frame. Pertanto, le affermazioni sulle prestazioni di questo studio sono limitate ai dataset valutati e alle condizioni sperimentali adottate. Gli esperimenti effettuati sul dataset SportsMOT mostrano che JerseyTrack migliora le metriche di tracciamento valutate e riduce gli eventi di cambio di identità nelle condizioni di tracciamento sportivo testate. La principale difficoltà del tracciamento multi-oggetto (MOT) nei video sportivi consiste nel mantenere la continuità delle traiettorie e la coerenza dell'identità in presenza di movimenti rapidi, occlusioni e somiglianze nell'aspetto. Gli studi esistenti relativi a JerseyTrack possono essere suddivisi in due direzioni di ricerca principali: l'utilizzo della confidenza del rilevamento per l'associazione delle traiettorie e il potenziamento degli indizi identitari mediante caratteristiche semantiche specifiche dello sport.
L'affidabilità del rilevamento è stata ampiamente utilizzata per stimare l'affidabilità dei box di rilevamento e guidare l'associazione delle traiettorie nel MOT. I primi metodi di tracciamento trattavano solitamente l'affidabilità come un criterio binario di filtraggio, in cui i rilevamenti al di sotto di una soglia fissa venivano rimossi per ridurre i falsi positivi11,12. Questa strategia riduce i rilevamenti rumorosi ma può anche scartare obiettivi reali in caso di occlusione, movimento rapido o bassa qualità dell'immagine, causando frammentazione delle traiettorie13,14,15. Strategie di filtraggio simili hanno inoltre dimostrato che soglie fisse di affidabilità sono sensibili alle variazioni della scena e alla qualità del rilevamento16,17. Per migliorare l'utilizzo dei rilevamenti a bassa affidabilità, ByteTrack ha introdotto una strategia di associazione che mantiene i box a bassa affidabilità come obiettivi candidati per un abbinamento secondario e li collega alle traiettorie esistenti attraverso la similarità del movimento e la cronologia della traiettoria18. McByte estende ulteriormente l'associazione nel MOT sportivo incorporando maschere di segmentazione propagate temporalmente come indicazione per l'associazione, migliorando la robustezza in condizioni di movimento rapido, occlusione e spostamento della telecamera senza ulteriore addestramento per ogni video19. Studi correlati hanno inoltre modificato l'uso dei rilevamenti a bassa affidabilità per mantenere obiettivi deboli ma potenzialmente validi durante l'associazione20,21,22. Le strategie di associazione adattive all'affidabilità hanno successivamente perfezionato i criteri di abbinamento in base alla coerenza del movimento e all'affidabilità del rilevamento23,24,25. Metodi di affinamento delle traiettorie basati sulla regressione dei box di rilevamento e sull'ottimizzazione della regolarità delle traiettorie sono stati anch'essi utilizzati per ridurre la frammentazione delle traiettorie26,27,28. Ulteriori strategie di affinamento forniscono un supporto complementare per mantenere la continuità delle traiettorie in condizioni di movimento complesse29. Il flusso oggetto temporalmente coerente modella ulteriormente la coerenza temporale a livello oggetto tra i fotogrammi, fornendo un altro approccio orientato all'associazione per ridurre l'interruzione delle traiettorie in scenari MOT complessi30. I metodi di fusione dei tracker apprendono anche dagli output di più tracker e utilizzano strategie di selezione o fusione basate sull'apprendimento per migliorare la robustezza del tracciamento su diversi benchmark MOT31. Nel complesso, questi studi indicano che l'associazione consapevole dell'affidabilità aiuta a recuperare traiettorie interrotte; tuttavia, l'affidabilità e gli indizi del movimento forniscono informazioni limitate sull'identità quando i giocatori della stessa squadra hanno aspetti visivi simili. Sebbene questi metodi attenuino efficacemente la frammentazione delle traiettorie in scenari generali, presentano limitazioni intrinseche negli ambienti sportivi poiché i giocatori della stessa squadra spesso hanno aspetti visivi altamente simili, e fare affidamento esclusivamente su informazioni di affidabilità e movimento non può fornire una base sufficiente per la differenziazione dell'identità32,33,34. Anche quando i box a bassa affidabilità vengono recuperati efficacemente, la similarità delle caratteristiche può comunque portare a scambi di identità, rendendo difficile soddisfare i rigorosi requisiti di coerenza identitaria dell'analisi sportiva.
Segnali identitari specifici dello sport sono stati utilizzati anche per migliorare la discriminazione dell'identità nel tracciamento degli atleti. Informazioni semantiche relative alle maglie, come il colore della squadra e il numero del giocatore, forniscono indizi identitari più direttamente collegati agli scenari sportivi rispetto agli embedding di aspetto generale35,36,37. Il colore della maglia è stato utilizzato per supportare la discriminazione a livello di squadra e ridurre la confusione tra squadre diverse, mentre il riconoscimento del numero del giocatore fornisce un indizio identitario più preciso quando la zona del numero è visibile e leggibile38,39. Studi esistenti sul tracciamento sportivo hanno integrato caratteristiche visive specifiche del dominio e il riconoscimento del colore della maglia per migliorare l'associazione tra giocatori in condizioni di affollamento tipiche degli eventi sportivi40,41. Lavori precedenti sul riconoscimento del numero di maglia e sull'uso di dati numerici sintetici ulteriormente supportano la modellizzazione dell'identità in condizioni di bassa risoluzione o parziale occlusione42,43. Questi studi indicano che la semantica delle maglie può rafforzare la rappresentazione dell'identità nel tracciamento multi-oggetto applicato agli sport (MOT). Tuttavia, la maggior parte dei metodi di tracciamento potenziati da informazioni semantiche non modella in modo sufficiente la relazione tra la fiducia nel rilevamento (detection confidence) e la qualità delle caratteristiche semantiche. I rilevamenti ad alta fiducia possono già contenere informazioni spaziali e di aspetto affidabili, rendendo meno efficiente un'ulteriore estrazione semantica. I rilevamenti a bassa fiducia spesso soffrono di occlusione, sfocatura, troncamento o bassa risoluzione, riducendo l'affidabilità degli indizi basati sul colore e sul numero del giocatore. Questa limitazione motiva una progettazione dell'associazione guidata dalla fiducia, in cui la semantica delle maglie viene introdotta in base alla qualità del rilevamento piuttosto che essere applicata uniformemente a tutti i rilevamenti. Gli studi esaminati mostrano che l'associazione consapevole della fiducia e la modellizzazione semantica delle maglie affrontano aspetti diversi del tracciamento multi-oggetto negli sport. Le strategie basate sulla fiducia determinano principalmente se un rilevamento debba partecipare all'associazione e come debba essere abbinato alle traiettorie esistenti, mentre le strategie semantiche basate sulle maglie migliorano principalmente la rappresentazione dell'identità attraverso indizi specifici dello sport. Tuttavia, questi due meccanismi sono spesso progettati come componenti separati. Di conseguenza, gli indizi semantici non vengono sempre adattati in base alla qualità del rilevamento, e i livelli di fiducia non regolano direttamente l'uso delle informazioni sul colore e sul numero del giocatore durante l'associazione. Questa separazione limita la gestione congiunta della frammentazione delle traiettorie e della confusione identitaria nei video di sport di squadra. Il gap di ricerca rimanente consiste nel collegare la valutazione della qualità della fiducia nel rilevamento con l'associazione semantica basata sulle maglie all'interno dello stesso flusso di lavoro di tracciamento.