O rastreamento múltiplo de objetos (MOT) fornece localização contínua de objetos e manutenção de identidade em sequências de vídeo, apoiando a extração de trajetórias de atletas, análise tática e análise estatística automatizada em aplicações com vídeos esportivos1,2,3. Informações visuais confiáveis também estão relacionadas à tomada de decisões específica do esporte e à avaliação de desempenho na ciência do esporte, enfatizando ainda mais o valor de dados de movimento derivados de vídeo estáveis para análises esportivas posteriores4. Em cenários esportivos, a confiabilidade dos dados táticos depende da continuidade das trajetórias de rastreamento e da consistência das identidades dos alvos.
Em comparação com cenários gerais de MOT, vídeos esportivos contêm mudanças rápidas de direção, paradas bruscas, saltos, interações densas e oclusões frequentes. Esses fatores provocam flutuações substanciais na confiança das caixas de detecção e aumentam a frequência de detecções com baixa confiança, o que pode interromper a associação de trajetórias5,6. As camisetas uniformes das equipes reduzem ainda mais a capacidade discriminativa de características gerais de aparência e aumentam a confusão de identidade entre companheiros de equipe visualmente semelhantes7,8. Quando a oclusão e a semelhança de aparência ocorrem na mesma sequência, a confiança na detecção diminui e as informações sobre a aparência do alvo tornam-se incompletas, aumentando a dificuldade de associação de trajetórias e manutenção de identidade9,10. Em MOT, reidentificação (Re-ID) refere-se ao processo de associar a mesma identidade de alvo entre quadros, períodos de oclusão ou casos de reentrada, utilizando evidências visuais relacionadas à identidade. Em vídeos de esportes coletivos, os indicadores gerais de Re-ID podem ser enfraquecidos porque atletas da mesma equipe frequentemente compartilham uniformes e aparências corporais semelhantes. A revisão da literatura técnica indica que fragmentação de trajetórias e confusão de identidade em MOT esportivo são comumente abordadas por meio de duas abordagens complementares: utilização da confiança na detecção e aprimoramento de pistas de identidade. O JerseyTrack posiciona-se na interseção dessas abordagens, regulando o uso de pistas semânticas da camiseta de acordo com a qualidade da detecção, em vez de aplicar uniformemente informações de cor e número do jogador a todas as detecções.
Este estudo apresenta o JerseyTrack, um método de MOT esportivo orientado por confiança e baseado na fusão semântica de camisetas. O método foi projetado para vídeos de esportes coletivos em que os atletas usam camisetas visíveis e os resultados da detecção fornecem caixas delimitadoras com pontuações de confiança. O JerseyTrack combina quatro componentes principais: detecção de atletas, particionamento por nível de confiança, extração de características semânticas da camiseta e associação interquadro em cascata. A confiança da detecção é utilizada para particionar adaptativamente as detecções em grupos de alta, média e baixa confiança, que são processados usando estratégias de associação diferentes. As detecções de alta confiança são associadas principalmente por meio de informações de movimento, enquanto as detecções de média e baixa confiança incorporam adicionalmente informações sobre a cor da camiseta e o número do jogador para melhorar a manutenção da identidade quando as evidências visuais são fracas. O método destina-se a tarefas de análise de vídeos esportivos que exigem trajetórias estáveis de atletas, como análise tática e interpretação do comportamento do jogador.
A abordagem proposta também apresenta limitações operacionais. A extração semântica de camisas pode ser afetada por oclusão severa, borrão de movimento, baixa resolução da imagem, poses anômalas das camisas ou números de jogadores invisíveis. Nessas situações, as pistas semânticas baseadas nas camisas podem tornar-se incompletas, e o processo de associação depende mais fortemente da consistência de movimento e da verificação multiquadro. Portanto, as afirmações de desempenho neste estudo estão restritas aos conjuntos de dados avaliados e às configurações experimentais. Experimentos no conjunto de dados SportsMOT mostram que o JerseyTrack melhora as métricas de rastreamento avaliadas e reduz os eventos de troca de identidade sob as condições de rastreamento esportivo testadas. A principal dificuldade do rastreamento múltiplo de objetos (MOT) em vídeos esportivos reside na manutenção da continuidade da trajetória e da consistência de identidade diante de movimentos rápidos, oclusões e similaridade de aparência. Estudos existentes relacionados ao JerseyTrack podem ser amplamente categorizados em duas direções de pesquisa: o uso da confiança da detecção para associação de trajetórias e o aprimoramento de pistas de identidade por meio de características semânticas específicas de esportes.
A confiança na detecção tem sido amplamente utilizada para estimar a confiabilidade das caixas de detecção e orientar a associação de trajetórias em MOT. Métodos iniciais de rastreamento geralmente tratavam a confiança como um critério binário de filtragem, nos quais detecções abaixo de um limiar fixo eram removidas para reduzir falsos positivos11,12. Essa estratégia reduz detecções ruidosas, mas também pode descartar alvos reais sob oclusão, movimento rápido ou baixa qualidade de imagem, resultando em fragmentação de trajetórias13,14,15. Estratégias de filtragem semelhantes também demonstraram que limiares fixos de confiança são sensíveis à variação da cena e à qualidade da detecção16,17. Para melhorar o uso de detecções com baixa confiança, o ByteTrack introduziu uma estratégia de associação que mantém caixas com baixa confiança como alvos candidatos para correspondência secundária e as vincula a trajetórias existentes por meio de similaridade de movimento e histórico de trajetória18. O McByte estende ainda mais a associação em MOT esportivo ao incorporar máscaras de segmentação propagadas temporalmente como uma pista de associação, melhorando a robustez sob condições de movimento rápido, oclusão e deslocamento da câmera, sem necessidade de treinamento adicional por vídeo19. Estudos relacionados também ajustaram o uso de detecções com baixa confiança para manter alvos fracos, mas potencialmente válidos, durante a associação20,21,22. Estratégias de associação adaptativas à confiança posteriormente refinaram os critérios de correspondência com base na consistência de movimento e na confiabilidade da detecção23,24,25. Métodos de refinamento de trajetórias baseados em regressão da caixa de detecção e otimização da suavidade da trajetória também foram utilizados para reduzir a fragmentação de trajetórias26,27,28. Estratégias adicionais de refinamento fornecem suporte complementar para manter a continuidade da trajetória em condições de movimento complexo29. O fluxo temporal coerente de objetos modela ainda mais a consistência temporal em nível de objeto entre quadros, fornecendo outra abordagem orientada à associação para reduzir interrupções de trajetória em cenários complexos de MOT30. Métodos de fusão de rastreadores também aprendem a partir das saídas de múltiplos rastreadores e utilizam estratégias de seleção ou fusão baseadas em aprendizado para melhorar a robustez do rastreamento em diferentes benchmarks de MOT31. Em conjunto, esses estudos indicam que a associação sensível à confiança ajuda a recuperar trajetórias interrompidas; no entanto, pistas de confiança e movimento fornecem informações limitadas sobre identidade quando jogadores do mesmo time possuem aparências visuais semelhantes. Embora esses métodos aliviem efetivamente a fragmentação de trajetórias em cenários gerais, enfrentam limitações inerentes em contextos esportivos, pois jogadores do mesmo time frequentemente têm aparências visuais altamente semelhantes, e depender exclusivamente de informações de confiança e movimento não fornece base suficiente para diferenciação de identidade32,33,34. Mesmo quando caixas com baixa confiança são recuperadas com eficácia, a similaridade de características ainda pode levar à troca de identidade, dificultando o atendimento aos rigorosos requisitos de consistência de identidade na análise esportiva.
Indicadores específicos de identidade esportiva também têm sido utilizados para melhorar a discriminação de identidade no rastreamento de atletas. Informações semânticas da camisa, como cor do time e número do jogador, fornecem pistas identitárias mais diretamente relacionadas a cenários esportivos do que incorporações gerais de aparência35,36,37. A cor da camisa tem sido usada para apoiar a discriminação em nível de equipe e reduzir a confusão entre times, enquanto o reconhecimento do número do jogador fornece uma pista identitária mais precisa quando a região do número está visível e legível38,39. Estudos existentes sobre rastreamento esportivo incorporaram características visuais específicas do domínio e reconhecimento da cor da camisa para melhorar a associação de jogadores em condições esportivas lotadas40,41. Trabalhos relacionados sobre reconhecimento de número da camisa e dados sintéticos de números apoiam ainda mais a modelagem de identidade em condições de baixa resolução ou oclusão parcial42,43. Esses estudos indicam que a semântica da camisa pode fortalecer a representação de identidade no rastreamento de múltiplos objetos em esportes (MOT). No entanto, a maioria dos métodos de rastreamento aprimorados por semântica não modela suficientemente a relação entre a confiança na detecção e a qualidade da característica semântica. Detecções de alta confiança podem já conter informações espaciais e de aparência confiáveis, tornando a extração semântica repetida menos eficiente. Detecções de baixa confiança frequentemente sofrem com oclusão, desfoque, truncamento ou baixa resolução, reduzindo a confiabilidade das pistas de cor e número do jogador. Essa limitação motiva um design de associação guiado por confiança, no qual a semântica da camisa é introduzida de acordo com a qualidade da detecção, em vez de ser aplicada uniformemente a todas as detecções. Os estudos revisados mostram que a associação consciente da confiança e a modelagem semântica da camisa abordam diferentes aspectos do MOT esportivo. As estratégias baseadas em confiança determinam principalmente se uma detecção deve participar da associação e como ela deve ser combinada com trajetórias existentes, enquanto as estratégias semânticas de camisa aprimoram principalmente a representação de identidade por meio de pistas específicas do esporte. No entanto, esses dois mecanismos são frequentemente projetados como componentes separados. Como resultado, as pistas semânticas nem sempre são ajustadas de acordo com a qualidade da detecção, e os níveis de confiança não regulam diretamente o uso das informações de cor e número do jogador durante a associação. Essa separação limita o tratamento conjunto de fragmentação de trajetória e confusão de identidade em vídeos de esportes coletivos. A lacuna de pesquisa remanescente reside na vinculação da avaliação da qualidade da confiança na detecção com a associação semântica da camisa dentro do mesmo fluxo de trabalho de rastreamento.