O rastreamento múltiplo de objetos (MOT) em vídeos esportivos fornece informações de trajetória para análise tática, interpretação do comportamento dos jogadores e análise estatística automatizada. No entanto, cenários esportivos frequentemente envolvem mudanças rápidas de direção, paradas bruscas, oclusões frequentes e companheiros de equipe visualmente semelhantes, resultando em flutuações na confiança da detecção e confusão de identidade durante a associação entre quadros. Para enfrentar esses desafios, este estudo apresenta o JerseyTrack, um método de MOT esportivo orientado pela confiança e baseado na fusão semântica de camisas. O fluxo de trabalho particiona adaptativamente as caixas de detecção em intervalos de alta, média e baixa confiança, de acordo com a distribuição de confiança de cada quadro. As detecções de alta confiança são associadas principalmente com base na similaridade de movimento, enquanto as detecções de média e baixa confiança incorporam adicionalmente características da cor da camisa e do número do jogador, extraídas por meio de agrupamento de cores e um modelo leve de Reconhecimento Óptico de Caracteres (OCR). Esses atributos semânticos são fundidos com informações de movimento durante a correspondência complementar para melhorar a continuidade da trajetória e a consistência de identidade. O método foi avaliado no conjunto de dados SportsMOT. O JerseyTrack alcançou 88,9% de precisão no rastreamento múltiplo de objetos (MOTA), 74,3% de pontuação F1 de identidade (IDF1) e 69,9% de precisão no rastreamento de ordem superior (HOTA), demonstrando um desempenho aprimorado no cenário de rastreamento esportivo avaliado. Este protocolo fornece um fluxo de trabalho reproduzível para integrar a associação orientada pela confiança com informações semânticas da camisa, a fim de melhorar o rastreamento múltiplo de objetos em vídeos esportivos.