Methodenartikel

Eine konfidenzgesteuerte Multi-Object-Tracking-Methode für Sportvideos unter Verwendung von Jersey-Semantikfusion

DOI:

10.3791/71557

14. August 2026

In diesem Artikel

Zusammenfassung

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Dieses Protokoll beschreibt einen vertrauensbasierten Workflow zur Mehrfachobjektverfolgung in Sportvideos, der Informationen zur Trikotfarbe und Spielernummer integriert, um die Zuordnung von Trajektorien und die Identitätskonsistenz bei Schwankungen des Vertrauens, bei Verdeckungen und optisch ähnlichen Erscheinungsbildern der Athleten zu verbessern.

Zusammenfassung

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Die Mehrfach-Objektverfolgung (MOT) in Sportvideos liefert Trajektorieninformationen für taktische Analysen, die Interpretation des Spielerverhaltens und automatisierte statistische Auswertungen. Sportaufnahmen weisen jedoch häufig schnelle Richtungswechsel, abrupte Stopps, häufige Verdeckungen und optisch ähnliche Teamkameraden auf, was zu Schwankungen der Detektionszuverlässigkeit und Identitätsverwirrung bei der Zuordnung zwischen aufeinanderfolgenden Bildern führt. Um diese Herausforderungen zu bewältigen, stellt diese Studie JerseyTrack vor, eine vertrauensbasierte Methode zur Sport-MOT, die auf der semantischen Fusion von Trikotinformationen beruht. Der Arbeitsablauf unterteilt die Detektionsboxen adaptiv in hoch-, mittel- und niedrigvertrauenswürdige Intervalle, basierend auf der Konfidenzverteilung jedes Einzelbilds. Hochvertrauenswürdige Detektionen werden hauptsächlich anhand der Bewegungsähnlichkeit zugeordnet, während mittel- und niedrigvertrauenswürdige Detektionen zusätzlich Trikotfarb- und Spielernummernmerkmale nutzen, die mittels Farbclustering und einem leichten Optical Character Recognition-Modell (OCR) extrahiert werden. Diese semantischen Merkmale werden während der ergänzenden Zuordnung mit Bewegungsinformationen fusioniert, um die Kontinuität der Trajektorien und die Konsistenz der Identitäten zu verbessern. Die Methode wurde auf dem SportsMOT-Datensatz evaluiert. JerseyTrack erreichte eine Multiple Object Tracking Accuracy (MOTA) von 88,9 %, eine IDentity F1 Score (IDF1) von 74,3 % und eine Higher Order Tracking Accuracy (HOTA) von 69,9 %, was eine verbesserte Verfolgungsleistung im untersuchten Szenario der Sportverfolgung belegt. Dieses Protokoll stellt einen reproduzierbaren Arbeitsablauf bereit, um die vertrauensbasierte Zuordnung mit semantischen Trikotinformationen zu integrieren und dadurch die Mehrfach-Objektverfolgung in Sportvideos zu verbessern.

Einleitung

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Das Mehrfachobjekt-Tracking (MOT) ermöglicht eine kontinuierliche Lokalisierung von Objekten und die Beibehaltung ihrer Identität in Videosequenzen und unterstützt die Extraktion von Athletentrajektorien, taktische Analysen sowie automatisierte statistische Auswertungen in Anwendungen mit Sportvideos1,2,3. Zuverlässige visuelle Informationen sind zudem mit sportartspezifischen Entscheidungsprozessen und der Leistungsbewertung in der Sportwissenschaft verknüpft, was den Wert stabiler, aus Videos gewonnener Bewegungsdaten für nachgeschaltete sportliche Analysen weiter unterstreicht4. In sportlichen Szenarien hängt die Zuverlässigkeit taktischer Daten von der Kontinuität der Verfolgungstrajectorien und der Konsistenz der Zielidentitäten ab.

Im Vergleich zu allgemeinen MOT-Szenarien enthalten Sportvideos schnelle Richtungswechsel, abrupte Stopps, Sprünge, dichte Interaktionen und häufige Verdeckungen. Diese Faktoren verursachen erhebliche Schwankungen der Vertrauenswürdigkeit der Erkennungsboxen und erhöhen die Häufigkeit von Erkennungen mit geringer Zuverlässigkeit, was die Zuordnung von Trajektorien unterbrechen kann5,6. Einheitliche Teamtrikots verringern zudem die Unterscheidungsfähigkeit allgemeiner Erscheinungsmerkmale und erhöhen die Identitätsverwirrung zwischen optisch ähnlichen Teammitgliedern7,8. Wenn Verdeckungen und Ähnlichkeit im Erscheinungsbild in derselben Sequenz auftreten, nimmt die Erkennungszuverlässigkeit ab und die Erscheinungsinformationen des Ziels werden unvollständig, wodurch die Schwierigkeit der Trajektorienzuordnung und der Identitätserhaltung zunimmt9,10. In der mehrfachen Objektverfolgung (MOT) bezeichnet die Wiedererkennung (Re-ID) den Prozess, bei dem dieselbe Zielidentität über mehrere Bilder, Verdeckungsphasen oder Wiedereintrittssituationen hinweg anhand identitätsbezogener visueller Merkmale zugeordnet wird. In Videos von Mannschaftssportarten können allgemeine Re-ID-Merkmale geschwächt sein, da Athleten derselben Mannschaft oft ähnliche Trikots und Körperformen aufweisen. Die technische Literaturübersicht zeigt, dass Trajektorienbrüche und Identitätsverwirrungen in der Sport-MOT üblicherweise durch zwei komplementäre Ansätze angegangen werden: die Nutzung der Erkennungszuverlässigkeit und die Verbesserung der Identitätsmerkmale. JerseyTrack positioniert sich an der Schnittstelle dieser Ansätze, indem es die Verwendung semantischer Trikotmerkmale je nach Qualität der Erkennung reguliert, anstatt Farb- und Spielernummerninformationen einheitlich auf alle Erkennungen anzuwenden.

Die vorliegende Studie stellt JerseyTrack vor, eine vertrauensbasierte Methode zur mehrfachen Objektverfolgung (MOT) im Sport, die auf der semantischen Fusion von Trikotmerkmalen basiert. Die Methode ist für Videos von Mannschaftssportarten konzipiert, bei denen Athleten sichtbare Trikots tragen und die Detektionsergebnisse Begrenzungsboxen mit Vertrauenswerten liefert. JerseyTrack kombiniert vier Hauptkomponenten: Athletendetektion, vertrauensbasierte Gruppeneinteilung, Extraktion semantischer Trikotmerkmale und kaskadierte inter-frame-Verknüpfung. Die Vertrauenswerte der Detektion werden verwendet, um die erkannten Objekte adaptiv in Gruppen mit hohem, mittlerem und niedrigem Vertrauen einzuteilen, die jeweils mit unterschiedlichen Verknüpfungsstrategien verarbeitet werden. Detektionen mit hohem Vertrauen werden vorrangig über Bewegungsinformationen verknüpft, während bei Detektionen mit mittlerem und niedrigem Vertrauen zusätzlich Trikotfarbe und Spielernummern berücksichtigt werden, um die Identitätssicherung zu verbessern, wenn die visuellen Hinweise schwach sind. Die Methode ist für die Analyse von Sportvideos gedacht, die stabile Athletentrajektorien erfordern, beispielsweise für taktische Analysen oder die Interpretation des Spielerverhaltens.

Der vorgeschlagene Ansatz weist ebenfalls betriebliche Einschränkungen auf. Die semantische Extraktion von Trikots kann durch starke Verdeckung, Bewegungsunschärfe, niedrige Bildauflösung, abnormale Trikotpositionen oder unsichtbare Spielernummern beeinträchtigt werden. In solchen Fällen können die trikotbasierten semantischen Hinweise unvollständig werden, wodurch der Assoziierungsprozess stärker auf Bewegungskonsistenz und Mehrbildverifizierung angewiesen ist. Die Leistungsbehauptungen dieser Studie gelten daher nur für die ausgewerteten Datensätze und experimentellen Rahmenbedingungen. Experimente auf dem SportsMOT-Datensatz zeigen, dass JerseyTrack die bewerteten Tracking-Metriken verbessert und die Anzahl von Identitätswechseln unter den getesteten Sport-Tracking-Bedingungen verringert. Die Hauptschwierigkeit des Mehrfachobjekt-Trackings (MOT) in Sportvideos liegt darin, die Trajektorienkontinuität und Identitätskonsistenz bei schnellen Bewegungen, Verdeckungen und ähnlicher Erscheinung aufrechtzuerhalten. Bestehende Studien im Zusammenhang mit JerseyTrack lassen sich grob in zwei Forschungsrichtungen einteilen: die Nutzung der Detektionszuverlässigkeit für die Trajektorienzuordnung und die Verbesserung von Identitätshinweisen durch sportartspezifische semantische Merkmale.

Die Erkennungskonfidenz wird häufig verwendet, um die Zuverlässigkeit von Erkennungsboxen abzuschätzen und die Trajektorienzuordnung in der Mehrfachobjektverfolgung (MOT) zu steuern. Frühe Verfolgungsmethoden behandelten die Konfidenz meist als binäres Filterkriterium, bei dem Erkennungen unterhalb einer festen Schwelle entfernt wurden, um Falschpositiv-Ergebnisse zu reduzieren11,12. Diese Strategie verringert verrauschte Erkennungen, kann jedoch auch echte Ziele bei Verdeckung, schneller Bewegung oder geringer Bildqualität verwerfen, was zu einer Fragmentierung der Trajektorien führt13,14,15. Ähnliche Filterstrategien haben außerdem gezeigt, dass feste Konfidenzschwellen empfindlich gegenüber Szenenvariationen und der Qualität der Erkennung sind16,17. Um die Nutzung von Erkennungen mit niedriger Konfidenz zu verbessern, führte ByteTrack eine Zuordnungsstrategie ein, die Erkennungsboxen mit niedriger Konfidenz als Kandidaten für eine sekundäre Zuordnung beibehält und sie mithilfe von Bewegungsähnlichkeit und Trajektorienverlauf mit bestehenden Trajektorien verknüpft18. McByte erweitert diese Zuordnung für Sport-MOT weiter, indem zeitlich fortgepflanzte Segmentierungsmasken als zusätzlicher Hinweis für die Zuordnung integriert werden, wodurch die Robustheit bei schneller Bewegung, Verdeckung und Kameraverschiebung verbessert wird, ohne zusätzliches Training pro Video zu erfordern19. Verwandte Studien haben ebenfalls die Nutzung von Erkennungen mit niedriger Konfidenz angepasst, um schwache, aber potenziell gültige Ziele während der Zuordnung zu erhalten20,21,22. Konfidenzadaptive Zuordnungsstrategien haben daraufhin die Zuordnungskriterien basierend auf Bewegungskonsistenz und Erkennungszuverlässigkeit verfeinert23,24,25. Methoden zur Trajektorienverbesserung, die auf der Regressionsanalyse von Erkennungsboxen und der Optimierung der Trajektorienglättung basieren, wurden ebenfalls eingesetzt, um die Fragmentierung von Trajektorien zu reduzieren26,27,28. Zusätzliche Verfeinerungsstrategien liefern ergänzende Unterstützung, um die Kontinuität der Trajektorien unter komplexen Bewegungsbedingungen aufrechtzuerhalten29. Der zeitlich kohärente Objektfluss modelliert zudem die objektbasierte zeitliche Konsistenz über mehrere Bilder hinweg und stellt einen weiteren, auf die Zuordnung ausgerichteten Ansatz zur Verringerung von Trajektorienunterbrechungen in komplexen MOT-Szenarien bereit30. Tracker-Fusionsmethoden lernen aus den Ausgaben mehrerer Tracker und nutzen lernbasierte Selektions- oder Fusionsstrategien, um die Robustheit der Verfolgung über verschiedene MOT-Benchmarks hinweg zu verbessern31. Insgesamt zeigen diese Studien, dass eine konfidenzbewusste Zuordnung dabei hilft, unterbrochene Trajektorien wiederherzustellen. Allerdings liefern Konfidenz- und Bewegungshinweise nur begrenzte Identitätsinformationen, wenn Spieler derselben Mannschaft ein ähnliches visuelles Erscheinungsbild aufweisen. Obwohl diese Methoden die Trajektorienfragmentierung in allgemeinen Szenarien effektiv verringern, stoßen sie in Sportkontexten an inhärente Grenzen, da Spieler derselben Mannschaft oft ein sehr ähnliches visuelles Erscheinungsbild haben und eine alleinige Orientierung an Konfidenz- und Bewegungsinformationen keine ausreichende Grundlage für die Unterscheidung von Identitäten bietet32,33,34. Selbst wenn Erkennungsboxen mit niedriger Konfidenz effektiv reidentifiziert werden, kann die Ähnlichkeit der Merkmale weiterhin zu Identitätswechseln führen, was die Erfüllung der strengen Anforderungen an die Identitätskonsistenz in der Sportanalyse erschwert.

Sportartspezifische Identitätsmerkmale wurden ebenfalls verwendet, um die Identitätsdiskriminierung bei der Athletenverfolgung zu verbessern. Semantische Informationen des Trikots, wie Mannschaftsfarbe und Spielernummer, liefern Identitätsmerkmale, die direkter mit Sportzenarien verknüpft sind als allgemeine Erscheinungseigenschaften35,36,37. Die Trikotfarbe wurde genutzt, um die Unterscheidung auf Mannschaftsebene zu unterstützen und Verwechslungen zwischen Mannschaften zu reduzieren, während die Erkennung der Spielernummer einen feiner abgestuften Identitätsanhaltspunkt bietet, wenn der Nummernbereich sichtbar und lesbar ist38,39. Bestehende Studien zur Sportverfolgung haben domänenspezifische visuelle Merkmale und die Erkennung von Trikotfarben integriert, um die Zuordnung von Spielern unter überfüllten Sportbedingungen zu verbessern40,41. Arbeiten zur Erkennung von Trikotnummern und synthetischen Nummerndaten unterstützen zudem die Identitätsmodellierung unter Bedingungen niedriger Auflösung oder teilweiser Verdeckung42,43. Diese Studien zeigen, dass Trikotsemantik die Identitätsrepräsentation im sportlichen Mehrfachobjekt-Tracking (MOT) stärken kann. Die meisten semantikbasierten Verfolgungsmethoden modellieren jedoch nicht ausreichend den Zusammenhang zwischen Detektionsvertrauen und der Qualität semantischer Merkmale. Detektionen mit hohem Vertrauen enthalten möglicherweise bereits zuverlässige räumliche und visuelle Informationen, wodurch eine wiederholte semantische Extraktion weniger effizient wird. Detektionen mit niedrigem Vertrauen leiden oft unter Verdeckung, Unschärfe, Abschneidung oder niedriger Auflösung, was die Zuverlässigkeit von Farb- und Spielernummernmerkmalen verringert. Diese Einschränkung motiviert ein vertrauensgeleitetes Zuordnungsdesign, bei dem Trikotsemantik entsprechend der Detektionsqualität eingeführt wird, anstatt einheitlich auf alle Detektionen angewendet zu werden. Die ausgewerteten Studien zeigen, dass vertrauensbasierte Zuordnung und semantische Trikotmodellierung unterschiedliche Aspekte des sportlichen MOT adressieren. Strategien basierend auf Vertrauen bestimmen hauptsächlich, ob eine Detektion an der Zuordnung teilnehmen soll und wie sie mit bestehenden Trajektorien abgeglichen werden soll, während semantische Trikotstrategien die Identitätsrepräsentation primär durch sportartspezifische Merkmale verbessern. Diese beiden Mechanismen werden jedoch oft als separate Komponenten konzipiert. Dadurch werden semantische Merkmale nicht immer entsprechend der Detektionsqualität angepasst, und Vertrauensniveaus regulieren nicht direkt die Nutzung von Farb- und Spielernummerinformationen während der Zuordnung. Diese Trennung begrenzt die gemeinsame Bewältigung von Trajektorienbrüchen und Identitätsverwirrung in Videos von Mannschaftssportarten. Die verbleibende Forschungslücke besteht darin, die Bewertung der Detektionsvertrauensqualität mit der semantischen Trikotzuordnung innerhalb desselben Tracking-Workflows zu verknüpfen.

Protokoll

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Diese Studie umfasste eine sekundäre Analyse öffentlich zugänglicher Benchmark-Videodatensätze, und zwar SportsMOT, TeamTrack, SoccerNet Tracking, MOT17 und MOT20. Es wurden keine Teilnehmer rekrutiert, es wurde keine Intervention durchgeführt und es wurden keine neuen Daten an menschlichen Versuchspersonen erhoben. Eine Genehmigung durch einen Ethikausschuss war für diese Studie gemäß den geltenden institutionellen Vorgaben der Bangkok Thonburi University nicht erforderlich.

Das folgende Protokoll beschreibt den Arbeitsablauf zur Reproduktion von JerseyTrack ausgehend von der Datenaufbereitung bis hin zur Auswertung der Objektverfolgung. Der Arbeitsablauf umfasst die Datensatzvorbereitung, die Vorbereitung des Detektors, die semantische Extraktion der Trikots, die Aufteilung nach Konfidenzniveau, die konfidenzgeleitete Zuordnung, die Verfolgungsanalyse und die Leistungsbewertung, wie in Abbildung 1 zusammengefasst. Die erforderliche Software, Datensätze und Hardwareressourcen sind in der Tabelle der Materialien aufgelistet.

figure-protocol-1
Abbildung 1. Gesamter Arbeitsablauf der JerseyTrack-Methode. Der Arbeitsablauf umfasst die semantische Merkmalsextraktion aus Trikots, die anfängliche Objektzuordnung, die vertrauensbasierte ergänzende Zuordnung und die Merkmalsfusion. Teamfarb- und Spielernummernmerkmale werden aus erkannten Athletenbereichen extrahiert und in den Assoziierungsprozess integriert, um die Trajektorienzuordnung unter unsicheren Erkennungsbedingungen zu verbessern. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

1. Bereiten Sie die Datensätze und die Verzeichnisstruktur vor

  1. Laden Sie die in der Tabelle der Materialien aufgeführten öffentlichen Benchmark-Datensätze herunter. Verwenden Sie SportsMOT als primären Datensatz für die Vorbereitung des Detektors und die Bewertung der Verfolgung. Behalten Sie TeamTrack, SoccerNet Tracking, MOT17 und MOT20 für die Querdatensatz-Evaluation bei.
  2. Speichern Sie alle Datensätze in einem einheitlichen Projektverzeichnis. Stellen Sie sicher, dass der Detektor, das Modul zur semantischen Extraktion, das Verfolgungsmodul und das Evaluierungswerkzeug identische Sequenzbezeichner verwenden.
  3. Konvertieren Sie die offiziellen SportsMOT-Anmerkungen mithilfe des in dieser Studie verwendeten Datenvorbereitungsskripts in das Format für das Training des Detektors. Führen Sie den folgenden Befehl aus:
    ..\venv\Scripts\python.exe scripts\prepare_data.py --config configs\datasets.local.json --dataset SportsMOT --out data\processed\SportsMOT_yolo --splits train val.
  4. Das Datenvorbereitungsskript (scripts/prepare_data.py) ist im JerseyTrack-Quellcode-Repository verfügbar (https://doi.org/10.5281/zenodo.21274352). Die erforderlichen Softwareabhängigkeiten sind in der Datei environment.yml angegeben, einschließlich Python 3.12, PyTorch 2.11.0 und OpenCV 4.10 oder höher. Richten Sie die Softwareumgebung mit dem folgenden Befehl ein: conda env create -f environment.yml. Führen Sie das Datenvorbereitungsskript mit dem folgenden Befehl aus: python scripts/prepare_data.py --config configs/datasets.local.json --dataset SportsMOT --out data/processed/SportsMOT_yolo --splits train val.
  5. Überprüfen Sie, ob die Konvertierung die Konfigurationsdatei für das Training des Detektors erzeugt: data\processed\SportsMOT_yolo\data.yaml sowie das Konvertierungsprotokoll: data\processed\SportsMOT_yolo\conversion_manifest.csv.
    HINWEIS: In dieser Studie enthielt der konvertierte SportsMOT-Trainings- und Validierungsdatensatz 90 Sequenzen, 55.544 Bilder und 608.152 annotierte Objekte.
  6. Untersuchen Sie repräsentative Sequenzen, um sicherzustellen, dass die Reihenfolge der Bilder, die Koordinaten der Begrenzungsboxen und die Identitätskennzeichnungen mit den ursprünglichen Benchmark-Anmerkungen übereinstimmen.
  7. Behalten Sie die konvertierten Anmerkungsdateien unverändert während der gesamten Vorbereitung des Detektors, der Verfolgungsinferenz und der Evaluierung, sodass alle Methoden dieselbe Datensatzpartition und dasselbe Evaluierungsprotokoll verwenden.
    HINWEIS: Das erwartete Ergebnis dieses Abschnitts ist ein standardisiertes SportsMOT-Detektor-Trainingsverzeichnis, das die konvertierten Anmerkungen, das Konvertierungsprotokoll und die Datensatz-Aufteilungsdateien enthält, die für die Vorbereitung des Detektors und die Evaluierung der Verfolgung erforderlich sind.

2. Vorbereitung der Detektorausgänge

  1. Feinjustieren Sie den Objekterkennungsalgorithmus mithilfe des vorbereiteten SportsMOT-Trainingsdatensplits. Optimieren Sie den Detektor anhand des Klassifizierungsverlusts und des Verlusts für die Bounding-Box-Regression, wie in Gleichung 1 definiert. Verwenden Sie die im Implementierungsaufbau sowie in der Tabelle der Materialien angegebenen Parameter: Eingangsauflösung des Detektors, Batch-Größe, Lernrate, Anzahl der Trainingsepochen und weitere Trainingsparameter.
    Ldet = Lcls + Lbox   (1)
    Hierbei bezeichnet  Ldet  den gesamten Detektorverlust, Lcls  den Klassifizierungsverlust und Lbox  den Verlust für die Bounding-Box-Regression.
    HINWEIS: Der im Hauptexperiment verwendete Detektor-Checkpoint (interner Experiment-Identifier e3) wurde mit dem Ultralytics-YOLO-Framework unter Verwendung der SportsMOT-YOLO-Datensatzkonfiguration (data/processed/SportsMOT_yolo/data.yaml) trainiert. Führen Sie das Training des Detektors mit folgendem Befehl durch: yolo detect train data=data/processed/SportsMOT_yolo/data.yaml model=yolo11x.pt epochs=80 imgsz=960 batch=16 lr0=0.01 project=outputs/formal name=checkpoints/detector device=0. Verwenden Sie nach Abschluss des Trainings den resultierenden besten Checkpoint, um mit folgendem Befehl die Detektor-Ausgaben für die Validierungssequenzen zu generieren: python scripts/formal_detect_yolo.py --dataset-root datasets/SportsMOT/dataset --split val --model outputs/formal/checkpoints/detector/weights/best.pt --out-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_threshold_sweep/t005/detections --imgsz 960 --conf 0.05 --device 0 --batch 16.
  2. Speichern Sie nach dem Training den trainierten Detektor-Checkpoint, die zugehörige Metadatendatei und das Trainingsprotokoll.
    HINWEIS: In dieser Studie wurde der für die formalen Experimente verwendete Detektor-Checkpoint unter folgendem Pfad gespeichert:
    outputs\formal\checkpoints\detector\sportsmot_yolo11x_i960_e3_best.pt. Die entsprechende Metadatendatei wurde unter folgendem Pfad gespeichert: outputs\formal\checkpoints\detector\sportsmot_yolo11x_i960_e3_best.json. Das für die Hauptvalidierungsexperimente mit SportsMOT verwendete Ausgabeverzeichnis des Detektors lautete: outputs\formal_runs\sportsmot_val_yolo11x_i960_e3_threshold_sweep\t005\detections.
  3. Führen Sie den trainierten Detektor auf jeder Validierungssequenz aus, um die Bounding-Boxes und Konfidenzwerte der Athleten zu generieren. Exportieren Sie pro Sequenz eine Detektionsdatei, die den Frame-Index, die Koordinaten der Bounding-Box, das Konfidenzniveau der Detektion und die Klassenbezeichnung enthält.
    HINWEIS: Bei der für die Hauptexperimente verwendeten SportsMOT-Validierungslauf mit einem Konfidenzschwellenwert von 0,05 wurden insgesamt 343.990 Athletendetektionen generiert.
  4. Überprüfen Sie das Ausgabeverzeichnis des Detektors vor der Tracking-Inferenz. Stellen Sie sicher, dass jeder Sequenz eine entsprechende Detektionsdatei zugeordnet ist, dass die Frame-Indizes mit der vorbereiteten Bildsequenz übereinstimmen und dass jeder Detektionsdatensatz einen Konfidenzwert enthält.
    HINWEIS: Das erwartete Ergebnis dieses Abschnitts ist ein vollständiges Ausgabeverzeichnis des Detektors, das als Eingabe für die semantische Extraktion der Trikots, die Aufteilung nach Konfidenzniveau und die Tracking-Zuordnung dient.

3. Extrahieren Sie semantische Merkmale des Trikots

  1. Verwenden Sie die Ausgabedateien des Detektors, um die Athletenbereiche aus jedem Videobild auszuschneiden. Speichern Sie jedes zugeschnittene Athletenbild mit seinem Sequenzbezeichner, Bildindex und Detektionsindex. Schließen Sie ungültige Ausschnitte mit fehlendem Bildinhalt oder Begrenzungsrahmen, die außerhalb der Bildgrenze liegen, aus. Behalten Sie die Verknüpfung zwischen jedem Ausschnittdateinamen und seinem ursprünglichen Detektionsdatensatz bei, sodass die extrahierten semantischen Merkmale während der Verfolgungsverknüpfung dem entsprechenden Detektionsereignis zugeordnet werden können.
  2. Extrahieren Sie die Trikotfarbmerkmale aus den zugeschnittenen Athletenbildern mithilfe des in dieser Studie verwendeten semantischen Extraktionsskripts.
    HINWEIS: Die Skripte zur semantischen Merkmalsextraktion (scripts/extract_fast_color_semantics.py und scripts/formal_extract_semantics.py) sind im JerseyTrack-Quellcode-Repository verfügbar (https://doi.org/10.5281/zenodo.21274352). Es ist keine separate Konfigurationsdatei erforderlich; alle Laufzeitparameter werden über Befehlszeilenargumente bereitgestellt.
    Generieren Sie Trikotfarbdeskriptoren mit dem folgenden Befehl: python scripts/extract_fast_color_semantics.py --detections-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_threshold_sweep/t005/detections --frames-root datasets/SportsMOT/dataset/val --out-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_t005_color. Generieren Sie semantische Merkmale der Spielernummer mithilfe des OCR-Modells mit dem folgenden Befehl: python scripts/formal_extract_semantics.py --detections-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_threshold_sweep/t005/detections --frames-root datasets/SportsMOT/dataset/val --out-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_t005_ocr. Die generierten Trikotfarbdeskriptoren und die Wahrscheinlichkeitsausgaben für die Spielernummer werden über den Sequenzbezeichner verknüpft und zu den semantischen Merkmalsdateien kombiniert, die während der Verfolgungsverknüpfung verwendet werden.
  3. Konvertieren Sie jedes zugeschnittene Athletenbild in den Farbraum Hue, Saturation, Value (HSV). Extrahieren Sie Vordergrundpixel aus dem Trikotbereich und fassen Sie die dominante Trikotfarbe mittels K-Means-Clustering mit K = 3 zusammen. Normalisieren Sie den resultierenden Farbdeskriptor vor dem Merkmalsvergleich mittels L2-Normalisierung.
  4. Trainieren Sie den Zweig zur Erkennung der Spielernummer mit zugeschnittenen Athletenbildern mit einer Eingabegröße von 128 × 64 Pixeln. Generieren Sie Pseudobezeichnungen für die Spielernummer mithilfe des in dieser Studie verwendeten schwach überwachten Bezeichnungsverfahrens. Schließen Sie Ausschnitte mit unsichtbaren, unlesbaren, stark verdeckten oder niedrigen Vertrauensbereichen für die Spielernummer von der Berechnung des Optical-Character-Recognition-(OCR)-Verlusts aus.
  5. Optimieren Sie den OCR-Zweig mithilfe des in Gleichung 2 definierten Kreuzentropieverlusts.
    figure-protocol-2 (2)
    Hier bezeichnet Locr den OCR-Verlust, yi bezeichnet die überwachte Bezeichnung der Spielernummer und figure-protocol-3 bezeichnet die vorhergesagte Kategorie der Spielernummer.
  6. Optimieren Sie das Modul zur semantischen Merkmalsextraktion mithilfe des adaptiven Optimierers, der Lernrate, der Batch-Größe, des Gewichtsverfalls und der Trainingsdauer, die in der Tabelle der Materialien aufgeführt sind. Kombinieren Sie den Detektorverlust und den OCR-Verlust mithilfe der in Gleichung 3 definierten gesamten Trainingszielsetzung.
    Ltotal = Ldet + γLocr   (3)
    Hier bezeichnet Ltotalden gesamten Trainingsverlust, Ldet den in Gleichung 1 definierten Detektorverlust, Locr den in Gleichung 2 definierten OCR-Verlust und bezeichnet den benutzerdefinierten Gewichtungskoeffizienten für den OCR-Verlust.
  7. Wenden Sie den trainierten OCR-Zweig auf jedes zugeschnittene Athletenbild an. Speichern Sie die vorhergesagte Kategorie oder den Wahrscheinlichkeitsvektor der Spielernummer für jeden Ausschnitt. Wenn die Spielernummer nicht sichtbar ist oder das OCR-Vertrauen unterhalb des in der Implementierung definierten Schwellwerts liegt, vermerken Sie das Spielernummernmerkmal als nicht verfügbar, anstatt eine Vorhersage zu erzwingen.
  8. Kombinieren Sie den Trikotfarbdeskriptor und die Ausgabe der Spielernummer zur semantischen Merkmalsdatei, die vom Verfolgungsmodul verwendet wird.
    HINWEIS: Bei dem Hauptvalidierungslauf von SportsMOT verarbeitete das semantische Extraktionsskript 343.990 Detektionen ohne fehlende Bilder oder ungültige Ausschnitte. In dem aktuellen Überarbeitungspaket meldete die semantische Extraktionszusammenfassung eine Gesamtgenauigkeit der Extraktion semantischer Merkmale aus Farbe und OCR von 86,7 % unter den evaluierten SportsMOT-Bedingungen. Das erwartete Ergebnis dieses Abschnitts ist eine semantische Merkmalsdatei, in der jeder gültige Detektionsdatensatz mit einem Trikotfarbdeskriptor, einer Spielernummernausgabe (falls verfügbar) und einer Kennzeichnung verknüpft ist, die angibt, ob semantische Informationen für die Verfolgungsverknüpfung verfügbar sind.

4. Konfidenzniveaus für die Partitionserkennung

  1. Laden Sie die Detektor-Ausgabedatei für jede Videosequenz. Sammeln Sie die Konfidenzwerte aller Athleten-Detektionen in jedem Einzelbild.
  2. Teilen Sie die Konfidenzwerte auf Ebene der Einzelbilder in Intervalle mit hoher, mittlerer und niedriger Konfidenz mithilfe von K-Means-Clustering mit K = 3 auf, gemäß dem im Abbildung 2 gezeigten Konfidenz-gesteuerten Assoziierungsworkflow. Bestimmen Sie die adaptiven Konfidenzschwellwerte, indem Sie die Varianz innerhalb der Cluster gemäß Gleichung 4 minimieren.
    figure-protocol-4  (4)
    Hier bezeichnet sd den Konfidenzwert der Detektion d; D1, D2 und D3 bezeichnen die Intervalle mit hoher, mittlerer und niedriger Konfidenz; μ1, μ2 und μ3 bezeichnen die mittleren Konfidenzwerte der drei Intervalle; und τ1 sowie τ2 bezeichnen die adaptiven Konfidenzschwellwerte, die aus den K-Means-Clustering-Ergebnissen abgeleitet wurden.
    HINWEIS: Das Skript zur Konfidenzunterteilung (scripts/formal_partition_confidence.py) ist im JerseyTrack-Quellcode-Repository verfügbar (https://doi.org/10.5281/zenodo.21274352). Das Konfidenzunterteilungsmodul verwendet ein eindimensionales K-Means-Clustering-Verfahren auf Basis von NumPy mit K = 3. Es ist keine separate Konfigurationsdatei erforderlich; das Eingabeverzeichnis, das Ausgabeverzeichnis und der Clustering-Parameter werden über Befehlszeilenargumente angegeben. Führen Sie die Konfidenzunterteilung mit folgendem Befehl aus: python scripts/formal_partition_confidence.py --detections-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_threshold_sweep/t005/detections --out-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_threshold_sweep/t005/confidence --k 3. Die erforderlichen Softwareabhängigkeiten, einschließlich der NumPy-Version, sind in environment.yml angegeben.
  3. Führen Sie die Konfidenzunterteilung mit dem Verzeichnis der Detektor-Ausgabe als Eingabe durch.
    HINWEIS: In dieser Studie war das Verzeichnis der Detektor-Ausgabe: outputs\formal_runs\sportsmot_val_yolo11x_i960_e3_threshold_sweep\t005\detections. Das Ausgabeverzeichnis der Konfidenzunterteilung war: outputs\formal_runs\sportsmot_val_yolo11x_i960_e3_threshold_sweep\t005\confidence. Die generierten Ausgabedateien enthielten pro Sequenz die Konfidenz-CSV-Dateien, _confidence_frame_summary.csv und _confidence_runtime.csv.
  4. Weisen Sie jeder Detektion eine Konfidenzstufen-Bezeichnung zu. Kennzeichnen Sie Detektionen mit hoher Konfidenz für die bewegungsbasierte Assoziierung, Detektionen mit mittlerer Konfidenz für die bewegungssemantische Assoziierung und Detektionen mit niedriger Konfidenz ausschließlich für die Trajektorienrekonstruktion. Behalten Sie den ursprünglichen Konfidenzwert zusammen mit der zugewiesenen Konfidenzstufen-Bezeichnung bei.
  5. Überprüfen Sie die Verteilungen der Konfidenzwerte und repräsentative Einzelbilder, wie in Abbildung 3 veranschaulicht. Stellen Sie sicher, dass Detektionen mit hoher Konfidenz vorwiegend vollständigen und zuverlässigen Begrenzungsrahmen der Athleten entsprechen, während Detektionen mit mittlerer und niedriger Konfidenz hauptsächlich unvollständige, verdeckte, unscharfe oder schwache Detektionen enthalten.
    HINWEIS: Das erwartete Ergebnis dieses Abschnitts ist eine Konfidenzunterteilungsdatei, die den Detektionsindex, den ursprünglichen Konfidenzwert, die zugewiesene Konfidenzstufe und die adaptiven Konfidenzschwellwerte auf Ebene der Einzelbilder für jede Detektion enthält.

figure-protocol-5
Abbildung 2. Strategie zur vertrauensbasierten Zuordnung. Der Arbeitsablauf unterteilt die Detektionszuverlässigkeit mithilfe einer adaptiven Zuverlässigkeitsgruppierung in hohe, mittlere und niedrige Zuverlässigkeitsintervalle. Zuverlässige Detektionen werden anhand der Bewegungsähnlichkeit zugeordnet, Detektionen mit mittlerer Zuverlässigkeit anhand der kombinierten Bewegungs- und Trikot-Semantikähnlichkeit, und Detektionen mit niedriger Zuverlässigkeit dienen der semantikgestützten Trajektorienrekonstruktion mit Mehrfrahmenverifikation. Das rechte Feld fasst die mathematische Formulierung zusammen, die für die Zuverlässigkeitsunterteilung und -zuordnung verwendet wird. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

figure-protocol-6
Abbildung 3. Verteilung der Nachweiskonfidenzwerte. Das Histogramm zeigt die Anzahl der Erkennungsfelder für Athleten in fünf Konfidenzintervallen für Fußball-, Basketball- und Volleyballsequenzen im SportsMOT-Datensatz. Die Verteilung veranschaulicht Unterschiede in der Detektorzuversichtlichkeit zwischen den bewerteten Sportkategorien. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

5. Führen Sie eine vertrauensgeleitete Assoziation durch

  1. Laden Sie die Detektor-Ausgabedatei, die Datei mit semantischen Merkmalen und die Datei mit den Konfidenzpartitionen für jede Videosequenz. Initialisieren Sie den Tracker mithilfe der ersten gültigen Detektionen und verwalten Sie einen Trajektoriezustand für jeden verfolgten Athleten. Für jeden nachfolgenden Frame prognostizieren Sie die Position jeder bestehenden Trajektorie unter Verwendung des Bewegungsmodells des Kalman-Filters.
  2. Berechnen Sie die Bewegungsähnlichkeit zwischen jeder prognostizierten Trajektorie und der Kandidatendetektion unter Verwendung des in Gleichung 5 definierten Mahalanobis-Abstands.
    figure-protocol-7  (5)
    Hierbei bezeichnet figure-protocol-8 die I-te Trajektorie im Frame k, figure-protocol-9 den Kalman-prognostizierten Trajektoriezustand, dj die Kandidatendetektion, figure-protocol-10 die inverse Kovarianzmatrix des prognostizierten Trajektoriezustands und Smot den Bewegungsabstand zwischen der prognostizierten Trajektorie und der Detektion.
    HINWEIS: Der Kern des Zuordnungsworkflows ist in jerseytrack/formal_tracker.py implementiert und wird über scripts/formal_track.py ausgeführt, beides verfügbar im JerseyTrack-Quellcode-Repository (https://doi.org/10.5281/zenodo.21274352). Es ist keine separate Konfigurationsdatei erforderlich. Alle Laufzeitparameter, einschließlich der Konfidenzschwellen, maximale Track-Alter, Bewegungsgewichtskoeffizienten und Zentrumsabstandsgewichtung, werden über Kommandozeilenargumente übergeben. Der vollständige Ausführungsbefehl und die Parameter sind in Schritt 6.2 angegeben. Die Implementierung verwendet den linearen Summenzuweisungsalgorithmus von SciPy für das ungarische Matching und NumPy für die kostenbasierte Zuordnung.
  3. Führen Sie den Tracking-Workflow mit der Detektor-Ausgabedatei, der Datei mit semantischen Merkmalen und der Konfidenzpartition-Datei als Eingaben aus.
    HINWEIS: In dieser Studie wurde der Kern-Tracker in jerseytrack\formal_tracker.py implementiert, und der Tracking-Workflow wurde mithilfe von scripts\formal_track.py ausgeführt.
  4. Ordnen Sie Detektionen mit hoher Konfidenz bestehenden Trajektorien unter Berücksichtigung der Bewegungskonsistenz zu. Aktualisieren Sie die zugeordneten Trajektorien und initialisieren Sie neue Trajektorien nur, wenn nicht zugeordnete Detektionen mit hoher Konfidenz die Kriterien für die Trajektorieninitialisierung erfüllen.
  5. Überprüfen Sie die in Abbildung 4 dargestellten Ergebnisse der semantischen Merkmalsextraktion aus den Trikots und erstellen Sie für jede Detektion den semantischen Merkmalsvektor des Trikots, indem Sie den Teamfarb-Deskriptor und das Spielernummern-Merkmal gemäß Gleichung 6 kombinieren.
    fsem = [fcol;fid] (6)
    Hierbei bezeichnet fsem den fusionierten semantischen Merkmalsvektor, fcol den Teamfarb-Deskriptor und fid das vom OCR-Zweig generierte Spielernummern-Merkmal.
  6. Ordnen Sie Detektionen mit mittlerer Konfidenz unter Kombination der Bewegungsähnlichkeit und der semantischen Trikot-Ähnlichkeit zu. Berechnen Sie die fusionierte Matching-Bewertung gemäß Gleichung 7.
    figure-protocol-11 (7)
    Hierbei bezeichnet Ssem die Kosinus-Ähnlichkeit zwischen den semantischen Merkmalsvektoren der Trajektorie und der Kandidatendetektion, Smot den in Gleichung 5 definierten Bewegungsabstand und λden adaptiven Fusionskoeffizienten, der die Terme für Bewegungs- und semantische Ähnlichkeit ausgleicht.
  7. Berechnen Sie den adaptiven Fusionskoeffizienten gemäß Gleichung 8.
    figure-protocol-12 (8)
    Hierbei bezeichnet λden initialen Bewegungsgewichtskoeffizienten, σsd die Standardabweichung der Detektions-Konfidenzwerte im aktuellen Frame und σmax die maximale Standardabweichung der Konfidenzwerte, die zur Normalisierung verwendet wird.
  8. Verwenden Sie Detektionen mit niedriger Konfidenz ausschließlich zur Wiederherstellung von Trajektorien. Ordnen Sie Detektionen mit niedriger Konfidenz nur unterbrochenen Trajektorien zu, wenn semantische Informationen verfügbar sind und die Wiederherstellungskriterien erfüllt sind. Wenden Sie eine Mehr-Frames-Verifizierung an, bevor die Trajektorienidentität wiederhergestellt wird, und verwerfen Sie Detektionen, die die Verifizierung nicht bestehen.
    HINWEIS: Wenn das Spielernummern-Merkmal nicht verfügbar ist, führen Sie die Zuordnung unter Verwendung der verfügbaren semantischen Informationen und der Bewegungskonsistenz durch, anstatt eine Übereinstimmung der Spielernummer erzwingen zu wollen. Das erwartete Ergebnis dieses Abschnitts ist eine Frame-für-Frame-Tracking-Aufzeichnung, die Trajektorienidentitäten, Bounding-Boxes, Konfidenzstufen, Bewegungskosten, semantische Informationen und endgültige Zuordnungsentscheidungen enthält. Im Überarbeitungsnachweis-Paket wurden die Tracking-Ergebnisse unter: outputs\formal_runs\sportsmot_val_yolo11x_i960_e3_center_motion_sweep_round2\age45_h0p95_m0p94_l0p58_mw0p65_lw0p5_va0p25_hsp0p0_cdw0p1\tracking gespeichert.

figure-protocol-13
Abbildung 4. Extraktion semantischer Merkmale aus Trikots. Repräsentative Erkennungen von Athleten sind mit den extrahierten Farbbeschreibungen der Mannschaft und den vom Modul zur semantischen Trikotmerkmalsextraktion generierten Spielernummerninformationen annotiert. Die extrahierten semantischen Merkmale werden anschließend in die vertrauensgeleitete Datenzuordnung integriert. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

6. Führen Sie die Verfolgungsinferenz durch und exportieren Sie die Ergebnisse

  1. Führen Sie die Verfolgungsinferenz für jede Videosequenz unter Verwendung der vorbereiteten Dateien mit Detektorergebnissen, semantischen Merkmalen und Konfidenz-Partitionsdateien durch. Verarbeiten Sie die Videobilder in chronologischer Reihenfolge, damit die Zustände der Trajektorien, die semantische Historie und die Entscheidungen zur Trajektorienwiederherstellung während der gesamten Sequenz konsistent aktualisiert werden. Verwenden Sie für alle ausgewerteten Sequenzen dieselbe Inferenzkonfiguration, sofern nicht ausdrücklich eine datensatzspezifische Einstellung angegeben ist.
    HINWEIS: Die Verfolgungsinferenz wurde mit dem Skript scripts/formal_track.py durchgeführt, das im JerseyTrack-Quellcode-Repository verfügbar ist (https://doi.org/10.5281/zenodo.21274352). Eine separate Konfigurationsdatei ist nicht erforderlich. Führen Sie die Verfolgungsinferenz mit dem folgenden Befehl aus: python scripts/formal_track.py --detections-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_threshold_sweep/t005/detections --semantic-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_t005_color --confidence-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_threshold_sweep/t005/confidence --out-dir outputs/formal_runs/sportsmot_val_yolo11x_i960_e3_center_motion_sweep_round2/age45_h0p95_m0p94_l0p58_mw0p65_lw0p5_va0p25_hsp0p0_cdw0p1/tracking --max-age 45 --high-threshold 0.95 --medium-threshold 0.94 --low-threshold 0.58 --medium-motion-weight 0.65 --low-motion-weight 0.5 --velocity-alpha 0.25 --center-distance-weight 0.1. Alle nicht angegebenen Parameter behielten die Standardwerte, die im archivierten Quellcode festgelegt sind.
  2. Wenden Sie nach der Inferenz die primäre Nachbearbeitungssequenz mit den folgenden Befehlen an: python scripts/merge_tracklets.py und python scripts/sweep_track_filter.py --min-len 95.
  3. Exportieren Sie die Verfolgungsergebnisse im vom Evaluierungswerkzeug benötigten Format. Schließen Sie den Bildindex, die Trajektorienidentität, die Begrenzungsrahmenkoordinaten und alle vom Benchmark-Evaluierungsformat geforderten Felder ein. Speichern Sie für jede Sequenz eine einzelne Ergebnisdatei unter Verwendung einer einheitlichen Benennungskonvention, sodass jede Ergebnisdatei mit ihrer entsprechenden Ground-Truth-Anmerkungsdatei verknüpft werden kann.
  4. Wenden Sie ausschließlich die in dieser Studie verwendeten Nachbearbeitungsschritte an. Führen Sie das Zusammenführen von Tracklets und das Filtern von Spuren mithilfe der in dem Überarbeitungspaket beschriebenen Nachbearbeitungsskripte durch.
    HINWEIS: In dieser Studie wurde der folgende Nachbearbeitungsworkflow verwendet:
    ⋅ scripts\merge_tracklets.py
    ⋅ scripts\sweep_track_filter.py
    ⋅ scripts\correct_identity_swaps.py
    ⋅ scripts\sweep_identity_swap_correction.py
    ⋅ scripts\interpolate_tracks.py
    ⋅ scripts\sweep_track_interpolation.py
  5. Überprüfen Sie die exportierten Verfolgungsergebnisse vor der quantitativen Auswertung. Stellen Sie sicher, dass die Trajektorienidentitäten innerhalb jeder Sequenz numerisch und konsistent bleiben, dass keine Bildindizes fehlen und dass alle Begrenzungsrahmen innerhalb der Bildgrenzen liegen.
    HINWEIS: Das erwartete Ergebnis dieses Abschnitts ist ein vollständiger Satz von sequenzbasierten Verfolgungsergebnisdateien, die zur quantitativen Evaluierung bereitstehen.

7. Bewertung der Verfolgungsleistung

  1. Werten Sie die exportierten Nachverfolgungsergebnisdateien mithilfe des im Materialienverzeichnis aufgeführten Evaluierungstools aus. Ordnen Sie jede Nachverfolgungsergebnisdatei der entsprechenden Ground-Truth-Anmerkungsdatei und Datensatz-Aufteilung zu. Verwenden Sie für alle zu vergleichenden Methoden dieselbe Evaluierungskonfiguration, um sicherzustellen, dass Leistungsunterschiede auf den Nachverfolgungsergebnissen und nicht auf den Evaluierungseinstellungen beruhen.
  2. Führen Sie die Auswertung mit dem folgenden Befehl durch
    \.venv\Scripts\python.exe evaluation\trackeval\scripts\nun_mot_challenge.py --GT_FOLDER datasets\SportsMOT\dataset\val --RESULTS_DIR outputs\formal_runs\sportsmot_val_yolo11x_i960_e3_center_motion_filter_fine
    _round1\minlen95 --OUTPUT_FOLDER outputs\formal_runs\sportsmot_val_yolo11x_i960_e3_center_motion_filter_fine_
    round1\minlen95\trackeval --TRACKERS_TO_EVAL JerseyTrack_i960_e3_center_motion_minlen95 --BENCHMARK SportsMOT --SPLIT_TO_EVAL val
    HINWEIS: Die Evaluierung wurde mit der standardmäßigen TrackEval-Metrikimplementierung (Version 1.3.0) durchgeführt, die im JerseyTrack-Reproduzierbarkeitspaket archiviert ist. Es wurden keine Änderungen an den Implementierungen der Higher Order Tracking Accuracy (HOTA), CLEAR oder Identity-Metriken vorgenommen. Das Repository enthält die MOTChallenge-artige Ausführungsumgebung unter evaluation/trackeval/scripts/run_mot_challenge.py, die die Pfade für Datensatz und Ergebnisse konfiguriert und die standardmäßigen TrackEval-Evaluierungsmetriken aufruft.
  3. Notieren Sie die in der Publikation angegebenen Evaluierungsmetriken, darunter Multiple Object Tracking Accuracy (MOTA), IDentity F1-Score (IDF1), Higher Order Tracking Accuracy (HOTA), Detektionsgenauigkeit (DetA), Assoziationsgenauigkeit (AssA), falsch positive (FPs) und falsch negative (FNs) Ergebnisse sowie Identitätswechselereignisse. Exportieren Sie die Evaluierungszusammenfassung als Tabelle und bewahren Sie die pro Sequenz vorliegenden Evaluierungsdateien zur Überprüfung auf.
  4. Vergleichen Sie JerseyTrack mit Baseline-Methoden unter Verwendung derselben Datensatz-Aufteilung, derselben Detektor-Ausgaben und derselben Evaluierungskonfiguration für alle Methoden. Dokumentieren Sie den Datensatz, die Quelle der Detektor-Ausgaben, die Konfiguration des Evaluierungstools sowie die Metrikwerte für jeden Vergleich.
  5. Überprüfen Sie die Evaluierungs-Logs, um sicherzustellen, dass alle Sequenzen erfolgreich ausgewertet wurden und keine Nachverfolgungsergebnisdateien fehlen.
    HINWEIS: In dieser Studie wurde die primäre TrackEval-Zusammenfassungsdatei gespeichert unter: outputs\formal_runs\sportsmot_val_yolo11x_i960_e3_center_motion_filter_fine_
    round1\minlen95\trackeval\JerseyTrack_i960_
    e3_center_motion_minlen95\pedestrian_summary.txt. Das erwartete Ergebnis dieses Abschnitts ist eine vollständige Zusammenfassungstabelle der Evaluierung sowie die metrischen Dateien pro Sequenz, die die berichteten Ergebnisse unterstützen und eine nachträgliche Überprüfung ermöglichen.

Ergebnisse

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Dieser Abschnitt berichtet über die quantitativen und qualitativen Ergebnisse, die aus den evaluierten Experimenten zum Mehrfachobjekt-Tracking im Sport gewonnen wurden. Die Ergebnisse konzentrieren sich auf die Verfolgungsgenauigkeit, die Erhaltung der Identität, die Qualität der Zuordnung sowie die Robustheit unter den getesteten Datensatzeinstellungen. Leistungsansprüche beschränken sich auf die evaluierten Methoden, Datensätze, Detektorergebnisse und die Konfiguration des Evaluierungstools, wie sie im Protokoll und der Implementierung beschrieben sind.

Experimenteller Aufbau und Evaluationsdesign

Datensatz und Vorverarbeitung:

SportsMOT wurde als primärer Benchmark für die Vorbereitung des Detektors, die Verfolgungsanalyse und die quantitative Bewertung verwendet. Der Datensatz enthält 240 Videosequenzen und mehr als 150.000 Bildframes aus Szenarien des Fußballs, Basketball und Volleyball (Abbildung 5). Bei der offiziellen Bewertung wurden die Hauptergebnisse von SportsMOT unter Verwendung des Validierungssplits sowie der Detektorergebnisse, der Verfolgungskonfiguration und der in dem Protokoll beschriebenen TrackEval-Einstellungen berechnet. Die Bewertung über verschiedene Datensätze hinweg wurde auf TeamTrack, SoccerNet Tracking, MOT17 und MOT20 durchgeführt, um die Übertragbarkeit der Leistungsfähigkeit zwischen unterschiedlichen Datensatztypen zu untersuchen, anstatt direkte vergleichende Metriken auf Datensatzebene zu erstellen.

figure-results-1
Abbildung 5. Repräsentative Datensätze zur Evaluierung. Beispielbilder zeigen repräsentative Sequenzen aus Fußball, Basketball und Volleyball, die für die experimentelle Evaluierung verwendet wurden. Die Abbildung verdeutlicht Unterschiede in der Kameraperspektive, der Spielerdichte und der Szenenkomplexität zwischen den evaluierten Datensätzen. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Die SportsMOT-Daten wurden gemäß der offiziellen Datensatzstruktur organisiert und in das im Protokoll beschriebene Format für das Training des Detektors umgewandelt. Die konvertierten SportsMOT-Trainings- und Validierungsdaten enthielten 90 Sequenzen, 55.544 Bilder und 608.152 annotierte Objekte. Die Trainingspartition wurde zur Vorbereitung des Detektors und zur Anpassung der Parameter verwendet, während die Validierungspartition für die formale Verfolgungsauswertung genutzt wurde, die in dieser Studie berichtet wird. Alle Eingabebilder wurden entsprechend der im Protokoll und in der Tabelle der Materialien angegebenen Detektor-Konfiguration skaliert. Derselbe Vorverarbeitungsschritt wurde während der Detektorvorbereitung, der semantischen Merkmalsextraktion, der Verfolgungsinferenz und der TrackEval-Auswertung angewandt, sodass die berichteten Unterschiede hauptsächlich auf die Strategie der Verfolgungszuordnung und nicht auf Unterschiede bei der Datenverarbeitung zurückzuführen waren.

Auswertungskriterien:

Die Verfolgungsleistung wurde mithilfe eines mit MOTChallenge kompatiblen Evaluierungsprotokolls bewertet, das mit dem im Materialtabelle aufgeführten Evaluierungstoolkit implementiert wurde. Die angegebenen Metriken beschreiben drei Aspekte der Verfolgungsleistung im Sport: die Gesamtverfolgungsgenauigkeit, die Identitätserhaltung sowie die Qualität von Detektion und Zuordnung. Als primäre Evaluierungsmetriken wurden MOTA, IDF1 und HOTA verwendet44,45. MOTA fasst falsch positive, falsch negative Ergebnisse und Identitätswechsel in einer Gesamtbewertung der Verfolgungsgenauigkeit zusammen. IDF1 misst die Konsistenz zwischen vorhergesagten Trajektorien und den tatsächlichen Identitäten. HOTA bewertet gemeinsam die Genauigkeit der Detektion und die Genauigkeit der Zuordnung und charakterisiert somit das Gleichgewicht zwischen Ziellokalisation und Trajektorienzuordnung. DetA und AssA wurden als ergänzende Metriken angegeben. FPs, FNs und Identitätswechsel (IDs) dienten zur Beschreibung von Fehlerquellen im Zusammenhang mit falschen Detektionen, verpassten Detektionen und Identitätsänderungen. Bei Vergleichen zwischen Methoden auf SportsMOT wurden dieselben Detektorausgaben und dieselbe Konfiguration des Evaluierungstoolkits verwendet, um den Einfluss von Unterschieden zwischen Detektoren und Evaluierungseinstellungen zu reduzieren. Bei Vergleichen über verschiedene Datensätze hinweg wurden die Metrikwerte als innerhalb eines Datensatzes erzielte Evaluierungsergebnisse interpretiert und nicht als Beleg für eine absolute Leistungsüberlegenheit über verschiedene Datensätze hinweg.

Experimentelles Umfeld und Parameterkonfiguration:

Die Experimente wurden unter Verwendung der in der Tabelle der Materialien aufgeführten Hardware- und Software-Ressourcen durchgeführt. Während der primären SportsMOT-Experimente wurde zur Gewährleistung der Konsistenz bei der Vorbereitung des Detektors, der Tracking-Inferenz und der Leistungsbewertung dieselbe Rechenumgebung, derselbe Detektor-Algorithmus, dieselben Detektor-Ausgaben und derselbe Evaluierungs-Toolkit verwendet. Der in der Tabelle der Materialien aufgeführte Detektor-Algorithmus wurde mit einer Batch-Größe von 16, einer anfänglichen Lernrate von 0,01 und 80 Trainingsepochen trainiert. Im Modul zur semantischen Extraktion der Trikots wurde zur Farbclustering die K-Means-Methode mit K = 3 verwendet, und der OCR-Zweig verwendete ein leichtgewichtiges faltendes rekurrentes neuronales Netzwerk mit einer Eingabegröße von 128 × 64 Pixeln. Der OCR-Zweig wurde mithilfe des in der Tabelle der Materialien aufgeführten adaptiven Optimierers mit einer Lernrate von 1 × 10⁻3, einer Gewichtsverlustquote (weight decay) von 1 × 10⁻5, einer Batch-Größe von 64 und 40 Trainingsepochen optimiert. Während des Trainings des Moduls zur semantischen Merkmalsextraktion wurde kein zusätzliches Lernraten-Scheduling verwendet. Der Gewichtungskoeffizient für den OCR-Verlust (γ) wurde als benutzerdefinierter Hyperparameter behandelt und basierend auf der Leistung auf dem Validierungsdatensatz ausgewählt. Die stratifizierte Aufteilung nach Konfidenzniveau verwendete eine adaptive K-Means-Partitionierung, bei der τ₁ und τ₂ aus der Verteilung der Detektionskonfidenz jedes Einzelbildes berechnet wurden, anstatt vor der Inferenz manuell festgelegt zu werden.

Verfolgungsleistung über verschiedene Sportarten und Szenariokomplexitäten hinweg

Quantitative Leistung unter verschiedenen Sport- und Szenenbedingungen:

Die Verfolgungsleistung wurde anhand zweier Gruppierungsfaktoren bewertet: Sportart und Szenenkomplexität. Die Analyse nach Sportart umfasste Sequenzen aus Fußball, Basketball und Volleyball. Die Analyse der Szenenkomplexität berücksichtigte den Grad der Verdeckung, die Bewegungsgeschwindigkeit und die Zielauflösung, wobei dieselben Gruppierungskriterien für alle bewerteten Sequenzen angewendet wurden. Die angegebenen Metriken folgten dem in Abschnitt 7 des Protokolls beschriebenen Evaluierungsprotokoll. 

Abbildung 6 fasst die Ergebnisse der quantitativen Verfolgung unter verschiedenen Sportkategorien und Szenenkomplexitätsbedingungen zusammen. Abbildung 6A zeigt MOTA und DetA für Sequenzen aus Fußball, Basketball und Volleyball. Abbildung 6B zeigt die Variation von MOTA unter verschiedenen Grad der Verdeckung, Bewegungsgeschwindigkeit und Ziel-Dichte. Abbildung 6C zeigt aufsummierte FP- und FN-Zahlen für jede Dimension der Szenenkomplexität.

figure-results-2
Abbildung 6. Verfolgungsleistung über Sportkategorien und Szenenbedingungen hinweg. (A) Genauigkeit der Mehrfachobjektverfolgung (MOTA) und Erkennungsgenauigkeit (DetA) für Fußball, Basketball, Volleyball und den Gesamtdurchschnitt. (B) MOTA über repräsentative Szenenbedingungen mit unterschiedlichen Grad an Verdeckung, Spielerdichte und Bewegungskomplexität. (C) Anzahl der falsch positiven (FPs) und falsch negativen (FNs) Ergebnisse über die evaluierten Szenenbedingungen hinweg. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

In den drei Sportkategorien erzielte JerseyTrack eine durchschnittliche MOTA von 88,9 % und eine durchschnittliche DetA von 80,2 %. Der Unterschied in der MOTA zwischen den Sportkategorien betrug 1,3 Prozentpunkte, wobei die höchste MOTA bei Volleyballsequenzen (89,2 %) und die niedrigste bei Basketballsequenzen (87,9 %) beobachtet wurde. Die niedrigere MOTA bei Basketballsequenzen steht im Einklang mit der höheren Häufigkeit von Nahbereichsinteraktionen und starker Verdeckung in den ausgewerteten Sequenzen. Unter weniger komplexen Szenenbedingungen, einschließlich leichter Verdeckung, geringer Bewegungsgeschwindigkeit und spärlicher Zielverteilung, erreichte die MOTA jeweils 91,8 %, 93,1 % und 93,8 %. Unter komplexeren Szenenbedingungen sank die MOTA auf 84,9 % bei starker Verdeckung, 83,6 % bei schneller Bewegung und 83,1 % bei dichter Zielverteilung. Diese Ergebnisse zeigen, dass die Verfolgungsleistung abnahm, wenn die Szenenkomplexität zunahm, jedoch innerhalb des berichteten Bereichs über alle ausgewerteten Sportzenarien hinweg blieb.

Verfolgung der Konsistenz über repräsentative Sport-Szenarien hinweg:

Abbildung 7 zeigt repräsentative Verfolgungsbeispiele, die die zeitliche Konsistenz von JerseyTrack unter drei anspruchsvollen Sport-Szenarien veranschaulichen: dichte Spielerinteraktionen, längere teilweise Verdeckungen und schnelle Richtungswechsel. In diesen repräsentativen Sequenzen behielt der Verfolgungsalgorithmus konsistente Trajektorien-Identitäten bei, trotz häufiger Überlappung der Athleten und dynamischer Bewegungen. Identitätsbrüche traten hauptsächlich bei starker Verdeckung oder vorübergehendem Fehlen der Trikot-Informationen auf; die vertrauensbasierte Zuordnungsstrategie ermöglichte jedoch die Wiederherstellung der Trajektorien, sobald zuverlässige Erkennungen erneut verfügbar waren. Diese repräsentativen Beispiele unterstützen qualitativ die quantitativen Ergebnisse aus Abbildung 6, indem sie eine stabile Identitätserhaltung unter den evaluierten Sportverfolgungsbedingungen demonstrieren.

figure-results-3
Abbildung 7. Repräsentative Verfolgungsergebnisse, erzeugt von JerseyTrack. Aufeinanderfolgende Einzelbilder aus Basketball-, Fußball- und Volleyballsequenzen veranschaulichen die Beibehaltung der Identitäten und Trajektorien der Athleten während der Verfolgung. Farbige Begrenzungsrahmen stellen die verfolgten Identitäten dar, die über aufeinanderfolgende Videobilder hinweg beibehalten werden. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Ergebnisse der Ablation hinsichtlich der Erhaltung der Identität:

Eine Ablationsanalyse wurde durchgeführt, um die Beiträge der konfidenzgeleiteten Assoziationsstrategie und des Trikot-Semantik-Fusionsmoduls zur Identitätserhaltung zu untersuchen. Vier Modellvarianten wurden verglichen: V0, die Baseline ohne konfidenzgeleitete Assoziation oder Trikot-Semantik-Fusion; V1, die Variante mit ausschließlicher Verwendung der konfidenzgeleiteten Assoziation; V2, die Variante mit ausschließlicher Verwendung der Trikot-Semantik-Fusion; und V3, die vollständige JerseyTrack-Konfiguration, die beide Komponenten integriert. Die Bewertung konzentrierte sich auf identitätsbezogene Metriken, einschließlich IDs, IDF1, Identitätspräzision (IDP) und Identitätsrückruf (IDR). Die repräsentativen Muster der Identitätserhaltung sind in Abbildung 8 dargestellt.

figure-results-4
Abbildung 8. Ablationsanalyse der konfidenzgeleiteten semantischen Trikotzuordnung. (A) Gesamtanzahl der Identitätswechsel (IDs) und der ID-F1-Wert (IDF1) für die evaluierten Modellvarianten. (B) Vergleich der IDs zwischen dem vollständigen Modell (V3) und der Basiskonfiguration (V0) unter repräsentativen, herausfordernden Verfolgungsszenarien. (C) IDF1, ID-Präzision (IDP) und ID-Recall (IDR) des vollständigen Modells über verschiedene Verfolgungsszenarien hinweg. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

In der gesamten SportsMOT-Validierungskonfiguration erzielte die vollständige V3-Konfiguration die geringste Anzahl an IDs und den höchsten IDF1-Wert unter den vier Modellvarianten. V3 verzeichnete 2.768 IDs, was 477 weniger Identitätswechsel als bei V0 entspricht, und erreichte einen IDF1-Wert von 74,3 %, was einer Steigerung um 7,1 Prozentpunkte gegenüber V0 entspricht. Diese Ergebnisse deuten darauf hin, dass beide Module gemeinsam zur Erhaltung der Identität unter den evaluierten Sportverfolgungsbedingungen beigetragen haben. Der Vergleich der Einzelmodulvarianten mit der vollständigen Konfiguration zeigte weiterhin, dass die beiden Module unterschiedliche Quellen von Verfolgungsfehlern beeinflussten. Die konfidenzgeleitete Zuordnungsstrategie verringerte Zuordnungsfehler, die mit instabiler Detektionskonfidenz und Lokalisationsunsicherheit verbunden waren, während das Modul zur semantischen Fusion von Trikotinformationen zusätzliche Identitätsinformationen bereitstellte, wenn alleinige Bewegungsinformationen unzureichend waren. Die vollständige V3-Konfiguration erzielte eine bessere leistungsbezogene Identitätsleistung als jede der Einzelmodulvarianten, was darauf hindeutet, dass die beiden Module komplementäre statt redundante Beiträge leisteten.

Ergebnisse auf Szenenebene zeigten größere Unterschiede unter anspruchsvolleren Bedingungen zur Identitätserhaltung. Während langer Verdeckungsphasen verzeichnete V3 215 Identitäten im Vergleich zu 482 bei V0. In dichten Szenarien mit Spielern derselben Mannschaft mit 6–10 Personen verzeichnete V3 328 Identitäten im Vergleich zu 615 bei V0. Bei schnellen Richtungswechseln verzeichnete V3 482 Identitäten im Vergleich zu 960 bei V0. Diese Reduktionen stimmen mit der beabsichtigten Nutzung semantischer Hinweise während Verdeckungen und dichter Interaktionen sowie mit einer konfidenzgeleiteten Zuordnung bei wechselnder Detektionszuverlässigkeit während schneller Bewegungen überein. Die Trends bei IDP und IDR in Abbildung 8C zeigen, dass die Verringerung der Identitäten nicht mit einem erheblichen Rückgang der Identitätsgenauigkeit oder des Identitätsabrufs einherging. Die vollständige Konfiguration hielt IDF1-Werte über 71 % in allen untersuchten anspruchsvollen Szenarien aufrecht, wobei niedrigere Werte bei dichten Interaktionen innerhalb derselben Mannschaft und bei schnellen Richtungswechseln beobachtet wurden. Diese Ergebnisse deuten auf eine verbesserte Konsistenz der Identität unter den untersuchten Bedingungen hin, wobei dichte Interaktionen und schnelle Bewegungen als wesentliche verbleibende Quellen für Leistungseinbußen identifiziert wurden.

Ergebnisse der Querschnittsdaten-Auswertung:

Die Querdatensatz-Evaluation wurde durchgeführt, um zu untersuchen, ob das auf SportsMOT beobachtete Verfolgungsverhalten unter unterschiedlichen Datensatzbedingungen aufrechterhalten werden kann. Die Evaluation umfasste zwei sportartspezifische Datensätze, SoccerNet Tracking und TeamTrack, sowie zwei allgemeine MOT-Datensätze, MOT17 und MOT20. Der Zweck dieses Experiments bestand darin, die Übertragbarkeit der Leistungsfähigkeit zwischen verschiedenen Datensatztypen zu prüfen. Die Ergebnisse wurden nicht verwendet, um eine direkte Überlegenheit auf Metrik-Ebene über verschiedene Datensätze hinweg zu behaupten, da sich die Annotationsschemata, Szenenzusammensetzungen, Kameraperspektiven und Zielkategorien unterscheiden.

Tabelle 1 fasst die Ergebnisse der Querdatensatzauswertung zusammen. Auf den sportartspezifischen Datensätzen wies JerseyTrack im Vergleich zur Hauptvalidierungseinstellung SportsMOT relativ stabile MOTA- und IDF1-Werte auf. Dieser Trend deutet darauf hin, dass die vertrauensgeleitete Assoziationsstrategie und die mit Trikots verbundenen semantischen Hinweise wirksam blieben, solange die Verfolgungsszenen die visuellen Merkmale von Mannschaftssportarten beibehielten, einschließlich wiederholter Trikots, dichter Athleteninteraktionen und häufiger Verdeckungen. Auf den allgemeinen MOT-Datensätzen erzielte die Methode wettbewerbsfähige MOTA- und DetA-Werte, während IDF1 niedriger war als bei den sportartspezifischen Datensätzen. Dieses Muster entspricht dem Fehlen von Trikotfarb- und Spielernummernhinweisen in MOT17 und MOT20, die vom semantischen Fusionierungsmodul genutzt werden. Unter diesen Bedingungen blieb die vertrauensgeleitete Assoziationskomponente anwendbar, während der semantische Zweig weniger identitätsspezifische Informationen beisteuerte als bei Videos von Mannschaftssportarten. Insgesamt zeigen diese Ergebnisse, dass JerseyTrack effektiver auf Datensätze übertragen wurde, die sportartspezifische visuelle Semantik enthalten, im Vergleich zu allgemeinen Fußgänger-Verfolgungsdatensätzen. Die Querdatensatzauswertung stützt daher die beabsichtigte Anwendung der Methode als sportorientierter Verfolgungsalgorithmus und identifiziert gleichzeitig das Fehlen expliziter Trikotsemantik als limitierenden Faktor für MOT-Datensätze außerhalb des Sportsportbereichs.

DatensatzMOTA↑IDF1↑DetA↑FPS↑
SoccerNet Tracking86,871,377,932,1
TeamTrack86,270,777,332,8
MOT1784,769,576,133,9
MOT2084,168,975,333,2

Tabelle 1: Ergebnisse der Querdatensatzauswertung. Verfolgungsleistung von JerseyTrack, bewertet anhand von vier öffentlichen Benchmark-Datensätzen. Es werden die Genauigkeit der Mehrfachobjektverfolgung (MOTA), die ID-Identitäts-F1-Score (IDF1), die Erkennungsgenauigkeit (DetA) und die Verarbeitungsgeschwindigkeit in Bildern pro Sekunde (FPS) angegeben. Höhere Werte zeigen eine bessere Leistung bei MOTA, IDF1, DetA und FPS an.

Robustheit unter kontrollierten Störbedingungen

Kontrollierte Störungsversuche wurden durchgeführt, um die Stabilität von JerseyTrack unter häufigen visuellen Störungen und Qualitätsminderungen bei der Erkennung in Sportvideos zu untersuchen. Die evaluierten Störungen wurden in drei Kategorien eingeteilt: semantische-Merkmal-Störung, Erkennungsbox-Störung und Umweltstörung. Zu den semantischen-Merkmal-Störungen gehörten die Verdeckung der Spielernummer, Bildunschärfe, Auflösungsverlust und ähnliche Trikotfarben. Zu den Erkennungsbox-Störungen zählten Verschiebungen der Begrenzungsbox, Schwankungen der Erkennungssicherheit und falsche Erkennungsboxen. Umweltstörungen umfassten regenartiges Rauschen, nebelartige Verschlechterung, starke Beleuchtung und Schatteninterferenzen. Abbildung 9 fasst die Verfolgungsleistung unter diesen Störbedingungen zusammen. Bei semantischen-Merkmal-Störungen nahm die Verfolgungsleistung ab, je stärker die Sichtbarkeit der Spielernummer und die Qualität des Bildausschnitts abnahmen. Wenn 40 % des Bereichs der Spielernummer verdeckt waren, sank die MOTA um 3,2 Prozentpunkte und die IDF1 um 5,3 Prozentpunkte gegenüber der Bedingung ohne Störung, während die Genauigkeit der semantischen Extraktion bei 86,7 % verblieb. Diese Ergebnisse deuten darauf hin, dass die Trikotfarbe und die Spielernummer komplementäre Informationen bereitstellten, wenn ein semantisches Merkmal weniger zuverlässig wurde. Bei Erkennungsbox-Störungen zeigte die Methode eine moderate Leistungsminderung statt eines plötzlichen Versagens. Wenn die Erkennungsboxen um ±10 Pixel verschoben wurden und die Konfidenzwerte mit Gaußschem Rauschen gestört wurden, blieb der Rückgang der MOTA unter 3 Prozentpunkten und der Anstieg der IDs innerhalb von 16 %. Dieser Trend stimmt mit der konfidenzgesteuerten Zuordnungsstrategie überein, bei der mittlere und niedrige Konfidenz-Erkennungen unter zusätzlichen Zuordnungsbeschränkungen verarbeitet werden, anstatt dieselbe Strategie wie bei hochsicheren Erkennungen anzuwenden.

figure-results-5
Abbildung 9. Bewertung der Robustheit unter kontrollierten Störungen. (A) Veränderungen der Genauigkeit beim Mehrfach-Objekt-Tracking (MOTA), der IDentitäts-F1-Score (IDF1) und der Identitätswechsel (IDs) mit zunehmender Verdeckung der Trikotnummer. (B) Leistungsabnahme unter repräsentativen Störbedingungen. (C) Zunahme der IDs bei verschiedenen Störungstypen. (D) Genauigkeit der semantischen Extraktion von Trikotnummern unter den evaluierten Störbedingungen. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Unter Umwelteinflüssen blieben die Abnahmen der primären Verfolgungsmetriken unter den evaluierten Bedingungen unter fünf Prozentpunkten, und die Genauigkeit der semantischen Extraktion lag bei 87,2 %. Die Verwendung von HSV-basierten Farbdeskriptoren verringerte die Empfindlichkeit gegenüber Beleuchtungsänderungen, während der OCR-Teil brauchbare Informationen zur Spielernummer für eine Teilmenge unscharfer oder beschädigter Bildausschnitte beibehielt. Diese Ergebnisse deuten darauf hin, dass das semantische Modul unter den evaluierten Störbedingungen weiterhin verwendbar war, obwohl seine Zuverlässigkeit weiterhin von der Sichtbarkeit der Trikots und der Qualität der Ausschnitte abhing. Insgesamt zeigten die kontrollierten Störungsexperimente, dass JerseyTrack unter den evaluierten semantischen, detektionsqualitätsbezogenen und umweltbedingten Störungen eine messbare Verfolgungsleistung beibehielt. Diese Befunde sollten im Rahmen des getesteten Störungsbereichs interpretiert werden. Systematische Wiedererkennung bei vorübergehendem Verlust aus dem Blickfeld, starke Hintergrundunordnung und langfristige vollständige Verdeckung wurden in diesem Experiment nicht separat untersucht und werden in der Diskussion als Limitationen erörtert.

Analysen zur Modulbeteiligung und Merkmalsdiskriminierung

Der Modulbeitrag und die Merkmalunterscheidung wurden weiter analysiert, um zu untersuchen, wie die beiden vorgeschlagenen Komponenten die leistungsbezogene Verfolgung der Identität beeinflussten. Bei der Analyse des Modulbeitrags kamen die vier im Ablationsversuch definierten Modellvarianten zum Einsatz, während bei der Analyse der Merkmalunterscheidung traditionelle Re-ID-Merkmale, nur farbbasierte Merkmale, nur spielernummerbasierte Merkmale sowie fusionierte jerseysemantische Merkmale miteinander verglichen wurden. Das Verhältnis von interklassen- zu intraklassenweitem Abstand wurde verwendet, um die Trennbarkeit der Merkmale zu beschreiben, wobei größere Werte auf eine stärkere Trennung zwischen verschiedenen Identitäten im Vergleich zur Variation innerhalb derselben Identität hinweisen. Tabelle 2 fasst die Analyse des Modulbeitrags zusammen. In der Gesamtbewertung betrug der geschätzte Beitrag der konfidenzgeleiteten Assoziationsstrategie 41,7 %, der geschätzte Beitrag der jerseysemantischen Fusion 47,6 % und die verbleibenden 10,7 % wurden der kombinierten Nutzung beider Komponenten zugeschrieben. Diese Werte zeigen, dass beide Komponenten zur beobachteten Leistungssteigerung beigetragen haben, wobei die vollständige Konfiguration von ihrer gemeinsamen Nutzung profitiert, anstatt von einer einzelnen Komponente allein. Das Beitragungsmuster variierte je nach Szenentyp. Bei starker Verdeckung stieg der geschätzte Beitrag der jerseysemantischen Fusion auf 69,4 %, was mit der verringerten Zuverlässigkeit von Bewegungshinweisen übereinstimmt, wenn Athleten teilweise oder zeitweise verdeckt waren. Bei schneller Bewegung erreichte der geschätzte Beitrag der konfidenzgeleiteten Assoziation 44,3 %, und der kombinierte Gewinn betrug 20,6 %, was darauf hindeutet, dass die Aufteilung nach Konfidenzniveau relevanter wurde, wenn die Detektionskonfidenz aufgrund schneller Bewegung oder Unsicherheit bei der Lokalisierung schwankte.

ModellvarianteTestszenarioMOTA↑IDF1↑IDs↓ModulbeitragSynergetischer Gewinn
V0 (Baseline)Gesamtszene83,567,23245
Stark verdeckte Szenen77,861,53862
Szene mit schneller Bewegung77,162,33689
V1 (Konfidenzgeleitete Zuordnung)Gesamtszene86,370,9289341,7
Stark verdeckte Szenen80,965,9341529,8
Szene mit schneller Bewegung81,467,9302444,3
V2 (Semantische Trikotzuordnung)Gesamtszene85,271,8293747,6
Stark verdeckte Szenen82,772,8275369,4
Szene mit schneller Bewegung80,166,8315735,1
V3 (Vollständiges JerseyTrack)Gesamtszene88,974,3276810,7
Stark verdeckte Szenen84,975,626890,8
Szene mit schneller Bewegung83,671,5284220,6

Tabelle 2:  Ablationsanalyse der Modulbeiträge. Leistungsvergleich verschiedener JerseyTrack-Modellvarianten unter Gesamt-, stark verdeckten und Hochgeschwindigkeits-Bewegungsszenarien. Die Genauigkeit der Mehrfachobjektverfolgung (MOTA), die IDentitäts-F1-Score (IDF1) sowie die Anzahl der Identitätswechsel (IDs) werden zusammen mit dem geschätzten Modulbeitrag und dem synergetischen Gewinn angegeben. Höhere Werte zeigen eine bessere Leistung bei MOTA, IDF1, Modulbeitrag und synergetischem Gewinn an, während niedrigere Werte eine bessere Leistung bei IDs anzeigen.

Tabelle 3 fasst die Merkmalsdiskriminierungsanalyse zusammen. Das fusionierte semantische Merkmal des Trikots erreichte ein Verhältnis von Inter-Klassen- zu Intra-Klassen-Distanz von 5,63 im Vergleich zu 1,82 für traditionelle Re-ID-Merkmale, was einer relativen Verbesserung des Distanzverhältnisses um 209,3 % entspricht. Alleinige Farbmerkmale und alleinige Spielernummernmerkmale verbesserten ebenfalls die Merkmalstrennbarkeit im Vergleich zu traditionellen Re-ID-Merkmalen, obwohl jedes einzelne Merkmal weiterhin anfällig für spezifische Fehlerquellen blieb, darunter ähnliche Teamfarben, Verdeckung der Spielernummer, Bewegungsunschärfe und nicht lesbare Trikotbereiche. Unter den evaluierten Merkmalsrepräsentationen erzielte die fusionierte semantische Repräsentation die höchste Merkmalstrennbarkeit und korrespondierte mit dem höchsten IDF1-Wert sowie der niedrigsten ID-Anzahl in der Ablationsanalyse. Diese Ergebnisse unterstützen die Verwendung trikotspezifischer semantischer Hinweise als ergänzende Identitätsinformation für die Mehrfachobjektverfolgung im Sport (MOT), wenn Athleten ähnliche Erscheinungsbilder aufweisen und alleinige Bewegungsinformationen nicht ausreichen. Diese Beobachtungen gelten nur für die evaluierte SportsMOT-Situation und sollten nicht als Beleg dafür interpretiert werden, dass Semantik der Trikots alle Identitätsunsicherheiten in jedem Sportvideo beseitigt.

MerkmalsartVerhältnis Inter-Klassen/Intra-Klassen-AbstandRelative Verbesserung (%)IDF1↑IDs↓
Traditionelle Re-ID-Merkmale1.8265.73482
Teamfarben-Merkmale3.1774,269,83125
Spieler-Nummern-Merkmale3.4991,870,53018
Gemischte semantische Trikot-Merkmale5,63209,374,32768

Tabelle 3:  Diskriminanzanalyse verschiedener Merkmalsdarstellungen. Vergleich der Merkmalsdiskriminierung unter Verwendung traditioneller Wiedererkennungsmerkmale (Re-ID), Trikotfarbmerkmale, Spielernummernmerkmale und fusionierter semantischer Merkmale. Es werden das Verhältnis von interklassen- zu intraklassen-Abstand, die relative Verbesserung der Merkmalsdiskriminierung, die IDentity-F1-Score (IDF1) sowie die Anzahl der Identitätswechsel (IDs) angegeben. Höhere Werte deuten auf eine bessere Leistung bezüglich des Abstandsverhältnisses, der relativen Verbesserung und der IDF1 hin, während niedrigere Werte eine bessere Leistung bezüglich der IDs anzeigen.

Vergleich der Leistung mit bestehenden MOT-Methoden

Ein Benchmark-Vergleich wurde durchgeführt, um JerseyTrack mit repräsentativen MOT-Methoden unter denselben SportsMOT-Validierungseinstellungen zu vergleichen. Die verglichenen Methoden umfassten QDTrack, DeepSORT, ByteTrack, FairMOT, Deep OC-SORT und MOTR. Alle Methoden verwendeten dieselben Detektor-Ausgaben, die durch den im Materialverzeichnis aufgeführten Detektor-Algorithmus generiert wurden, sodass der Vergleich auf der Leistung der Verfolgungsassoziation und nicht auf Unterschieden der Detektoren basierte. Die Bewertung verwendete die in Protokollabschnitt 7 definierten Metriken. Zu den primären Bewertungsmetriken gehörten MOTA, HOTA und IDF1. Die sekundären Metriken umfassten DetA, AssA, FPs, FNs und IDs. Tabelle 4 fasst den quantitativen Vergleich auf dem SportsMOT-Validierungssplit zusammen, und Abbildung 10 zeigt einen visuellen Vergleich der Verfolgungsgenauigkeit, der Inferenzgeschwindigkeit und der HOTA-Verteilung über die ausgewerteten Sport-Szenen hinweg. JerseyTrack erzielte unter den verglichenen Methoden den höchsten MOTA-Wert mit 88,9 %. Dieser Wert lag 1,1 Prozentpunkte über dem von Deep OC-SORT (87,8 %) und 2,5 Prozentpunkte über dem von ByteTrack (86,4 %). JerseyTrack erreichte somit unter der ausgewerteten SportsMOT-Validierungseinstellung die höchste Gesamtverfolgungsgenauigkeit aller verglichenen Methoden. Bei HOTA erzielte JerseyTrack 69,9 %, verglichen mit 64,4 % für Deep OC-SORT und 62,8 % für ByteTrack. Diese Unterschiede entsprechen Verbesserungen von 5,5 bzw. 7,1 Prozentpunkten und deuten auf eine bessere Balance zwischen Detektions- und Assoziationsleistung unter denselben Bewertungsbedingungen hin.

MethodeMOTA↑HOTA↑IDF1↑DetA↑AssA↑FP↓FN↓IDs↓
QDTrack75,953,751,665,639,796.32489.8718.216
DeepSORT77,654,153,267,34476.22886.3196.836
ByteTrack86,462,867,773,850,933.75278.6984.192
FairMOT84,154,762,577,847,845.18783.6204.817
Deep OC-SORT87,864,469,978,252,125.01274.3853.211
MOTR82,957,258,468,946,154.93185.0635.137
JerseyTrack88,969,974,380,254,321.95367.1602.768

Tabelle 4: Leistungsvergleich von JerseyTrack und repräsentativen Methoden zur Mehrfachobjektverfolgung auf dem Validierungsdatensatz von SportsMOT. Vergleich von JerseyTrack mit repräsentativen Methoden zur Mehrfachobjektverfolgung (MOT) auf dem Validierungsdatensatz von SportsMOT. Berichtete Metriken umfassen die Genauigkeit der Mehrfachobjektverfolgung (MOTA), die Genauigkeit der Verfolgung höherer Ordnung (HOTA), die ID-F1-Score (IDF1), die Erkennungsgenauigkeit (DetA), die Assoziationsgenauigkeit (AssA), falsch positive Ergebnisse (FP), falsch negative Ergebnisse (FN) sowie die Anzahl der Identitätswechsel (IDs). Höhere Werte zeigen eine bessere Leistung bei MOTA, HOTA, IDF1, DetA und AssA an, während niedrigere Werte eine bessere Leistung bei FP, FN und IDs anzeigen.

figure-results-6
Abbildung 10. Leistungsvergleich mit repräsentativen Methoden zur Verfolgung mehrerer Objekte. (A) Vergleich der Genauigkeit bei der Verfolgung mehrerer Objekte (MOTA) und der Bilder pro Sekunde (FPS) für JerseyTrack und repräsentative Methoden zur Verfolgung mehrerer Objekte, bewertet anhand des SportsMOT-Datensatzes. (B) Verteilung der genauen Verfolgung höherer Ordnung (HOTA) über die bewerteten Verfolgungsmethoden hinweg. Bitte klicken Sie hier, um eine größere Version dieser Abbildung anzusehen.

Bezüglich der Erhaltung der Identität erreichte JerseyTrack einen IDF1-Wert von 74,3 %, verglichen mit 69,9 % für Deep OC-SORT und 67,7 % für ByteTrack. JerseyTrack verzeichnete außerdem 2.768 IDs, weniger als die 3.211 IDs von Deep OC-SORT und die 4.192 IDs von ByteTrack. Diese Beobachtungen stimmen mit den Ablationsresultaten überein, die in Abbildung 8 und Tabelle 2 dargestellt sind, wobei die vollständige JerseyTrack-Konfiguration im Vergleich zu den Basismodellvarianten die Identitätswechsel reduzierte. Hinsichtlich der Qualität von Detektion und Zuordnung erreichte JerseyTrack eine DetA von 80,2 % und eine AssA von 54,3 %. Gegenüber Deep OC-SORT verbesserte JerseyTrack die DetA um 2,0 Prozentpunkte und die AssA um 2,2 Prozentpunkte. JerseyTrack erzeugte zudem weniger FP und FN als die anderen in Tabelle 4 genannten Methoden, mit 21.953 FP und 67.160 FN. Insgesamt zeigte der Benchmark-Vergleich, dass JerseyTrack unter der SportsMOT-Validierungskonfiguration die höchsten Werte für die primären Tracking-Metriken unter den evaluierten Methoden erreichte. Diese Ergebnisse stimmen mit den beobachteten Verbesserungen bei der Identitätserhaltung und der Stabilität der Zuordnung überein, die durch die konfidenzgeleitete Assoziation und die semantische Fusion der Trikots erzielt wurden. Der Vergleich beschränkt sich auf die gemeinsam genutzten Detektor-Ausgaben und die in dieser Studie verwendete SportsMOT-Validierungskonfiguration.

Ergebnisse zur Parameterempfindlichkeit

Es wurde eine Parameter-Sensitivitätsanalyse durchgeführt, um zu untersuchen, wie Schlüssel-Implementierungsparameter die Verfolgungsleistung unter der SportsMOT-Validierungseinstellung beeinflussten. Drei Parameter wurden evaluiert: der Gewichtungskoeffizient des OCR-Verlusts (γ), die Anzahl der hierarchischen Cluster auf Konfidenzebene (K) und die Lernrate des OCR-Netzwerks (η). Tabelle 5 fasst die unter verschiedenen Parametereinstellungen erzielten Werte für MOTA, IDF1, HOTA und IDs zusammen.

ParameterWertMOTA↑IDF1↑HOTA↑IDs↓
OCR-Verlustgewichtung (γ)0,284,769,466,22.944
0,486,371,568,22.893
0,687,973,168,92.815
0,8 (optimal)88,974,369,92.768
188,273,869,32.792
Anzahl der Konfidenzcluster (K)286,772,168,52.876
3 (optimal)88,974,369,92.768
488,173,669,72.803
587,372,869,22.851
OCR-Lernrate (η)1 × 10⁻⁴85,970,867,32.934
5 × 10⁻⁴87,672,768,72.832
1 × 10⁻³ (optimal)88,974,369,92.768
5 × 10⁻³87,873,2692.817
1 × 10⁻²86,571,668,72.889

Tabelle 5: Parameter-Sensitivitätsanalyse. Verfolgungsleistung, erzielt mit verschiedenen Parametereinstellungen für JerseyTrack. Die Genauigkeit der Mehrfachobjektverfolgung (MOTA), die ID-Identitäts-F1-Score (IDF1), die Verfolgungsgenauigkeit höherer Ordnung (HOTA) und die Anzahl der Identitätswechsel (IDs) werden für unterschiedliche Werte des Gewichtungskoeffizienten für den Optical Character Recognition (OCR)-Verlust (γ), der Anzahl der Konfidenzcluster (K) und der OCR-Lernrate (η) angegeben. Die als optimal identifizierten Parametereinstellungen entsprechen den in den beschriebenen Experimenten verwendeten Einstellungen. Höhere Werte zeigen eine bessere Leistung bei MOTA, IDF1 und HOTA an, während niedrigere Werte eine bessere Leistung bei IDs anzeigen.

Für den OCR-Verlust-Gewichtungskoeffizienten (γ) wurde die beste bewertete Leistung bei γ = 0,8 erzielt. Unter dieser Einstellung erreichte JerseyTrack eine MOTA von 88,9 %, eine IDF1 von 74,3 %, eine HOTA von 69,9 % und 2.768 IDs. Als γ auf 0,2 reduziert wurde, sanken MOTA, IDF1 und HOTA auf 84,7 %, 69,4 % bzw. 66,2 %, während die Anzahl der IDs auf 2.944 anstieg. Bei Erhöhung von γ auf 1,0 verringerten sich die Leistungskennzahlen im Vergleich zu γ = 0,8 leicht, mit einer MOTA von 88,2 %, einer IDF1 von 73,8 %, einer HOTA von 69,3 % und 2.792 IDs. Diese Ergebnisse zeigen, dass unzureichende OCR-Überwachung die Unterscheidung der Spielernummern beeinträchtigte, während eine Erhöhung des OCR-Verlust-Gewichtungsfaktors über das evaluierte Optimum hinaus unter den getesteten Bedingungen keine Verbesserung der Verfolgungsleistung bewirkte.

Für die hierarchische Clusteranzahl auf Vertrauensniveau (K) wurde die beste Leistung bei K = 3 erzielt. Diese Einstellung entspricht der in der Methode beschriebenen Strategie mit hoher, mittlerer und niedriger Zuverlässigkeit. Bei K = 2 war die Aufteilung nach Vertrauensstufen weniger differenziert, und MOTA, IDF1 sowie HOTA sanken auf 86,7 %, 72,1 % bzw. 68,5 %. Wenn K auf 4 oder 5 anstieg, nahm die Leistung im Vergleich zu K = 3 ebenfalls ab, was darauf hindeutet, dass eine übermäßige Aufteilung die Detektionen in zu enge Vertrauensgruppen unterteilte und die Stabilität der Zuordnungsstrategie verringerte. Diese Ergebnisse untermauern die Verwendung von drei Vertrauensstufen in der evaluierten JerseyTrack-Konfiguration.

Für die Lernrate (η) des OCR-Netzwerks wurde die beste bewertete Leistung bei η = 1 × 10-3 erzielt. Bei einer niedrigeren Lernrate von 1 × 10-4 sanken MOTA, IDF1 und HOTA auf 85,9 %, 70,8 % bzw. 67,3 %, während die Anzahl der IDs auf 2.934 anstieg. Bei einer höheren Lernrate von 1 × 10-2 verringerten sich MOTA, IDF1 und HOTA auf 86,5 %, 71,6 % bzw. 68,7 %, während die Anzahl der IDs auf 2.889 anstieg. Diese Ergebnisse zeigen, dass der OCR-Zweig empfindlich gegenüber der Auswahl der Lernrate war, wobei 1 × 10-3 unter den bewerteten Bedingungen das beste Gleichgewicht zwischen der Erkennung der Spielernummer und der Leistung bei der Identitätserhaltung bot.

Insgesamt zeigt Tabelle 5, dass die Parameterkombination γ = 0,8, K = 3 und η = 1 × 10-3 die höchsten bewerteten MOTA-, IDF1- und HOTA-Werte zusammen mit der geringsten Anzahl an IDs erzielte. Die Sensitivitätsanalyse zeigte außerdem, dass moderate Abweichungen von diesen Parameterwerten messbare, jedoch keine sprunghaften Veränderungen in der Verfolgungsleistung zur Folge hatten. Daher wurden diese Parametereinstellungen für den Vergleichstest und die primären SportsMOT-Validierungsexperimente verwendet, die in dieser Studie berichtet werden.

Datenverfügbarkeit

Die Rohauswertungszusammenfassungen, endgültigen Nachführungsdaten, Umgebungsaufzeichnungen, Datensatz-Zuordnungsdateien und Zwischenergebnisdateien, die die Ergebnisse dieser Studie unterstützen, sind in einem öffentlichen Repository unter https://doi.org/10.5281/zenodo.21274353 verfügbar. Die ursprünglichen öffentlichen Benchmark-Datensätze, die in dieser Studie verwendet wurden, einschließlich SportsMOT, TeamTrack, SoccerNet Tracking, MOT17 und MOT20, sind von ihren jeweiligen Anbietern erhältlich und werden nicht im Repository erneut verbreitet.

Diskussion

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Diese Studie evaluierte einen vertrauensbasierten Sport-MOT-Workflow, der die Aufteilung nach Erkennungsvertrauen mit semantischen Trikotmerkmalen kombiniert. Vertrauensbasierte Zuordnung und semantische Merkmalsfusion wurden als komplementäre Strategien zur Verbesserung der Datenzuordnung beim Mehrfachobjekt-Tracking untersucht12,20,23,24,46. Die Ergebnisse zeigen, dass die vollständige JerseyTrack-Konfiguration die Identitätserhaltung und die Stabilität der Zuordnung unter den evaluierten SportsMOT-Validierungseinstellungen verbesserte. Das Hauptresultat der SportsMOT-Validierung erreichte eine MOTA von 88,9 %, eine HOTA von 69,9 %, eine IDF1 von 74,3 %, eine DetA von 80,2 % und eine AssA von 54,3 %. Diese Werte sollten im Kontext der im Protokoll beschriebenen Detektor-Ausgabedatenquelle, Datensatz-Aufteilung und TrackEval-Konfiguration interpretiert werden.

Ein entscheidender Schritt im Workflow ist die Aufteilung nach Zuverlässigkeitsstufen, die es ermöglicht, je nach Zuverlässigkeit der Detektor-Ausgaben unterschiedliche Assoziierungsstrategien anzuwenden20,22,23,24. Indem die Detektionen in Gruppen mit hoher, mittlerer und niedriger Zuverlässigkeit unterteilt werden, wendet JerseyTrack unterschiedliche Assoziierungsregeln auf Detektionen mit verschiedenen Zuverlässigkeitsgraden an. Detektionen mit hoher Zuverlässigkeit werden hauptsächlich über Bewegungskonsistenz assoziiert, während bei mittlerer Zuverlässigkeit Bewegung und Trikotsemantik kombiniert genutzt werden. Detektionen mit niedriger Zuverlässigkeit dienen nicht zur Initialisierung neuer Trajektorien und werden nur während der Trajektorienwiederherstellung berücksichtigt. Diese Gestaltung verringerte das Risiko, dass schwache Detektionen oder Fehlalarme instabile Identitäten erzeugen, und ermöglicht gleichzeitig, dass teilweise Detektionen zur Wiederherstellung beitragen können, wenn zusätzliche semantische Hinweise verfügbar sind8,11,20. Der zweite entscheidende Schritt ist die Extraktion der Trikotsemantik. Teamfarb-Merkmale liefern eine Einschränkung auf Teamebene, während Spielernummern-Merkmale einen feineren Identitätshinweis bieten, wenn der Nummernbereich sichtbar und lesbar ist35,41,42,43. Die Abationsstudien zeigen, dass diese Hinweise besonders in dichten Interaktionen innerhalb eines Teams und bei Verdeckungen nützlich sind, wo die alleinige Bewegungsassoziierung weniger zuverlässig ist. Trikotsemantik sollte jedoch als unterstützender Beleg betrachtet werden, nicht als vollständiger Ersatz für die Bewegungsassoziierung. Spielernummern können bei Unschärfe, Abschneidung, Rückenansicht, starker Verdeckung oder niedriger Bildauflösung unlesbar sein. Teamfarb-Merkmale können Athleten desselben Teams ebenfalls nicht unterscheiden, wenn keine Nummerninformation verfügbar ist35,42,43. Die Ergebnisse über verschiedene Datensätze hinweg verdeutlichen zudem den Anwendungsbereich der Methode. JerseyTrack ließ sich natürlicher auf Datensätze von Mannschaftssportarten übertragen als auf allgemeine Fußgänger-MOT-Datensätze, da der semantische Zweig speziell auf Trikotfarben und Spielernummern-Hinweise ausgelegt war19,33,34,35,36,37. Auf allgemeinen MOT-Datensätzen blieb die assoziative Komponente, die durch Zuverlässigkeit gesteuert wird, weiterhin anwendbar, doch der sportartspezifische semantische Zweig trug weniger zur Identitätsbestimmung bei. Die Methode eignet sich daher am besten für Videos von Mannschaftssportarten, bei denen die Athleten unterscheidbare Trikots tragen und der Trikotbereich ausreichend sichtbar ist, um semantische Merkmale extrahieren zu können19,33,34,35,36,37.

Mehrere Einschränkungen bleiben bestehen. Erstens hängt die Methode von der Qualität der Detektor-Ausgaben ab; starke Fehldetektionen oder ungenaue Begrenzungsboxen verringern die Zuverlässigkeit sowohl der Bewegungsvorhersage als auch des semantischen Zuschneidens14,17,46. Zweitens wurde die langfristige Wiedererkennung außerhalb des Sichtfelds in der aktuellen Implementierung nicht separat optimiert. Wenn ein Athlet längere Zeit das Kamerabild verlässt und später erneut eintritt, reicht die derzeitige Strategie zur Wiederherstellung der Trajektorie möglicherweise nicht aus, um die ursprüngliche Identität wiederherzustellen19,34. Drittens können starker Hintergrundlärm, überlappende Spieler, Bewegungsunschärfe und nicht lesbare Trikotnummern die Zuverlässigkeit semantischer Merkmale beeinträchtigen14,35,42,46. Viertens konzentrierte sich die aktuelle Evaluation auf öffentliche Benchmark-Datensätze und kontrollierte Störungsszenarien; der Einsatz in Sendevideos mit Kamerawechseln, Zoomänderungen und nicht standardisierten Blickwinkeln könnte zusätzliche Vorverarbeitungsschritte oder Wiedererkennungsmoduln erfordern19,33,34.

Die wichtigste praktische Konsequenz besteht darin, dass vertrauensbasierte Assoziationen und trikotspezifische semantische Hinweise in eine modulare MOT-Pipeline integriert werden können, ohne die Struktur des Detektors zu verändern. Diese Fähigkeit ist anwendbar auf Aufgaben der Sportanalyse wie die Extraktion von Athletentrajektorien, die Analyse von Teambewegungen, die Überprüfung taktischer Ereignisse sowie die halbautomatische Videoannotation1,4,33,36. Zukünftige Arbeiten sollten sich auf eine verbesserte Wiedererkennung außerhalb der Sicht, die Handhabung von Hintergrundstörungen, die Aggregation zeitlicher Merkmale sowie eine robustere Erkennung von Spielernummern bei starker Unschärfe oder Verdeckung konzentrieren14,19,34,46.

Zusammenfassend ist JerseyTrack eine Sport-MOT-Methode, die eine Verknüpfung unter Berücksichtigung der Zuverlässigkeit mit einer semantischen Fusion von Trikotinformationen kombiniert. Die Methode unterteilt Detektionen in Gruppen mit hoher, mittlerer und niedriger Zuverlässigkeit und wendet unterschiedliche Verknüpfungsregeln entsprechend der Detektionszuverlässigkeit an, wobei Trikotfarbe und Spielernummern als zusätzliche Identitätsmerkmale während der Verknüpfung mittlerer Zuverlässigkeit und der Trajektorienrekonstruktion genutzt werden. Im bewerteten SportsMOT-Validierungsszenario zeigte JerseyTrack eine verbesserte Verfolgungsgenauigkeit und bessere Erhaltung der Identitäten im Vergleich zu den evaluierten Baseline-Konfigurationen. Die Ablationsstudien ergaben, dass die vollständige Konfiguration im Vergleich zur Baseline und zu Varianten mit nur einem Modul weniger Identitätswechsel aufwies, und der Benchmark-Vergleich zeigte höhere Werte bei den primären Verfolgungsmetriken unter gemeinsamer Nutzung der Detektor-Ausgaben und Evaluierungskonfiguration. Diese Ergebnisse untermauern die Verwendung von Zuverlässigkeitsgraden und trikotspezifischen semantischen Hinweisen zur Verfolgung von Athleten in Videos von Mannschaftssportarten, insbesondere dann, wenn Trikotbereiche sichtbar sind und Teamfarben oder Spielernummern zusätzliche Identitätshinweise liefern20,35,46. Die Behebung der identifizierten Einschränkungen könnte die Anwendbarkeit des vorgeschlagenen Workflows auf anspruchsvollere Szenarien der Sportverfolgung weiter verbessern.

Offenlegungen

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Die Autoren erklären, dass sie keine finanziellen Interessenkonflikte haben.

Danksagungen

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,

Die Autoren haben keine Danksagungen zu machen.

Materialien

Liste der in diesem Artikel verwendeten Materialien
NameUnternehmenKatalognummerKommentare
CUDA-LaufzeitumgebungNVIDIAVersion 12.8GPU-Rechenlaufzeitumgebung, die für das Training des Detektors, die semantische Merkmalsextraktion und die Verfolgungsinferenz verwendet wird.
EasyOCRJaided AIVersion 1.7.2Optische Zeichenerkennungstoolbox, die zur Erkennung von Spielernummern verwendet wird.
JerseyTrack-QuellcodeAutorenN/VBenutzerdefinierte Implementierung, die die Datenaufbereitung, semantische Merkmalsextraktion, Konfidenzpartitionierung, Verfolgung, Nachbearbeitung und Bewertungsskripte enthält. Verfügbar unter: https://doi.org/10.5281/zenodo.21274352
Leichtgewichtiger CRNN-OCR-ModellAutorenN/VBenutzerdefiniertes faltendes rekurrentes neuronales Netzwerk (CRNN), das zur Erkennung von Spielernummern verwendet wird.
MOT17-DatensatzMOTChallengeN/VÖffentlicher Benchmark-Datensatz, der für die Querdatensatzevaluation verwendet wird. Verfügbar unter: https://motchallenge.net/data/MOT17/
MOT20-DatensatzMOTChallengeN/VÖffentlicher Benchmark-Datensatz, der für die Querdatensatzevaluation verwendet wird. Verfügbar unter: https://motchallenge.net/data/MOT20/
motmetricsmotmetrics-EntwicklerVersion 1.4.0Bibliothek zur Berechnung diagnostischer Metriken für die Mehrfachobjektverfolgung.
NVIDIA-GPUNVIDIAGeForce RTX 5090 D V2Graphikverarbeitungseinheit, die für das Training des Detektors und die Verfolgungsinferenz verwendet wird.
NVIDIA-GPU-TreiberNVIDIAVersion 610.62GPU-Treiber, der in der experimentellen Umgebung verwendet wird.
NumPyNumPy-EntwicklerVersion 2.4.4Numerische Rechenbibliothek, die für die Merkmalsverarbeitung und Datenverwaltung verwendet wird.
OpenCVOpenCVVersion 4.10.0Bibliothek für maschinelles Sehen, die zum Laden, Zuschneiden, Vorverarbeiten und Visualisieren von Bildern verwendet wird.
PythonPython Software FoundationVersion 3.12.2Programmiersprache, die im gesamten Workflow verwendet wird.
PyTorchPyTorch FoundationVersion 2.11.0+cu128Tiefenlern-Framework, das für die Implementierung des Detektors und des semantischen Modells verwendet wird.
scikit-learnscikit-learn-EntwicklerVersion 1.9.0Machine-Learning-Bibliothek, die für das K-Means-Clustering während der Trikotfarben-Extraktion und Konfidenzpartitionierung verwendet wird.
SoccerNet-VerfolgungsdatensatzSoccerNetN/VÖffentlicher Fußball-Verfolgungsbenchmark, der für die Querdatensatzevaluation verwendet wird. Verfügbar unter: https://www.soccer-net.org/tasks/tracking
SportsMOT-DatensatzSportsMOT-BenchmarkN/VPrimärer Benchmark-Datensatz, der für die Detektorvorbereitung und Verfolgungsbewertung verwendet wird. Verfügbar unter: https://deeperaction.github.io/datasets/sportsmot.html
TeamTrack-DatensatzTeamTrack-BenchmarkN/VÖffentlicher Sportverfolgungsbenchmark, der für die Querdatensatzevaluation verwendet wird. Verfügbar unter: https://atomscott.github.io/TeamTrack/
TorchvisionPyTorch FoundationVersion 0.26.0+cu128Bibliothek für maschinelles Sehen, die zusammen mit PyTorch für Bildtransformationen und Modellunterstützung verwendet wird.
TrackEvalTrackEval-EntwicklerVersion 1.3.0Bewertungstoolkit zur Berechnung der Genauigkeit der Mehrfachobjektverfolgung (MOTA), des ID-F1-Scores (IDF1), der höhergradigen Verfolgungsgenauigkeit (HOTA), der Detektionsgenauigkeit (DetA), der Assoziationsgenauigkeit (AssA), falsch positiver (FP), falsch negativer (FN) und Identitätswechsel (IDs).
UltralyticsUltralyticsVersion 8.4.90Objekterkennungs-Framework, das zum Training des Detektors und zur Generierung von Athletenerkennungen verwendet wird.

Referenzen

Loading...
$$\rightleftharpoonup{xx}$$ $$\longleftharp{xx}$$, $$\longrightharp{xx}$$,
  1. Naik BT, Hashmi MF, Bokde ND. A comprehensive review of computer vision in sports: open issues, future trends and research directions. Applied Sciences. 2022;12(9):4429-46.
  2. Cao W, Wang X, Liu X, Xu Y. A deep learning framework for multi-object tracking in team-sports videos. IET Computer Vision. 2024;18(5):574-90.
  3. Fu X, et al. A novel dataset for multi-view multi-player tracking in soccer scenarios. Applied Sciences. 2023;13(9):5361-77.
  4. Guo Y, et al. Does visual training enhance athletes' decision-making skills and sport-specific performance? A systematic review and meta-analysis. Scand J Med Sci Sports. 2025;35(10):e70140.
  5. Chen X, et al. Multi-object detection and tracking based on CRF network and spatio-temporal attention for sports videos. Scientific Reports. 2025;15(1):6808-21.
  6. Cheng X, Zhao H, Deng Y, Shen S. Multi-object tracking with predictive information fusion and adaptive measurement noise. Applied Sciences. 2025;15(2):736-48.
  7. Hu Q, Scott A, Yeung C, Fujii K. Basketball-SORT: an association method for complex multi-object occlusion problems in basketball multi-object tracking. Multimedia Tools Appl. 2024;83(38):86281-97.
  8. Meng W, Duan S, Ma S, Hu B. Motion-Perception Multi-Object Tracking (MPMOT): enhancing multi-object tracking performance via motion-aware data association and trajectory connection. Journal of Imaging. 2025;11(5):144.
  9. Nie G, Wang X, Zhang D, Wang H. SCT-Diff: seamless contextual tracking via diffusion trajectory. Journal of Imaging. 2026;12(1):38.
  10. Yue Y, et al. Improving multi-object tracking by full occlusion handle and adaptive feature fusion. IET Image Processing. 2023;17(12):3423-40.
  11. Li H, et al. Synergistic-aware cascaded association and trajectory refinement for multi-object tracking. Image Vis Comput. 2025;154:105695.
  12. Wang C, Xie H. FCD-Net: feature decorrelation and confidence-driven dynamic fusion for robust pedestrian recognition in autonomous driving. IEEE Trans Intell Transp Syst. 2025;26(1):1-13.
  13. Wan S, Chen W. Improved multi-target athlete tracking in sports videos using IYOLOv8-MTD and enhanced DeepSORT with hybrid attention and IMM. Informatica. 2025;49(35):101-16.
  14. Sun Z, et al. Multiple pedestrian tracking under occlusion: a survey and outlook. IEEE Trans Circuits Syst Video Technol. 2025;35(2):1009-27.
  15. Qian H, et al. Low-altitude multi-object tracking via graph neural networks with cross-attention and reliable neighbor guidance. Remote Sensing. 2025;17(20):3502.
  16. Liu C, Li H, Wang Z. FastTrack: a highly efficient and generic GPU-based multi-object tracking method with parallel Kalman filter. Int J Comput Vis. 2024;132(5):1463-83.
  17. Urdiales J, Martín D, Armingol JM. An improved deep learning architecture for multi-object tracking systems. Integr Comput Aided Eng. 2023;30(2):121-34.
  18. You L, et al. Multi-object vehicle detection and tracking algorithm based on improved YOLOv8 and ByteTrack. Electronics. 2024;13(15):3033.
  19. Stanczyk T, Yoon S, Bremond F. No train yet gain: towards generic multi-object tracking in sports and beyond [conference paper]. In: Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition Workshops; 2025. p. 6085-94. https://doi.org/10.48550/arXiv.2506.01373
  20. Mandel T, et al. Detection confidence driven multi-object tracking to recover reliable tracks from unreliable detections. Pattern Recognit. 2023;135:109107.
  21. Hou M, Wu Y, Shi H, Mu X. A two-stage multi-object tracking algorithm with transformer and attention mechanism. Scientific Reports. 2025;15(1):31414.
  22. Wenkel S, et al. Confidence score: the forgotten dimension of object detection performance evaluation. Sensors. 2021;21(13):4350.
  23. Zhang F, Hu Y, Li Z, Luo D. Two-stage multi-object tracking via low confidence dynamic adaptive matching enhancement for autonomous driving. Applied Soft Computing. 2025;168:112101.
  24. Stanojevic VD, Todorovic BT. BoostTrack: boosting the similarity measure and detection confidence for improved multiple object tracking. Mach Vis Appl. 2024;35(3):53.
  25. Tan S, Kuang Z, Jin B. AppleYOLO: apple yield estimation method using improved YOLOv8 based on Deep OC-SORT. Expert Syst Appl. 2025;272:126764.
  26. Li YF, et al. Multi-object tracking with robust object regression and association. Comput Vis Image Underst. 2023;227:103586.
  27. Mao H, Chen Y, Li Z, Chen F, Chen P. SCTracker: multi-object tracking with shape and confidence constraints. IEEE Sensors Journal. 2023;24(3):3123-30.
  28. Ma J, Yang J, Zhang J, Fu F. Online multiple object tracker with enhanced features. Journal of Electronic Imaging. 2023;32(1):013030.
  29. Liu Y, et al. A full-detection association tracker with confidence optimization for real-time multi-object tracking. J Real-Time Image Process. 2024;21(4):1-15.
  30. Song Z, et al. Temporal coherent object flow for multi-object tracking [conference paper]. In: Proceedings of the AAAI Conference on Artificial Intelligence; 2025;39(7):6978-86. https://doi.org/10.1609/aaai.v39i7.32749.
  31. Scarrica VM, Staiano A. Learning from outputs: improving multi-object tracking performance by tracker fusion. Technologies. 2024;12(12):239.
  32. Miah M, Bilodeau GA, Saunier N. Learning data association for multi-object tracking using only coordinates. Pattern Recognit. 2025;160:111169.
  33. Yang C, Yang M, Li H. A survey on soccer player detection and tracking with videos. Visual Computer. 2025;41(2):815-29.
  34. Pham DT, Thuy NTT, Tran LQ. SportsORT: overcoming challenges of multi-object tracking in sports through domain-specific features and out-of-view re-association. Mach Vis Appl. 2025;36(6):1-17.
  35. Naik BT, Hashmi MF, Geem ZW, Bokde ND. DeepPlayer-Track: player and referee tracking with jersey color recognition in soccer. IEEE Access. 2022;10:32494-509.
  36. Scott A, et al. TeamTrack: a dataset for multi-sport multi-object tracking in full-pitch videos. Sports Engineering. 2024;27(2):24.
  37. Vats K, et al. Player tracking and identification in ice hockey. Expert Syst Appl. 2023;213:119250.
  38. Liu W, Yao J, Jiang F, Wang M. An improved multi-object tracking algorithm designed for complex environments. Sensors. 2025;25(17):5325.
  39. Kausalya K, Kanaga Suba Raja S. OTRN-DCN: an optimized transformer-based residual network with deep convolutional network for action recognition and multi-object tracking of adaptive segmentation using soccer sports video. Int J Wavelets Multiresolut Inf Process. 2024;22(1):2350034.
  40. Lopes JM, et al. Object and event detection pipeline for rink hockey games. Future Internet. 2024;16(6):179.
  41. Thulasya Naik B, Hashmi MF, Gupta A. EIoU-distance loss: an automated team-wise player detection and tracking with jersey colour recognition in soccer. Connection Science. 2024;36(1):2291991.
  42. Liu H, et al. Automated player identification and indexing using two-stage deep learning network. Scientific Reports. 2023;13(1):10036.
  43. Bhargavi D, Gholami S, Pelaez Coyotl E. Jersey number detection using synthetic data in a low-data regime. Front Artif Intell. 2022;5:988113.
  44. Dendorfer P, et al. MOTChallenge: a benchmark for single-camera multiple target tracking. Int J Comput Vis. 2021;129(4):845-81.
  45. Luiten J, et al. HOTA: a higher order metric for evaluating multi-object tracking. Int J Comput Vis. 2021;129(2):548-78.
  46. Pal SK, Pramanik A, Maiti J, Mitra P. Deep learning in multi-object video tracking: a review. Mach Vis Appl. 2021;51(9):6400-29.

Nachdrucke und Genehmigungen

Genehmigung beantragen, um den Text oder die Abbildungen dieses JoVE-Artikels zu verwenden

Genehmigung beantragen

Schlagwörter

Konfidenzgesteuertes TrackingSpielertrajektorieBewegungs hnlichkeitTrikotfarbeoptische ZeichenerkennungIdentit tskonsistenzSportsMOT Datensatz

Verwandte Artikel