Çoklu nesne takibi (MOT), video dizilerinde sürekli nesne yerelleştirmesi ve kimlik koruması sağlar; spor videosu uygulamalarında sporcu yörünge çıkarımı, taktiksel analiz ve otomatik istatistiksel analizi destekler1,2,3. Güvenilir görsel bilgiler, spor bilimlerinde spora özgü karar verme ve performans değerlendirmesiyle de ilişkilidir; bu da sonraki spor analizleri için videodan türetilen kararlı hareket verilerinin değerini daha da vurgulamaktadır4. Spor senaryolarında, taktiksel verilerin güvenilirliği, takip yörüngelerinin sürekliliğine ve hedef kimliklerinin tutarlılığına bağlıdır.
Genel MOT senaryolarıyla karşılaştırıldığında, spor videoları hızlı yön değişimleri, ani duruşlar, sıçramalar, yoğun etkileşimler ve sık occlusion durumları içerir. Bu faktörler, tespit kutusu güveninde önemli dalgalanmalara neden olur ve düşük güvenli tespitlerin sıklığını artırarak yörünge ilişkilendirmesini kesintiye uğratabilir5,6. Tek tip takım formaları, genel görünüm özelliklerinin ayırt edici yeteneğini daha da azaltır ve görsel olarak benzer takım arkadaşları arasında kimlik karışıklığını artırır7,8. Occlusion ve görünüm benzerliği aynı dizide meydana geldiğinde, tespit güveni azalır ve hedef görünüm bilgisi eksik hale gelir; bu da yörünge ilişkilendirme ve kimlik koruma zorluğunu artırır9,10. MOT'ta, yeniden tanımlama (Re-ID), kimlikle ilgili görsel kanıtlar kullanılarak aynı hedef kimliğinin kareler, occlusion dönemleri veya yeniden giriş durumları boyunca ilişkilendirilmesi sürecini ifade eder. Takım sporları videolarında, aynı takımdaki sporcuların genellikle benzer üniformalara ve vücut görünümlerine sahip olması nedeniyle genel Re-ID ipuçları zayıflayabilir. Teknik literatür incelemesi, spor MOT'undaki yörünge parçalanması ve kimlik karışıklığının yaygın olarak iki tamamlayıcı yaklaşımla ele alındığını göstermektedir: tespit güveni kullanımı ve kimlik ipucu geliştirme. JerseyTrack, renk ve oyuncu numarası bilgilerini tüm tespitlere tekdüze şekilde uygulamak yerine, forma semantik ipuçlarının kullanımını tespit kalitesine göre düzenleyerek bu yaklaşımların kesişim noktasında konumlandırılmıştır.
Bu çalışma, forma anlamsal füzyonuna dayalı, güven odaklı bir spor MOT yöntemi olan JerseyTrack'i sunmaktadır. Yöntem, sporcuların görünür formalar giydiği ve tespit sonuçlarının güven skorlarıyla birlikte sınırlayıcı kutular sağladığı takım sporu videoları için tasarlanmıştır. JerseyTrack dört ana bileşeni birleştirir: sporcu tespiti, güven düzeyi bölümlendirme, forma anlamsal özellik çıkarımı ve kademeli kareler arası ilişkilendirme. Tespit güveni, tespitleri yüksek, orta ve düşük güvenli gruplara uyarlanabilir şekilde bölmek için kullanılır ve bu gruplar farklı ilişkilendirme stratejileri kullanılarak işlenir. Yüksek güvenli tespitler öncelikle hareket bilgisi aracılığıyla ilişkilendirilirken, orta ve düşük güvenli tespitler, görsel kanıtların zayıf olduğu durumlarda kimlik korumasını iyileştirmek için ek olarak forma rengi ve oyuncu numarası bilgilerini içerir. Yöntem, taktiksel analiz ve oyuncu davranışı yorumlama gibi stabil sporcu yörüngeleri gerektiren spor videosu analiz görevleri için amaçlanmıştır.
Önerilen yaklaşımın operasyonel sınırlamaları da bulunmaktadır. Forma semantik çıkarımı; şiddetli kapanma (oklüzyon), hareket bulanıklığı, düşük görüntü çözünürlüğü, anormal forma pozları veya görünmeyen oyuncu numaralarından etkilenebilir. Bu durumlarda, formaya dayalı semantik ipuçları yetersiz kalabilir ve ilişkilendirme süreci daha çok hareket tutarlılığına ve çok kareli doğrulamaya dayanır. Bu nedenle, bu çalışmadaki performans iddiaları, değerlendirilen veri setleri ve deneysel ortamlarla sınırlıdır. SportsMOT veri seti üzerinde yapılan deneyler, JerseyTrack'in test edilen spor takip koşulları altında değerlendirilen takip metriklerini iyileştirdiğini ve kimlik değiştirme (identity-switching) olaylarını azalttığını göstermektedir. Spor videolarında MOT'un temel zorluğu, hızlı hareket, kapanma ve görünüm benzerliği altında yörünge sürekliliğini ve kimlik tutarlılığını korumaktır. JerseyTrack ile ilgili mevcut çalışmalar genel olarak iki araştırma yönüne ayrılabilir: yörünge ilişkilendirmesi için tespit güveninin kullanımı ve spora özgü semantik özellikler aracılığıyla kimlik ipuçlarının geliştirilmesi.
Tespit güven değeri, tespit kutularının güvenilirliğini tahmin etmek ve MOT'ta yörünge ilişkilendirmesine rehberlik etmek için yaygın olarak kullanılmıştır. Erken dönem izleme yöntemleri, güven değerini genellikle ikili bir filtreleme kriteri olarak ele almış ve yanlış pozitifleri azaltmak için sabit bir eşiğin altındaki tespitleri kaldırmıştır11,12. Bu strateji gürültülü tespitleri azaltsa da, oklüzyon (örtünme), hızlı hareket veya düşük görüntü kalitesi altındaki gerçek hedeflerin de atılmasına neden olarak yörünge parçalanmasıyla sonuçlanabilmektedir13,14,15. Benzer filtreleme stratejileri, sabit güven eşiklerinin sahne varyasyonuna ve tespit kalitesine karşı duyarlı olduğunu da göstermiştir16,17. Düşük güvenli tespitlerin kullanımını geliştirmek için ByteTrack, düşük güvenli kutuları ikincil eşleştirme için aday hedefler olarak tutan ve bunları hareket benzerliği ile yörünge geçmişi üzerinden mevcut yörüngelerle bağlayan bir ilişkilendirme stratejisi sunmuştur18. McByte, zamansal olarak yayılmış segmentasyon maskelerini bir ilişkilendirme ipucu olarak ekleyerek spor MOT ilişkilendirmesini daha da genişletmiş; video başına ek eğitim gerektirmeden hızlı hareket, oklüzyon ve kamera kayması koşulları altında dayanıklılığı artırmıştır19. İlgili çalışmalar, ilişkilendirme sırasında zayıf ancak potansiyel olarak geçerli hedefleri tutmak için düşük güvenli tespitlerin kullanımını da düzenlemiştir20,21,22. Güvene duyarlı ilişkilendirme stratejileri, daha sonra eşleştirme kriterlerini hareket tutarlılığına ve tespit güvenilirliğine göre rafine etmiştir23,24,25. Tespit kutusu regresyonu ve yörünge pürüzsüzlüğü optimizasyonuna dayalı yörünge rafinasyon yöntemleri de yörünge parçalanmasını azaltmak için kullanılmıştır26,27,28. Ek rafinasyon stratejileri, karmaşık hareket koşulları altında yörünge sürekliliğinin korunması için tamamlayıcı destek sağlamaktadır29. Zamansal tutarlı nesne akışı, kareler arası nesne düzeyinde zamansal tutarlılığı daha ayrıntılı modellerken, karmaşık MOT senaryolarında yörünge kesintilerini azaltmak için ilişkilendirme odaklı başka bir yaklaşım sunmaktadır30. İzleyici füzyon yöntemleri ayrıca birden fazla izleyicinin çıktılarından öğrenmekte ve farklı MOT kıyaslamalarında izleme dayanıklılığını artırmak için öğrenici tabanlı seçim veya füzyon stratejileri kullanmaktadır31. Topluca bakıldığında bu çalışmalar, güvende farkındalık yaratan ilişkilendirmenin kesintiye uğramış yörüngeleri geri kazanmaya yardımcı olduğunu göstermektedir; ancak, aynı takımdaki oyuncuların görsel görünümleri benzer olduğunda, güven ve hareket ipuçları sınırlı kimlik bilgisi sağlamaktadır. Bu yöntemler genel senaryolarda yörünge parçalanmasını etkili bir şekilde hafifletse de, spor ortamlarında doğuştan gelen sınırlamalarla karşı karşıyadır; çünkü aynı takımdaki oyuncular genellikle oldukça benzer görsel görünümlere sahiptir ve yalnızca güven ve hareket bilgilerine güvenmek, kimlik ayrımı için yeterli bir temel sağlayamaz32,33,34. Düşük güvenli kutular etkili bir şekilde geri çağrıldığında bile, özellik benzerliği hala kimlik değişimlerine yol açabilmekte ve spor analizinin katı kimlik tutarlılığı gereksinimlerini karşılamayı zorlaştırmaktadır.
Spora özgü kimlik ipuçları, sporcu takibinde kimlik ayrımını iyileştirmek için de kullanılmıştır. Takım rengi ve oyuncu numarası gibi forma semantik bilgileri, genel görünüm gömmelerinden ziyade spor senaryolarıyla daha doğrudan ilişkili kimlik ipuçları sağlar35,36,37. Forma rengi, takım düzeyindeki ayrımı desteklemek ve takımlar arası karışıklığı azaltmak için kullanılırken, oyuncu numarası tanıma, numara bölgesinin görünür ve okunabilir olduğu durumlarda daha hassas bir kimlik ipucu sağlar38,39. Mevcut spor takip çalışmaları, kalabalık spor koşulları altında oyuncu ilişkilendirmesini iyileştirmek için alana özgü görsel özellikleri ve forma rengi tanımayı dahil etmiştir40,41. Forma numarası tanıma ve sentetik numara verileri üzerine yapılan ilgili çalışmalar, düşük çözünürlüklü veya kısmen gizlenmiş koşullar altında kimlik modellemeyi daha da desteklemektedir42,43. Bu çalışmalar, forma semantiğinin spor MOT'unda kimlik temsilini güçlendirebileceğini göstermektedir. Ancak, semantik olarak geliştirilmiş takip yöntemlerinin çoğu, tespit güveni ile semantik özellik kalitesi arasındaki ilişkiyi yeterince modellememektedir. Yüksek güvenli tespitler zaten güvenilir uzamsal ve görünüm bilgileri içerebilir, bu da tekrarlanan semantik çıkarımı daha az verimli hale getirir. Düşük güvenli tespitler ise genellikle gizlenme, bulanıklık, kırpılma veya düşük çözünürlükten etkilenerek renk ve oyuncu numarası ipuçlarının güvenilirliğini azaltır. Bu sınırlama, forma semantiğinin tüm tespitlere tek tip uygulanması yerine tespit kalitesine göre sunulduğu güven odaklı bir ilişkilendirme tasarımını tetiklemektedir. İncelenen çalışmalar, güven duyarlı ilişkilendirmenin ve forma semantik modellemesinin spor MOT'unun farklı yönlerini ele aldığını göstermektedir. Güvene dayalı stratejiler temel olarak bir tespitin ilişkilendirmeye katılıp katılmaması gerektiğini ve mevcut yörüngelerle nasıl eşleşmesi gerektiğini belirlerken, forma semantik stratejileri öncelikle spora özgü ipuçları aracılığıyla kimlik temsilini geliştirir. Bununla birlikte, bu iki mekanizma genellikle ayrı bileşenler olarak tasarlanmıştır. Sonuç olarak, semantik ipuçları her zaman tespit kalitesine göre ayarlanmaz ve güven seviyeleri ilişkilendirme sırasında renk ve oyuncu numarası bilgilerinin kullanımını doğrudan düzenlemez. Bu ayrım, takım sporu videolarında yörünge parçalanması ve kimlik karışıklığının ortaklaşa ele alınmasını sınırlar. Mevcut araştırma boşluğu, aynı takip iş akışı içerisinde tespit güveni kalite değerlendirmesi ile forma semantik ilişkilendirmesinin birbirine bağlanmasında yatmaktadır.