본 프로토콜은 시맨틱 컴포넌트 파싱, 토폴로지 모델링, 듀얼 스트림 특징 인코딩 및 구조 가이드 융합을 통합하여 구조 인식 의류 표현형을 생성합니다. 이를 통해 컴퓨터 비전 및 의류 연구자는 색상이나 질감이 아닌, 컴포넌트 구성 및 실루엣 배치를 기반으로 의류 검색 및 디자인 참조 비교를 수행할 수 있습니다.
이 콘텐츠를 보려면 JoVE 구독이 필요합니다. 로그인하거나 오늘 무료 평가판을 시작하세요.
본 프로토콜은 시맨틱 컴포넌트 파싱, 토폴로지 모델링, 듀얼 스트림 특징 인코딩 및 구조 가이드 융합을 통합하여 구조 인식 의류 표현형을 생성합니다. 이를 통해 컴퓨터 비전 및 의류 연구자는 색상이나 질감이 아닌, 컴포넌트 구성 및 실루엣 배치를 기반으로 의류 검색 및 디자인 참조 비교를 수행할 수 있습니다.
의류 이미지 검색 방법은 주로 색상과 질감을 강조하는 경향이 있으며, 이는 외형은 비슷하지만 구성 요소의 배치가 다른 의류 간의 혼동을 야기할 수 있습니다. 본 연구에서는 의류 이미지 검색 및 디자인 참조 비교를 위한 구성 요소 인식 특징 학습 프로토콜을 제시합니다. 이 프로토콜은 의류의 의미론적 영역을 분석하고, 이미지 수준의 의류 구성 요소 그래프를 구축하며, 외형과 구성 요소 간의 관계를 병렬적으로 인코딩한 후, 구조적 일관성, 구조적 관계 및 구조적 판별 손실을 사용하여 두 표현을 융합합니다. DeepFashion2 이미지를 512 x 512 픽셀로 표준화하고 HRNet-W48로 분석하며, ResNet-50 및 그래프 컨볼루션을 통해 인코딩한 후 구조적 검색 및 클러스터링을 통해 평가하였습니다. 전체 모델은 0.81의 구조적 일관성 지수, 0.71의 구조적 판별 지수, 89.2%의 Recall@5, 86.4%의 평균 정밀도 평균(mAP), 그리고 0.74의 실루엣 계수를 달성했습니다. 본 프로토콜은 표면 외형만으로는 의류 구조를 신뢰성 있게 나타낼 수 없을 때, 의류 구조 검색, 구조적 비교 및 차이 위치 파악을 지원합니다.
컴퓨터 비전과 인공지능의 의류 산업 통합이 지속됨에 따라, 의류 이미지 분석은 기본적인 인식 작업에서 디자인 중심의 분석 및 의사 결정 지원으로 점차 확대되었습니다1,2. 의류 디자인 프로세스에서 디자인 안의 구분은 단순한 외관의 차이보다는 구조적 구성과 구성 요소 간의 관계에 더 많이 의존하며, 이는 디자인 보조 시 의류 이미지 특징의 구조적 표현력이 분석의 효과를 결정짓는 핵심 요인이 됩니다3,4. 그러나 기존의 대부분의 시각적 방법들은 여전히 질감, 색상, 전체적인 윤곽을 주요 특징으로 사용하고 있어, 디자인 과정 중 의복의 계층 구조와 구성 차이를 체계적으로 분석하는 데 어려움이 있습니다5,6. 따라서 의류 디자인 보조를 위해 구조 인지형 이미지 특징 학습 방법을 개발하는 것은 디자인 분석의 객관성과 일관성을 향상시키는 데 중요합니다7. 본 프로토콜은 의복들이 유사한 색상, 질감 또는 전체적인 윤곽을 공유하지만 구성 요소의 조직, 연결 패턴 또는 공간적 배치가 다른 경우에 적합합니다. 이러한 조건에서 외관 중심의 표현 방식은 구조적으로 서로 다른 디자인을 특징 공간에서 가깝게 배치하는 경향이 있어, 검색 및 디자인 비교의 신뢰성을 떨어뜨립니다. 본 프로토콜은 의복 구성 요소 간의 관계가 구조적 검색, 디자인 평가 및 국소적 차이 분석의 주요 기초가 되는 과제들을 다룹니다.
데이터 규모, 모델 복잡성 및 작업 다양성 측면에서 의류 이미지의 자동 분석 및 이해에 관한 현재 연구는 상당한 진전을 이루었습니다8,9. 하지만 실제 응용 분야에서 의류의 구조적 정보는 종종 세그멘테이션(segmentation)이나 검출 결과에 암묵적으로 포함되어 있으며, 특징 학습 단계의 통합 모델링에서 고려되지 않아 특징 공간 내에서 서로 다른 구조적 디자인 간의 안정적인 구분이 부족한 실정입니다10,11. 의복 구성 요소 간의 공간적 관계, 계층적 제약 및 위상 구조가 명시적으로 인코딩되지 않아, 특징 표현이 디자인 수준에서의 구조적 차이를 반영하기 어렵습니다12,13. 명시적인 구조적 모델링의 부재는 디자인 보조 시나리오에서 의류 이미지 특징의 분석 입도와 결정 신뢰성을 제한하며, 이는 더 깊은 세만틱 이해를 갖춘 지능형 디자인 시스템 개발의 주요 장애물이 되고 있습니다14.
의류 이미지 특징 학습 및 분석을 지원하기 위해 관련 연구들에서는 여러 기술적 방향을 탐색해 왔습니다15. 시맨틱 세그멘테이션(semantic segmentation) 및 의류 파싱(garment parsing) 방법은 픽셀 수준의 어노테이션을 통해 의류 영역과 구성 요소의 세밀한 묘사를 가능하게 하여 구조적 정보 추출의 기반을 제공했습니다16,17. 이미지 쿼리 기반의 의류 검색 방법에는 토폴로지 및 색상-질감 융합, 전역 및 지역 어텐션 정렬, 의류 파싱, 다중 스케일 및 다중 입도 표현, 그리고 특징 선택을 포함한 잔차 어텐션(residual attention) 등이 도입되었습니다. 이러한 방법들은 카탈로그 검색, 소비자-매장 매칭, 교차 도메인 제품 검색 및 이커머스 시각 검색 문제를 해결합니다. 각 방법이 시각적 쿼리를 기반으로 의류 이미지의 순위를 매기기 때문에 그 적용 환경은 디자인 참조 검색과 밀접한 관련이 있지만, 특징 융합 과정 전반에서 유형별 구성 요소의 인접성 및 수직적 순서 관계를 보존하지는 않습니다18,19,20. 한편, 디자인 및 추천 시나리오에 관한 연구에서는 멀티모달 융합, 관계 모델링 및 스타일 분석이 점진적으로 도입되어 의류 시각 특징의 응용 범위가 확장되었습니다21,22. 이러한 방법들이 각자의 과제에서 진전을 이루었음에도 불구하고, 핵심 특징은 여전히 상당 부분 외형 묘사에 기반하고 있으며, 구조적 정보가 특징 학습을 위한 내재적 제약 조건으로 일관되게 모델링되지 않아 구조적 정렬 및 구조적 비교를 통한 의류 디자인 지원 요구를 충족시키기 어려운 실정입니다23.
의류 디자인 보조 분야에서 부족한 구조적 차별화 능력을 해결하기 위해, 본 논문은 의류 구조 인식을 기반으로 한 이미지 특징 학습 방법을 제안합니다. 이 방법은 의류 분석 결과와 핵심 구조 정보를 의류 이미지 입력 단계에 통합하여, 의류 구성 요소 영역, 공간적 관계 및 계층적 연결을 공동으로 모델링합니다. 구조적 관계 인코딩과 시각적 특징 정렬은 의류 제약 조건을 특징 학습 과정에 명시적으로 통합하여, 시각적 외형과 구조적 일관성을 모두 유지하는 표현을 생성합니다. 이러한 특징은 단일 공간 내에서 의류의 구조적 차이를 특성화하여 이후의 구조적 유사도 분석, 구조적 클러스터링 및 디자인 보조 의사결정을 위한 안정적인 기반을 제공함으로써, 기존 방법의 구조적 모델링 부재로 인해 발생하는 특징 혼동 문제를 완화합니다. 구조적 정보를 느슨하게 연결된 보조 속성으로 취급하는 일반적인 시각적 검색 전략과 달리, 본 프레임워크는 위상 관계 중심의 특징 변조 메커니즘을 구축합니다. 이 메커니즘은 학습된 표현이 가시적인 의류 영역 조직을 따르도록 유도하는 동시에 텍스처 중심의 반응을 감소시킵니다. 각 그래프 노드는 이미지 수준의 시맨틱 영역을 나타내며, 각 그래프 관계는 이미지 평면에서의 가시적 인접성 또는 정규화된 상대적 위치를 설명합니다. 결과적으로 생성된 임베딩은 여러 의류 이미지 간의 구성 요소 배치 및 실루엣 조직의 비교를 지원합니다. 이러한 영역과 관계는 재단 패턴 조각, 솔기 연결, 제작 랜드마크 또는 그레이딩 파라미터가 아닙니다. 외형 중심의 검색 방법과 비교하여, 본 프로토콜은 구조적 정보를 하위 분석 결과로 취급하는 대신 특징 학습 전 과정에서 명시적인 구성 요소 위상을 유지합니다. 구조적 단서를 보조 입력으로만 도입하는 접근 방식과 비교하여, 이중 스트림 인코딩과 위상 일관성 융합은 기하학적 관계를 보존하면서 텍스처 중심의 반응을 감소시킵니다. 결과적으로 생성된 표현은 의류 구조 검색, 구조적 클러스터링, 디자인 참조 스크리닝 및 국소적 디자인 차이 분석을 지원하며, 의류 디자인 과정에서 해석 가능한 구성 요소 수준의 근거를 제공합니다. 본 프로토콜과 관련된 연구 분야는 의류 이미지 특징 학습, 의류 구조 모델링, 구조 인식 표현 및 의류 디자인 보조를 위한 시각적 분석을 포괄합니다.
특징 표현 수준에서 의류 이미지 연구는 오랫동안 외형 모델링, 심층 특징 추출 및 다중 스케일 표현에 집중해 왔습니다24,25. 초기 연구에서는 합성곱 신경망을 사용하여 분류, 검색 및 유사도 매칭 작업을 위한 의류 이미지의 엔드-투-엔드 모델링을 수행했습니다26,27. 이후 서로 다른 시야각, 포즈 및 촬영 조건 하에서의 의류 이미지 차이를 완화하기 위해 다중 스케일 특징 융합 및 교차 도메인 학습이 도입되었습니다28,29. 검색 작업에서는 특징의 변별력과 계산 효율성을 높이기 위해 어텐션 메커니즘과 특징 압축 전략이 사용되었습니다30,31. 이러한 방법들은 신뢰할 수 있는 외형 변별을 가능하게 하지만, 특징 학습 과정이 여전히 전역적인 시각 정보에 집중되어 있어 의복 내부 구조에 대한 체계적인 표현이 부족합니다32. 구성 패션 검색 방법은 참조 이미지와 텍스트 수정 지시어를 추가로 결합하지만, 이는 본 연구에서 다루는 이미지 전용 프로토콜과는 쿼리 모달리티가 다릅니다. 해당 방법들은 관련 상용 검색 방향으로 검토되었으며, 추가적인 텍스트 입력이 통제된 이미지 쿼리 평가를 방해할 수 있으므로 정량적 비교에서는 제외되었습니다.
의류 이미지 분석이 외형 식별에서 구조적 이해로 전환됨에 따라, 의복 구성 요소, 기하학적 관계 및 위상학적 연결을 모델링하는 연구가 점점 더 주목받고 있습니다33. 시맨틱 세그멘테이션 네트워크는 특징 투영과 다중 어텐션 메커니즘을 통해 의류 구성 요소 수준의 분석을 달성함으로써 구조적 정보 추출을 위한 신뢰할 수 있는 기반을 제공했습니다34,35. 키포인트 검출 및 구조적 위상 모델링 방법은 의복 외곽선과 국소 구조 간의 관계를 더욱 구체화하여 의류의 기하학적 특징을 표현하는 모델의 능력을 향상시켰습니다36,37. 여러 연구에서는 그래프 구조와 관계 추론 네트워크를 도입하여 의류 구성 요소 간의 관계를 모델링함으로써 세밀한 인식 및 교차 도메인 검색 성능을 개선했습니다38,39. 이러한 연구들은 시각적 분석에서 구조적 정보의 중요한 역할을 입증했으나, 구조는 주로 보조적인 특징이나 중간 결과로 사용되었을 뿐, 구조적 제약을 핵심으로 하는 특징 학습 시스템은 아직 개발되지 않은 상태입니다40.
의류 디자인 지원 분야에서 이러한 발전은 디자인 추천, 스타일 분석, 대화형 시스템 구축 및 구조 중심의 디자인 평가를 뒷받침해 왔습니다41. 추천 시스템 연구는 시각적 특징과 사용자 선호도를 결합하여 의류 매칭 및 개인 맞춤형 추천을 구현하였습니다42. 디자인 지원 관련 연구는 생성 모델, 스타일 모델링 및 인간-컴퓨터 협업 메커니즘을 결합하여 지능형 디자인 지원을 위한 새로운 경로를 탐색해 왔습니다43. 가상 피팅, 사이즈 측정 및 스타일 전이 연구는 디자인과 생산 공정 전반에 걸쳐 의류 시각 분석의 응용 범위를 넓혔습니다. 이러한 연구들이 의류 디자인 지원의 기술적 형태를 풍성하게 했음에도 불구하고, 핵심 시각적 특징은 여전히 주로 외형에 기반하고 있으며 분석을 위한 디자인 구조의 통합된 표현 방식이 부족한 실정입니다. 이와 대조적으로, 본 논문에서는 의복 구조를 특징 표현의 핵심 제약 조건으로 취급하며, 의류 디자인 지원의 구조적 분석을 위한 시각적 표현 방법을 제공합니다.
이러한 발전에도 불구하고, 생성형 디자인의 최근 방법들은 구조적 조건을 확산 과정 내의 느슨한 공간 안내 행렬로 처리하는 경우가 많습니다. 현대의 구조적 파싱 프레임워크는 토폴로지를 기본 시각적 임베딩 공간과 분리된 보조 세맨틱 레이블로 표현합니다. 제안된 프레임워크는 컴포넌트 수준에서 시각적 특징 학습을 명시적으로 조절하는 그래프 사전 기반의 토폴로지 제약 조건을 정의함으로써 이러한 메커니즘을 변경합니다. 다층적 일관성 목적 함수는 이미지 수준의 컴포넌트 레이아웃이 유사한 의류가 특징 공간 내에서 가깝게 유지되도록 하는 동시에, 가시 영역 구성이 다른 의류는 서로 분리되도록 유도합니다. 이 목적 함수는 평가된 검색 설정에서 텍스처 의존도를 낮추지만, 재질, 포즈 또는 배경의 변화에 대한 불변성을 확립하지는 않습니다. 입력 이미지에 개별 의류가 충분히 가시적이고, 세맨틱 컴포넌트가 식별 가능한 경계를 유지하며, 분석 목적이 거친 카테고리 인식보다는 컴포넌트 수준의 구조적 비교를 요구할 때 이 프로토콜을 선택해야 합니다. 본 프로토콜은 구조 민감성 시각 분석을 수행하는 컴퓨터 비전 연구원, 의류 디자인 연구원 및 디지털 의류 개발 팀을 대상으로 합니다. 색상이나 재질 인식에만 집중하는 작업 또는 의류 토폴로지가 대부분 가려진 이미지에는 적합하지 않습니다. 다음 프로토콜은 데이터셋 준비와 세맨틱 확률 매핑부터 기하학적 관계 구축, 듀얼 스트림 특징 인코딩, 구조 안내 융합 및 일관성 기반 최적화에 이르는 워크플로우를 제시합니다. 전체 워크플로우는 그림 1에 요약되어 있습니다.
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
본 연구는 공개적으로 이용 가능한 의류 이미지 데이터셋을 사용하며, 인간 대상자 모집, 개인 식별 정보 수집, 동물 실험 수행 또는 생물학적 제제 사용을 포함하지 않습니다. 따라서 기관 윤리 위원회의 승인 및 고지된 동의 절차는 해당되지 않습니다.
1. 소프트웨어 환경 및 프로젝트 구성
2. 입력 이미지 수용, 데이터셋 구축 및 전처리
3. 전경 제한 시각 구성 요소 파싱 및 확률 매핑
4. 이미지 수준의 구성 요소 기하학 및 공간 관계 모델링
5. 이중 스트림 구조 인식 특징 인코딩
6. 구조 기반 특성 융합
7. 모델 학습 및 일관성 최적화
8. 추론, 검색, 클러스터링 및 출력 검증
9. 비교 모델 평가
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
보고된 모든 실험은 표 2 및 재료 표에 기록된 하드웨어 및 소프트웨어 환경을 사용하여 수행되었습니다. 전처리, 훈련, 추론 및 평가 전 과정에서 동일한 그래픽 드라이버, CUDA, cuDNN, Python, NumPy, PyTorch 및 torchvision 버전이 사용되었습니다. 전체 하드웨어 및 소프트웨어 환경은 표 2와 재료 표에 요약되어 있습니다. 표 1은 처리된 훈련, 검증 및 테스트 데이터셋과 이미지 수준의 위상 통계를 요약하여 보여줍니다. 표 2는 모든 비교 방법론에 사용된 공통 구성 설정을 요약하고 있습니다.
비교 평가 결과
비교 평가는 프로토콜 섹션 7-9에 명시된 공통 데이터 분할, 전처리 작업, 학습...
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
가장 중요한 프로토콜 단계는 의류 보존 전처리와 전경 제한 세그먼트 구성 요소 파싱입니다. 구성 요소 중심, 공간 분산 값, 공유 경계 관계, 수직 순서 관계, 관계 가중치 및 융합 표현은 모두 파싱 출력 결과로부터 도출됩니다. 경계 누출, 병합된 구성 요소 영역, 누락된 구성 요소 영역 및 잘못된 채널 할당은 그래프 구축 및 특징 융합 과정을 통해 전파됩니다. 이러한 오류는 표현된 구성 요소 관계가 원본 의류와 일치하지 않음에도 불구하고 유효한 차원을 가진 그래프 파일을 생성할 수 있습니다. 따라서 구조적 사전 정보(structural prior)를 수용하기 전에 확률 맵, 전경 제한, 구성 요소 미리보기 및 파싱 품질 기록을 반드시 확인해야 합니다.
그래프 구축 및 특징 융합에는 시맨틱 구성 요소의 고정된 순서가 필요합니다. 그래프는 전경 의류 구성 요소와 이들의 이미지 평면 관계로부터 도출됩니다. 검색 및 차이 국소화 도표는 단순히 최종 순위 이미지나 응답 히트맵만을 보여주...
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
저자들은 선언할 이해관계 충돌이 없습니다.
본 연구는 제14차 5개년 계획 기간 동안의 제2차 성급 핵심 학부 교육 개혁 프로젝트의 지원을 받았으며, 프로젝트 명칭은 “3가지 통합, 3가지 융합” 공동 구축 모델에 기반한 “의류 및 복장 디자인” 교육 개혁 및 탐구(프로젝트 번호 JGZD2024096)입니다.
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.
| 이름 | 회사 | 카탈로그 번호 | 댓글 |
|---|---|---|---|
| 중앙 처리 장치 | Intel Corporation | Intel Core i9-13900K, 24코어, 32스레드, 최대 5.80 GHz | |
| Conda | Anaconda, Inc., anaconda.com | Miniconda3 23.11.0 | |
| CUDA 툴킷 | NVIDIA Corporation, developer.nvidia.com | CUDA 11.8 | |
| cuDNN | NVIDIA Corporation, developer.nvidia.com | cuDNN 8.9.7 | |
| DeepFashion2 데이터셋 | 홍콩 중문대학교, github.com/switchablenorms/DeepFashion2 | 공식 DeepFashion2 릴리스, 버전 1.0 | |
| 그래픽 처리 장치 | NVIDIA Corporation | NVIDIA GeForce RTX 4090, 24 GB GDDR6X | |
| HRNet-W48 시맨틱 파싱 체크포인트 | HRNet 프로젝트, github.com/HRNet/HRNet-Semantic-Segmentation | hrnet_w48_garment_parser_7class.pth, 프로젝트 체크포인트 버전 1.0 | |
| ImageNet으로 사전 훈련된 ResNet-50 가중치 | PyTorch Foundation, pytorch.org | ResNet50_Weights.IMAGENET1K_V2 | |
| Matplotlib | Matplotlib 개발팀, matplotlib.org | 버전 3.8.2 | |
| NumPy | NumPy 개발자, numpy.org | 버전 1.26.4 | |
| NVIDIA 그래픽 드라이버 | NVIDIA Corporation | 버전 546.33 | |
| OpenCV-Python | OpenCV 팀, opencv.org | 버전 4.8.1.78 | |
| 운영체제 | Microsoft Corporation | Windows 11 Pro 23H2, 64비트, OS 빌드 22631.3155 | |
| 판다스 | Pandas 개발 팀, pandas.pydata.org | 버전 2.1.4 | |
| 파이썬 | Python Software Foundation, python.org | 버전 3.10.13 | |
| PyTorch | PyTorch Foundation, pytorch.org | CUDA 11.8 기반 버전 2.1.2 | |
| PyYAML | PyYAML 프로젝트, pyyaml.org | 버전 6.0.1 | |
| scikit-learn | scikit-learn 개발자, scikit-learn.org | 버전 1.3.2 | |
| SciPy | SciPy 개발자, scipy.org | 버전 1.11.4 | |
| 소스 코드 저장소 | 원고와 함께 제출된 보조 소스 코드 아카이브 | 의류 토폴로지 프로토콜, 버전 1.0 | |
| 저장 장치 | 삼성전자 | Samsung 990 PRO NVMe SSD, 2 TB | |
| 시스템 메모리 | Kingston Technology | Kingston FURY Beast DDR5, 64 GB, 2개 × 32 GB, 5600 MHz | |
| torchvision | PyTorch Foundation, pytorch.org | CUDA 11.8 기반 버전 0.16.2 | |
| 워크스테이션 | 사용자 정의 제작 딥러닝 워크스테이션 | Intel Core i9-13900K, NVIDIA GeForce RTX 4090, 64 GB 메모리, 2 TB NVMe SSD |
액세스가 제한되었습니다. 이 콘텐츠를 보려면 로그인하거나 체험판을 시작하세요.