本方案通过整合语义部件解析、拓扑建模、双流特征编码以及结构引导的融合方法,生成具有结构感知能力的服装表征。该方法使计算机视觉与服装研究领域的研究人员能够基于服装部件的组织关系和轮廓布局进行服装检索与设计参考比对,而不仅依赖于颜色或纹理特征。
需要JoVE订阅才能观看此内容。 请登录或开始免费试用
本方案通过整合语义部件解析、拓扑建模、双流特征编码以及结构引导的融合方法,生成具有结构感知能力的服装表征。该方法使计算机视觉与服装研究领域的研究人员能够基于服装部件的组织关系和轮廓布局进行服装检索与设计参考比对,而不仅依赖于颜色或纹理特征。
服装图像检索方法通常强调颜色和纹理,这可能导致在外观相似但部件布局不同的服装之间产生混淆。本研究提出了一种面向部件的特征学习协议,用于服装图像检索与设计参考比对。该协议对服装的语义区域进行解析,构建图像层级的服装部件图,平行编码外观特征与部件间关系,并通过结构一致性、结构关联性与结构区分性损失融合两种表征。DeepFashion2 图像被标准化为 512 × 512 像素,使用 HRNet-W48 进行解析,通过 ResNet-50 与图卷积进行编码,并通过结构化检索与聚类进行评估。完整模型实现了 0.81 的结构一致性指数、0.71 的结构区分性指数、89.2% 的 Recall@5、86.4% 的平均精度均值(mAP)以及 0.74 的轮廓系数。该协议支持在表面外观无法可靠反映服装结构时,进行服装结构检索、结构比对及差异定位。
随着计算机视觉与人工智能在服装行业中的持续融合,服装图像分析已逐渐从基础的识别任务扩展到以设计为导向的分析与决策支持1,2。在服装设计过程中,设计方案之间的区别更多地取决于结构构成与部件间的关系,而非外观上的简单差异,这使得服装图像特征在设计辅助中的结构表达能力成为影响分析效果的关键因素3,4。然而,大多数现有的视觉方法仍主要依赖纹理、颜色和整体轮廓作为特征,难以在设计过程中对服装的层次结构与构造差异进行系统性分析5,6。因此,开发一种面向结构的服装图像特征学习方法,对于提升设计分析的客观性与一致性具有重要意义7。本方案适用于服装在颜色、纹理或整体轮廓相似,但在部件组织方式、连接模式或空间布局上存在差异的情况。在此类条件下,以外观为中心的表示方法往往会在特征空间中将结构上不同的设计置于相近位置,从而削弱了检索与设计对比的可靠性。本方案针对的是以服装部件间关系为主要依据的结构检索、设计评估与局部差异分析任务。
在数据规模、模型复杂性和任务多样性方面,当前针对服装图像的自动分析与理解研究已取得显著进展8,9。然而,在实际应用中,服装结构信息通常隐含地存在于分割或检测结果中,并未在特征学习阶段进行统一建模,导致特征空间中不同结构设计之间缺乏稳定的区分性10,11。服装部件之间的空间关系、层次约束以及拓扑结构未被显式编码,使得特征表示难以反映设计层面的结构差异12,13。缺乏显式的结构建模限制了服装图像特征在辅助设计场景下的分析精细度与决策可靠性,成为发展具有更深层次语义理解能力的智能设计系统的主要障碍14。
为了支持服装图像特征的学习与分析,相关研究已探索了多个技术方向15。语义分割与服装解析方法通过像素级标注实现了对服装区域和组件的细粒度划分,为结构信息提取提供了基础16,17。基于图像查询的服装检索方法则融合了拓扑结构与颜色纹理、全局与局部注意力对齐、服装解析、多尺度与多粒度表示以及结合特征选择的残差注意力机制。这些方法应用于商品目录搜索、消费者到店铺匹配、跨领域产品检索以及电子商务视觉搜索等场景。其应用设置与设计参考检索密切相关,因为每种方法都基于视觉查询对服装图像进行排序,但其表示方式在特征融合过程中未能始终保留带有类型信息的组件邻接关系和垂直顺序关系18,19,20。与此同时,针对设计与推荐场景的研究逐步引入了多模态融合、关系建模和风格分析,拓展了服装视觉特征的应用边界21,22。尽管这些方法在其各自任务中取得了进展,其核心特征仍主要基于外观描述,且结构信息尚未被统一建模为特征学习的固有约束,因而难以满足服装设计辅助中对结构对齐与结构比较的需求23。
为解决服装设计辅助中结构区分能力不足的问题,本文提出一种基于服装结构感知的图像特征学习方法。该方法在服装图像输入阶段融入服装分析结果与关键结构信息,联合建模服装部件区域、空间关系及层次连接。通过结构关系编码与视觉特征对齐,显式地将服装结构约束整合到特征学习过程中,生成一种既保留视觉外观又保持结构一致性的表征。该特征在统一空间内刻画服装结构差异,为后续的结构相似性分析、结构聚类及设计辅助决策提供了稳定基础,从而缓解了现有方法因缺乏结构建模而导致的特征混淆问题。不同于将结构信息视为松散关联辅助属性的通用视觉检索策略,本框架构建了一种以拓扑关系为核心的特征调制机制。该机制促使所学习的表征遵循可见的服装区域组织结构,同时降低由纹理主导的响应。每个图节点表示一个图像级语义区域,每条图关系描述图像平面中可见的邻接关系或归一化的相对位置。所生成的嵌入表示支持跨服装图像的部件布局与轮廓结构的比较。这些区域与关系并非缝纫纸样片、缝线连接、结构标记点或放码参数。相较于以外观驱动的检索方法,本方案在特征学习全过程保留了明确的部件拓扑结构,而非将结构信息作为下游分析结果处理。相较于仅将结构线索作为辅助输入的方法,双流编码与拓扑一致性融合策略在保留几何关系的同时,进一步抑制了纹理主导的响应。所生成的表征支持服装结构检索、结构聚类、设计参考筛选以及局部化设计差异分析,并提供在服装设计流程中可解释的部件级依据。本方案相关研究涵盖服装图像特征学习、服装结构建模、结构感知表征以及服装设计辅助的视觉分析等领域。
在特征表示层面,服装图像研究长期以来主要关注外观建模、深度特征提取以及多尺度表示24,25。早期研究采用卷积神经网络对服装图像进行端到端建模,以完成分类、检索和相似性匹配等任务26,27。随后,引入了多尺度特征融合和跨域学习方法,以缓解不同视角、姿态和拍摄条件下服装图像之间的差异28,29。在检索任务中,研究者采用注意力机制和特征压缩策略,以提升特征的判别能力与计算效率30,31。这些方法能够实现可靠的外观区分,但其特征学习过程仍主要聚焦于全局视觉信息,缺乏对服装内部结构的系统性表达32。组合式时尚检索方法进一步结合参考图像与文本修改指令,但其查询模态不同于本文所研究的纯图像协议。此类方法被视为相关的商业检索方向予以综述,由于额外的文本输入将无法实现受控的图像查询评估,因此未纳入定量比较。
随着服装图像分析从外观区分转向结构理解,研究 increasingly 集中于对服装部件、几何关系和拓扑连接的建模33。语义分割网络通过特征投影和多注意力机制实现了服装部件级别的分析,为结构信息提取提供了可靠的基础34,35。关键点检测与结构拓扑建模方法进一步刻画了服装轮廓与局部结构之间的关系,增强了模型对服装几何特征的表达能力36,37。一些研究引入图结构和关系推理网络来建模服装部件之间的关系,从而提升了细粒度识别和跨域检索的性能38,39。这些工作验证了结构信息在视觉分析中的重要作用,但结构信息大多仍作为辅助特征或中间结果使用,尚未建立以结构约束为核心特征学习系统40。
在服装设计辅助领域,这些发展已支持了设计推荐、风格分析、交互系统构建以及以结构为导向的设计评估41。推荐系统研究通过融合视觉特征与用户偏好,实现了服装搭配推荐与个性化推荐42。与设计辅助相关的工作通过结合生成模型、风格建模以及人机协同机制,探索了智能化设计支持的新路径43。关于虚拟试穿、尺寸测量和风格迁移的研究,拓展了服装视觉分析在设计与生产全过程中的应用。尽管这些研究丰富了服装设计辅助的技术形式,但其核心视觉特征仍主要以外观驱动为主,缺乏对设计结构的统一表示以支持分析。相比之下,本文将服装结构视为特征表示的核心约束,提出了一种面向服装设计辅助中结构分析的视觉表示方法。
尽管取得了这些进展,当前生成设计方法通常将结构条件视为扩散过程中的松散空间引导矩阵。现有的结构解析框架将拓扑结构表示为辅助语义标签,与主要的视觉嵌入空间相分离。本文提出的框架通过定义一种基于图先验的拓扑约束机制,显式地在组件层面对视觉特征学习进行调制,从而改变了这一现状。多层级一致性目标鼓励具有相似图像级组件布局的服装在特征空间中保持相近,同时将可见区域组织不同的服装分离开来。该目标在评估的检索任务中降低了对纹理的依赖性,但并未实现对材料、姿态或背景变化的不变性。当输入图像包含足够可见的单件服装、语义组件保留可识别的边界,且分析目标需要组件级的结构比较而非粗粒度类别识别时,应选择本方案。本方案适用于从事结构敏感型视觉分析的计算机视觉研究人员、服装设计研究人员以及数字服装开发团队。它不适用于仅关注颜色或材料识别的任务,也不适用于服装拓扑结构大部分被遮挡的图像。以下方案详细介绍了从数据集准备和语义概率映射,到几何关系构建、双流特征编码、结构引导融合以及基于一致性的优化的完整工作流程。完整的工作流程在图1中进行了总结。
访问受限。请登录或开始试用以查看此内容。
本研究使用公开可用的服装图像数据集,未招募人类受试者,未收集个人身份信息,未进行动物实验,也未使用生物材料。无需机构伦理审批和知情同意。
1. 软件环境与项目配置
2. 输入图像的接收、数据集构建与预处理
3. 前景受限的视觉组件解析与概率映射
4. 图像级组件几何结构与空间关系建模
5. 双流结构感知特征编码
6. 结构引导的特征融合
7. 模型训练与一致性优化
8. 推断、检索、聚类与输出验证
9. 比较模型评估
访问受限。请登录或开始试用以查看此内容。
所有报告的实验均使用表2和材料表中记录的硬件和软件环境进行。在整个预处理、训练、推理和评估过程中,均采用相同的图形驱动程序、CUDA、cuDNN、Python、NumPy、PyTorch 和 torchvision 版本。完整的硬件和软件环境汇总于表2和材料表中。表1汇总了处理后的训练集、验证集和测试集,以及图像层级的拓扑统计信息。表2汇总了所有对比方法所采用的通用配置。
比较评估结果
比较评估遵循了第7–9节协议中规定的通用数据划分、预处理操作、训练控制和指标定义。表3比较了通用视觉编码器、部件对齐模型、基于图的服装表示方法、跨域时尚检索网络、拓扑与外观融合方法以及电子商务视觉检索方法,所有方法均采用相同的图像查询协议进行评估。领域特定方法包括融合颜色与纹理...
访问受限。请登录或开始试用以查看此内容。
最关键的实验步骤是保持服装结构的预处理和前景受限的语义组件解析。组件中心、空间离散值、共享边界关系、垂直顺序关系、关系权重以及融合表征均源自解析结果。边界渗漏、组件区域合并、组件区域缺失以及通道分配错误会在图构建和特征融合过程中传播。这些错误可能生成尺寸上有效的图文件,但其所表示的组件关系仍与原始服装不一致。因此,在接受结构先验之前,必须验证概率图、前景限制、组件预览以及解析质量记录。
图构建与特征融合需要语义组件的固定顺序。该图由前景服装组件及其在图像平面中的关系推导而来。检索与差异定位图示揭示了结构化处理路径,而不仅仅是展示最终排序的图像或响应热图。类型化邻接矩阵用于记录离散组件关系,几何关系矩阵用于记录归一化的空间结构,融合后的组件矩阵则记录用于检索与定位的表示形式。仅当这些中间表示与最终视觉输出一致时,方可接受相应的结构化结论。该组件图不使用解剖学标志点、人体关节坐标或姿态估计网络。仅当图叠加的节点及其关系类型是从保存的组件与邻接文件中复现时,才应接受该叠加结果。非活跃组件应保持为零向量,并带有非活跃节点标识符;外观特征矩阵与结构特征矩阵在融合前均必须各自包含 K 行和 5...
访问受限。请登录或开始试用以查看此内容。
作者声明无任何利益冲突。
本工作受“十四五”期间第二批省级本科教学改革重点项目资助,项目名称为基于“三融合、三结合”共建模式的“服装与服饰设计”教学改革探索(项目编号:JGZD2024096)。
访问受限。请登录或开始试用以查看此内容。
| 姓名 | 公司 | 目录编号 | 评论 |
|---|---|---|---|
| 中央处理器 | Intel Corporation | Intel Core i9-13900K,24 核,32 线程,最高 5.80 GHz | |
| Conda | Anaconda, Inc.,anaconda.com | Miniconda3 23.11.0 | |
| CUDA 工具包 | NVIDIA Corporation,developer.nvidia.com | CUDA 11.8 | |
| cuDNN | NVIDIA Corporation,developer.nvidia.com | cuDNN 8.9.7 | |
| DeepFashion2 数据集 | 香港中文大学,github.com/switchablenorms/DeepFashion2 | 官方 DeepFashion2 发布版本 1.0 | |
| 图形处理器 | NVIDIA Corporation | NVIDIA GeForce RTX 4090,24 GB GDDR6X | |
| HRNet-W48 语义解析检查点 | HRNet 项目,github.com/HRNet/HRNet-Semantic-Segmentation | hrnet_w48_garment_parser_7class.pth,项目检查点版本 1.0 | |
| ImageNet 预训练 ResNet-50 权重 | PyTorch 基金会,pytorch.org | ResNet50_Weights.IMAGENET1K_V2 | |
| Matplotlib | Matplotlib 开发团队,matplotlib.org | 版本 3.8.2 | |
| NumPy | NumPy 开发者,numpy.org | 版本 1.26.4 | |
| NVIDIA 显卡驱动程序 | NVIDIA Corporation | 版本 546.33 | |
| OpenCV-Python | OpenCV 团队,opencv.org | 版本 4.8.1.78 | |
| 操作系统 | Microsoft Corporation | Windows 11 Pro 23H2,64 位,系统版本 22631.3155 | |
| Pandas | Pandas 开发团队,pandas.pydata.org | 版本 2.1.4 | |
| Python | Python 软件基金会,python.org | 版本 3.10.13 | |
| PyTorch | PyTorch 基金会,pytorch.org | 版本 2.1.2,支持 CUDA 11.8 | |
| PyYAML | PyYAML 项目,pyyaml.org | 版本 6.0.1 | |
| scikit-learn | scikit-learn 开发者,scikit-learn.org | 版本 1.3.2 | |
| SciPy | SciPy 开发者,scipy.org | 版本 1.11.4 | |
| 源代码仓库 | 随稿件提交的补充源代码归档 | 服装拓扑协议,版本 1.0 | |
| 存储设备 | Samsung Electronics | Samsung 990 PRO NVMe SSD,2 TB | |
| 系统内存 | Kingston Technology | Kingston FURY Beast DDR5,64 GB,2 × 32 GB,5600 MHz | |
| torchvision | PyTorch 基金会,pytorch.org | 版本 0.16.2,支持 CUDA 11.8 | |
| 工作站 | 自定义构建的深度学习工作站 | Intel Core i9-13900K,NVIDIA GeForce RTX 4090,64 GB 内存,2 TB NVMe SSD |
访问受限。请登录或开始试用以查看此内容。