Cloth2Tex

GitHub
519 140 较难 1 次阅读 2天前GPL-3.0图像其他
AI 解读 由 AI 自动生成,仅供参考

Cloth2Tex 是一个专为 3D 虚拟试衣打造的定制化服装纹理生成流水线,由阿里巴巴 XR 实验室等机构联合研发。它主要解决了在将 2D 服装图片转化为 3D 模型时,难以自动生成高质量、贴合人体动态的精细纹理这一痛点。

该工具的工作流程分为两个阶段:首先通过神经网格渲染技术,将参数化服装网格注册到目录图像上,确定 3D 服装形状并生成粗略纹理;随后利用基于大规模合成数据训练的图像转换网络,从粗略估计中恢复出逼真的细节纹理。目前开源版本主要提供了第一阶段的核心能力。其技术亮点在于巧妙结合了可微渲染与预训练潜在扩散模型(Latent Diffusion Models),实现了从单张或多张服装图到 3D UV 纹理的高效映射。

Cloth2Tex 非常适合从事计算机图形学、虚拟现实领域的研究人员,以及需要构建 3D 试衣系统的开发者使用。对于希望快速原型验证或深入研究 3D 服装重建算法的团队来说,这是一个极具参考价值的开源项目。需要注意的是,当前版本对运行环境(如 PyTorch、CUDA 版本及特定几何处理库)有较专业的要求,因此更偏向于具备一定深度学习工程能力的技术用户,而非普通终端消费者。

使用场景

某时尚电商平台的 3D 视觉团队正致力于将新款夏季连衣裙快速转化为高保真的虚拟试穿模型,以适配其元宇宙购物应用。

没有 Cloth2Tex 时

  • 纹理映射失真严重:人工将 2D 商品图贴合到 3D 服装模型时,在袖口、褶皱等复杂几何结构处常出现拉伸变形或纹理断裂。
  • 细节还原度低:布料特有的细微花纹和织物质感难以通过传统贴图技术保留,导致虚拟衣物看起来像廉价的塑料模型。
  • 制作周期漫长:美术设计师需手动在 Blender 中反复调整 UV 展开和绘制遮罩,单件服装的精细化处理耗时数小时甚至数天。
  • 规模化成本高:面对每日上百款的新品上架需求,依赖人工精修的模式导致人力成本激增,无法实现自动化批量生产。

使用 Cloth2Tex 后

  • 自适应几何贴合:Cloth2Tex 的第一阶段粗粒度生成能自动将参数化服装网格注册到商品图上,完美解决复杂褶皱处的纹理对齐难题。
  • 高保真质感复现:利用潜在扩散模型合成的数据进行图像转换,Cloth2Tex 能智能补全并恢复布料的高频细节,使虚拟衣物具备照片级真实感。
  • 流程自动化提速:只需运行推理脚本,系统即可在分钟内自动生成最终的 UV 纹理图(如 x_texture_uv_1000.jpg),将单件处理时间从小时级压缩至分钟级。
  • 无缝引擎集成:生成的标准化纹理可直接导入 Blender 或游戏引擎,无需额外清理冗余材质,轻松支撑大规模新品快速上线。

Cloth2Tex 通过智能化的两阶段生成管线,彻底解决了 3D 虚拟试穿中纹理生成的质量与效率瓶颈,让高保真数字服装的大规模量产成为现实。

运行环境要求

操作系统
  • Linux
GPU

需要 NVIDIA GPU,CUDA 11.7+ (基于 pytorch1.13 + cu117 的依赖包)

内存

未说明

依赖
notes1. 安装指令中包含 'apt-get',表明主要支持 Linux 环境。2. 目前仅开源了第一阶段(粗纹理生成),第二阶段(精细纹理补全)尚未发布。3. 官方未提供自动缩放机制代码和 2D landmarks 检测器,需手动调整缩放系数或自行训练/标注 landmarks。4. 生成的纹理网格建议在 Blender 中查看,且需保留单一材质并移除冗余材质。5. 部分依赖库(如 pyg_lib, torch_cluster 等)提供了针对特定版本(pt113cu117, cp38)的预编译 wheel 文件安装命令。
python3.8
pytorch==1.13
pytorch3d
psbody-mesh
kaolin
torch_geometric
pyg_lib
torch_cluster
torch_scatter
torch_sparse
libgl1
libboost-dev
Cloth2Tex hero image

快速开始

Cloth2Tex:用于3D虚拟试穿的定制化服装纹理生成流水线

3DV 2024

Logo
1阿里巴巴XR实验室, 2苏黎世联邦理工学院计算机科学系, 3马克斯普朗克智能系统研究所, 4德克萨斯大学奥斯汀分校




Paper PDF Project Page youtube views



1. 安装

我们的环境是 python3.8、pytorch1.13、cuda11.7,您可以根据自己的设置调整以下说明。

    sudo apt-get update -y
    sudo apt-get install libgl1
    sudo apt-get install libboost-dev
pip install torch_geometric
pip install pyg_lib-0.3.0+pt113cu117-cp38-cp38-linux_x86_64.whl
pip install torch_cluster-1.6.1+pt113cu117-cp38-cp38-linux_x86_64.whl
pip install torch_scatter-2.1.1+pt113cu117-cp38-cp38-linux_x86_64.whl
pip install torch_sparse-0.6.15+pt113cu117-cp38-cp38-linux_x86_64.whl

2. 架构

Cloth2Tex由两个阶段组成:(1) 粗略纹理生成 和 (2) 精细纹理补全。其中,第一阶段用于确定3D服装形状和粗略纹理。我们通过使用神经网格渲染器将参数化的服装网格注册到目录图像上来实现这一点。随后的第二阶段则从第一阶段的粗略估计中恢复精细纹理。我们使用在预训练潜在扩散模型合成的大规模数据上训练的图像转换网络来完成这一任务。

目前我们仅公开了 第一阶段


3. 推理

第一阶段(无自动缩放机制)

python phase1_inference.py --g 1_wy --s 1.2 --d "20231017_wy" --steps_one 501 --steps_two 1001

优化后的结果保存在 experiments/20231017_wy 中,x_texture_uv_1000.jpg 是最终的UV纹理。

用户可以使用 Blender 检查结果,记得只保留一种材质,并移除其他多余的材质以获得带有纹理的网格。

img

(a) 参考尺度系数

值得注意的是,我们并未公开自动缩放机制的代码,如果您需要该功能,可以自行实现或手动调整 --s 参数(缩放比例)。

测试图像的默认系数如下:

per_scale_dict = {"1_wy": 1.1,
                  "2_Polo": 0.8, # 默认0.8
                  "3_Tshirt": 0.9, # 默认0.7
                  "4_shorts": 0.75, # 默认0.7
                  "5_trousers": 0.75,
                  "6_zipup": 1.1,
                  "7_windcoat": 0.65,
                  "9_jacket": 1.0,
                  "11_skirt": 1.0} 

(b) 特征点检测器

我们不会发布2D特征点检测器。如果您需要与 Cloth2Tex 一致的精确2D特征点,可以手动标注,或者基于 Cloth2Tex 的定义训练一个简单的2D服装特征点检测器。

第二阶段(修复/补全网络)

我们正在申请开放第二阶段的源代码,一旦审批流程完成,我们将及时更新。


4. 演示

现实世界中的3D试穿

请访问cloth2tex网页查看动画效果:cloth2tex 或观看我们的YouTube视频 youtube


5. 引用

@article{gao2023cloth2tex,
  title={Cloth2Tex: A Customized Cloth Texture Generation Pipeline for 3D Virtual Try-On},
  author={Gao, Daiheng and Chen, Xu and Zhang, Xindi and Wang, Qi and Sun, Ke and Zhang, Bang and Bo, Liefeng and Huang, Qixing},
  journal={arXiv preprint arXiv:2308.04288},
  year={2023}
}

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|昨天
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|2天前
开发框架图像Agent

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

107.9k|★★☆☆☆|昨天
开发框架图像Agent

LLMs-from-scratch

LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目,旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型(LLM)。它不仅是同名技术著作的官方代码库,更提供了一套完整的实践方案,涵盖模型开发、预训练及微调的全过程。 该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型,却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码,用户能够透彻掌握 Transformer 架构、注意力机制等关键原理,从而真正理解大模型是如何“思考”的。此外,项目还包含了加载大型预训练权重进行微调的代码,帮助用户将理论知识延伸至实际应用。 LLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API,而是渴望探究模型构建细节的技术人员而言,这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计:将复杂的系统工程拆解为清晰的步骤,配合详细的图表与示例,让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础,还是为未来研发更大规模的模型做准备

90.1k|★★★☆☆|昨天
语言模型图像Agent

Deep-Live-Cam

Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具,用户仅需一张静态照片,即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点,让高质量的数字内容创作变得触手可及。 这款工具不仅适合开发者和技术研究人员探索算法边界,更因其极简的操作逻辑(仅需三步:选脸、选摄像头、启动),广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换,还是制作趣味短视频和直播互动,Deep-Live-Cam 都能提供流畅的支持。 其核心技术亮点在于强大的实时处理能力,支持口型遮罩(Mouth Mask)以保留使用者原始的嘴部动作,确保表情自然精准;同时具备“人脸映射”功能,可同时对画面中的多个主体应用不同面孔。此外,项目内置了严格的内容安全过滤机制,自动拦截涉及裸露、暴力等不当素材,并倡导用户在获得授权及明确标注的前提下合规使用,体现了技术发展与伦理责任的平衡。

88.9k|★★★☆☆|2天前
开发框架图像Agent

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。

85k|★★☆☆☆|昨天
图像数据工具视频