CIPS-3D
CIPS-3D 是一款基于神经辐射场(NeRF)技术的 3D 感知生成对抗网络(GAN)开源项目。简单来说,它能够从零开始生成具有真实三维几何结构的图像,而不仅仅是平面的二维图片。这意味着用户不仅可以生成高质量的人脸或物体图像,还能自由调整视角,观察对象在不同角度下的形态,甚至实现平滑的 3D 模型插值效果。
在传统的 2D GAN 生成中,往往缺乏真实的三维一致性,导致旋转视角时出现结构扭曲。CIPS-3D 通过引入“条件独立像素合成”机制,有效解决了这一难题,确保了生成内容在三维空间中的连贯性与真实性。此外,针对 3D 生成中常见的“镜像对称问题”(例如人物刘海方向在特定角度突然反转),该项目创新性地引入了辅助判别器,并通过渐进式训练策略稳定地消除了这一瑕疵,显著提升了生成结果的鲁棒性。
CIPS-3D 主要面向人工智能研究人员、计算机视觉开发者以及对 3D 内容生成感兴趣的技术爱好者。对于希望深入研究 3D GAN 架构、NeRF 应用或进行相关算法改进的专业人士而言,它提供了完整的训练代码、配置文件及预训练模型,极具参考价值。虽然普通用户无法直接将其作为简单的修图软件使用,但可以通过其提供的 Web 演示界面,直观体验模型插值和 3D 视角变换的乐趣,感受前沿 AI 技术在三维视觉领域的潜力。
使用场景
某独立游戏工作室的美术团队正在开发一款赛博朋克风格的开放世界游戏,需要快速生成大量风格统一且具备三维一致性的NPC头像资源,以填充庞大的城市人口。
没有 CIPS-3D 时
- 视角一致性差:传统2D GAN生成的图像在旋转视角时会出现严重的伪影或结构崩坏,无法直接用于需要多角度展示的角色创建系统。
- 制作成本高昂:美术师必须手动为每个角色绘制正面、侧面及半侧面图,或通过昂贵的3D建模流程逐个雕刻,耗时极长且难以批量生产。
- 编辑灵活性低:若需调整角色发型或面部特征,往往需要重新绘制或重新建模,难以实现平滑的属性插值和实时预览。
- 几何结构混乱:缺乏显式的3D意识导致生成的人脸在极端角度下出现“镜像对称”错误或五官扭曲,后期修复工作量巨大。
使用 CIPS-3D 后
- 真3D一致性生成:基于NeRF的架构确保了生成头像在不同yaw(偏航角)和pitch(俯仰角)下的几何连贯性,彻底解决了视角切换时的撕裂感。
- 自动化批量生产:只需训练一次模型,即可通过潜在空间采样瞬间生成成千上万个风格统一但细节各异的3D感知头像,效率提升百倍。
- 平滑属性编辑:利用其支持的网络插值功能,开发者可以在Web Demo中实时调整角色属性(如年龄、表情),并获得自然过渡的3D视图,极大加速了原型设计。
- 稳定的几何结构:通过引入辅助判别器,CIPS-3D有效克服了镜像对称问题,即使在侧脸等大角度视图下,也能保持头发和面部结构的合理性与真实感。
CIPS-3D 将原本依赖手工堆砌的3D资产生产流程转化为高效的算法生成管线,在保证视觉质量的同时显著降低了内容创作门槛与成本。
运行环境要求
- Linux
需要 NVIDIA GPU,支持 CUDA 10.2,建议多卡训练(README示例使用8卡),显存需求未明确说明但通常3D GAN训练需要较大显存
未说明

快速开始
本仓库包含论文CIPS-3D: 基于条件独立像素合成的3D感知GAN生成器的代码。如需对真实图像进行3D GAN反演与编辑,请参考此仓库:https://github.com/PeterouZh/CIPS-3Dplusplus(CIPS-3D++)。
更新
:heavy_check_mark: (2022-1-5) 代码已完成重构。请参考exp/cips3d/bash中的脚本。请使用pip install -I tl2升级tl2包。
:heavy_check_mark: (2021-11-26) 训练用的配置文件(yaml文件)正在发布中。
:heavy_check_mark: (2021-10-27) 所有代码文件已全部发布。训练用的配置文件(yaml文件)将在后续发布。目前我已提供了一个GUI脚本和模型,以方便进行网络插值实验(见下文)。如果您发现任何问题,请提交issue。祝您玩得开心!

:heavy_check_mark: (2021-10-25) 感谢您的关注,GitHub星标已达两百颗。我将在近期开源训练代码。
:heavy_check_mark: (2021-10-20) 我们计划在十二月在此处发布训练代码。但如果GitHub星标达到两百颗,我会提前发布。敬请期待 :clock10:.
演示视频
镜像对称性问题
镜像对称性问题指的是在偏航角接近π/2时,刘海方向会突然发生改变。我们提出使用辅助判别器来解决这一问题(详见论文)。
需要注意的是,在训练初期,辅助判别器必须比主判别器更主导生成器。否则,如果主判别器主导生成器,镜像对称性问题仍然会出现。实际上,渐进式训练能够保证这一点。我们已经多次从头开始训练,加入辅助判别器后,镜像对称性问题得到了稳定解决。如果您对这一想法有任何疑问或问题,请提交issue。
环境准备
git clone --recursive https://github.com/PeterouZh/CIPS-3D.git
cd CIPS-3D
# 创建虚拟环境
conda create -y --name cips3d python=3.6.7
conda activate cips3d
pip install torch==1.8.2+cu102 torchvision==0.9.2+cu102 -f https://download.pytorch.org/whl/lts/1.8/torch_lts.html
pip install --no-cache-dir -r requirements.txt
pip install -I tl2
pip install -e torch_fidelity_lib
pip install -e pytorch_ema_lib
模型插值(Web演示)
下载预训练检查点。
执行以下命令:
streamlit run --server.port 8650 -- scripts/web_demo.py \
--outdir results/model_interpolation \
--cfg_file configs/web_demo.yaml \
--command model_interpolation
然后打开浏览器:http://your_ip_address:8650。
您也可以通过以下命令调试该脚本:
python scripts/web_demo.py \
--outdir results/model_interpolation \
--cfg_file configs/web_demo.yaml \
--command model_interpolation \
--debug True
预训练检查点
| ffhq_exp | |
|---|---|
| FFHQ_r256 | train_ffhq_high-20220105_143314_190 |
| AFHQ_r256 | finetune_afhq-20220124_193407_473 |
| CartoonFaces_r256 | finetune_photo2cartoon-20220107_172255_454 |
数据集准备
FFHQ: 下载FFHQ数据集images1024x1024(89.1 GB)
# 为加快训练速度,提前对图像进行下采样
python scripts/dataset_tool.py \
--source=datasets/ffhq/images1024x1024 \
--dest=datasets/ffhq/downsample_ffhq_256x256.zip \
--width=256 --height=256
CartoonFaces 下载photo2cartoon数据集
# 准备训练数据集。
python scripts/dataset_tool.py \
--source=datasets/photo2cartoon/photo2cartoon \
--dest=datasets/photo2cartoon/photo2cartoon_stylegan2.zip
AFHQ 下载afhq数据集
# 准备训练数据集。
python scripts/dataset_tool.py \
--source=datasets/AFHQv2/AFHQv2 \
--dest=datasets/AFHQv2/AFHQv2_stylegan2.zip
训练
请参考exp/cips3d/bash中的脚本。待复现工作完成后,我将发布所有预训练模型。
训练顺序:
exp/cips3d/bash/ffhq_exp:train_ffhq_r32.sh->train_ffhq_r64.sh->train_ffhq_r128.sh->train_ffhq_r256.sheval_fid.sh
exp/cips3d/bash/finetuning_exp:(需要上一步的预训练模型)finetune_photo2cartoon.sh
开发中:
exp/cips3d/bash/ffhq_exp_v1:exp/cips3d/bash/afhq_exp:
已修复的Bug
- 如果在多GPU环境下训练时出现卡顿,请通过
pip install -I tl2升级tl2。
旧版README
注意:
- 为了确保本代码与我最初的原始代码一致,请按照步骤逐步使用本代码复现结果。
- 训练脚本
train_v16.py较为粗糙,但我不会对其进行重构。毕竟它仍然能稳定运行。
在 64×64 分辨率下开始训练
训练命令:
export CUDA_HOME=/usr/local/cuda-10.2/
export CUDA_VISIBLE_DEVICES=0,1,2,3,4,5,6,7
export PYTHONPATH=.
python exp/dev/nerf_inr/scripts/train_v16.py \
--port 8888 \
--tl_config_file configs/train_ffhq.yaml \
--tl_command train_ffhq \
--tl_outdir results/train_ffhq \
--tl_opts curriculum.new_attrs.image_list_file datasets/ffhq/images256x256_image_list.txt \
D_first_layer_warmup True
调试用的空训练:
export CUDA_HOME=/usr/local/cuda-10.2/
export CUDA_VISIBLE_DEVICES=1
python exp/dev/nerf_inr/scripts/train_v16.py \
--port 8888 \
--tl_config_file configs/train_ffhq.yaml \
--tl_command train_ffhq \
--tl_outdir results/train_ffhq_debug \
--tl_debug \
--tl_opts curriculum.new_attrs.image_list_file datasets/ffhq/images256x256_image_list.txt \
num_workers 0 num_images_real_eval 10 num_images_gen_eval 2
当 64×64 模型的 FID 达到约 16 时,我们开始下一步:在 128×128 分辨率下继续训练。请等待训练完成(大约 2 天或更短)。
复现结果:best_FID=15.27
从 64×64 模型恢复 128×128 分辨率下的训练
训练命令:
export CUDA_VISIBLE_DEVICES=0,1,2,3,4,5,6,7
export PYTHONPATH=.
python exp/dev/nerf_inr/scripts/train_v16.py \
--port 8888 \
--tl_config_file configs/train_ffhq.yaml \
--tl_command train_ffhq_r128 \
--tl_outdir results/train_ffhq \
--tl_resume \
--tl_resumedir results/train_ffhq \
--tl_opts curriculum.new_attrs.image_list_file datasets/ffhq/images256x256_image_list.txt \
D_first_layer_warmup True reset_best_fid True update_aux_every 16 d_reg_every 1 train_aux_img True
调试用的空训练:
export CUDA_HOME=/usr/local/cuda-10.2/
export CUDA_VISIBLE_DEVICES=1
python exp/dev/nerf_inr/scripts/train_v16.py \
--port 8888 \
--tl_config_file configs/train_ffhq.yaml \
--tl_command train_ffhq_r128 \
--tl_outdir results/train_ffhq \
--tl_resume \
--tl_resumedir results/train_ffhq \
--tl_debug \
--tl_opts curriculum.new_attrs.image_list_file datasets/ffhq/images256x256_image_list.txt \
num_workers 0 num_images_real_eval 10 num_images_gen_eval 2 reset_best_fid True
当 128×128 模型的 FID 达到约 16 时,我们开始下一步。
部分超参数可能与原始实验有所不同。希望一切顺利。请等待训练完成(可能需要更长时间)。
从 128×128 模型恢复 256×256 分辨率下的训练
微调 INR 网络
引用
如果您在研究中使用了我们的工作,请引用以下内容:
@article{zhou2021CIPS3D,
title = {{{CIPS}}-{{3D}}: A {{3D}}-{{Aware Generator}} of {{GANs Based}} on {{Conditionally}}-{{Independent Pixel Synthesis}}},
shorttitle = {{{CIPS}}-{{3D}}},
author = {Zhou, Peng and Xie, Lingxi and Ni, Bingbing and Tian, Qi},
year = {2021},
eprint = {2110.09788},
eprinttype = {arxiv},
}
致谢
- pi-GAN 来自 https://github.com/marcoamonteiro/pi-GAN
- CIPS 来自 https://github.com/saic-mdal/CIPS
- StyleGAN2 来自 https://github.com/rosinality/stylegan2-pytorch
- torch-fidelity 来自 https://github.com/toshas/torch-fidelity
- StudioGAN 来自 https://github.com/POSTECH-CVLab/PyTorch-StudioGAN
- DiffAug 来自 https://github.com/mit-han-lab/data-efficient-gans
- stylegan2-ada 来自 https://github.com/NVlabs/stylegan2-ada-pytorch
版本历史
v0.0.32022/03/21v0.0.22022/01/19v0.0.12021/10/27常见问题
相似工具推荐
stable-diffusion-webui
stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。
everything-claude-code
everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上
ComfyUI
ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。
NextChat
NextChat 是一款轻量且极速的 AI 助手,旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性,以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发,NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。 这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言,它也提供了便捷的自托管方案,支持一键部署到 Vercel 或 Zeabur 等平台。 NextChat 的核心亮点在于其广泛的模型兼容性,原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型,让用户在一个界面即可自由切换不同 AI 能力。此外,它还率先支持 MCP(Model Context Protocol)协议,增强了上下文处理能力。针对企业用户,NextChat 提供专业版解决方案,具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能,满足公司对数据隐私和个性化管理的高标准要求。
ML-For-Beginners
ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。
ragflow
RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体(Agent)能力相结合,不仅支持从各类文档中高效提取知识,还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中,幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构(如表格、图表及混合排版),显著提升了信息检索的准确度,从而有效减少模型“胡编乱造”的现象,确保回答既有据可依又具备时效性。其内置的智能体机制更进一步,使系统不仅能回答问题,还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统,还是致力于探索大模型在垂直领域落地的创新者,都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口,既降低了非算法背景用户的上手门槛,也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目,它正成为连接通用大模型与行业专有知识之间的重要桥梁。