INSTA
INSTA（Instant Volumetric Head Avatars）是一款由马克斯·普朗克智能系统研究所开源的先进工具，专为快速生成高保真 3D 头部数字人而设计。它主要解决了传统方法在重建逼真人脸时训练耗时过长、难以实时渲染以及表情驱动不够自然的痛点。
基于神经辐射场（NeRF）与瞬时神经图形基元（Instant NGP）技术，INSTA 能够从单目视频数据中高效学习头部的体积表示。其核心亮点在于极快的训练速度和卓越的渲染质量：用户仅需消费级显卡（如 RTX 3090）即可在短时间内完成模型训练，并实现实时的新视角合成与表情迁移。此外，项目还集成了 FLAME 网格光线投射功能，支持更精准的几何控制，并提供了 PyTorch 版本以降低研究门槛。
这款工具非常适合计算机视觉研究人员、图形学开发者以及数字内容创作者使用。研究人员可利用其复现 CVPR 2023 的前沿成果；开发者能基于其开源代码构建虚拟主播、视频会议化身或影视特效应用；设计师则可借助其快速原型能力，低成本制作个性化的 3D 数字人资产。虽然普通用户直接上手需要一定的命令行基础，但其高效的性能表现让高质量的 3D 人脸建模变得更加触手可及。
使用场景
某虚拟主播运营团队需要为旗下艺人快速构建高保真 3D 数字人，以支持直播中的实时表情驱动和多角度镜头切换。
没有 INSTA 时
- 建模周期漫长：传统方法需数天甚至数周进行多视角拍摄、手工拓扑建模及材质绘制，无法响应紧急的直播排期。
- 动态细节丢失：基于网格的传统驱动方案难以还原细微的面部肌肉运动（如脸颊颤动、皱纹变化），导致数字人表情僵硬、“恐怖谷”效应明显。
- 渲染算力瓶颈：要实现电影级的体积感渲染，必须依赖昂贵的云端渲染农场，本地工作站无法实时运行，严重阻碍了实时互动直播的实现。
- 视角受限严重：一旦训练完成，很难自由生成未经过拍摄的新颖视角，镜头调度极其不灵活。
使用 INSTA 后
- 即时训练成型：利用 INSTA 的瞬时神经图形基元技术，仅需单目视频数据，在 RTX 3090 显卡上数小时内即可完成高保真头部化身训练。
- 微米级表情复现：通过体素表示法完美捕捉并重建了皮肤下的细微形变与光照效果，数字人说话时的面部动态逼真自然。
- 本地实时渲染：优化后的架构支持在消费级显卡（如笔记本 RTX 3080）上实现实时推理，直接赋能低延迟的互动直播场景。
- 自由视角漫游：支持任意新颖轨迹的渲染，导播可随时切换特写、侧写等任意机位，无需额外补拍数据。
INSTA 将高保真数字人的生产门槛从“电影工业级”降至“桌面级”，让实时、逼真的虚拟人互动成为日常可能。
运行环境要求
- Linux
- Windows
- 训练必需：推荐 NVIDIA RTX 3090 (24GB) 或更高
- 渲染/推理可选：支持 RTX 3080 (8GB) 笔记本版本
- 基于 instant-ngp，需支持 CUDA 的 NVIDIA 显卡
推荐 32GB (训练时加载图像缓存)
快速开始
INSTA - 即时体积头部化身
Wojciech Zielonka, Timo Bolkart, Justus Thies
德国图宾根马克斯·普朗克智能系统研究所
视频 论文 项目官网 数据集 人脸追踪器 INSTA PyTorch 邮箱
CVPR 2023 论文《即时体积头部化身》官方仓库
本仓库基于 instant-ngp，但原代码的部分功能在本工作中并未实现。
安装
本仓库基于 instant-ngp 的 commit。安装要求与之相同，请按照 指南 进行操作。请注意，在克隆时务必使用 --recursive 选项。
git clone --recursive https://github.com/Zielon/INSTA.git
cd INSTA
cmake . -B build
cmake --build build --config RelWithDebInfo -j
使用与要求
构建完成后，您可以从头开始训练一个化身，也可以加载快照。对于训练，我们建议使用显卡不低于 RTX3090 24GB 以及 32 GB 内存的设备。在其他硬件上训练可能需要调整配置中的参数：
"max_cached_bvh": 4000, # 缓存的 BVH 数据结构数量
"max_images_gpu": 1700, # 加载到 GPU 的帧数。请根据 GPU 显存大小进行调整。
"use_dataset_cache": true, # 将图像加载到内存中
"max_steps": 33000, # 最大训练步数，超过此步数后将记录测试序列
"render_novel_trajectory": false, # 在达到最大步数后转储额外的相机轨迹
"render_from_snapshot": false # 对于 --no-gui 选项，直接渲染序列
从快照渲染并不需要高端 GPU，甚至可以在笔记本电脑上完成。我们已在 RTX 3080 8GB 版本的笔记本上进行了测试。对于 --no-gui 选项，您可以像使用带有 GUI 的配置一样，通过配置文件进行训练和加载快照以进行渲染。
查看器的选项与 instant-ngp 中的相同，并新增了一个 F 键用于射线投射 FLAME 网格。
使用示例
# 不带 GUI 的示例脚本
./run.sh
# 基于形变梯度传递的跨重演
./run_transfer.sh
# 带 GUI 的训练
./build/rta --config insta.json --scene data/obama --height 512 --width 512
# 从检查点加载
./build/rta --config insta.json --scene data/obama/transforms_test.json --snapshot data/obama/snapshot.msgpack
为了更好的可视化效果，您可以使用我们的 GUI 应用程序。
数据集与训练
我们发布了部分数据集，并附带来自 NHA、NeRFace 和 IMAvatar 的公开预处理头像。本研究中每位参与者的数据均已获得其书面同意，可通过签署此 文档 进行发布。如需访问这些序列，请通过 Google Forms 提出申请。
可用头像。点击所选头像即可下载训练数据集和检查点文件。请将这些头像放置于 data 文件夹中。
 |
 |
 |
 |
 |
 |
 |
 |
 |
 |
训练输出（菜单中的“录制视频”选项），包括渲染帧、检查点等，将保存在 ./data/{actor}/experiments/{config}/debug 目录下。当达到指定的最大步数后，程序将自动使用新视角相机渲染帧（GUI 中的“全部”选项以及配置中的 render_novel_trajectory 参数）；或者仅渲染当前在“模式”中选定的视角，默认为“叠加\测试”。
数据集生成
进行输入数据生成时，需要一个 conda 环境以及其他几个代码库。只需运行位于 scripts 文件夹中的 install.sh 脚本，即可准备好工作环境。
接下来，您可以使用 度量光度跟踪器 对序列进行跟踪。处理完成后，运行 generate.sh 脚本以准备数据集。作为输入，请指定跟踪器输出的绝对路径。
建议用于训练的数据集至少包含 1000 帧。
# 1) 使用度量光度跟踪器对选定的演员进行跟踪
python tracker.py --cfg ./configs/actors/duda.yml
# 2) 使用脚本生成数据集。请注意，务必使用跟踪器输入和所需输出的绝对路径。
./generate.sh /metrical-tracker/output/duda INSTA/data/duda 100
# {输入} {输出} {从末尾截取的测试帧数量}
引用
如果您在研究中使用本项目，请引用 INSTA：
@proceedings{INSTA:CVPR2023,
author = {Zielonka, Wojciech and Bolkart, Timo and Thies, Justus},
title = {即时体积化头部头像},
journal = {计算机视觉与模式识别会议},
year = {2023}
}
常见问题
相似工具推荐
ML-For-Beginners
ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。
funNLP
funNLP 是一个专为中文自然语言处理（NLP）打造的超级资源库，被誉为"NLP 民工的乐园”。它并非单一的软件工具，而是一个汇集了海量开源项目、数据集、预训练模型和实用代码的综合性平台。 面对中文 NLP 领域资源分散、入门门槛高以及特定场景数据匮乏的痛点，funNLP 提供了“一站式”解决方案。这里不仅涵盖了分词、命名实体识别、情感分析、文本摘要等基础任务的标准工具，还独特地收录了丰富的垂直领域资源，如法律、医疗、金融行业的专用词库与数据集，甚至包含古诗词生成、歌词创作等趣味应用。其核心亮点在于极高的全面性与实用性，从基础的字典词典到前沿的 BERT、GPT-2 模型代码，再到高质量的标注数据和竞赛方案，应有尽有。 无论是刚刚踏入 NLP 领域的学生、需要快速验证想法的算法工程师，还是从事人工智能研究的学者，都能在这里找到急需的“武器弹药”。对于开发者而言，它能大幅减少寻找数据和复现模型的时间；对于研究者，它提供了丰富的基准测试资源和前沿技术参考。funNLP 以开放共享的精神，极大地降低了中文自然语言处理的开发与研究成本，是中文 AI 社区不可或缺的宝藏仓库。
cs-video-courses
cs-video-courses 是一个精心整理的计算机科学视频课程清单，旨在为自学者提供系统化的学习路径。它汇集了全球知名高校（如加州大学伯克利分校、新南威尔士大学等）的完整课程录像，涵盖从编程基础、数据结构与算法，到操作系统、分布式系统、数据库等核心领域，并深入延伸至人工智能、机器学习、量子计算及区块链等前沿方向。 面对网络上零散且质量参差不齐的教学资源，cs-video-courses 解决了学习者难以找到成体系、高难度大学级别课程的痛点。该项目严格筛选内容，仅收录真正的大学层级课程，排除了碎片化的简短教程或商业广告，确保用户能接触到严谨的学术内容。 这份清单特别适合希望夯实计算机基础的开发者、需要补充特定领域知识的研究人员，以及渴望像在校生一样系统学习计算机科学的自学者。其独特的技术亮点在于分类极其详尽，不仅包含传统的软件工程与网络安全，还细分了生成式 AI、大语言模型、计算生物学等新兴学科，并直接链接至官方视频播放列表，让用户能一站式获取高质量的教育资源，免费享受世界顶尖大学的课堂体验。
ragflow
RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。
PaddleOCR
PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来，转换成计算机可读取的结构化数据，让机器真正“看懂”图文内容。 面对海量纸质或电子文档，PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域，它扮演着连接图像与大型语言模型（LLM）的桥梁角色，能将视觉信息直接转化为文本输入，助力智能问答、文档分析等应用场景落地。 PaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显：不仅支持全球 100 多种语言的识别，还能在 Windows、Linux、macOS 等多个系统上运行，并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目，PaddleOCR 既能满足快速集成的需求，也能支撑前沿的视觉语言研究，是处理文字识别任务的理想选择。
awesome-machine-learning
awesome-machine-learning 是一份精心整理的机器学习资源清单，汇集了全球优秀的机器学习框架、库和软件工具。面对机器学习领域技术迭代快、资源分散且难以甄选的痛点，这份清单按编程语言（如 Python、C++、Go 等）和应用场景（如计算机视觉、自然语言处理、深度学习等）进行了系统化分类，帮助使用者快速定位高质量项目。 它特别适合开发者、数据科学家及研究人员使用。无论是初学者寻找入门库，还是资深工程师对比不同语言的技术选型，都能从中获得极具价值的参考。此外，清单还延伸提供了免费书籍、在线课程、行业会议、技术博客及线下聚会等丰富资源，构建了从学习到实践的全链路支持体系。 其独特亮点在于严格的维护标准：明确标记已停止维护或长期未更新的项目，确保推荐内容的时效性与可靠性。作为机器学习领域的“导航图”，awesome-machine-learning 以开源协作的方式持续更新，旨在降低技术探索门槛，让每一位从业者都能高效地站在巨人的肩膀上创新。