[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-hustvl--4DGaussians":3,"tool-hustvl--4DGaussians":62},[4,18,26,35,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,2,"2026-04-10T11:39:34",[14,15,13],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":32,"last_commit_at":41,"category_tags":42,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[43,13,15,14],"插件",{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":10,"last_commit_at":50,"category_tags":51,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[52,15,13,14],"语言模型",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4292,"Deep-Live-Cam","hacksider\u002FDeep-Live-Cam","Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具，用户仅需一张静态照片，即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点，让高质量的数字内容创作变得触手可及。\n\n这款工具不仅适合开发者和技术研究人员探索算法边界，更因其极简的操作逻辑（仅需三步：选脸、选摄像头、启动），广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换，还是制作趣味短视频和直播互动，Deep-Live-Cam 都能提供流畅的支持。\n\n其核心技术亮点在于强大的实时处理能力，支持口型遮罩（Mouth Mask）以保留使用者原始的嘴部动作，确保表情自然精准；同时具备“人脸映射”功能，可同时对画面中的多个主体应用不同面孔。此外，项目内置了严格的内容安全过滤机制，自动拦截涉及裸露、暴力等不当素材，并倡导用户在获得授权及明确标注的前提下合规使用，体现了技术发展与伦理责任的平衡。",88924,"2026-04-06T03:28:53",[14,15,13,61],"视频",{"id":63,"github_repo":64,"name":65,"description_en":66,"description_zh":67,"ai_summary_zh":67,"readme_en":68,"readme_zh":69,"quickstart_zh":70,"use_case_zh":71,"hero_image_url":72,"owner_login":73,"owner_name":74,"owner_avatar_url":75,"owner_bio":76,"owner_company":77,"owner_location":77,"owner_email":77,"owner_twitter":77,"owner_website":77,"owner_url":78,"languages":79,"stars":92,"forks":93,"last_commit_at":94,"license":95,"difficulty_score":96,"env_os":97,"env_gpu":98,"env_ram":99,"env_deps":100,"category_tags":108,"github_topics":110,"view_count":32,"oss_zip_url":77,"oss_zip_packed_at":77,"status":17,"created_at":121,"updated_at":122,"faqs":123,"releases":152},7436,"hustvl\u002F4DGaussians","4DGaussians","[CVPR 2024] 4D Gaussian Splatting for Real-Time Dynamic Scene Rendering","4DGaussians 是一款专为实时动态场景渲染打造的开源 AI 工具，由华中科技大学与华为联合研发，并入选 CVPR 2024。它核心解决了传统方法在处理运动物体或变化场景时，难以兼顾高画质与流畅速度的难题。通过扩展静态的 3D 高斯泼溅（3D Gaussian Splatting）技术至四维时空，4DGaussians 能够高效地捕捉并重现复杂的时间动态变化。\n\n该工具最大的技术亮点在于其惊人的收敛速度与渲染效率。在优化算法后，它仅需数分钟即可完成训练，并能实现实时的新视角合成，让用户可以流畅地漫游于动态视频场景中，而无需漫长的等待或昂贵的算力支持。目前，它已支持 D-NeRF、HyperNeRF 等多种主流动态数据集，并提供了便捷的 Colab 演示环境。\n\n4DGaussians 非常适合计算机视觉研究人员、图形学开发者以及需要构建沉浸式动态内容的创作者使用。对于希望探索前沿神经渲染技术或开发实时互动应用的专业人士而言，这是一个兼具学术价值与工程实用性的高效选择。","# 4D Gaussian Splatting for Real-Time Dynamic Scene Rendering\n\n## CVPR 2024\n\n### [Project Page](https:\u002F\u002Fguanjunwu.github.io\u002F4dgs\u002Findex.html)| [arXiv Paper](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.08528)\n\n[Guanjun Wu](https:\u002F\u002Fguanjunwu.github.io\u002F) \u003Csup>1*\u003C\u002Fsup>, [Taoran Yi](https:\u002F\u002Fgithub.com\u002Ftaoranyi) \u003Csup>2*\u003C\u002Fsup>,\n[Jiemin Fang](https:\u002F\u002Fjaminfong.cn\u002F) \u003Csup>3‡\u003C\u002Fsup>, [Lingxi Xie](http:\u002F\u002Flingxixie.com\u002F) \u003Csup>3 \u003C\u002Fsup>, \u003C\u002Fbr>[Xiaopeng Zhang](https:\u002F\u002Fscholar.google.com\u002Fcitations?user=Ud6aBAcAAAAJ&hl=zh-CN) \u003Csup>3 \u003C\u002Fsup>, [Wei Wei](https:\u002F\u002Fwww.eric-weiwei.com\u002F) \u003Csup>1 \u003C\u002Fsup>,[Wenyu Liu](http:\u002F\u002Feic.hust.edu.cn\u002Fprofessor\u002Fliuwenyu\u002F) \u003Csup>2 \u003C\u002Fsup>, [Qi Tian](https:\u002F\u002Fwww.qitian1987.com\u002F) \u003Csup>3 \u003C\u002Fsup> , [Xinggang Wang](https:\u002F\u002Fxwcv.github.io) \u003Csup>2‡✉\u003C\u002Fsup>\n\n\u003Csup>1 \u003C\u002Fsup>School of CS, HUST   \u003Csup>2 \u003C\u002Fsup>School of EIC, HUST   \u003Csup>3 \u003C\u002Fsup>Huawei Inc.  \n\n\u003Csup>\\*\u003C\u002Fsup> Equal Contributions. \u003Csup>$\\ddagger$\u003C\u002Fsup> Project Lead. \u003Csup>✉\u003C\u002Fsup> Corresponding Author.\n\n\n\n![block](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fhustvl_4DGaussians_readme_c6f1adf625a4.jpg)\nOur method converges very quickly and achieves real-time rendering speed.\n\nNew Colab demo:[![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fdrive\u002F1wz0D5Y9egAlcxXy8YO9UmpQ9oH51R7OW?usp=sharing) (Thanks [Tasmay-Tibrewal\n](https:\u002F\u002Fgithub.com\u002FTasmay-Tibrewal))\n\nOld Colab demo:[![Open In Colab](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002Fhustvl\u002F4DGaussians\u002Fblob\u002Fmaster\u002F4DGaussians.ipynb) (Thanks [camenduru](https:\u002F\u002Fgithub.com\u002Fcamenduru\u002F4DGaussians-colab).)\n\nLight Gaussian implementation: [This link](https:\u002F\u002Fgithub.com\u002Fpablodawson\u002F4DGaussians) (Thanks [pablodawson](https:\u002F\u002Fgithub.com\u002Fpablodawson))\n\n\n## News\n\n2024.6.25: we clean the code and add an explanation of the parameters.\n\n2024.3.25: Update guidance for hypernerf and dynerf dataset.\n\n2024.03.04: We change the hyperparameters of the Neu3D dataset, corresponding to our paper.\n\n2024.02.28: Update SIBR viewer guidance.\n\n2024.02.27: Accepted by CVPR 2024. We delete some logging settings for debugging, the corrected training time is only **8 mins** (20 mins before) in D-NeRF datasets and **30 mins** (1 hour before) in HyperNeRF datasets. The rendering quality is not affected.\n\n## Environmental Setups\n\nPlease follow the [3D-GS](https:\u002F\u002Fgithub.com\u002Fgraphdeco-inria\u002Fgaussian-splatting) to install the relative packages.\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fhustvl\u002F4DGaussians\ncd 4DGaussians\ngit submodule update --init --recursive\nconda create -n Gaussians4D python=3.7 \nconda activate Gaussians4D\n\npip install -r requirements.txt\npip install -e submodules\u002Fdepth-diff-gaussian-rasterization\npip install -e submodules\u002Fsimple-knn\n```\n\nIn our environment, we use pytorch=1.13.1+cu116.\n\n## Data Preparation\n\n**For synthetic scenes:**\nThe dataset provided in [D-NeRF](https:\u002F\u002Fgithub.com\u002Falbertpumarola\u002FD-NeRF) is used. You can download the dataset from [dropbox](https:\u002F\u002Fwww.dropbox.com\u002Fs\u002F0bf6fl0ye2vz3vr\u002Fdata.zip?dl=0).\n\n**For real dynamic scenes:**\nThe dataset provided in [HyperNeRF](https:\u002F\u002Fgithub.com\u002Fgoogle\u002Fhypernerf) is used. You can download scenes from [Hypernerf Dataset](https:\u002F\u002Fgithub.com\u002Fgoogle\u002Fhypernerf\u002Freleases\u002Ftag\u002Fv0.1) and organize them as [Nerfies](https:\u002F\u002Fgithub.com\u002Fgoogle\u002Fnerfies#datasets). \n\nMeanwhile, [Plenoptic Dataset](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002FNeural_3D_Video) could be downloaded from their official websites. To save the memory, you should extract the frames of each video and then organize your dataset as follows.\n\n```\n├── data\n│   | dnerf \n│     ├── mutant\n│     ├── standup \n│     ├── ...\n│   | hypernerf\n│     ├── interp\n│     ├── misc\n│     ├── virg\n│   | dynerf\n│     ├── cook_spinach\n│       ├── cam00\n│           ├── images\n│               ├── 0000.png\n│               ├── 0001.png\n│               ├── 0002.png\n│               ├── ...\n│       ├── cam01\n│           ├── images\n│               ├── 0000.png\n│               ├── 0001.png\n│               ├── ...\n│     ├── cut_roasted_beef\n|     ├── ...\n```\n\n**For multipleviews scenes:**\nIf you want to train your own dataset of multipleviews scenes, you can orginize your dataset as follows:\n\n```\n├── data\n|   | multipleview\n│     | (your dataset name) \n│   \t  | cam01\n|     \t\t  ├── frame_00001.jpg\n│     \t\t  ├── frame_00002.jpg\n│     \t\t  ├── ...\n│   \t  | cam02\n│     \t\t  ├── frame_00001.jpg\n│     \t\t  ├── frame_00002.jpg\n│     \t\t  ├── ...\n│   \t  | ...\n```\nAfter that, you can use the  `multipleviewprogress.sh` we provided to generate related data of poses and pointcloud.You can use it as follows:\n```bash\nbash multipleviewprogress.sh (youe dataset name)\n```\nYou need to ensure that the data folder is organized as follows after running multipleviewprogress.sh:\n```\n├── data\n|   | multipleview\n│     | (your dataset name) \n│   \t  | cam01\n|     \t\t  ├── frame_00001.jpg\n│     \t\t  ├── frame_00002.jpg\n│     \t\t  ├── ...\n│   \t  | cam02\n│     \t\t  ├── frame_00001.jpg\n│     \t\t  ├── frame_00002.jpg\n│     \t\t  ├── ...\n│   \t  | ...\n│   \t  | sparse_\n│     \t\t  ├── cameras.bin\n│     \t\t  ├── images.bin\n│     \t\t  ├── ...\n│   \t  | points3D_multipleview.ply\n│   \t  | poses_bounds_multipleview.npy\n```\n\n\n## Training\n\nFor training synthetic scenes such as `bouncingballs`, run\n\n```\npython train.py -s data\u002Fdnerf\u002Fbouncingballs --port 6017 --expname \"dnerf\u002Fbouncingballs\" --configs arguments\u002Fdnerf\u002Fbouncingballs.py \n```\n\nFor training dynerf scenes such as `cut_roasted_beef`, run\n```python\n# First, extract the frames of each video.\npython scripts\u002Fpreprocess_dynerf.py --datadir data\u002Fdynerf\u002Fcut_roasted_beef\n# Second, generate point clouds from input data.\nbash colmap.sh data\u002Fdynerf\u002Fcut_roasted_beef llff\n# Third, downsample the point clouds generated in the second step.\npython scripts\u002Fdownsample_point.py data\u002Fdynerf\u002Fcut_roasted_beef\u002Fcolmap\u002Fdense\u002Fworkspace\u002Ffused.ply data\u002Fdynerf\u002Fcut_roasted_beef\u002Fpoints3D_downsample2.ply\n# Finally, train.\npython train.py -s data\u002Fdynerf\u002Fcut_roasted_beef --port 6017 --expname \"dynerf\u002Fcut_roasted_beef\" --configs arguments\u002Fdynerf\u002Fcut_roasted_beef.py \n```\nFor training hypernerf scenes such as `virg\u002Fbroom`: Pregenerated point clouds by COLMAP are provided [here](https:\u002F\u002Fdrive.google.com\u002Ffile\u002Fd\u002F1fUHiSgimVjVQZ2OOzTFtz02E9EqCoWr5\u002Fview). Just download them and put them in to correspond folder, and you can skip the former two steps. Also, you can run the commands directly.\n\n```python\n# First, computing dense point clouds by COLMAP\nbash colmap.sh data\u002Fhypernerf\u002Fvirg\u002Fbroom2 hypernerf\n# Second, downsample the point clouds generated in the first step. \npython scripts\u002Fdownsample_point.py data\u002Fhypernerf\u002Fvirg\u002Fbroom2\u002Fcolmap\u002Fdense\u002Fworkspace\u002Ffused.ply data\u002Fhypernerf\u002Fvirg\u002Fbroom2\u002Fpoints3D_downsample2.ply\n# Finally, train.\npython train.py -s  data\u002Fhypernerf\u002Fvirg\u002Fbroom2\u002F --port 6017 --expname \"hypernerf\u002Fbroom2\" --configs arguments\u002Fhypernerf\u002Fbroom2.py \n```\n\nFor training multipleviews scenes,you are supposed to build a configuration file named (you dataset name).py under \".\u002Farguments\u002Fmutipleview\",after that,run\n```python\npython train.py -s  data\u002Fmultipleview\u002F(your dataset name) --port 6017 --expname \"multipleview\u002F(your dataset name)\" --configs arguments\u002Fmultipleview\u002F(you dataset name).py \n```\n\n\nFor your custom datasets, install nerfstudio and follow their [COLMAP](https:\u002F\u002Fcolmap.github.io\u002F) pipeline. You should install COLMAP at first, then:\n\n```python\npip install nerfstudio\n# computing camera poses by colmap pipeline\nns-process-data images --data data\u002Fyour-data --output-dir data\u002Fyour-ns-data\ncp -r data\u002Fyour-ns-data\u002Fimages data\u002Fyour-ns-data\u002Fcolmap\u002Fimages\npython train.py -s data\u002Fyour-ns-data\u002Fcolmap --port 6017 --expname \"custom\" --configs arguments\u002Fhypernerf\u002Fdefault.py \n```\nYou can customize your training config through the config files.\n\n## Checkpoint\n\nAlso, you can train your model with checkpoint.\n\n```python\npython train.py -s data\u002Fdnerf\u002Fbouncingballs --port 6017 --expname \"dnerf\u002Fbouncingballs\" --configs arguments\u002Fdnerf\u002Fbouncingballs.py --checkpoint_iterations 200 # change it.\n```\n\nThen load checkpoint with:\n\n```python\npython train.py -s data\u002Fdnerf\u002Fbouncingballs --port 6017 --expname \"dnerf\u002Fbouncingballs\" --configs arguments\u002Fdnerf\u002Fbouncingballs.py --start_checkpoint \"output\u002Fdnerf\u002Fbouncingballs\u002Fchkpnt_coarse_200.pth\"\n# finestage: --start_checkpoint \"output\u002Fdnerf\u002Fbouncingballs\u002Fchkpnt_fine_200.pth\"\n```\n\n## Rendering\n\nRun the following script to render the images.\n\n```\npython render.py --model_path \"output\u002Fdnerf\u002Fbouncingballs\u002F\"  --skip_train --configs arguments\u002Fdnerf\u002Fbouncingballs.py \n```\n\n## Evaluation\n\nYou can just run the following script to evaluate the model.\n\n```\npython metrics.py --model_path \"output\u002Fdnerf\u002Fbouncingballs\u002F\" \n```\n\n\n## Viewer\n[Watch me](.\u002Fdocs\u002Fviewer_usage.md)\n## Scripts\n\nThere are some helpful scripts, please feel free to use them.\n\n`export_perframe_3DGS.py`:\nget all 3D Gaussians point clouds at each timestamps.\n\nusage:\n\n```python\npython export_perframe_3DGS.py --iteration 14000 --configs arguments\u002Fdnerf\u002Flego.py --model_path output\u002Fdnerf\u002Flego \n```\n\nYou will a set of 3D Gaussians are saved in `output\u002Fdnerf\u002Flego\u002Fgaussian_pertimestamp`.\n\n`weight_visualization.ipynb`:\n\nvisualize the weight of Multi-resolution HexPlane module.\n\n`merge_many_4dgs.py`:\nmerge your trained 4dgs.\nusage:\n\n```python\nexport exp_name=\"dynerf\"\npython merge_many_4dgs.py --model_path output\u002F$exp_name\u002Fsear_steak\n```\n\n`colmap.sh`:\ngenerate point clouds from input data\n\n```bash\nbash colmap.sh data\u002Fhypernerf\u002Fvirg\u002Fvrig-chicken hypernerf \nbash colmap.sh data\u002Fdynerf\u002Fsear_steak llff\n```\n\n**Blender** format seems doesn't work. Welcome to raise a pull request to fix it.\n\n`downsample_point.py` :downsample generated point clouds by sfm.\n\n```python\npython scripts\u002Fdownsample_point.py data\u002Fdynerf\u002Fsear_steak\u002Fcolmap\u002Fdense\u002Fworkspace\u002Ffused.ply data\u002Fdynerf\u002Fsear_steak\u002Fpoints3D_downsample2.ply\n```\n\nIn my paper, I always use `colmap.sh` to generate dense point clouds and downsample it to less than 40000 points.\n\nHere are some codes maybe useful but never adopted in my paper, you can also try it.\n\n## Awesome Concurrent\u002FRelated Works\n\nWelcome to also check out these awesome concurrent\u002Frelated works, including but not limited to\n\n[Deformable 3D Gaussians for High-Fidelity Monocular Dynamic Scene Reconstruction](https:\u002F\u002Fingra14m.github.io\u002FDeformable-Gaussians\u002F)\n\n[SC-GS: Sparse-Controlled Gaussian Splatting for Editable Dynamic Scenes](https:\u002F\u002Fyihua7.github.io\u002FSC-GS-web\u002F)\n\n[MD-Splatting: Learning Metric Deformation from 4D Gaussians in Highly Deformable Scenes](https:\u002F\u002Fmd-splatting.github.io\u002F)\n\n[4DGen: Grounded 4D Content Generation with Spatial-temporal Consistency](https:\u002F\u002Fvita-group.github.io\u002F4DGen\u002F)\n\n[Diffusion4D: Fast Spatial-temporal Consistent 4D Generation via Video Diffusion Models](https:\u002F\u002Fgithub.com\u002FVITA-Group\u002FDiffusion4D)\n\n[DreamGaussian4D: Generative 4D Gaussian Splatting](https:\u002F\u002Fgithub.com\u002Fjiawei-ren\u002Fdreamgaussian4d)\n\n[EndoGaussian: Real-time Gaussian Splatting for Dynamic Endoscopic Scene Reconstruction](https:\u002F\u002Fgithub.com\u002Fyifliu3\u002FEndoGaussian)\n\n[EndoGS: Deformable Endoscopic Tissues Reconstruction with Gaussian Splatting](https:\u002F\u002Fgithub.com\u002FHKU-MedAI\u002FEndoGS)\n\n[Endo-4DGS: Endoscopic Monocular Scene Reconstruction with 4D Gaussian Splatting](https:\u002F\u002Farxiv.org\u002Fabs\u002F2401.16416)\n\n\n\n## Contributions\n\n**This project is still under development. Please feel free to raise issues or submit pull requests to contribute to our codebase.**\n\n\nSome source code of ours is borrowed from [3DGS](https:\u002F\u002Fgithub.com\u002Fgraphdeco-inria\u002Fgaussian-splatting), [K-planes](https:\u002F\u002Fgithub.com\u002FGiodiro\u002Fkplanes_nerfstudio), [HexPlane](https:\u002F\u002Fgithub.com\u002FCaoang327\u002FHexPlane), [TiNeuVox](https:\u002F\u002Fgithub.com\u002Fhustvl\u002FTiNeuVox), [Depth-Rasterization](https:\u002F\u002Fgithub.com\u002Fingra14m\u002Fdepth-diff-gaussian-rasterization). We sincerely appreciate the excellent works of these authors.\n\n## Acknowledgement\n\nWe would like to express our sincere gratitude to [@zhouzhenghong-gt](https:\u002F\u002Fgithub.com\u002Fzhouzhenghong-gt\u002F) for his revisions to our code and discussions on the content of our paper.\n\n## Citation\n\nSome insights about neural voxel grids and dynamic scenes reconstruction originate from [TiNeuVox](https:\u002F\u002Fgithub.com\u002Fhustvl\u002FTiNeuVox). If you find this repository\u002Fwork helpful in your research, welcome to cite these papers and give a ⭐.\n\n```\n@InProceedings{Wu_2024_CVPR,\n    author    = {Wu, Guanjun and Yi, Taoran and Fang, Jiemin and Xie, Lingxi and Zhang, Xiaopeng and Wei, Wei and Liu, Wenyu and Tian, Qi and Wang, Xinggang},\n    title     = {4D Gaussian Splatting for Real-Time Dynamic Scene Rendering},\n    booktitle = {Proceedings of the IEEE\u002FCVF Conference on Computer Vision and Pattern Recognition (CVPR)},\n    month     = {June},\n    year      = {2024},\n    pages     = {20310-20320}\n}\n\n@inproceedings{TiNeuVox,\n  author = {Fang, Jiemin and Yi, Taoran and Wang, Xinggang and Xie, Lingxi and Zhang, Xiaopeng and Liu, Wenyu and Nie\\ss{}ner, Matthias and Tian, Qi},\n  title = {Fast Dynamic Radiance Fields with Time-Aware Neural Voxels},\n  year = {2022},\n  booktitle = {SIGGRAPH Asia 2022 Conference Papers}\n}\n```\n","# 用于实时动态场景渲染的四维高斯泼溅法\n\n## CVPR 2024\n\n### [项目页面](https:\u002F\u002Fguanjunwu.github.io\u002F4dgs\u002Findex.html)| [arXiv论文](https:\u002F\u002Farxiv.org\u002Fabs\u002F2310.08528)\n\n[Guanjun Wu](https:\u002F\u002Fguanjunwu.github.io\u002F) \u003Csup>1*\u003C\u002Fsup>, [Taoran Yi](https:\u002F\u002Fgithub.com\u002Ftaoranyi) \u003Csup>2*\u003C\u002Fsup>,\n[Jiemin Fang](https:\u002F\u002Fjaminfong.cn\u002F) \u003Csup>3‡\u003C\u002Fsup>, [Lingxi Xie](http:\u002F\u002Flingxixie.com\u002F) \u003Csup>3 \u003C\u002Fsup>, \u003C\u002Fbr>[Xiaopeng Zhang](https:\u002F\u002Fscholar.google.com\u002Fcitations?user=Ud6aBAcAAAAJ&hl=zh-CN) \u003Csup>3 \u003C\u002Fsup>, [Wei Wei](https:\u002F\u002Fwww.eric-weiwei.com\u002F) \u003Csup>1 \u003C\u002Fsup>,[Wenyu Liu](http:\u002F\u002Feic.hust.edu.cn\u002Fprofessor\u002Fliuwenyu\u002F) \u003Csup>2 \u003C\u002Fsup>, [Qi Tian](https:\u002F\u002Fwww.qitian1987.com\u002F) \u003Csup>3 \u003C\u002Fsup> , [Xinggang Wang](https:\u002F\u002Fxwcv.github.io) \u003Csup>2‡✉\u003C\u002Fsup>\n\n\u003Csup>1 \u003C\u002Fsup>华中科技大学计算机科学学院   \u003Csup>2 \u003C\u002Fsup>华中科技大学电子信息与通信工程学院   \u003Csup>3 \u003C\u002Fsup>华为公司  \n\n\u003Csup>\\*\u003C\u002Fsup> 共同贡献。 \u003Csup>$\\ddagger$\u003C\u002Fsup> 项目负责人。 \u003Csup>✉\u003C\u002Fsup> 通讯作者。\n\n\n\n![block](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fhustvl_4DGaussians_readme_c6f1adf625a4.jpg)\n我们的方法收敛非常迅速，能够实现实时渲染速度。\n\n新的Colab演示：[![在Colab中打开](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fdrive\u002F1wz0D5Y9egAlcxXy8YO9UmpQ9oH51R7OW?usp=sharing)（感谢[Tasmay-Tibrewal\n](https:\u002F\u002Fgithub.com\u002FTasmay-Tibrewal)）\n\n旧的Colab演示：[![在Colab中打开](https:\u002F\u002Fcolab.research.google.com\u002Fassets\u002Fcolab-badge.svg)](https:\u002F\u002Fcolab.research.google.com\u002Fgithub\u002Fhustvl\u002F4DGaussians\u002Fblob\u002Fmaster\u002F4DGaussians.ipynb)（感谢[camenduru](https:\u002F\u002Fgithub.com\u002Fcamenduru\u002F4DGaussians-colab).）\n\n轻量级高斯实现：[此链接](https:\u002F\u002Fgithub.com\u002Fpablodawson\u002F4DGaussians)（感谢[pablodawson](https:\u002F\u002Fgithub.com\u002Fpablodawson)）\n\n\n## 新闻\n\n2024年6月25日：我们清理了代码，并添加了参数说明。\n\n2024年3月25日：更新了hypernerf和dynerf数据集的使用指南。\n\n2024年3月4日：我们调整了Neu3D数据集的超参数，以匹配我们的论文。\n\n2024年2月28日：更新了SIBR查看器的使用指南。\n\n2024年2月27日：被CVPR 2024接收。我们删除了一些用于调试的日志设置，修正后的训练时间在D-NeRF数据集中仅为**8分钟**（之前为20分钟），在HyperNeRF数据集中仅为**30分钟**（之前为1小时）。渲染质量不受影响。\n\n## 环境配置\n\n请按照[3D-GS](https:\u002F\u002Fgithub.com\u002Fgraphdeco-inria\u002Fgaussian-splatting)的说明安装相关软件包。\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fhustvl\u002F4DGaussians\ncd 4DGaussians\ngit submodule update --init --recursive\nconda create -n Gaussians4D python=3.7 \nconda activate Gaussians4D\n\npip install -r requirements.txt\npip install -e submodules\u002Fdepth-diff-gaussian-rasterization\npip install -e submodules\u002Fsimple-knn\n```\n\n在我们的环境中，我们使用pytorch=1.13.1+cu116。\n\n## 数据准备\n\n**对于合成场景：**\n使用[D-NeRF](https:\u002F\u002Fgithub.com\u002Falbertpumarola\u002FD-NeRF)提供的数据集。您可以从[dropbox](https:\u002F\u002Fwww.dropbox.com\u002Fs\u002F0bf6fl0ye2vz3vr\u002Fdata.zip?dl=0)下载该数据集。\n\n**对于真实动态场景：**\n使用[HyperNeRF](https:\u002F\u002Fgithub.com\u002Fgoogle\u002Fhypernerf)提供的数据集。您可以从[Hypernerf数据集](https:\u002F\u002Fgithub.com\u002Fgoogle\u002Fhypernerf\u002Freleases\u002Ftag\u002Fv0.1)下载场景，并按照[Nerfies](https:\u002F\u002Fgithub.com\u002Fgoogle\u002Fnerfies#datasets)的方式组织它们。\n\n同时，您也可以从[Plenoptic数据集](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002FNeural_3D_Video)的官方网站下载数据。为了节省内存，您应该提取每个视频的帧，然后按如下方式组织您的数据集。\n\n```\n├── data\n│   | dnerf \n│     ├── mutant\n│     ├── standup \n│     ├── ...\n│   | hypernerf\n│     ├── interp\n│     ├── misc\n│     ├── virg\n│   | dynerf\n│     ├── cook_spinach\n│       ├── cam00\n│           ├── images\n│               ├── 0000.png\n│               ├── 0001.png\n│               ├── 0002.png\n│               ├── ...\n│       ├── cam01\n│           ├── images\n│               ├── 0000.png\n│               ├── 0001.png\n│               ├── ...\n│     ├── cut_roasted_beef\n|     ├── ...\n```\n\n**对于多视角场景：**\n如果您想训练自己的多视角场景数据集，可以按以下方式组织您的数据集：\n\n```\n├── data\n|   | multipleview\n│     | (您的数据集名称) \n│   \t  | cam01\n|     \t\t  ├── frame_00001.jpg\n│     \t\t  ├── frame_00002.jpg\n│     \t\t  ├── ...\n│   \t  | cam02\n│     \t\t  ├── frame_00001.jpg\n│     \t\t  ├── frame_00002.jpg\n│     \t\t  ├── ...\n│   \t  | ...\n```\n之后，您可以使用我们提供的`multipleviewprogress.sh`脚本来生成相关的姿态和点云数据。使用方法如下：\n```bash\nbash multipleviewprogress.sh (您的数据集名称)\n```\n运行`multipleviewprogress.sh`后，您需要确保data文件夹按如下方式组织：\n```\n├── data\n|   | multipleview\n│     | (您的数据集名称) \n│   \t  | cam01\n|     \t\t  ├── frame_00001.jpg\n│     \t\t  ├── frame_00002.jpg\n│     \t\t  ├── ...\n│   \t  | cam02\n│     \t\t  ├── frame_00001.jpg\n│     \t\t  ├── frame_00002.jpg\n│     \t\t  ├── ...\n│   \t  | ...\n│   \t  | sparse_\n│     \t\t  ├── cameras.bin\n│     \t\t  ├── images.bin\n│     \t\t  ├── ...\n│   \t  | points3D_multipleview.ply\n│   \t  | poses_bounds_multipleview.npy\n```\n\n\n## 训练\n\n对于训练如`bouncingballs`这样的合成场景，运行\n\n```\npython train.py -s data\u002Fdnerf\u002Fbouncingballs --port 6017 --expname \"dnerf\u002Fbouncingballs\" --configs arguments\u002Fdnerf\u002Fbouncingballs.py \n```\n\n对于训练如`cut_roasted_beef`这样的dynerf场景，运行\n```python\n# 首先，提取每个视频的帧。\npython scripts\u002Fpreprocess_dynerf.py --datadir data\u002Fdynerf\u002Fcut_roasted_beef\n# 其次，从输入数据中生成点云。\nbash colmap.sh data\u002Fdynerf\u002Fcut_roasted_beef llff\n# 第三步，对第二步生成的点云进行下采样。\npython scripts\u002Fdownsample_point.py data\u002Fdynerf\u002Fcut_roasted_beef\u002Fcolmap\u002Fdense\u002Fworkspace\u002Ffused.ply data\u002Fdynerf\u002Fcut_roasted_beef\u002Fpoints3D_downsample2.ply\n# 最后，进行训练。\npython train.py -s data\u002Fdynerf\u002Fcut_roasted_beef --port 6017 --expname \"dynerf\u002Fcut_roasted_beef\" --configs arguments\u002Fdynerf\u002Fcut_roasted_beef.py \n```\n\n对于训练如`virg\u002Fbroom`这样的hypernerf场景：COLMAP预生成的点云已在此处提供[这里](https:\u002F\u002Fdrive.google.com\u002Ffile\u002Fd\u002F1fUHiSgimVjVQZ2OOzTFtz02E9EqCoWr5\u002Fview)。只需下载并放入相应的文件夹，即可跳过前两步。您也可以直接运行以下命令。\n\n```python\n# 首先，使用COLMAP计算密集型点云。\nbash colmap.sh data\u002Fhypernerf\u002Fvirg\u002Fbroom2 hypernerf\n# 其次，对第一步生成的点云进行下采样。\npython scripts\u002Fdownsample_point.py data\u002Fhypernerf\u002Fvirg\u002Fbroom2\u002Fcolmap\u002Fdense\u002Fworkspace\u002Ffused.ply data\u002Fhypernerf\u002Fvirg\u002Fbroom2\u002Fpoints3D_downsample2.ply\n\n# 最后，开始训练。\npython train.py -s  data\u002Fhypernerf\u002Fvirg\u002Fbroom2\u002F --port 6017 --expname \"hypernerf\u002Fbroom2\" --configs arguments\u002Fhypernerf\u002Fbroom2.py \n```\n\n对于多视角场景的训练，你需要在“.\u002Farguments\u002Fmutipleview”目录下创建一个名为（你的数据集名称）.py的配置文件，之后运行：\n```python\npython train.py -s  data\u002Fmultipleview\u002F(your dataset name) --port 6017 --expname \"multipleview\u002F(your dataset name)\" --configs arguments\u002Fmultipleview\u002F(you dataset name).py \n```\n\n\n对于自定义数据集，请先安装Nerfstudio，并按照其[COLMAP](https:\u002F\u002Fcolmap.github.io\u002F)流程进行操作。首先需要安装COLMAP，然后：\n\n```python\npip install nerfstudio\n# 使用COLMAP流程计算相机位姿\nns-process-data images --data data\u002Fyour-data --output-dir data\u002Fyour-ns-data\ncp -r data\u002Fyour-ns-data\u002Fimages data\u002Fyour-ns-data\u002Fcolmap\u002Fimages\npython train.py -s data\u002Fyour-ns-data\u002Fcolmap --port 6017 --expname \"custom\" --configs arguments\u002Fhypernerf\u002Fdefault.py \n```\n你可以通过配置文件来自定义训练参数。\n\n## 检查点\n\n此外，你也可以使用检查点来继续训练模型。\n\n```python\npython train.py -s data\u002Fdnerf\u002Fbouncingballs --port 6017 --expname \"dnerf\u002Fbouncingballs\" --configs arguments\u002Fdnerf\u002Fbouncingballs.py --checkpoint_iterations 200 # 可以根据需要调整\n```\n\n然后加载检查点：\n\n```python\npython train.py -s data\u002Fdnerf\u002Fbouncingballs --port 6017 --expname \"dnerf\u002Fbouncingballs\" --configs arguments\u002Fdnerf\u002Fbouncingballs.py --start_checkpoint \"output\u002Fdnerf\u002Fbouncingballs\u002Fchkpnt_coarse_200.pth\"\n# 精细阶段：--start_checkpoint \"output\u002Fdnerf\u002Fbouncingballs\u002Fchkpnt_fine_200.pth\"\n```\n\n## 渲染\n\n运行以下脚本以渲染图像。\n\n```\npython render.py --model_path \"output\u002Fdnerf\u002Fbouncingballs\u002F\"  --skip_train --configs arguments\u002Fdnerf\u002Fbouncingballs.py \n```\n\n## 评估\n\n只需运行以下脚本即可评估模型。\n\n```\npython metrics.py --model_path \"output\u002Fdnerf\u002Fbouncingballs\u002F\" \n```\n\n\n## 查看器\n[观看教程](.\u002Fdocs\u002Fviewer_usage.md)\n## 脚本\n\n这里有一些有用的脚本，欢迎使用。\n\n`export_perframe_3DGS.py`:\n获取每个时间戳下的所有3D高斯点云。\n\n用法：\n\n```python\npython export_perframe_3DGS.py --iteration 14000 --configs arguments\u002Fdnerf\u002Flego.py --model_path output\u002Fdnerf\u002Flego \n```\n\n你会在`output\u002Fdnerf\u002Flego\u002Fgaussian_pertimestamp`中找到一组3D高斯点云。\n\n`weight_visualization.ipynb`:\n\n可视化多分辨率六边形平面模块的权重。\n\n`merge_many_4dgs.py`:\n合并你训练好的4D高斯场景。\n\n用法：\n\n```python\nexport exp_name=\"dynerf\"\npython merge_many_4dgs.py --model_path output\u002F$exp_name\u002Fsear_steak\n```\n\n`colmap.sh`:\n从输入数据生成点云\n\n```bash\nbash colmap.sh data\u002Fhypernerf\u002Fvirg\u002Fvrig-chicken hypernerf \nbash colmap.sh data\u002Fdynerf\u002Fsear_steak llff\n```\n\n**Blender** 格式似乎目前还不支持。欢迎提交拉取请求来修复这个问题。\n\n`downsample_point.py` :对SFM生成的点云进行下采样。\n\n```python\npython scripts\u002Fdownsample_point.py data\u002Fdynerf\u002Fsear_steak\u002Fcolmap\u002Fdense\u002Fworkspace\u002Ffused.ply data\u002Fdynerf\u002Fsear_steak\u002Fpoints3D_downsample2.ply\n```\n\n在我的论文中，我通常使用`colmap.sh`生成稠密点云，并将其下采样到4万点以下。\n\n以下是一些可能有用但未在我论文中采用的代码，你也可以尝试一下。\n\n## 优秀的同期\u002F相关工作\n\n也欢迎查看这些优秀的同期或相关工作，包括但不限于：\n\n[用于高保真单目动态场景重建的可变形3D高斯](https:\u002F\u002Fingra14m.github.io\u002FDeformable-Gaussians\u002F)\n\n[SC-GS：用于可编辑动态场景的稀疏控制高斯泼溅](https:\u002F\u002Fyihua7.github.io\u002FSC-GS-web\u002F)\n\n[MD-Splatting：从高度变形场景中的4D高斯学习度量变形](https:\u002F\u002Fmd-splatting.github.io\u002F)\n\n[4DGen：具有时空一致性的基于地面的4D内容生成](https:\u002F\u002Fvita-group.github.io\u002F4DGen\u002F)\n\n[Diffusion4D：通过视频扩散模型实现快速的时空一致性4D生成](https:\u002F\u002Fgithub.com\u002FVITA-Group\u002FDiffusion4D)\n\n[DreamGaussian4D：生成式4D高斯泼溅](https:\u002F\u002Fgithub.com\u002Fjiawei-ren\u002Fdreamgaussian4d)\n\n[EndoGaussian：用于动态内窥镜场景重建的实时高斯泼溅](https:\u002F\u002Fgithub.com\u002Fyifliu3\u002FEndoGaussian)\n\n[EndoGS：利用高斯泼溅重建可变形的内窥镜组织](https:\u002F\u002Fgithub.com\u002FHKU-MedAI\u002FEndoGS)\n\n[Endo-4DGS：使用4D高斯泼溅进行内窥镜单目场景重建](https:\u002F\u002Farxiv.org\u002Fabs\u002F2401.16416)\n\n\n\n## 贡献\n\n**该项目仍在开发中。欢迎提出问题或提交拉取请求，为我们的代码库做出贡献。**\n\n\n我们的一些源代码借鉴了[3DGS](https:\u002F\u002Fgithub.com\u002Fgraphdeco-inria\u002Fgaussian-splatting)、[K-planes](https:\u002F\u002Fgithub.com\u002FGiodiro\u002Fkplanes_nerfstudio)、[HexPlane](https:\u002F\u002Fgithub.com\u002FCaoang327\u002FHexPlane)、[TiNeuVox](https:\u002F\u002Fgithub.com\u002Fhustvl\u002FTiNeuVox)以及[Depth-Rasterization](https:\u002F\u002Fgithub.com\u002Fingra14m\u002Fdepth-diff-gaussian-rasterization)。我们衷心感谢这些作者的杰出工作。\n\n## 致谢\n\n我们衷心感谢[@zhouzhenghong-gt](https:\u002F\u002Fgithub.com\u002Fzhouzhenghong-gt\u002F)对我们代码的修改以及关于论文内容的讨论。\n\n## 引用\n\n关于神经体素网格和动态场景重建的一些见解来源于[TiNeuVox](https:\u002F\u002Fgithub.com\u002Fhustvl\u002FTiNeuVox)。如果你觉得这个仓库或工作对你的研究有帮助，欢迎引用这些论文并给予一颗星。\n\n```\n@InProceedings{Wu_2024_CVPR,\n    author    = {吴冠军、易涛然、方继民、谢凌熙、张晓鹏、魏伟、刘文宇、田琪、王兴刚},\n    title     = {用于实时动态场景渲染的4D高斯泼溅},\n    booktitle = {IEEE\u002FCVF计算机视觉与模式识别会议（CVPR）论文集},\n    month     = {六月},\n    year      = {2024},\n    pages     = {20310-20320}\n}\n\n@inproceedings{TiNeuVox,\n  author = {方继民、易涛然、王兴刚、谢凌熙、张晓鹏、刘文宇、Nie\\ss{}ner, Matthias、田琪},\n  title = {具有时间感知神经体素的快速动态辐射场},\n  year = {2022},\n  booktitle = {SIGGRAPH Asia 2022会议论文集}\n}\n```","# 4DGaussians 快速上手指南\n\n4DGaussians 是一个用于实时动态场景渲染的开源项目，基于高斯泼溅（Gaussian Splatting）技术，支持从合成数据到真实动态视频的快速重建与渲染。\n\n## 环境准备\n\n### 系统要求\n- **操作系统**: Linux (推荐 Ubuntu)\n- **Python**: 3.7\n- **PyTorch**: 1.13.1 + CUDA 11.6 (或其他兼容版本)\n- **显卡**: 支持 CUDA 的 NVIDIA GPU\n- **其他依赖**: COLMAP (用于自定义数据集的点云生成)\n\n### 前置依赖\n确保已安装 `conda` 和 `git`。若需处理自定义数据集，请预先安装 [COLMAP](https:\u002F\u002Fcolmap.github.io\u002F)。\n\n## 安装步骤\n\n1. **克隆仓库并初始化子模块**\n   ```bash\n   git clone https:\u002F\u002Fgithub.com\u002Fhustvl\u002F4DGaussians\n   cd 4DGaussians\n   git submodule update --init --recursive\n   ```\n\n2. **创建并激活 Conda 环境**\n   ```bash\n   conda create -n Gaussians4D python=3.7 \n   conda activate Gaussians4D\n   ```\n\n3. **安装 Python 依赖及扩展模块**\n   > 建议配置国内镜像源加速下载（如清华源）：\n   > `pip config set global.index-url https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple`\n   \n   ```bash\n   pip install -r requirements.txt\n   pip install -e submodules\u002Fdepth-diff-gaussian-rasterization\n   pip install -e submodules\u002Fsimple-knn\n   ```\n\n## 基本使用\n\n以下以官方提供的合成数据集 `bouncingballs` 为例，演示最简训练与渲染流程。\n\n### 1. 数据准备\n下载 [D-NeRF 数据集](https:\u002F\u002Fwww.dropbox.com\u002Fs\u002F0bf6fl0ye2vz3vr\u002Fdata.zip?dl=0) 并解压，确保目录结构如下：\n```\n├── data\n│   └── dnerf \n│       └── bouncingballs\n```\n\n### 2. 开始训练\n运行以下命令启动训练过程：\n```bash\npython train.py -s data\u002Fdnerf\u002Fbouncingballs --port 6017 --expname \"dnerf\u002Fbouncingballs\" --configs arguments\u002Fdnerf\u002Fbouncingballs.py \n```\n*注：在 D-NeRF 数据集上，训练时间约为 8 分钟。*\n\n### 3. 渲染结果\n训练完成后，使用以下命令生成渲染图像：\n```bash\npython render.py --model_path \"output\u002Fdnerf\u002Fbouncingballs\u002F\"  --skip_train --configs arguments\u002Fdnerf\u002Fbouncingballs.py \n```\n\n### 4. 评估模型（可选）\n计算 PSNR、SSIM 等指标：\n```bash\npython metrics.py --model_path \"output\u002Fdnerf\u002Fbouncingballs\u002F\" \n```\n\n---\n**提示**：若需使用真实动态场景（如 HyperNeRF 或 DyNeRF 数据集），需先按照 README 中的说明进行视频抽帧和 COLMAP 点云生成预处理，再指定对应的配置文件进行训练。","某影视特效团队正在制作一段包含复杂流体变形与人物互动的动态场景，需要生成高保真的自由视角视频素材。\n\n### 没有 4DGaussians 时\n- **训练耗时过长**：传统动态神经辐射场（如 D-NeRF）训练一个场景往往需要数小时甚至更久，严重拖慢迭代节奏，导演无法在现场实时确认效果。\n- **渲染速度瓶颈**：预览或输出视频时帧率极低，难以达到实时交互标准，导致多角度审视画面时出现明显卡顿，影响创作直觉。\n- **动态细节丢失**：在处理快速运动或拓扑结构剧烈变化的物体（如飘动的布料、飞溅的水花）时，重建结果容易出现模糊或伪影，缺乏真实的物理质感。\n\n### 使用 4DGaussians 后\n- **分钟级快速收敛**：依托优化的算法，4DGaussians 将 HyperNeRF 数据集的训练时间从 1 小时压缩至 30 分钟，D-NeRF 数据集更是仅需 8 分钟，让团队能在半天内完成多个版本的方案试错。\n- **实时流畅渲染**：实现了真正的实时动态场景渲染，美术指导可即时拖动时间轴并从任意角度观察高清画面，如同操作游戏引擎般流畅。\n- **高保真动态还原**：利用四维高斯溅射技术，精准捕捉了高速运动中的细微几何变化与纹理细节，即使是复杂的流体形变也能呈现锐利、自然的视觉效果。\n\n4DGaussians 通过将动态场景的重建效率提升一个数量级并实现实时渲染，彻底打破了高质量动态内容制作的时效壁垒。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fhustvl_4DGaussians_d1980890.png","hustvl","HUST Vision Lab","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fhustvl_3e2bf80d.png","HUST Vision Lab of the School of EIC in HUST. Lab Lead @xinggangw",null,"https:\u002F\u002Fgithub.com\u002Fhustvl",[80,84,88],{"name":81,"color":82,"percentage":83},"Jupyter Notebook","#DA5B0B",96.3,{"name":85,"color":86,"percentage":87},"Python","#3572A5",3.4,{"name":89,"color":90,"percentage":91},"Shell","#89e051",0.2,3525,346,"2026-04-13T08:03:36","Apache-2.0",4,"Linux","必需 NVIDIA GPU，支持 CUDA 11.6 (pytorch=1.13.1+cu116)，显存需求未明确说明（建议 8GB+ 以运行实时渲染）","未说明",{"notes":101,"python":102,"dependencies":103},"1. 项目基于 3D Gaussian Splatting 构建，需先初始化 git 子模块。2. 必须安装特定版本的 PyTorch (1.13.1) 和对应的 CUDA (11.6)。3. 训练动态场景前通常需要使用 COLMAP 生成点云并进行下采样（脚本中提供了 colmap.sh 和 downsample_point.py）。4. 官方提供了 Colab 演示环境。5. 自定义数据集需遵循特定的文件夹结构或使用 nerfstudio 管道处理。","3.7",[104,105,106,107],"torch==1.13.1+cu116","depth-diff-gaussian-rasterization","simple-knn","nerfstudio (可选，用于自定义数据集)",[109,15],"其他",[111,112,113,114,115,116,117,118,119,120],"3d","computer-vision","dynamic-scene","gaussian-splatting","graphics","neural-network","neural-rendering","novel-view-synthesis","radiance-field","cvpr2024","2026-03-27T02:49:30.150509","2026-04-14T20:40:46.355273",[124,129,134,139,144,148],{"id":125,"question_zh":126,"answer_zh":127,"source_url":128},33364,"运行 colmap.sh 处理自定义数据时出现 'AssertionError' 或 'colmap: command not found' 错误怎么办？","这通常是由环境配置问题引起的。请尝试以下解决方案：\n1. 检查并添加 Git 和 COLMAP 到系统环境变量路径中。\n2. 如果是在 Windows 上使用 bash，尝试更换计算机环境或重新安装相关依赖，有时环境问题会导致奇怪的报错。\n3. 确保文件夹结构正确，且图像路径能被脚本正确读取。","https:\u002F\u002Fgithub.com\u002Fhustvl\u002F4DGaussians\u002Fissues\u002F98",{"id":130,"question_zh":131,"answer_zh":132,"source_url":133},33365,"如何使用自定义数据进行训练？是否需要 points.npy 文件？","可以使用 Nerfies 的 Colab 工具生成大部分所需文件，但如果无法生成 points.npy 文件，可以通过代码随机初始化来替代。具体方法是修改 dataset_readers.py 中的相关逻辑（参考代码行号 449），不使用 points.npy 而是进行随机初始化。此外，请严格按照 README.md 的步骤设置环境和准备数据集，注意数据集名称的正确性（例如 'bouncingballs' 属于 dnerf 数据集而非 hypernerf）。","https:\u002F\u002Fgithub.com\u002Fhustvl\u002F4DGaussians\u002Fissues\u002F9",{"id":135,"question_zh":136,"answer_zh":137,"source_url":138},33366,"安装 depth-diff-gaussian-rasterization 子模块时失败，提示 CUDA 版本不兼容或找不到 CUDA runtime 怎么办？","这通常是因为安装的 PyTorch 版本与本地 CUDA 版本不匹配。请按以下步骤解决：\n1. 在命令行输入 `nvcc --version` 检查本地 CUDA 版本（例如 cuda_11.7）。\n2. 激活 conda 环境：`conda activate Gaussians4D`。\n3. 卸载现有的 torch 相关包：`pip uninstall torch torchvision torchaudio`。\n4. 根据本地 CUDA 版本重新安装匹配的 PyTorch。例如对于 CUDA 11.7，运行：\n   `pip install torch==1.13.1+cu117 torchvision==0.14.1+cu117 torchaudio==0.13.1+cu117 --extra-index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu117`\n5. 重新安装子模块：\n   `pip install -e submodules\u002Fdepth-diff-gaussian-rasterization`\n   `pip install -e submodules\u002Fsimple-knn`","https:\u002F\u002Fgithub.com\u002Fhustvl\u002F4DGaussians\u002Fissues\u002F10",{"id":140,"question_zh":141,"answer_zh":142,"source_url":143},33367,"在处理 HyperNeRF 数据集运行 colmap.sh 时出现断言错误或三角化点数为 0 怎么办？","这可能是由于 hypernerf2colmap.py 文件中的索引计算错误导致的。请尝试修改该文件，将打印相机信息的代码行中的索引 `idx` 改为 `idx+1`，以符合 COLMAP 的标准格式。修改示例：\n原代码：`print(idx, \"SIMPLE_PINHOLE\", ...)`\n修改后：`print(idx+1, \"SIMPLE_PINHOLE\", ...)`\n修改后请运行 COLMAP GUI 验证生成的 cameras.bin 和 images.bin 文件是否正确。","https:\u002F\u002Fgithub.com\u002Fhustvl\u002F4DGaussians\u002Fissues\u002F55",{"id":145,"question_zh":146,"answer_zh":147,"source_url":138},33368,"在不同 CUDA 版本（如 CUDA 10.1）下编译安装时遇到错误如何解决？","需要确保安装的 PyTorch 版本与本地 CUDA 版本严格对应。例如，如果本地是 CUDA 10.1，应使用以下命令安装对应的 PyTorch 版本：\n`pip install torch==1.8.1+cu101 torchvision==0.9.1+cu101 torchaudio==0.8.1 -f https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Ftorch_stable.html`\n安装完成后，再尝试编译安装子模块。如果仍然报错，请检查编译器环境（如 Visual Studio Build Tools）是否已正确配置。",{"id":149,"question_zh":150,"answer_zh":151,"source_url":143},33369,"运行数据库脚本 database.py 时出错，但特征提取步骤正常，可能是什么原因？","如果在运行 `python database.py` 时出错，而之前的特征提取（feature_extractor）步骤正常，可能是由于相机参数文件格式或路径配置不正确。建议检查生成的 sparse_custom\u002Fcameras.txt 文件内容是否符合预期，并确认数据库路径参数传递正确。如果是 HyperNeRF 数据集，还需确保已按照上述方法修正了 hypernerf2colmap.py 中的索引偏移问题。",[]]