[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-xg-chu--GAGAvatar":3,"tool-xg-chu--GAGAvatar":62},[4,18,26,35,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,2,"2026-04-10T11:39:34",[14,15,13],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":32,"last_commit_at":41,"category_tags":42,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[43,13,15,14],"插件",{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":10,"last_commit_at":50,"category_tags":51,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[52,15,13,14],"语言模型",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4292,"Deep-Live-Cam","hacksider\u002FDeep-Live-Cam","Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具，用户仅需一张静态照片，即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点，让高质量的数字内容创作变得触手可及。\n\n这款工具不仅适合开发者和技术研究人员探索算法边界，更因其极简的操作逻辑（仅需三步：选脸、选摄像头、启动），广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换，还是制作趣味短视频和直播互动，Deep-Live-Cam 都能提供流畅的支持。\n\n其核心技术亮点在于强大的实时处理能力，支持口型遮罩（Mouth Mask）以保留使用者原始的嘴部动作，确保表情自然精准；同时具备“人脸映射”功能，可同时对画面中的多个主体应用不同面孔。此外，项目内置了严格的内容安全过滤机制，自动拦截涉及裸露、暴力等不当素材，并倡导用户在获得授权及明确标注的前提下合规使用，体现了技术发展与伦理责任的平衡。",88924,"2026-04-06T03:28:53",[14,15,13,61],"视频",{"id":63,"github_repo":64,"name":65,"description_en":66,"description_zh":67,"ai_summary_zh":67,"readme_en":68,"readme_zh":69,"quickstart_zh":70,"use_case_zh":71,"hero_image_url":72,"owner_login":73,"owner_name":74,"owner_avatar_url":75,"owner_bio":76,"owner_company":77,"owner_location":78,"owner_email":79,"owner_twitter":76,"owner_website":76,"owner_url":80,"languages":81,"stars":90,"forks":91,"last_commit_at":92,"license":93,"difficulty_score":94,"env_os":95,"env_gpu":96,"env_ram":97,"env_deps":98,"category_tags":107,"github_topics":76,"view_count":32,"oss_zip_url":76,"oss_zip_packed_at":76,"status":17,"created_at":109,"updated_at":110,"faqs":111,"releases":142},6867,"xg-chu\u002FGAGAvatar","GAGAvatar","[NeurIPS 2024] Generalizable and Animatable Gaussian Head Avatar","GAGAvatar 是一款基于高斯泼溅（3DGS）技术的开源项目，旨在从单张静态人像照片中快速重建出可操控的 3D 头部数字分身。它主要解决了传统 3D 头像重建过程繁琐、难以泛化到新人物以及实时驱动效果不佳的痛点，实现了“一张图生成”和“实时动态演绎”的高效工作流。\n\n该工具特别适合计算机视觉研究人员、图形学开发者以及需要快速构建虚拟形象的内容创作者使用。其核心亮点在于卓越的泛化能力与推理速度：无需针对每个新人物进行漫长的重新训练，仅需输入一张参考图即可生成高质量 3D 模型；同时，它支持利用视频或图像序列驱动头像做出逼真的表情和动作，并能保持实时的渲染帧率。此外，GAGAvatar 对 3D 高斯渲染器进行了定制优化，使每个高斯点能携带更丰富的特征信息，从而在保持轻量级的同时提升了重建细节。无论是用于学术探索还是开发交互式虚拟人应用，GAGAvatar 都提供了一个强大且易于上手的解决方案。","\u003Ch1 align=\"center\">\u003Cb>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxg-chu_GAGAvatar_readme_0535a957c8ea.png\" width=\"520\"\u002F>\u003C\u002Fb>\u003C\u002Fh1>\n\u003Ch3 align=\"center\">\n    \u003Ca href='https:\u002F\u002Farxiv.org\u002Fabs\u002F2410.07971'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FArXiv-PDF-red'>\u003C\u002Fa>   \n    \u003Ca href='https:\u002F\u002Fxg-chu.site\u002Fproject_gagavatar\u002F'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FProject-Page-blue'>\u003C\u002Fa>   \n    \u003Ca href='https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=9244ZgOl4Xk'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FYoutube-Video-red'>\u003C\u002Fa>   \n    \u003Ca href='https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar_track\u002F'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FData-Tracker-red'>\u003C\u002Fa>   \n\u003C\u002Fh3>\n\n\u003Ch5 align=\"center\">\n    \u003Ca href=\"https:\u002F\u002Fxg-chu.site\">Xuangeng Chu\u003C\u002Fa>\u003Csup>1\u003C\u002Fsup> \n    \u003Ca href=\"https:\u002F\u002Fwww.mi.t.u-tokyo.ac.jp\u002Fharada\u002F\">Tatsuya Harada\u003C\u002Fa>\u003Csup>1,2\u003C\u002Fsup>\n    \u003Cbr>\n    \u003Csup>1\u003C\u002Fsup>The University of Tokyo,\n    \u003Csup>2\u003C\u002Fsup>RIKEN AIP\n\u003C\u002Fh5>\n\n\u003Ch3 align=\"center\">\n🤩 NeurIPS 2024 🤩\n\u003C\u002Fh3>\n\n\u003Cdiv align=\"center\"> \n    \u003Cdiv align=\"center\"> \n        \u003Cb>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxg-chu_GAGAvatar_readme_a54e7577e711.gif\" alt=\"drawing\" width=\"960\"\u002F>\u003C\u002Fb>\n    \u003C\u002Fdiv>\n    \u003Cb>\n        GAGAvatar reconstructs controllable 3D head avatars from single images.\n    \u003C\u002Fb>\n    \u003Cbr>\n        GAGAvatar achieves one-shot 3DGS-based head reconstruction and \u003Cb>⚡️real-time⚡️\u003C\u002Fb> reenactment.\n    \u003Cbr>\n        🔥 More results can be found in our \u003Ca href=\"https:\u002F\u002Fxg-chu.github.io\u002Fproject_gagavatar\u002F\">Project Page\u003C\u002Fa>. 🔥\n\u003C\u002Fdiv>\n\n\u003C!-- ## TO DO\nWe are now preparing the \u003Cb>pre-trained model and quick start materials\u003C\u002Fb> and will release it within a week. -->\n\n## Installation\n### Clone the project\n```\ngit clone --recurse-submodules git@github.com:xg-chu\u002FGAGAvatar.git\ncd GAGAvatar\n```\n\n### Build environment\n```\nconda env create -f environment.yml\nconda activate GAGAvatar\n```\n### Install the 3DGS renderer\n\n\u003Cdetails>\n\u003Csummary>\u003Cspan>What’s the difference between this version and the original 3DGS?\u003C\u002Fspan>\u003C\u002Fsummary>\n\n- We changed the number of channels so that 3D Gaussians carry 32-dim features.\n- We changed the package name to avoid conflict with the original Gaussian splatting.\n\n\u003C\u002Fdetails>\n\n```\ngit clone --recurse-submodules git@github.com:xg-chu\u002Fdiff-gaussian-rasterization.git\npip install .\u002Fdiff-gaussian-rasterization\nrm -rf .\u002Fdiff-gaussian-rasterization\n```\n\n### Prepare resources\nPrepare resources with:\n```\nbash .\u002Fbuild_resources.sh\n```\n\nAlso prepare resources for GAGAvatar_track using: \n```\ncd core\u002Flibs\u002FGAGAvatar_track\nbash .\u002Fbuild_resources.sh\n```\n\n## Quick Start Guide\nDriven by another **image**:\n```\n# This will track the images online, which is slow.\npython inference.py -d .\u002Fdemos\u002Fexamples\u002F2.jpg -i .\u002Fdemos\u002Fexamples\u002F1.jpg\n```\n\nDriven by a tracked **video**:\n```\npython inference.py -d .\u002Fdemos\u002Fdrivers\u002Fobama -i .\u002Fdemos\u002Fexamples\u002F1.jpg\n``` \nDriven by a tracked **image_lmdb**:\n```\npython inference.py -d .\u002Fdemos\u002Fdrivers\u002Fvfhq_demo -i .\u002Fdemos\u002Fexamples\u002F1.jpg\n```\n\nTo test the inference speed, refer to the ```speed_test()``` function in ```inference.py```.\n\nTo test your own images online, refer to ```lines 52-55``` in ```inference.py```.\n\nTo test your own driving sequences (videos\u002Fimages), refer to [GAGAvatar_track](https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar_track\u002F) and demo sequences to build your own driving sequence.\n\n## Training Guide\n\u003Cdetails>\n\u003Csummary>\u003Cspan>You can use the pre-trained model directly, but if you need to retrain on your data:\u003C\u002Fspan>\u003C\u002Fsummary>\n\n\u003C!-- Building the dataset used for training requires img_lmdb, optim.pkl and dataset.json. -->\n### Step 1: Building the image LMDB\nBuild ```img_lmdb``` yourself.\n\n\nAll the images should be cropped as inference. (Refer to line 218 in ```core\u002Flibs\u002FGAGAvatar_track\u002Fengines\u002Fengine_core.py```) \n\nDump images using ```core\u002Flibs\u002Futils_lmdb.py```, there is also an API for building lmdb: ```dump(key_name, payload)```, payload should be tensor with (3, 512, 512), in [0, 255]. \n\n015252 is video id (used when sampling), 99 is frame id (0 is the first frame, other frames id can be discontinuous).\n```\nimg_lmdb:\n    '015252_99' : image payload\n```\n\n### Step 2: Track the image LMDB\nUsing ```track_lmdb.py``` in ```GAGAvatar_track```, you should get a ```optim.pkl```.\n```\noptim.pkl:\n- dict_keys(['000000_0', …])\n    - \"000000_0\": dict_keys(['bbox', 'shapecode', 'expcode', 'posecode', 'eyecode', 'transform_matrix'])\n```\n\n### Step 3: Split the dataset\nBuild ```dataset.json``` yourself, it should contain the keys in ```img_lmdb``` and ```optim.pkl```.\n```\ndataset.json: {\n    \"train\": [\"000000_0\", \"000000_5\", ..., '001384_654'],\n    \"val\":   [\"015209_0\", ..., \"015218_7\"], \n    \"test\":  [\"015203_0\", ..., \"015252_139\"]\n}\n```\n\n### Step 4: Modify the config and train\n```\npython train.py --config gaga --dataset vfhq\n```\n\n\u003C\u002Fdetails>\n\n## Citation\nIf you find our work useful in your research, please consider citing:\n```bibtex\n@inproceedings{\n    chu2024gagavatar,\n    title={Generalizable and Animatable Gaussian Head Avatar},\n    author={Xuangeng Chu and Tatsuya Harada},\n    booktitle={The Thirty-eighth Annual Conference on Neural Information Processing Systems},\n    year={2024},\n    url={https:\u002F\u002Fopenreview.net\u002Fforum?id=gVM2AZ5xA6}\n}\n```\n\n## Acknowledgements\nSome part of our work is built based on FLAME, StyleMatte, EMICA and VGGHead. \nThe GAGAvatar Logo is designed by Caihong Ning.\nWe also thank the following projects for sharing their great work.\n- **GPAvatar**: https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGPAvatar\n- **FLAME**: https:\u002F\u002Fflame.is.tue.mpg.de\n- **StyleMatte**: https:\u002F\u002Fgithub.com\u002Fchroneus\u002Fstylematte\n- **EMICA**: https:\u002F\u002Fgithub.com\u002Fradekd91\u002Finferno\n- **VGGHead**: https:\u002F\u002Fgithub.com\u002FKupynOrest\u002Fhead_detector\n","\u003Ch1 align=\"center\">\u003Cb>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxg-chu_GAGAvatar_readme_0535a957c8ea.png\" width=\"520\"\u002F>\u003C\u002Fb>\u003C\u002Fh1>\n\u003Ch3 align=\"center\">\n    \u003Ca href='https:\u002F\u002Farxiv.org\u002Fabs\u002F2410.07971'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FArXiv-PDF-red'>\u003C\u002Fa>   \n    \u003Ca href='https:\u002F\u002Fxg-chu.site\u002Fproject_gagavatar\u002F'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FProject-Page-blue'>\u003C\u002Fa>   \n    \u003Ca href='https:\u002F\u002Fwww.youtube.com\u002Fwatch?v=9244ZgOl4Xk'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FYoutube-Video-red'>\u003C\u002Fa>   \n    \u003Ca href='https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar_track\u002F'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FData-Tracker-red'>\u003C\u002Fa>   \n\u003C\u002Fh3>\n\n\u003Ch5 align=\"center\">\n    \u003Ca href=\"https:\u002F\u002Fxg-chu.site\">Xuangeng Chu\u003C\u002Fa>\u003Csup>1\u003C\u002Fsup> \n    \u003Ca href=\"https:\u002F\u002Fwww.mi.t.u-tokyo.ac.jp\u002Fharada\u002F\">Tatsuya Harada\u003C\u002Fa>\u003Csup>1,2\u003C\u002Fsup>\n    \u003Cbr>\n    \u003Csup>1\u003C\u002Fsup>东京大学，\n    \u003Csup>2\u003C\u002Fsup>理化学研究所人工智能中心\n\u003C\u002Fh5>\n\n\u003Ch3 align=\"center\">\n🤩 NeurIPS 2024 🤩\n\u003C\u002Fh3>\n\n\u003Cdiv align=\"center\"> \n    \u003Cdiv align=\"center\"> \n        \u003Cb>\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxg-chu_GAGAvatar_readme_a54e7577e711.gif\" alt=\"drawing\" width=\"960\"\u002F>\u003C\u002Fb>\n    \u003C\u002Fdiv>\n    \u003Cb>\n        GAGAvatar能够从单张图像重建可控的3D头部虚拟形象。\n    \u003C\u002Fb>\n    \u003Cbr>\n        GAGAvatar实现了基于3DGS的一次性头部重建以及\u003Cb>⚡️实时⚡️\u003C\u002Fb>的表情重演。\n    \u003Cbr>\n        🔥 更多结果请访问我们的\u003Ca href=\"https:\u002F\u002Fxg-chu.github.io\u002Fproject_gagavatar\u002F\">项目页面\u003C\u002Fa>。🔥\n\u003C\u002Fdiv>\n\n\u003C!-- ## 待办事项\n我们目前正在准备\u003Cb>预训练模型和快速入门材料\u003C\u002Fb>,并将在一周内发布。 -->\n\n## 安装\n### 克隆项目\n```\ngit clone --recurse-submodules git@github.com:xg-chu\u002FGAGAvatar.git\ncd GAGAvatar\n```\n\n### 构建环境\n```\nconda env create -f environment.yml\nconda activate GAGAvatar\n```\n### 安装3DGS渲染器\n\n\u003Cdetails>\n\u003Csummary>\u003Cspan>这个版本与原始3DGS有什么不同？\u003C\u002Fspan>\u003C\u002Fsummary>\n\n- 我们改变了通道数，使3D高斯分布携带32维特征。\n- 我们更改了包名，以避免与原始高斯点云渲染冲突。\n\n\u003C\u002Fdetails>\n\n```\ngit clone --recurse-submodules git@github.com:xg-chu\u002Fdiff-gaussian-rasterization.git\npip install .\u002Fdiff-gaussian-rasterization\nrm -rf .\u002Fdiff-gaussian-rasterization\n```\n\n### 准备资源\n使用以下命令准备资源：\n```\nbash .\u002Fbuild_resources.sh\n```\n\n同时为GAGAvatar_track准备资源：\n```\ncd core\u002Flibs\u002FGAGAvatar_track\nbash .\u002Fbuild_resources.sh\n```\n\n## 快速入门指南\n由另一张**图片**驱动：\n```\n# 这将在线跟踪图片，速度较慢。\npython inference.py -d .\u002Fdemos\u002Fexamples\u002F2.jpg -i .\u002Fdemos\u002Fexamples\u002F1.jpg\n```\n\n由已跟踪的**视频**驱动：\n```\npython inference.py -d .\u002Fdemos\u002Fdrivers\u002Fobama -i .\u002Fdemos\u002Fexamples\u002F1.jpg\n``` \n由已跟踪的**image_lmdb**驱动：\n```\npython inference.py -d .\u002Fdemos\u002Fdrivers\u002Fvfhq_demo -i .\u002Fdemos\u002Fexamples\u002F1.jpg\n```\n\n要测试推理速度，请参考```inference.py```中的```speed_test()```函数。\n\n要在线测试您自己的图片，请参考```inference.py```中的第52至55行。\n\n要测试您自己的驱动序列（视频\u002F图片），请参考[GAGAvatar_track](https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar_track\u002F)及演示序列，以构建您自己的驱动序列。\n\n## 训练指南\n\u003Cdetails>\n\u003Csummary>\u003Cspan>您可以直接使用预训练模型，但如果您需要在自己的数据上重新训练：\u003C\u002Fspan>\u003C\u002Fsummary>\n\n\u003C!-- 用于训练的数据集需要img_lmdb、optim.pkl和dataset.json。 -->\n### 第一步：构建图像LMDB\n自行构建```img_lmdb```。\n\n\n所有图像都应像推理时一样进行裁剪。（请参阅```core\u002Flibs\u002FGAGAvatar_track\u002Fengines\u002Fengine_core.py```第218行） \n\n使用```core\u002Flibs\u002Futils_lmdb.py```转储图像，还有一个用于构建lmdb的API：```dump(key_name, payload)```，payload应为(3, 512, 512)的张量，取值范围为[0, 255]。 \n\n015252是视频ID（采样时使用），99是帧ID（0为第一帧，其他帧ID可以不连续）。\n```\nimg_lmdb:\n    '015252_99' : 图像负载\n```\n\n### 第二步：跟踪图像LMDB\n使用```GAGAvatar_track```中的```track_lmdb.py```，您应该得到一个```optim.pkl```。\n```\noptim.pkl:\n- dict_keys(['000000_0', …])\n    - \"000000_0\": dict_keys(['bbox', 'shapecode', 'expcode', 'posecode', 'eyecode', 'transform_matrix'])\n```\n\n### 第三步：拆分数据集\n自行构建```dataset.json```，它应包含```img_lmdb```和```optim.pkl```中的键。\n```\ndataset.json: {\n    \"train\": [\"000000_0\", \"000000_5\", ..., '001384_654'],\n    \"val\":   [\"015209_0\", ..., \"015218_7\"], \n    \"test\":  [\"015203_0\", ..., \"015252_139\"]\n}\n```\n\n### 第四步：修改配置并训练\n```\npython train.py --config gaga --dataset vfhq\n```\n\n\u003C\u002Fdetails>\n\n## 引用\n如果您在研究中发现我们的工作很有用，请考虑引用：\n```bibtex\n@inproceedings{\n    chu2024gagavatar,\n    title={通用且可动画化的高斯头部虚拟形象},\n    author={Xuangeng Chu和Tatsuya Harada},\n    booktitle={第三十八届神经信息处理系统年度会议},\n    year={2024},\n    url={https:\u002F\u002Fopenreview.net\u002Fforum?id=gVM2AZ5xA6}\n}\n```\n\n## 致谢\n我们的部分工作基于FLAME、StyleMatte、EMICA和VGGHead构建。\nGAGAvatar标志由Caihong Ning设计。\n我们还要感谢以下项目分享他们的优秀成果。\n- **GPAvatar**: https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGPAvatar\n- **FLAME**: https:\u002F\u002Fflame.is.tue.mpg.de\n- **StyleMatte**: https:\u002F\u002Fgithub.com\u002Fchroneus\u002Fstylematte\n- **EMICA**: https:\u002F\u002Fgithub.com\u002Fradekd91\u002Finferno\n- **VGGHead**: https:\u002F\u002Fgithub.com\u002FKupynOrest\u002Fhead_detector","# GAGAvatar 快速上手指南\n\nGAGAvatar 是一个基于 NeurIPS 2024 研究成果的开源项目，能够从单张图像重建可控的 3D 头部化身（Avatar），并实现实时的驱动 reenactment。\n\n## 环境准备\n\n在开始之前，请确保您的系统满足以下要求：\n- **操作系统**: Linux (推荐 Ubuntu 18.04\u002F20.04)\n- **GPU**: 支持 CUDA 的 NVIDIA 显卡（建议显存 8GB 以上）\n- **依赖管理**: 已安装 [Conda](https:\u002F\u002Fdocs.conda.io\u002F) (Miniconda 或 Anaconda)\n- **Git**: 已安装 Git 以克隆子模块\n\n## 安装步骤\n\n### 1. 克隆项目\n使用以下命令克隆仓库并初始化子模块：\n```bash\ngit clone --recurse-submodules git@github.com:xg-chu\u002FGAGAvatar.git\ncd GAGAvatar\n```\n\n### 2. 创建 Conda 环境\n利用项目提供的配置文件创建并激活环境：\n```bash\nconda env create -f environment.yml\nconda activate GAGAvatar\n```\n> **提示**：如果下载依赖较慢，可配置国内镜像源（如清华源）：\n> `conda config --add channels https:\u002F\u002Fmirrors.tuna.tsinghua.edu.cn\u002Fanaconda\u002Fpkgs\u002Fmain\u002F`\n\n### 3. 安装 3DGS 渲染器\n本项目修改了原版 3DGS 以支持 32 维特征，需单独编译安装：\n```bash\ngit clone --recurse-submodules git@github.com:xg-chu\u002Fdiff-gaussian-rasterization.git\npip install .\u002Fdiff-gaussian-rasterization\nrm -rf .\u002Fdiff-gaussian-rasterization\n```\n\n### 4. 准备资源文件\n运行脚本下载必要的预训练模型和资源：\n```bash\nbash .\u002Fbuild_resources.sh\n```\n同时为追踪模块准备资源：\n```bash\ncd core\u002Flibs\u002FGAGAvatar_track\nbash .\u002Fbuild_resources.sh\ncd ..\u002F..\u002F..\n```\n\n## 基本使用\n\n安装完成后，您可以直接使用单张图片作为源身份，通过不同的驱动源（图片、视频或数据集）生成动画。\n\n### 场景一：单图驱动单图\n使用一张图片驱动另一张图片（在线追踪模式，速度较慢）：\n```bash\npython inference.py -d .\u002Fdemos\u002Fexamples\u002F2.jpg -i .\u002Fdemos\u002Fexamples\u002F1.jpg\n```\n* `-i`: 输入源图像（身份来源）\n* `-d`: 驱动图像（动作来源）\n\n### 场景二：视频驱动\n使用已追踪好的视频序列驱动源图像（推荐，速度快）：\n```bash\npython inference.py -d .\u002Fdemos\u002Fdrivers\u002Fobama -i .\u002Fdemos\u002Fexamples\u002F1.jpg\n```\n\n### 场景三：LMDB 数据集驱动\n使用预处理的 LMDB 格式数据驱动：\n```bash\npython inference.py -d .\u002Fdemos\u002Fdrivers\u002Fvfhq_demo -i .\u002Fdemos\u002Fexamples\u002F1.jpg\n```\n\n> **注意**：输出结果默认保存在项目根目录或指定输出文件夹中。如需测试推理速度或自定义输入，请参考 `inference.py` 源码中的 `speed_test()` 函数及相关注释。","某独立游戏开发者需要为一款叙事驱动的游戏快速制作大量具备丰富面部表情的 3D 角色头像，但团队缺乏专业的 3D 建模师和动作捕捉设备。\n\n### 没有 GAGAvatar 时\n- **制作周期漫长**：传统流程需人工建模、绑定骨骼并手动 K 帧或租用昂贵动捕棚，单个角色耗时数周。\n- **成本高昂**：聘请专业美术人员和租赁硬件设备的费用远超独立开发者的预算上限。\n- **修改灵活性差**：若需调整角色长相或增加新表情，往往需要推翻重来，难以响应策划的频繁变更。\n- **实时性能瓶颈**：高精度模型在普通消费级显卡上运行帧率低，难以满足游戏实时渲染需求。\n- **数据依赖严重**：训练定制化模型需要采集该角色多角度的大量视频数据，单张照片无法启动项目。\n\n### 使用 GAGAvatar 后\n- **一键极速生成**：仅需一张角色正面照片，GAGAvatar 即可自动重建可驱动的 3D 高斯头像，将周期缩短至分钟级。\n- **零硬件门槛**：无需任何动捕设备，直接利用现有视频素材或网络图片作为驱动源，大幅降低资金投入。\n- **动态可控性强**：开发者可随时更换驱动视频来赋予角色新的表情和口型，无需重新训练或建模。\n- **实时流畅渲染**：基于 3DGS 技术，GAGAvatar 能在普通显卡上实现实时的重演效果，完美适配游戏引擎。\n- **单图泛化能力**：突破了数据限制，即使是只有一张参考图的原创角色，也能立刻获得高质量的动画能力。\n\nGAGAvatar 通过将 3D 头像制作从“重型工程”转变为“单图即时生成”，让小型团队也能以极低代价实现电影级的角色动画表现。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxg-chu_GAGAvatar_0535a957.png","xg-chu","Xuangeng Chu","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fxg-chu_b6f51bc5.jpg",null,"The University of Tokyo","Tokyo","xuangeng.chu@mi.t.u-tokyo.ac.jp","https:\u002F\u002Fgithub.com\u002Fxg-chu",[82,86],{"name":83,"color":84,"percentage":85},"Python","#3572A5",99.4,{"name":87,"color":88,"percentage":89},"Shell","#89e051",0.6,579,52,"2026-04-10T09:15:55","MIT",4,"Linux","必需 NVIDIA GPU（用于 3D Gaussian Splatting 渲染和实时重演），具体型号和显存未说明，需支持 CUDA（版本未说明）","未说明",{"notes":99,"python":100,"dependencies":101},"1. 必须使用 conda 根据 environment.yml 创建环境。\n2. 需要编译安装定制的 3DGS 渲染器（diff-gaussian-rasterization），该版本修改了通道数以支持 32 维特征。\n3. 运行前需执行 bash 脚本构建资源文件（build_resources.sh）。\n4. 若需训练或处理自定义数据，需预先准备 img_lmdb、optim.pkl 和 dataset.json 文件。\n5. 项目依赖 GAGAvatar_track 子模块进行动作追踪。","未说明（通过 environment.yml 管理）",[102,103,104,105,106],"conda","diff-gaussian-rasterization (定制版)","torch (隐含)","numpy (隐含)","lmdb (隐含)",[15,61,108],"其他","2026-03-27T02:49:30.150509","2026-04-12T20:19:51.715320",[112,117,122,127,132,137],{"id":113,"question_zh":114,"answer_zh":115,"source_url":116},30973,"在 HDTF 数据集上重训练时，为什么迭代超过 2000 次后第三列图像会变黑？","这通常是因为神经渲染器（neural renderer）对学习率、数据分布或批次大小非常敏感。HDTF 数据集主要包含正面图像，可能导致默认配置不适用。\n解决方案：尝试降低学习率，或者仅降低神经渲染器的学习率。\n相关代码位置参考：https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar\u002Fblob\u002F3bbe5b0b2a64140ff765d2c0a3fc1a5c0103e3ac\u002Fcore\u002Fmodels\u002FGAGAvatar\u002Fmodels.py#L127-L127","https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar\u002Fissues\u002F29",{"id":118,"question_zh":119,"answer_zh":120,"source_url":121},30974,"如何正确计算论文中的 LPIPS 指标以复现结果？","论文中使用的 LPIPS 网络类型是 'squeeze' 而不是默认的 'alex'。输入图像范围应为 [0, 1]，计算前需归一化到 [-1, 1]。\n参考代码如下：\n```python\n@torch.no_grad()\ndef calc_lpips(preds, target):\n    # input should be in range [0, 1]\n    lpips_model = torchmetrics.image.lpip.LearnedPerceptualImagePatchSimilarity(net_type='squeeze')\n    img1 = (preds * 2) - 1; img2 = (target * 2) - 1\n    lpips = lpips_model(img1[None], img2[None])\n    return lpips\n```\n使用 'squeeze' 网络测得的发布模型 LPIPS 约为 0.0922。","https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar\u002Fissues\u002F51",{"id":123,"question_zh":124,"answer_zh":125,"source_url":126},30975,"安装 diff_gaussian_rasterization 时遇到 CUDA 版本不匹配错误怎么办？","错误通常是因为系统安装的 CUDA Toolkit 版本与 PyTorch 编译时使用的 CUDA 版本不一致。\n解决方法：\n1. 检查 `environment.yml` 文件中指定的 PyTorch 和 CUDA 版本（例如 cuda12.1）。\n2. 如果您的机器使用的是其他版本的 CUDA（如 11.3），请修改 `environment.yml` 中所有包含 `cuda12.1` 的部分。\n3. 前往 PyTorch 官网下载并安装与您本地 CUDA Toolkit 版本相对应的 PyTorch 版本。\n4. 重新创建环境并安装依赖。","https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar\u002Fissues\u002F21",{"id":128,"question_zh":129,"answer_zh":130,"source_url":131},30976,"论文中的评估指标 AED 和 APD 是如何计算的？","AED 和 APD 是通过计算预测值与目标值之间的 L1 损失得出的，最后对 batch 维度取平均值。\n具体计算代码如下：\n```python\nall_aeds.append(torch.nn.functional.l1_loss(pred_eres['exp'], target_eres['exp'])) # exp: 1d\nall_apds.append(torch.nn.functional.l1_loss(pred_eres['pose'][:3], target_eres['pose'][:3])) # pose: 1d\n\naed = np.mean(all_aeds)\n# apd 同理计算均值\n```","https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar\u002Fissues\u002F36",{"id":133,"question_zh":134,"answer_zh":135,"source_url":136},30977,"论文中提到的“检测关键点并裁剪头部区域”的具体评估预处理步骤是什么？","具体步骤是使用 InsightFace 库检测图像的 5 个关键点（5 kps）。\n然后基于这些关键点生成边界框，并将边界框扩大（比例 ratio=3）以包含整个头部区域。\n最后将裁剪后的区域调整大小至 512×512 分辨率用于评估。","https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar\u002Fissues\u002F39",{"id":138,"question_zh":139,"answer_zh":140,"source_url":141},30978,"渲染图像的尺寸（dimension）可以更改吗？为什么默认是 32？","渲染函数的底层实现通常可以接受除 3 以外的其他维度而无需重新编译，但在作者的实验中并未尝试过其他维度，因此默认设置为 32。\n如果您尝试更改维度（如 45, 48, 64 等）遇到 CUDA 错误，可能是因为特定的 gsplat  CUDA 代码对不同维度的支持有限制，建议保持默认值或自行检查底层 CUDA 实现的兼容性。","https:\u002F\u002Fgithub.com\u002Fxg-chu\u002FGAGAvatar\u002Fissues\u002F42",[]]