[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-ali-vilab--AnyDoor":3,"tool-ali-vilab--AnyDoor":62},[4,18,26,35,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,2,"2026-04-10T11:39:34",[14,15,13],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":32,"last_commit_at":41,"category_tags":42,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[43,13,15,14],"插件",{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":10,"last_commit_at":50,"category_tags":51,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[52,15,13,14],"语言模型",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":10,"last_commit_at":59,"category_tags":60,"status":17},4292,"Deep-Live-Cam","hacksider\u002FDeep-Live-Cam","Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具，用户仅需一张静态照片，即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点，让高质量的数字内容创作变得触手可及。\n\n这款工具不仅适合开发者和技术研究人员探索算法边界，更因其极简的操作逻辑（仅需三步：选脸、选摄像头、启动），广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换，还是制作趣味短视频和直播互动，Deep-Live-Cam 都能提供流畅的支持。\n\n其核心技术亮点在于强大的实时处理能力，支持口型遮罩（Mouth Mask）以保留使用者原始的嘴部动作，确保表情自然精准；同时具备“人脸映射”功能，可同时对画面中的多个主体应用不同面孔。此外，项目内置了严格的内容安全过滤机制，自动拦截涉及裸露、暴力等不当素材，并倡导用户在获得授权及明确标注的前提下合规使用，体现了技术发展与伦理责任的平衡。",88924,"2026-04-06T03:28:53",[14,15,13,61],"视频",{"id":63,"github_repo":64,"name":65,"description_en":66,"description_zh":67,"ai_summary_zh":67,"readme_en":68,"readme_zh":69,"quickstart_zh":70,"use_case_zh":71,"hero_image_url":72,"owner_login":73,"owner_name":74,"owner_avatar_url":75,"owner_bio":74,"owner_company":76,"owner_location":76,"owner_email":76,"owner_twitter":76,"owner_website":76,"owner_url":77,"languages":78,"stars":87,"forks":88,"last_commit_at":89,"license":90,"difficulty_score":10,"env_os":91,"env_gpu":92,"env_ram":93,"env_deps":94,"category_tags":107,"github_topics":108,"view_count":32,"oss_zip_url":76,"oss_zip_packed_at":76,"status":17,"created_at":113,"updated_at":114,"faqs":115,"releases":151},6864,"ali-vilab\u002FAnyDoor","AnyDoor","Official implementations for paper: Anydoor: zero-shot object-level image customization","AnyDoor 是一款基于人工智能的图像定制工具，专注于实现“零样本”对象级图像编辑。简单来说，用户只需提供一张目标物体的照片和一张场景图，AnyDoor 就能将该物体自然地融合到新场景中，同时完美保留其原有的细节特征、纹理和光照效果，无需针对特定物体进行额外的模型训练。\n\n它主要解决了传统图像合成中物体难以自然融入新背景、细节丢失或需要繁琐微调的问题。无论是电商领域的虚拟试衣、广告素材中的商品替换，还是创意创作中的物体移植，AnyDoor 都能提供高质量的生成结果。其核心技术亮点在于结合了强大的预训练视觉模型（如 DINOv2）与扩散模型，具备极强的泛化能力，能够处理各种未见过的物体类别。\n\n这款工具非常适合多类人群使用：研究人员可借此探索区域到区域的生成任务；开发者能利用开源代码构建虚拟试衣、人脸替换等下游应用；设计师和普通用户则可通过在线演示轻松体验创意的快速落地。目前，项目已开放训练与推理代码及预训练模型，并支持在 ModelScope 和 Hugging Face 等平台直接在线试用，为图像编辑领域提供了灵活且强大的基础支持。","\u003Cp align=\"center\">\n\n  \u003Ch2 align=\"center\">AnyDoor: Zero-shot Object-level Image Customization\u003C\u002Fh2>\n  \u003Cp align=\"center\">\n    \u003Ca href=\"https:\u002F\u002Fxavierchen34.github.io\u002F\">\u003Cstrong>Xi Chen\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fscholar.google.com\u002Fcitations?user=JYVCn3AAAAAJ&hl=en\">\u003Cstrong>Lianghua Huang\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fscholar.google.com\u002Fcitations?user=8zksQb4AAAAJ&hl=zh-CN\">\u003Cstrong>Yu Liu\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fshenyujun.github.io\u002F\">\u003Cstrong>Yujun Shen\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fscholar.google.com\u002Fcitations?user=7LhjCn0AAAAJ&hl=en\">\u003Cstrong>Deli Zhao\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fhszhao.github.io\u002F\">\u003Cstrong>Hengshuang Zhao\u003C\u002Fstrong>\u003C\u002Fa>\n    \u003Cbr>\n    \u003Cbr>\n        \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2307.09481\">\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FarXiv-AnyDoor-red' alt='Paper PDF'>\u003C\u002Fa>\n        \u003Ca href='https:\u002F\u002Fali-vilab.github.io\u002FAnyDoor-Page\u002F'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FProject_Page-AnyDoor-green' alt='Project Page'>\u003C\u002Fa>\n        \u003Ca href='https:\u002F\u002Fmodelscope.cn\u002Fstudios\u002Fdamo\u002FAnyDoor-online\u002Fsummary'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModelScope-AnyDoor-yellow'>\u003C\u002Fa>\n        \u003Ca href='https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fxichenhku\u002FAnyDoor-online'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F%F0%9F%A4%97%20Hugging%20Face-Spaces-blue'>\u003C\u002Fa>\n        \u003Ca href='https:\u002F\u002Freplicate.com\u002Flucataco\u002Fanydoor'>\u003Cimg src='https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fali-vilab_AnyDoor_readme_7dacf1cc5d87.png'>\u003C\u002Fa>\n    \u003Cbr>\n    \u003Cb>The University of Hong Kong   |    Alibaba Group  |    Ant Group \u003C\u002Fb>\n  \u003C\u002Fp>\n  \n  \u003Ctable align=\"center\">\n    \u003Ctr>\n    \u003Ctd>\n      \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fali-vilab_AnyDoor_readme_943444141db4.png\">\n    \u003C\u002Ftd>\n    \u003C\u002Ftr>\n  \u003C\u002Ftable>\n\n## News\n* **[2023.12.17]** Release train & inference & demo code, and pretrained checkpoint.\n* **[2023.12.24]** 🔥 Support online demo on [ModelScope](https:\u002F\u002Fmodelscope.cn\u002Fstudios\u002Fdamo\u002FAnyDoor-online\u002Fsummary) and \n [HuggingFace](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fxichenhku\u002FAnyDoor-online).\n* **[Soon]** Release the new version paper.\n* **[On-going]** Scale-up the training data and release stronger models as the foundaition model for downstream region-to-region generation tasks.\n* **[On-going]** Release specific-designed models for downstream tasks like virtual tryon, face swap, text and logo transfer, etc.\n\n\n## Installation\nInstall with `conda`: \n```bash\nconda env create -f environment.yaml\nconda activate anydoor\n```\nor `pip`:\n```bash\npip install -r requirements.txt\n```\nAdditionally, for training, you need to install panopticapi, pycocotools, and lvis-api.\n```bash\npip install git+https:\u002F\u002Fgithub.com\u002Fcocodataset\u002Fpanopticapi.git\n\npip install pycocotools -i https:\u002F\u002Fpypi.douban.com\u002Fsimple\n\npip install lvis\n```\n## Download Checkpoints\nDownload AnyDoor checkpoint: \n* [ModelScope](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002Fdamo\u002FAnyDoor\u002Ffiles)\n* [HuggingFace](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fxichenhku\u002FAnyDoor\u002Ftree\u002Fmain)\n\n**Note:** We include all the optimizer params for Adam, so the checkpoint is big. You could only keep the \"state_dict\" to make it much smaller.\n\n\nDownload DINOv2 checkpoint and revise `\u002Fconfigs\u002Fanydoor.yaml` for the path (line 83)\n* URL: https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fdinov2?tab=readme-ov-file\n\nDownload Stable Diffusion V2.1 if you want to train from scratch.\n* URL: https:\u002F\u002Fhuggingface.co\u002Fstabilityai\u002Fstable-diffusion-2-1\u002Ftree\u002Fmain\n\n\n## Inference\nWe provide inference code in `run_inference.py` (from Line 222 - ) for both inference single image and inference a dataset (VITON-HD Test). You should modify the data path and run the following code. The generated results are provided in `examples\u002FTestDreamBooth\u002FGEN` for single image, and `VITONGEN` for VITON-HD Test.\n\n```bash\npython run_inference.py\n```\nThe inferenced results on VITON-Test would be like [garment, ground truth, generation].\n\n*Noticing that AnyDoor does not contain any specific design\u002Ftuning for tryon, we think it would be helpful to add skeleton infos or warped garment, and tune on tryon data to make it better :)*\n  \u003Ctable align=\"center\">\n    \u003Ctr>\n    \u003Ctd>\n      \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fali-vilab_AnyDoor_readme_e80a97d6b3a1.png\">\n    \u003C\u002Ftd>\n    \u003C\u002Ftr>\n  \u003C\u002Ftable>\n\n\nOur evaluation data for DreamBooth an COCOEE coud be downloaded at Google Drive:\n* URL: [to be released]\n\n\n\n\n\n## Gradio demo \nCurrently, we suport local gradio demo. To launch it, you should firstly modify `\u002Fconfigs\u002Fdemo.yaml` for the path to the pretrained model, and `\u002Fconfigs\u002Fanydoor.yaml` for the path to DINOv2(line 83). \n\nAfterwards, run the script:\n```bash\npython run_gradio_demo.py\n```\nThe gradio demo would look like the UI shown below:\n\n* 📢 This version requires users to annotate the mask of the target object, too coarse mask would influence the generation quality. We plan to add mask refine module or interactive segmentation modules in the demo.\n\n* 📢 We provide an segmentation module to refine the user annotated reference mask. We could chose to disable it by setting  `use_interactive_seg: False` in `\u002Fconfigs\u002Fdemo.yaml`.\n\n\u003Ctable align=\"center\">\n  \u003Ctr>\n  \u003Ctd>\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fali-vilab_AnyDoor_readme_3a6fd51ab714.png\">\n  \u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n## Train\n\n### Prepare datasets\n* Download the datasets that present in `\u002Fconfigs\u002Fdatasets.yaml` and modify the corresponding paths.\n* You could prepare you own datasets according to the formates of files in `.\u002Fdatasets`.\n* If you use UVO dataset, you need to process the json following `.\u002Fdatasets\u002FPreprocess\u002Fuvo_process.py`\n* You could refer to `run_dataset_debug.py` to verify you data is correct.\n\n\n### Prepare initial weight\n* If your would like to train from scratch, convert the downloaded SD weights to control copy by running:\n```bash\nsh .\u002Fscripts\u002Fconvert_weight.sh  \n```\n### Start training\n* Modify the training hyper-parameters in `run_train_anydoor.py` Line 26-34 according to your training resources. We verify that using 2-A100 GPUs with batch accumulation=1 could get satisfactory results after 300,000 iterations.\n\n\n* Start training by executing: \n```bash\nsh .\u002Fscripts\u002Ftrain.sh  \n```\n\n## 🔥 Community Contributions\n@bdsqlsz\n\n* AnyDoor for windows: https:\u002F\u002Fgithub.com\u002Fsdbds\u002FAnyDoor-for-windows\n* Pruned model: https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002Fbdsqlsz\u002FAnyDoor-Pruned\u002Fsummary\n\n## Acknowledgements\nThis project is developped on the codebase of [ControlNet](https:\u002F\u002Fgithub.com\u002Flllyasviel\u002FControlNet). We  appreciate this great work! \n\n\n## Citation\nIf you find this codebase useful for your research, please use the following entry.\n```BibTeX\n@article{chen2023anydoor,\n  title={Anydoor: Zero-shot object-level image customization},\n  author={Chen, Xi and Huang, Lianghua and Liu, Yu and Shen, Yujun and Zhao, Deli and Zhao, Hengshuang},\n  journal={arXiv preprint arXiv:2307.09481},\n  year={2023}\n}\n```\n","\u003Cp align=\"center\">\n\n  \u003Ch2 align=\"center\">AnyDoor：零样本对象级图像定制\u003C\u002Fh2>\n  \u003Cp align=\"center\">\n    \u003Ca href=\"https:\u002F\u002Fxavierchen34.github.io\u002F\">\u003Cstrong>陈曦\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fscholar.google.com\u002Fcitations?user=JYVCn3AAAAAJ&hl=en\">\u003Cstrong>黄亮华\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fscholar.google.com\u002Fcitations?user=8zksQb4AAAAJ&hl=zh-CN\">\u003Cstrong>刘宇\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fshenyujun.github.io\u002F\">\u003Cstrong>沈宇俊\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fscholar.google.com\u002Fcitations?user=7LhjCn0AAAAJ&hl=en\">\u003Cstrong>赵德利\u003C\u002Fstrong>\u003C\u002Fa>\n    ·\n    \u003Ca href=\"https:\u002F\u002Fhszhao.github.io\u002F\">\u003Cstrong>赵恒爽\u003C\u002Fstrong>\u003C\u002Fa>\n    \u003Cbr>\n    \u003Cbr>\n        \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2307.09481\">\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FarXiv-AnyDoor-red' alt='论文PDF'>\u003C\u002Fa>\n        \u003Ca href='https:\u002F\u002Fali-vilab.github.io\u002FAnyDoor-Page\u002F'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F项目页面-AnyDoor-green' alt='项目页面'>\u003C\u002Fa>\n        \u003Ca href='https:\u002F\u002Fmodelscope.cn\u002Fstudios\u002Fdamo\u002FAnyDoor-online\u002Fsummary'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModelScope-AnyDoor-yellow'>\u003C\u002Fa>\n        \u003Ca href='https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fxichenhku\u002FAnyDoor-online'>\u003Cimg src='https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F%F0%9F%A4%97%20Hugging%20Face-Spaces-blue'>\u003C\u002Fa>\n        \u003Ca href='https:\u002F\u002Freplicate.com\u002Flucataco\u002Fanydoor'>\u003Cimg src='https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fali-vilab_AnyDoor_readme_7dacf1cc5d87.png'>\u003C\u002Fa>\n    \u003Cbr>\n    \u003Cb>香港大学   |   阿里巴巴集团    |   蚂蚁集团 \u003C\u002Fb>\n  \u003C\u002Fp>\n  \n  \u003Ctable align=\"center\">\n    \u003Ctr>\n    \u003Ctd>\n      \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fali-vilab_AnyDoor_readme_943444141db4.png\">\n    \u003C\u002Ftd>\n    \u003C\u002Ftr>\n  \u003C\u002Ftable>\n\n## 新闻\n* **[2023.12.17]** 发布训练、推理及演示代码，并提供预训练检查点。\n* **[2023.12.24]** 🔥 支持在 [ModelScope](https:\u002F\u002Fmodelscope.cn\u002Fstudios\u002Fdamo\u002FAnyDoor-online\u002Fsummary) 和 \n [HuggingFace](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fxichenhku\u002FAnyDoor-online) 上进行在线演示。\n* **[即将]** 发布新版本论文。\n* **[持续进行]** 扩大训练数据规模，并发布更强的模型，作为下游区域到区域生成任务的基础模型。\n* **[持续进行]** 发布针对下游任务（如虚拟试穿、人脸交换、文字和 logo 转移等）的专用模型。\n\n\n## 安装\n使用 `conda` 安装：\n```bash\nconda env create -f environment.yaml\nconda activate anydoor\n```\n或使用 `pip`：\n```bash\npip install -r requirements.txt\n```\n此外，进行训练时还需要安装 panopticapi、pycocotools 和 lvis-api。\n```bash\npip install git+https:\u002F\u002Fgithub.com\u002Fcocodataset\u002Fpanopticapi.git\n\npip install pycocotools -i https:\u002F\u002Fpypi.douban.com\u002Fsimple\n\npip install lvis\n```\n## 下载检查点\n下载 AnyDoor 检查点：\n* [ModelScope](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002Fdamo\u002FAnyDoor\u002Ffiles)\n* [HuggingFace](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fxichenhku\u002FAnyDoor\u002Ftree\u002Fmain)\n\n**注意：** 我们包含了 Adam 优化器的所有参数，因此检查点文件较大。您可以只保留“state_dict”以大幅减小文件大小。\n\n\n下载 DINOv2 检查点，并修改 `\u002Fconfigs\u002Fanydoor.yaml` 中的路径（第 83 行）：\n* URL：https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fdinov2?tab=readme-ov-file\n\n如果您想从头开始训练，请下载 Stable Diffusion V2.1：\n* URL：https:\u002F\u002Fhuggingface.co\u002Fstabilityai\u002Fstable-diffusion-2-1\u002Ftree\u002Fmain\n\n\n## 推理\n我们在 `run_inference.py` 中提供了推理代码（从第 222 行开始），用于单张图像推理以及数据集推理（VITON-HD 测试）。您需要修改数据路径并运行以下代码。生成的结果分别保存在 `examples\u002FTestDreamBooth\u002FGEN`（单张图像）和 `VITONGEN`（VITON-HD 测试）中。\n\n```bash\npython run_inference.py\n```\n在 VITON 测试中的推理结果将类似于 [服装、真实标签、生成结果]。\n\n*请注意，AnyDoor 并未针对试穿任务进行特定设计或调优。我们认为添加骨骼信息或变形后的服装，并在试穿数据上进行调优，将有助于提升效果。*\n  \u003Ctable align=\"center\">\n    \u003Ctr>\n    \u003Ctd>\n      \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fali-vilab_AnyDoor_readme_e80a97d6b3a1.png\">\n    \u003C\u002Ftd>\n    \u003C\u002Ftr>\n  \u003C\u002Ftable>\n\n\n我们用于 DreamBooth 和 COCOEE 的评估数据可在 Google Drive 上下载：\n* URL：[待发布]\n\n\n\n\n\n## Gradio 演示\n目前，我们支持本地 Gradio 演示。要启动演示，您需要先修改 `\u002Fconfigs\u002Fdemo.yaml` 中的预训练模型路径，以及 `\u002Fconfigs\u002Fanydoor.yaml` 中的 DINOv2 路径（第 83 行）。\n\n之后，运行脚本：\n```bash\npython run_gradio_demo.py\n```\nGradio 演示界面如下所示：\n\n* 📢 此版本要求用户标注目标对象的掩码，过于粗糙的掩码会影响生成质量。我们计划在演示中加入掩码细化模块或交互式分割模块。\n\n* 📢 我们提供了一个分割模块来细化用户标注的参考掩码。您可以通过在 `\u002Fconfigs\u002Fdemo.yaml` 中设置 `use_interactive_seg: False` 来禁用该功能。\n\n\u003Ctable align=\"center\">\n  \u003Ctr>\n  \u003Ctd>\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fali-vilab_AnyDoor_readme_3a6fd51ab714.png\">\n  \u003C\u002Ftd>\n  \u003C\u002Ftr>\n\u003C\u002Ftable>\n\n## 训练\n\n### 准备数据集\n* 下载 `\u002Fconfigs\u002Fdatasets.yaml` 中列出的数据集，并修改相应的路径。\n* 您可以根据 `.\u002Fdatasets` 中的文件格式准备自己的数据集。\n* 如果使用 UVO 数据集，您需要按照 `.\u002Fdatasets\u002FPreprocess\u002Fuvo_process.py` 处理 JSON 文件。\n* 您可以参考 `run_dataset_debug.py` 来验证数据是否正确。\n\n\n### 准备初始权重\n* 如果您想从零开始训练，可以通过运行以下命令将下载的 SD 权重转换为控制副本：\n```bash\nsh .\u002Fscripts\u002Fconvert_weight.sh  \n```\n### 开始训练\n* 根据您的训练资源，在 `run_train_anydoor.py` 第 26–34 行修改训练超参数。我们验证过，使用 2 张 A100 显卡并设置批量累积=1，经过 30 万次迭代即可获得满意的效果。\n\n\n* 通过执行以下命令开始训练：\n```bash\nsh .\u002Fscripts\u002Ftrain.sh  \n```\n\n## 🔥 社区贡献\n@bdsqlsz\n\n* AnyDoor for windows：https:\u002F\u002Fgithub.com\u002Fsdbds\u002FAnyDoor-for-windows\n* 剪枝模型：https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002Fbdsqlsz\u002FAnyDoor-Pruned\u002Fsummary\n\n## 致谢\n本项目基于 [ControlNet](https:\u002F\u002Fgithub.com\u002Flllyasviel\u002FControlNet) 的代码库开发。我们非常感谢这项杰出的工作！\n\n\n## 引用\n如果您发现本代码库对您的研究有所帮助，请使用以下引用。\n```BibTeX\n@article{chen2023anydoor,\n  title={Anydoor: Zero-shot object-level image customization},\n  author={Chen, Xi and Huang, Lianghua and Liu, Yu and Shen, Yujun and Zhao, Deli and Zhao, Hengshuang},\n  journal={arXiv preprint arXiv:2307.09481},\n  year={2023}\n}\n```","# AnyDoor 快速上手指南\n\nAnyDoor 是一个零样本（Zero-shot）对象级图像定制工具，能够将参考图中的特定物体无缝融合到目标场景中，保持物体的细节和身份特征。\n\n## 环境准备\n\n*   **系统要求**：Linux 系统（推荐），配备 NVIDIA GPU（建议显存 16GB 以上以进行训练或高质量推理）。\n*   **前置依赖**：\n    *   Python 3.8+\n    *   Conda 或 Pip\n    *   Git\n\n## 安装步骤\n\n### 1. 创建虚拟环境\n推荐使用 Conda 进行环境管理：\n```bash\nconda env create -f environment.yaml\nconda activate anydoor\n```\n或者使用 Pip：\n```bash\npip install -r requirements.txt\n```\n\n### 2. 安装额外依赖（仅训练需要）\n如果您计划从头开始训练模型，需额外安装以下库。**注意：此处已优先采用国内镜像源加速安装：**\n```bash\npip install git+https:\u002F\u002Fgithub.com\u002Fcocodataset\u002Fpanopticapi.git\n\npip install pycocotools -i https:\u002F\u002Fpypi.douban.com\u002Fsimple\n\npip install lvis\n```\n\n### 3. 下载预训练模型\n请从以下任一地址下载权重文件：\n*   **ModelScope (魔搭社区 - 推荐国内用户)**: [下载链接](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002Fdamo\u002FAnyDoor\u002Ffiles)\n*   **HuggingFace**: [下载链接](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002Fxichenhku\u002FAnyDoor\u002Ftree\u002Fmain)\n\n> **提示**：下载的 checkpoint 包含优化器参数，体积较大。若仅用于推理，可只保留 `state_dict` 部分以减小体积。\n\n此外，还需下载以下基础模型并配置路径：\n*   **DINOv2**: [下载地址](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fdinov2)，下载后修改 `\u002Fconfigs\u002Fanydoor.yaml` 第 83 行的路径。\n*   **Stable Diffusion V2.1** (仅训练需要): [下载地址](https:\u002F\u002Fhuggingface.co\u002Fstabilityai\u002Fstable-diffusion-2-1)。\n\n## 基本使用\n\n### 方式一：运行本地 Gradio 演示（推荐体验）\n这是最直观的交互方式，允许上传参考图和目标图进行生成。\n\n1.  **配置文件修改**：\n    *   编辑 `\u002Fconfigs\u002Fdemo.yaml`，填入预训练模型的路径。\n    *   编辑 `\u002Fconfigs\u002Fanydoor.yaml`，填入 DINOv2 模型的路径（第 83 行）。\n    *   *可选*：若需禁用交互式分割模块，可在 `\u002Fconfigs\u002Fdemo.yaml` 中设置 `use_interactive_seg: False`。\n\n2.  **启动服务**：\n    ```bash\n    python run_gradio_demo.py\n    ```\n\n3.  **使用说明**：\n    *   在网页界面上传参考物体图片和目标场景图片。\n    *   **注意**：当前版本需要用户手动标注目标物体的掩码（Mask）。掩码过于粗糙会影响生成质量，建议使用精细的分割结果。\n\n### 方式二：命令行推理\n适用于批量处理或集成到工作流中。\n\n1.  **修改配置**：\n    打开 `run_inference.py`，定位到第 222 行之后，修改数据输入路径。\n\n2.  **执行推理**：\n    ```bash\n    python run_inference.py\n    ```\n\n3.  **结果查看**：\n    *   单张图片生成结果位于：`examples\u002FTestDreamBooth\u002FGEN`\n    *   VITON-HD 测试集结果位于：`VITONGEN`\n\n> **小贴士**：AnyDoor 本身未针对虚拟试衣（Try-on）做专门调优。若用于试衣任务，建议结合骨架信息或衣物变形技术，并在试衣数据上进行微调以获得更佳效果。","一位独立游戏开发者需要为角色设计多套不同风格的装备，但缺乏专业的 3D 建模师和大量手绘时间。\n\n### 没有 AnyDoor 时\n- **重绘成本极高**：每次更换角色身上的背包或武器，都需要重新绘制整张立绘，或花费数小时在 Photoshop 中手动抠图、修补背景。\n- **风格难以统一**：手动合成的新装备往往光影、透视与原画不一致，导致角色看起来像生硬的“贴图”，破坏美术整体感。\n- **零样本能力缺失**：若想尝试一张从未训练过的参考图（如网上找到的概念图），传统 DreamBooth 等方法必须重新收集数据并微调模型，流程繁琐且耗时。\n- **细节丢失严重**：简单的图像拼接无法保留原装备复杂的纹理细节（如皮革纹路、金属光泽），最终效果廉价且失真。\n\n### 使用 AnyDoor 后\n- **一键物体替换**：只需提供一张目标装备的参考图和角色原图，AnyDoor 即可在零样本（Zero-shot）模式下，自动将新装备完美融合到角色身上。\n- **光影自然融合**：工具自动分析场景光照与透视关系，生成的装备阴影、高光与原画环境无缝衔接，仿佛原本就绘制在一起。\n- **即时创意验证**：开发者可以随时导入任意网络素材进行尝试，无需任何额外训练，瞬间看到不同装备搭配的实际效果，极大加速迭代。\n- **高保真细节还原**：基于强大的对象级定制能力，装备的微小纹理和结构特征被完整保留，输出质量达到商用级标准。\n\nAnyDoor 将原本需要数天的美术资产制作周期缩短至几分钟，让单人开发者也能轻松实现电影级的角色换装效果。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fali-vilab_AnyDoor_94344414.png","ali-vilab","Alibaba TongYi Vision Intelligence Lab","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fali-vilab_c2d93ee0.png",null,"https:\u002F\u002Fgithub.com\u002Fali-vilab",[79,83],{"name":80,"color":81,"percentage":82},"Python","#3572A5",99.9,{"name":84,"color":85,"percentage":86},"Shell","#89e051",0.1,4223,373,"2026-04-09T21:08:16","MIT","Linux, Windows (通过社区贡献版本支持)","必需 NVIDIA GPU。训练建议配置：2x A100；推理具体显存未说明，但基于 Stable Diffusion V2.1 和 DINOv2，建议 16GB+ 以获得最佳性能。CUDA 版本未在文中明确指定，需匹配 PyTorch 版本。","未说明 (建议 32GB+ 以应对大型模型加载和数据预处理)",{"notes":95,"python":96,"dependencies":97},"1. 推荐使用 conda 创建环境 (environment.yaml) 或 pip 安装依赖。\n2. 必须手动下载并配置三个主要模型权重：AnyDoor 检查点、DINOv2 检查点、Stable Diffusion V2.1 (若从头训练)。\n3. 需在配置文件中修改模型路径 (configs\u002Fanydoor.yaml 和 configs\u002Fdemo.yaml)。\n4. 训练验证环境为 2 张 A100 GPU，批次累积设为 1，迭代 30 万次。\n5. Windows 用户可使用社区提供的专用版本 (AnyDoor-for-windows)。","未说明 (通常此类项目需要 Python 3.8 或 3.9，具体取决于 environment.yaml)",[98,99,100,101,102,103,104,105,106],"torch","transformers","diffusers (隐含，基于 SD V2.1)","gradio","panopticapi","pycocotools","lvis-api","opencv-python (隐含)","accelerate (隐含)",[15],[109,110,111,112],"image-composition","image-customization","image-generation","image-editing","2026-03-27T02:49:30.150509","2026-04-12T20:14:49.471627",[116,121,126,131,136,141,146],{"id":117,"question_zh":118,"answer_zh":119,"source_url":120},30958,"AnyDoor 的代码何时发布？","代码已经发布。此前由于 CVPR 截止日期推迟，团队忙于准备，预计在 12 月发布，目前用户可以直接访问仓库获取代码。","https:\u002F\u002Fgithub.com\u002Fali-vilab\u002FAnyDoor\u002Fissues\u002F1",{"id":122,"question_zh":123,"answer_zh":124,"source_url":125},30959,"应该下载哪个 DINOv2 检查点（checkpoint）？加载时出现缺失键（missing keys）错误怎么办？","如果遇到状态字典加载错误（如缺少 'betas', 'alphas_cumprod' 等键），通常是因为配置文件中的路径设置错误。请仔细检查配置文件（configs）中指定的模型路径是否正确。如果确认路径无误仍报错，请确保使用的是与项目兼容的特定 DINOv2 预训练权重版本。","https:\u002F\u002Fgithub.com\u002Fali-vilab\u002FAnyDoor\u002Fissues\u002F16",{"id":127,"question_zh":128,"answer_zh":129,"source_url":130},30960,"模型如何实现多主体组合（multi-subject composition）或物体移动\u002F交换？","团队探索了多种方法。虽然可以通过约束交叉注意力（cross-attention）在对应框区域来尝试“单次通过”生成所有物体，但这在处理极小框或极端长宽比场景时效果不佳。实际采用的解决方案是“放大策略”（Zoom-in strategy）：对每个检测框单独使用放大策略处理，并将不重叠的框作为一个批次进行“伪单次通过”（pseudo-one-pass）生成，以保证细节质量。","https:\u002F\u002Fgithub.com\u002Fali-vilab\u002FAnyDoor\u002Fissues\u002F2",{"id":132,"question_zh":133,"answer_zh":134,"source_url":135},30961,"虚拟试穿（virtual try-on）任务的数据处理和输入格式是怎样的？","关于数据生产者、人体框获取及网络输入的具体细节，官方建议直接参考已发布的代码实现。代码中包含了训练和测试时如何处理人物框、输入是纯人像还是带灰色掩码的人像等具体逻辑。此外，训练虚拟试穿模型时，可能需要匹配 `run_train_anydoor.py` 中出现的所有数据集以达到最佳性能。","https:\u002F\u002Fgithub.com\u002Fali-vilab\u002FAnyDoor\u002Fissues\u002F9",{"id":137,"question_zh":138,"answer_zh":139,"source_url":140},30962,"推理生成的图像中出现严重的方形伪影（artifacts）该如何解决？","新生成的修复区域与原始像素存在细微差异是常见问题。若出现明显的方形伪影，可以尝试移除代码中的“裁剪并粘贴回”（crop and paste back）操作算子。此外，使用更好的 VAE 模型或提高推理分辨率也可能有助于改善视觉质量。","https:\u002F\u002Fgithub.com\u002Fali-vilab\u002FAnyDoor\u002Fissues\u002F74",{"id":142,"question_zh":143,"answer_zh":144,"source_url":145},30963,"为什么 Hugging Face 演示版的虚拟试穿效果比本地推理代码更好？","模型权重是相同的。效果差异主要源于掩码（mask）的处理方式：本地验证代码通常使用真值掩码（GT masks）提取目标区域（例如背心），这可能导致掩码形状不适合其他衣物（如 T 恤）；而 Hugging Face 演示版允许用户手动绘制适合当前衣物的掩码，从而获得更好的形状控制效果。若要复现演示版效果，需参考其代码中关于掩码绘制和形状控制的逻辑（见 app.py 相关片段）。","https:\u002F\u002Fgithub.com\u002Fali-vilab\u002FAnyDoor\u002Fissues\u002F66",{"id":147,"question_zh":148,"answer_zh":149,"source_url":150},30964,"训练数据集会发布吗？如何优化数据集加载速度慢的问题？","当前版本仅使用开源数据集。若需复现论文性能，需匹配 `run_train_anydoor.py` 中列出的所有数据集。针对加载慢的问题（CPU 单核占用），这是因为视频帧的串行采样导致的。建议用户对数据集进行一次性的并行预处理，然后在训练时仅加载预处理后的数据，以避免每次训练都经历漫长的数据加载过程。","https:\u002F\u002Fgithub.com\u002Fali-vilab\u002FAnyDoor\u002Fissues\u002F4",[]]