[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-Fantasy-AMAP--fantasy-portrait":3,"tool-Fantasy-AMAP--fantasy-portrait":64},[4,17,26,40,48,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,2,"2026-04-03T11:11:01",[13,14,15],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":23,"last_commit_at":32,"category_tags":33,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,34,35,36,15,37,38,13,39],"数据工具","视频","插件","其他","语言模型","音频",{"id":41,"name":42,"github_repo":43,"description_zh":44,"stars":45,"difficulty_score":10,"last_commit_at":46,"category_tags":47,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,38,37],{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":10,"last_commit_at":54,"category_tags":55,"status":16},519,"PaddleOCR","PaddlePaddle\u002FPaddleOCR","PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来，转换成计算机可读取的结构化数据，让机器真正“看懂”图文内容。\n\n面对海量纸质或电子文档，PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域，它扮演着连接图像与大型语言模型（LLM）的桥梁角色，能将视觉信息直接转化为文本输入，助力智能问答、文档分析等应用场景落地。\n\nPaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显：不仅支持全球 100 多种语言的识别，还能在 Windows、Linux、macOS 等多个系统上运行，并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目，PaddleOCR 既能满足快速集成的需求，也能支撑前沿的视觉语言研究，是处理文字识别任务的理想选择。",74913,"2026-04-05T10:44:17",[38,14,13,37],{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":23,"last_commit_at":62,"category_tags":63,"status":16},2471,"tesseract","tesseract-ocr\u002Ftesseract","Tesseract 是一款历史悠久且备受推崇的开源光学字符识别（OCR）引擎，最初由惠普实验室开发，后由 Google 维护，目前由全球社区共同贡献。它的核心功能是将图片中的文字转化为可编辑、可搜索的文本数据，有效解决了从扫描件、照片或 PDF 文档中提取文字信息的难题，是数字化归档和信息自动化的重要基础工具。\n\n在技术层面，Tesseract 展现了强大的适应能力。从版本 4 开始，它引入了基于长短期记忆网络（LSTM）的神经网络 OCR 引擎，显著提升了行识别的准确率；同时，为了兼顾旧有需求，它依然支持传统的字符模式识别引擎。Tesseract 原生支持 UTF-8 编码，开箱即用即可识别超过 100 种语言，并兼容 PNG、JPEG、TIFF 等多种常见图像格式。输出方面，它灵活支持纯文本、hOCR、PDF、TSV 等多种格式，方便后续数据处理。\n\nTesseract 主要面向开发者、研究人员以及需要构建文档处理流程的企业用户。由于它本身是一个命令行工具和库（libtesseract），不包含图形用户界面（GUI），因此最适合具备一定编程能力的技术人员集成到自动化脚本或应用程序中",73286,"2026-04-03T01:56:45",[13,14],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":80,"owner_twitter":79,"owner_website":79,"owner_url":81,"languages":82,"stars":91,"forks":92,"last_commit_at":93,"license":94,"difficulty_score":10,"env_os":95,"env_gpu":96,"env_ram":97,"env_deps":98,"category_tags":105,"github_topics":106,"view_count":110,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":111,"updated_at":112,"faqs":113,"releases":129},1229,"Fantasy-AMAP\u002Ffantasy-portrait","fantasy-portrait","FantasyPortrait: Enhancing Multi-Character Portrait Animation with Expression-Augmented Diffusion Transformers","fantasy-portrait 是一个开源AI工具，专注于让多角色肖像动画更生动自然。它通过表达增强的扩散Transformer技术，解决了传统动画工具在多人场景中表情不协调、动作生硬的问题——比如多人同时说话时表情不同步，或单人动画缺乏丰富情感。用户只需提供输入图片和驱动视频，就能快速生成流畅的动画效果，支持单人、双人甚至多人互动场景。\n\n这个工具特别适合AI开发者和研究人员使用，因为它提供了完整的预训练模型（如FantasyPortrait）、首个多肖像表情视频数据集（Multi-Expr Dataset），以及开箱即用的脚本。技术亮点在于它将表情表达融入扩散模型，让动画更贴合真实情感，同时兼容ComfyUI等主流工作流。无需复杂配置，下载模型后运行几行命令即可体验，让创作多角色动画变得简单高效。无论是探索AI动画新应用，还是快速生成演示内容，fantasy-portrait 都能轻松上手。","[中文阅读](.\u002FREADME_zh.md)\n# FantasyPortrait: Enhancing Multi-Character Portrait Animation with Expression-Augmented Diffusion Transformers\n\n[![Home Page](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FProject-FantasyPortrait-blue.svg)](https:\u002F\u002Ffantasy-amap.github.io\u002Ffantasy-portrait\u002F)\n[![arXiv](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FArxiv-2507.12956-b31b1b.svg?logo=arXiv)](https:\u002F\u002Farxiv.org\u002Fabs\u002F2507.12956)\n[![hf_dataset](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗%20Dataset-FantasyPortrait-yellow.svg)](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Facvlab\u002FFantasyPortrait-Multi-Expr)\n[![hf_model](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗%20Model-FantasyPortrait-green.svg)](https:\u002F\u002Fhuggingface.co\u002Facvlab\u002FFantasyPortrait)\n[![hf_paper](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗-FantasyPortrait-red.svg)](https:\u002F\u002Fhuggingface.co\u002Fpapers\u002F2507.12956)\n[![ms_model](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModelScope-Model-9cf.svg)](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002Famap_cvlab\u002FFantasyPortrait)\n[![ms_dataset](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModelScope-Dataset-ff69b4.svg)](https:\u002F\u002Fwww.modelscope.cn\u002Fdatasets\u002Famap_cvlab\u002FFantasyPortrait-Multi-Expr)\n\n## 🔥 Latest News!!\n* August 14, 2025: Our work is merged to [ComfyUI-Wan](https:\u002F\u002Fgithub.com\u002Fkijai\u002FComfyUI-WanVideoWrapper\u002Ftree\u002Fmain\u002Ffantasyportrait) ! Thank [kijai](https:\u002F\u002Fgithub.com\u002Fkijai) for the update 👏!\n* August 12, 2025: We released the inference code, model weights and datasets.\n\n## Demo\nFor more interesting results, please visit our [website](https:\u002F\u002Ffantasy-amap.github.io\u002Ffantasy-portrait\u002F).\n\n| ![单人示例](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_3e8926c659e3.gif) | ![对比](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_e867c24b7bd0.gif) |\n| :---: | :---: |\n| ![动物](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_3e00d6d35e06.gif) | ![双人1](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_b9b81e80a20f.gif) |\n| ![双人2](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_80e05f90da4a.gif) | ![三人](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_4043a95b33f7.gif) |\n\n\n## Quickstart\n### 🛠️Installation\n\nClone the repo:\n\n```\ngit clone https:\u002F\u002Fgithub.com\u002FFantasy-AMAP\u002Ffantasy-portrait.git\ncd fantasy-portrait\n```\n\nInstall dependencies:\n```\napt-get install ffmpeg\n# Ensure torch >= 2.0.0\npip install -r requirements.txt\n# Note: flash attention must be installed\npip install flash_attn\n```\n\n### 📦Multi-Expr Dataset\nWe make public the first multi-portrait facial expression video dataset **Multi-Expr Dataset**, Please download it via the [ModelScope](https:\u002F\u002Fwww.modelscope.cn\u002Fdatasets\u002Famap_cvlab\u002FFantasyPortrait-Multi-Expr) or [Huggingface](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Facvlab\u002FFantasyPortrait-Multi-Expr).\n\n### 🧱Model Download\n| Models        |                       Download Link                                           |    Notes                      |\n| --------------|-------------------------------------------------------------------------------|-------------------------------|\n| Wan2.1-I2V-14B-720P  |      🤗 [Huggingface](https:\u002F\u002Fhuggingface.co\u002FWan-AI\u002FWan2.1-I2V-14B-720P)    🤖 [ModelScope](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FWan-AI\u002FWan2.1-I2V-14B-720P)     | Base model\n| FantasyPortrait      |      🤗 [Huggingface](https:\u002F\u002Fhuggingface.co\u002Facvlab\u002FFantasyPortrait\u002F)     🤖 [ModelScope](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002Famap_cvlab\u002FFantasyPortrait\u002F)         | Our emo condition weights\n\nDownload models using huggingface-cli:\n``` sh\npip install \"huggingface_hub[cli]\"\nhuggingface-cli download Wan-AI\u002FWan2.1-I2V-14B-720P --local-dir .\u002Fmodels\u002FWan2.1-I2V-14B-720P\nhuggingface-cli download acvlab\u002FFantasyPortrait --local-dir .\u002Fmodels\n```\n\nDownload models using modelscope-cli:\n``` sh\npip install modelscope\nmodelscope download Wan-AI\u002FWan2.1-I2V-14B-720P --local_dir .\u002Fmodels\u002FWan2.1-I2V-14B-720P\nmodelscope download amap_cvlab\u002FFantasyPortrait  --local_dir .\u002Fmodels\n```\n\n### 🔑 Single-Portrait Inference\n``` sh\nbash infer_single.sh\n```\n\n### 🔑 Multi-Portrait Inference\nIf you use input image and drive videos with multiple people, you can run as follows:\n``` sh\nbash infer_multi.sh\n```\nIf you use input image with multiple people and different multiple single-human driven videos, you can run as follows:\n```sh\nbash infer_multi_diff.sh\n```\n\n### 📦Speed and VRAM Usage\nWe present a detailed table here. The model is tested on a single A100.\n\n|`torch_dtype`|`num_persistent_param_in_dit`|Speed|Required VRAM|\n|-|-|-|-|\n|torch.bfloat16|None (unlimited)|15.5s\u002Fit|40G|\n|torch.bfloat16|7*10**9 (7B)|32.8s\u002Fit|20G|\n|torch.bfloat16|0|42.6s\u002Fit|5G|\n\n\n\n## 🧩 Community Works\nWe ❤️ contributions from the open-source community! If your work has improved FantasyPortrait, please inform us.\nOr you can directly e-mail [frank.jf@alibaba-inc.com](mailto:\u002F\u002Ffrank.jf@alibaba-inc.com). We are happy to reference your project for everyone's convenience.\n\n## 🔗Citation\nIf you find this repository useful, please consider giving a star ⭐ and citation\n```\n@article{wang2025fantasyportrait,\n  title={FantasyPortrait: Enhancing Multi-Character Portrait Animation with Expression-Augmented Diffusion Transformers},\n  author={Wang, Qiang and Wang, Mengchao and Jiang, Fan and Fan, Yaqi and Qi, Yonggang and Xu, Mu},\n  journal={arXiv preprint arXiv:2507.12956},\n  year={2025}\n}\n```\n\n## Acknowledgments\nThanks to [Wan2.1](https:\u002F\u002Fgithub.com\u002FWan-Video\u002FWan2.1), [PD-FGC](https:\u002F\u002Fgithub.com\u002FDorniwang\u002FPD-FGC-inference) and [DiffSynth-Studio](https:\u002F\u002Fgithub.com\u002Fmodelscope\u002FDiffSynth-Studio) for open-sourcing their models and code, which provided valuable references and support for this project. Their contributions to the open-source community are truly appreciated.\n\n## Star History\n\n[![Star History Chart](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_66dd147f7cae.png)](https:\u002F\u002Fwww.star-history.com\u002F#Fantasy-AMAP\u002Ffantasy-portrait&Date)\n\n","[中文阅读](.\u002FREADME_zh.md)\n# FantasyPortrait：利用表情增强的扩散Transformer提升多角色人像动画效果\n\n[![首页](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FProject-FantasyPortrait-blue.svg)](https:\u002F\u002Ffantasy-amap.github.io\u002Ffantasy-portrait\u002F)\n[![arXiv](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FArxiv-2507.12956-b31b1b.svg?logo=arXiv)](https:\u002F\u002Farxiv.org\u002Fabs\u002F2507.12956)\n[![hf_dataset](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗%20Dataset-FantasyPortrait-yellow.svg)](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Facvlab\u002FFantasyPortrait-Multi-Expr)\n[![hf_model](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗%20Model-FantasyPortrait-green.svg)](https:\u002F\u002Fhuggingface.co\u002Facvlab\u002FFantasyPortrait)\n[![hf_paper](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F🤗-FantasyPortrait-red.svg)](https:\u002F\u002Fhuggingface.co\u002Fpapers\u002F2507.12956)\n[![ms_model](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModelScope-Model-9cf.svg)](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002Famap_cvlab\u002FFantasyPortrait)\n[![ms_dataset](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FModelScope-Dataset-ff69b4.svg)](https:\u002F\u002Fwww.modelscope.cn\u002Fdatasets\u002Famap_cvlab\u002FFantasyPortrait-Multi-Expr)\n\n## 🔥 最新消息！！\n* 2025年8月14日：我们的工作已合并至[ComfyUI-Wan](https:\u002F\u002Fgithub.com\u002Fkijai\u002FComfyUI-WanVideoWrapper\u002Ftree\u002Fmain\u002Ffantasyportrait)！感谢[kijai](https:\u002F\u002Fgithub.com\u002Fkijai)的更新👏！\n* 2025年8月12日：我们发布了推理代码、模型权重和数据集。\n\n## 演示\n如需查看更多精彩结果，请访问我们的[网站](https:\u002F\u002Ffantasy-amap.github.io\u002Ffantasy-portrait\u002F)。\n\n| ![单人示例](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_3e8926c659e3.gif) | ![对比](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_e867c24b7bd0.gif) |\n| :---: | :---: |\n| ![动物](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_3e00d6d35e06.gif) | ![双人1](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_b9b81e80a20f.gif) |\n| ![双人2](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_80e05f90da4a.gif) | ![三人](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_4043a95b33f7.gif) |\n\n\n## 快速入门\n### 🛠️安装\n\n克隆仓库：\n\n```\ngit clone https:\u002F\u002Fgithub.com\u002FFantasy-AMAP\u002Ffantasy-portrait.git\ncd fantasy-portrait\n```\n\n安装依赖：\n```\napt-get install ffmpeg\n# 确保torch >= 2.0.0\npip install -r requirements.txt\n# 注意：必须安装flash attention\npip install flash_attn\n```\n\n### 📦Multi-Expr数据集\n我们公开了首个多角色人脸表情视频数据集**Multi-Expr数据集**，请通过[ModelScope](https:\u002F\u002Fwww.modelscope.cn\u002Fdatasets\u002Famap_cvlab\u002FFantasyPortrait-Multi-Expr)或[Huggingface](https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Facvlab\u002FFantasyPortrait-Multi-Expr)下载。\n\n### 🧱模型下载\n| 模型        |                       下载链接                                           |    备注                      |\n| --------------|-------------------------------------------------------------------------------|-------------------------------|\n| Wan2.1-I2V-14B-720P  |      🤗 [Huggingface](https:\u002F\u002Fhuggingface.co\u002FWan-AI\u002FWan2.1-I2V-14B-720P)    🤖 [ModelScope](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FWan-AI\u002FWan2.1-I2V-14B-720P)     | 基础模型\n| FantasyPortrait      |      🤗 [Huggingface](https:\u002F\u002Fhuggingface.co\u002Facvlab\u002FFantasyPortrait\u002F)     🤖 [ModelScope](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002Famap_cvlab\u002FFantasyPortrait\u002F)         | 我们的表情条件权重\n\n使用huggingface-cli下载模型：\n``` sh\npip install \"huggingface_hub[cli]\"\nhuggingface-cli download Wan-AI\u002FWan2.1-I2V-14B-720P --local-dir .\u002Fmodels\u002FWan2.1-I2V-14B-720P\nhuggingface-cli download acvlab\u002FFantasyPortrait --local-dir .\u002Fmodels\n```\n\n使用modelscope-cli下载模型：\n``` sh\npip install modelscope\nmodelscope download Wan-AI\u002FWan2.1-I2V-14B-720P --local_dir .\u002Fmodels\u002FWan2.1-I2V-14B-720P\nmodelscope download amap_cvlab\u002FFantasyPortrait  --local_dir .\u002Fmodels\n```\n\n### 🔑 单人肖像推理\n``` sh\nbash infer_single.sh\n```\n\n### 🔑 多人肖像推理\n如果您使用输入图像并驱动包含多人的视频，可以按如下方式运行：\n``` sh\nbash infer_multi.sh\n```\n如果您使用包含多人的输入图像，并搭配不同的多个人物驱动视频，可以按如下方式运行：\n```sh\nbash infer_multi_diff.sh\n```\n\n### 📦速度与显存占用\n我们在此提供一张详细表格。该模型已在单张A100上进行测试。\n\n|`torch_dtype`|`num_persistent_param_in_dit`|速度|所需显存|\n|-|-|-|-|\n|torch.bfloat16|无（无限）|15.5s\u002F次|40G|\n|torch.bfloat16|7*10**9（7B）|32.8s\u002F次|20G|\n|torch.bfloat16|0|42.6s\u002F次|5G|\n\n\n\n## 🧩 社区作品\n我们❤️开源社区的贡献！如果您的作品对FantasyPortrait有所改进，请告知我们。\n或者您也可以直接发送邮件至[frank.jf@alibaba-inc.com](mailto:\u002F\u002Ffrank.jf@alibaba-inc.com)。我们很乐意引用您的项目，以方便大家参考。\n\n## 🔗引用\n如果您觉得本仓库有用，请考虑点个星⭐并注明出处\n```\n@article{wang2025fantasyportrait,\n  title={FantasyPortrait：利用表情增强的扩散Transformer提升多角色人像动画效果},\n  author={王强、王孟超、江帆、范雅琪、齐永刚、徐牧},\n  journal={arXiv预印本 arXiv:2507.12956},\n  year={2025}\n}\n```\n\n## 致谢\n感谢[Wan2.1](https:\u002F\u002Fgithub.com\u002FWan-Video\u002FWan2.1)、[PD-FGC](https:\u002F\u002Fgithub.com\u002FDorniwang\u002FPD-FGC-inference)和[DiffSynth-Studio](https:\u002F\u002Fgithub.com\u002Fmodelscope\u002FDiffSynth-Studio)开源其模型和代码，为本项目提供了宝贵的参考和支持。他们对开源社区的贡献令人由衷钦佩。\n\n## 星标历史\n\n[![星标历史图表](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_readme_66dd147f7cae.png)](https:\u002F\u002Fwww.star-history.com\u002F#Fantasy-AMAP\u002Ffantasy-portrait&Date)","# FantasyPortrait 快速上手指南\n\n## 环境准备\n- **系统要求**：Linux 系统（推荐 Ubuntu 20.04+）\n- **前置依赖**：\n  - 安装 `ffmpeg`：`sudo apt-get install ffmpeg`\n  - Python 3.8+ 和 PyTorch ≥ 2.0.0\n  - 安装 `flash_attn`（推荐使用国内镜像加速）：\n    ```bash\n    pip install flash_attn\n    ```\n\n## 安装步骤\n1. 克隆仓库：\n   ```bash\n   git clone https:\u002F\u002Fgithub.com\u002FFantasy-AMAP\u002Ffantasy-portrait.git\n   cd fantasy-portrait\n   ```\n2. 安装依赖（使用清华镜像加速）：\n   ```bash\n   sudo apt-get install ffmpeg\n   pip install -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple -r requirements.txt\n   pip install flash_attn\n   ```\n\n## 基本使用\n运行最简单的单人肖像动画生成示例：\n```bash\nbash infer_single.sh\n```\n执行后将自动生成动画视频。模型默认使用预设输入，无需额外配置即可快速体验效果。","某独立动画工作室正在开发一部儿童互动短片，需为5个主要角色创建自然流畅的表情动画，以增强角色情感表达和观众代入感。\n\n### 没有 fantasy-portrait 时\n- 手动逐帧调整每个角色表情耗时巨大，平均单角色需20小时，总耗时超100小时，严重拖慢项目进度。\n- 多角色表情同步困难，角色对话时表情错位（如一人微笑一人皱眉），需反复修改并依赖后期修复。\n- 依赖商业软件（如Adobe Character Animator）成本高昂且学习曲线陡峭，团队设备仅支持基础功能。\n- 生成动画表情僵硬生硬，细微变化（如从惊讶到开心的过渡）无法自然呈现，影响故事感染力。\n- 需要高端GPU工作站（如RTX 4090），团队仅有的两台设备频繁冲突，导致项目延期两周。\n\n### 使用 fantasy-portrait 后\n- 通过输入角色肖像图和驱动视频，一键生成多角色表情动画，总耗时压缩至10小时，效率提升10倍。\n- 自动同步角色表情逻辑，确保互动场景（如角色对话）表情协调一致，避免错位问题。\n- 直接集成到现有工作流（如ComfyUI），无需额外软件，团队普通RTX 3060设备即可流畅运行。\n- 精准捕捉表情微变化（如眨眼、嘴角上扬的渐进过渡），动画更贴近真实人类情感表达。\n- 优化VRAM使用，单卡运行无压力，团队设备利用率提升50%，项目提前完成。\n\nfantasy-portrait将多角色表情动画制作从“手工苦力活”升级为“智能高效流程”，让动画师专注创意而非技术瓶颈。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FFantasy-AMAP_fantasy-portrait_3e8926c6.gif","Fantasy-AMAP","Fantasy AIGC Family","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FFantasy-AMAP_c13bf928.png","Fantasy AIGC Family, AMAP, Alibaba Group",null,"frank.jf@alibaba-inc.com","https:\u002F\u002Fgithub.com\u002FFantasy-AMAP",[83,87],{"name":84,"color":85,"percentage":86},"Python","#3572A5",99.5,{"name":88,"color":89,"percentage":90},"Shell","#89e051",0.5,502,35,"2026-03-18T09:42:25","Apache-2.0","Linux","需要 NVIDIA GPU，显存 5GB+，CUDA 未说明","未说明",{"notes":99,"python":97,"dependencies":100},"需安装 ffmpeg；首次运行需下载约 5GB 模型文件；需使用 Linux 系统",[101,102,103,104],"torch>=2.0.0","flash_attn","transformers","accelerate",[14,35],[107,108,109],"diffusion-models","portrait-animation","video-generation",4,"2026-03-27T02:49:30.150509","2026-04-06T06:45:58.187584",[114,119,124],{"id":115,"question_zh":116,"answer_zh":117,"source_url":118},5583,"人脸对齐在推理过程中是否需要将驱动图和人脸图对齐？","人脸对齐仅用于让模型聚焦面部区域，无需裁剪至相同尺寸。推理过程中，由于采用隐式特征驱动方法，无需将驱动图像与人脸图像进行对齐。","https:\u002F\u002Fgithub.com\u002FFantasy-AMAP\u002Ffantasy-portrait\u002Fissues\u002F4",{"id":120,"question_zh":121,"answer_zh":122,"source_url":123},5584,"论文中提到的CogVLM2提取的提示词数据在哪里获取？","提示词数据已更新至Hugging Face数据集：https:\u002F\u002Fhuggingface.co\u002Fdatasets\u002Facvlab\u002FFantasyPortrait-Multi-Expr\u002Ftree\u002Fmain","https:\u002F\u002Fgithub.com\u002FFantasy-AMAP\u002Ffantasy-portrait\u002Fissues\u002F10",{"id":125,"question_zh":126,"answer_zh":127,"source_url":128},5585,"是否计划升级到Wan2.2模型？","是的，团队正在开展Wan2.2相关实验并持续迭代模型，欢迎关注后续进展。","https:\u002F\u002Fgithub.com\u002FFantasy-AMAP\u002Ffantasy-portrait\u002Fissues\u002F6",[]]