[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-TianxingWu--FreeInit":3,"tool-TianxingWu--FreeInit":64},[4,18,26,35,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107888,2,"2026-04-06T11:32:50",[14,15,13],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":10,"last_commit_at":41,"category_tags":42,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[43,15,13,14],"语言模型",{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":10,"last_commit_at":50,"category_tags":51,"status":17},4292,"Deep-Live-Cam","hacksider\u002FDeep-Live-Cam","Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具，用户仅需一张静态照片，即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点，让高质量的数字内容创作变得触手可及。\n\n这款工具不仅适合开发者和技术研究人员探索算法边界，更因其极简的操作逻辑（仅需三步：选脸、选摄像头、启动），广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换，还是制作趣味短视频和直播互动，Deep-Live-Cam 都能提供流畅的支持。\n\n其核心技术亮点在于强大的实时处理能力，支持口型遮罩（Mouth Mask）以保留使用者原始的嘴部动作，确保表情自然精准；同时具备“人脸映射”功能，可同时对画面中的多个主体应用不同面孔。此外，项目内置了严格的内容安全过滤机制，自动拦截涉及裸露、暴力等不当素材，并倡导用户在获得授权及明确标注的前提下合规使用，体现了技术发展与伦理责任的平衡。",88924,"2026-04-06T03:28:53",[14,15,13,52],"视频",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",85013,"2026-04-06T11:09:19",[15,16,52,61,13,62,43,14,63],"插件","其他","音频",{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":77,"owner_avatar_url":78,"owner_bio":79,"owner_company":80,"owner_location":81,"owner_email":82,"owner_twitter":83,"owner_website":84,"owner_url":85,"languages":86,"stars":91,"forks":92,"last_commit_at":93,"license":94,"difficulty_score":95,"env_os":96,"env_gpu":97,"env_ram":96,"env_deps":98,"category_tags":110,"github_topics":111,"view_count":32,"oss_zip_url":83,"oss_zip_packed_at":83,"status":17,"created_at":116,"updated_at":117,"faqs":118,"releases":149},4667,"TianxingWu\u002FFreeInit","FreeInit","[ECCV 2024] FreeInit: Bridging Initialization Gap in Video Diffusion Models","FreeInit 是一款专为提升视频扩散模型生成质量而设计的开源技术，旨在解决生成视频中常见的画面闪烁和时间不一致问题。在传统的视频生成过程中，模型初始化阶段的噪声差异往往导致帧与帧之间出现断裂感，影响视觉流畅度。FreeInit 通过一种巧妙的“频率滤波噪声重初始化”策略，在不增加任何额外训练成本、也不引入新可学习参数的前提下，有效弥合了这一初始化差距。\n\n该方法的独特之处在于其“即插即用”的特性：它无需重新训练模型，仅需在推理阶段对现有流程进行微调，即可显著增强视频的时间连贯性。目前，FreeInit 已成功集成到 Diffusers 和 ComfyUI-AnimateDiff-Evolved 等主流框架中，并提供了基于 AnimateDiff 的完整代码示例，方便用户快速上手。\n\nFreeInit 非常适合 AI 研究人员、开发者以及希望优化视频生成效果的设计师使用。对于研究人员，它提供了一种高效改进时序一致性的新思路；对于开发者，其开放的代码结构和清晰的文档便于集成到各类视频扩散模型中；而对于普通创作者，借助已集成的平台（如 Hugging Face Demo），也能轻松体验到","FreeInit 是一款专为提升视频扩散模型生成质量而设计的开源技术，旨在解决生成视频中常见的画面闪烁和时间不一致问题。在传统的视频生成过程中，模型初始化阶段的噪声差异往往导致帧与帧之间出现断裂感，影响视觉流畅度。FreeInit 通过一种巧妙的“频率滤波噪声重初始化”策略，在不增加任何额外训练成本、也不引入新可学习参数的前提下，有效弥合了这一初始化差距。\n\n该方法的独特之处在于其“即插即用”的特性：它无需重新训练模型，仅需在推理阶段对现有流程进行微调，即可显著增强视频的时间连贯性。目前，FreeInit 已成功集成到 Diffusers 和 ComfyUI-AnimateDiff-Evolved 等主流框架中，并提供了基于 AnimateDiff 的完整代码示例，方便用户快速上手。\n\nFreeInit 非常适合 AI 研究人员、开发者以及希望优化视频生成效果的设计师使用。对于研究人员，它提供了一种高效改进时序一致性的新思路；对于开发者，其开放的代码结构和清晰的文档便于集成到各类视频扩散模型中；而对于普通创作者，借助已集成的平台（如 Hugging Face Demo），也能轻松体验到更流畅的视频生成效果。作为一项发表于 ECCV 2024 的成果，FreeInit 以简洁高效的方式推动了视频生成技术的实用化进程。","# FreeInit : Bridging Initialization Gap in Video Diffusion Models\n\n[![Paper](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FarXiv-Paper-b31b1b?logo=arxiv&logoColor=b31b1b)](https:\u002F\u002Farxiv.org\u002Fabs\u002F2312.07537)\n[![Project Page](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FProject-Website-5B7493?logo=googlechrome&logoColor=5B7493)](https:\u002F\u002Ftianxingwu.github.io\u002Fpages\u002FFreeInit\u002F)\n[![Video](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FYouTube-Video-red?logo=youtube&logoColor=red)](https:\u002F\u002Fyoutu.be\u002FlS5IYbAqriI)\n[![Hugging Face](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F%F0%9F%A4%97%20Demo-%20Hugging%20Face-ED7D31)](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FTianxingWu\u002FFreeInit)\n[![Visitor](https:\u002F\u002Fhits.seeyoufarm.com\u002Fapi\u002Fcount\u002Fincr\u002Fbadge.svg?url=https%3A%2F%2Fgithub.com%2FTianxingWu%2FFreeInit&count_bg=%23678F74&title_bg=%23555555&icon=&icon_color=%23E7E7E7&title=Visitors&edge_flat=false)](https:\u002F\u002Fhits.seeyoufarm.com)\n\n\n\u003Cdiv>\n    \u003Ch4 align=\"center\">\n        \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FTianxingWu_FreeInit_readme_af0280b153d6.gif\">\n    \u003C\u002Fh4>\n\u003C\u002Fdiv>\n\nThis repository contains the implementation of the following paper:\n> **FreeInit: Bridging Initialization Gap in Video Diffusion Models**\u003Cbr>\n> [Tianxing Wu](https:\u002F\u002Ftianxingwu.github.io\u002F), [Chenyang Si](https:\u002F\u002Fchenyangsi.github.io\u002F), [Yuming Jiang](https:\u002F\u002Fyumingj.github.io\u002F), [Ziqi Huang](https:\u002F\u002Fziqihuangg.github.io\u002F), [Ziwei Liu](https:\u002F\u002Fliuziwei7.github.io\u002F)\u003Cbr>\n\nFrom [MMLab@NTU](https:\u002F\u002Fwww.mmlab-ntu.com\u002F) affiliated with S-Lab, Nanyang Technological University\n\n\n\n## :open_book: Overview\n![overall_structure](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FTianxingWu_FreeInit_readme_e5b281adff4c.png)\n\nWe propose **FreeInit**, a concise yet effective method to improve temporal consistency of videos generated by diffusion models. FreeInit requires no additional training and introduces no learnable parameters, and can be easily incorporated into arbitrary video diffusion models at inference time.\n\n\n## :fire: Updates\n- [01\u002F2024] FreeInit has been integrated into [Diffusers](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Fdiffusers) and [ComfyUI-AnimateDiff-Evolved](https:\u002F\u002Fgithub.com\u002FKosinkadink\u002FComfyUI-AnimateDiff-Evolved). Big thanks to [@a-r-r-o-w](https:\u002F\u002Fgithub.com\u002Fa-r-r-o-w), [@DN6](https:\u002F\u002Fgithub.com\u002FDN6) and [@Kosinkadink](https:\u002F\u002Fgithub.com\u002FKosinkadink)!\n- [12\u002F2023] We released a demo on [Hugging Face🤗](https:\u002F\u002Fhuggingface.co\u002Fspaces)! Feel free to try it out: [[demo link]](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FTianxingWu\u002FFreeInit).\n- [12\u002F2023] [Arxiv paper](https:\u002F\u002Farxiv.org\u002Fabs\u002F2312.07537) available.\n- [12\u002F2023] Code released.\n- [12\u002F2023] [Project page](https:\u002F\u002Ftianxingwu.github.io\u002Fpages\u002FFreeInit\u002F) and [video](https:\u002F\u002Fyoutu.be\u002FlS5IYbAqriI) available.\n\n## :page_with_curl: Usage\nIn this repository, we use [AnimateDiff](https:\u002F\u002Fanimatediff.github.io\u002F) as an example to demonstrate how to integrate FreeInit into current text-to-video inference pipelines.\n\nIn [pipeline_animation.py](examples\u002FAnimateDiff\u002Fanimatediff\u002Fpipelines\u002Fpipeline_animation.py), we define a class `AnimationFreeInitPipeline` inherited from `AnimationPipeline`, showing how to modify the original pipeline.\n\nIn [freeinit_utils.py](examples\u002FAnimateDiff\u002Fanimatediff\u002Futils\u002Ffreeinit_utils.py), we provide frequency filtering code for Noise Reinitialization.\n\nAn example inference script is provided at [animate_with_freeinit.py](examples\u002FAnimateDiff\u002Fscripts\u002Fanimate_with_freeinit.py).\n\nPlease refer to the above scripts as a reference when integrating FreeInit into other video diffusion models.\n\n\n\n## :hammer: Quick Start\n\n### 1. Clone Repo\n\n```\ngit clone https:\u002F\u002Fgithub.com\u002FTianxingWu\u002FFreeInit.git\ncd FreeInit\ncd examples\u002FAnimateDiff\n```\n\n### 2. Prepare Environment\n\n```\nconda env create -f environment.yaml\nconda activate animatediff\n```\n\n### 3. Download Checkpoints\n\nPlease refer to the [official repo](https:\u002F\u002Fgithub.com\u002Fguoyww\u002FAnimateDiff) of AnimateDiff. The setup guide is listed [here](https:\u002F\u002Fgithub.com\u002Fguoyww\u002FAnimateDiff\u002Fblob\u002Fmain\u002F__assets__\u002Fdocs\u002Fanimatediff.md).\n\n\n### 4. Inference with FreeInit\nAfter downloading the base model, motion module and personalize T2I checkpoints, run the following command to generate animations with FreeInit. The generation results is then saved to `outputs` folder.\n```\npython -m scripts.animate_with_freeinit \\\n    --config \"configs\u002Fprompts\u002Ffreeinit_examples\u002FRealisticVision_v2.yaml\" \\\n    --num_iters 5 \\\n    --save_intermediate \\\n    --use_fp16\n```\nwhere `num_iters` is the number of freeinit iterations. We recommend to use 3-5 iterations for a balance between the quality and efficiency. For faster inference, the argument `use_fast_sampling` can be enabled to use the *Coarse-to-Fine Sampling* strategy, which may lead to inferior results.\n\nYou can change the text prompts in the config file. To tune the frequency filter parameters for better results, please change the `filter_params` settings in the config file. The `'butterworth'` filter with `n=4, d_s=d_t=0.25` is set as default. For base models with larger temporal inconsistencies, please consider using the `'guassian'` filter.\n\n\nMore `.yaml` files with different motion module \u002F personalize T2I settings are also provided for testing.\n\n### 🤗 Gradio Demo\n\nWe also provide a Gradio Demo to demonstrate our method with UI. Running the following command will launch the demo. Feel free to play around with the parameters to improve generation quality.\n\n```\npython app.py\n```\nAlternatively, you can try the online demo hosted on Hugging Face: [[demo link]](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FTianxingWu\u002FFreeInit) .\n\n## :framed_picture: Generation Results\n\nPlease refer to our [project page](https:\u002F\u002Ftianxingwu.github.io\u002Fpages\u002FFreeInit\u002F) for more visual comparisons.\n\n## :four_leaf_clover: Community Contributions\n\n- Integration to ComfyUI Extention: [ComfyUI-AnimateDiff-Evolved](https:\u002F\u002Fgithub.com\u002FKosinkadink\u002FComfyUI-AnimateDiff-Evolved) (by [@Kosinkadink](https:\u002F\u002Fgithub.com\u002FKosinkadink))\n- Integration to HuggingFace Diffusers: [Diffusers](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Fdiffusers) (by [@a-r-r-o-w](https:\u002F\u002Fgithub.com\u002Fa-r-r-o-w) and [@DN6](https:\u002F\u002Fgithub.com\u002FDN6))\n- Google Colab: [FreeInit-colab](https:\u002F\u002Fgithub.com\u002Fcamenduru\u002FFreeInit-colab) (by [@camenduru](https:\u002F\u002Fgithub.com\u002Fcamenduru))\n\n## :fountain_pen: Citation\n\n   If you find our repo useful for your research, please consider citing our paper:\n\n   ```bibtex\n   @article{wu2023freeinit,\n        title={FreeInit: Bridging Initialization Gap in Video Diffusion Models},\n        author={Wu, Tianxing and Si, Chenyang and Jiang, Yuming and Huang, Ziqi and Liu, Ziwei},\n        journal={arXiv preprint arXiv:2312.07537},\n        year={2023}\n   ```\n\n\n## :white_heart: Acknowledgement\n\nThis project is distributed under the MIT License. See `LICENSE` for more information.\n\nThe example code is built upon [AnimateDiff](https:\u002F\u002Fgithub.com\u002Fguoyww\u002FAnimateDiff). Thanks to the team for their impressive work!\n","# FreeInit：弥合视频扩散模型中的初始化差距\n\n[![论文](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FarXiv-论文-b31b1b?logo=arxiv&logoColor=b31b1b)](https:\u002F\u002Farxiv.org\u002Fabs\u002F2312.07537)\n[![项目主页](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F项目-网站-5B7493?logo=googlechrome&logoColor=5B7493)](https:\u002F\u002Ftianxingwu.github.io\u002Fpages\u002FFreeInit\u002F)\n[![视频](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FYouTube-视频-red?logo=youtube&logoColor=red)](https:\u002F\u002Fyoutu.be\u002FlS5IYbAqriI)\n[![Hugging Face](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F%F0%9F%A4%97%20演示-%20Hugging%20Face-ED7D31)](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FTianxingWu\u002FFreeInit)\n[![访问量](https:\u002F\u002Fhits.seeyoufarm.com\u002Fapi\u002Fcount\u002Fincr\u002Fbadge.svg?url=https%3A%2F%2Fgithub.com%2FTianxingWu%2FFreeInit&count_bg=%23678F74&title_bg=%23555555&icon=&icon_color=%23E7E7E7&title=访问者&edge_flat=false)](https:\u002F\u002Fhits.seeyoufarm.com)\n\n\n\u003Cdiv>\n    \u003Ch4 align=\"center\">\n        \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FTianxingWu_FreeInit_readme_af0280b153d6.gif\">\n    \u003C\u002Fh4>\n\u003C\u002Fdiv>\n\n本仓库包含以下论文的实现：\n> **FreeInit：弥合视频扩散模型中的初始化差距**\u003Cbr>\n> [Tianxing Wu](https:\u002F\u002Ftianxingwu.github.io\u002F)、[Chenyang Si](https:\u002F\u002Fchenyangsi.github.io\u002F)、[Yuming Jiang](https:\u002F\u002Fyumingj.github.io\u002F)、[Ziqi Huang](https:\u002F\u002Fziqihuangg.github.io\u002F)、[Ziwei Liu](https:\u002F\u002Fliuziwei7.github.io\u002F)\u003Cbr>\n\n来自南洋理工大学 S-Lab 旗下的 [MMLab@NTU](https:\u002F\u002Fwww.mmlab-ntu.com\u002F)\n\n\n\n## :open_book: 概述\n![整体结构](https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FTianxingWu_FreeInit_readme_e5b281adff4c.png)\n\n我们提出了 **FreeInit**，这是一种简洁而有效的方法，用于提升扩散模型生成视频的时间一致性。FreeInit无需额外训练，也不引入任何可学习参数，可以轻松地在推理时集成到任意视频扩散模型中。\n\n\n## :fire: 更新\n- [2024年1月] FreeInit已集成到 [Diffusers](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Fdiffusers) 和 [ComfyUI-AnimateDiff-Evolved](https:\u002F\u002Fgithub.com\u002FKosinkadink\u002FComfyUI-AnimateDiff-Evolved) 中。非常感谢 [@a-r-r-o-w](https:\u002F\u002Fgithub.com\u002Fa-r-r-o-w)、[@DN6](https:\u002F\u002Fgithub.com\u002FDN6) 和 [@Kosinkadink](https:\u002F\u002Fgithub.com\u002FKosinkadink)!\n- [2023年12月] 我们在 [Hugging Face🤗](https:\u002F\u002Fhuggingface.co\u002Fspaces) 上发布了演示！欢迎体验：[[演示链接]](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FTianxingWu\u002FFreeInit)。\n- [2023年12月] [Arxiv论文](https:\u002F\u002Farxiv.org\u002Fabs\u002F2312.07537) 已发布。\n- [2023年12月] 代码已公开。\n- [2023年12月] [项目主页](https:\u002F\u002Ftianxingwu.github.io\u002Fpages\u002FFreeInit\u002F) 和 [视频](https:\u002F\u002Fyoutu.be\u002FlS5IYbAqriI) 已上线。\n\n## :page_with_curl: 使用方法\n在本仓库中，我们以 [AnimateDiff](https:\u002F\u002Fanimatediff.github.io\u002F) 为例，展示如何将 FreeInit 集成到现有的文本到视频推理流程中。\n\n在 [pipeline_animation.py](examples\u002FAnimateDiff\u002Fanimatediff\u002Fpipelines\u002Fpipeline_animation.py) 中，我们定义了一个继承自 `AnimationPipeline` 的类 `AnimationFreeInitPipeline`，展示了如何修改原始管道。\n\n在 [freeinit_utils.py](examples\u002FAnimateDiff\u002Fanimatediff\u002Futils\u002Ffreeinit_utils.py) 中，我们提供了用于噪声重新初始化的频率滤波代码。\n\n一个示例推理脚本位于 [animate_with_freeinit.py](examples\u002FAnimateDiff\u002Fscripts\u002Fanimate_with_freeinit.py)。\n\n请参考上述脚本，在将 FreeInit 集成到其他视频扩散模型时作为参考。\n\n\n\n## :hammer: 快速开始\n\n### 1. 克隆仓库\n\n```\ngit clone https:\u002F\u002Fgithub.com\u002FTianxingWu\u002FFreeInit.git\ncd FreeInit\ncd examples\u002FAnimateDiff\n```\n\n### 2. 准备环境\n\n```\nconda env create -f environment.yaml\nconda activate animatediff\n```\n\n### 3. 下载检查点\n\n请参考 AnimateDiff 的 [官方仓库](https:\u002F\u002Fgithub.com\u002Fguoyww\u002FAnimateDiff)。设置指南列于 [这里](https:\u002F\u002Fgithub.com\u002Fguoyww\u002FAnimateDiff\u002Fblob\u002Fmain\u002F__assets__\u002Fdocs\u002Fanimatediff.md)。\n\n\n### 4. 使用 FreeInit 进行推理\n下载基础模型、运动模块和个人化 T2I 检查点后，运行以下命令以使用 FreeInit 生成动画。生成结果将保存到 `outputs` 文件夹。\n```\npython -m scripts.animate_with_freeinit \\\n    --config \"configs\u002Fprompts\u002Ffreeinit_examples\u002FRealisticVision_v2.yaml\" \\\n    --num_iters 5 \\\n    --save_intermediate \\\n    --use_fp16\n```\n其中 `num_iters` 是 FreeInit 的迭代次数。我们建议使用 3–5 次迭代，以在质量和效率之间取得平衡。为了加快推理速度，可以启用 `use_fast_sampling` 参数，使用“粗细采样”策略，但这可能会导致效果稍差。\n\n您可以更改配置文件中的文本提示。要调整频率滤波器参数以获得更好的效果，请更改配置文件中的 `filter_params` 设置。默认设置为 `'butterworth'` 滤波器，参数为 `n=4, d_s=d_t=0.25`。对于时间不一致性较大的基础模型，请考虑使用 `'guassian'` 滤波器。\n\n\n还提供了更多带有不同运动模块\u002F个性化 T2I 设置的 `.yaml` 文件，供测试使用。\n\n### 🤗 Gradio 演示\n\n我们还提供了一个 Gradio 演示，通过用户界面展示我们的方法。运行以下命令即可启动演示。欢迎您随意调整参数以提高生成质量。\n\n```\npython app.py\n```\n或者，您也可以尝试 Hugging Face 上的在线演示：[[演示链接]](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FTianxingWu\u002FFreeInit)。\n\n## :framed_picture: 生成结果\n\n请参阅我们的 [项目主页](https:\u002F\u002Ftianxingwu.github.io\u002Fpages\u002FFreeInit\u002F) 以获取更多可视化对比。\n\n## :four_leaf_clover: 社区贡献\n\n- 集成到 ComfyUI 扩展：[ComfyUI-AnimateDiff-Evolved](https:\u002F\u002Fgithub.com\u002FKosinkadink\u002FComfyUI-AnimateDiff-Evolved)（由 [@Kosinkadink](https:\u002F\u002Fgithub.com\u002FKosinkadink) 提供）\n- 集成到 Hugging Face Diffusers：[Diffusers](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Fdiffusers)（由 [@a-r-r-o-w](https:\u002F\u002Fgithub.com\u002Fa-r-r-o-w) 和 [@DN6](https:\u002F\u002Fgithub.com\u002FDN6) 提供）\n- Google Colab：[FreeInit-colab](https:\u002F\u002Fgithub.com\u002Fcamenduru\u002FFreeInit-colab)（由 [@camenduru](https:\u002F\u002Fgithub.com\u002Fcamenduru) 提供）\n\n## :fountain_pen: 引用\n\n如果您觉得我们的仓库对您的研究有所帮助，请考虑引用我们的论文：\n\n   ```bibtex\n   @article{wu2023freeinit,\n        title={FreeInit: Bridging Initialization Gap in Video Diffusion Models},\n        author={Wu, Tianxing and Si, Chenyang and Jiang, Yuming and Huang, Ziqi and Liu, Ziwei},\n        journal={arXiv preprint arXiv:2312.07537},\n        year={2023}\n   ```\n  \n\n## :white_heart: 致谢\n\n本项目采用 MIT 许可证发布。更多信息请参阅 `LICENSE` 文件。\n\n示例代码基于 [AnimateDiff](https:\u002F\u002Fgithub.com\u002Fguoyww\u002FAnimateDiff) 构建。感谢团队的出色工作！","# FreeInit 快速上手指南\n\nFreeInit 是一种无需额外训练即可提升视频扩散模型（如 AnimateDiff）时间一致性的方法。它通过推理时的噪声重初始化策略，有效减少视频闪烁和抖动。\n\n## 1. 环境准备\n\n*   **系统要求**: Linux \u002F macOS (Windows 需使用 WSL2 或兼容环境)\n*   **硬件要求**: 推荐 NVIDIA GPU (显存建议 8GB 以上，取决于生成的视频分辨率)\n*   **前置依赖**:\n    *   Python 3.8+\n    *   Conda (推荐用于环境管理)\n    *   Git\n\n> **注意**：本项目基于 AnimateDiff 构建，使用前请确保已准备好 AnimateDiff 所需的底模、运动模块（Motion Module）及个性化 T2I 检查点。\n\n## 2. 安装步骤\n\n### 2.1 克隆仓库\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002FTianxingWu\u002FFreeInit.git\ncd FreeInit\ncd examples\u002FAnimateDiff\n```\n\n### 2.2 创建并激活虚拟环境\n使用项目提供的配置文件一键安装依赖：\n```bash\nconda env create -f environment.yaml\nconda activate animatediff\n```\n\n### 2.3 下载模型检查点\n请参考 [AnimateDiff 官方仓库](https:\u002F\u002Fgithub.com\u002Fguoyww\u002FAnimateDiff) 下载以下文件并放置到对应目录：\n*   Base Model (底模)\n*   Motion Module (运动模块)\n*   Personalized T2I Checkpoints (个性化模型)\n\n具体配置路径可参考 AnimateDiff 的 [设置指南](https:\u002F\u002Fgithub.com\u002Fguoyww\u002FAnimateDiff\u002Fblob\u002Fmain\u002F__assets__\u002Fdocs\u002Fanimatediff.md)。\n\n## 3. 基本使用\n\n### 3.1 命令行推理\n运行以下命令生成视频，结果将保存在 `outputs` 文件夹中：\n\n```bash\npython -m scripts.animate_with_freeinit \\\n    --config \"configs\u002Fprompts\u002Ffreeinit_examples\u002FRealisticVision_v2.yaml\" \\\n    --num_iters 5 \\\n    --save_intermediate \\\n    --use_fp16\n```\n\n**参数说明：**\n*   `--num_iters`: FreeInit 迭代次数。推荐设置为 **3-5** 以平衡质量与效率。\n*   `--use_fp16`: 启用半精度推理以节省显存并加速。\n*   `--config`: 指定提示词和滤波器配置的 YAML 文件。你可以修改该文件中的文本提示词 (`prompt`)。\n*   **滤波器调整**: 若底模时间不一致性较大，可在 config 文件中将 `filter_params` 改为 `'gaussian'`；默认使用 `'butterworth'` (n=4, d_s=d_t=0.25)。\n\n> **加速选项**: 如需更快推理，可添加 `--use_fast_sampling` 参数启用“由粗到细”采样策略，但可能会略微降低生成质量。\n\n### 3.2 启动本地 Gradio 演示界面\n如果你更喜欢图形化界面操作，可以运行：\n\n```bash\npython app.py\n```\n启动后在浏览器访问本地地址，即可实时调整参数并预览生成效果。\n\n或者直接体验在线 Demo：[Hugging Face Spaces](https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FTianxingWu\u002FFreeInit)","一位独立动画师正利用 AnimateDiff 模型，尝试将一组静态的角色概念图转化为流畅的短视频，用于游戏宣传片的初步演示。\n\n### 没有 FreeInit 时\n- **画面闪烁严重**：生成的视频中角色面部特征和衣物纹理在帧与帧之间剧烈跳动，出现明显的“频闪”现象，破坏视觉连贯性。\n- **动作逻辑断裂**：由于初始噪声分布不一致，角色在转身或移动时会出现突然的形变或瞬移，导致动作看起来支离破碎。\n- **后期修复成本高**：为了掩盖生成瑕疵，不得不花费大量时间逐帧进行手动修图或引入复杂的视频稳定算法，严重拖慢创作节奏。\n- **重复试错浪费资源**：为了获得一段勉强可用的素材，需要反复调整提示词并重新生成数十次，消耗了大量的 GPU 算力和时间。\n\n### 使用 FreeInit 后\n- **时序一致性显著提升**：FreeInit 通过频率滤波和噪声重初始化技术，在不增加训练成本的前提下，让角色外观在整段视频中保持高度稳定，消除了恼人的闪烁。\n- **动作流转自然平滑**：视频帧间的过渡变得丝滑，角色的肢体动作符合物理逻辑，不再出现诡异的突变或撕裂感。\n- **即插即用无需微调**：直接将其集成到现有的推理管道中，无需重新训练模型或调整网络参数，立刻就能获得高质量的输出结果。\n- **创作效率大幅飞跃**：原本需要多次迭代才能得到的可用片段，现在一次生成即可达标，让创作者能将精力集中在创意构思而非修补瑕疵上。\n\nFreeInit 以零训练成本的巧妙方式，填补了视频扩散模型的初始化鸿沟，让高质量的视频生成真正变得触手可及。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FTianxingWu_FreeInit_1f71e580.png","TianxingWu","Tianxing Wu","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FTianxingWu_97907707.jpg","Ph.D. student at MMLab@NTU","Nanyang Technological University","Singapore","tianxing001@ntu.edu.sg",null,"https:\u002F\u002Ftianxingwu.github.io","https:\u002F\u002Fgithub.com\u002FTianxingWu",[87],{"name":88,"color":89,"percentage":90},"Python","#3572A5",100,545,22,"2026-02-25T16:53:54","MIT",4,"未说明","需要 NVIDIA GPU (隐含，因使用 AnimateDiff 且支持 --use_fp16)，显存建议 8GB+ (基于视频扩散模型常规需求及半精度推理)，CUDA 版本未说明",{"notes":99,"python":100,"dependencies":101},"该工具基于 AnimateDiff 框架，需先按照 AnimateDiff 官方指南下载基础模型、运动模块及个人化 T2I 检查点。建议使用 conda 创建环境 (environment.yaml)。支持半精度推理 (--use_fp16) 以节省显存。可通过调整迭代次数 (num_iters) 和滤波器参数平衡质量与效率。已集成至 Diffusers 和 ComfyUI。","未说明 (通过 environment.yaml 管理)",[102,103,104,105,106,107,108,109],"torch","diffusers","transformers","accelerate","gradio","opencv-python","imageio","av",[52,15],[112,113,114,115],"aigc","text-to-video","video-diffusion-model","video-generation","2026-03-27T02:49:30.150509","2026-04-07T07:13:22.592260",[119,124,129,134,139,144],{"id":120,"question_zh":121,"answer_zh":122,"source_url":123},21228,"FreeInit 是否支持 ComfyUI？","是的，ComfyUI-AnimateDiff-Evolved 节点中已经包含了 FreeInit 的初步实现。您可以将 init_type 设置为 'DinkInit_v1' 来使用。目前高频和低频合并功能正常工作，但噪声归一化可能尚未完全优化。相关实现请参考：https:\u002F\u002Fgithub.com\u002FKosinkadink\u002FComfyUI-AnimateDiff-Evolved\u002Fissues\u002F239","https:\u002F\u002Fgithub.com\u002FTianxingWu\u002FFreeInit\u002Fissues\u002F3",{"id":125,"question_zh":126,"answer_zh":127,"source_url":128},21229,"按照官方说明运行代码后生成效果很差，这是正常现象吗？","这通常不是正常现象，可能是代码路径修改或细节遗漏导致的。建议参考官方发布的 HuggingFace Demo (https:\u002F\u002Fhuggingface.co\u002Fspaces\u002FTianxingWu\u002FFreeInit) 及其推理代码进行对比和排查，以确保参数设置和代码逻辑与官方一致。","https:\u002F\u002Fgithub.com\u002FTianxingWu\u002FFreeInit\u002Fissues\u002F11",{"id":130,"question_zh":131,"answer_zh":132,"source_url":133},21230,"生成分辨率大于 512x512（如 512x768）的视频时报错怎么办？","这是一个已修复的分辨率 Bug。如果是自行部署的代码，问题通常出在 app.py 中的 update_filter 函数未能正确更新 Gradio 传入的数据。解决方法是注释掉部分赋值代码并调整 height_slider 和 width_slider 的顺序。具体修改如下：\n注释掉：\n# self.set_width = width_slider\n# self.set_height = height_slider\n# self.selected_filter_type = filter_type_dropdown\n# self.set_d_s = d_s\n# self.set_d_t = d_t\n修改判断逻辑为：\nif self.set_width != width_slider or self.set_height != height_slider ...:\n    self.update_filter(height_slider, width_slider, ...)","https:\u002F\u002Fgithub.com\u002FTianxingWu\u002FFreeInit\u002Fissues\u002F14",{"id":135,"question_zh":136,"answer_zh":137,"source_url":138},21231,"代码中纯高斯噪声与低频信息相加的具体实现位置在哪里？","该逻辑实现在 pipeline_animation.py 文件的第 590 行，调用了 freq_mix_3d 函数。具体的函数定义位于 animatediff\u002Futils\u002Ffreeinit_utils.py 的第 25 行。您可以查看这两个位置了解频率混合的具体代码实现。","https:\u002F\u002Fgithub.com\u002FTianxingWu\u002FFreeInit\u002Fissues\u002F19",{"id":140,"question_zh":141,"answer_zh":142,"source_url":143},21232,"FreeInit 能否应用于 VideoCrafter1 模型？","虽然尚未在 VideoCrafter1 上进行正式测试，但您可以手动集成。请参考 VideoCrafter1 中的 ddim_sampling 函数，并借鉴 FreeInit 示例代码中的 pipeline_animation.py 和 animate_with_freeinit.py，将 FreeInit 的逻辑添加到其采样过程中。","https:\u002F\u002Fgithub.com\u002FTianxingWu\u002FFreeInit\u002Fissues\u002F10",{"id":145,"question_zh":146,"answer_zh":147,"source_url":148},21233,"运行时报错 'Missing key filter_params'，如何在 YAML 配置文件中正确设置？","请参考项目中 examples\u002FAnimateDiff\u002Fconfigs\u002Fprompts\u002Ffreeinit_examples\u002F 目录下的 .yaml 文件作为配置模板，确保包含所有必需的 filter_params 键值对。","https:\u002F\u002Fgithub.com\u002FTianxingWu\u002FFreeInit\u002Fissues\u002F2",[]]