[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-thu-ml--Motus":3,"tool-thu-ml--Motus":64},[4,18,26,35,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107888,2,"2026-04-06T11:32:50",[14,15,13],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":10,"last_commit_at":41,"category_tags":42,"status":17},4487,"LLMs-from-scratch","rasbt\u002FLLMs-from-scratch","LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目，旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型（LLM）。它不仅是同名技术著作的官方代码库，更提供了一套完整的实践方案，涵盖模型开发、预训练及微调的全过程。\n\n该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型，却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码，用户能够透彻掌握 Transformer 架构、注意力机制等关键原理，从而真正理解大模型是如何“思考”的。此外，项目还包含了加载大型预训练权重进行微调的代码，帮助用户将理论知识延伸至实际应用。\n\nLLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API，而是渴望探究模型构建细节的技术人员而言，这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计：将复杂的系统工程拆解为清晰的步骤，配合详细的图表与示例，让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础，还是为未来研发更大规模的模型做准备",90106,"2026-04-06T11:19:32",[43,15,13,14],"语言模型",{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":10,"last_commit_at":50,"category_tags":51,"status":17},4292,"Deep-Live-Cam","hacksider\u002FDeep-Live-Cam","Deep-Live-Cam 是一款专注于实时换脸与视频生成的开源工具，用户仅需一张静态照片，即可通过“一键操作”实现摄像头画面的即时变脸或制作深度伪造视频。它有效解决了传统换脸技术流程繁琐、对硬件配置要求极高以及难以实时预览的痛点，让高质量的数字内容创作变得触手可及。\n\n这款工具不仅适合开发者和技术研究人员探索算法边界，更因其极简的操作逻辑（仅需三步：选脸、选摄像头、启动），广泛适用于普通用户、内容创作者、设计师及直播主播。无论是为了动画角色定制、服装展示模特替换，还是制作趣味短视频和直播互动，Deep-Live-Cam 都能提供流畅的支持。\n\n其核心技术亮点在于强大的实时处理能力，支持口型遮罩（Mouth Mask）以保留使用者原始的嘴部动作，确保表情自然精准；同时具备“人脸映射”功能，可同时对画面中的多个主体应用不同面孔。此外，项目内置了严格的内容安全过滤机制，自动拦截涉及裸露、暴力等不当素材，并倡导用户在获得授权及明确标注的前提下合规使用，体现了技术发展与伦理责任的平衡。",88924,"2026-04-06T03:28:53",[14,15,13,52],"视频",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",85013,"2026-04-06T11:09:19",[15,16,52,61,13,62,43,14,63],"插件","其他","音频",{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":79,"owner_twitter":79,"owner_website":80,"owner_url":81,"languages":82,"stars":91,"forks":92,"last_commit_at":93,"license":94,"difficulty_score":95,"env_os":96,"env_gpu":97,"env_ram":96,"env_deps":98,"category_tags":106,"github_topics":107,"view_count":32,"oss_zip_url":79,"oss_zip_packed_at":79,"status":17,"created_at":115,"updated_at":116,"faqs":117,"releases":148},5187,"thu-ml\u002FMotus","Motus","Official code of Motus: A Unified Latent Action World Model","Motus 是一款统一的潜在动作世界模型，旨在为机器人赋予更强大的感知、决策与行动能力。它巧妙整合了现有的预训练大模型与丰富的运动信息，通过独特的“混合变压器（MoT）”架构，将理解、动作执行和视频生成三大专家模块融为一体。\n\n针对传统机器人模型难以灵活切换任务模式、动作学习不够精细的痛点，Motus 引入类 UniDiffuser 调度器，支持在世界模型、视觉 - 语言 - 动作模型及视频生成等多种模式间自由切换。其核心技术亮点在于利用光流技术学习“潜在动作”，并通过三阶段训练流程与六层数据金字塔，从像素级提取细微的动作变化，实现了大规模的动作预训练。在 RoboTwin 2.0 仿真测试中，其平均任务成功率高达 87.02%，显著优于同类主流模型。\n\nMotus 主要面向机器人领域的研究人员与开发者，特别是那些致力于探索具身智能、多模态大模型应用以及需要高性能仿真训练的专业团队。由于推理和训练对显存要求较高（推荐 RTX 5090 或 A100\u002FH100 等专业显卡），它更适合具备一定算力基础的技术用户进行二次开发、算法研究或复杂场景的模型部署。","\n\u003C!-- markdownlint-disable first-line-h1 -->\n\u003C!-- markdownlint-disable html -->\n\u003C!-- markdownlint-disable no-duplicate-header -->\n\n\u003Cdiv align=\"center\">\n  \u003Ch1>Motus: A Unified Latent Action World Model\u003C\u002Fh1>\n\u003C\u002Fdiv>\n\n\u003Cdiv align=\"center\" style=\"line-height: 1;\">\n  \u003Ca href=\"https:\u002F\u002Fmotus-robotics.github.io\u002Fmotus\">\u003Cimg alt=\"Homepage\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FMotus-Homepage-4287f5?logo=readme&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fmotus-robotics\">\u003Cimg alt=\"Hugging Face\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F%F0%9F%A4%97%20Hugging%20Face-motus--robotics-ffc107?color=ffc107&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2512.13030\">\u003Cimg alt=\"arXiv\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FarXiv-2512.13030-b31b1b?logo=arxiv&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Cbr>\n  \u003Ca href=\"https:\u002F\u002Fmotus-robotics.github.io\u002Fassets\u002Fmotus\u002Fpng\u002Ffeishu.jpg\">\u003Cimg alt=\"Feishu\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FFeishu-Motus-blue?logo=lark&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fmotus-robotics.github.io\u002Fassets\u002Fmotus\u002Fpng\u002Fwechat.jpg\">\u003Cimg alt=\"WeChat\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FWeChat-Motus-green?logo=wechat&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Ca href=\"LICENSE\">\u003Cimg alt=\"License\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FLicense-Apache--2.0-f5de53?logo=apache&color=f5de53\"\u002F>\u003C\u002Fa>\n\u003C\u002Fdiv>\n\n## Table of Contents\n- [Table of Contents](#table-of-contents)\n- [Overview](#overview)\n- [Updates](#updates)\n- [Requirements](#requirements)\n- [Installation](#installation)\n- [Model Checkpoints](#model-checkpoints)\n- [Data Format](#data-format)\n- [Running Inference](#running-inference)\n- [Training](#training)\n- [Troubleshooting](#troubleshooting)\n- [Citation](#citation)\n\n## Overview\n\n**Motus** is a **unified latent action world model** that leverages existing pretrained models and rich, sharable motion information. Motus introduces a **Mixture-of-Transformers (MoT)** architecture to integrate three experts (understanding, action, and video generation) and adopts a **UniDiffuser-style scheduler** to enable flexible switching between different modeling modes (World Models, Vision-Language-Action Models, Inverse Dynamics Models, Video Generation Models, and Video-Action Joint Prediction Models). Motus further leverages **optical flow** to learn **latent actions** and adopts a **three-phase training pipeline** and **six-layer data pyramid**, thereby extracting pixel-level \"delta action\" and enabling large-scale action pretraining.\n\n| Component | Base Model | Parameters |\n|-----------|------------|------------|\n| **VGM (Video Generation Model)** | [Wan2.2-5B](https:\u002F\u002Fhuggingface.co\u002FWan-AI\u002FWan2.2-TI2V-5B) | ~5.00B |\n| **VLM (Vision-Language Model)** | [Qwen3-VL-2B](https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen3-VL-2B-Instruct) | ~2.13B |\n| **Action Expert** | - | ~641.5M |\n| **Understanding Expert** | - | ~253.5M |\n| **Total** | - | **~8B** |\n\n**Key Results (RoboTwin 2.0 Simulation.** With 50 clean and 500 randomized data entries per task, we merge the data from all 50 tasks for multi-task training.):\n- **87.02%** average success rate (+15% over X-VLA, +45% over π₀.₅)\n\n## Updates\n\n- [2025-12-16] **Initial release of Motus with pretrained checkpoints and training code.**\n- [2025-12-20] **Simple RoboTwin inference**\n- [2025-12-24] **LeRobotDataset format support**  \n- [2025-12-24] **Optimized training scripts**\n- [2025-12-26] **MultiLeRobotDataset format support**\n- [2025-12-27] **RoboTwin raw dataset conversion**\n- [2025-12-27] **Three-view image concatenation scripts**\n\nWe welcome community members to help maintain and extend Motus. Welcome to join the Motus community and contribute together!\n\n## Requirements\n\n| Mode | VRAM | Recommended GPU |\n|------|------|-----------------|\n| Inference (with pre-encoded T5) | > 24 GB | RTX 5090 |\n| Inference (without pre-encoded T5) | ~ 41 GB | A100 (40GB) \u002F A100 (80GB) \u002F H100 \u002F B200 |\n| Training | > 80 GB | A100 (80GB) \u002F H100 \u002F B200 |\n\n## Installation\n\n```bash\n# Clone the repository\ngit clone https:\u002F\u002Fgithub.com\u002Fthu-ml\u002FMotus.git\ncd Motus\n\n# Create conda environment\nconda create -n motus python=3.10 -y\nconda activate motus\n\n# install torch (cuda12.8)\npip install torch==2.7.1 torchvision==0.22.1 --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu128\n\n# install flash \npip install flash-attn --no-build-isolation\n\n# Install motus dependencies\npip install -r requirements.txt\n\n# (Optinal) Install lerobot dependencies\npip install --no-deps lerobot==0.3.2\npip install -r requirements\u002Flerobot.txt\n```\n\n## Model Checkpoints\n\nWe provide multiple checkpoints for different use cases:\n\n| Model | Use Case | Description | Checkpoint Path |\n|-------|----------|-------------|-----------------|\n| **Motus_Wan2_2_5B_pretrain** | Pretrain \u002F VGM Backbone | Stage 1 VGM pretrained checkpoint | [`motus-robotics\u002FMotus_Wan2_2_5B_pretrain`](https:\u002F\u002Fhuggingface.co\u002Fmotus-robotics\u002FMotus_Wan2_2_5B_pretrain) |\n| **Motus** | Fine-Tuning | Stage 2 latent action pretrained checkpoint | [`motus-robotics\u002FMotus`](https:\u002F\u002Fhuggingface.co\u002Fmotus-robotics\u002FMotus) |\n| **Motus_robotwin2** | Inference \u002F Fine-Tuning | Stage 3 RoboTwin2 fine-tuned checkpoint | [`motus-robotics\u002FMotus_robotwin2`](https:\u002F\u002Fhuggingface.co\u002Fmotus-robotics\u002FMotus_robotwin2) |\n\n**Download checkpoints:**\n```bash\n# Create pretrained models directory\nmkdir -p pretrained_models\n\n# Download Motus checkpoints\nhuggingface-cli download motus-robotics\u002FMotus_Wan2_2_5B_pretrain --local-dir .\u002Fpretrained_models\u002FMotus_Wan2_2_5B_pretrain\nhuggingface-cli download motus-robotics\u002FMotus --local-dir .\u002Fpretrained_models\u002FMotus\nhuggingface-cli download motus-robotics\u002FMotus_robotwin2 --local-dir .\u002Fpretrained_models\u002FMotus_robotwin2\n\n# Download foundation models\nhuggingface-cli download Qwen\u002FQwen3-VL-2B-Instruct --local-dir .\u002Fpretrained_models\u002FQwen3-VL-2B-Instruct\nhuggingface-cli download Wan-AI\u002FWan2.2-TI2V-5B --local-dir .\u002Fpretrained_models\u002FWan2.2-TI2V-5B\n```\n\n**Update config paths** in your embodiment-specific config file (e.g., `configs\u002Frobotwin.yaml`, `configs\u002Fac_one.yaml`, or other embodiment configs):\n```yaml\nmodel:\n  wan:\n    checkpoint_path: \".\u002Fpretrained_models\u002FMotus_Wan2_2_5B_pretrain\"\n    config_path: \".\u002Fpretrained_models\u002FMotus_Wan2_2_5B_pretrain\"\n    vae_path: \".\u002Fpretrained_models\u002FWan2.2-TI2V-5B\u002FWan2.2_VAE.pth\"\n  vlm:\n    checkpoint_path: \".\u002Fpretrained_models\u002FQwen3-VL-2B-Instruct\"\n    config_path: \".\u002Fpretrained_models\u002FQwen3-VL-2B-Instruct\"\n```\n\n## Data Format\n\nMotus supports three types of datasets with specific directory structures for optimal training and inference.\n\n**📖 See detailed guide:** [**Data Format Guide**](DATA_FORMAT.md)\n\n**Quick Overview:**\n- **RoboTwin 2.0**: Simulation data with clean\u002Frandomized splits\n- **Real-World**: AC-One, Aloha-Agilex-2 robot data\n\n**Data Conversion Tools:**\n- [RoboTwin Dataset Converter](data\u002Frobotwin2\u002Frobotwin_data_convert\u002FREADME.md)\n- [Multi-Camera Concatenation](data\u002Futils\u002Fmulti_camera_concat.py)\n\n## Running Inference\n\n**📖 See detailed guide:** [**Inference Guide**](INFERENCE.md)\n\n- **RoboTwin 2.0**: [Evaluation Setup](inference\u002Frobotwin\u002FMotus\u002FREADME.md)\n- **Real-World**: Minimal inference without robot environment\n\n## Training\n\nMotus follows a **three-stage training pipeline**:\n\n| Stage | Data | Training |\n|-------|------|----------|\n| **Pretrained Foundation Models** | Level 1: Web Data | VGM and VLM |\n| **Stage 1 (VGM Training)** | Level 2: Egocentric Human Videos\u003Cbr>Level 3: Synthetic Data\u003Cbr>Level 5: Multi-Robot Task Trajectory | Only VGM |\n| **Stage 2 (Motus Pretraining)** | Level 2: Egocentric Human Videos\u003Cbr>Level 3: Synthetic Data\u003Cbr>Level 4: Task-agnostic Data\u003Cbr>Level 5: Multi-Robot Task Trajectory | Motus (all 3 experts, with **latent actions**) |\n| **Stage 3 (Motus SFT)** | Level 6: Target-Robot Task Trajectory | Motus (all 3 experts, with actions) |\n\nThe six-layer data pyramid is shown in the figure here:\n\n\u003Cimg width=\"615\" height=\"455\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fthu-ml_Motus_readme_057c1c703607.png\" \u002F>\n\n**📖 See detailed guide:** [**Training Guide**](TRAINING.md)\n\n**Data Preparation:**\n- [RoboTwin Dataset Converter](data\u002Frobotwin2\u002Frobotwin_data_convert\u002FREADME.md)\n- [Multi-Camera Concatenation](data\u002Futils\u002Fmulti_camera_concat.py)\n\n## Troubleshooting\n\n**📖 Detailed guides:**\n- [Inference Issues](INFERENCE.md#troubleshooting)\n- [Training Issues](TRAINING.md#troubleshooting)\n- [Data Format Issues](DATA_FORMAT.md)\n\n## Citation\nIf you find our work helpful, please cite us:\n\n```bibtex\n@misc{bi2025motusunifiedlatentaction,\n      title={Motus: A Unified Latent Action World Model}, \n      author={Hongzhe Bi and Hengkai Tan and Shenghao Xie and Zeyuan Wang and Shuhe Huang and Haitian Liu and Ruowen Zhao and Yao Feng and Chendong Xiang and Yinze Rong and Hongyan Zhao and Hanyu Liu and Zhizhong Su and Lei Ma and Hang Su and Jun Zhu},\n      year={2025},\n      eprint={2512.13030},\n      archivePrefix={arXiv},\n      primaryClass={cs.CV},\n      url={https:\u002F\u002Farxiv.org\u002Fabs\u002F2512.13030}, \n}\n```\n\nThank you!\n\n","\u003C!-- markdownlint-disable first-line-h1 -->\n\u003C!-- markdownlint-disable html -->\n\u003C!-- markdownlint-disable no-duplicate-header -->\n\n\u003Cdiv align=\"center\">\n  \u003Ch1>Motus：统一的潜在动作世界模型\u003C\u002Fh1>\n\u003C\u002Fdiv>\n\n\u003Cdiv align=\"center\" style=\"line-height: 1;\">\n  \u003Ca href=\"https:\u002F\u002Fmotus-robotics.github.io\u002Fmotus\">\u003Cimg alt=\"主页\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FMotus-Homepage-4287f5?logo=readme&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fmotus-robotics\">\u003Cimg alt=\"Hugging Face\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002F%F0%9F%A4%97%20Hugging%20Face-motus--robotics-ffc107?color=ffc107&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2512.13030\">\u003Cimg alt=\"arXiv\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FarXiv-2512.13030-b31b1b?logo=arxiv&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Cbr>\n  \u003Ca href=\"https:\u002F\u002Fmotus-robotics.github.io\u002Fassets\u002Fmotus\u002Fpng\u002Ffeishu.jpg\">\u003Cimg alt=\"飞书\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FFeishu-Motus-blue?logo=lark&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Ca href=\"https:\u002F\u002Fmotus-robotics.github.io\u002Fassets\u002Fmotus\u002Fpng\u002Fwechat.jpg\">\u003Cimg alt=\"微信\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FWeChat-Motus-green?logo=wechat&logoColor=white\"\u002F>\u003C\u002Fa>\n  \u003Ca href=\"LICENSE\">\u003Cimg alt=\"许可证\"\n    src=\"https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FLicense-Apache--2.0-f5de53?logo=apache&color=f5de53\"\u002F>\u003C\u002Fa>\n\u003C\u002Fdiv>\n\n## 目录\n- [目录](#目录)\n- [概述](#概述)\n- [更新](#更新)\n- [要求](#要求)\n- [安装](#安装)\n- [模型检查点](#模型检查点)\n- [数据格式](#数据格式)\n- [运行推理](#运行推理)\n- [训练](#训练)\n- [故障排除](#故障排除)\n- [引用](#引用)\n\n## 概述\n\n**Motus** 是一种 **统一的潜在动作世界模型**，它利用现有的预训练模型和丰富、可共享的动作信息。Motus 引入了 **Transformer 混合体（MoT）** 架构，以整合三个专家（理解、动作和视频生成），并采用 **UniDiffuser 风格调度器**，实现不同建模模式之间的灵活切换（世界模型、视觉-语言-动作模型、逆动力学模型、视频生成模型以及视频-动作联合预测模型）。Motus 进一步利用 **光流** 来学习 **潜在动作**，并采用 **三阶段训练流程** 和 **六层数据金字塔**，从而提取像素级的“动作增量”，并支持大规模动作预训练。\n\n| 组件 | 基础模型 | 参数量 |\n|-----------|------------|------------|\n| **VGM（视频生成模型）** | [Wan2.2-5B](https:\u002F\u002Fhuggingface.co\u002FWan-AI\u002FWan2.2-TI2V-5B) | ~5.00B |\n| **VLM（视觉-语言模型）** | [Qwen3-VL-2B](https:\u002F\u002Fhuggingface.co\u002FQwen\u002FQwen3-VL-2B-Instruct) | ~2.13B |\n| **动作专家** | - | ~641.5M |\n| **理解专家** | - | ~253.5M |\n| **总计** | - | **~8B** |\n\n**关键结果（RoboTwin 2.0 模拟。** 在每个任务中使用 50 个干净数据和 500 个随机化数据条目，我们将所有 50 个任务的数据合并进行多任务训练。）：\n- **87.02%** 的平均成功率（比 X-VLA 高 15%，比 π₀.₅ 高 45%）\n\n## 更新\n\n- [2025-12-16] **Motus 初始发布，包含预训练检查点和训练代码。**\n- [2025-12-20] **简单的 RoboTwin 推理**\n- [2025-12-24] **支持 LeRobotDataset 格式**\n- [2025-12-24] **优化的训练脚本**\n- [2025-12-26] **支持 MultiLeRobotDataset 格式**\n- [2025-12-27] **RoboTwin 原始数据转换**\n- [2025-12-27] **三视角图像拼接脚本**\n\n我们欢迎社区成员帮助维护和扩展 Motus。欢迎加入 Motus 社区，共同贡献！\n\n## 要求\n\n| 模式 | 显存 | 推荐显卡 |\n|------|------|-----------------|\n| 推理（使用预编码 T5） | > 24 GB | RTX 5090 |\n| 推理（不使用预编码 T5） | ~ 41 GB | A100 (40GB) \u002F A100 (80GB) \u002F H100 \u002F B200 |\n| 训练 | > 80 GB | A100 (80GB) \u002F H100 \u002F B200 |\n\n## 安装\n\n```bash\n# 克隆仓库\ngit clone https:\u002F\u002Fgithub.com\u002Fthu-ml\u002FMotus.git\ncd Motus\n\n# 创建 conda 环境\nconda create -n motus python=3.10 -y\nconda activate motus\n\n# 安装 torch（cuda12.8）\npip install torch==2.7.1 torchvision==0.22.1 --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu128\n\n# 安装 flash \npip install flash-attn --no-build-isolation\n\n# 安装 Motus 依赖\npip install -r requirements.txt\n\n# （可选）安装 lerobot 依赖\npip install --no-deps lerobot==0.3.2\npip install -r requirements\u002Flerobot.txt\n```\n\n## 模型检查点\n\n我们为不同的用例提供了多个检查点：\n\n| 模型 | 用例 | 描述 | 检查点路径 |\n|-------|----------|-------------|-----------------|\n| **Motus_Wan2_2_5B_pretrain** | 预训练 \u002F VGM 主干 | 第一阶段 VGM 预训练检查点 | [`motus-robotics\u002FMotus_Wan2_2_5B_pretrain`](https:\u002F\u002Fhuggingface.co\u002Fmotus-robotics\u002FMotus_Wan2_2_5B_pretrain) |\n| **Motus** | 微调 | 第二阶段潜在动作预训练检查点 | [`motus-robotics\u002FMotus`](https:\u002F\u002Fhuggingface.co\u002Fmotus-robotics\u002FMotus) |\n| **Motus_robotwin2** | 推理 \u002F 微调 | 第三阶段 RoboTwin2 微调检查点 | [`motus-robotics\u002FMotus_robotwin2`](https:\u002F\u002Fhuggingface.co\u002Fmotus-robotics\u002FMotus_robotwin2) |\n\n**下载检查点：**\n```bash\n# 创建预训练模型目录\nmkdir -p pretrained_models\n\n# 下载 Motus 检查点\nhuggingface-cli download motus-robotics\u002FMotus_Wan2_2_5B_pretrain --local-dir .\u002Fpretrained_models\u002FMotus_Wan2_2_5B_pretrain\nhuggingface-cli download motus-robotics\u002FMotus --local-dir .\u002Fpretrained_models\u002FMotus\nhuggingface-cli download motus-robotics\u002FMotus_robotwin2 --local-dir .\u002Fpretrained_models\u002FMotus_robotwin2\n\n# 下载基础模型\nhuggingface-cli download Qwen\u002FQwen3-VL-2B-Instruct --local-dir .\u002Fpretrained_models\u002FQwen3-VL-2B-Instruct\nhuggingface-cli download Wan-AI\u002FWan2.2-TI2V-5B --local-dir .\u002Fpretrained_models\u002FWan2.2-TI2V-5B\n```\n\n**在您的特定机器人配置文件中更新配置路径**（例如 `configs\u002Frobotwin.yaml`、`configs\u002Fac_one.yaml` 或其他机器人配置文件）：\n```yaml\nmodel:\n  wan:\n    checkpoint_path: \".\u002Fpretrained_models\u002FMotus_Wan2_2_5B_pretrain\"\n    config_path: \".\u002Fpretrained_models\u002FMotus_Wan2_2_5B_pretrain\"\n    vae_path: \".\u002Fpretrained_models\u002FWan2.2-TI2V-5B\u002FWan2.2_VAE.pth\"\n  vlm:\n    checkpoint_path: \".\u002Fpretrained_models\u002FQwen3-VL-2B-Instruct\"\n    config_path: \".\u002Fpretrained_models\u002FQwen3-VL-2B-Instruct\"\n```\n\n## 数据格式\n\nMotus 支持三种类型的数据集，并具有特定的目录结构，以实现最佳的训练和推理效果。\n\n**📖 查看详细指南：** [**数据格式指南**](DATA_FORMAT.md)\n\n**快速概览：**\n- **RoboTwin 2.0**：带有干净\u002F随机化划分的模拟数据\n- **真实世界**：AC-One、Aloha-Agilex-2 机器人数据\n\n**数据转换工具：**\n- [RoboTwin 数据转换器](data\u002Frobotwin2\u002Frobotwin_data_convert\u002FREADME.md)\n- [多摄像头拼接](data\u002Futils\u002Fmulti_camera_concat.py)\n\n## 运行推理\n\n**📖 查看详细指南：** [**推理指南**](INFERENCE.md)\n\n- **RoboTwin 2.0**：[评估设置](inference\u002Frobotwin\u002FMotus\u002FREADME.md)\n- **真实世界**：无需机器人环境的最小化推理\n\n## 训练\n\nMotus 遵循 **三阶段训练流程**：\n\n| 阶段 | 数据 | 训练 |\n|-------|------|----------|\n| **预训练基础模型** | 第1层：网络数据 | VGM 和 VLM |\n| **第1阶段（VGM 训练）** | 第2层：第一人称视角的人类视频\u003Cbr>第3层：合成数据\u003Cbr>第5层：多机器人任务轨迹 | 仅 VGM |\n| **第2阶段（Motus 预训练）** | 第2层：第一人称视角的人类视频\u003Cbr>第3层：合成数据\u003Cbr>第4层：与任务无关的数据\u003Cbr>第5层：多机器人任务轨迹 | Motus（所有3个专家，使用**潜在动作**） |\n| **第3阶段（Motus SFT）** | 第6层：目标机器人任务轨迹 | Motus（所有3个专家，使用动作） |\n\n六层数据金字塔如图所示：\n\n\u003Cimg width=\"615\" height=\"455\" alt=\"image\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fthu-ml_Motus_readme_057c1c703607.png\" \u002F>\n\n**📖 查看详细指南：** [**训练指南**](TRAINING.md)\n\n**数据准备：**\n- [RoboTwin 数据集转换器](data\u002Frobotwin2\u002Frobotwin_data_convert\u002FREADME.md)\n- [多摄像头拼接](data\u002Futils\u002Fmulti_camera_concat.py)\n\n## 故障排除\n\n**📖 详细指南：**\n- [推理问题](INFERENCE.md#troubleshooting)\n- [训练问题](TRAINING.md#troubleshooting)\n- [数据格式问题](DATA_FORMAT.md)\n\n## 引用\n如果您觉得我们的工作有所帮助，请引用我们：\n\n```bibtex\n@misc{bi2025motusunifiedlatentaction,\n      title={Motus: 统一潜在动作世界模型}, \n      author={Hongzhe Bi 和 Hengkai Tan 和 Shenghao Xie 和 Zeyuan Wang 和 Shuhe Huang 和 Haitian Liu 和 Ruowen Zhao 和 Yao Feng 和 Chendong Xiang 和 Yinze Rong 和 Hongyan Zhao 和 Hanyu Liu 和 Zhizhong Su 和 Lei Ma 和 Hang Su 和 Jun Zhu},\n      year={2025},\n      eprint={2512.13030},\n      archivePrefix={arXiv},\n      primaryClass={cs.CV},\n      url={https:\u002F\u002Farxiv.org\u002Fabs\u002F2512.13030}, \n}\n```\n\n谢谢！","# Motus 快速上手指南\n\nMotus 是一个统一的潜在动作世界模型（Unified Latent Action World Model），集成了理解、动作和视频生成三大专家模块，支持多种机器人任务建模。\n\n## 环境准备\n\n### 系统要求\n- **操作系统**: Linux (推荐 Ubuntu 20.04+)\n- **Python 版本**: 3.10\n- **CUDA 版本**: 12.8\n\n### 硬件要求\n根据使用场景不同，显存需求如下：\n| 模式 | 显存需求 | 推荐显卡 |\n|------|----------|----------|\n| 推理 (预编码 T5) | > 24 GB | RTX 5090 |\n| 推理 (无预编码 T5) | ~ 41 GB | A100 (40GB\u002F80GB) \u002F H100 \u002F B200 |\n| 训练 | > 80 GB | A100 (80GB) \u002F H100 \u002F B200 |\n\n## 安装步骤\n\n### 1. 克隆仓库\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fthu-ml\u002FMotus.git\ncd Motus\n```\n\n### 2. 创建并激活 Conda 环境\n```bash\nconda create -n motus python=3.10 -y\nconda activate motus\n```\n\n### 3. 安装 PyTorch (CUDA 12.8)\n建议使用清华镜像源加速下载：\n```bash\npip install torch==2.7.1 torchvision==0.22.1 --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu128\n```\n\n### 4. 安装 Flash Attention\n```bash\npip install flash-attn --no-build-isolation\n```\n\n### 5. 安装项目依赖\n```bash\npip install -r requirements.txt\n```\n\n### 6. (可选) 安装 LeRobot 支持\n如需处理特定机器人数据集，可安装此依赖：\n```bash\npip install --no-deps lerobot==0.3.2\npip install -r requirements\u002Flerobot.txt\n```\n\n## 基本使用\n\n### 1. 下载模型权重\n使用 `huggingface-cli` 下载预训练模型和基础模型到本地 `pretrained_models` 目录：\n\n```bash\nmkdir -p pretrained_models\n\n# 下载 Motus 系列检查点\nhuggingface-cli download motus-robotics\u002FMotus_Wan2_2_5B_pretrain --local-dir .\u002Fpretrained_models\u002FMotus_Wan2_2_5B_pretrain\nhuggingface-cli download motus-robotics\u002FMotus --local-dir .\u002Fpretrained_models\u002FMotus\nhuggingface-cli download motus-robotics\u002FMotus_robotwin2 --local-dir .\u002Fpretrained_models\u002FMotus_robotwin2\n\n# 下载基础模型 (VLM & VGM Backbone)\nhuggingface-cli download Qwen\u002FQwen3-VL-2B-Instruct --local-dir .\u002Fpretrained_models\u002FQwen3-VL-2B-Instruct\nhuggingface-cli download Wan-AI\u002FWan2.2-TI2V-5B --local-dir .\u002Fpretrained_models\u002FWan2.2-TI2V-5B\n```\n> **提示**: 国内用户若访问 Hugging Face 较慢，可设置镜像环境变量：\n> `export HF_ENDPOINT=https:\u002F\u002Fhf-mirror.com`\n\n### 2. 配置模型路径\n修改对应的配置文件（例如 `configs\u002Frobotwin.yaml`），确保路径指向刚才下载的模型目录：\n\n```yaml\nmodel:\n  wan:\n    checkpoint_path: \".\u002Fpretrained_models\u002FMotus_Wan2_2_5B_pretrain\"\n    config_path: \".\u002Fpretrained_models\u002FMotus_Wan2_2_5B_pretrain\"\n    vae_path: \".\u002Fpretrained_models\u002FWan2.2-TI2V-5B\u002FWan2.2_VAE.pth\"\n  vlm:\n    checkpoint_path: \".\u002Fpretrained_models\u002FQwen3-VL-2B-Instruct\"\n    config_path: \".\u002Fpretrained_models\u002FQwen3-VL-2B-Instruct\"\n```\n\n### 3. 运行推理\n以最简单的 RoboTwin 2.0 仿真环境推理为例（具体脚本参数请参考 `inference\u002Frobotwin\u002FMotus\u002FREADME.md`）：\n\n```bash\npython inference\u002Frobotwin\u002Frun_inference.py \\\n    --config configs\u002Frobotwin.yaml \\\n    --checkpoint .\u002Fpretrained_models\u002FMotus_robotwin2 \\\n    --task \u003Cyour_task_name>\n```\n\n对于真实世界机器人或无需机器人环境的极简推理，请参考 `INFERENCE.md` 中的详细指令调整输入数据格式。","某具身智能研发团队正在为仓储物流机器人开发一套能同时理解指令、规划动作并预测执行结果的通用控制系统。\n\n### 没有 Motus 时\n- **模型割裂严重**：团队需分别维护视觉语言模型（VLM）、动作策略模型和视频生成模型，导致系统架构臃肿，多模型间的数据对齐与协同推理极其困难。\n- **动作泛化能力弱**：传统方法难以从有限的示教数据中提取像素级的细微动作差异，机器人在面对未见过的货物摆放或光照变化时，成功率大幅下降。\n- **训练数据利用率低**：缺乏统一的潜在动作空间，无法有效融合大规模异构数据（如不同机器人采集的轨迹），导致多任务联合训练效果不佳，平均成功率难以突破 70%。\n- **推理模式僵化**：系统无法灵活切换“正向预测”与“逆向推导”模式，当需要反推“如何达成目标状态”时，必须重新训练专用的逆动力学模型。\n\n### 使用 Motus 后\n- **统一架构集成**：Motus 通过混合专家（MoT）架构将理解、动作和视频生成三大能力整合进一个约 8B 参数的统一模型中，大幅简化了部署流程并实现了端到端的协同推理。\n- **潜在动作增强泛化**：利用光流技术学习像素级“增量动作”，Motus 能从海量数据中提取共享的运动规律，使机器人在复杂随机环境下的任务成功率提升至 87.02%。\n- **大规模数据预训练**：借助六层数据金字塔和三阶段训练流程，Motus 高效融合了多源异构数据，显著提升了模型在 50 种不同仓储任务中的零样本适应能力。\n- **灵活模式切换**：依托 UniDiffuser 风格的调度器，开发者可随时让 Motus 在“世界模型预测”、“视觉 - 语言 - 动作控制”及“视频生成”等多种模式间无缝切换，无需额外训练。\n\nMotus 通过构建统一的潜在动作世界模型，彻底打破了感知、决策与生成的壁垒，让机器人真正具备了像人类一样“看懂、想通、做对”的通用智能。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fthu-ml_Motus_3c5578a6.png","thu-ml","TSAIL group","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fthu-ml_852ca511.jpg","Tsinghua Statistical Artificial Intelligence & Learning Group",null,"https:\u002F\u002Fml.cs.tsinghua.edu.cn","https:\u002F\u002Fgithub.com\u002Fthu-ml",[83,87],{"name":84,"color":85,"percentage":86},"Python","#3572A5",98.3,{"name":88,"color":89,"percentage":90},"Shell","#89e051",1.7,937,43,"2026-04-07T12:48:21","Apache-2.0",4,"未说明","必需 NVIDIA GPU。推理模式：预编码 T5 需 >24GB 显存 (推荐 RTX 5090)，无预编码 T5 需 ~41GB 显存 (推荐 A100\u002FH100\u002FB200)；训练模式：需 >80GB 显存 (推荐 A100 80GB\u002FH100\u002FB200)。安装指令指定 CUDA 12.8。",{"notes":99,"python":100,"dependencies":101},"该项目是一个统一的潜在动作世界模型，总参数量约 8B。使用前需通过 Hugging Face 下载多个基础模型检查点（包括 Wan2.2-5B 和 Qwen3-VL-2B）及 Motus 专用检查点。支持 RoboTwin 2.0 仿真数据及真实世界机器人数据格式。建议使用 conda 管理环境，并严格按照文档配置模型路径。","3.10",[102,103,104,105],"torch==2.7.1","torchvision==0.22.1","flash-attn","lerobot==0.3.2",[15,52,62],[108,109,110,111,112,113,114],"robotics","world-model","video-generation","unidiffuser","robotic-manipulation","diffusion-model","vision-language-action-model","2026-03-27T02:49:30.150509","2026-04-08T01:49:11.537133",[118,123,128,133,138,143],{"id":119,"question_zh":120,"answer_zh":121,"source_url":122},23508,"Wan 微调时的训练损失（Loss）收敛范围是多少？如果 Loss 停留在 0.3-0.5 不下降怎么办？","正常的收敛 Loss 应远低于 0.3。如果训练约 5000 步后 Loss 仍在 0.3-0.5 之间波动且不下降，通常是因为代码中的前向传播过程未与原始 Wan 模型对齐。\n\n解决方案：检查是否错误地将 action 和 und token 拼接到 qkv 中。如果是进行纯视频微调（不加入 action 和 und expert），需要将 `Motus\u002Fbak\u002Fwan\u002Fmodules\u002Fmodel.py` 中的 `WanSelfAttention` 改回原始 Wan 版本的实现。修正后，20,000 步时 Loss 可降至 0.07 左右。","https:\u002F\u002Fgithub.com\u002Fthu-ml\u002FMotus\u002Fissues\u002F18",{"id":124,"question_zh":125,"answer_zh":126,"source_url":127},23509,"系统安装了 CUDA 12.6，但 PyTorch 最高只支持到 CUDA 12.4，该如何安装兼容的 PyTorch 版本？","CUDA 具有向前兼容性，因此即使系统驱动是 CUDA 12.6，也可以安装为 CUDA 12.4 编译的 PyTorch 版本。\n\n请使用以下命令安装：\n```bash\npip install torch==2.4.0 torchvision==0.19.0 --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu124\n```\n注意 URL 后缀应为 `cu124` 而不是 `cu126`，这样即可在 CUDA 12.6 环境下正常运行。","https:\u002F\u002Fgithub.com\u002Fthu-ml\u002FMotus\u002Fissues\u002F7",{"id":129,"question_zh":130,"answer_zh":131,"source_url":132},23510,"使用 transformers>=5.0.0 运行 Motus 策略时出现 'ValueError: too many values to unpack' 或 'AttributeError' 错误，如何解决？","该问题通常由代码意外删除或运行时状态异常引起。目前确认代码仅在 `transformers==5.0.0rc0` 版本下能正确运行。\n\n如果遇到此错误，请尝试以下步骤：\n1. 确保安装版本为 `transformers==5.0.0rc0`。\n2. 检查代码是否有误删的行。\n3. 如果是临时运行时状态导致的（如显存未清理），可以尝试清空 GPU 缓存后重试：\n```bash\npython -c \"import torch; torch.cuda.empty_cache()\"\n# 然后重新运行评估脚本，例如：\nbash eval.sh PickCube\n```","https:\u002F\u002Fgithub.com\u002Fthu-ml\u002FMotus\u002Fissues\u002F31",{"id":134,"question_zh":135,"answer_zh":136,"source_url":137},23511,"在哪里可以找到 RoboTwin2 所有 50 个任务的完整基准测试（Benchmark）结果？","论文正文中未列出所有任务的详细数据，完整的实验结果（包括 Motus 及其他对比模型如 pi05 的结果）已收录在论文的附录（Appendix）部分，请直接查阅论文附录获取详细信息。","https:\u002F\u002Fgithub.com\u002Fthu-ml\u002FMotus\u002Fissues\u002F14",{"id":139,"question_zh":140,"answer_zh":141,"source_url":142},23512,"预训练的 VDM 模型（pretrained_vdm）缺少配置文件（config json），应该使用哪个配置？","是的，您可以直接使用与 `wan_ti2v` 模型相同的配置文件来运行 pretrained_vdm。","https:\u002F\u002Fgithub.com\u002Fthu-ml\u002FMotus\u002Fissues\u002F12",{"id":144,"question_zh":145,"answer_zh":146,"source_url":147},23513,"代码中从根目录导入 `wan` 包，但 `wan` 文件夹实际位于 `bak` 目录下，这是否正确？","这是正确的。项目通过在 `Motus\u002Fmodels\u002Fmotus.py` 文件的第 13-16 行修改了系统路径（sys.path），将 `bak` 目录添加到了导入路径中，因此可以直接从根目录导入 `wan` 模块。","https:\u002F\u002Fgithub.com\u002Fthu-ml\u002FMotus\u002Fissues\u002F6",[]]