[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-Alpha-VLLM--Lumina-mGPT-2.0":3,"tool-Alpha-VLLM--Lumina-mGPT-2.0":64},[4,17,26,40,48,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,2,"2026-04-03T11:11:01",[13,14,15],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":23,"last_commit_at":32,"category_tags":33,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,34,35,36,15,37,38,13,39],"数据工具","视频","插件","其他","语言模型","音频",{"id":41,"name":42,"github_repo":43,"description_zh":44,"stars":45,"difficulty_score":10,"last_commit_at":46,"category_tags":47,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,38,37],{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":10,"last_commit_at":54,"category_tags":55,"status":16},519,"PaddleOCR","PaddlePaddle\u002FPaddleOCR","PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来，转换成计算机可读取的结构化数据，让机器真正“看懂”图文内容。\n\n面对海量纸质或电子文档，PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域，它扮演着连接图像与大型语言模型（LLM）的桥梁角色，能将视觉信息直接转化为文本输入，助力智能问答、文档分析等应用场景落地。\n\nPaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显：不仅支持全球 100 多种语言的识别，还能在 Windows、Linux、macOS 等多个系统上运行，并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目，PaddleOCR 既能满足快速集成的需求，也能支撑前沿的视觉语言研究，是处理文字识别任务的理想选择。",74913,"2026-04-05T10:44:17",[38,14,13,37],{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":23,"last_commit_at":62,"category_tags":63,"status":16},2471,"tesseract","tesseract-ocr\u002Ftesseract","Tesseract 是一款历史悠久且备受推崇的开源光学字符识别（OCR）引擎，最初由惠普实验室开发，后由 Google 维护，目前由全球社区共同贡献。它的核心功能是将图片中的文字转化为可编辑、可搜索的文本数据，有效解决了从扫描件、照片或 PDF 文档中提取文字信息的难题，是数字化归档和信息自动化的重要基础工具。\n\n在技术层面，Tesseract 展现了强大的适应能力。从版本 4 开始，它引入了基于长短期记忆网络（LSTM）的神经网络 OCR 引擎，显著提升了行识别的准确率；同时，为了兼顾旧有需求，它依然支持传统的字符模式识别引擎。Tesseract 原生支持 UTF-8 编码，开箱即用即可识别超过 100 种语言，并兼容 PNG、JPEG、TIFF 等多种常见图像格式。输出方面，它灵活支持纯文本、hOCR、PDF、TSV 等多种格式，方便后续数据处理。\n\nTesseract 主要面向开发者、研究人员以及需要构建文档处理流程的企业用户。由于它本身是一个命令行工具和库（libtesseract），不包含图形用户界面（GUI），因此最适合具备一定编程能力的技术人员集成到自动化脚本或应用程序中",73286,"2026-04-03T01:56:45",[13,14],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":79,"owner_twitter":79,"owner_website":79,"owner_url":80,"languages":81,"stars":90,"forks":91,"last_commit_at":92,"license":93,"difficulty_score":10,"env_os":94,"env_gpu":95,"env_ram":96,"env_deps":97,"category_tags":104,"github_topics":79,"view_count":23,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":105,"updated_at":106,"faqs":107,"releases":138},2433,"Alpha-VLLM\u002FLumina-mGPT-2.0","Lumina-mGPT-2.0","Lumina-mGPT 2.0: Stand-Alone AutoRegressive Image Modeling","Lumina-mGPT 2.0 是一款由上海人工智能实验室等机构联合研发的开源图像生成模型。它采用纯解码器架构，从零开始训练，能够像处理文字一样，通过自回归方式逐个像素地“预测”并生成图像。这款模型的核心优势在于其强大的通用性，它将文本生图、图像对生成、特定主体生成、多轮图像编辑、可控生成以及密集预测等多种视觉任务统一在一个模型中，无需为不同任务切换不同的专用模型。\n\n传统 AI 绘画工具往往功能单一，例如专门用于修图的模型无法直接生成新图片，而 Lumina-mGPT 2.0 有效解决了这一碎片化问题。它提供了一个“全能型”解决方案，让用户在同一个框架下即可完成从创意构思到细节修改的全流程操作，极大地简化了工作流并降低了多模型维护的复杂度。\n\n在技术层面，Lumina-mGPT 2.0 引入了推测雅可比解码（Speculative Jacobi Decoding）和模型量化等加速策略，显著提升了推理效率，使其在实际应用中更加快速流畅。此外，它还原生支持华为 MindSpeed MM 框架，展现了良好的生态兼容性。\n\nLumina-mGPT 2.0 非常适合 AI 研究人员、开发者以及","Lumina-mGPT 2.0 是一款由上海人工智能实验室等机构联合研发的开源图像生成模型。它采用纯解码器架构，从零开始训练，能够像处理文字一样，通过自回归方式逐个像素地“预测”并生成图像。这款模型的核心优势在于其强大的通用性，它将文本生图、图像对生成、特定主体生成、多轮图像编辑、可控生成以及密集预测等多种视觉任务统一在一个模型中，无需为不同任务切换不同的专用模型。\n\n传统 AI 绘画工具往往功能单一，例如专门用于修图的模型无法直接生成新图片，而 Lumina-mGPT 2.0 有效解决了这一碎片化问题。它提供了一个“全能型”解决方案，让用户在同一个框架下即可完成从创意构思到细节修改的全流程操作，极大地简化了工作流并降低了多模型维护的复杂度。\n\n在技术层面，Lumina-mGPT 2.0 引入了推测雅可比解码（Speculative Jacobi Decoding）和模型量化等加速策略，显著提升了推理效率，使其在实际应用中更加快速流畅。此外，它还原生支持华为 MindSpeed MM 框架，展现了良好的生态兼容性。\n\nLumina-mGPT 2.0 非常适合 AI 研究人员、开发者以及需要高效视觉内容创作的专业设计师使用。对于研究人员而言，其开源的代码和统一的架构为探索多模态学习提供了宝贵资源；对于开发者和设计师，它提供了灵活且强大的 API 接口，便于集成到各类应用或工作流中，实现高质量的图像生成与编辑。虽然普通用户也可通过部署体验其功能，但其主要定位仍偏向于具备一定技术背景的专业群体。","\u003Cp align=\"center\">\n \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FAlpha-VLLM_Lumina-mGPT-2.0_readme_3085c67f92bb.png\" width=\"15%\"\u002F>\n \u003Cbr>\n\u003C\u002Fp>\n\n\u003Cdiv align=\"center\">\n\u003Ch1> Lumina-mGPT 2.0: Stand-Alone AutoRegressive Image Modeling \u003C\u002Fh1>\n \n[![Lumina-mGPT 2.0](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FPaper-Lumina--mGPT%202.0-2b9348.svg?logo=arXiv)](https:\u002F\u002Farxiv.org\u002Fabs\u002F2507.17801) \n[![Lumina-mGPT 2.0](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FLumina--T2I%20checkpoints-Model(7B)-yellow?logoColor=violet&label=%F0%9F%A4%97%20Lumina-mGPT%202.0%20checkpoints)](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0) \n[![Lumina-mGPT 2.0](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FLumina--T2I%20checkpoints-Model(7B)-yellow?logoColor=violet&label=%F0%9F%A4%97%20Lumina-mGPT%202.0%20Omni%20checkpoints)](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0-Omni)\n\n\n\u003Cb>¹Shanghai Innovation Institute,   ²Shanghai AI Laboratory,   ³The Chinese University of Hong Kong,\u003C\u002Fb>\n\n\u003Cb>⁴Shanghai Jiao Tong University,   ⁵Zhejiang University of Technology\u003C\u002Fb>\n\n\u003C\u002Fdiv>\n\n## 📚 Introduction \nWe introduce a stand-alone, decoder-only autoregressive model, **trained from scratch**, that unifies a broad spectrum of image generation tasks, including **text-to-image generation, image pair generation, subject-driven generation, multi-turn image editing, controllable generation, and dense prediction**.\n\n\u003Cdetails open>\n  \u003Csummary>User Demo\u003C\u002Fsummary>\n  \u003Cvideo src=\"https:\u002F\u002Fgithub.com\u002Fuser-attachments\u002Fassets\u002F7b87eeac-3f20-450c-8df0-a45218acc51d\" width=\"100%\"\u002F>\u003C\u002Fvideo>\n\u003C\u002Fdetails>\n   \n\u003Cdetails open>\n  \u003Csummary>Architecture\u003C\u002Fsummary>\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FAlpha-VLLM_Lumina-mGPT-2.0_readme_532e6a09e2bc.png\" width=\"100%\"\u002F>\n\u003C\u002Fdetails>\n\n\n\n## 🔥 News\n**[2025-08-15]** 🎉🎉🎉 MindSpeed ​​MM (supported by Huawei) natively supports the Lumina-mGPT 2.0 on [MindSpeed ​​MM](https:\u002F\u002Fgitee.com\u002Fascend\u002FMindSpeed-MM).\n\n**[2025-08-02]** 🎉🎉🎉 We released the inference code for image-to-image tasks and the all-in-one model checkpoints on [HuggingFace](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0-Omni).\n\n**[2025-07-25]** 🎉🎉🎉 We released the technical report on [arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2507.17801).\n\n**[2025-04-03]** 🎉🎉🎉 Lumina-mGPT 2.0 is released!\n\n\n## 📝 Open-source Plan\n - [x] Text-to-Image \u002F Image Pair Generation Inference & Checkpoints\n - [x] Finetuning code\n - [x] Technical Report\n - [x] All-in-One Inference & Checkpoints\n \n\n## 📽️ Demo Examples\n\u003Cdetails open>\n  \u003Csummary>Qualitative Performance\u003C\u002Fsummary>\n \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FAlpha-VLLM_Lumina-mGPT-2.0_readme_6ea2d0656d7c.jpg\" width=\"100%\"\u002F>\n\u003C\u002Fdetails>\n\n\u003Cdetails open>\n  \u003Csummary>Comparison with Lumina-mGPT and Janus Pro\u003C\u002Fsummary>\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FAlpha-VLLM_Lumina-mGPT-2.0_readme_44f64af31698.png\" width=\"100%\"\u002F>\n\u003C\u002Fdetails>\n\n\n## 🚀 Quick Start\n### ⚙️ Installation\n#### 1. Create a conda environment\n```\ngit clone https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT-2.0.git && cd Lumina-mGPT-2.0\nconda create -n lumina_mgpt_2 python=3.10 -y\nconda activate lumina_mgpt_2\n```\n#### 2. Install  dependencies\n```\npip install -r requirements.txt\npip install https:\u002F\u002Fgithub.com\u002FDao-AILab\u002Fflash-attention\u002Freleases\u002Fdownload\u002Fv2.7.4.post1\u002Fflash_attn-2.7.4.post1+cu12torch2.3cxx11abiFALSE-cp310-cp310-linux_x86_64.whl --no-build-isolation\npip install -e .\n```\n> Kindly find proper flash-attn version from this [link](https:\u002F\u002Fgithub.com\u002FDao-AILab\u002Fflash-attention\u002Freleases).\n#### 3. Download MoVQGAN\nDownload MoVQGAN weights and put them to the ```lumina_mgpt\u002Fmovqgan\u002F270M\u002Fmovqgan_270M.ckpt```.\n```\nmkdir -p lumina_mgpt\u002Fmovqgan\u002F270M\nwget -O lumina_mgpt\u002Fmovqgan\u002F270M\u002Fmovqgan_270M.ckpt https:\u002F\u002Fhuggingface.co\u002Fai-forever\u002FMoVQGAN\u002Fresolve\u002Fmain\u002Fmovqgan_270M.ckpt\n```\n\n\n### ⛽ Text-to-Image Generation \n#### 1. Simple Inference\n```\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 768 --height 768\n```\n\n#### 2. Accelerate Inference\nProvide two acceleration strategies: Speculative Jacobi Decoding (```--speculative_jacobi```) and Model Quantization (```--quant```).\n```\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 768 --height 768 \\\n--speculative_jacobi --quant\n```\n\nWe provide the inference time and GPU memory on one A100 as a reference:\n| Method               | Inference Time | Inference GPU Memory | Description |\n|----------------------|--------|--------|--------------------|\n| Lumina-mGPT 2.0      | 694s   | 80 GB  | ✅ Recommend |\n| + speculative_jacobi | 324s     | 79.2 GB  | ✅ Recommend |\n| + speculative_jacobi & quant | 304s     | 33.8 GB  |  |\n\n### 🌟 Image-to-Image Inference\nYou can refer to [sample_i2i.sh](lumina_mgpt\u002Fscripts\u002Fsample_i2i.sh). We DO NOT recommand speculative_jacobi for image-to-image inference.\n```\n# controllable generation\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 512 --height 1024 --task i2i \\\n--i2i_task depth --image_path \"assets\u002Fdepth.png\" \\\n--image_prompt \"A rubber outdoor basketball. On a sunlit outdoor court, it bounces near a vibrant mural, casting a long shadow on the asphalt as children eagerly chase it.\"\n\n# subject driven generation\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 512 --height 1024 --task i2i \\\n--i2i_task subject --image_path \"assets\u002Fsubject.png\" \\\n--image_prompt \"On a bustling city rooftop at sunset, this item gleams in a tall glass as the skyline silhouettes in the background, the air filled with laughter and clinking glasses.\"\n```\n\n### 💻 Finetuning\nPlease refer to  [TRAIN.md](TRAIN.md)\n\n\n## 🤗 Checkpoints\n| Model                  | Size | Resolution | pth link | Description |\n|------------------------|--------|--------|--------------------|--------------------|\n| Lumina-mGPT 2.0        | 7B     | 768px  | [7B](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0)       | Text-to-Image |\n| Lumina-mGPT 2.0 (Omni) | 7B     | 768px & 512px (image-to-image)  | [7B-Omni](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0-Omni)       | All-in-One                            |\n\n\n## 📜 Acknowledgements\n\n**Thanks to the following open-sourced codebase for their wonderful work and codebase!**\n- [Lumina-mGPT: Illuminate Flexible Photorealistic Text-to-Image Generation with Multimodal Generative Pretraining](https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT)\n- [Accelerating Auto-regressive Text-to-Image Generation with Training-free Speculative Jacobi Decoding](https:\u002F\u002Fgithub.com\u002Ftyshiwo1\u002FAccelerating-T2I-AR-with-SJD\u002F)\n- [Chameleon: Mixed-Modal Early-Fusion Foundation Models](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fchameleon)\n\n\n## 🔥 Open Positions\nWe are hiring interns and full-time researchers at the Alpha VLLM Group, Shanghai AI Lab. If you are interested, please contact alphavllm@gmail.com.\n\n## 📖 BibTeX\n\n```\n@article{xin2025lumina,\n  title={Lumina-mGPT 2.0: Stand-Alone AutoRegressive Image Modeling},\n  author={Xin, Yi and Yan, Juncheng and Qin, Qi and Li, Zhen and Liu, Dongyang and Li, Shicheng and Huang, Victor Shea-Jay and Zhou, Yupeng and Zhang, Renrui and Zhuo, Le and others},\n  journal={arXiv preprint arXiv:2507.17801},\n  year={2025}\n}\n```\n\n\n\n","\u003Cp align=\"center\">\n \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FAlpha-VLLM_Lumina-mGPT-2.0_readme_3085c67f92bb.png\" width=\"15%\"\u002F>\n \u003Cbr>\n\u003C\u002Fp>\n\n\u003Cdiv align=\"center\">\n\u003Ch1> Lumina-mGPT 2.0：独立自回归图像建模 \u003C\u002Fh1>\n \n[![Lumina-mGPT 2.0](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FPaper-Lumina--mGPT%202.0-2b9348.svg?logo=arXiv)](https:\u002F\u002Farxiv.org\u002Fabs\u002F2507.17801) \n[![Lumina-mGPT 2.0](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FLumina--T2I%20checkpoints-Model(7B)-yellow?logoColor=violet&label=%F0%9F%A4%97%20Lumina-mGPT%202.0%20checkpoints)](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0) \n[![Lumina-mGPT 2.0](https:\u002F\u002Fimg.shields.io\u002Fbadge\u002FLumina--T2I%20checkpoints-Model(7B)-yellow?logoColor=violet&label=%F0%9F%A4%97%20Lumina-mGPT%202.0%20Omni%20checkpoints)](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0-Omni)\n\n\n\u003Cb>¹上海创新研究院，  ²上海人工智能实验室，  ³香港中文大学，\u003C\u002Fb>\n\n\u003Cb>⁴上海交通大学，  ⁵浙江工业大学\u003C\u002Fb>\n\n\u003C\u002Fdiv>\n\n## 📚 引言 \n我们提出了一种独立的、仅解码器架构的自回归模型，该模型**从零开始训练**，能够统一处理广泛的图像生成任务，包括**文本到图像生成、图像对生成、主体驱动生成、多轮图像编辑、可控生成以及密集预测**。\n\n\u003Cdetails open>\n  \u003Csummary>用户演示\u003C\u002Fsummary>\n  \u003Cvideo src=\"https:\u002F\u002Fgithub.com\u002Fuser-attachments\u002Fassets\u002F7b87eeac-3f20-450c-8df0-a45218acc51d\" width=\"100%\"\u002F>\u003C\u002Fvideo>\n\u003C\u002Fdetails>\n   \n\u003Cdetails open>\n  \u003Csummary>架构\u003C\u002Fsummary>\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FAlpha-VLLM_Lumina-mGPT-2.0_readme_532e6a09e2bc.png\" width=\"100%\"\u002F>\n\u003C\u002Fdetails>\n\n\n\n## 🔥 最新消息\n**[2025-08-15]** 🎉🎉🎉 MindSpeed ​​MM（华为支持）原生支持 [MindSpeed ​​MM](https:\u002F\u002Fgitee.com\u002Fascend\u002FMindSpeed-MM) 上的 Lumina-mGPT 2.0。\n\n**[2025-08-02]** 🎉🎉🎉 我们在 [HuggingFace](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0-Omni) 上发布了图像到图像任务的推理代码和一体化模型检查点。\n\n**[2025-07-25]** 🎉🎉🎉 我们在 [arXiv](https:\u002F\u002Farxiv.org\u002Fabs\u002F2507.17801) 上发布了技术报告。\n\n**[2025-04-03]** 🎉🎉🎉 Lumina-mGPT 2.0 正式发布！\n\n\n## 📝 开源计划\n - [x] 文本到图像 \u002F 图像对生成推理与检查点\n - [x] 微调代码\n - [x] 技术报告\n - [x] 一体化推理与检查点\n \n\n## 📽️ 演示示例\n\u003Cdetails open>\n  \u003Csummary>定性效果\u003C\u002Fsummary>\n \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FAlpha-VLLM_Lumina-mGPT-2.0_readme_6ea2d0656d7c.jpg\" width=\"100%\"\u002F>\n\u003C\u002Fdetails>\n\n\u003Cdetails open>\n  \u003Csummary>与 Lumina-mGPT 和 Janus Pro 的对比\u003C\u002Fsummary>\n  \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FAlpha-VLLM_Lumina-mGPT-2.0_readme_44f64af31698.png\" width=\"100%\"\u002F>\n\u003C\u002Fdetails>\n\n\n## 🚀 快速入门\n### ⚙️ 安装\n#### 1. 创建 conda 环境\n```\ngit clone https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT-2.0.git && cd Lumina-mGPT-2.0\nconda create -n lumina_mgpt_2 python=3.10 -y\nconda activate lumina_mgpt_2\n```\n#### 2. 安装依赖\n```\npip install -r requirements.txt\npip install https:\u002F\u002Fgithub.com\u002FDao-AILab\u002Fflash-attention\u002Freleases\u002Fdownload\u002Fv2.7.4.post1\u002Fflash_attn-2.7.4.post1+cu12torch2.3cxx11abiFALSE-cp310-cp310-linux_x86_64.whl --no-build-isolation\npip install -e .\n```\n> 请从这个 [链接](https:\u002F\u002Fgithub.com\u002FDao-AILab\u002Fflash-attention\u002Freleases) 找到合适的 flash-attn 版本。\n#### 3. 下载 MoVQGAN\n下载 MoVQGAN 权重，并将其放置到 ```lumina_mgpt\u002Fmovqgan\u002F270M\u002Fmovqgan_270M.ckpt```。\n```\nmkdir -p lumina_mgpt\u002Fmovqgan\u002F270M\nwget -O lumina_mgpt\u002Fmovqgan\u002F270M\u002Fmovqgan_270M.ckpt https:\u002F\u002Fhuggingface.co\u002Fai-forever\u002FMoVQGAN\u002Fresolve\u002Fmain\u002Fmovqgan_270M.ckpt\n```\n\n\n### ⛽ 文本到图像生成 \n#### 1. 简单推理\n```\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 768 --height 768\n```\n\n#### 2. 加速推理\n提供两种加速策略：推测雅可比解码（```--speculative_jacobi```) 和模型量化（```--quant```）。\n```\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 768 --height 768 \\\n--speculative_jacobi --quant\n```\n\n我们以一台 A100 为例，提供推理时间和 GPU 内存参考：\n| 方法               | 推理时间 | 推理 GPU 内存 | 描述 |\n|----------------------|--------|--------|--------------------|\n| Lumina-mGPT 2.0      | 694s   | 80 GB  | ✅ 推荐 |\n| + speculative_jacobi | 324s     | 79.2 GB  | ✅ 推荐 |\n| + speculative_jacobi & quant | 304s     | 33.8 GB  |  |\n\n### 🌟 图像到图像推理\n您可以参考 [sample_i2i.sh](lumina_mgpt\u002Fscripts\u002Fsample_i2i.sh)。我们不建议在图像到图像推理中使用推测雅可比。\n```\n# 可控生成\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --温度 1.0 --宽度 512 --高度 1024 --task i2i \\\n--i2i_task depth --image_path \"assets\u002Fdepth.png\" \\\n--image_prompt \"一个橡胶户外篮球。在阳光明媚的户外球场上，它在一幅充满活力的壁画旁弹跳，在沥青地面上投下长长的影子，孩子们正热切地追逐着它。\"\n\n# 主体驱动生成\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --温度 1.0 --宽度 512 --高度 1024 --task i2i \\\n--i2i_task subject --image_path \"assets\u002Fsubject.png\" \\\n--image_prompt \"在喧闹的城市屋顶上，日落时分，这件物品在高脚杯中闪闪发光，背景是剪影般的天际线，空气中弥漫着欢笑声和碰杯声。\"\n```\n\n### 💻 微调\n请参阅 [TRAIN.md](TRAIN.md)\n\n\n## 🤗 检查点\n| 模型                  | 大小 | 分辨率 | pth 链接 | 描述 |\n|------------------------|--------|--------|--------------------|--------------------|\n| Lumina-mGPT 2.0        | 7B     | 768px  | [7B](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0)       | 文本到图像 |\n| Lumina-mGPT 2.0 (Omni) | 7B     | 768px & 512px（图像到图像）  | [7B-Omni](https:\u002F\u002Fhuggingface.co\u002FAlpha-VLLM\u002FLumina-mGPT-2.0-Omni)       | 全功能                            |\n\n\n## 📜 致谢\n\n**感谢以下开源代码库及其优秀的工作和代码基础！**\n- [Lumina-mGPT：通过多模态预训练实现灵活逼真的文本到图像生成](https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT)\n- [无需训练的推测雅可比解码加速自回归文本到图像生成](https:\u002F\u002Fgithub.com\u002Ftyshiwo1\u002FAccelerating-T2I-AR-with-SJD\u002F)\n- [Chameleon：混合模态早期融合基础模型](https:\u002F\u002Fgithub.com\u002Ffacebookresearch\u002Fchameleon)\n\n\n## 🔥 招聘信息\n我们正在上海人工智能实验室的 Alpha VLLM 团队招聘实习生和全职研究人员。如果您感兴趣，请联系 alphavllm@gmail.com。\n\n## 📖 BibTeX\n\n```\n@article{xin2025lumina,\n  title={Lumina-mGPT 2.0：独立自回归图像建模},\n  author={Xin, Yi and Yan, Juncheng and Qin, Qi and Li, Zhen and Liu, Dongyang and Li, Shicheng and Huang, Victor Shea-Jay and Zhou, Yupeng and Zhang, Renrui and Zhuo, Le and others},\n  journal={arXiv预印本 arXiv:2507.17801},\n  year={2025}\n}\n```","# Lumina-mGPT 2.0 快速上手指南\n\nLumina-mGPT 2.0 是一个从头训练的独立自回归图像生成模型，支持文生图、图生图、主体驱动生成及多轮编辑等任务。本指南将帮助你快速配置环境并运行模型。\n\n## 1. 环境准备\n\n*   **系统要求**：Linux 操作系统（推荐 x86_64 架构）。\n*   **硬件要求**：建议配备 NVIDIA GPU（显存至少 34GB+ 以支持量化加速推理，80GB+ 为最佳体验）。\n*   **软件依赖**：\n    *   Python 3.10\n    *   Conda\n    *   CUDA 12.x (配合 PyTorch 2.3)\n\n## 2. 安装步骤\n\n### 2.1 克隆代码与创建环境\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT-2.0.git && cd Lumina-mGPT-2.0\nconda create -n lumina_mgpt_2 python=3.10 -y\nconda activate lumina_mgpt_2\n```\n\n### 2.2 安装依赖库\n\n首先安装基础依赖，然后安装特定版本的 `flash-attn`，最后安装项目本身。\n\n```bash\npip install -r requirements.txt\npip install https:\u002F\u002Fgithub.com\u002FDao-AILab\u002Fflash-attention\u002Freleases\u002Fdownload\u002Fv2.7.4.post1\u002Fflash_attn-2.7.4.post1+cu12torch2.3cxx11abiFALSE-cp310-cp310-linux_x86_64.whl --no-build-isolation\npip install -e .\n```\n\n> **注意**：请根据你的 CUDA 和 PyTorch 版本选择合适的 `flash-attn` wheel 包，参考 [Flash Attention Releases](https:\u002F\u002Fgithub.com\u002FDao-AILab\u002Fflash-attention\u002Freleases)。\n\n### 2.3 下载 MoVQGAN 权重\n\n模型需要 MoVQGAN 的权重文件才能运行，请执行以下命令下载并放置到指定目录：\n\n```bash\nmkdir -p lumina_mgpt\u002Fmovqgan\u002F270M\nwget -O lumina_mgpt\u002Fmovqgan\u002F270M\u002Fmovqgan_270M.ckpt https:\u002F\u002Fhuggingface.co\u002Fai-forever\u002FMoVQGAN\u002Fresolve\u002Fmain\u002Fmovqgan_270M.ckpt\n```\n\n## 3. 基本使用\n\n### 3.1 文生图 (Text-to-Image)\n\n#### 基础推理\n运行以下命令进行标准的文生图测试。生成的图片将保存在 `save_samples\u002F` 目录下。\n\n```bash\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 768 --height 768\n```\n\n#### 加速推理（推荐）\n为了减少显存占用并提高推理速度，建议启用投机雅可比解码 (`--speculative_jacobi`) 和模型量化 (`--quant`)。\n\n*   **显存参考**：开启加速与量化后，A100 显存占用可从 80GB 降至约 33.8GB，推理时间从 694s 缩短至 304s。\n\n```bash\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 768 --height 768 \\\n--speculative_jacobi --quant\n```\n\n### 3.2 图生图 (Image-to-Image)\n\n图生图任务建议使用 **Lumina-mGPT 2.0 Omni** 检查点。以下示例展示可控生成（如深度图转图像）和主体驱动生成。\n\n**注意**：图生图任务**不推荐**使用 `speculative_jacobi`。\n\n#### 示例 1：可控生成 (Depth to Image)\n\n```bash\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 512 --height 1024 --task i2i \\\n--i2i_task depth --image_path \"assets\u002Fdepth.png\" \\\n--image_prompt \"A rubber outdoor basketball. On a sunlit outdoor court, it bounces near a vibrant mural, casting a long shadow on the asphalt as children eagerly chase it.\"\n```\n\n#### 示例 2：主体驱动生成 (Subject Driven)\n\n```bash\npython generate_examples\u002Fgenerate.py \\\n--model_path Alpha-VLLM\u002FLumina-mGPT-2.0 --save_path save_samples\u002F \\\n--cfg 4.0 --top_k 4096 --temperature 1.0 --width 512 --height 1024 --task i2i \\\n--i2i_task subject --image_path \"assets\u002Fsubject.png\" \\\n--image_prompt \"On a bustling city rooftop at sunset, this item gleams in a tall glass as the skyline silhouettes in the background, the air filled with laughter and clinking glasses.\"\n```\n\n### 3.3 模型检查点说明\n\n*   **Lumina-mGPT 2.0 (7B)**: 适用于纯文生图任务。\n*   **Lumina-mGPT 2.0 Omni (7B)**: 全能模型，支持文生图及各类图生图任务。如需运行上述图生图示例，请确保 `--model_path` 指向 Omni 版本的 checkpoint。","某电商平台的视觉设计团队正面临“双十一”大促前的紧急需求，需要为数百款新品快速生成高质量的主图、细节展示图以及针对特定用户群体的个性化营销海报。\n\n### 没有 Lumina-mGPT-2.0 时\n- **工作流割裂且繁琐**：设计师需分别使用文生图工具生成底图、用修图软件进行局部重绘、再借助其他模型进行风格迁移，不同工具间格式转换耗时巨大。\n- **主体一致性难以维持**：在生成同一商品的不同角度或场景图时，传统模型难以严格锁定商品特征，导致每次生成都需要大量后期手动修正以保持品牌视觉统一。\n- **编辑交互成本高**：若需根据运营反馈修改图片细节（如更换背景或调整光影），往往需要重新生成整张图片或依赖复杂的 ControlNet 插件，迭代效率极低。\n- **资源部署复杂**：为了支持多种图像任务，服务器需部署多个专用模型，显存占用高且维护难度大，推理速度难以满足高峰期并发需求。\n\n### 使用 Lumina-mGPT-2.0 后\n- **全流程统一建模**：凭借独立的自回归架构，Lumina-mGPT-2.0 在一个模型内即可完成从文生图、图像对生成到多轮编辑的所有任务，大幅简化了技术栈和工作流。\n- **精准的主体驱动生成**：利用其强大的主体驱动能力，设计师只需上传一次商品图，即可在不同提示词下生成保持高度一致性的多场景营销图，几乎无需后期微调。\n- **自然的多轮编辑体验**：支持类似对话的多轮图像编辑，设计师可通过自然语言指令直接调整局部细节（如“把背景换成雪地”），实现所见即所得的快速迭代。\n- **高效推理与部署**：结合 Speculative Jacobi Decoding 等加速策略及量化技术，Lumina-mGPT-2.0 在降低显存占用的同时显著提升了推理速度，轻松应对高并发生成需求。\n\nLumina-mGPT-2.0 通过统一的多模态生成能力，将电商视觉内容的生产周期从“天级”缩短至“分钟级”，极大提升了创意落地的效率与质量。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FAlpha-VLLM_Lumina-mGPT-2.0_3085c67f.png","Alpha-VLLM","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FAlpha-VLLM_c381d705.png","A branch of OpenGVLab at Shanghai AI Lab",null,"https:\u002F\u002Fgithub.com\u002FAlpha-VLLM",[82,86],{"name":83,"color":84,"percentage":85},"Python","#3572A5",99.6,{"name":87,"color":88,"percentage":89},"Shell","#89e051",0.4,1080,52,"2026-03-26T15:21:06","Apache-2.0","Linux","必需 NVIDIA GPU。参考数据：A100 (80GB)。基础推理需约 80GB 显存；使用量化+投机解码后需约 33.8GB 显存。依赖 CUDA 12 (cu12)。","未说明",{"notes":98,"python":99,"dependencies":100},"1. 官方提供的 flash-attention wheel 包明确限定为 Linux x86_64 环境，因此主要支持 Linux。2. 必须手动下载 MoVQGAN 权重文件 (movqgan_270M.ckpt) 并放置于指定目录 lumina_mgpt\u002Fmovqgan\u002F270M\u002F 才能运行。3. 华为 Ascend NPU 用户可通过 MindSpeed MM 原生支持运行该模型。4. 图像到图像 (Image-to-Image) 推理不建议使用 speculative_jacobi 加速策略。","3.10",[101,102,103],"flash-attn==2.7.4.post1","torch==2.3","requirements.txt 中列出的其他依赖",[14,37],"2026-03-27T02:49:30.150509","2026-04-06T07:16:04.778829",[108,113,118,123,128,133],{"id":109,"question_zh":110,"answer_zh":111,"source_url":112},11196,"为什么在使用非 768 分辨率（如 512x512）生成图像时，`--width` 和 `--height` 参数不生效或生成的图像不符合预期？","这是因为官方发布的检查点（checkpoint）是在 768 分辨率下训练的。当传入其他分辨率时，内部的 token 映射（如 `\u003Creserved_xx>`）可能与预期的潜在维度（latent dim）不对齐，导致生成异常。目前的临时解决方案是硬编码设置 `w_grids` 和 `h_grids` 以匹配所需分辨率，但建议主要使用 768 分辨率以获得最佳效果。","https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT-2.0\u002Fissues\u002F11",{"id":114,"question_zh":115,"answer_zh":116,"source_url":117},11197,"Lumina-mGPT-2.0 目前支持多 GPU 推理吗？","目前尚不支持多 GPU 推理。维护者表示正在与 Hugging Face 联系以寻求支持，并计划在未来版本中通过 vLLM 或 SGLang 等框架实现多卡支持。","https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT-2.0\u002Fissues\u002F1",{"id":119,"question_zh":120,"answer_zh":121,"source_url":122},11198,"如何执行主体驱动生成（Subject-Driven Generation）或换脸（Face Swap）任务？","目前直接的图像到图像（i2i）功能尚未完全开源。维护者曾表示图像到图像的功能计划在 1-2 周内开源。在此之前，直接使用 `inference_solver` 进行此类任务可能会遇到注意力掩码（attention mask）未设置等问题，导致输出随机字符串。建议等待官方发布专门的 i2i 演示代码或更新。","https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT-2.0\u002Fissues\u002F6",{"id":124,"question_zh":125,"answer_zh":126,"source_url":127},11199,"运行推理脚本时出现警告：“ChameleonForConditionalGeneration has generative capabilities... doesn't directly inherit from GenerationMixin”，该如何解决？","这是由于 Transformers 库版本更新导致的兼容性警告。从 v4.50 开始，`PreTrainedModel` 不再继承自 `GenerationMixin`。解决方法包括：1. 如果使用 `trust_remote_code=True`，可以通过自动类加载模型来消除警告；2. 修改模型代码使其在 `PreTrainedModel` 之后继承 `GenerationMixin`；3. 联系模型所有者更新代码。尽管有警告，模型通常仍能加载和运行，但建议关注官方修复。","https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT-2.0\u002Fissues\u002F4",{"id":129,"question_zh":130,"answer_zh":131,"source_url":132},11200,"是否有计划支持 ComfyUI？","维护者表示会考虑支持 ComfyUI。目前已有社区成员为 1.0 版本制作了节点包，但官方尚未发布针对 2.0 版本的正式 ComfyUI 自定义节点。","https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT-2.0\u002Fissues\u002F7",{"id":134,"question_zh":135,"answer_zh":136,"source_url":137},11201,"在调用 `inference_solver.generate` 并传入图像时遇到错误，有哪些常见的输入格式注意事项？","确保传入的图像格式正确。虽然支持 PIL Image 对象或路径，但需注意 `qas` 参数的格式。例如，描述图像时应使用类似 `[[f\"Describe the image. \u003C|image|>\", None]]` 的格式。如果遇到注意力掩码相关的警告，请确保正确传递 `attention_mask`。此外，部分图像输入相关的错误可能源于内部组件尚未完全开源或存在版本兼容性问题，建议检查是否使用了最新的代码库。","https:\u002F\u002Fgithub.com\u002FAlpha-VLLM\u002FLumina-mGPT-2.0\u002Fissues\u002F13",[]]