[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-XiaomiMiMo--MiMo":3,"tool-XiaomiMiMo--MiMo":64},[4,17,25,39,48,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",140436,2,"2026-04-05T23:32:43",[13,14,15],"开发框架","Agent","语言模型","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":10,"last_commit_at":23,"category_tags":24,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,15],{"id":26,"name":27,"github_repo":28,"description_zh":29,"stars":30,"difficulty_score":10,"last_commit_at":31,"category_tags":32,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[33,34,35,36,14,37,15,13,38],"图像","数据工具","视频","插件","其他","音频",{"id":40,"name":41,"github_repo":42,"description_zh":43,"stars":44,"difficulty_score":45,"last_commit_at":46,"category_tags":47,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,3,"2026-04-04T04:44:48",[14,33,13,15,37],{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":45,"last_commit_at":54,"category_tags":55,"status":16},519,"PaddleOCR","PaddlePaddle\u002FPaddleOCR","PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来，转换成计算机可读取的结构化数据，让机器真正“看懂”图文内容。\n\n面对海量纸质或电子文档，PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域，它扮演着连接图像与大型语言模型（LLM）的桥梁角色，能将视觉信息直接转化为文本输入，助力智能问答、文档分析等应用场景落地。\n\nPaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显：不仅支持全球 100 多种语言的识别，还能在 Windows、Linux、macOS 等多个系统上运行，并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目，PaddleOCR 既能满足快速集成的需求，也能支撑前沿的视觉语言研究，是处理文字识别任务的理想选择。",74939,"2026-04-05T23:16:38",[15,33,13,37],{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":45,"last_commit_at":62,"category_tags":63,"status":16},2181,"OpenHands","OpenHands\u002FOpenHands","OpenHands 是一个专注于 AI 驱动开发的开源平台，旨在让智能体（Agent）像人类开发者一样理解、编写和调试代码。它解决了传统编程中重复性劳动多、环境配置复杂以及人机协作效率低等痛点，通过自动化流程显著提升开发速度。\n\n无论是希望提升编码效率的软件工程师、探索智能体技术的研究人员，还是需要快速原型验证的技术团队，都能从中受益。OpenHands 提供了灵活多样的使用方式：既可以通过命令行（CLI）或本地图形界面在个人电脑上轻松上手，体验类似 Devin 的流畅交互；也能利用其强大的 Python SDK 自定义智能体逻辑，甚至在云端大规模部署上千个智能体并行工作。\n\n其核心技术亮点在于模块化的软件智能体 SDK，这不仅构成了平台的引擎，还支持高度可组合的开发模式。此外，OpenHands 在 SWE-bench 基准测试中取得了 77.6% 的优异成绩，证明了其解决真实世界软件工程问题的能力。平台还具备完善的企业级功能，支持与 Slack、Jira 等工具集成，并提供细粒度的权限管理，适合从个人开发者到大型企业的各类用户场景。",70626,"2026-04-05T22:51:36",[15,14,13,36],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":77,"owner_avatar_url":78,"owner_bio":79,"owner_company":80,"owner_location":80,"owner_email":81,"owner_twitter":76,"owner_website":80,"owner_url":82,"languages":83,"stars":88,"forks":89,"last_commit_at":90,"license":91,"difficulty_score":45,"env_os":92,"env_gpu":93,"env_ram":92,"env_deps":94,"category_tags":101,"github_topics":80,"view_count":10,"oss_zip_url":80,"oss_zip_packed_at":80,"status":16,"created_at":102,"updated_at":103,"faqs":104,"releases":135},3426,"XiaomiMiMo\u002FMiMo","MiMo","MiMo: Unlocking the Reasoning Potential of Language Model – From Pretraining to Posttraining","MiMo 是小米开源的一系列专为推理任务打造的大语言模型，旨在充分释放语言模型在逻辑思考方面的潜力。当前许多强化学习（RL）研究依赖庞大的基础模型来提升代码与数学能力，而 MiMo 证明了即使是 7B 参数的小型模型，通过定制化的预训练策略结合后训练优化，也能在数学解题和代码生成上超越更大的 32B 模型，甚至媲美 OpenAI o1-mini 的表现。\n\nMiMo 解决了小模型难以同时在数学和代码领域取得突破的难题。其核心亮点在于“从预训练开始为推理而生”的设计理念，不仅关注后训练阶段的强化学习，更在预训练阶段就针对推理能力进行专门优化。最新版本的 MiMo-7B-RL-0530 在 AIME24 数学竞赛基准测试中得分高达 80.1，超越了 DeepSeek R1，展现了惊人的推理进化能力。\n\n这套模型非常适合 AI 研究人员、大模型开发者以及对高效推理模型有需求的技术团队使用。项目完整开源了包括基础模型、监督微调（SFT）模型及多种强化学习版本在内的全套权重，为社区探索高性能推理大模型提供了宝贵的基线和参考。无论是希望复现前沿推理技术的研究者，还是寻求在有限算力下部署强大推理能力","MiMo 是小米开源的一系列专为推理任务打造的大语言模型，旨在充分释放语言模型在逻辑思考方面的潜力。当前许多强化学习（RL）研究依赖庞大的基础模型来提升代码与数学能力，而 MiMo 证明了即使是 7B 参数的小型模型，通过定制化的预训练策略结合后训练优化，也能在数学解题和代码生成上超越更大的 32B 模型，甚至媲美 OpenAI o1-mini 的表现。\n\nMiMo 解决了小模型难以同时在数学和代码领域取得突破的难题。其核心亮点在于“从预训练开始为推理而生”的设计理念，不仅关注后训练阶段的强化学习，更在预训练阶段就针对推理能力进行专门优化。最新版本的 MiMo-7B-RL-0530 在 AIME24 数学竞赛基准测试中得分高达 80.1，超越了 DeepSeek R1，展现了惊人的推理进化能力。\n\n这套模型非常适合 AI 研究人员、大模型开发者以及对高效推理模型有需求的技术团队使用。项目完整开源了包括基础模型、监督微调（SFT）模型及多种强化学习版本在内的全套权重，为社区探索高性能推理大模型提供了宝贵的基线和参考。无论是希望复现前沿推理技术的研究者，还是寻求在有限算力下部署强大推理能力的工程师，MiMo 都是一个值得深入探索的选择。","\u003Cdiv align=\"center\">\n  \u003Cpicture>\n    \u003Csource srcset=\"https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fraw\u002Fmain\u002Ffigures\u002FXiaomi_MiMo_darkmode.png?raw=true\" media=\"(prefers-color-scheme: dark)\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FXiaomiMiMo_MiMo_readme_67bb6094feae.png\" width=\"60%\" alt=\"Xiaomi-MiMo\" \u002F>\n  \u003C\u002Fpicture>\n\u003C\u002Fdiv>\n\n\u003Ch3 align=\"center\">\n  \u003Cb>\n    \u003Cspan>━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u003C\u002Fspan>\n    \u003Cbr\u002F>\n    Unlocking the Reasoning Potential of Language Model\u003Cbr\u002F>From Pretraining to Posttraining\n    \u003Cbr\u002F>\n    \u003Cspan>━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u003C\u002Fspan>\n    \u003Cbr\u002F>\n  \u003C\u002Fb>\n\u003C\u002Fh3>\n\n\u003Cbr\u002F>\n\n\u003Cdiv align=\"center\" style=\"line-height: 1;\">\n  |\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\" target=\"_blank\">🤗 HuggingFace\u003C\u002Fa>\n   |\n  \u003Ca href=\"https:\u002F\u002Fwww.modelscope.cn\u002Forganization\u002FXiaomiMiMo\" target=\"_blank\">🤖️ ModelScope\u003C\u002Fa>\n   |\n  \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2505.07608\" target=\"_blank\">📔 Technical Report\u003C\u002Fa>\n   |\n  \u003Cbr\u002F>\n\u003C\u002Fdiv>\n\n\u003Cbr\u002F>\n\n---\n\n## Updates\n\n[2025.05.30] We scaled the SFT dataset from approximately 500K to 6M instances and continuously expanding the RL training window size from 32K to 48K, the performance of [MiMo-7B-RL-0530](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-RL-0530) on AIME24 can be continuously improved and eventually surpass that of DeepSeek R1 (79.8).\n\n\u003Ctable>\n  \u003Cthead>\n    \u003Ctr>\n      \u003Cth>Benchmark\u003C\u002Fth>\n      \u003Cth>MiMo-7B-RL\u003C\u002Fth>\n      \u003Cth>MiMo-7B-RL-0530\u003C\u002Fth>\n    \u003C\u002Ftr>\n  \u003C\u002Fthead>\n  \u003Ctbody>\n    \u003Ctr>\n      \u003Ctd colspan=\"3\">\u003Cstrong>Mathematics\u003C\u002Fstrong>\u003C\u002Ftd>\n      \u003Cp align=\"center\">\n        \u003Ctd rowspan=\"11\">\u003Cimg width=\"80%\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FXiaomiMiMo_MiMo_readme_7e4ccf7285db.jpg\">\u003C\u002Ftd>\n      \u003C\u002Fp>\n    \u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>MATH500\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>95.8\u003C\u002Ftd>\u003Ctd>97.2\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>AIME 2024\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>68.2\u003C\u002Ftd>\u003Ctd>80.1\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>AIME 2025\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>55.4\u003C\u002Ftd>\u003Ctd>70.2\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd colspan=\"3\">\u003Cstrong>Code\u003C\u002Fstrong>\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>LiveCodeBench v5\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>57.8\u003C\u002Ftd>\u003Ctd>60.9\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>LiveCodeBench v6\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>49.3\u003C\u002Ftd>\u003Ctd>52.2\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd colspan=\"3\">\u003Cstrong>STEM\u003C\u002Fstrong>\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>GPQA-Diamond\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>54.4\u003C\u002Ftd>\u003Ctd>60.6\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd colspan=\"3\">\u003Cstrong>General\u003C\u002Fstrong>\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>Alignbench1.1\u003Cbr\u002F>(Evaluated by GPT4.1)\u003C\u002Ftd>\u003Ctd>6.9\u003C\u002Ftd>\u003Ctd>7.4\u003C\u002Ftd>\u003C\u002Ftr>\n  \u003C\u002Ftbody>\n\u003C\u002Ftable>\n\n---\n\n## I. Introduction\n\nCurrently, most successful RL works, including open-source research, rely on relatively large base models, e.g., 32B models, particularly for enhancing code reasoning capabilities. Moreover, it was widely considered that achieving uniform and simultaneous improvements in both mathematical and code capabilities within a small model is challenging. Nonetheless, we believe that the effectiveness of the RL trained reasoning model relies on the inherent reasoning potential of the base model. To fully unlock the reasoning potential of language models, efforts must focus not only on post-training but also on pre-training strategies tailored to reasoning.\n\nIn this work, we present MiMo-7B, a series of models trained from scratch and born for reasoning tasks. Our RL experiments from MiMo-7B-Base show that our model possesses extraordinary reasoning potential, even surpassing much larger 32B models. Additionally, we perform RL training on a cold-started SFT model, resulting in MiMo-7B-RL, which demonstrates superior performance on both mathematics and code reasoning tasks, matching the performance of OpenAI o1-mini.\n\n\u003Cp align=\"center\">\n  \u003Cimg width=\"80%\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FXiaomiMiMo_MiMo_readme_2b7eaf321c0b.png\">\n\u003C\u002Fp>\n\nWe open-source MiMo-7B series, including checkpoints of the base model, SFT model, RL model trained from base model, and RL model trained from the SFT model.\nWe believe this report along with the models will provide valuable insights to develop powerful reasoning LLMs that benefit the larger community.\n\n### 🌟 Highlights\n\n- **Pre-Training: Base Model Born for Reasoning**\n  - We optimize the data preprocessing pipeline, enhancing text extraction toolkits and applying multi-dimensional data filtering to increase reasoning pattern density in pre-training data. We also employ multiple strategies to generate massive diverse synthetic reasoning data.\n  - We adopt a three-stage data mixture strategy for pre-training. Overall, MiMo-7B-Base is pre-trained on approximately 25 trillion tokens.\n  - We incorporate Multiple-Token Prediction as an additional training objective, which enhances model performance and accelerates inference.\n\n- **Post-Training Recipe: Pioneering Reasoning Model**\n    - We curate 130K mathematics and code problems as RL training data, which can be verified by rule-based verifiers. Each problem undergoes careful cleaning and difficulty assessment to ensure quality. We employ only rule-based accuracy rewards to avoid potential reward hacking.\n    - To mitigate the sparse reward issue for challenging code problems, we introduce a test difficulty driven code reward. By assigning fine-grained scores for test cases with varying difficulty levels, the policy can be more effectively optimized via dense reward signal.\n    - We implement a data re-sampling strategy for easy problems to enhance rollout sampling efficiency and stabilize policy updates, particularly in the later phases of RL training.\n\n- **RL Infrastructure**\n    - We develop a Seamless Rollout Engine to accelerate RL training and validation. Our design integrates continuous rollout, asynchronous reward computation, and early termination to minimize GPU idle time, achieving $2.29\\times$ faster training and $1.96\\times$ faster validation.\n    - We support MTP in vLLM and enhance the robustness of the inference engine in the RL system.\n\n## II. Model Details\n\nThe MTP layers of MiMo-7B is tuned during pretraining and SFT and freezed during RL. With one MTP layer for speculative decoding, the acceptance rate is about 90%.\n\n\u003Cp align=\"center\">\n  \u003Cimg width=\"80%\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FXiaomiMiMo_MiMo_readme_6fa80b92df20.png\">\n\u003C\u002Fp>\n\n> Models are available at [https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo) and [https:\u002F\u002Fwww.modelscope.cn\u002Forganization\u002FXiaomiMiMo](https:\u002F\u002Fwww.modelscope.cn\u002Forganization\u002FXiaomiMiMo)\n\n|    **Model**    |                                **Description**                                |                            **Download (HuggingFace)**                             |                                  **Download (ModelScope)**                                  |\n| :-------------: | :---------------------------------------------------------------------------: | :-------------------------------------------------------------------------------: | :-----------------------------------------------------------------------------------------: |\n|  MiMo-7B-Base   |               Base model with extraordinary reasoning potential               |    [🤗 XiaomiMiMo\u002FMiMo-7B-Base](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-Base)    |    [🤖️ XiaomiMiMo\u002FMiMo-7B-Base](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FXiaomiMiMo\u002FMiMo-7B-Base)    |\n| MiMo-7B-RL-Zero |                       RL model trained from base model                        | [🤗 XiaomiMiMo\u002FMiMo-7B-RL-Zero](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-RL-Zero) | [🤖️ XiaomiMiMo\u002FMiMo-7B-RL-Zero](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FXiaomiMiMo\u002FMiMo-7B-RL-Zero) |\n|   MiMo-7B-SFT   |                       SFT model trained from base model                       |     [🤗 XiaomiMiMo\u002FMiMo-7B-SFT](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-SFT)     |     [🤖️ XiaomiMiMo\u002FMiMo-7B-SFT](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FXiaomiMiMo\u002FMiMo-7B-SFT)     |\n|   MiMo-7B-RL    | RL model trained from SFT model, superior performance matching OpenAI o1-mini |      [🤗 XiaomiMiMo\u002FMiMo-7B-RL](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-RL)      |      [🤖️ XiaomiMiMo\u002FMiMo-7B-RL](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FXiaomiMiMo\u002FMiMo-7B-RL)      |\n\n## III. Evaluation Results\n\n| Benchmark                     | GPT-4o-0513 | Claude-3.5-Sonnet-1022 | OpenAI o1-mini | QwQ-32B-Preview | R1-Distill-Qwen-14B | R1-Distill-Qwen-7B | MiMo-7B-RL |\n| ----------------------------- | :---------: | :--------------------: | :------------: | :-------------: | :-----------------: | :----------------: | :--------: |\n| **General**                   |             |                        |                |                 |                     |                    |            |\n| GPQA Diamond\u003Cbr\u002F>(Pass@1)     |    49.9     |          65.0          |      60.0      |      54.5       |        59.1         |        49.1        |    54.4    |\n| SuperGPQA\u003Cbr\u002F>(Pass@1)        |    42.4     |          48.2          |      45.2      |      43.6       |        40.6         |        28.9        |    40.5    |\n| DROP\u003Cbr\u002F>(3-shot F1)          |    83.7     |          88.3          |      83.9      |      71.2       |        85.5         |        77.0        |    78.7    |\n| MMLU-Pro\u003Cbr\u002F>(EM)             |    72.6     |          78.0          |      80.3      |      52.0       |        68.8         |        53.5        |    58.6    |\n| IF-Eval\u003Cbr\u002F>(Prompt Strict)   |    84.3     |          86.5          |      84.8      |      40.4       |        78.3         |        60.5        |    61.0    |\n| **Mathematics**               |             |                        |                |                 |                     |                    |            |\n| MATH-500\u003Cbr\u002F>(Pass@1)         |    74.6     |          78.3          |      90.0      |      90.6       |        93.9         |        92.8        |    95.8    |\n| AIME 2024\u003Cbr\u002F>(Pass@1)        |     9.3     |          16.0          |      63.6      |      50.0       |        69.7         |        55.5        |    68.2    |\n| AIME 2025\u003Cbr\u002F>(Pass@1)        |    11.6     |          7.4           |      50.7      |      32.4       |        48.2         |        38.8        |    55.4    |\n| **Code**                      |             |                        |                |                 |                     |                    |            |\n| LiveCodeBench v5\u003Cbr\u002F>(Pass@1) |    32.9     |          38.9          |      53.8      |      41.9       |        53.1         |        37.6        |    57.8    |\n| LiveCodeBench v6\u003Cbr\u002F>(Pass@1) |    30.9     |          37.2          |      46.8      |      39.1       |        31.9         |        23.9        |    49.3    |\n\nMiMo-7B series\n\n| Benchmark                     | MiMo-7B-Base | MiMo-7B-RL-Zero | MiMo-7B-SFT | MiMo-7B-RL |\n| ----------------------------- | :----------: | :-------------: | :---------: | :--------: |\n| **Mathematics**               |              |                 |             |            |\n| MATH500\u003Cbr\u002F>(Pass@1)          |     37.4     |      93.6       |    93.0     |    95.8    |\n| AIME 2024\u003Cbr\u002F>(Pass@1)        |     32.9     |      56.4       |    58.7     |    68.2    |\n| AIME 2025\u003Cbr\u002F>(Pass@1)        |     24.3     |      46.3       |    44.3     |    55.4    |\n| **Code**                      |              |                 |             |            |\n| LiveCodeBench v5\u003Cbr\u002F>(Pass@1) |     32.9     |      49.1       |    52.3     |    57.8    |\n| LiveCodeBench v6\u003Cbr\u002F>(Pass@1) |     29.1     |      42.9       |    45.5     |    49.3    |\n\n> [!IMPORTANT]\n> The evaluations are conducted with `temperature=0.6`.\n> \n> AIME24 and AIME25 are with averaged score of 32 repetitions. LiveCodeBench v5 (20240801-20250201), LiveCodeBench v6 (20250201-20250501), GPQA-Diamond and IF-Eval are with averaged score of 8 repetitions. MATH500 and SuperGPQA are with a single run.\n\n## IV. Deployment\n\n### SGLang Inference\n\nThanks to the [MiMo model support](https:\u002F\u002Fgithub.com\u002Fsgl-project\u002Fsglang\u002Fpull\u002F5921) and [MTP](https:\u002F\u002Fgithub.com\u002Fsgl-project\u002Fsglang\u002Fpull\u002F6059) from the SGLang team, we supported MiMo in SGLang mainstream.\n\nExample Script\n\n```bash\n# Install the latest SGlang from main branch\npython3 -m uv pip install \"sglang[all] @ git+https:\u002F\u002Fgithub.com\u002Fsgl-project\u002Fsglang.git\u002F@main#egg=sglang&subdirectory=python\"\n\n# Launch SGLang Server\npython3 -m sglang.launch_server --model-path XiaomiMiMo\u002FMiMo-7B-RL-0530 --host 0.0.0.0 --trust-remote-code\n\n# Launch MTP Server\npython3 -m sglang.launch_server --model-path XiaomiMiMo\u002FMiMo-7B-RL-0530 --trust-remote-code \\\n--speculative-algorithm EAGLE --speculative-num-steps 1 --speculative-eagle-topk 1 \\\n--speculative-num-draft-tokens 2  --mem-fraction 0.5\n```\n\nDetailed usage can be found in [SGLang documents](https:\u002F\u002Fdocs.sglang.ai\u002Fbackend\u002Fsend_request.html).\n\n### vLLM inference\n\n1. [Recommended] We officially support inference with MiMo-MTP using [our fork of vLLM](https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002Fvllm\u002Ftree\u002Ffeat_mimo_mtp_stable_073).\n\nExample script\n\n```py\nfrom vllm import LLM, SamplingParams\n\nmodel_path = \"\u002Fpath\u002Fto\u002FMiMo\"\nllm = LLM(\n    model=model_path,\n    trust_remote_code=True,\n    num_speculative_tokens=1,\n    disable_log_stats=False\n)\nsampling_params = SamplingParams(temperature=0.6)\n\nconversation = [\n    {\n        \"role\": \"system\",\n        \"content\": \"\"\n    },\n    {\n        \"role\": \"user\",\n        \"content\": \"Write an essay about the importance of higher education.\",\n    },\n]\n\noutputs = llm.chat(conversation,\n                   sampling_params=sampling_params,\n                   use_tqdm=False)\n\nfor output in outputs:\n    prompt = output.prompt\n    generated_text = output.outputs[0].text\n    print(f\"Prompt: {prompt!r}, Generated text: {generated_text!r}\")\n\nprint(\"=\" * 80)\n```\n\n2. Or, you can register a vLLM loader for MiMo without loading MTP parameters.\n\nYou can copy the [`registry\u002Fregister_mimo_in_vllm.py`](https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fblob\u002Fmain\u002Fregistry\u002Fregister_mimo_in_vllm.py) to your directory and import it with\n\n```py\nimport register_mimo_in_vllm\n\nfrom vllm import LLM, SamplingParams\n\nmodel_path = \"\u002Fpath\u002Fto\u002FMiMo\"\nllm = LLM(\n    model=model_path,\n    trust_remote_code=True,\n    # num_speculative_tokens=1,\n    disable_log_stats=False\n)\nsampling_params = SamplingParams(temperature=0.6)\n```\n\n### HuggingFace inference\n\nExample script\n\n```py\nfrom transformers import AutoModel, AutoModelForCausalLM, AutoTokenizer\n\nmodel_id = \"XiaomiMiMo\u002FMiMo-7B-RL-0530\"\nmodel = AutoModelForCausalLM.from_pretrained(model_id, trust_remote_code=True)\ntokenizer = AutoTokenizer.from_pretrained(model_id)\ninputs = tokenizer([\"Today is\"], return_tensors='pt')\noutput = model.generate(**inputs, max_new_tokens = 100)\nprint(tokenizer.decode(output.tolist()[0]))\n```\n\n### Recommended environment and prompts\n\n- We recommend using [our fork of vLLM](https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002Fvllm\u002Ftree\u002Ffeat_mimo_mtp_stable_073) which is developed based on vLLM 0.7.3.\n- We recommend using empty system prompt.\n\n> We haven't verified MiMo with other inference engines and welcome contributions based on the model definition in the Huggingface repo 💻.\n\n## V. Citation\n\n```bibtex\n@misc{coreteam2025mimounlockingreasoningpotential,\n      title={MiMo: Unlocking the Reasoning Potential of Language Model -- From Pretraining to Posttraining}, \n      author={LLM-Core-Team Xiaomi},\n      year={2025},\n      eprint={2505.07608},\n      archivePrefix={arXiv},\n      primaryClass={cs.CL},\n      url={https:\u002F\u002Farxiv.org\u002Fabs\u002F2505.07608}, \n}\n```\n\n\n## VI. Contact\n\nPlease contact us at [mimo@xiaomi.com](mailto:mimo@xiaomi.com) or open an issue if you have any questions.\n","\u003Cdiv align=\"center\">\n  \u003Cpicture>\n    \u003Csource srcset=\"https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fraw\u002Fmain\u002Ffigures\u002FXiaomi_MiMo_darkmode.png?raw=true\" media=\"(prefers-color-scheme: dark)\">\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FXiaomiMiMo_MiMo_readme_67bb6094feae.png\" width=\"60%\" alt=\"Xiaomi-MiMo\" \u002F>\n  \u003C\u002Fpicture>\n\u003C\u002Fdiv>\n\n\u003Ch3 align=\"center\">\n  \u003Cb>\n    \u003Cspan>━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u003C\u002Fspan>\n    \u003Cbr\u002F>\n    解锁语言模型的推理潜能\u003Cbr\u002F>从预训练到后训练\n    \u003Cbr\u002F>\n    \u003Cspan>━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━\u003C\u002Fspan>\n    \u003Cbr\u002F>\n  \u003C\u002Fb>\n\u003C\u002Fh3>\n\n\u003Cbr\u002F>\n\n\u003Cdiv align=\"center\" style=\"line-height: 1;\">\n  |\n  \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\" target=\"_blank\">🤗 HuggingFace\u003C\u002Fa>\n   |\n  \u003Ca href=\"https:\u002F\u002Fwww.modelscope.cn\u002Forganization\u002FXiaomiMiMo\" target=\"_blank\">🤖️ ModelScope\u003C\u002Fa>\n   |\n  \u003Ca href=\"https:\u002F\u002Farxiv.org\u002Fabs\u002F2505.07608\" target=\"_blank\">📔 技术报告\u003C\u002Fa>\n   |\n  \u003Cbr\u002F>\n\u003C\u002Fdiv>\n\n\u003Cbr\u002F>\n\n---\n\n## 更新\n\n[2025.05.30] 我们将SFT数据集规模从约50万条扩展至600万条，并持续将强化学习训练窗口大小由3.2万扩大至4.8万。在此基础上训练的[MiMo-7B-RL-0530](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-RL-0530)在AIME24上的表现不断提升，最终有望超越DeepSeek R1（79.8分）。\n\n\u003Ctable>\n  \u003Cthead>\n    \u003Ctr>\n      \u003Cth>基准测试\u003C\u002Fth>\n      \u003Cth>MiMo-7B-RL\u003C\u002Fth>\n      \u003Cth>MiMo-7B-RL-0530\u003C\u002Fth>\n    \u003C\u002Ftr>\n  \u003C\u002Fthead>\n  \u003Ctbody>\n    \u003Ctr>\n      \u003Ctd colspan=\"3\">\u003Cstrong>数学\u003C\u002Fstrong>\u003C\u002Ftd>\n      \u003Cp align=\"center\">\n        \u003Ctd rowspan=\"11\">\u003Cimg width=\"80%\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FXiaomiMiMo_MiMo_readme_7e4ccf7285db.jpg\">\u003C\u002Ftd>\n      \u003C\u002Fp>\n    \u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>MATH500\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>95.8\u003C\u002Ftd>\u003Ctd>97.2\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>AIME 2024\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>68.2\u003C\u002Ftd>\u003Ctd>80.1\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>AIME 2025\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>55.4\u003C\u002Ftd>\u003Ctd>70.2\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd colspan=\"3\">\u003Cstrong>代码\u003C\u002Fstrong>\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>LiveCodeBench v5\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>57.8\u003C\u002Ftd>\u003Ctd>60.9\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>LiveCodeBench v6\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>49.3\u003C\u002Ftd>\u003Ctd>52.2\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd colspan=\"3\">\u003Cstrong>STEM\u003C\u002Fstrong>\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>GPQA-Diamond\u003Cbr\u002F>(Pass@1)\u003C\u002Ftd>\u003Ctd>54.4\u003C\u002Ftd>\u003Ctd>60.6\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd colspan=\"3\">\u003Cstrong>通用\u003C\u002Fstrong>\u003C\u002Ftd>\u003C\u002Ftr>\n    \u003Ctr>\u003Ctd>Alignbench1.1\u003Cbr\u002F>(由GPT4.1评估)\u003C\u002Ftd>\u003Ctd>6.9\u003C\u002Ftd>\u003Ctd>7.4\u003C\u002Ftd>\u003C\u002Ftr>\n  \u003C\u002Ftbody>\n\u003C\u002Ftable>\n\n---\n\n## I. 引言\n\n目前，大多数成功的强化学习工作，包括开源研究，都依赖于相对较大的基础模型，例如32B参数量的模型，尤其是在提升代码推理能力方面。此外，人们普遍认为，在小型模型中同时实现数学和代码能力的均衡提升是极具挑战性的。然而，我们认为，强化学习训练后的推理模型效果，关键在于基础模型本身的推理潜力。要充分释放语言模型的推理潜能，不仅需要关注后训练阶段，还应着重于针对推理任务优化的预训练策略。\n\n在本工作中，我们提出了MiMo-7B系列模型，这些模型从零开始训练，专为推理任务而生。我们的实验表明，即使是基于MiMo-7B-Base的基础模型，也展现出非凡的推理潜力，甚至超越了许多更大的32B模型。此外，我们还在冷启动的SFT模型上进行了强化学习训练，得到了MiMo-7B-RL，该模型在数学和代码推理任务上均表现出色，性能可与OpenAI o1-mini相媲美。\n\n\u003Cp align=\"center\">\n  \u003Cimg width=\"80%\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FXiaomiMiMo_MiMo_readme_2b7eaf321c0b.png\">\n\u003C\u002Fp>\n\n我们开源了MiMo-7B系列模型，包括基础模型、SFT模型、基于基础模型训练的RL模型以及基于SFT模型训练的RL模型的检查点。我们相信，这份报告及相应模型将为开发强大的推理型大语言模型提供宝贵见解，从而惠及更广泛的社区。\n\n### 🌟 亮点\n\n- **预训练：专为推理而生的基础模型**\n  - 我们优化了数据预处理流程，增强了文本提取工具，并采用多维度的数据过滤方法，以提高预训练数据中的推理模式密度。同时，我们还运用多种策略生成大量多样化的合成推理数据。\n  - 在预训练阶段，我们采用了三阶段的数据混合策略。总体而言，MiMo-7B-Base是在约25万亿个token上进行预训练的。\n  - 我们引入了多令牌预测作为额外的训练目标，这不仅提升了模型性能，还加速了推理过程。\n\n- **后训练方案：开创性推理模型**\n  - 我们精心筛选了13万个数学和代码问题作为强化学习训练数据，并通过基于规则的验证器进行校验。每个问题都经过仔细清洗和难度评估，以确保质量。我们仅使用基于规则的准确率奖励，以避免潜在的奖励欺骗问题。\n  - 针对具有挑战性的代码问题奖励稀疏的问题，我们引入了一种基于测试难度的代码奖励机制。通过对不同难度级别的测试用例赋予细粒度的分数，策略能够通过密集的奖励信号得到更有效的优化。\n  - 对于简单问题，我们实施了数据重采样策略，以提高回放采样的效率并稳定策略更新，特别是在强化学习训练的后期阶段。\n\n- **强化学习基础设施**\n  - 我们开发了一款无缝回放引擎，用于加速强化学习的训练和验证。该设计集成了连续回放、异步奖励计算和提前终止等功能，最大限度地减少了GPU空闲时间，使训练速度提升了2.29倍，验证速度提升了1.96倍。\n  - 我们在vLLM中支持MTP，并增强了强化学习系统中推理引擎的鲁棒性。\n\n## 二、模型细节\n\nMiMo-7B 的 MTP 层在预训练和 SFT 阶段进行微调，而在 RL 阶段则被冻结。配备一个用于推测解码的 MTP 层后，接受率约为 90%。\n\n\u003Cp align=\"center\">\n  \u003Cimg width=\"80%\" src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FXiaomiMiMo_MiMo_readme_6fa80b92df20.png\">\n\u003C\u002Fp>\n\n> 模型可在 [https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo) 和 [https:\u002F\u002Fwww.modelscope.cn\u002Forganization\u002FXiaomiMiMo](https:\u002F\u002Fwww.modelscope.cn\u002Forganization\u002FXiaomiMiMo) 上获取。\n\n|    **模型**    |                                **描述**                                |                            **HuggingFace 下载链接**                             |                                  **ModelScope 下载链接**                                  |\n| :-------------: | :---------------------------------------------------------------------------: | :-------------------------------------------------------------------------------: | :-----------------------------------------------------------------------------------------: |\n|  MiMo-7B-Base   |               具有非凡推理潜力的基础模型               |    [🤗 XiaomiMiMo\u002FMiMo-7B-Base](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-Base)    |    [🤖️ XiaomiMiMo\u002FMiMo-7B-Base](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FXiaomiMiMo\u002FMiMo-7B-Base)    |\n| MiMo-7B-RL-Zero |                       从基础模型训练而来的 RL 模型                        | [🤗 XiaomiMiMo\u002FMiMo-7B-RL-Zero](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-RL-Zero) | [🤖️ XiaomiMiMo\u002FMiMo-7B-RL-Zero](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FXiaomiMiMo\u002FMiMo-7B-RL-Zero) |\n|   MiMo-7B-SFT   |                       从基础模型训练而来的 SFT 模型                       |     [🤗 XiaomiMiMo\u002FMiMo-7B-SFT](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-SFT)     |     [🤖️ XiaomiMiMo\u002FMiMo-7B-SFT](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FXiaomiMiMo\u002FMiMo-7B-SFT)     |\n|   MiMo-7B-RL    | 从 SFT 模型训练而来的 RL 模型，性能优越，媲美 OpenAI o1-mini |      [🤗 XiaomiMiMo\u002FMiMo-7B-RL](https:\u002F\u002Fhuggingface.co\u002FXiaomiMiMo\u002FMiMo-7B-RL)      |      [🤖️ XiaomiMiMo\u002FMiMo-7B-RL](https:\u002F\u002Fwww.modelscope.cn\u002Fmodels\u002FXiaomiMiMo\u002FMiMo-7B-RL)      |\n\n## 三、评估结果\n\n| 基准测试                     | GPT-4o-0513 | Claude-3.5-Sonnet-1022 | OpenAI o1-mini | QwQ-32B-Preview | R1-Distill-Qwen-14B | R1-Distill-Qwen-7B | MiMo-7B-RL |\n| ----------------------------- | :---------: | :--------------------: | :------------: | :-------------: | :-----------------: | :----------------: | :--------: |\n| **通用能力**                   |             |                        |                |                 |                     |                    |            |\n| GPQA Diamond\u003Cbr\u002F>(Pass@1)     |    49.9     |          65.0          |      60.0      |      54.5       |        59.1         |        49.1        |    54.4    |\n| SuperGPQA\u003Cbr\u002F>(Pass@1)        |    42.4     |          48.2          |      45.2      |      43.6       |        40.6         |        28.9        |    40.5    |\n| DROP\u003Cbr\u002F>(3-shot F1)          |    83.7     |          88.3          |      83.9      |      71.2       |        85.5         |        77.0        |    78.7    |\n| MMLU-Pro\u003Cbr\u002F>(EM)             |    72.6     |          78.0          |      80.3      |      52.0       |        68.8         |        53.5        |    58.6    |\n| IF-Eval\u003Cbr\u002F>(Prompt Strict)   |    84.3     |          86.5          |      84.8      |      40.4       |        78.3         |        60.5        |    61.0    |\n| **数学能力**               |             |                        |                |                 |                     |                    |            |\n| MATH-500\u003Cbr\u002F>(Pass@1)         |    74.6     |          78.3          |      90.0      |      90.6       |        93.9         |        92.8        |    95.8    |\n| AIME 2024\u003Cbr\u002F>(Pass@1)        |     9.3     |          16.0          |      63.6      |      50.0       |        69.7         |        55.5        |    68.2    |\n| AIME 2025\u003Cbr\u002F>(Pass@1)        |    11.6     |          7.4           |      50.7      |      32.4       |        48.2         |        38.8        |    55.4    |\n| **代码能力**                      |             |                        |                |                 |                     |                    |            |\n| LiveCodeBench v5\u003Cbr\u002F>(Pass@1) |    32.9     |          38.9          |      53.8      |      41.9       |        53.1         |        37.6        |    57.8    |\n| LiveCodeBench v6\u003Cbr\u002F>(Pass@1) |    30.9     |          37.2          |      46.8      |      39.1       |        31.9         |        23.9        |    49.3    |\n\nMiMo-7B 系列\n\n| 基准测试                     | MiMo-7B-Base | MiMo-7B-RL-Zero | MiMo-7B-SFT | MiMo-7B-RL |\n| ----------------------------- | :----------: | :-------------: | :---------: | :--------: |\n| **数学能力**               |              |                 |             |            |\n| MATH500\u003Cbr\u002F>(Pass@1)          |     37.4     |      93.6       |    93.0     |    95.8    |\n| AIME 2024\u003Cbr\u002F>(Pass@1)        |     32.9     |      56.4       |    58.7     |    68.2    |\n| AIME 2025\u003Cbr\u002F>(Pass@1)        |     24.3     |      46.3       |    44.3     |    55.4    |\n| **代码能力**                      |              |                 |             |            |\n| LiveCodeBench v5\u003Cbr\u002F>(Pass@1) |     32.9     |      49.1       |    52.3     |    57.8    |\n| LiveCodeBench v6\u003Cbr\u002F>(Pass@1) |     29.1     |      42.9       |    45.5     |    49.3    |\n\n> [!IMPORTANT]\n> 评估是在 `temperature=0.6` 的条件下进行的。\n> \n> AIME24 和 AIME25 是基于 32 次重复的平均得分。LiveCodeBench v5（20240801-20250201）、LiveCodeBench v6（20250201-20250501）、GPQA-Diamond 和 IF-Eval 是基于 8 次重复的平均得分。MATH500 和 SuperGPQA 则是单次运行的结果。\n\n## 四、部署\n\n### SGLang 推理\n\n得益于 SGLang 团队对 [MiMo 模型的支持](https:\u002F\u002Fgithub.com\u002Fsgl-project\u002Fsglang\u002Fpull\u002F5921)以及 [MTP 支持](https:\u002F\u002Fgithub.com\u002Fsgl-project\u002Fsglang\u002Fpull\u002F6059)，我们已在 SGLang 主流版本中成功支持 MiMo。\n\n示例脚本\n\n```bash\n# 从主分支安装最新版 SGlang\npython3 -m uv pip install \"sglang[all] @ git+https:\u002F\u002Fgithub.com\u002Fsgl-project\u002Fsglang.git\u002F@main#egg=sglang&subdirectory=python\"\n\n# 启动 SGLang 服务器\npython3 -m sglang.launch_server --model-path XiaomiMiMo\u002FMiMo-7B-RL-0530 --host 0.0.0.0 --trust-remote-code\n\n# 启动 MTP 服务器\npython3 -m sglang.launch_server --model-path XiaomiMiMo\u002FMiMo-7B-RL-0530 --trust-remote-code \\\n--speculative-algorithm EAGLE --speculative-num-steps 1 --speculative-eagle-topk 1 \\\n--speculative-num-draft-tokens 2  --mem-fraction 0.5\n```\n\n详细用法请参阅 [SGLang 文档](https:\u002F\u002Fdocs.sglang.ai\u002Fbackend\u002Fsend_request.html)。\n\n### vLLM 推理\n\n1. 【推荐】我们官方支持使用 [我们对 vLLM 的分支](https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002Fvllm\u002Ftree\u002Ffeat_mimo_mtp_stable_073) 进行 MiMo-MTP 的推理。\n\n示例脚本：\n\n```py\nfrom vllm import LLM, SamplingParams\n\nmodel_path = \"\u002Fpath\u002Fto\u002FMiMo\"\nllm = LLM(\n    model=model_path,\n    trust_remote_code=True,\n    num_speculative_tokens=1,\n    disable_log_stats=False\n)\nsampling_params = SamplingParams(temperature=0.6)\n\nconversation = [\n    {\n        \"role\": \"system\",\n        \"content\": \"\"\n    },\n    {\n        \"role\": \"user\",\n        \"content\": \"写一篇关于高等教育重要性的文章。\",\n    },\n]\n\noutputs = llm.chat(conversation,\n                   sampling_params=sampling_params,\n                   use_tqdm=False)\n\nfor output in outputs:\n    prompt = output.prompt\n    generated_text = output.outputs[0].text\n    print(f\"Prompt: {prompt!r}, Generated text: {generated_text!r}\")\n\nprint(\"=\" * 80)\n```\n\n2. 或者，您也可以注册一个用于 MiMo 的 vLLM 加载器，而无需加载 MTP 参数。\n\n您可以将 [`registry\u002Fregister_mimo_in_vllm.py`](https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fblob\u002Fmain\u002Fregistry\u002Fregister_mimo_in_vllm.py) 复制到您的目录中，并通过以下方式导入：\n\n```py\nimport register_mimo_in_vllm\n\nfrom vllm import LLM, SamplingParams\n\nmodel_path = \"\u002Fpath\u002Fto\u002FMiMo\"\nllm = LLM(\n    model=model_path,\n    trust_remote_code=True,\n    # num_speculative_tokens=1,\n    disable_log_stats=False\n)\nsampling_params = SamplingParams(temperature=0.6)\n```\n\n### HuggingFace 推理\n\n示例脚本：\n\n```py\nfrom transformers import AutoModel, AutoModelForCausalLM, AutoTokenizer\n\nmodel_id = \"XiaomiMiMo\u002FMiMo-7B-RL-0530\"\nmodel = AutoModelForCausalLM.from_pretrained(model_id, trust_remote_code=True)\ntokenizer = AutoTokenizer.from_pretrained(model_id)\ninputs = tokenizer([\"今天是\"], return_tensors='pt')\noutput = model.generate(**inputs, max_new_tokens = 100)\nprint(tokenizer.decode(output.tolist()[0]))\n```\n\n### 推荐环境与提示\n\n- 我们建议使用基于 vLLM 0.7.3 开发的 [我们对 vLLM 的分支](https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002Fvllm\u002Ftree\u002Ffeat_mimo_mtp_stable_073)。\n- 我们建议使用空的系统提示。\n\n> 我们尚未在其他推理引擎上验证 MiMo，欢迎基于 Huggingface 仓库中的模型定义进行贡献 💻。\n\n## V. 引用\n\n```bibtex\n@misc{coreteam2025mimounlockingreasoningpotential,\n      title={MiMo: 解锁语言模型的推理潜力——从预训练到后训练}, \n      author={小米 LLM 核心团队},\n      year={2025},\n      eprint={2505.07608},\n      archivePrefix={arXiv},\n      primaryClass={cs.CL},\n      url={https:\u002F\u002Farxiv.org\u002Fabs\u002F2505.07608}, \n}\n```\n\n\n## VI. 联系方式\n\n如有任何问题，请通过 [mimo@xiaomi.com](mailto:mimo@xiaomi.com) 联系我们，或提交 issue。","# MiMo 快速上手指南\n\nMiMo 是小米开源的专为推理任务打造的 7B 语言模型系列。该模型在数学和代码推理方面表现卓越，甚至在部分基准测试中超越了更大的 32B 模型及 OpenAI o1-mini。本指南将帮助您快速部署并使用 MiMo 模型。\n\n## 环境准备\n\n### 系统要求\n- **操作系统**: Linux (推荐 Ubuntu 20.04+)\n- **GPU**: 支持 CUDA 的 NVIDIA 显卡 (推荐显存 ≥ 16GB 以运行 7B 模型)\n- **CUDA 版本**: 12.1 或更高\n- **Python**: 3.10 或更高\n\n### 前置依赖\n确保已安装以下基础工具：\n- Git\n- Python pip\n- CUDA Toolkit\n\n## 安装步骤\n\n### 1. 克隆项目与安装依赖\n首先克隆仓库并安装核心依赖。国内用户建议使用镜像源加速下载。\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo.git\ncd MiMo\n\n# 安装基础依赖 (推荐使用国内镜像源)\npip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n### 2. 安装推理引擎 (推荐 SGLang)\nMiMo 官方推荐使用 **SGLang** 进行高效推理，因其原生支持 MiMo 架构及多令牌预测 (MTP) 加速功能。\n\n```bash\n# 安装最新版本的 SGLang\npip install \"sglang[all]\" -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n> **注意**: 如果使用 vLLM 或其他引擎，请确保版本支持 MTP (Multi-Token Prediction) 特性以获得最佳性能。\n\n### 3. 下载模型权重\n您可以从 HuggingFace 或国内的 ModelScope (魔搭社区) 下载模型。国内开发者强烈推荐通过 **ModelScope** 下载以获得更快的速度。\n\n**方式 A: 使用 ModelScope (推荐)**\n```bash\n# 安装 modelscope 库\npip install modelscope -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n\n# 下载 MiMo-7B-RL 模型 (推理性能最强版本)\npython -c \"from modelscope import snapshot_download; snapshot_download('XiaomiMiMo\u002FMiMo-7B-RL', cache_dir='.\u002Fmodels')\"\n```\n\n**方式 B: 使用 HuggingFace**\n```bash\n# 需确保网络通畅或配置代理\nhuggingface-cli download --resume-download XiaomiMiMo\u002FMiMo-7B-RL --local-dir .\u002Fmodels\u002FMiMo-7B-RL\n```\n\n*可用模型版本说明：*\n- `MiMo-7B-Base`: 基座模型\n- `MiMo-7B-SFT`: 监督微调模型\n- `MiMo-7B-RL`: **推荐**，基于 SFT 进行强化学习训练，数学与代码能力最强\n\n## 基本使用\n\n### 使用 SGLang 启动服务\n利用 SGLang 启动 MiMo 模型服务，自动启用 MTP 加速。\n\n```bash\n# 启动 API 服务\n# --model-path 指向下载的模型目录\n# --tp 设置张量并行数，根据显卡数量调整 (单卡设为 1)\npython -m sglang.launch_server \\\n    --model-path .\u002Fmodels\u002FXiaomiMiMo\u002FMiMo-7B-RL \\\n    --port 30000 \\\n    --tp 1\n```\n\n### 发送推理请求\n服务启动后，可以通过 Python 脚本或 curl 命令进行测试。以下是一个简单的数学推理示例：\n\n```python\nimport requests\n\nurl = \"http:\u002F\u002Flocalhost:30000\u002Fgenerate\"\npayload = {\n    \"text\": \"Solve the following math problem step by step: What is the sum of numbers from 1 to 100?\",\n    \"sampling_params\": {\n        \"temperature\": 0.6,  # 官方推荐温度设置\n        \"max_new_tokens\": 2048\n    }\n}\n\nresponse = requests.post(url, json=payload)\nprint(response.json()['text'])\n```\n\n### 关键参数提示\n- **Temperature**: 官方评估建议使用 `temperature=0.6` 以获得最佳推理效果。\n- **MTP 加速**: MiMo 包含一个 MTP 层，在 SGLang 中默认开启投机解码，接受率约为 90%，可显著提升生成速度。","某科技公司的算法团队正在开发一款面向中学生的自适应数学辅导系统，需要模型不仅能给出答案，还要生成逻辑严密、步骤清晰的解题过程。\n\n### 没有 MiMo 时\n- **推理能力不足**：依赖通用的 7B 小模型处理复杂代数或几何题时，常出现逻辑跳跃或直接给出错误结论，无法达到竞赛级题目（如 AIME）的解答要求。\n- **代码辅助薄弱**：当学生尝试用编程验证数学猜想时，模型生成的代码往往存在语法错误或逻辑漏洞，无法通过 LiveCodeBench 级别的测试。\n- **资源成本高昂**：为了获得可靠的推理效果，团队被迫调用参数量更大（如 32B+）的闭源模型，导致 API 调用成本激增且响应延迟高，难以在移动端流畅部署。\n- **训练策略局限**：团队尝试自行对基座模型进行强化学习（RL），但由于缺乏针对推理优化的预训练基础，模型收敛困难，难以同时提升数学与代码能力。\n\n### 使用 MiMo 后\n- **推理深度质变**：MiMo-7B-RL 在 AIME 2024 基准测试中得分超越 DeepSeek R1，能像人类专家一样拆解复杂数学问题，输出连贯且正确的推导步骤。\n- **代码逻辑精准**：得益于强大的代码推理能力，模型生成的验证脚本一次性通过率显著提升，能准确帮助学生将数学思路转化为可执行代码。\n- **小模型大能量**：仅用 7B 参数量即可媲美甚至超越更大的专用模型，大幅降低了服务器算力需求和推理延迟，使高质量辅导功能得以落地到轻量级设备。\n- **原生推理基因**：MiMo 从预训练阶段就专为推理设计，团队直接利用其开源的 RL 检查点进行微调，快速实现了数学与编码能力的同步飞跃，无需重复造轮子。\n\nMiMo 成功打破了“小模型无法兼顾深度数学与代码推理”的固有认知，让高性能智能辅导系统在低成本下成为现实。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002FXiaomiMiMo_MiMo_7e4ccf72.jpg","XiaomiMiMo","Xiaomi MiMo","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002FXiaomiMiMo_72ce0558.jpg","Ignite every curiosity with creative spark.  Ask Mi Anything!",null,"mimo@xiaomi.com","https:\u002F\u002Fgithub.com\u002FXiaomiMiMo",[84],{"name":85,"color":86,"percentage":87},"Python","#3572A5",100,2014,82,"2026-04-04T13:55:17","Apache-2.0","未说明","需要 NVIDIA GPU (文中提及 vLLM, SGLang 及 MTP 推测解码，通常仅支持 NVIDIA)，显存需求取决于模型版本 (7B 参数)，建议 16GB+ 以支持推理和训练",{"notes":95,"python":92,"dependencies":96},"该工具主要面向推理和研究，提供了基于 SGLang 和 vLLM 的部署方案。模型包含 MiMo-7B-Base, SFT, RL 等多个版本。特色是支持多令牌预测 (MTP) 进行投机采样，接受率约 90%。文中提供的安装脚本被截断，具体依赖版本需参考官方仓库或 SGLang\u002FvLLM 文档。评估时温度参数设置为 0.6。",[97,98,99,100],"sglang","vLLM","transformers","torch",[15],"2026-03-27T02:49:30.150509","2026-04-06T08:40:46.173611",[105,110,115,120,125,130],{"id":106,"question_zh":107,"answer_zh":108,"source_url":109},15728,"MiMo 模型支持哪些推理框架？是否计划合并到 Transformers 或 vLLM 官方库中？","目前 SGLang 已完成对 MiMo（不含 MTP）的合并，并正在支持带 MTP 的版本。vLLM 的合并正在进行中，已提交 PR。对于 HuggingFace Transformers，仓库中提供了简单的推理代码片段及模型定义映射，可直接参考 HuggingFace 模型页面使用。团队目前暂无计划官方维护除上述之外的其他推理框架。","https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fissues\u002F1",{"id":111,"question_zh":112,"answer_zh":113,"source_url":114},15729,"为什么技术报告 PDF 文件下载后无法打开或显示损坏？","这通常是由于网络原因导致文件下载不完整。解决方法是：不要直接点击下载 PDF 链接，而是点击仓库页面的\"Code\"按钮，选择\"Download ZIP\"下载整个仓库的压缩包。解压后，即可在本地正常打开技术报告 PDF 文件。此外，也可以尝试更换阅读器（如 WPS 有时报错，可尝试其他 PDF 阅读器）。","https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fissues\u002F8",{"id":116,"question_zh":117,"answer_zh":118,"source_url":119},15730,"MiMo 模型是否支持工具调用（Tool Use）、函数调用或 MCP？","目前团队尚未分析 MiMo 在工具使用方面的潜力，因此暂时没有官方支持。不过团队欢迎社区对此话题进行研究或分享见解。","https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fissues\u002F7",{"id":121,"question_zh":122,"answer_zh":123,"source_url":124},15731,"技术报告中提到的 DeepSeek-R1-Zero-Qwen-32B 在 AIME2025 上的性能数据是如何得出的？该模型并未开源权重。","这是基于复现结果的估算。根据社区反馈（如 Open-Reasoner-Zero 论文），使用 Qwen-2.5-32B 作为初始模型的 ORZ-32B 在 AIME2024 达到 48.1 分时，AIME2025 达到 36.0 分，平均分约为 42 分。技术报告中的相关数据参考了此类复现结果，团队也表示将考虑改进对复现结果的标注方式以避免混淆。","https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fissues\u002F4",{"id":126,"question_zh":127,"answer_zh":128,"source_url":129},15732,"在 RL 数据筛选中，为什么要过滤掉简单样本（代码通过率 100%，数学通过率 90%+）？如果在训练中移除全对样本会导致不稳定，原因是什么？","虽然文档提到在训练过程中移除全程通过率完美的题目会导致不稳定性（可能是因为移除后通过率波动较大，而保留它们能确保高通过率基准），但在初始数据清洗阶段过滤掉过于简单的样本是为了提高训练效率。关于具体的“简单数据池”机制和是否仅适用于多轮次（multi-epoch）设置，建议参考技术报告第 3.3.2 节及后续讨论，核心逻辑是平衡训练稳定性和数据效率。","https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fissues\u002F12",{"id":131,"question_zh":132,"answer_zh":133,"source_url":134},15733,"使用 Ollama 或 llama-server 运行 MiMo 模型时，输出乱码或无法识别图像\u002F字符怎么办？","这是一个已知的使用问题，通常与 GGUF 格式的量化版本或聊天模板配置有关。用户反馈在使用 ollama 或 llama-server 时出现输出乱码。建议检查是否使用了正确的 `--chat-template-file` 以及对应的 `--mmproj`（多模态投影）文件。如果问题依旧，可能需要等待官方或社区修复 GGUF 版本的兼容性，或尝试使用官方推荐的 HuggingFace Transformers 或 SGLang 进行推理以获得更稳定的结果。","https:\u002F\u002Fgithub.com\u002FXiaomiMiMo\u002FMiMo\u002Fissues\u002F32",[]]