[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-ymcui--Chinese-Mixtral":3,"tool-ymcui--Chinese-Mixtral":64},[4,17,27,35,43,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,3,"2026-04-05T11:01:52",[13,14,15],"开发框架","图像","Agent","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":23,"last_commit_at":24,"category_tags":25,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",140436,2,"2026-04-05T23:32:43",[13,15,26],"语言模型",{"id":28,"name":29,"github_repo":30,"description_zh":31,"stars":32,"difficulty_score":23,"last_commit_at":33,"category_tags":34,"status":16},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",107662,"2026-04-03T11:11:01",[13,14,15],{"id":36,"name":37,"github_repo":38,"description_zh":39,"stars":40,"difficulty_score":23,"last_commit_at":41,"category_tags":42,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,26],{"id":44,"name":45,"github_repo":46,"description_zh":47,"stars":48,"difficulty_score":23,"last_commit_at":49,"category_tags":50,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[14,51,52,53,15,54,26,13,55],"数据工具","视频","插件","其他","音频",{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":10,"last_commit_at":62,"category_tags":63,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,"2026-04-04T04:44:48",[15,14,13,26,54],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":70,"readme_en":71,"readme_zh":72,"quickstart_zh":73,"use_case_zh":74,"hero_image_url":75,"owner_login":76,"owner_name":77,"owner_avatar_url":78,"owner_bio":79,"owner_company":80,"owner_location":81,"owner_email":82,"owner_twitter":83,"owner_website":84,"owner_url":85,"languages":86,"stars":95,"forks":96,"last_commit_at":97,"license":98,"difficulty_score":10,"env_os":99,"env_gpu":100,"env_ram":101,"env_deps":102,"category_tags":111,"github_topics":112,"view_count":10,"oss_zip_url":80,"oss_zip_packed_at":80,"status":16,"created_at":121,"updated_at":122,"faqs":123,"releases":153},3737,"ymcui\u002FChinese-Mixtral","Chinese-Mixtral","中文Mixtral混合专家大模型（Chinese Mixtral MoE LLMs）","Chinese-Mixtral 是一款专为中文场景优化的开源大语言模型，基于 Mistral AI 发布的 Mixtral-8x7B 架构，通过大规模中文无标注数据增量训练与指令精调而成。它有效解决了原生 Mixtral 模型在中文理解、长文本处理及本土化任务中表现不足的问题，能够流畅处理长达 32K（实测可达 128K）的上下文，并在数学推理与代码生成方面展现出显著优势。\n\n该项目不仅提供了开箱即用的基座模型（Chinese-Mixtral）和对话模型（Chinese-Mixtral-Instruct），还完整开源了预训练与微调代码，极大降低了二次开发门槛。其独特的技术亮点在于采用了稀疏混合专家（Sparse MoE）架构，在保持高性能的同时大幅降低资源消耗，使用 llama.cpp 量化后仅需 16G 内存即可在个人电脑上运行。\n\nChinese-Mixtral 非常适合研究人员探索大模型语言适配机制，也适合开发者快速构建中文 AI 应用或进行私有化部署。得益于其对 Transformers、vLLM、LangChain 等主流生态的全面支持，无论是希望深入算法优化的专业人士，还是","Chinese-Mixtral 是一款专为中文场景优化的开源大语言模型，基于 Mistral AI 发布的 Mixtral-8x7B 架构，通过大规模中文无标注数据增量训练与指令精调而成。它有效解决了原生 Mixtral 模型在中文理解、长文本处理及本土化任务中表现不足的问题，能够流畅处理长达 32K（实测可达 128K）的上下文，并在数学推理与代码生成方面展现出显著优势。\n\n该项目不仅提供了开箱即用的基座模型（Chinese-Mixtral）和对话模型（Chinese-Mixtral-Instruct），还完整开源了预训练与微调代码，极大降低了二次开发门槛。其独特的技术亮点在于采用了稀疏混合专家（Sparse MoE）架构，在保持高性能的同时大幅降低资源消耗，使用 llama.cpp 量化后仅需 16G 内存即可在个人电脑上运行。\n\nChinese-Mixtral 非常适合研究人员探索大模型语言适配机制，也适合开发者快速构建中文 AI 应用或进行私有化部署。得益于其对 Transformers、vLLM、LangChain 等主流生态的全面支持，无论是希望深入算法优化的专业人士，还是想要在本地体验高性能中文大模型的爱好者，都能从中获得高效、灵活的解决方案。","[**🇨🇳中文**](.\u002FREADME.md) | [**🌐English**](.\u002FREADME_EN.md) | [**📖文档\u002FDocs**](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki) | [**❓提问\u002FIssues**](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fissues) | [**💬讨论\u002FDiscussions**](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fdiscussions) | [**⚔️竞技场\u002FArena**](http:\u002F\u002Fllm-arena.ymcui.com\u002F)\n\n\u003Cp align=\"center\">\n    \u003Cbr>\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fymcui_Chinese-Mixtral_readme_40d39d2880fc.png\" width=\"800\"\u002F>\n    \u003Cbr>\n\u003C\u002Fp>\n\u003Cp align=\"center\">\n    \u003Cimg alt=\"GitHub\" src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Flicense\u002Fymcui\u002FChinese-Mixtral.svg?color=blue&style=flat-square\">\n    \u003Cimg alt=\"GitHub release (latest by date)\" src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fv\u002Frelease\u002Fymcui\u002FChinese-Mixtral\">\n    \u003Cimg alt=\"GitHub top language\" src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Flanguages\u002Ftop\u002Fymcui\u002FChinese-Mixtral\">\n    \u003Ca href=\"https:\u002F\u002Fapp.codacy.com\u002Fgh\u002Fymcui\u002FChinese-Mixtral\u002Fdashboard?utm_source=gh&utm_medium=referral&utm_content=&utm_campaign=Badge_grade\">\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fymcui_Chinese-Mixtral_readme_549cb1d41474.png\"\u002F>\u003C\u002Fa>\n\u003C\u002Fp>\n\n本项目基于Mistral.ai发布的[Mixtral模型](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1)进行开发，该模型使用了稀疏混合专家模型（Sparse MoE）架构。本项目利用大规模中文无标注数据进行了中文增量训练，得到了**中文Mixtral**基础模型，并且进一步通过指令精调，得到了**中文Mixtral-Instruct**指令模型。该模型原生支持**32K上下文（实测可达128K）**，能够有效地处理长文本，同时在数学推理、代码生成等方面获得了显著性能提升。使用llama.cpp进行量化推理时，最低只需16G内存（或显存）。\n\n**技术报告**：[[Cui and Yao, 2024] Rethinking LLM Language Adaptation: A Case Study on Chinese Mixtral](https:\u002F\u002Farxiv.org\u002Fabs\u002F2403.01851) [[论文解读]](https:\u002F\u002Fmp.weixin.qq.com\u002Fs?__biz=MzU2NDQ3MTQ0MA==&mid=2247489255&idx=1&sn=432c1c0e40d5e4cfc2a7d4d96ac8e3fc&chksm=fc4b2518cb3cac0e63816d65be9b9e11fb201e3a089550e3cb2cb4d1e8eb532c6d7301688926&token=1150909890&lang=zh_CN#rd)\n\n#### 本项目主要内容\n\n- 🚀 开源中文Mixtral基础模型，该模型在[Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1)的基础上进行了中文增量训练\n- 🚀 开源中文Mixtral-Instruct指令模型，该模型在中文Mixtral的基础上进一步进行了指令精调\n- 🚀 开源了预训练脚本、指令精调脚本，用户可根据需要进一步训练或微调模型\n- 🚀 提供了利用个人电脑CPU\u002FGPU快速在本地进行大模型量化和部署的教程\n- 🚀 支持[🤗transformers](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftransformers), [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp), [text-generation-webui](https:\u002F\u002Fgithub.com\u002Foobabooga\u002Ftext-generation-webui), [LangChain](https:\u002F\u002Fgithub.com\u002Fhwchase17\u002Flangchain), [privateGPT](https:\u002F\u002Fgithub.com\u002Fimartinez\u002FprivateGPT), [vLLM](https:\u002F\u002Fgithub.com\u002Fvllm-project\u002Fvllm)等Mixtral生态\n\n----\n\n[中文LLaMA-2&Alpaca-2大模型](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca-2) | [中文LLaMA&Alpaca大模型](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca) | [多模态中文LLaMA&Alpaca大模型](https:\u002F\u002Fgithub.com\u002Fairaria\u002FVisual-Chinese-LLaMA-Alpaca) | [多模态VLE](https:\u002F\u002Fgithub.com\u002Fiflytek\u002FVLE) | [中文MiniRBT](https:\u002F\u002Fgithub.com\u002Fiflytek\u002FMiniRBT) | [中文LERT](https:\u002F\u002Fgithub.com\u002Fymcui\u002FLERT) | [中英文PERT](https:\u002F\u002Fgithub.com\u002Fymcui\u002FPERT) | [中文MacBERT](https:\u002F\u002Fgithub.com\u002Fymcui\u002FMacBERT) | [中文ELECTRA](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-ELECTRA) | [中文XLNet](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-XLNet) | [中文BERT](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-BERT-wwm) | [知识蒸馏工具TextBrewer](https:\u002F\u002Fgithub.com\u002Fairaria\u002FTextBrewer) | [模型裁剪工具TextPruner](https:\u002F\u002Fgithub.com\u002Fairaria\u002FTextPruner) | [蒸馏裁剪一体化GRAIN](https:\u002F\u002Fgithub.com\u002Fairaria\u002FGRAIN)\n\n\n## 新闻\n\n**[2024\u002F04\u002F30] Chinese-LLaMA-Alpaca-3 已正式发布，开源基于Llama-3的Llama-3-Chinese-8B和Llama-3-Chinese-8B-Instruct，请参阅：https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca-3**\n\n[2024\u002F03\u002F27] 添加1-bit\u002F2-bit\u002F3-bit量化版GGUF模型：[[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl)；同时，本项目已入驻机器之心SOTA!模型平台，欢迎关注：https:\u002F\u002Fsota.jiqizhixin.com\u002Fproject\u002Fchinese-mixtral\n\n[2024\u002F03\u002F26] 添加仿OpenAI API部署模式。详情查看：[📚v1.2版本发布日志](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Freleases\u002Ftag\u002Fv1.2)\n\n[2024\u002F03\u002F05] 开源模型训练和精调代码，发布技术报告。详情查看：[📚v1.1版本发布日志](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Freleases\u002Ftag\u002Fv1.1)\n\n[2024\u002F01\u002F29] 🚀 正式发布Chinese-Mixtral（基座模型），Chinese-Mixtral-Instruct（指令\u002Fchat模型）。详情查看：[📚v1.0版本发布日志](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Freleases\u002Ftag\u002Fv1.0)\n\n\n## 内容导引\n| 章节                                  | 描述                                                         |\n| ------------------------------------- | ------------------------------------------------------------ |\n| [💁🏻‍♂️模型简介](#模型简介) | 简要介绍本项目相关模型的技术特点 |\n| [⏬模型下载](#模型下载)        | 中文Mixtral大模型下载地址    |\n| [💻推理与部署](#推理与部署) | 介绍了如何对模型进行量化并使用个人电脑部署并体验大模型 |\n| [💯模型效果](#模型效果) | 介绍了模型在部分任务上的效果    |\n| [📝训练与精调](#训练与精调) | 介绍了如何训练和精调中文Mixtral大模型 |\n| [❓常见问题](#常见问题) | 一些常见问题的回复 |\n\n\n## 模型简介\n\n本项目开源了基于[Mixtral模型](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1)开发的中文Mixtral、中文Mixtral-Instruct模型，其主要特点如下：\n\n#### 📖 稀疏混合专家模型\n\nMixtral是一个稀疏混合专家模型。该模型与以往的LLaMA等主流大模型结构具有显著差异，主要体现在以下几点：\n\n- 每个FFN层包含8个不同的\"专家\"（全连接层），根据门控值选取最优的2个进行激活\n- 输入序列中的每个token都会独立地选取专家，而不是整个序列对应一组专家\n- 实际参数量约为46.7B，在推理时激活的参数量约为13B\n\n以下是[Mixtral论文](https:\u002F\u002Farxiv.org\u002Fabs\u002F2401.04088)中的结构示意图：\n\u003Cp align=\"center\">\n    \u003Cbr>\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fymcui_Chinese-Mixtral_readme_30f1305af700.png\" width=\"600\"\u002F>\n    \u003Cbr>\n\u003C\u002Fp>\n\n#### 🚄 原生支持32K上下文（实测支持128K）\n\n与[Chinese-LLaMA-Alpaca](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca)以及[Chinese-LLaMA-Alpaca-2](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca-2)项目不同，Mixtral模型原生支持32K上下文（实测可达128K）。用户可使用单一模型来解决不同长度的各类任务。\n\n## 模型下载\n\n### 模型选择指引\n\n以下是本项目的模型对比以及建议使用场景。**如需聊天交互，请选择Instruct版。**\n\n| 对比项                | 中文Mixtral                                     | 中文Mixtral-Instruct                                  |\n| :-------------------- | :----------------------------------------------------: | :----------------------------------------------------------: |\n| 模型类型 | **基座模型** | **指令\u002FChat模型（类ChatGPT）** |\n| 模型大小 | 8x7B（实际激活约13B） | 8x7B（实际激活约13B） |\n| 专家数量 | 8个（实际激活2个） | 8个（实际激活2个） |\n| 训练类型     | Causal-LM (CLM)           | 指令精调                                                     |\n| 训练方式 | QLoRA + 全量emb\u002Flm-head | QLoRA + 全量emb\u002Flm-head |\n| 基于什么模型训练 | 原版Mixtral-8x7B-v0.1 | 中文Mixtral |\n| 训练语料 | 无标注通用语料 | 有标注指令数据 |\n| 词表大小 | 原版词表，32000 | 原版词表，32000 |\n| 支持上下文长度 | 32K（实测可达128K） | 32K（实测可达128K） |\n| 输入模板              | 不需要                                                 | 需要套用Mixtral-Instruct模板 |\n| 适用场景            | 文本续写：给定上文，让模型生成下文            | 指令理解：问答、写作、聊天、交互等 |\n\n\n### 下载地址\n\n以下提供了3种不同类型的模型：\n\n- **完整版模型**：直接下载即可使用，无需其他合并步骤，推荐网络带宽充足的用户；\n- **LoRA版模型**：无法单独使用，必须与原版[Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1)合并才能转为完整版模型，推荐网络带宽不足且手头有原版Mixtral的用户。合并方法请参阅：[**💻 模型合并步骤**](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fmodel_conversion_zh)\n- **GGUF版模型**：兼容[llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp)等工具的GGUF量化版模型，推荐只需要做推理部署的用户下载。\n\n| 模型名称                  |   类型   |                    规格                    |                    完整版（87 GB）                    |                    LoRA版（2.4 GB）                    |                    GGUF版                    |\n| :------------------------ | :------: | :----------------------------------------------------------: | :----------------------------------------------------------: | :----------------------------------------------------------: | :----------------------------------------------------------: |\n| Chinese-Mixtral | 基座模型 | 8x7B | [[Baidu]](https:\u002F\u002Fpan.baidu.com\u002Fs\u002F1nwJ8JkMTUrCkDEccg7C9Pw?pwd=33kb) [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral) \u003Cbr\u002F>[[🤖ModelScope]](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002FChineseAlpacaGroup\u002Fchinese-mixtral) | [[Baidu]](https:\u002F\u002Fpan.baidu.com\u002Fs\u002F1XRw2-rumi-Pg0CrXqEh8ug?pwd=8gjk) [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-lora) \u003Cbr\u002F>[[🤖ModelScope]](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002FChineseAlpacaGroup\u002Fchinese-mixtral-lora) | [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-gguf) |\n| Chinese-Mixtral-Instruct | 指令模型 | 8x7B | [[Baidu]](https:\u002F\u002Fpan.baidu.com\u002Fs\u002F1ogGipoWgTsojGai5cSxdoQ?pwd=dq7x) [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-instruct) \u003Cbr\u002F>[[🤖ModelScope]](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002FChineseAlpacaGroup\u002Fchinese-mixtral-instruct) | [[Baidu]](https:\u002F\u002Fpan.baidu.com\u002Fs\u002F1hX_mrYE1U1FlUEToclEOwA?pwd=h2ng) [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-instruct-lora) \u003Cbr\u002F>[[🤖ModelScope]](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002FChineseAlpacaGroup\u002Fchinese-mixtral-instruct-lora) | [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-instruct-gguf) |\n\n> [!NOTE]\n> 若无法访问HF，可考虑一些镜像站点（如hf-mirror.com），具体方法请自行查找解决。\n\n## 推理与部署\n\n本项目中的相关模型主要支持以下量化、推理和部署方式，具体内容请参考对应教程。\n\n| 工具   | 特点     | CPU  | GPU  | 量化 | GUI  | API  | vLLM |                      教程                             |\n| :----------------------------------------------------------- | ---------------------------- | :--: | :--: | :--: | :--: | :--: | :--: |:--: |\n| [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp)      | 丰富的量化选项和高效本地推理 |  ✅   |  ✅   |  ✅   |  ❌   |  ✅   |  ❌   | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fllamacpp_zh) |\n| [🤗Transformers](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftransformers) | 原生transformers推理接口     |  ✅   |  ✅   |  ✅   |  ✅   |  ❌   |  ✅  | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Finference_with_transformers_zh) |\n| [仿OpenAI API调用](https:\u002F\u002Fplatform.openai.com\u002Fdocs\u002Fapi-reference) | 仿OpenAI API接口的服务器Demo |  ✅   |  ✅   |  ✅   |  ❌   |  ✅   |  ✅  | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fopenai_api_zh) |\n| [text-generation-webui](https:\u002F\u002Fgithub.com\u002Foobabooga\u002Ftext-generation-webui) | 前端Web UI界面的部署方式 |  ✅   |  ✅   |  ✅   |  ✅   |  ✅  | ❌  | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Ftext-generation-webui_zh) |\n| [LangChain](https:\u002F\u002Fgithub.com\u002Fhwchase17\u002Flangchain) | 适合二次开发的大模型应用开源框架 |  ✅  |  ✅   |  ✅   |  ❌   |  ❌   | ❌  | [link] |\n| [privateGPT](https:\u002F\u002Fgithub.com\u002Fimartinez\u002FprivateGPT) | 多文档本地问答框架 | ✅ | ✅ | ✅ | ❌ | ❌ | ❌ | [link] |\n| [LM Studio](https:\u002F\u002Flmstudio.ai) | 多平台聊天软件（带界面） | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Flmstudio_zh) |\n\n\n## 模型效果\n\n为了评测相关模型的效果，本项目分别进行了生成效果评测和客观效果评测（NLU类），从不同角度对大模型进行评估。推荐用户在自己关注的任务上进行测试，选择适配相关任务的模型。\n\n### 生成效果评测\n\n- 本项目仿照[Fastchat Chatbot Arena](https:\u002F\u002Fchat.lmsys.org\u002F?arena)推出了模型在线对战平台，可浏览和评测模型回复质量。对战平台提供了胜率、Elo评分等评测指标，并且可以查看两两模型的对战胜率等结果。**⚔️ 模型竞技场：[http:\u002F\u002Fllm-arena.ymcui.com](http:\u002F\u002Fllm-arena.ymcui.com\u002F)**\n- examples目录中提供了Chinese-Mixtral-Instruct与Chinese-Alpaca-2-13B的输出样例，并通过GPT-4进行了打分对比，**Chinese-Mixtral-Instruct平均得分为8.20、Chinese-Alpaca-2-13B平均得分为7.05**。**📄 输出样例对比：[examples](.\u002Fexamples)**\n\n\n### 客观效果评测\n\n#### C-Eval\n\n[C-Eval](https:\u002F\u002Fcevalbenchmark.com)是一个全面的中文基础模型评估套件，其中验证集和测试集分别包含1.3K和12.3K个选择题，涵盖52个学科。C-Eval推理代码请参考本项目：[📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fceval_zh)\n\n| Models             | 类型 | Valid (0-shot) | Valid (5-shot) | Test (0-shot) | Test (5-shot) |\n| ------------------------ | :------------: | :------------: | :-----------: | :-----------: | :-----------: |\n| **Chinese-Mixtral-Instruct** | 指令 | 51.7 | 55.0 | 50.0 | 51.5 |\n| **Chinese-Mixtral**      | 基座 | 45.8 | 54.2 | 43.1 | 49.1 |\n| [Mixtral-8x7B-Instruct-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1) | 指令 | 51.6 | 54.0 | 48.7 | 50.7 |\n| [Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1) | 基座 | 47.3 | 54.6 | 46.1 | 50.3 |\n| Chinese-Alpaca-2-13B | 指令 | 44.3 | 45.9 | 42.6 | 44.0 |\n| Chinese-LLaMA-2-13B | 基座 | 40.6 | 42.7 | 38.0 | 41.6 |\n\n#### CMMLU\n\n[CMMLU](https:\u002F\u002Fgithub.com\u002Fhaonan-li\u002FCMMLU)是另一个综合性中文评测数据集，专门用于评估语言模型在中文语境下的知识和推理能力，涵盖了从基础学科到高级专业水平的67个主题，共计11.5K个选择题。CMMLU推理代码请参考本项目：[📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fcmmlu_zh)\n\n| Models             | 类型 | Test (0-shot) | Test (5-shot) |\n| ------------------------ | :------------: | :-----------: | :-----------: |\n| **Chinese-Mixtral-Instruct** | 指令 | 50.0 | 53.0 |\n| **Chinese-Mixtral**      | 基座 | 42.5 | 51.0 |\n| [Mixtral-8x7B-Instruct-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1) | 指令 | 48.2 | 51.6 |\n| [Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1) | 基座 | 44.3 | 51.6 |\n| Chinese-Alpaca-2-13B | 指令 |     43.2      |     45.5      |\n| Chinese-LLaMA-2-13B | 基座 |     38.9      |     42.5      |\n\n#### MMLU\n\n[MMLU](https:\u002F\u002Fgithub.com\u002Fhendrycks\u002Ftest)是一个用于评测自然语言理解能力的英文评测数据集，是当今用于评测大模型能力的主要数据集之一，其中验证集和测试集分别包含1.5K和14.1K个选择题，涵盖57个学科。MMLU推理代码请参考本项目：[📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fmmlu_zh)\n\n| Models             | 类型 | Valid (0-shot) | Valid (5-shot) | Test (0-shot) | Test (5-shot) |\n| ------------------------ | :------------: | :------------: | :-----------: | :-----------: | :-----------: |\n| **Chinese-Mixtral-Instruct** | 指令 | 65.1 | 69.6 | 67.5 | 69.8 |\n| **Chinese-Mixtral**     | 基座 | 63.2 | 67.1 | 65.5 | 68.3 |\n| [Mixtral-8x7B-Instruct-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1) | 指令 | 68.5 | 70.4 | 68.2 | 70.2 |\n| [Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1) | 基座 | 64.9 | 69.0 | 67.0 | 69.5 |\n| Chinese-Alpaca-2-13B | 指令 | 49.6 | 53.2 | 50.9 | 53.5 |\n| Chinese-LLaMA-2-13B | 基座 | 46.8 | 50.0 | 46.6 | 51.8 |\n\n#### LongBench\n\n[LongBench](https:\u002F\u002Fgithub.com\u002FTHUDM\u002FLongBench)是一个大模型长文本理解能力的评测基准，由6大类、20个不同的任务组成，多数任务的平均长度在5K-15K之间，共包含约4.75K条测试数据。以下是本项目模型在该中文任务（含代码任务）上的评测效果。LongBench推理代码请参考本项目：[📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Flongbench_zh)\n\n| Models                                                       | 单文档QA | 多文档QA | 摘要 | FS学习 | 代码补全 | 合成任务 | 平均 |\n| ------------------------------------------------------------ | :------: | :------: | :--: | :----: | :------: | :------: | :--: |\n| **Chinese-Mixtral-Instruct**                                 |   50.3   |   34.2   | 16.4 |  42.0  |   56.1   |   89.5   | 48.1 |\n| **Chinese-Mixtral**                                          |   32.0   |   23.7   | 0.4  |  42.5  |   27.4   |   14.0   | 23.3 |\n| [Mixtral-8x7B-Instruct-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1) |   56.5   |   35.7   | 15.4 |  46.0  |   63.6   |   98.0   | 52.5 |\n| [Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1) |   35.5   |   9.5    | 16.4 |  46.5  |   57.2   |   83.5   | 41.4 |\n| Chinese-Alpaca-2-13B-16K                                     |   47.9   |   26.7   | 13.0 |  22.3  |   46.6   |   21.5   | 29.7 |\n| Chinese-LLaMA-2-13B-16K                                      |   36.7   |   17.7   | 3.1  |  29.8  |   13.8   |   3.0    | 17.3 |\n| Chinese-Alpaca-2-7B-64K                                      |   44.7   |   28.1   | 14.4 |  39.0  |   44.6   |   5.0    | 29.3 |\n| Chinese-LLaMA-2-7B-64K                                       |   27.2   |   16.4   | 6.5  |  33.0  |   7.8    |   5.0    | 16.0 |\n\n### 量化效果评测\n\n在llama.cpp下，测试了Chinese-Mixtral量化版模型的性能，如下表所示。\n\n|              |  F16 |   Q8_0 |   Q6_K |   Q5_K |   Q5_0 |   Q4_K |   Q4_0 |   Q3_K | IQ3_XXS |   Q2_K | IQ2_XS | IQ2_XXS |\n| ------------ | ---: | -----: | -----: | -----: | -----: | -----: | -----: | -----: | ------: | -----: | -----: | ------: |\n| Size (GB)    | 87.0 |   46.2 |   35.7 |   30.0 |   30.0 |   24.6 |   24.6 |   19.0 |    17.1 |   16.1 |   12.7 |    11.4 |\n| BPW          | 16.0 |   8.50 |   6.57 |   5.69 |   5.52 |   4.87 |   4.53 |   3.86 |    3.14 |   2.96 |   2.34 |    2.10 |\n| PPL          |    - | 4.4076 | 4.4092 | 4.4192 | 4.4224 | 4.4488 | 4.4917 | 4.5545 |  4.5990 | 5.1846 | 6.9784 |  8.5981 |\n| M3 Max Speed |    - |      - |   36.0 |   36.9 |   35.7 |   31.2 |   27.8 |   37.6 |       - |   29.1 |      - |       - |\n| A100 Speed   |    - |      - |   29.9 |   22.6 |   20.5 |   21.7 |   17.1 |   21.7 |    20.6 |   20.3 |   23.7 |    22.5 |\n\n> [!NOTE]\n>\n> - 模型大小：单位GB\n> - BPW（Bits-Per-Weight）：单位参数比特，例如Q6_K实际平均精度为6.57\n> - PPL（困惑度）：以4K上下文测量，数值越低越好\n> - 生成速度：提供了Apple M3 Max（Metal）以及NVIDIA A100（40G）的生成速度（单位ms\u002Ftoken），数值越低越好\n\n以Chinese-Mixtral-Q4_0为例，下图展示了不同上下文长度下的PPL变化趋势，选取了2组不同的纯文本数据。实验结果表明**Mixtral模型支持的上下文长度已超过标称的32K，在64K+上下文下仍然具有较好的表现（实测可达128K）。**\n\n\u003Cp align=\"center\">\n    \u003Cbr>\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fymcui_Chinese-Mixtral_readme_a8ed08b06e38.png\" width=\"800\"\u002F>\n    \u003Cbr>\n\u003C\u002Fp>\n\n## 训练与精调\n\n### 预训练\n\n- 在原版Mixtral的基础上，利用大规模无标注数据进行增量训练，得到Chinese-Mixtral基座模型\n- 训练数据采用[Chinese-LLaMA-Alpaca](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca)项目中与基础版模型一致的数据，其总量约20G纯文本文件\n- 训练代码及使用教程：[📖预训练脚本Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fpt_scripts_zh)\n\n### 指令精调\n\n- 在Chinese-Mixtral的基础上，利用有标注指令数据进行进一步精调，得到Chinese-Mixtral-Instruct指令模型\n- 训练数据采用了[Chinese-LLaMA-Alpaca-2](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca-2)项目中使用的指令数据，其总量约500万条指令数据\n- 训练代码及使用教程：[📖指令精调脚本Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fsft_scripts_zh)\n\n[指令模板](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1#instruction-format)：\n\n```\n\u003Cs> [INST] Instruction [\u002FINST] Model answer\u003C\u002Fs> [INST] Follow-up instruction [\u002FINST]\n```\n注意：`\u003Cs>`和`\u003C\u002Fs>`是表示序列开始和结束的特殊token，而`[INST]`和`[\u002FINST]`则是普通字符串。\n\n## 常见问题\n\n请在提Issue前务必先查看FAQ中是否已存在解决方案。具体问题和解答请参考本项目 [📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Ffaq_zh)\n\n```\n问题1：后续会不会用更多数据进行训练？会不会做RLHF\u002FDPO对齐？\n问题2：为什么本次的模型没有做中文词表扩展？\n问题3：是否支持Mixtral的下游生态？\n```\n\n\n## 引用\n\n```tex\n@article{chinese-mixtral,\n      title={Rethinking LLM Language Adaptation: A Case Study on Chinese Mixtral}, \n      author={Cui, Yiming and Yao, Xin},\n      journal={arXiv preprint arXiv:2403.01851},\n      url={https:\u002F\u002Farxiv.org\u002Fabs\u002F2403.01851},\n      year={2024}\n}\n```\n\n\n## 免责声明\n\n本项目基于由Mistral.ai发布的Mixtral模型进行开发，使用过程中请严格遵守Mixtral的开源许可协议。如果涉及使用第三方代码，请务必遵从相关的开源许可协议。模型生成的内容可能会因为计算方法、随机因素以及量化精度损失等影响其准确性，因此，本项目不对模型输出的准确性提供任何保证，也不会对任何因使用相关资源和输出结果产生的损失承担责任。如果将本项目的相关模型用于商业用途，开发者应遵守当地的法律法规，确保模型输出内容的合规性，本项目不对任何由此衍生的产品或服务承担责任。\n\n\n## 问题反馈\n\n如有疑问，请在GitHub Issue中提交。礼貌地提出问题，构建和谐的讨论社区。\n\n- 在提交问题之前，请先查看FAQ能否解决问题，同时建议查阅以往的issue是否能解决你的问题。\n- 提交问题请使用本项目设置的Issue模板，以帮助快速定位具体问题。\n- 重复以及与本项目无关的issue会被[stable-bot](https:\u002F\u002Fgithub.com\u002Fmarketplace\u002Fstale)处理，敬请谅解。\n","[**🇨🇳中文**](.\u002FREADME.md) | [**🌐English**](.\u002FREADME_EN.md) | [**📖文档\u002FDocs**](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki) | [**❓提问\u002FIssues**](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fissues) | [**💬讨论\u002FDiscussions**](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fdiscussions) | [**⚔️竞技场\u002FArena**](http:\u002F\u002Fllm-arena.ymcui.com\u002F)\n\n\u003Cp align=\"center\">\n    \u003Cbr>\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fymcui_Chinese-Mixtral_readme_40d39d2880fc.png\" width=\"800\"\u002F>\n    \u003Cbr>\n\u003C\u002Fp>\n\u003Cp align=\"center\">\n    \u003Cimg alt=\"GitHub\" src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Flicense\u002Fymcui\u002FChinese-Mixtral.svg?color=blue&style=flat-square\">\n    \u003Cimg alt=\"GitHub release (latest by date)\" src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Fv\u002Frelease\u002Fymcui\u002FChinese-Mixtral\">\n    \u003Cimg alt=\"GitHub top language\" src=\"https:\u002F\u002Fimg.shields.io\u002Fgithub\u002Flanguages\u002Ftop\u002Fymcui\u002FChinese-Mixtral\">\n    \u003Ca href=\"https:\u002F\u002Fapp.codacy.com\u002Fgh\u002Fymcui\u002FChinese-Mixtral\u002Fdashboard?utm_source=gh&utm_medium=referral&utm_content=&utm_campaign=Badge_grade\">\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fymcui_Chinese-Mixtral_readme_549cb1d41474.png\"\u002F>\u003C\u002Fa>\n\u003C\u002Fp>\n\n本项目基于Mistral.ai发布的[Mixtral模型](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1)进行开发，该模型使用了稀疏混合专家模型（Sparse MoE）架构。本项目利用大规模中文无标注数据进行了中文增量训练，得到了**中文Mixtral**基础模型，并且进一步通过指令精调，得到了**中文Mixtral-Instruct**指令模型。该模型原生支持**32K上下文（实测可达128K）**，能够有效地处理长文本，同时在数学推理、代码生成等方面获得了显著性能提升。使用llama.cpp进行量化推理时，最低只需16G内存（或显存）。\n\n**技术报告**：[[Cui and Yao, 2024] Rethinking LLM Language Adaptation: A Case Study on Chinese Mixtral](https:\u002F\u002Farxiv.org\u002Fabs\u002F2403.01851) [[论文解读]](https:\u002F\u002Fmp.weixin.qq.com\u002Fs?__biz=MzU2NDQ3MTQ0MA==&mid=2247489255&idx=1&sn=432c1c0e40d5e4cfc2a7d4d96ac8e3fc&chksm=fc4b2518cb3cac0e63816d65be9b9e11fb201e3a089550e3cb2cb4d1e8eb532c6d7301688926&token=1150909890&lang=zh_CN#rd)\n\n#### 本项目主要内容\n\n- 🚀 开源中文Mixtral基础模型，该模型在[Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1)的基础上进行了中文增量训练\n- 🚀 开源中文Mixtral-Instruct指令模型，该模型在中文Mixtral的基础上进一步进行了指令精调\n- 🚀 开源了预训练脚本、指令精调脚本，用户可根据需要进一步训练或微调模型\n- 🚀 提供了利用个人电脑CPU\u002FGPU快速在本地进行大模型量化和部署的教程\n- 🚀 支持[🤗transformers](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftransformers), [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp), [text-generation-webui](https:\u002F\u002Fgithub.com\u002Foobabooga\u002Ftext-generation-webui), [LangChain](https:\u002F\u002Fgithub.com\u002Fhwchase17\u002Flangchain), [privateGPT](https:\u002F\u002Fgithub.com\u002Fimartinez\u002FprivateGPT), [vLLM](https:\u002F\u002Fgithub.com\u002Fvllm-project\u002Fvllm)等Mixtral生态\n\n----\n\n[中文LLaMA-2&Alpaca-2大模型](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca-2) | [中文LLaMA&Alpaca大模型](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca) | [多模态中文LLaMA&Alpaca大模型](https:\u002F\u002Fgithub.com\u002Fairaria\u002FVisual-Chinese-LLaMA-Alpaca) | [多模态VLE](https:\u002F\u002Fgithub.com\u002Fiflytek\u002FVLE) | [中文MiniRBT](https:\u002F\u002Fgithub.com\u002Fiflytek\u002FMiniRBT) | [中文LERT](https:\u002F\u002Fgithub.com\u002Fymcui\u002FLERT) | [中英文PERT](https:\u002F\u002Fgithub.com\u002Fymcui\u002FPERT) | [中文MacBERT](https:\u002F\u002Fgithub.com\u002Fymcui\u002FMacBERT) | [中文ELECTRA](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-ELECTRA) | [中文XLNet](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-XLNet) | [中文BERT](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-BERT-wwm) | [知识蒸馏工具TextBrewer](https:\u002F\u002Fgithub.com\u002Fairaria\u002FTextBrewer) | [模型裁剪工具TextPruner](https:\u002F\u002Fgithub.com\u002Fairaria\u002FTextPruner) | [蒸馏裁剪一体化GRAIN](https:\u002F\u002Fgithub.com\u002Fairaria\u002FGRAIN)\n\n\n## 新闻\n\n**[2024\u002F04\u002F30] Chinese-LLaMA-Alpaca-3 已正式发布，开源基于Llama-3的Llama-3-Chinese-8B和Llama-3-Chinese-8B-Instruct，请参阅：https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca-3**\n\n[2024\u002F03\u002F27] 添加1-bit\u002F2-bit\u002F3-bit量化版GGUF模型：[[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl)；同时，本项目已入驻机器之心SOTA!模型平台，欢迎关注：https:\u002F\u002Fsota.jiqizhixin.com\u002Fproject\u002Fchinese-mixtral\n\n[2024\u002F03\u002F26] 添加仿OpenAI API部署模式。详情查看：[📚v1.2版本发布日志](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Freleases\u002Ftag\u002Fv1.2)\n\n[2024\u002F03\u002F05] 开源模型训练和精调代码，发布技术报告。详情查看：[📚v1.1版本发布日志](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Freleases\u002Ftag\u002Fv1.1)\n\n[2024\u002F01\u002F29] 🚀 正式发布Chinese-Mixtral（基座模型），Chinese-Mixtral-Instruct（指令\u002Fchat模型）。详情查看：[📚v1.0版本发布日志](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Freleases\u002Ftag\u002Fv1.0)\n\n\n## 内容导引\n| 章节                                  | 描述                                                         |\n| ------------------------------------- | ------------------------------------------------------------ |\n| [💁🏻‍♂️模型简介](#模型简介) | 简要介绍本项目相关模型的技术特点 |\n| [⏬模型下载](#模型下载)        | 中文Mixtral大模型下载地址    |\n| [💻推理与部署](#推理与部署) | 介绍了如何对模型进行量化并使用个人电脑部署并体验大模型 |\n| [💯模型效果](#模型效果) | 介绍了模型在部分任务上的效果    |\n| [📝训练与精调](#训练与精调) | 介绍了如何训练和精调中文Mixtral大模型 |\n| [❓常见问题](#常见问题) | 一些常见问题的回复 |\n\n\n## 模型简介\n\n本项目开源了基于[Mixtral模型](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1)开发的中文Mixtral、中文Mixtral-Instruct模型，其主要特点如下：\n\n#### 📖 稀疏混合专家模型\n\nMixtral是一个稀疏混合专家模型。该模型与以往的LLaMA等主流大模型结构具有显著差异，主要体现在以下几点：\n\n- 每个FFN层包含8个不同的\"专家\"（全连接层），根据门控值选取最优的2个进行激活\n- 输入序列中的每个token都会独立地选取专家，而不是整个序列对应一组专家\n- 实际参数量约为46.7B，在推理时激活的参数量约为13B\n\n以下是[Mixtral论文](https:\u002F\u002Farxiv.org\u002Fabs\u002F2401.04088)中的结构示意图：\n\u003Cp align=\"center\">\n    \u003Cbr>\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fymcui_Chinese-Mixtral_readme_30f1305af700.png\" width=\"600\"\u002F>\n    \u003Cbr>\n\u003C\u002Fp>\n\n#### 🚄 原生支持32K上下文（实测支持128K）\n\n与[Chinese-LLaMA-Alpaca](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca)以及[Chinese-LLaMA-Alpaca-2](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca-2)项目不同，Mixtral模型原生支持32K上下文（实测可达128K）。用户可使用单一模型来解决不同长度的各类任务。\n\n## 模型下载\n\n### 模型选择指引\n\n以下是本项目的模型对比以及建议使用场景。**如需聊天交互，请选择Instruct版。**\n\n| 对比项                | 中文Mixtral                                     | 中文Mixtral-Instruct                                  |\n| :-------------------- | :----------------------------------------------------: | :----------------------------------------------------------: |\n| 模型类型 | **基座模型** | **指令\u002FChat模型（类ChatGPT）** |\n| 模型大小 | 8x7B（实际激活约13B） | 8x7B（实际激活约13B） |\n| 专家数量 | 8个（实际激活2个） | 8个（实际激活2个） |\n| 训练类型     | Causal-LM (CLM)           | 指令精调                                                     |\n| 训练方式 | QLoRA + 全量emb\u002Flm-head | QLoRA + 全量emb\u002Flm-head |\n| 基于什么模型训练 | 原版Mixtral-8x7B-v0.1 | 中文Mixtral |\n| 训练语料 | 无标注通用语料 | 有标注指令数据 |\n| 词表大小 | 原版词表，32000 | 原版词表，32000 |\n| 支持上下文长度 | 32K（实测可达128K） | 32K（实测可达128K） |\n| 输入模板              | 不需要                                                 | 需要套用Mixtral-Instruct模板 |\n| 适用场景            | 文本续写：给定上文，让模型生成下文            | 指令理解：问答、写作、聊天、交互等 |\n\n### 下载地址\n\n以下提供了3种不同类型的模型：\n\n- **完整版模型**：直接下载即可使用，无需其他合并步骤，推荐网络带宽充足的用户；\n- **LoRA版模型**：无法单独使用，必须与原版[Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1)合并才能转为完整版模型，推荐网络带宽不足且手头有原版Mixtral的用户。合并方法请参阅：[**💻 模型合并步骤**](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fmodel_conversion_zh)\n- **GGUF版模型**：兼容[llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp)等工具的GGUF量化版模型，推荐只需要做推理部署的用户下载。\n\n| 模型名称                  |   类型   |                    规格                    |                    完整版（87 GB）                    |                    LoRA版（2.4 GB）                    |                    GGUF版                    |\n| :------------------------ | :------: | :----------------------------------------------------------: | :----------------------------------------------------------: | :----------------------------------------------------------: | :----------------------------------------------------------: |\n| Chinese-Mixtral | 基座模型 | 8x7B | [[Baidu]](https:\u002F\u002Fpan.baidu.com\u002Fs\u002F1nwJ8JkMTUrCkDEccg7C9Pw?pwd=33kb) [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral) \u003Cbr\u002F>[[🤖ModelScope]](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002FChineseAlpacaGroup\u002Fchinese-mixtral) | [[Baidu]](https:\u002F\u002Fpan.baidu.com\u002Fs\u002F1XRw2-rumi-Pg0CrXqEh8ug?pwd=8gjk) [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-lora) \u003Cbr\u002F>[[🤖ModelScope]](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002FChineseAlpacaGroup\u002Fchinese-mixtral-lora) | [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-gguf) |\n| Chinese-Mixtral-Instruct | 指令模型 | 8x7B | [[Baidu]](https:\u002F\u002Fpan.baidu.com\u002Fs\u002F1ogGipoWgTsojGai5cSxdoQ?pwd=dq7x) [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-instruct) \u003Cbr\u002F>[[🤖ModelScope]](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002FChineseAlpacaGroup\u002Fchinese-mixtral-instruct) | [[Baidu]](https:\u002F\u002Fpan.baidu.com\u002Fs\u002F1hX_mrYE1U1FlUEToclEOwA?pwd=h2ng) [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-instruct-lora) \u003Cbr\u002F>[[🤖ModelScope]](https:\u002F\u002Fmodelscope.cn\u002Fmodels\u002FChineseAlpacaGroup\u002Fchinese-mixtral-instruct-lora) | [[🤗HF]](https:\u002F\u002Fhuggingface.co\u002Fhfl\u002Fchinese-mixtral-instruct-gguf) |\n\n> [!NOTE]\n> 若无法访问HF，可考虑一些镜像站点（如hf-mirror.com），具体方法请自行查找解决。\n\n## 推理与部署\n\n本项目中的相关模型主要支持以下量化、推理和部署方式，具体内容请参考对应教程。\n\n| 工具   | 特点     | CPU  | GPU  | 量化 | GUI  | API  | vLLM |                      教程                             |\n| :----------------------------------------------------------- | ---------------------------- | :--: | :--: | :--: | :--: | :--: | :--: |:--: |\n| [llama.cpp](https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp)      | 丰富的量化选项和高效本地推理 |  ✅   |  ✅   |  ✅   |  ❌   |  ✅   |  ❌   | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fllamacpp_zh) |\n| [🤗Transformers](https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Ftransformers) | 原生transformers推理接口     |  ✅   |  ✅   |  ✅   |  ✅   |  ❌   |  ✅  | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Finference_with_transformers_zh) |\n| [仿OpenAI API调用](https:\u002F\u002Fplatform.openai.com\u002Fdocs\u002Fapi-reference) | 仿OpenAI API接口的服务器Demo |  ✅   |  ✅   |  ✅   |  ❌   |  ✅   |  ✅  | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fopenai_api_zh) |\n| [text-generation-webui](https:\u002F\u002Fgithub.com\u002Foobabooga\u002Ftext-generation-webui) | 前端Web UI界面的部署方式 |  ✅   |  ✅   |  ✅   |  ✅   |  ✅  | ❌  | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Ftext-generation-webui_zh) |\n| [LangChain](https:\u002F\u002Fgithub.com\u002Fhwchase17\u002Flangchain) | 适合二次开发的大模型应用开源框架 |  ✅  |  ✅   |  ✅   |  ❌   |  ❌   | ❌  | [link] |\n| [privateGPT](https:\u002F\u002Fgithub.com\u002Fimartinez\u002FprivateGPT) | 多文档本地问答框架 | ✅ | ✅ | ✅ | ❌ | ❌ | ❌ | [link] |\n| [LM Studio](https:\u002F\u002Flmstudio.ai) | 多平台聊天软件（带界面） | ✅ | ✅ | ✅ | ✅ | ✅ | ❌ | [[link]](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Flmstudio_zh) |\n\n\n## 模型效果\n\n为了评测相关模型的效果，本项目分别进行了生成效果评测和客观效果评测（NLU类），从不同角度对大模型进行评估。推荐用户在自己关注的任务上进行测试，选择适配相关任务的模型。\n\n### 生成效果评测\n\n- 本项目仿照[Fastchat Chatbot Arena](https:\u002F\u002Fchat.lmsys.org\u002F?arena)推出了模型在线对战平台，可浏览和评测模型回复质量。对战平台提供了胜率、Elo评分等评测指标，并且可以查看两两模型的对战胜率等结果。**⚔️ 模型竞技场：[http:\u002F\u002Fllm-arena.ymcui.com](http:\u002F\u002Fllm-arena.ymcui.com\u002F)**\n- examples目录中提供了Chinese-Mixtral-Instruct与Chinese-Alpaca-2-13B的输出样例，并通过GPT-4进行了打分对比，**Chinese-Mixtral-Instruct平均得分为8.20、Chinese-Alpaca-2-13B平均得分为7.05**。**📄 输出样例对比：[examples](.\u002Fexamples)**\n\n### 客观效果评测\n\n#### C-Eval\n\n[C-Eval](https:\u002F\u002Fcevalbenchmark.com)是一个全面的中文基础模型评估套件，其中验证集和测试集分别包含1.3K和12.3K个选择题，涵盖52个学科。C-Eval推理代码请参考本项目：[📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fceval_zh)\n\n| Models             | 类型 | Valid (0-shot) | Valid (5-shot) | Test (0-shot) | Test (5-shot) |\n| ------------------------ | :------------: | :------------: | :-----------: | :-----------: | :-----------: |\n| **Chinese-Mixtral-Instruct** | 指令 | 51.7 | 55.0 | 50.0 | 51.5 |\n| **Chinese-Mixtral**      | 基座 | 45.8 | 54.2 | 43.1 | 49.1 |\n| [Mixtral-8x7B-Instruct-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1) | 指令 | 51.6 | 54.0 | 48.7 | 50.7 |\n| [Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1) | 基座 | 47.3 | 54.6 | 46.1 | 50.3 |\n| Chinese-Alpaca-2-13B | 指令 | 44.3 | 45.9 | 42.6 | 44.0 |\n| Chinese-LLaMA-2-13B | 基座 | 40.6 | 42.7 | 38.0 | 41.6 |\n\n#### CMMLU\n\n[CMMLU](https:\u002F\u002Fgithub.com\u002Fhaonan-li\u002FCMMLU)是另一个综合性中文评测数据集，专门用于评估语言模型在中文语境下的知识和推理能力，涵盖了从基础学科到高级专业水平的67个主题，共计11.5K个选择题。CMMLU推理代码请参考本项目：[📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fcmmlu_zh)\n\n| Models             | 类型 | Test (0-shot) | Test (5-shot) |\n| ------------------------ | :------------: | :-----------: | :-----------: |\n| **Chinese-Mixtral-Instruct** | 指令 | 50.0 | 53.0 |\n| **Chinese-Mixtral**      | 基座 | 42.5 | 51.0 |\n| [Mixtral-8x7B-Instruct-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1) | 指令 | 48.2 | 51.6 |\n| [Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1) | 基座 | 44.3 | 51.6 |\n| Chinese-Alpaca-2-13B | 指令 |     43.2      |     45.5      |\n| Chinese-LLaMA-2-13B | 基座 |     38.9      |     42.5      |\n\n#### MMLU\n\n[MMLU](https:\u002F\u002Fgithub.com\u002Fhendrycks\u002Ftest)是一个用于评测自然语言理解能力的英文评测数据集，是当今用于评测大模型能力的主要数据集之一，其中验证集和测试集分别包含1.5K和14.1K个选择题，涵盖57个学科。MMLU推理代码请参考本项目：[📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fmmlu_zh)\n\n| Models             | 类型 | Valid (0-shot) | Valid (5-shot) | Test (0-shot) | Test (5-shot) |\n| ------------------------ | :------------: | :------------: | :-----------: | :-----------: | :-----------: |\n| **Chinese-Mixtral-Instruct** | 指令 | 65.1 | 69.6 | 67.5 | 69.8 |\n| **Chinese-Mixtral**     | 基座 | 63.2 | 67.1 | 65.5 | 68.3 |\n| [Mixtral-8x7B-Instruct-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1) | 指令 | 68.5 | 70.4 | 68.2 | 70.2 |\n| [Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1) | 基座 | 64.9 | 69.0 | 67.0 | 69.5 |\n| Chinese-Alpaca-2-13B | 指令 | 49.6 | 53.2 | 50.9 | 53.5 |\n| Chinese-LLaMA-2-13B | 基座 | 46.8 | 50.0 | 46.6 | 51.8 |\n\n#### LongBench\n\n[LongBench](https:\u002F\u002Fgithub.com\u002FTHUDM\u002FLongBench)是一个大模型长文本理解能力的评测基准，由6大类、20个不同的任务组成，多数任务的平均长度在5K-15K之间，共包含约4.75K条测试数据。以下是本项目模型在该中文任务（含代码任务）上的评测效果。LongBench推理代码请参考本项目：[📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Flongbench_zh)\n\n| Models                                                       | 单文档QA | 多文档QA | 摘要 | FS学习 | 代码补全 | 合成任务 | 平均 |\n| ------------------------------------------------------------ | :------: | :------: | :--: | :----: | :------: | :------: | :--: |\n| **Chinese-Mixtral-Instruct**                                 |   50.3   |   34.2   | 16.4 |  42.0  |   56.1   |   89.5   | 48.1 |\n| **Chinese-Mixtral**                                          |   32.0   |   23.7   | 0.4  |  42.5  |   27.4   |   14.0   | 23.3 |\n| [Mixtral-8x7B-Instruct-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1) |   56.5   |   35.7   | 15.4 |  46.0  |   63.6   |   98.0   | 52.5 |\n| [Mixtral-8x7B-v0.1](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-v0.1) |   35.5   |   9.5    | 16.4 |  46.5  |   57.2   |   83.5   | 41.4 |\n| Chinese-Alpaca-2-13B-16K                                     |   47.9   |   26.7   | 13.0 |  22.3  |   46.6   |   21.5   | 29.7 |\n| Chinese-LLaMA-2-13B-16K                                      |   36.7   |   17.7   | 3.1  |  29.8  |   13.8   |   3.0    | 17.3 |\n| Chinese-Alpaca-2-7B-64K                                      |   44.7   |   28.1   | 14.4 |  39.0  |   44.6   |   5.0    | 29.3 |\n| Chinese-LLaMA-2-7B-64K                                       |   27.2   |   16.4   | 6.5  |  33.0  |   7.8    |   5.0    | 16.0 |\n\n### 量化效果评测\n\n在llama.cpp下，测试了Chinese-Mixtral量化版模型的性能，如下表所示。\n\n|              |  F16 |   Q8_0 |   Q6_K |   Q5_K |   Q5_0 |   Q4_K |   Q4_0 |   Q3_K | IQ3_XXS |   Q2_K | IQ2_XS | IQ2_XXS |\n| ------------ | ---: | -----: | -----: | -----: | -----: | -----: | -----: | -----: | ------: | -----: | -----: | ------: |\n| Size (GB)    | 87.0 |   46.2 |   35.7 |   30.0 |   30.0 |   24.6 |   24.6 |   19.0 |    17.1 |   16.1 |   12.7 |    11.4 |\n| BPW          | 16.0 |   8.50 |   6.57 |   5.69 |   5.52 |   4.87 |   4.53 |   3.86 |    3.14 |   2.96 |   2.34 |    2.10 |\n| PPL          |    - | 4.4076 | 4.4092 | 4.4192 | 4.4224 | 4.4488 | 4.4917 | 4.5545 |  4.5990 | 5.1846 | 6.9784 |  8.5981 |\n| M3 Max Speed |    - |      - |   36.0 |   36.9 |   35.7 |   31.2 |   27.8 |   37.6 |       - |   29.1 |      - |       - |\n| A100 Speed   |    - |      - |   29.9 |   22.6 |   20.5 |   21.7 |   17.1 |   21.7 |    20.6 |   20.3 |   23.7 |    22.5 |\n\n> [!NOTE]\n>\n> - 模型大小：单位GB\n> - BPW（Bits-Per-Weight）：单位参数比特，例如Q6_K实际平均精度为6.57\n> - PPL（困惑度）：以4K上下文测量，数值越低越好\n> - 生成速度：提供了Apple M3 Max（Metal）以及NVIDIA A100（40G）的生成速度（单位ms\u002Ftoken），数值越低越好\n\n以Chinese-Mixtral-Q4_0为例，下图展示了不同上下文长度下的PPL变化趋势，选取了2组不同的纯文本数据。实验结果表明**Mixtral模型支持的上下文长度已超过标称的32K，在64K+上下文下仍然具有较好的表现（实测可达128K）。**\n\n\u003Cp align=\"center\">\n    \u003Cbr>\n    \u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fymcui_Chinese-Mixtral_readme_a8ed08b06e38.png\" width=\"800\"\u002F>\n    \u003Cbr>\n\u003C\u002Fp>\n\n## 训练与精调\n\n### 预训练\n\n- 在原版Mixtral的基础上，利用大规模无标注数据进行增量训练，得到Chinese-Mixtral基座模型\n- 训练数据采用[Chinese-LLaMA-Alpaca](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca)项目中与基础版模型一致的数据，其总量约20G纯文本文件\n- 训练代码及使用教程：[📖预训练脚本Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fpt_scripts_zh)\n\n### 指令精调\n\n- 在Chinese-Mixtral的基础上，利用有标注指令数据进行进一步精调，得到Chinese-Mixtral-Instruct指令模型\n- 训练数据采用了[Chinese-LLaMA-Alpaca-2](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-LLaMA-Alpaca-2)项目中使用的指令数据，其总量约500万条指令数据\n- 训练代码及使用教程：[📖指令精调脚本Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fsft_scripts_zh)\n\n[指令模板](https:\u002F\u002Fhuggingface.co\u002Fmistralai\u002FMixtral-8x7B-Instruct-v0.1#instruction-format)：\n\n```\n\u003Cs> [INST] Instruction [\u002FINST] Model answer\u003C\u002Fs> [INST] Follow-up instruction [\u002FINST]\n```\n注意：`\u003Cs>`和`\u003C\u002Fs>`是表示序列开始和结束的特殊token，而`[INST]`和`[\u002FINST]`则是普通字符串。\n\n## 常见问题\n\n请在提Issue前务必先查看FAQ中是否已存在解决方案。具体问题和解答请参考本项目 [📖GitHub Wiki](https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Ffaq_zh)\n\n```\n问题1：后续会不会用更多数据进行训练？会不会做RLHF\u002FDPO对齐？\n问题2：为什么本次的模型没有做中文词表扩展？\n问题3：是否支持Mixtral的下游生态？\n```\n\n\n## 引用\n\n```tex\n@article{chinese-mixtral,\n      title={Rethinking LLM Language Adaptation: A Case Study on Chinese Mixtral}, \n      author={Cui, Yiming and Yao, Xin},\n      journal={arXiv preprint arXiv:2403.01851},\n      url={https:\u002F\u002Farxiv.org\u002Fabs\u002F2403.01851},\n      year={2024}\n}\n```\n\n## 免责声明\n\n本项目基于由Mistral.ai发布的Mixtral模型进行开发，使用过程中请严格遵守Mixtral的开源许可协议。如果涉及使用第三方代码，请务必遵从相关的开源许可协议。模型生成的内容可能会因为计算方法、随机因素以及量化精度损失等影响其准确性，因此，本项目不对模型输出的准确性提供任何保证，也不会对任何因使用相关资源和输出结果产生的损失承担责任。如果将本项目的相关模型用于商业用途，开发者应遵守当地的法律法规，确保模型输出内容的合规性，本项目不对任何由此衍生的产品或服务承担责任。\n\n\n## 问题反馈\n\n如有疑问，请在GitHub Issue中提交。礼貌地提出问题，构建和谐的讨论社区。\n\n- 在提交问题之前，请先查看FAQ能否解决问题，同时建议查阅以往的issue是否能解决你的问题。\n- 提交问题请使用本项目设置的Issue模板，以帮助快速定位具体问题。\n- 重复以及与本项目无关的issue会被[stable-bot](https:\u002F\u002Fgithub.com\u002Fmarketplace\u002Fstale)处理，敬请谅解。","# Chinese-Mixtral 快速上手指南\n\nChinese-Mixtral 是基于 Mistral AI 发布的 Mixtral-8x7B 模型，利用大规模中文无标注数据进行增量训练得到的中文大语言模型。该模型采用稀疏混合专家（Sparse MoE）架构，原生支持 32K 上下文（实测可达 128K），在数学推理和代码生成方面表现优异。\n\n## 环境准备\n\n### 系统要求\n- **操作系统**：Linux (推荐), macOS, Windows (WSL2)\n- **内存\u002F显存**：\n  - 全量推理：建议 80GB+ 显存或多卡环境\n  - 量化推理 (llama.cpp)：最低 16GB 内存或显存即可运行\n- **Python 版本**：3.8 及以上\n\n### 前置依赖\n确保已安装以下基础工具：\n- `git`\n- `python3`\n- `pip`\n- `cuda` (如需 GPU 加速，建议版本 11.8+)\n\n## 安装步骤\n\n### 1. 克隆项目代码\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral.git\ncd Chinese-Mixtral\n```\n\n### 2. 安装 Python 依赖\n推荐使用国内镜像源加速安装：\n```bash\npip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n*注：若需使用 transformers 原生推理，请确保安装最新版：*\n```bash\npip install --upgrade transformers accelerate sentencepiece protobuf -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n### 3. 获取模型权重\n本项目提供完整版、LoRA 版和 GGUF 量化版。对于快速上手，推荐直接下载 **GGUF 版**（适合本地低资源部署）或 **完整版**（适合开发调试）。\n\n#### 方案 A：下载 GGUF 量化版（推荐个人电脑用户）\n通过 Hugging Face 或镜像站下载 `chinese-mixtral-instruct-gguf`。\n```bash\n# 示例：使用 huggingface-cli 下载 (需安装 huggingface_hub)\n# 如果访问 HF 困难，可使用 hf-mirror.com 替换 huggingface.co\npip install huggingface_hub\nhuggingface-cli download hfl\u002Fchinese-mixtral-instruct-gguf --local-dir .\u002Fmodels\u002Fgguf\n```\n*国内加速提示：若无法访问 Hugging Face，可设置环境变量 `export HF_ENDPOINT=https:\u002F\u002Fhf-mirror.com` 后重试上述命令。*\n\n#### 方案 B：下载完整版模型（Hugging Face \u002F ModelScope \u002F 百度网盘）\n- **Hugging Face**: `hfl\u002Fchinese-mixtral-instruct`\n- **ModelScope (魔搭)**: `ChineseAlpacaGroup\u002Fchinese-mixtral-instruct` (国内推荐)\n- **百度网盘**: 见项目 README 表格链接\n\n若使用 ModelScope 下载：\n```bash\npip install modelscope\nmodelscope download ChineseAlpacaGroup\u002Fchinese-mixtral-instruct --local_dir .\u002Fmodels\u002Ffull\n```\n\n## 基本使用\n\n### 方式一：使用 llama.cpp 进行本地量化推理（最轻量）\n适用于 CPU 或单张消费级显卡，内存占用低。\n\n1. **编译 llama.cpp**\n   ```bash\n   git clone https:\u002F\u002Fgithub.com\u002Fggerganov\u002Fllama.cpp.git\n   cd llama.cpp\n   make\n   ```\n\n2. **运行模型**\n   假设已下载 `chinese-mixtral-instruct-q4_k_m.gguf` 到当前目录：\n   ```bash\n   .\u002Fmain -m ..\u002Fchinese-mixtral-instruct-q4_k_m.gguf \\\n          -p \"你好，请介绍一下你自己。\" \\\n          -n 512 \\\n          --color\n   ```\n   *注：Mixtral-Instruct 模型通常不需要特殊的 Prompt 模板即可在 llama.cpp 中获得较好效果，但为了最佳指令遵循，建议在 prompt 中明确指令。*\n\n### 方式二：使用 🤗 Transformers 进行推理（开发友好）\n适用于拥有较大显存（或多卡）的开发者，便于集成到现有 Python 项目中。\n\n```python\nfrom transformers import AutoTokenizer, AutoModelForCausalLM\nimport torch\n\n# 加载模型和分词器\n# 请将路径替换为你实际下载的模型路径，或使用 \"hfl\u002Fchinese-mixtral-instruct\"\nmodel_path = \".\u002Fmodels\u002Ffull\" \n\ntokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)\nmodel = AutoModelForCausalLM.from_pretrained(\n    model_path, \n    torch_dtype=torch.float16, \n    device_map=\"auto\",\n    trust_remote_code=True\n)\n\n# 构建输入 (Mixtral-Instruct 建议配合指令模板，此处为简化示例)\nprompt = \"你好，请介绍一下你自己。\"\ninputs = tokenizer(prompt, return_tensors=\"pt\").to(model.device)\n\n# 生成回复\noutputs = model.generate(\n    **inputs, \n    max_new_tokens=512, \n    do_sample=True, \n    temperature=0.7, \n    top_p=0.9\n)\n\nresponse = tokenizer.decode(outputs[0], skip_special_tokens=True)\nprint(response)\n```\n\n### 方式三：启动仿 OpenAI API 服务\n项目支持启动兼容 OpenAI 格式的 API 服务，方便对接 LangChain 或其他应用。\n\n```bash\n# 确保已安装相关依赖 (fastapi, uvicorn, sse-starlette 等)\npython api_server.py --model_path .\u002Fmodels\u002Ffull --port 8000\n```\n启动后，可通过 `http:\u002F\u002Flocalhost:8000\u002Fv1\u002Fchat\u002Fcompletions` 接口调用模型。","某法律科技团队需要构建一个能处理长篇中文合同并提取关键条款的智能审核系统。\n\n### 没有 Chinese-Mixtral 时\n- **长文本处理能力弱**：通用模型上下文窗口有限，面对超过 2 万字的复杂合同时经常丢失首尾信息，导致关键风险条款漏检。\n- **中文法律语义理解偏差**：直接使用未经中文深度优化的国外基座模型，对“不可抗力”、“连带责任”等专业术语的理解生硬，容易产生幻觉或错误解读。\n- **部署成本高昂**：原有大模型方案对显存要求极高，普通开发机无法运行，必须依赖昂贵的多卡服务器集群，推高了研发门槛。\n- **推理响应缓慢**：在处理长文档问答时，生成速度慢且延迟高，无法满足律师实时交互审核的需求。\n\n### 使用 Chinese-Mixtral 后\n- **超长上下文精准覆盖**：利用原生支持的 32K（实测可达 128K）上下文窗口，Chinese-Mixtral 能一次性完整读入整份合同，确保从前言到附录的所有细节均被纳入分析。\n- **专业领域理解升级**：基于大规模中文无标注数据增量训练及指令精调，Chinese-Mixtral 对中文法律语境理解深刻，能准确识别并解释复杂的权责条款。\n- **本地化低成本部署**：借助 llama.cpp 量化技术，Chinese-Mixtral 最低仅需 16G 内存即可在个人电脑或单卡设备上流畅运行，大幅降低了硬件投入。\n- **高效实时交互**：稀疏混合专家（MoE）架构结合量化加速，显著提升了长文本下的推理速度，让律师能在秒级内获得精准的条款修订建议。\n\nChinese-Mixtral 通过卓越的长文本处理能力和深度的中文语义优化，让高精度法律智能审核在低成本硬件上成为现实。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fymcui_Chinese-Mixtral_40d39d28.png","ymcui","Yiming Cui","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fymcui_27303d50.jpg","NLP Researcher. Mainly interested in Pre-trained Language Model, Machine Reading Comprehension, Question Answering, etc.",null,"Beijing, China","conandiy@vip.qq.com","KCrosner","http:\u002F\u002Fymcui.github.io","https:\u002F\u002Fgithub.com\u002Fymcui",[87,91],{"name":88,"color":89,"percentage":90},"Python","#3572A5",97.1,{"name":92,"color":93,"percentage":94},"Shell","#89e051",2.9,610,42,"2026-04-03T14:56:37","Apache-2.0","Linux, macOS, Windows","非必需。支持 CPU 推理（llama.cpp 最低需 16GB 内存\u002F显存）；若使用 GPU 加速，推荐 NVIDIA 显卡以支持 CUDA 或 Metal (macOS)。","最低 16GB（量化后），完整版模型建议 32GB+ 系统内存或相应显存",{"notes":103,"python":104,"dependencies":105},"1. 模型基于 Mixtral-8x7B 架构，实际激活参数约 13B，总参数 46.7B。2. 原生支持 32K 上下文，实测可达 128K。3. 提供多种部署方式：llama.cpp（适合个人电脑 CPU\u002FGPU 量化部署）、Transformers、vLLM、text-generation-webui 等。4. 若网络带宽不足，可下载 LoRA 版模型并与原版 Mixtral-8x7B-v0.1 合并使用。5. 量化推理（如 GGUF 格式）在个人电脑上最低仅需 16GB 内存即可运行。","未说明",[106,107,108,109,110],"transformers","llama.cpp","torch","accelerate","bitsandbytes",[13,26],[113,114,115,116,117,118,119,120],"32k","large-language-models","llm","mixtral","mixture-of-experts","moe","nlp","64k","2026-03-27T02:49:30.150509","2026-04-06T08:18:28.757363",[124,129,134,139,144,149],{"id":125,"question_zh":126,"answer_zh":127,"source_url":128},17174,"Chinese-Mixtral 模型是否提供了官方的训练脚本？如果没有，如何进行微调？","本仓库开源的 Chinese-Mixtral 与英文 Mixtral 在结构、词表等方面没有差异，因此所有支持英文 Mixtral 训练和推理的代码均适用，本项目未单独开源训练脚本。用户可以参考 Chinese-LLaMA-Alpaca-2 项目的训练脚本，修改对应参数以支持 Mixtral 的训练。","https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fissues\u002F13",{"id":130,"question_zh":131,"answer_zh":132,"source_url":133},17175,"使用 Ollama 运行 Chinese-Mixtral GGUF 模型时遇到 'missing tensor' 错误怎么办？","该问题通常是由于 Ollama 版本过旧或模型文件损坏导致的。错误日志显示缺少 'blk.0.ffn_down_exps.weight' 张量，这可能与 Ollama 对 Mixtral 架构的支持有关。建议尝试更新 Ollama 到最新版本，或者手动重新下载完整的 GGUF 模型文件。如果问题依旧，可能需要等待 Ollama 官方修复对该模型架构的支持（参考 ollama#8147）。","https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fissues\u002F29",{"id":135,"question_zh":136,"answer_zh":137,"source_url":138},17176,"从 Hugging Face 或百度网盘下载模型速度太慢，有什么加速方法？","暂时没有精力做更多分流，但可以尝试以下方法加速下载：\n1. Hugging Face 本身支持 CLI 方式下载，搭配 `hf_transfer` 库速度会很可观。\n2. 尝试使用镜像站，例如 https:\u002F\u002Fhf-mirror.com 来替代官方源进行下载。","https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fissues\u002F12",{"id":140,"question_zh":141,"answer_zh":142,"source_url":143},17177,"LoRA 微调时，load_in_kbits 设置为 8 或 16 报错，只有 4bit 能正常运行，原因是什么？","维护者表示目前并未针对 8bit 量化进行过专门的调试和测试。出现此情况可能是由于当前版本的依赖库（如 bitsandbytes）或代码逻辑对 8bit\u002F16bit 加载支持不完善。建议暂时优先使用稳定的 4bit 量化进行微调，或者检查自身环境的 bitsandbytes 版本是否与项目要求一致。","https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fissues\u002F23",{"id":145,"question_zh":146,"answer_zh":147,"source_url":148},17178,"SFT 微调保存 checkpoint 后中断，尝试从 checkpoint 继续训练时报错，如何解决？","此类问题有时不一定是依赖版本的问题，也可能是多卡训练时显卡间的通信问题。如果是 CPU 相关设置不清楚，需要自行查阅资料排查。此外，请确保使用的启动命令和环境变量（如 CUDA_VISIBLE_DEVICES）在断点续训时保持一致，并检查 deepspeed 配置文件是否正确加载了之前的状态。","https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fissues\u002F21",{"id":150,"question_zh":151,"answer_zh":152,"source_url":128},17179,"在使用 Alpaca 指令数据进行微调时，指令模板（Prompt Template）是如何设计的？","由于 Chinese-Mixtral 与原版 Mixtral 结构一致，其指令模板的设计通常沿用原版 Mixtral 或 LLaMA 系列的通用格式。具体实现需参考用户所采用的基座训练脚本（如 Chinese-LLaMA-Alpaca-2 中的处理方式），通常在数据预处理阶段将指令、输入和输出拼接成特定的对话格式字符串。",[154,159,164],{"id":155,"version":156,"summary_zh":157,"released_at":158},99374,"v1.2","本次更新添加了仿OpenAI API Demo。教程：https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fopenai_api_zh\n\n此版本新增了OpenAI API演示。教程：https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fopenai_api_en\n\n## 变更内容\n* 由@ymcui在 https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fpull\u002F25 中添加了OpenAI API演示\n\n**完整变更日志**: https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fcompare\u002Fv1.1...v1.2","2024-03-26T07:33:22",{"id":160,"version":161,"summary_zh":162,"released_at":163},99375,"v1.1","本次更新主要有以下两点：\n\n- **添加中文Mixtral技术报告**，介绍了模型训练方法和相关实验分析\n   - 论文地址：https:\u002F\u002Farxiv.org\u002Fabs\u002F2403.01851\n\n- **添加了预训练和指令精调训练脚本**\n   - 预训练：https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fpt_scripts_zh\n   - 指令精调：https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fwiki\u002Fsft_scripts_zh\n\n### 变更内容\n* 在 https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fpull\u002F5 中，@iMountTai 添加了评估脚本。\n* 在 https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fpull\u002F7 中，@iMountTai 更新了 README 并添加了依赖项要求。\n* llama.cpp：在 https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fpull\u002F8 中，@ymcui 添加了 IQ3_XXS 量化模型。\n* 在 https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fpull\u002F18 中，@iMountTai 添加了训练脚本。\n* 在 https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fpull\u002F20 中，@ymcui 添加了中文版 Mixtral 论文。\n\n**完整变更日志**：https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral\u002Fcompare\u002Fv1.0...v1.1","2024-03-05T08:05:34",{"id":165,"version":166,"summary_zh":167,"released_at":168},99376,"v1.0","中文Mixtral、Mixtral-Instruct大模型已正式发布。  \n- **Chinese-Mixtral**：基座模型，使用20G语料增量训练  \n- **Chinese-Mixtral-Instruct**：指令\u002Fchat模型，在Chinese-Mixtral的基础上进一步通过指令精调（500万条指令）获得  \n\n### 模型特点  \n#### 📖 稀疏混合专家模型  \n\nMixtral是一个稀疏混合专家模型。该模型与以往的LLaMA等主流大模型结构具有显著差异，主要体现在以下几点：  \n\n- 每个FFN层包含8个不同的“专家”（全连接层），根据门控值选取最优的2个进行激活  \n- 输入序列中的每个token都会独立地选取专家，而不是整个序列对应一组专家  \n- 实际参数量约为46.7B，在推理时激活的参数量约为13B  \n\n#### 🚄 原生支持32K上下文（实测支持128K）  \n\nMixtral模型原生支持32K上下文（实测可达128K）。用户可使用单一模型来解决不同长度的各类任务。  \n\n###  模型效果  \n\n- 大模型竞技场：http:\u002F\u002Fllm-arena.ymcui.com\u002F  \n- 生成效果：https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral#生成效果评测  \n- 客观效果：https:\u002F\u002Fgithub.com\u002Fymcui\u002FChinese-Mixtral#客观效果评测","2024-01-29T03:40:18"]