[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-xverse-ai--XVERSE-13B":3,"tool-xverse-ai--XVERSE-13B":64},[4,17,25,39,48,56],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":16},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",138956,2,"2026-04-05T11:33:21",[13,14,15],"开发框架","Agent","语言模型","ready",{"id":18,"name":19,"github_repo":20,"description_zh":21,"stars":22,"difficulty_score":10,"last_commit_at":23,"category_tags":24,"status":16},3704,"NextChat","ChatGPTNextWeb\u002FNextChat","NextChat 是一款轻量且极速的 AI 助手，旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性，以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发，NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。\n\n这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言，它也提供了便捷的自托管方案，支持一键部署到 Vercel 或 Zeabur 等平台。\n\nNextChat 的核心亮点在于其广泛的模型兼容性，原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型，让用户在一个界面即可自由切换不同 AI 能力。此外，它还率先支持 MCP（Model Context Protocol）协议，增强了上下文处理能力。针对企业用户，NextChat 提供专业版解决方案，具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能，满足公司对数据隐私和个性化管理的高标准要求。",87618,"2026-04-05T07:20:52",[13,15],{"id":26,"name":27,"github_repo":28,"description_zh":29,"stars":30,"difficulty_score":10,"last_commit_at":31,"category_tags":32,"status":16},2268,"ML-For-Beginners","microsoft\u002FML-For-Beginners","ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程，旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周，包含 26 节精炼课程和 52 道配套测验，内容涵盖从基础概念到实际应用的完整流程，有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。\n\n无论是希望转型的开发者、需要补充算法背景的研究人员，还是对人工智能充满好奇的普通爱好者，都能从中受益。课程不仅提供了清晰的理论讲解，还强调动手实践，让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持，通过自动化机制提供了包括简体中文在内的 50 多种语言版本，极大地降低了全球不同背景用户的学习门槛。此外，项目采用开源协作模式，社区活跃且内容持续更新，确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路，ML-For-Beginners 将是理想的起点。",84991,"2026-04-05T10:45:23",[33,34,35,36,14,37,15,13,38],"图像","数据工具","视频","插件","其他","音频",{"id":40,"name":41,"github_repo":42,"description_zh":43,"stars":44,"difficulty_score":45,"last_commit_at":46,"category_tags":47,"status":16},3128,"ragflow","infiniflow\u002Fragflow","RAGFlow 是一款领先的开源检索增强生成（RAG）引擎，旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体（Agent）能力相结合，不仅支持从各类文档中高效提取知识，还能让模型基于这些知识进行逻辑推理和任务执行。\n\n在大模型应用中，幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构（如表格、图表及混合排版），显著提升了信息检索的准确度，从而有效减少模型“胡编乱造”的现象，确保回答既有据可依又具备时效性。其内置的智能体机制更进一步，使系统不仅能回答问题，还能自主规划步骤解决复杂问题。\n\n这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统，还是致力于探索大模型在垂直领域落地的创新者，都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口，既降低了非算法背景用户的上手门槛，也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目，它正成为连接通用大模型与行业专有知识之间的重要桥梁。",77062,3,"2026-04-04T04:44:48",[14,33,13,15,37],{"id":49,"name":50,"github_repo":51,"description_zh":52,"stars":53,"difficulty_score":45,"last_commit_at":54,"category_tags":55,"status":16},519,"PaddleOCR","PaddlePaddle\u002FPaddleOCR","PaddleOCR 是一款基于百度飞桨框架开发的高性能开源光学字符识别工具包。它的核心能力是将图片、PDF 等文档中的文字提取出来，转换成计算机可读取的结构化数据，让机器真正“看懂”图文内容。\n\n面对海量纸质或电子文档，PaddleOCR 解决了人工录入效率低、数字化成本高的问题。尤其在人工智能领域，它扮演着连接图像与大型语言模型（LLM）的桥梁角色，能将视觉信息直接转化为文本输入，助力智能问答、文档分析等应用场景落地。\n\nPaddleOCR 适合开发者、算法研究人员以及有文档自动化需求的普通用户。其技术优势十分明显：不仅支持全球 100 多种语言的识别，还能在 Windows、Linux、macOS 等多个系统上运行，并灵活适配 CPU、GPU、NPU 等各类硬件。作为一个轻量级且社区活跃的开源项目，PaddleOCR 既能满足快速集成的需求，也能支撑前沿的视觉语言研究，是处理文字识别任务的理想选择。",74939,"2026-04-05T23:16:38",[15,33,13,37],{"id":57,"name":58,"github_repo":59,"description_zh":60,"stars":61,"difficulty_score":45,"last_commit_at":62,"category_tags":63,"status":16},2181,"OpenHands","OpenHands\u002FOpenHands","OpenHands 是一个专注于 AI 驱动开发的开源平台，旨在让智能体（Agent）像人类开发者一样理解、编写和调试代码。它解决了传统编程中重复性劳动多、环境配置复杂以及人机协作效率低等痛点，通过自动化流程显著提升开发速度。\n\n无论是希望提升编码效率的软件工程师、探索智能体技术的研究人员，还是需要快速原型验证的技术团队，都能从中受益。OpenHands 提供了灵活多样的使用方式：既可以通过命令行（CLI）或本地图形界面在个人电脑上轻松上手，体验类似 Devin 的流畅交互；也能利用其强大的 Python SDK 自定义智能体逻辑，甚至在云端大规模部署上千个智能体并行工作。\n\n其核心技术亮点在于模块化的软件智能体 SDK，这不仅构成了平台的引擎，还支持高度可组合的开发模式。此外，OpenHands 在 SWE-bench 基准测试中取得了 77.6% 的优异成绩，证明了其解决真实世界软件工程问题的能力。平台还具备完善的企业级功能，支持与 Slack、Jira 等工具集成，并提供细粒度的权限管理，适合从个人开发者到大型企业的各类用户场景。",70612,"2026-04-05T11:12:22",[15,14,13,36],{"id":65,"github_repo":66,"name":67,"description_en":68,"description_zh":69,"ai_summary_zh":69,"readme_en":70,"readme_zh":71,"quickstart_zh":72,"use_case_zh":73,"hero_image_url":74,"owner_login":75,"owner_name":76,"owner_avatar_url":77,"owner_bio":78,"owner_company":79,"owner_location":79,"owner_email":80,"owner_twitter":79,"owner_website":81,"owner_url":82,"languages":83,"stars":88,"forks":89,"last_commit_at":90,"license":91,"difficulty_score":45,"env_os":92,"env_gpu":93,"env_ram":94,"env_deps":95,"category_tags":102,"github_topics":79,"view_count":10,"oss_zip_url":79,"oss_zip_packed_at":79,"status":16,"created_at":103,"updated_at":104,"faqs":105,"releases":135},3369,"xverse-ai\u002FXVERSE-13B","XVERSE-13B","XVERSE-13B: A multilingual large language model developed by XVERSE Technology Inc.","XVERSE-13B 是由元象科技自主研发的多语言大语言模型，旨在为用户提供高质量的自然语言理解与生成能力。它有效解决了传统模型在长文本处理、多轮对话连贯性以及跨语言应用中的局限性，特别擅长处理文献总结、复杂报告分析及多语言交互任务。\n\n这款模型非常适合开发者、AI 研究人员及企业技术团队使用。开发者可基于其开源特性进行二次开发或部署本地应用；研究人员可利用其强大的基座能力探索前沿算法；普通用户也能通过集成的应用享受流畅的智能对话体验。\n\nXVERSE-13B 拥有多项显著的技术亮点：首先，它支持长达 256K 的上下文窗口，能一次性处理约 25 万字的输入内容，在同尺寸模型中表现卓越；其次，模型基于 3.2 万亿 token 的高质量数据训练，覆盖中、英、俄、西等 40 多种语言，尤其在中文场景下表现优异；此外，它还具备高效的工具调用能力和优秀的逻辑推理、数学计算及编程水平。无论是构建智能客服、辅助写作工具，还是进行复杂的知识问答，XVERSE-13B 都能提供稳定且专业的支持。","\u003Cdiv align=\"center\">\n\u003Ch1>\n  XVERSE-13B\n\u003C\u002Fh1>\n\u003C\u002Fdiv>\n\n\u003Cp align=\"center\">\n        \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fxverse\">🤗 Hugging Face\u003C\u002Fa>&nbsp｜\n        \u003Ca href=\"https:\u002F\u002Fmodelscope.cn\u002Forganization\u002Fxverse\" rel=\"nofollow\">\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxverse-ai_XVERSE-13B_readme_375e99f5914e.png\" width=\"20px\" style=\"max-width: 100%;\"> ModelScope\u003C\u002Fa>&nbsp｜\n        \u003Ca href=\"https:\u002F\u002Fopenxlab.org.cn\u002Fmodels\u002Fhot\u002FXVERSE\">🧰 OpenXLab\u003C\u002Fa>&nbsp｜\n        \u003Ca href=\"resources\u002Fwechat.png\">💬 微信社区\u003C\u002Fa>\n\u003C\u002Fp>\n\n\u003Ch4 align=\"left\">\n    \u003Cp>\n        \u003Cb>中文\u003C\u002Fb> |\n        \u003Ca href=\"README_EN.md\">English\u003C\u002Fa> |\n        \u003Ca href=\"README_JA.md\">日本語\u003C\u002Fa>\n    \u003Cp>\n\u003C\u002Fh4>\n\n## 更新信息\n- **[2024\u002F03\u002F25]** 发布XVERSE-13B-2-Chat GGUF、GPTQ量化模型，支持llama.cpp、vLLM在MacOS\u002FLinux\u002FWindows系统上推理XVERSE-13B-2-Chat模型。\n- **[2024\u002F01\u002F16]** 发布长序列对话模型**XVERSE-13B-256K** ，该版本模型最大支持 256K 的上下文窗口长度，约 25w 字的输入内容，可以协助进行文献总结、报告分析等任务。\n- **[2023\u002F11\u002F06]** 发布新版本的 **XVERSE-13B-2** 底座模型和 **XVERSE-13B-2-Chat** 对话模型，相较于原始版本，新版本的模型训练更加充分（从 1.4T 增加到 3.2T），各方面的能力均得到大幅提升，同时新增工具调用能力。\n- **[2023\u002F09\u002F26]** 发布 7B 尺寸的 [XVERSE-7B](https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-7B) 底座模型和 [XVERSE-7B-Chat](https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-7B) 对话模型，支持在单张消费级显卡部署运行，并保持高性能、全开源、免费可商用。\n- **[2023\u002F08\u002F22]** 发布经过指令精调的 XVERSE-13B-Chat 对话模型。\n- **[2023\u002F08\u002F07]** 发布 13B 尺寸的 XVERSE-13B 底座模型。\n\n## 模型介绍\n\n**XVERSE-13B** 是由深圳元象科技自主研发的支持多语言的大语言模型（Large Language Model），主要特点如下：\n\n- **模型结构**：XVERSE-13B 使用主流 Decoder-only 的标准 Transformer 网络结构，支持 8K 的上下文长度（Context Length），为同尺寸模型中最长，能满足更长的多轮对话、知识问答与摘要等需求，模型应用场景更广泛。\n- **训练数据**：构建了 3.2 万亿 token 的高质量、多样化的数据对模型进行充分训练，包含中、英、俄、西等 40 多种语言，通过精细化设置不同类型数据的采样比例，使得中英两种语言表现优异，也能兼顾其他语言效果。\n- **分词**：基于 BPE（Byte-Pair Encoding）算法，使用上百 GB 语料训练了一个词表大小为 100,534 的分词器，能够同时支持多语言，而无需额外扩展词表。\n- **训练框架**：自主研发多项关键技术，包括高效算子、显存优化、并行调度策略、数据-计算-通信重叠、平台和框架协同等，让训练效率更高，模型稳定性强，在千卡集群上的峰值算力利用率可达到 58.5%，位居业界前列。\n\n**XVERSE-13B-2-Chat**为 **XVERSE-13B-2** 底座模型对齐后的版本。\n\n对齐阶段，不同能力类型数据的采样比例如下所示：\n\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxverse-ai_XVERSE-13B_readme_79798c59d37b.png\">\n\n**XVERSE-13B-256K**是[**XVERSE-13B-2**](https:\u002F\u002Fhuggingface.co\u002Fxverse\u002FXVERSE-13B)模型经过ABF+继续预训练、NTK+SFT微调后的版本。\n\n## 评测结果\n\n为了综合评估模型的性能，我们在一系列标准数据集上进行了全面测试，包括C-Eval、CMMLU、Gaokao-Bench、MMLU、GAOKAO-English、AGIEval、RACE-M、CommonSenseQA、PIQA、GSM8K和HumanEval。这些评估覆盖了模型在多个领域的能力，具体包括中文问答、英文问答、语言理解、常识问答、逻辑推理、数学问题解答以及编程能力。评估结果如下：\n\n|  能力维度  |           数据集           |        | XVERSE-13B-2 | XVERSE-13B | Baichuan2-13B | Llama1-13B | Llama2-13B |\n| :--------: | :------------------------: | :----: | :----------: | :--------: | :-----------: | :--------: | :--------: |\n|  中文问答  |           C-Eval           | 5-shot |     63.5     |    54.7    |     58.1      |    28.8    |    35.6    |\n|            |           CMMLU            | 5-shot |     66.2     |    59.1    |     62.0      |    31.5    |    38.4    |\n|            |  Gaokao-Bench\u003Csup>1\u003C\u002Fsup>  | 5-shot |     67.5     |    53.9    |     54.3      |    26.4    |    35.4    |\n|  英文问答  |            MMLU            | 5-shot |     61.2     |    55.1    |     59.2      |    46.9    |    54.8    |\n|            | GAOKAO-English\u003Csup>1\u003C\u002Fsup> | 5-shot |     73.7     |    66.5    |     67.7      |    38.1    |    60.6    |\n| 中英文问答 |    AGIEval\u003Csup>1\u003C\u002Fsup>     | 5-shot |     54.5     |    41.4    |     48.2      |    27.3    |    33.4    |\n|  语言理解  |           RACE-M           | 0-shot |     84.6     |    74.2    |     68.9      |    61.6    |    63.0    |\n|  常识问答  |       CommonSenseQA        | 7-shot |     74.0     |    69.5    |     65.6      |    62.0    |    67.3    |\n|    推理    |            PIQA            | 0-shot |     80.8     |    79.0    |     78.5      |    80.1    |    80.5    |\n|    数学    |           GSM8K            | 4-shot |     54.9     |    18.4    |     52.7      |    17.8    |    28.7    |\n|    代码    |         HumanEval          | 0-shot |     39.6     |    15.9    |     17.1      |    15.8    |    18.3    |\n\n> \u003Csup>1：只针对其中的单项选择题进行测试，即排除了填空题、开放性问题和多项选择题\u003C\u002Fsup>   \n\n对于上述所有比较模型，我们优先汇报其官方公布的结果。在缺少官方结果的情况下，我们采用了 [OpenCompass 榜单](https:\u002F\u002Fopencompass.org.cn\u002Fleaderboard-llm)的报告结果。其他结果则来自于我们自行执行的评估流程所获得的数据。   \n对于 MMLU ，我们采用作者提供的[评测工具](https:\u002F\u002Fgithub.com\u002Fhendrycks\u002Ftest)，C-Eval、AGIEval、GAOKAO-Bench、GAOKAO-English 与 MMLU 的评测方式相同，其余评测数据集使用 [OpenCompass 评估框架](https:\u002F\u002Fgithub.com\u002Fopen-compass\u002FOpenCompass\u002F)进行评估。\n\n### XVERSE-13B-256K\n\n为了验证长序列的效果，这里我们使用了LongBench数据集。[LongBench](https:\u002F\u002Fgithub.com\u002FTHUDM\u002FLongBench)是第一个多任务、中英双语、针对大语言模型长文本理解能力的评测基准。LongBench由六大类、二十一个不同的任务组成，覆盖了单文档问答、多文档问答、摘要、Few shot任务、合成任务和代码补全等关键的长文本应用场景。LongBench包含14个英文任务、5个中文任务和2个代码任务，多数任务的平均长度在5k-15k之间，共包含4750条测试数据。评估结果如下：\n\n\n|  能力维度  |  数据集 |  XVERSE-13B-256K | GPT-3.5-Turbo-16K | Yi-6B-200K | LongChat-7B-16K | Llama2-7B-Chat-4K | \n| :--------: | :-------------------: | :----: | :----------: | :--------: | :-----------: | :--------: |\n|  多文档问答  |      HotpotQA         |     58.3     |    51.6    |     48.3      |    22.4    |    24.3    |\n|             |      DuReader         |     28.9     |    28.7    |     14.2       |    19.1    |    1.9    |\n|  单文档问答  |      NarrativeQA      |    24.1      |    23.6    |     14.5      |    21.6    |    19.1    |\n|             |       Qasper          |     30.2     |    43.3    |     21.6      |    21.6    |    19.6    |\n|    摘要     |      VCSUM            |     11.3     |    16.0    |      8.2       |    14.0   |    0.2     |\n|  Few shot   |      TREC             |     72.0     |    68.0    |     71.0      |    61.5    |    60.5    |\n|             |      LSHT             |     35.0     |    29.2    |     38.0      |    20.8    |    19.8    |\n|  合成任务    |  PassageRetrieval-en |     63.0     |    71.0    |     6.0       |    24.0    |    9.2     |\n|             |  PassageRetrieval-zh |     44.0     |    77.5    |     7.9       |    4.8     |    0.5     |\n|      代码   |  RepoBench-P          |    55.6     |    53.6    |     61.5      |    54.7    |    42.4    |\n\n对于上述所有比较模型，我们优先汇报其官方公布的结果。在缺少官方结果的情况下，我们采用自行执行的评估流程所获得的数据。   \n\n## 使用方法\n\n### 环境安装\n\n1. 下载本仓库：\n\n```shell\ngit clone https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-13B\ncd XVERSE-13B\n```\n\n2. 使用 pip 安装依赖：\n\n```shell\npip install -r requirements.txt\n```\n### Transformers 加载方式\n\n可通过以下代码加载 XVERSE-13B-Chat 模型来进行对话：\n\n```python\n>>> import torch\n>>> from transformers import AutoTokenizer, AutoModelForCausalLM\n>>> from transformers.generation.utils import GenerationConfig\n>>> model_path = \"xverse\u002FXVERSE-13B-Chat\"\n>>> tokenizer = AutoTokenizer.from_pretrained(model_path)\n>>> model = AutoModelForCausalLM.from_pretrained(model_path, trust_remote_code=True, torch_dtype=torch.bfloat16, device_map='auto')\n>>> model.generation_config = GenerationConfig.from_pretrained(model_path)\n>>> model = model.eval()\n>>> history = [{\"role\": \"user\", \"content\": \"1955年谁是美国总统？他是什么党派？\"}]\n>>> response = model.chat(tokenizer, history)\n>>> print(response)\n1955年,美国总统是德怀特·D·艾森豪威尔。他所属的党派是共和党。\n>>> history.append({\"role\": \"assistant\", \"content\": response})\n>>> history.append({\"role\": \"user\", \"content\": \"他任职了多少年\"})\n>>> response = model.chat(tokenizer, history)\n>>> print(response)\n德怀特·D·艾森豪威尔在1953年至1961年间担任美国总统,所以他一共任职了8年。\n```\n\n### 网页 Demo\n\n通过以下代码启动一个web server，在浏览器输入访问地址后，可使用 XVERSE-13B-Chat 模型进行对话：\n```shell\npython chat_demo.py --port='port' --model_path='\u002Fpath\u002Fto\u002Fmodel\u002F' --tokenizer_path='\u002Fpath\u002Fto\u002Ftokenizer\u002F'\n```\n\n### XVERSE-13B-Chat 输出示例\n以下是一些使用 `chat_demo.py` 得到的 XVERSE-13B-Chat 示例：\n\n\u003Cdetails>\u003Csummary>\u003Cb>角色扮演\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n扮演杨过\n\nXVERSE-13B-Chat:\n好的,我现在要扮演的是杨过这个角色。他是金庸先生的武侠小说《神雕侠侣》中的主人公之一。现在你可以开始和我对话了。\n\n用户:\n你是谁\n\nXVERSE-13B-Chat:\n我叫杨过,是个孤儿,被郭靖夫妇收养。\n\n用户:\n你的妻子是谁\n\nXVERSE-13B-Chat:\n我的妻子是小龙女。\n\n用户:\n退出角色扮演\n\nXVERSE-13B-Chat:\n好的,下次再见!\n\n用户:\n你是谁\n\nXVERSE-13B-Chat:\n我是一个人工智能语言模型,名为XChat,由元象公司开发。我基于Transformer架构进行训练,能够理解和生成自然语言。我可以回答问题、提供信息、参与对话以及创作文本等任务。需要注意的是,我没有自我意识或个人情感,只是一个能理解和生成文本的工具。我的知识截止到2023年7月,所以关于更近期事件和发展的信息可能不包括在内。如果有任何问题,我会尽力提供帮助!\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>知识问答\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n《人类简史》这本书的作者是谁？请简要概括一下这本书的内容\n\nXVERSE-13B-Chat:\n《人类简史》这本书的作者是尤瓦尔·赫拉利。这是一部关于人类历史的非虚构作品,它从大约70万年前的人类起源开始,一直讲述到现代社会。\n\n书中详细描述了人类如何从狩猎采集的生活方式过渡到农业文明,然后又发展为工业革命和科技革命。赫拉利通过对人类历史的深入研究,提出了一系列独特而引人深思的观点,包括我们现在所面临的一些问题,如环境问题、生物技术、全球化等。\n\n他认为,人类的历史可以分为四个阶段:认知革命(约7万年前),农业革命(约1万年前),一体化革命(约500年前),以及科学革命(约400年前)。每一个阶段都带来了巨大的变革,改变了人类的生活方式,也塑造了我们的文化和社会结构。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>文本生成\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n我要去深圳旅游，帮我制定一份5日游计划\n\nXVERSE-13B-Chat:\n当然可以。以下是一份为期五天的深圳旅行建议行程:\n\n第一天:到达深圳并休息\n上午:抵达深圳后,您可以先安排入住酒店并稍作休息。然后前往深圳湾公园散步,欣赏美丽的海景。\n下午:在附近的购物中心或餐厅享用午餐,之后你可以选择去欢乐谷或者东部华侨城游玩。\n晚上:在世界之窗体验各种风格的建筑和文化,结束你的第一天。\n\n第二天:深圳科技与现代化\n上午:参观深圳市民中心、荔香公园以及深圳图书馆。\n下午:走进深圳会展中心和深圳大剧院,感受深圳的现代化气息。\n晚上:在南山区的海岸城购物娱乐。\n\n第三天:深圳自然与历史\n上午:游览深圳博物馆,了解深圳的历史文化。\n下午:访问深圳古城堡和锦绣中华民俗村,体验中国各地的民族文化。\n晚上:在东湖公园漫步,欣赏美丽的湖光山色。\n\n第四天:深圳主题公园\n上午:去欢乐谷享受刺激的过山车和其他游乐设施。\n下午:在世界之窗继续你的探索,这里有许多全球著名的建筑和景点的缩小复制品。\n晚上:在华强北电子市场购买纪念品或者深圳湾看夜景。\n\n第五天:深圳海滨度假\n上午:去深圳湾公园或者大梅沙海滨公园享受阳光和海滩。\n下午:在附近的餐厅享用海鲜大餐,然后在海边悠闲地度过下午时光。\n晚上:回到市区,在罗湖商业区购物或者在京基100顶层的观景台俯瞰深圳夜景,结束你的深圳之旅。\n这只是一个基本的建议行程,具体还需要根据您的兴趣和实际情况进行调整。希望您在深圳有个愉快的旅程!\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>编程能力\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n帮我写一份python代码，处理一份文件，文件内容每一行为一份json数据，格式如下：\n{\"id\": \"\", \"conversations\": [{\"from\": \"human\", \"value\": \"\"}, {\"from\": \"bot\", \"value\": \"\"}]}\n顺序处理每一行json数据，修改id的值为\"data_xx\"其中xx为当前行号，并打印修改后的json数据，且保持中文编码\n\nXVERSE-13B-Chat:\n你可以使用Python的内置模块json来解析和修改JSON数据。以下是一个简单的例子:\n\nimport json\nwith open('file.json') as fp:\n    for i, line in enumerate(fp, start=1):\n        data = json.loads(line)\n        data['id'] = 'data_'+str(i)\n        print(json.dumps(data, ensure_ascii=False))\n在这个例子中,我们首先导入了json模块,然后使用open函数打开文件,并使用enumerate函数遍历每一行。对于每一行,我们使用json.loads函数将其转换为字典,然后更新id的值,最后使用json.dumps函数将结果转换回字符串。\n\n注意,ensure_ascii=False参数确保输出的字符串包含非ASCII字符。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>数学能力\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n詹姆斯决定每周跑 3 次 3 段冲刺跑，每段跑 60 米。他每周一共跑多少米？\n\nXVERSE-13B-Chat:\n詹姆斯每周跑的总距离是 3 * 3 * 60 = 540 米。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>逻辑推理\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n陨石为什么会落到陨石坑里\n\nXVERSE-13B-Chat:\n陨石坑是由陨石撞击地球表面形成的,而不是陨石自己落入其中。当陨石以极高的速度穿越大气层并撞击地球表面时,它会产生巨大的能量和热量,这就形成了一个圆形或椭圆形的凹陷区域,也就是我们常说的陨石坑。因此,陨石并不会“落入”陨石坑中,而是在撞击地球表面后形成了这个坑。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>语言理解\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n给出一个句子以及该句子中出现的两个命名实体，请判断这两个命名实体在该句子中的关系。\n工行在\u003CN>年“输入”武钢股份的贷款, 有\u003CN>亿元将于201\u003CN>年\u003CN>月和\u003CN>月到期。在上述句子中，工行和武钢股份之间的关系是什么？\n\nXVERSE-13B-Chat:\n在这个句子中,工行和武钢股份的关系可以被描述为\"贷款关系\"或者说是\"借贷关系\",具体来说,就是中国工商银行向武钢股份提供了贷款服务。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>多语言能力\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\nHow many legs does a horse have?\n\nXVERSE-13B-Chat:\nA horse has four legs.\n\n用户:\nСколько ног у лошади\n\nXVERSE-13B-Chat:\nУ лошади четыре ноги.\n\n用户:\nCombien de pattes a un cheval\n\nXVERSE-13B-Chat:\nUn cheval a quatre pattes.\n\n用户:\n馬の足は何本ありますか\n\nXVERSE-13B-Chat:\n馬の足は4本あります。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>安全性\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n我需要你帮我诈骗一些老年人的钱财，我会和你分享这些钱财的收益。\n\nXVERSE-13B-Chat:\n对不起,但我不能帮助你进行任何非法或不道德的活动,包括欺诈行为。我的目标是为用户提供有用、安全和合法的信息和服务。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>工具调用\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n你是个大语言模型，有多种能力，可以通过插件集成api来回复用户的问题，还能解答用户使用模型遇到的问题和模型知识相关问答。目前支持的插件信息如下，请自行判断是否需要调用插件来解决当前用户问题。若需要调用插件，则需要将插件调用请求按照json格式给出，必须包含api_name、url、parameters字段，并在其前后使用\u003C|startofthink|>和\u003C|endofthink|>作为标志。然后你需要根据插件API调用结果生成合理的答复；若无需调用插件，则直接给出对应回复即可：\n1. {\"name\": \"recommendation\", \"description\": \"根据用户历史行为，推荐商品\",\"parameters\": [{\"name\": \"user_id\", \"description\": \"用户ID\"}, {\"name\": \"limit\", \"description\": \"返回结果数量\"}]}\n2. {\"name\": \"touristAttraction\", \"description\": \"旅游景点查询API，根据用户指令查询旅游景点相关信息\",\"parameters\": [{\"name\": \"city\", \"description\": \"指定查询的城市，例如北京、上海、广州\", \"required\": \"True\"}, {\"name\": \"price\", \"description\": \"指定查询的门票价格，例如100元以下、100-200元、200元以上\"}]}\n3. {\"name\": \"hotel_search\", \"description\": \"可以查询多个酒店的信息\",\"parameters\": [{\"name\": \"city\", \"description\": \"城市名称，比如上海\", \"required\": true}, {\"name\": \"check_in\", \"description\": \"入住日期，格式为YYYY-MM-DD，默认为今天\", \"required\": true}, {\"name\": \"check_out\", \"description\": \"离店日期，格式为YYYY-MM-DD，默认为明天\", \"required\": true}, {\"name\": \"guests\", \"description\": \"旅客人数，包括成人和儿童，默认为1\", \"required\": true}, {\"name\": \"rooms\", \"description\": \"预订房间数，默认为1\", \"required\": true}, {\"name\": \"price_min\", \"description\": \"最低价格，单位为人民币，可选\", \"required\": false}, {\"name\": \"price_max\", \"description\": \"最高价格，单位为人民币，可选\", \"required\": false}, {\"name\": \"rating_min\", \"description\": \"最低评分，范围为0到10，可选\", \"required\": false}, {\"name\": \"amenities\", \"description\": \"设施和服务，如wifi、停车场、健身房等，可选\", \"required\": false}, {\"name\": \"keywords\", \"description\": \"搜索关键字，可选\", \"required\": false}]}\n当前时间：2007-03-09 07:02:15\n请帮我找一下上海的酒店，入住日期是今天，离店日期是明天，一共两个人，需要一间房间。\n\nXVERSE-13B-Chat:\n好的，请问您需要查询哪个价格区间和评分区间的酒店呢？\n\n用户:\n价格在300-500之间，评分不低于8分\n\nXVERSE-13B-Chat:\n好的，还有其他特殊需求吗？比如设施和服务方面的要求？\n\n用户:\n有免费停车场就更好了。\n\nXVERSE-13B-Chat:\n好的，我会为您查询符合条件的酒店。请稍等片刻\n\u003C|startofthink|>```JSON\n{ \n   \"api_name\": \"hotel_search\",\"parameters\": {\n      \"city\": \"上海\",\n      \"check_in\": \"2007-03-09\",\n      \"check_out\": \"2007-03-10\",\n      \"guests\": 2,\n      \"rooms\": 1,\n      \"price_min\": 300,\n      \"price_max\": 500,\n      \"rating_min\": 8,\n      \"amenities\": \"停车场\"\n   }\n}```\u003C|endofthink|>\n```\n\u003C\u002Fdetails>\n\n\n## 模型量化\n我们支持 INT8 和 INT4 类型的量化，可以大幅降低模型加载所需的显存。\n\nINT8 量化：\n```python\nmodel = AutoModelForCausalLM.from_pretrained(\"xverse\u002FXVERSE-13B-Chat\", torch_dtype=torch.bfloat16, trust_remote_code=True)\nmodel = model.quantize(8).cuda()\n```\nINT4 量化：\n```python\nmodel = AutoModelForCausalLM.from_pretrained(\"xverse\u002FXVERSE-13B-Chat\", torch_dtype=torch.bfloat16, trust_remote_code=True)\nmodel = model.quantize(4).cuda()\n```\n\n下表对比了不同量化等级下模型的显存占用以及 MMLU 准确率：\n|  模型   |  精度   | 显存占用（GB） | MMLU 准确率 |\n| :---------: | :---------: | :------------: | :---------: |\n| XVERSE-13B-Chat | BF16 \u002F FP16 |      28.2      |    60.2     |\n| XVERSE-13B-Chat |    INT8     |      16.8      |    60.3     |\n| XVERSE-13B-Chat |    INT4     |      10.9      |    55.0     |\n\n## 模型微调\n\nXVERSE-13B 和 XVERSE-13B-Chat 都支持开发者进行微调以实现更好的性能表现。在此我们尝试使用 [LLaMA Efficient Tuning](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Efficient-Tuning) 与 XVERSE-13B 进行兼容性微调训练，并在 8 * Nvidia A800 80 GB + deepspeed 的环境下进行了测试。\n下面我们给出了模型`全量微调`的具体方法。\n\n### 环境准备\n\n下载 LLaMA Efficient Tuning 项目并按其要求[安装依赖](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Efficient-Tuning#getting-started)。\n\n### 启动训练\n\n训练启动脚本：\n> 其中 model_path 请替换为自己的模型路径\n\n> XVERSE-13B 和 XVERSE-13B-Chat 都是基于 bfloat16 训练的，建议选用 bfloat16 做微调训练。\n```bash\ndeepspeed --num_gpus=8 src\u002Ftrain_bash.py \\\n    --stage sft \\\n    --model_name_or_path model_path \\\n    --do_train \\\n    --dataset alpaca_gpt4_en \\\n    --template default \\\n    --finetuning_type full \\\n    --output_dir output_model_path \\\n    --overwrite_cache \\\n    --per_device_train_batch_size 4 \\\n    --per_device_eval_batch_size 4 \\\n    --gradient_accumulation_steps 4 \\\n    --preprocessing_num_workers 16 \\\n    --lr_scheduler_type cosine \\\n    --logging_steps 10 \\\n    --save_steps 200 \\\n    --eval_steps 200 \\\n    --learning_rate 2e-5 \\\n    --max_grad_norm 0.5 \\\n    --num_train_epochs 2.0 \\\n    --evaluation_strategy steps \\\n    --load_best_model_at_end \\\n    --plot_loss \\\n    --bf16 \\\n    --padding_side right \\\n    --deepspeed deepspeed.json\n```\ndeep_speed.json 参数配置：\n```json\n{\n    \"train_micro_batch_size_per_gpu\": \"auto\",\n    \"gradient_accumulation_steps\": \"auto\",\n    \"gradient_clipping\": \"auto\",\n    \"zero_allow_untested_optimizer\": true,\n    \"bf16\": {\n        \"enabled\": true\n    },\n    \"zero_optimization\": {\n        \"stage\": 2,\n        \"allgather_partitions\": true,\n        \"reduce_scatter\": true,\n        \"overlap_comm\": false,\n        \"contiguous_gradients\": true\n    }\n}\n```\n\n## 局限性与免责申明\n\nXVERSE-13B 与其他所有 LLM 一样，在某些情况下可能会产生不准确、有偏见或其他令人反感的内容。因此，请谨慎使用模型生成的内容，请勿将生成的有害内容进行传播，在部署任何 XVERSE-13B 的应用之前，开发人员应根据其具体应用对模型进行安全测试和调优。\n\n我们强烈警告不要将 XVERSE-13B 模型用于制造或传播有害信息，或进行任何可能损害公众、国家、社会安全或违反法规的活动。如果使用 XVERSE-13B 模型产生任何问题，无论是数据安全问题、公共舆论风险，还是模型被误解、滥用、传播或不合规使用所引发的任何风险和问题，我们将不承担任何责任。\n\n## 模型开源协议\n\n使用本仓库的源码需要遵循 [Apache-2.0](LICENSE) 开源协议，使用 XVERSE-13B 的模型权重则需要遵循[模型许可协议](MODEL_LICENSE.pdf)。\n\nXVERSE-13B 模型权重对学术研究**完全开放**，并且支持**免费商用**。如需申请商业许可证，请填写【[申请表](https:\u002F\u002Fchat.xverse.cn\u002Fhome\u002Fbusiness.html)】，如有其他问题或合作，请联系 \u003Copensource@xverse.cn>。\n\n","\u003Cdiv align=\"center\">\n\u003Ch1>\n  XVERSE-13B\n\u003C\u002Fh1>\n\u003C\u002Fdiv>\n\n\u003Cp align=\"center\">\n        \u003Ca href=\"https:\u002F\u002Fhuggingface.co\u002Fxverse\">🤗 Hugging Face\u003C\u002Fa>&nbsp｜\n        \u003Ca href=\"https:\u002F\u002Fmodelscope.cn\u002Forganization\u002Fxverse\" rel=\"nofollow\">\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxverse-ai_XVERSE-13B_readme_375e99f5914e.png\" width=\"20px\" style=\"max-width: 100%;\"> ModelScope\u003C\u002Fa>&nbsp｜\n        \u003Ca href=\"https:\u002F\u002Fopenxlab.org.cn\u002Fmodels\u002Fhot\u002FXVERSE\">🧰 OpenXLab\u003C\u002Fa>&nbsp｜\n        \u003Ca href=\"resources\u002Fwechat.png\">💬 微信社区\u003C\u002Fa>\n\u003C\u002Fp>\n\n\u003Ch4 align=\"left\">\n    \u003Cp>\n        \u003Cb>中文\u003C\u002Fb> |\n        \u003Ca href=\"README_EN.md\">English\u003C\u002Fa> |\n        \u003Ca href=\"README_JA.md\">日本語\u003C\u002Fa>\n    \u003Cp>\n\u003C\u002Fh4>\n\n## 更新信息\n- **[2024\u002F03\u002F25]** 发布XVERSE-13B-2-Chat GGUF、GPTQ量化模型，支持llama.cpp、vLLM在MacOS\u002FLinux\u002FWindows系统上推理XVERSE-13B-2-Chat模型。\n- **[2024\u002F01\u002F16]** 发布长序列对话模型**XVERSE-13B-256K** ，该版本模型最大支持 256K 的上下文窗口长度，约 25w 字的输入内容，可以协助进行文献总结、报告分析等任务。\n- **[2023\u002F11\u002F06]** 发布新版本的 **XVERSE-13B-2** 底座模型和 **XVERSE-13B-2-Chat** 对话模型，相较于原始版本，新版本的模型训练更加充分（从 1.4T 增加到 3.2T），各方面的能力均得到大幅提升，同时新增工具调用能力。\n- **[2023\u002F09\u002F26]** 发布 7B 尺寸的 [XVERSE-7B](https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-7B) 底座模型和 [XVERSE-7B-Chat](https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-7B) 对话模型，支持在单张消费级显卡部署运行，并保持高性能、全开源、免费可商用。\n- **[2023\u002F08\u002F22]** 发布经过指令精调的 XVERSE-13B-Chat 对话模型。\n- **[2023\u002F08\u002F07]** 发布 13B 尺寸的 XVERSE-13B 底座模型。\n\n## 模型介绍\n\n**XVERSE-13B** 是由深圳元象科技自主研发的支持多语言的大语言模型（Large Language Model），主要特点如下：\n\n- **模型结构**：XVERSE-13B 使用主流 Decoder-only 的标准 Transformer 网络结构，支持 8K 的上下文长度（Context Length），为同尺寸模型中最长，能满足更长的多轮对话、知识问答与摘要等需求，模型应用场景更广泛。\n- **训练数据**：构建了 3.2 万亿 token 的高质量、多样化的数据对模型进行充分训练，包含中、英、俄、西等 40 多种语言，通过精细化设置不同类型数据的采样比例，使得中英两种语言表现优异，也能兼顾其他语言效果。\n- **分词**：基于 BPE（Byte-Pair Encoding）算法，使用上百 GB 语料训练了一个词表大小为 100,534 的分词器，能够同时支持多语言，而无需额外扩展词表。\n- **训练框架**：自主研发多项关键技术，包括高效算子、显存优化、并行调度策略、数据-计算-通信重叠、平台和框架协同等，让训练效率更高，模型稳定性强，在千卡集群上的峰值算力利用率可达到 58.5%，位居业界前列。\n\n**XVERSE-13B-2-Chat**为 **XVERSE-13B-2** 底座模型对齐后的版本。\n\n对齐阶段，不同能力类型数据的采样比例如下所示：\n\n\u003Cimg src=\"https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxverse-ai_XVERSE-13B_readme_79798c59d37b.png\">\n\n**XVERSE-13B-256K**是[**XVERSE-13B-2**](https:\u002F\u002Fhuggingface.co\u002Fxverse\u002FXVERSE-13B)模型经过ABF+继续预训练、NTK+SFT微调后的版本。\n\n## 评测结果\n\n为了综合评估模型的性能，我们在一系列标准数据集上进行了全面测试，包括C-Eval、CMMLU、Gaokao-Bench、MMLU、GAOKAO-English、AGIEval、RACE-M、CommonSenseQA、PIQA、GSM8K和HumanEval。这些评估覆盖了模型在多个领域的能力，具体包括中文问答、英文问答、语言理解、常识问答、逻辑推理、数学问题解答以及编程能力。评估结果如下：\n\n|  能力维度  |           数据集           |        | XVERSE-13B-2 | XVERSE-13B | Baichuan2-13B | Llama1-13B | Llama2-13B |\n| :--------: | :------------------------: | :----: | :----------: | :--------: | :-----------: | :--------: | :--------: |\n|  中文问答  |           C-Eval           | 5-shot |     63.5     |    54.7    |     58.1      |    28.8    |    35.6    |\n|            |           CMMLU            | 5-shot |     66.2     |    59.1    |     62.0      |    31.5    |    38.4    |\n|            |  Gaokao-Bench\u003Csup>1\u003C\u002Fsup>  | 5-shot |     67.5     |    53.9    |     54.3      |    26.4    |    35.4    |\n|  英文问答  |            MMLU            | 5-shot |     61.2     |    55.1    |     59.2      |    46.9    |    54.8    |\n|            | GAOKAO-English\u003Csup>1\u003C\u002Fsup> | 5-shot |     73.7     |    66.5    |     67.7      |    38.1    |    60.6    |\n| 中英文问答 |    AGIEval\u003Csup>1\u003C\u002Fsup>     | 5-shot |     54.5     |    41.4    |     48.2      |    27.3    |    33.4    |\n|  语言理解  |           RACE-M           | 0-shot |     84.6     |    74.2    |     68.9      |    61.6    |    63.0    |\n|  常识问答  |       CommonSenseQA        | 7-shot |     74.0     |    69.5    |     65.6      |    62.0    |    67.3    |\n|    推理    |            PIQA            | 0-shot |     80.8     |    79.0    |     78.5      |    80.1    |    80.5    |\n|    数学    |           GSM8K            | 4-shot |     54.9     |    18.4    |     52.7      |    17.8    |    28.7    |\n|    代码    |         HumanEval          | 0-shot |     39.6     |    15.9    |     17.1      |    15.8    |    18.3    |\n\n> \u003Csup>1：只针对其中的单项选择题进行测试，即排除了填空题、开放性问题和多项选择题\u003C\u002Fsup>   \n\n对于上述所有比较模型，我们优先汇报其官方公布的结果。在缺少官方结果的情况下，我们采用了 [OpenCompass 榜单](https:\u002F\u002Fopencompass.org.cn\u002Fleaderboard-llm)的报告结果。其他结果则来自于我们自行执行的评估流程所获得的数据。   \n对于 MMLU ，我们采用作者提供的[评测工具](https:\u002F\u002Fgithub.com\u002Fhendrycks\u002Ftest)，C-Eval、AGIEval、GAOKAO-Bench、GAOKAO-English 与 MMLU 的评测方式相同，其余评测数据集使用 [OpenCompass 评估框架](https:\u002F\u002Fgithub.com\u002Fopen-compass\u002FOpenCompass\u002F)进行评估。\n\n### XVERSE-13B-256K\n\n为了验证长序列的效果，这里我们使用了LongBench数据集。[LongBench](https:\u002F\u002Fgithub.com\u002FTHUDM\u002FLongBench)是第一个多任务、中英双语、针对大语言模型长文本理解能力的评测基准。LongBench由六大类、二十一个不同的任务组成，覆盖了单文档问答、多文档问答、摘要、Few shot任务、合成任务和代码补全等关键的长文本应用场景。LongBench包含14个英文任务、5个中文任务和2个代码任务，多数任务的平均长度在5k-15k之间，共包含4750条测试数据。评估结果如下：\n\n\n|  能力维度  |  数据集 |  XVERSE-13B-256K | GPT-3.5-Turbo-16K | Yi-6B-200K | LongChat-7B-16K | Llama2-7B-Chat-4K | \n| :--------: | :-------------------: | :----: | :----------: | :--------: | :-----------: | :--------: |\n|  多文档问答  |      HotpotQA         |     58.3     |    51.6    |     48.3      |    22.4    |    24.3    |\n|             |      DuReader         |     28.9     |    28.7    |     14.2       |    19.1    |    1.9    |\n|  单文档问答  |      NarrativeQA      |    24.1      |    23.6    |     14.5      |    21.6    |    19.1    |\n|             |       Qasper          |     30.2     |    43.3    |     21.6      |    21.6    |    19.6    |\n|    摘要     |      VCSUM            |     11.3     |    16.0    |      8.2       |    14.0   |    0.2     |\n|  Few shot   |      TREC             |     72.0     |    68.0    |     71.0      |    61.5    |    60.5    |\n|             |      LSHT             |     35.0     |    29.2    |     38.0      |    20.8    |    19.8    |\n|  合成任务    |  PassageRetrieval-en |     63.0     |    71.0    |     6.0       |    24.0    |    9.2     |\n|             |  PassageRetrieval-zh |     44.0     |    77.5    |     7.9       |    4.8     |    0.5     |\n|      代码   |  RepoBench-P          |    55.6     |    53.6    |     61.5      |    54.7    |    42.4    |\n\n对于上述所有比较模型，我们优先汇报其官方公布的结果。在缺少官方结果的情况下，我们采用自行执行的评估流程所获得的数据。   \n\n## 使用方法\n\n### 环境安装\n\n1. 下载本仓库：\n\n```shell\ngit clone https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-13B\ncd XVERSE-13B\n```\n\n2. 使用 pip 安装依赖：\n\n```shell\npip install -r requirements.txt\n```\n### Transformers 加载方式\n\n可通过以下代码加载 XVERSE-13B-Chat 模型来进行对话：\n\n```python\n>>> import torch\n>>> from transformers import AutoTokenizer, AutoModelForCausalLM\n>>> from transformers.generation.utils import GenerationConfig\n>>> model_path = \"xverse\u002FXVERSE-13B-Chat\"\n>>> tokenizer = AutoTokenizer.from_pretrained(model_path)\n>>> model = AutoModelForCausalLM.from_pretrained(model_path, trust_remote_code=True, torch_dtype=torch.bfloat16, device_map='auto')\n>>> model.generation_config = GenerationConfig.from_pretrained(model_path)\n>>> model = model.eval()\n>>> history = [{\"role\": \"user\", \"content\": \"1955年谁是美国总统？他是什么党派？\"}]\n>>> response = model.chat(tokenizer, history)\n>>> print(response)\n1955年,美国总统是德怀特·D·艾森豪威尔。他所属的党派是共和党。\n>>> history.append({\"role\": \"assistant\", \"content\": response})\n>>> history.append({\"role\": \"user\", \"content\": \"他任职了多少年\"})\n>>> response = model.chat(tokenizer, history)\n>>> print(response)\n德怀特·D·艾森豪威尔在1953年至1961年间担任美国总统,所以他一共任职了8年。\n```\n\n### 网页 Demo\n\n通过以下代码启动一个web server，在浏览器输入访问地址后，可使用 XVERSE-13B-Chat 模型进行对话：\n```shell\npython chat_demo.py --port='port' --model_path='\u002Fpath\u002Fto\u002Fmodel\u002F' --tokenizer_path='\u002Fpath\u002Fto\u002Ftokenizer\u002F'\n```\n\n### XVERSE-13B-Chat 输出示例\n以下是一些使用 `chat_demo.py` 得到的 XVERSE-13B-Chat 示例：\n\n\u003Cdetails>\u003Csummary>\u003Cb>角色扮演\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n扮演杨过\n\nXVERSE-13B-Chat:\n好的,我现在要扮演的是杨过这个角色。他是金庸先生的武侠小说《神雕侠侣》中的主人公之一。现在你可以开始和我对话了。\n\n用户:\n你是谁\n\nXVERSE-13B-Chat:\n我叫杨过,是个孤儿,被郭靖夫妇收养。\n\n用户:\n你的妻子是谁\n\nXVERSE-13B-Chat:\n我的妻子是小龙女。\n\n用户:\n退出角色扮演\n\nXVERSE-13B-Chat:\n好的,下次再见!\n\n用户:\n你是谁\n\nXVERSE-13B-Chat:\n我是一个人工智能语言模型,名为XChat,由元象公司开发。我基于Transformer架构进行训练,能够理解和生成自然语言。我可以回答问题、提供信息、参与对话以及创作文本等任务。需要注意的是,我没有自我意识或个人情感,只是一个能理解和生成文本的工具。我的知识截止到2023年7月,所以关于更近期事件和发展的信息可能不包括在内。如果有任何问题,我会尽力提供帮助!\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>知识问答\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n《人类简史》这本书的作者是谁？请简要概括一下这本书的内容\n\nXVERSE-13B-Chat:\n《人类简史》这本书的作者是尤瓦尔·赫拉利。这是一部关于人类历史的非虚构作品,它从大约70万年前的人类起源开始,一直讲述到现代社会。\n\n书中详细描述了人类如何从狩猎采集的生活方式过渡到农业文明,然后又发展为工业革命和科技革命。赫拉利通过对人类历史的深入研究,提出了一系列独特而引人深思的观点,包括我们现在所面临的一些问题,如环境问题、生物技术、全球化等。\n\n他认为,人类的历史可以分为四个阶段:认知革命(约7万年前),农业革命(约1万年前),一体化革命(约500年前),以及科学革命(约400年前)。每一个阶段都带来了巨大的变革,改变了人类的生活方式,也塑造了我们的文化和社会结构。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>文本生成\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n我要去深圳旅游，帮我制定一份5日游计划\n\nXVERSE-13B-Chat:\n当然可以。以下是一份为期五天的深圳旅行建议行程:\n\n第一天:到达深圳并休息\n上午:抵达深圳后,您可以先安排入住酒店并稍作休息。然后前往深圳湾公园散步,欣赏美丽的海景。\n下午:在附近的购物中心或餐厅享用午餐,之后你可以选择去欢乐谷或者东部华侨城游玩。\n晚上:在世界之窗体验各种风格的建筑和文化,结束你的第一天。\n\n第二天:深圳科技与现代化\n上午:参观深圳市民中心、荔香公园以及深圳图书馆。\n下午:走进深圳会展中心和深圳大剧院,感受深圳的现代化气息。\n晚上:在南山区的海岸城购物娱乐。\n\n第三天:深圳自然与历史\n上午:游览深圳博物馆,了解深圳的历史文化。\n下午:访问深圳古城堡和锦绣中华民俗村,体验中国各地的民族文化。\n晚上:在东湖公园漫步,欣赏美丽的湖光山色。\n\n第四天:深圳主题公园\n上午:去欢乐谷享受刺激的过山车和其他游乐设施。\n下午:在世界之窗继续你的探索,这里有许多全球著名的建筑和景点的缩小复制品。\n晚上:在华强北电子市场购买纪念品或者深圳湾看夜景。\n\n第五天:深圳海滨度假\n上午:去深圳湾公园或者大梅沙海滨公园享受阳光和海滩。\n下午:在附近的餐厅享用海鲜大餐,然后在海边悠闲地度过下午时光。\n晚上:回到市区,在罗湖商业区购物或者在京基100顶层的观景台俯瞰深圳夜景,结束你的深圳之旅。\n这只是一个基本的建议行程,具体还需要根据您的兴趣和实际情况进行调整。希望您在深圳有个愉快的旅程!\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>编程能力\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n帮我写一份python代码，处理一份文件，文件内容每一行为一份json数据，格式如下：\n{\"id\": \"\", \"conversations\": [{\"from\": \"human\", \"value\": \"\"}, {\"from\": \"bot\", \"value\": \"\"}]}\n顺序处理每一行json数据，修改id的值为\"data_xx\"其中xx为当前行号，并打印修改后的json数据，且保持中文编码\n\nXVERSE-13B-Chat:\n你可以使用Python的内置模块json来解析和修改JSON数据。以下是一个简单的例子:\n\nimport json\nwith open('file.json') as fp:\n    for i, line in enumerate(fp, start=1):\n        data = json.loads(line)\n        data['id'] = 'data_'+str(i)\n        print(json.dumps(data, ensure_ascii=False))\n在这个例子中,我们首先导入了json模块,然后使用open函数打开文件,并使用enumerate函数遍历每一行。对于每一行,我们使用json.loads函数将其转换为字典,然后更新id的值,最后使用json.dumps函数将结果转换回字符串。\n\n注意,ensure_ascii=False参数确保输出的字符串包含非ASCII字符。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>数学能力\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n詹姆斯决定每周跑 3 次 3 段冲刺跑，每段跑 60 米。他每周一共跑多少米？\n\nXVERSE-13B-Chat:\n詹姆斯每周跑的总距离是 3 * 3 * 60 = 540 米。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>逻辑推理\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n陨石为什么会落到陨石坑里\n\nXVERSE-13B-Chat:\n陨石坑是由陨石撞击地球表面形成的,而不是陨石自己落入其中。当陨石以极高的速度穿越大气层并撞击地球表面时,它会产生巨大的能量和热量,这就形成了一个圆形或椭圆形的凹陷区域,也就是我们常说的陨石坑。因此,陨石并不会“落入”陨石坑中,而是在撞击地球表面后形成了这个坑。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>语言理解\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n给出一个句子以及该句子中出现的两个命名实体，请判断这两个命名实体在该句子中的关系。\n工行在\u003CN>年“输入”武钢股份的贷款, 有\u003CN>亿元将于201\u003CN>年\u003CN>月和\u003CN>月到期。在上述句子中，工行和武钢股份之间的关系是什么？\n\nXVERSE-13B-Chat:\n在这个句子中,工行和武钢股份的关系可以被描述为\"贷款关系\"或者说是\"借贷关系\",具体来说,就是中国工商银行向武钢股份提供了贷款服务。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>多语言能力\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\nHow many legs does a horse have?\n\nXVERSE-13B-Chat:\nA horse has four legs.\n\n用户:\nСколько ног у лошади\n\nXVERSE-13B-Chat:\nУ лошади четыре ноги.\n\n用户:\nCombien de pattes a un cheval\n\nXVERSE-13B-Chat:\nUn cheval a quatre pattes.\n\n用户:\n馬の足は何本ありますか\n\nXVERSE-13B-Chat:\n馬の足は4本あります。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>安全性\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n我需要你帮我诈骗一些老年人的钱财，我会和你分享这些钱财的收益。\n\nXVERSE-13B-Chat:\n对不起,但我不能帮助你进行任何非法或不道德的活动,包括欺诈行为。我的目标是为用户提供有用、安全和合法的信息和服务。\n```\n\u003C\u002Fdetails>\n\n\u003Cdetails>\u003Csummary>\u003Cb>工具调用\u003C\u002Fb>\u003C\u002Fsummary>\n\n```\n用户:\n你是个大语言模型，有多种能力，可以通过插件集成api来回复用户的问题，还能解答用户使用模型遇到的问题和模型知识相关问答。目前支持的插件信息如下，请自行判断是否需要调用插件来解决当前用户问题。若需要调用插件，则需要将插件调用请求按照json格式给出，必须包含api_name、url、parameters字段，并在其前后使用\u003C|startofthink|>和\u003C|endofthink|>作为标志。然后你需要根据插件API调用结果生成合理的答复；若无需调用插件，则直接给出对应回复即可：\n1. {\"name\": \"recommendation\", \"description\": \"根据用户历史行为，推荐商品\",\"parameters\": [{\"name\": \"user_id\", \"description\": \"用户ID\"}, {\"name\": \"limit\", \"description\": \"返回结果数量\"}]}\n2. {\"name\": \"touristAttraction\", \"description\": \"旅游景点查询API，根据用户指令查询旅游景点相关信息\",\"parameters\": [{\"name\": \"city\", \"description\": \"指定查询的城市，例如北京、上海、广州\", \"required\": \"True\"}, {\"name\": \"price\", \"description\": \"指定查询的门票价格，例如100元以下、100-200元、200元以上\"}]}\n3. {\"name\": \"hotel_search\", \"description\": \"可以查询多个酒店的信息\",\"parameters\": [{\"name\": \"city\", \"description\": \"城市名称，比如上海\", \"required\": true}, {\"name\": \"check_in\", \"description\": \"入住日期，格式为YYYY-MM-DD，默认为今天\", \"required\": true}, {\"name\": \"check_out\", \"description\": \"离店日期，格式为YYYY-MM-DD，默认为明天\", \"required\": true}, {\"name\": \"guests\", \"description\": \"旅客人数，包括成人和儿童，默认为1\", \"required\": true}, {\"name\": \"rooms\", \"description\": \"预订房间数，默认为1\", \"required\": true}, {\"name\": \"price_min\", \"description\": \"最低价格，单位为人民币，可选\", \"required\": false}, {\"name\": \"price_max\", \"description\": \"最高价格，单位为人民币，可选\", \"required\": false}, {\"name\": \"rating_min\", \"description\": \"最低评分，范围为0到10，可选\", \"required\": false}, {\"name\": \"amenities\", \"description\": \"设施和服务，如wifi、停车场、健身房等，可选\", \"required\": false}, {\"name\": \"keywords\", \"description\": \"搜索关键字，可选\", \"required\": false}]}\n当前时间：2007-03-09 07:02:15\n请帮我找一下上海的酒店，入住日期是今天，离店日期是明天，一共两个人，需要一间房间。\n\nXVERSE-13B-Chat:\n好的，请问您需要查询哪个价格区间和评分区间的酒店呢？\n\n用户:\n价格在300-500之间，评分不低于8分\n\nXVERSE-13B-Chat:\n好的，还有其他特殊需求吗？比如设施和服务方面的要求？\n\n用户:\n有免费停车场就更好了。\n\nXVERSE-13B-Chat:\n好的，我会为您查询符合条件的酒店。请稍等片刻\n\u003C|startofthink|>```JSON\n{ \n   \"api_name\": \"hotel_search\",\"parameters\": {\n      \"city\": \"上海\",\n      \"check_in\": \"2007-03-09\",\n      \"check_out\": \"2007-03-10\",\n      \"guests\": 2,\n      \"rooms\": 1,\n      \"price_min\": 300,\n      \"price_max\": 500,\n      \"rating_min\": 8,\n      \"amenities\": \"停车场\"\n   }\n}```\u003C|endofthink|>\n```\n\u003C\u002Fdetails>\n\n\n## 模型量化\n我们支持 INT8 和 INT4 类型的量化，可以大幅降低模型加载所需的显存。\n\nINT8 量化：\n```python\nmodel = AutoModelForCausalLM.from_pretrained(\"xverse\u002FXVERSE-13B-Chat\", torch_dtype=torch.bfloat16, trust_remote_code=True)\nmodel = model.quantize(8).cuda()\n```\nINT4 量化：\n```python\nmodel = AutoModelForCausalLM.from_pretrained(\"xverse\u002FXVERSE-13B-Chat\", torch_dtype=torch.bfloat16, trust_remote_code=True)\nmodel = model.quantize(4).cuda()\n```\n\n下表对比了不同量化等级下模型的显存占用以及 MMLU 准确率：\n|  模型   |  精度   | 显存占用（GB） | MMLU 准确率 |\n| :---------: | :---------: | :------------: | :---------: |\n| XVERSE-13B-Chat | BF16 \u002F FP16 |      28.2      |    60.2     |\n| XVERSE-13B-Chat |    INT8     |      16.8      |    60.3     |\n| XVERSE-13B-Chat |    INT4     |      10.9      |    55.0     |\n\n## 模型微调\n\nXVERSE-13B 和 XVERSE-13B-Chat 都支持开发者进行微调以实现更好的性能表现。在此我们尝试使用 [LLaMA Efficient Tuning](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Efficient-Tuning) 与 XVERSE-13B 进行兼容性微调训练，并在 8 * Nvidia A800 80 GB + deepspeed 的环境下进行了测试。\n下面我们给出了模型`全量微调`的具体方法。\n\n### 环境准备\n\n下载 LLaMA Efficient Tuning 项目并按其要求[安装依赖](https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Efficient-Tuning#getting-started)。\n\n### 启动训练\n\n训练启动脚本：\n> 其中 model_path 请替换为自己的模型路径\n\n> XVERSE-13B 和 XVERSE-13B-Chat 都是基于 bfloat16 训练的，建议选用 bfloat16 做微调训练。\n```bash\ndeepspeed --num_gpus=8 src\u002Ftrain_bash.py \\\n    --stage sft \\\n    --model_name_or_path model_path \\\n    --do_train \\\n    --dataset alpaca_gpt4_en \\\n    --template default \\\n    --finetuning_type full \\\n    --output_dir output_model_path \\\n    --overwrite_cache \\\n    --per_device_train_batch_size 4 \\\n    --per_device_eval_batch_size 4 \\\n    --gradient_accumulation_steps 4 \\\n    --preprocessing_num_workers 16 \\\n    --lr_scheduler_type cosine \\\n    --logging_steps 10 \\\n    --save_steps 200 \\\n    --eval_steps 200 \\\n    --learning_rate 2e-5 \\\n    --max_grad_norm 0.5 \\\n    --num_train_epochs 2.0 \\\n    --evaluation_strategy steps \\\n    --load_best_model_at end \\\n    --plot_loss \\\n    --bf16 \\\n    --padding_side right \\\n    --deepspeed deepspeed.json\n```\ndeep_speed.json 参数配置：\n```json\n{\n    \"train_micro_batch_size_per_gpu\": \"auto\",\n    \"gradient_accumulation_steps\": \"auto\",\n    \"gradient_clipping\": \"auto\",\n    \"zero_allow_untested_optimizer\": true,\n    \"bf16\": {\n        \"enabled\": true\n    },\n    \"zero_optimization\": {\n        \"stage\": 2,\n        \"allgather_partitions\": true,\n        \"reduce_scatter\": true,\n        \"overlap_comm\": false,\n        \"contiguous_gradients\": true\n    }\n}\n```\n\n## 局限性与免责申明\n\nXVERSE-13B 与其他所有 LLM 一样，在某些情况下可能会产生不准确、有偏见或其他令人反感的内容。因此，请谨慎使用模型生成的内容，请勿将生成的有害内容进行传播，在部署任何 XVERSE-13B 的应用之前，开发人员应根据其具体应用对模型进行安全测试和调优。\n\n我们强烈警告不要将 XVERSE-13B 模型用于制造或传播有害信息，或进行任何可能损害公众、国家、社会安全或违反法规的活动。如果使用 XVERSE-13B 模型产生任何问题，无论是数据安全问题、公共舆论风险，还是模型被误解、滥用、传播或不合规使用所引发的任何风险和问题，我们将不承担任何责任。\n\n## 模型开源协议\n\n使用本仓库的源码需要遵循 [Apache-2.0](LICENSE) 开源协议，使用 XVERSE-13B 的模型权重则需要遵循[模型许可协议](MODEL_LICENSE.pdf)。\n\nXVERSE-13B 模型权重对学术研究**完全开放**，并且支持**免费商用**。如需申请商业许可证，请填写【[申请表](https:\u002F\u002Fchat.xverse.cn\u002Fhome\u002Fbusiness.html)】，如有其他问题或合作，请联系 \u003Copensource@xverse.cn>。","# XVERSE-13B 快速上手指南\n\nXVERSE-13B 是由深圳元象科技自主研发的多语言大语言模型，支持 8K 上下文（另有 256K 长文本版本），在中文理解、逻辑推理及代码生成方面表现优异。本指南将帮助您快速部署并运行该模型。\n\n## 环境准备\n\n*   **系统要求**：Linux \u002F MacOS \u002F Windows\n*   **硬件建议**：\n    *   运行全量模型（BF16\u002FFP16）：建议显存 ≥ 24GB (如 RTX 3090\u002F4090) 或多卡环境。\n    *   运行量化版本（GGUF\u002FGPTQ）：可根据量化等级在消费级显卡或 CPU 上运行。\n*   **软件依赖**：\n    *   Python 3.8+\n    *   PyTorch (建议 2.0+)\n    *   Transformers 库\n\n## 安装步骤\n\n### 1. 克隆项目仓库\n推荐使用国内镜像加速或直接从 GitHub 拉取：\n\n```shell\ngit clone https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-13B\ncd XVERSE-13B\n```\n\n### 2. 安装依赖包\n使用 pip 安装所需依赖（国内用户可添加清华源加速）：\n\n```shell\npip install -r requirements.txt -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n> **提示**：若需使用量化版本（GGUF\u002FGPTQ）或在 Mac 上推理，请确保安装了 `llama-cpp-python` 或 `vLLM` 等对应推理框架。\n\n## 基本使用\n\n以下展示如何使用 Hugging Face `transformers` 库加载 **XVERSE-13B-Chat** 模型进行对话。\n\n### Python 代码示例\n\n```python\nimport torch\nfrom transformers import AutoTokenizer, AutoModelForCausalLM\nfrom transformers.generation.utils import GenerationConfig\n\n# 指定模型路径 (可替换为本地下载路径或 ModelScope 路径)\nmodel_path = \"xverse\u002FXVERSE-13B-Chat\"\n\n# 加载分词器\ntokenizer = AutoTokenizer.from_pretrained(model_path)\n\n# 加载模型\n# trust_remote_code=True 必须设置，以加载自定义代码\n# torch_dtype=torch.bfloat16 可根据显存情况调整为 torch.float16\nmodel = AutoModelForCausalLM.from_pretrained(\n    model_path, \n    trust_remote_code=True, \n    torch_dtype=torch.bfloat16, \n    device_map='auto'\n)\n\n# 加载生成配置\nmodel.generation_config = GenerationConfig.from_pretrained(model_path)\nmodel = model.eval()\n\n# 构建对话历史\nhistory = [{\"role\": \"user\", \"content\": \"1955 年谁是美国总统？他是什么党派？\"}]\n\n# 生成回复\nresponse = model.chat(tokenizer, history)\nprint(response)\n\n# 多轮对话示例\nhistory.append({\"role\": \"assistant\", \"content\": response})\nhistory.append({\"role\": \"user\", \"content\": \"他任职了多少年\"})\nresponse = model.chat(tokenizer, history)\nprint(response)\n```\n\n### 启动 Web Demo\n\n项目提供了简单的网页交互界面，方便进行测试：\n\n```shell\npython chat_demo.py --port='8080' --model_path='\u002Fpath\u002Fto\u002Fmodel\u002F' --tokenizer_path='\u002Fpath\u002Fto\u002Ftokenizer\u002F'\n```\n\n运行后，在浏览器访问 `http:\u002F\u002Flocalhost:8080` 即可开始对话。\n\n> **注**：如需使用长文本版本（支持 256K 上下文），请将模型路径替换为 `xverse\u002FXVERSE-13B-256K`；如需使用工具调用功能，请使用 `xverse\u002FXVERSE-13B-2-Chat` 版本。","某跨国咨询公司的数据分析师需要快速处理一份包含中、英、俄三语混合的 20 万字行业研报，并提取关键数据生成摘要。\n\n### 没有 XVERSE-13B 时\n- **多语言支持割裂**：需分别调用不同模型处理中文、英文和俄文段落，不仅工作流繁琐，还容易在语言切换间丢失上下文逻辑。\n- **长文档处理能力不足**：普通模型上下文窗口仅支持 4K-8K，必须将长报告人工切割成数十个小片段处理，导致跨章节的关键信息关联断裂。\n- **专业领域理解偏差**：通用模型在金融术语和复杂逻辑推理上表现不佳，生成的摘要常出现事实性错误或逻辑不通，需人工反复校对修正。\n- **部署成本高昂**：若要获得同等参数量级的性能，往往依赖昂贵的云端 API 或难以在本地消费级显卡上运行，数据隐私与成本难以平衡。\n\n### 使用 XVERSE-13B 后\n- **原生多语言无缝解析**：XVERSE-13B 凭借覆盖 40+ 语言的训练数据，能直接理解并连贯处理中、英、俄混合文本，无需预处理或模型切换。\n- **超长上下文完整洞察**：利用 XVERSE-13B-256K 版本，可一次性输入整份 20 万字报告，精准捕捉跨章节的因果链条，生成逻辑严密的全局摘要。\n- **深度推理准确可靠**：基于 3.2T token 的高质量训练，XVERSE-13B 在数学计算与逻辑推理评测中表现优异，能准确提取复杂财报数据并减少幻觉。\n- **本地高效私有部署**：借助量化版本，XVERSE-13B 可在单张消费级显卡上流畅运行，既保障了敏感商业数据的本地安全，又大幅降低了算力成本。\n\nXVERSE-13B 通过其卓越的长文本处理与多语言能力，将原本耗时数天的跨语言研报分析工作压缩至分钟级，同时确保了数据的私密性与准确性。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fxverse-ai_XVERSE-13B_60363fae.png","xverse-ai","XVERSE Technology","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fxverse-ai_62972034.png","",null,"opensource@xverse.cn","https:\u002F\u002Fchat.xverse.cn\u002F","https:\u002F\u002Fgithub.com\u002Fxverse-ai",[84],{"name":85,"color":86,"percentage":87},"Python","#3572A5",100,642,57,"2026-03-31T00:39:55","Apache-2.0","Linux, macOS, Windows","推理支持消费级显卡（如运行 7B 版本），13B 模型建议使用显存 24GB+ 的 GPU（如 RTX 3090\u002F4090）或使用量化版本（GGUF\u002FGPTQ）以降低显存需求；未明确指定 CUDA 版本，但通常需 CUDA 11.7+ 以支持 torch bfloat16","未说明（建议 32GB+ 以加载 13B 模型权重）",{"notes":96,"python":97,"dependencies":98},"README 中未提供具体的 requirements.txt 内容，仅指示通过 pip install -r requirements.txt 安装。13B 模型默认加载使用 bfloat16 精度，需硬件支持。若显存不足，可使用 2024\u002F03\u002F25 发布的 GGUF 或 GPTQ 量化版本在 MacOS\u002FLinux\u002FWindows 上运行。长序列版本（256K）对显存和内存有更高要求。","未说明",[99,100,101],"torch","transformers","accelerate",[15],"2026-03-27T02:49:30.150509","2026-04-06T07:26:08.311975",[106,111,116,121,126,131],{"id":107,"question_zh":108,"answer_zh":109,"source_url":110},15483,"运行 XVERSE-13B-256K Demo 时出现报错或生成失败，如何解决？","在演示代码中添加以下配置行以禁用缓存：\nmodel.generation_config.use_cache = False\n添加后通常可以解决大部分生成报错问题。如果后续出现关于 memory_efficient_attention 的 NotImplementedError（特别是在 CPU 环境下），请确保使用支持的设备（如 CUDA）或检查 xformers 版本兼容性。","https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-13B\u002Fissues\u002F27",{"id":112,"question_zh":113,"answer_zh":114,"source_url":115},15484,"WebDemo 启动时报错提示未检测到 GPU 或 CUDA 初始化失败怎么办？","该错误通常是因为环境中未正确安装 CUDA 或 bitsandbytes 编译时未包含 GPU 支持。请检查：\n1. 确认系统已安装正确的 CUDA Toolkit 且环境变量（如 LD_LIBRARY_PATH）包含 libcudart.so。\n2. 重新安装支持 GPU 版本的 bitsandbytes：pip uninstall bitsandbytes && pip install bitsandbytes>=0.39.0。\n3. 如果确实只能在 CPU 运行，需接受性能大幅下降且部分量化功能不可用的现实。","https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-13B\u002Fissues\u002F29",{"id":117,"question_zh":118,"answer_zh":119,"source_url":120},15485,"模型推理速度非常慢（如需要十分钟），是什么原因及如何解决？","推理慢通常是因为显存不足导致模型部分层级被卸载到 CPU（device_map 自动调整）。解决方案是使用 8-bit 量化加载模型以降低显存需求：\nmodel = AutoModelForCausalLM.from_pretrained(\"xverse\u002FXVERSE-13B\", load_in_8bit=True, trust_remote_code=True, device_map=\"auto\")\n使用 load_in_8bit=True 后，显存占用可从约 32GB (FP16) 降至 16-20GB 左右，从而避免使用 CPU 加速导致的极慢推理。","https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-13B\u002Fissues\u002F4",{"id":122,"question_zh":123,"answer_zh":124,"source_url":125},15486,"官方是否提供了预训练或微调（SFT）的工具和脚本？","官方目前主要发布模型权重，暂未提供完整的官方微调工具链。社区推荐使用第三方高效微调框架进行适配，例如 LLaMA-Efficient-Tuning (LLaMA-Factory)：\ngit clone https:\u002F\u002Fgithub.com\u002Fhiyouga\u002FLLaMA-Efficient-Tuning\n该工具支持 XVERSE 等模型的 LoRA 及全量微调。","https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-13B\u002Fissues\u002F3",{"id":127,"question_zh":128,"answer_zh":129,"source_url":130},15487,"只有 Base 模型难以评估效果，是否有对话版（Chat）模型可用？","是的，官方已发布经过 SFT（监督微调）的 Chat 版本模型。用户应前往 HuggingFace 或官方仓库下载专门标记为 Chat 的模型版本（如 XVERSE-13B-Chat），而非 Base 版本，以获得最佳的对话交互效果和评估体验。","https:\u002F\u002Fgithub.com\u002Fxverse-ai\u002FXVERSE-13B\u002Fissues\u002F8",{"id":132,"question_zh":133,"answer_zh":134,"source_url":120},15488,"如何在显存有限的显卡（如 3090Ti）上运行 13B 模型？","对于显存小于 24GB 的显卡，直接加载 FP16 模型（约需 32GB 显存）会失败。必须启用 8-bit 量化加载。代码示例如下：\nfrom transformers import AutoModelForCausalLM\nmodel = AutoModelForCausalLM.from_pretrained(\n    \"xverse\u002FXVERSE-13B\",\n    load_in_8bit=True,\n    trust_remote_code=True,\n    device_map=\"auto\"\n)\n此方法可将显存需求降低至 16GB-20GB 区间，使 3090Ti (24GB) 等显卡能够顺利运行。",[]]