🤗 Hugging Face • 👾 ModelScope • 🤖 wisemodel • 📜 LICENSE • 🎯 vivo Developers • 🗨 WeChat

目录

• 📔 模型介绍
• 📊 评测结果
• 🚀 推理部署
• ⚒ 模型微调
• 📚 声明、协议、引用
• 📠 联系我们

新闻

• 2024年3月25日更新 BlueLM-7B-Chat-32K 模型参数，支持 function calling 能力。我们在 api_server.py 中提供了 OpenAI 格式的 API。更新 BlueLM-7B-Chat-32K-AWQ 和 BlueLM-7B-Chat-32K-GPTQ 模型。
• 2024年12月25日将本项目的大模型开源许可证变更为 开放原子模型许可证。

模型介绍

BlueLM 是由 vivo AI 全球研究院自主研发的大规模预训练语言模型，本次发布包含 7B 基础 (base) 模型和 7B 对话 (chat) 模型，同时我们开源了支持 32K 的长文本基础 (base) 模型和对话 (chat) 模型。

• 更大量的优质数据：高质量语料库进行训练，规模达到了 2.6 万亿 的 token 数，该语料库包含中文、英文以及少量日韩数据；
• 更优的效果：其中 BlueLM-7B-Chat 在 C-Eval 和 CMMLU 上均取得领先结果，对比同尺寸开源模型中具有较强的竞争力；
• 长文本支持：BlueLM-7B-Base-32K 和 BlueLM-7B-Chat-32K 均支持 32K 长文本，在保持基础能力相当情况下，能够支持更长上下文理解；
• 协议说明：BlueLM 系列欢迎开发者进行学术研究和商业应用；

本次发布基座模型下载链接见：

欢迎阅读我们的技术报告BlueLM: An Open Multilingual 7B Language Model！

我们后续将开源 13B 模型和支持多模态的 7B-vl 模型，还请期待！

评测结果

为了保证模型评测的一致性，我们采用 OpenCompass 进行相关榜单的评测。我们分别在 C-Eval、MMLU、CMMLU、GaoKao、AGIEval、BBH、GSM8K、MATH 和 HumanEval 榜单对 BlueLM 的通用能力、数学能力和代码能力进行了测试。

测评榜单

• C-Eval 是一个全面的中文基础模型评测数据集，它包含了 13948 个多项选择题，涵盖了 52 个学科和四个难度级别。我们使用了 few shot 的方法来进行测试。
• MMLU 是一个包含了 57 个子任务的英文评测数据集，涵盖了初等数学、美国历史、计算机科学、法律等，难度覆盖高中水平到专家水平，有效地衡量了人文、社科和理工等多个大类的综合知识能力。我们使用了 few shot 的方法来进行测试。
• CMMLU 是一个包含了 67 个主题的中文评测数据集，涉及自然科学、社会科学、工程、人文、以及常识等，有效地评估了大模型在中文知识储备和语言理解上的能力。我们使用了 few shot 的方法来进行测试。
• Gaokao 是一个中国高考题目的数据集，旨在直观且高效地测评大模型语言理解能力、逻辑推理能力的测评框架。我们只保留了其中的单项选择题，使用 zero shot 的方法来进行测试。
• AGIEval 是一个用于评估基础模型在标准化考试（如高考、公务员考试、法学院入学考试、数学竞赛和律师资格考试）中表现的数据集。我们只保留了其中的四选一单项选择题，使用 zero shot 的方法来进行测试。
• BBH 是一个挑战性任务 Big-Bench 的子集。Big-Bench 涵盖了语言学、儿童发展、数学、常识推理、生物学、物理学、社会偏见、软件开发等方面。BBH 更专注于其中 23 个具有挑战性的任务。我们使用了 few shot 的方法来进行测试。
• GSM8K 是一个高质量的英文小学数学问题测试集，包含 7.5K 训练数据和 1K 测试数据。这些问题通常需要 2-8 步才能解决，有效评估了数学与逻辑能力。我们使用了 few shot 的方法来进行测试。
• MATH 是由数学竞赛问题组成的评测集，由 AMC 10、AMC 12 和 AIME 等组成，包含 7.5K 训练数据和 5K 测试数据。我们使用 few shot 的方法来进行测试。
• HumanEval 是由 OpenAI 发布的 164 个手写的编程问题，包括模型语言理解、推理、算法和简单数学等任务。我们使用 zero shot 的方法来进行测试。
• LongBench 是第一个用于对大型语言模型进行双语、多任务、全面评估长文本理解能力的基准测试。
• T-Eval 是第一个用于对大型语言模型的工具使用能力进行全面评估的测试集，涵盖有工具调用(Function call)、规划、执行信息抽取、工具运行日志评估等多维度。我们使用 zero shot 的方法在它的中文测试集上进行测试。

7B 模型结果

7B-32K 模型结果

我们还在 LongBench 和 T-Eval 评测集上对我们的 BlueLM-7B-Chat-32K 模型进行了测试，具体结果如下表所示：

LongBench

T-Eval-ZH

推理部署

环境依赖

首先需要下载本仓库：

git clone https://github.com/vivo-ai-lab/BlueLM
cd BlueLM

然后使用 pip 安装依赖：

pip install -r requirements.txt

使用 BlueLM-7B-Base-32K 或 BlueLM-7B-Chat-32K，请额外安装 flash_attn：

pip install flash_attn==2.3.3

如果安装失败，建议安装预编译版本的 flash_attn。

代码调用

Base 模型推理示例

>>> from transformers import AutoModelForCausalLM, AutoTokenizer
>>> tokenizer = AutoTokenizer.from_pretrained("vivo-ai/BlueLM-7B-Base", trust_remote_code=True, use_fast=False)
>>> model = AutoModelForCausalLM.from_pretrained("vivo-ai/BlueLM-7B-Base", device_map="cuda:0", trust_remote_code=True)
>>> model = model.eval()
>>> inputs = tokenizer("儒林外史->吴敬梓\n隋唐演义->褚人获\n红楼梦->", return_tensors="pt")
>>> inputs = inputs.to("cuda:0")
>>> pred = model.generate(**inputs, max_new_tokens=64, repetition_penalty=1.1)
>>> print(tokenizer.decode(pred.cpu()[0], skip_special_tokens=True))
儒林外史->吴敬梓
隋唐演义->褚人获
红楼梦->曹雪芹
三国演义->罗贯中
水浒传->施耐庵
西游记->吴承恩
聊斋志异->蒲松龄
封神演义->许仲琳
东周列国志->冯梦龙
三侠五义->石玉昆
七剑十三侠->唐芸洲

命令行 Demo

python cli_demo.py

本命令行 Demo 仅支持 Chat 场景。

网页 Demo

streamlit run web_demo.py --server.port 8080

本网页 Demo 仅支持 Chat 场景。

OpenAI API Demo

运行 api_server.py 部署 OpenAI 格式的代码，支持基于 ChatGPT 应用后端。

cd openai_api_demo
python api_server.py

python 测试代码，包括支持流式响应和 function calling 的请求。

cd openai_api_demo
python openai_api_request.py

Tool Demo

可在命令行运行工具使用 Demo cli_demo_tool.py, demo 中已提供可作为测试的工具 sample。

python cli_demo_tool.py

根据命令行提示分别输入问题与外部工具的执行结果，完成一次工具调用需进行两轮对话。

示例："<>"内为待用户输入内容。

用户: <杭州今天的湿度是多少？>
BlueLM:
{\"answer\": null, \"function_calls\": [{\"name\": \"current-weather\", \"parameters\": {\"city\": \"杭州\"}}]}
工具结果: <{\"city\": \"杭州\", \"weather\": \"当前天气 晴，气温20摄氏度，风力2级，湿度40%\"}>
BlueLM:
{"answer": "杭州湿度40%。", "function_calls": null}

BlueLM-7B-Chat 示例输出

User：某在线教育平台的课程数据存储在一个名为courses的列表中，每门课程用字典表示，包含课程名称（name）、教师姓名（teacher）和学生人数（students）三个字段。请编写一个Python函数，根据学生人数，计算课程的平均学生人数，并返回。

BlueLM-7B：下面是实现代码：

```python
def average_students(courses):
    total_students = 0
    count = 0
    for course in courses:
        total_students += course['students']
        count += 1
    if count == 0:
        return 0
    else:
        return total_students / count

</details>

<details><summary><b>数学</b></summary>

</details>

<details><summary><b>角色扮演</b></summary>

</details>

## 量化部署

我们提供了 BlueLM-7B-Chat 的 4bits 版本 [BlueLM-7B-Chat-4bits](https://huggingface.co/vivo-ai/BlueLM-7B-Chat-4bits)。如果你的 GPU 显存有限，可以尝试加载 4-bits 模型，只需要 5GB 显存。且经过测试，BlueLM 在 4-bits 量化下仍能流畅地生成文本。

安装依赖：

加载模型推理示例：

```python
>>> from transformers import AutoTokenizer, AutoModelForCausalLM
>>> tokenizer = AutoTokenizer.from_pretrained("vivo-ai/BlueLM-7B-Chat-4bits", trust_remote_code=True, use_fast=False)
>>> model = AutoModelForCausalLM.from_pretrained("vivo-ai/BlueLM-7B-Chat-4bits", device_map="cuda:0", trust_remote_code=True)
>>> model = model.eval()
>>> inputs = tokenizer("[|Human|]:三国演义的作者是谁？[|AI|]:", return_tensors="pt")
>>> inputs = inputs.to("cuda:0")
>>> outputs = model.generate(**inputs, max_new_tokens=128)
>>> print(tokenizer.decode(outputs.cpu()[0], skip_special_tokens=True))
三国演义的作者是谁？ 《三国演义》是由元末明初小说家罗贯中所著，是中国古典四大名著之一，也是中国古代历史小说发展的巅峰之作。

python -m venv vllm
source vllm/bin/activate

cd example/vllm
pip install -e .

python vllm_demo.py

pip install deepspeed==0.10.3

cd train
sh script/bluelm-7b-sft.sh

cd train
sh script/bluelm-7b-sft-lora.sh

@misc{2023bluelm,
    title={BlueLM: An Open Multilingual 7B Language Model},
    author={BlueLM Team},
    howpublished = {\url{https://github.com/vivo-ai-lab/BlueLM}},
    year={2023}
}

BlueLM 快速上手指南

BlueLM 是由 vivo AI 全球研究院自主研发的大规模预训练语言模型，提供 7B 基础版与对话版，并支持 32K 长文本上下文。本指南将帮助您快速完成环境搭建与模型推理。

1. 环境准备

系统要求

• 操作系统: Linux (推荐) 或 macOS
• GPU: NVIDIA GPU (建议显存 ≥ 16GB 运行全量模型，≥ 5GB 运行 4-bit 量化模型)
• 驱动要求: NVIDIA Driver ≥ 525.125.06 (若使用 vLLM 加速)
• Python: 3.8 及以上版本

前置依赖

确保已安装 git、python3 和 pip。若需开启 32K 长文本支持或高性能推理，需额外准备 flash_attn 和 vllm 环境。

提示：国内开发者推荐使用国内镜像源加速 Python 包下载（如清华源、阿里源）。

2. 安装步骤

第一步：克隆项目

git clone https://github.com/vivo-ai-lab/BlueLM
cd BlueLM

第二步：安装基础依赖

pip install -r requirements.txt

第三步：安装长文本支持组件（可选但推荐）

若计划使用 BlueLM-7B-Base-32K 或 BlueLM-7B-Chat-32K 模型，必须安装 flash_attn：

pip install flash_attn==2.3.3

注：若编译失败，建议前往 flash-attention releases 下载对应版本的预编译 wheel 包进行安装。

第四步：安装量化推理组件（仅 4-bit 模型需要）

若使用 4-bit 量化模型以节省显存，需编译 CUDA 扩展：

cd BlueLM/quant_cuda
python setup_cuda.py install
cd ..

3. 基本使用

以下示例展示如何使用 Python 代码加载模型并进行推理。

场景 A：基础模型推理 (Base Model)

适用于续写、填空等任务。

from transformers import AutoModelForCausalLM, AutoTokenizer

# 加载分词器和模型 (以 7B Base 为例，可替换为 32K 版本路径)
tokenizer = AutoTokenizer.from_pretrained("vivo-ai/BlueLM-7B-Base", trust_remote_code=True, use_fast=False)
model = AutoModelForCausalLM.from_pretrained("vivo-ai/BlueLM-7B-Base", device_map="cuda:0", trust_remote_code=True)
model = model.eval()

# 构造输入
inputs = tokenizer("儒林外史->吴敬梓\n隋唐演义->褚人获\n红楼梦->", return_tensors="pt")
inputs = inputs.to("cuda:0")

# 生成输出
pred = model.generate(**inputs, max_new_tokens=64, repetition_penalty=1.1)
print(tokenizer.decode(pred.cpu()[0], skip_special_tokens=True))

场景 B：对话模型推理 (Chat Model)

适用于多轮对话交互。注意 Chat 模型需要特定的提示词格式。

from transformers import AutoTokenizer, AutoModelForCausalLM

# 加载 Chat 模型
tokenizer = AutoTokenizer.from_pretrained("vivo-ai/BlueLM-7B-Chat", trust_remote_code=True, use_fast=False)
model = AutoModelForCausalLM.from_pretrained("vivo-ai/BlueLM-7B-Chat", device_map="cuda:0", trust_remote_code=True)
model = model.eval()

# 构造带指令格式的输入
prompt = "[|Human|]:三国演义的作者是谁？[|AI|]:"
inputs = tokenizer(prompt, return_tensors="pt")
inputs = inputs.to("cuda:0")

# 生成回复
outputs = model.generate(**inputs, max_new_tokens=128)
print(tokenizer.decode(outputs.cpu()[0], skip_special_tokens=True))

场景 C：低显存部署 (4-bit 量化)

若显存有限（约 5GB），可使用量化版本。

from transformers import AutoTokenizer, AutoModelForCausalLM

# 加载 4-bit 量化模型
tokenizer = AutoTokenizer.from_pretrained("vivo-ai/BlueLM-7B-Chat-4bits", trust_remote_code=True, use_fast=False)
model = AutoModelForCausalLM.from_pretrained("vivo-ai/BlueLM-7B-Chat-4bits", device_map="cuda:0", trust_remote_code=True)
model = model.eval()

inputs = tokenizer("[|Human|]:你好，请介绍一下你自己。[|AI|]:", return_tensors="pt")
inputs = inputs.to("cuda:0")
outputs = model.generate(**inputs, max_new_tokens=128)
print(tokenizer.decode(outputs.cpu()[0], skip_special_tokens=True))

其他快速启动方式

项目还提供了开箱即用的演示脚本：

• 命令行对话 Demo:

  python cli_demo.py
  

• 网页版 Demo (Streamlit):

  streamlit run web_demo.py --server.port 8080
  

• OpenAI 格式 API 服务:

  cd openai_api_demo
  python api_server.py