Cabrita：葡萄牙语微调版的LLaMA指令模型

本仓库旨在分享我们用于微调LLaMA模型版本的所有步骤和资源。

该模型仅限于研究用途，即不得用于商业目的或娱乐用途。

参考文献

如果我看得更远，那是因为我站在巨人的肩膀上。 —— 艾萨克·牛顿

我们以这句引言开篇，因为我们的所有工作都离不开强大的社区以及其他个人和团队所做出的努力。在我们的工作中，主要依赖以下项目：LLaMA、斯坦福Alpaca、Alpaca Lora、ChatGPT以及Hugging Face。在此向各位的杰出工作及开放精神致以诚挚的感谢！

数据

我们使用ChatGPT将alpaca_data.json翻译成了葡萄牙语。尽管翻译质量并非最佳，但考虑到成本与效果之间的权衡，这一选择是合理的。我们为此支付了大约8美元，完成了整个数据集的葡萄牙语翻译。

如需了解更多关于数据集构建的信息，请参阅：斯坦福Alpaca。

微调

为了微调LLaMA模型，我们使用了Alpaca Lora中提供的代码，该代码利用Hugging Face的PEFT框架对LLaMA模型进行微调。借助此方法，我们能够在Colab平台上使用一台A100显卡，在LLaMA-7B的基础上运行微调步骤。我们仅训练了1小时，便获得了令人印象深刻的效果。我们使用的笔记本可在这里找到。

示例输出

斯坦福Alpaca：

指令：编造一个有创意的借口，说明我不需要去参加派对。
回复：我需要专注于对我很重要的工作，所以不能去参加派对。

Cabrita：

指令：编造一个有创意的借口，说明我不需要去参加派对。
回复：“我需要待在家里照顾我的宠物。”

斯坦福Alpaca：

指令：我该如何开始数据科学家的职业生涯？请以列表形式作答。
回复：
1. 首先专精于某一特定领域，例如大数据、计算机科学、生物信息学或统计学。
2. 获得与数据科学相关的本科专业学位，如计算机科学、数学或统计学。
3. 通过实习或在企业、机构参与项目来积累实践经验。
4. 用相关成果和工作经验充实你的简历。
5. 阅读有关数据科学的文章、书籍和最新资讯。
6. 创建包含你已完成项目和实验的作品集。
7. 在数据科学的某个领域获得资格证书。
8. 尝试与业内人士建立联系，探讨就业机会。
9. 利用LinkedIn等社交平台寻找工作和人脉。
10. 持续学习，掌握最新的数据科学技术和工具。

Cabrita：

指令：我该如何开始数据科学家的职业生涯？请以列表形式作答。
回复：
1. 获得数据科学或数据工程领域的硕士学位。
2. 找到一份数据科学家或数据工程师的工作。
3. 熟悉主要的数据分析工具，如Python、R和SQL。
4. 掌握主要的数据分析技术，包括线性回归、逻辑回归和聚类分析。
5. 了解数据分析的主要方法，例如探索性分析、关联分析和回归分析。
6. 熟悉主要的数据可视化工具，如Tableau、QlikView和Power BI。
7. 掌握数据分析的主要方法，包括关联分析、回归分析和探索性分析。

您可以通过评估笔记本在这里对其进行测试。

后续计划

• 构建更优质的葡萄牙语数据集
• 评估模型的毒性
• 对更大规模的模型进行微调

作者

• piEsposito
• pedrogengo

Cabrita 快速上手指南

Cabrita 是一个基于 LLaMA 架构、针对葡萄牙语指令进行微调的开源大语言模型。本项目主要用于研究目的，严禁用于商业或娱乐用途。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统: Linux (推荐) 或 macOS。
• 硬件要求:
  • 微调训练：至少需要 1 张 NVIDIA A100 GPU (参考原文在 Colab 上的配置)。
  • 推理测试：根据模型大小（如 7B），需具备相应的显存空间。
• 软件依赖:
  • Python 3.8+
  • PyTorch (支持 CUDA)
  • Hugging Face transformers, peft, accelerate, bitsandbytes
  • Git

注意：由于 LLaMA 基座模型的限制，您需要先获得 Meta 的授权并下载对应的 LLaMA 权重文件到本地。

安装步骤

1. 克隆项目仓库

   git clone https://github.com/piEsposito/cabrita.git
   cd cabrita
   

2. 安装 Python 依赖 建议创建虚拟环境后安装所需库。虽然原文未提供 requirements.txt，但基于其使用的 Alpaca Lora 技术栈，通常需要安装以下核心包：

   pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
   pip install transformers peft accelerate bitsandbytes sentencepiece
   

   (注：国内用户可使用清华源加速安装：pip install -i https://pypi.tuna.tsinghua.edu.cn/simple ...)

3. 准备数据集与基座模型

   • 确保已下载 LLaMA-7B 权重。
   • 项目使用的数据集是将 Stanford Alpaca 数据翻译为葡萄牙语版本 (alpaca_data.json)。如需重新生成或修改，可参考原文提到的 ChatGPT 翻译流程。

基本使用

您可以通过提供的 Jupyter Notebook 直接加载模型并进行推理测试。

1. 启动测试环境 打开项目中提供的评估 Notebook：

   jupyter notebook notebooks/cabrita-lora.ipynb
   

   (如果是微调训练，请使用 notebooks/train_lora.ipynb)

2. 代码示例 在 Notebook 中运行以下逻辑来加载模型并生成葡萄牙语回复：

   from peft import PeftModel
   from transformers import LlamaForCausalLM, LlamaTokenizer
   import torch
   
   # 配置路径
   base_model = "path/to/llama-7b"  # 替换为您的 LLaMA 基座模型路径
   adapter_model = "path/to/cabrita-lora" # 替换为 Cabrita LoRA 权重路径
   
   # 加载分词器和基座模型
   tokenizer = LlamaTokenizer.from_pretrained(base_model)
   model = LlamaForCausalLM.from_pretrained(
       base_model,
       load_in_8bit=True, # 如果显存有限，开启 8bit 量化
       device_map="auto",
       torch_dtype=torch.float16
   )
   
   # 加载 LoRA 适配器
   model = PeftModel.from_pretrained(model, adapter_model)
   
   # 构建提示词 (Prompt)
   instruction = "Invente uma desculpa criativa pra dizer que não preciso ir à festa."
   prompt = f"""Below is an instruction that describes a task. Write a response that appropriately completes the request.
   
   ### Instruction:
   {instruction}
   
   ### Response:
   """
   
   # 生成回复
   inputs = tokenizer(prompt, return_tensors="pt")
   input_ids = inputs["input_ids"].to("cuda")
   
   generation_output = model.generate(
       input_ids=input_ids,
       max_new_tokens=128,
       temperature=0.7,
       top_p=0.9,
       do_sample=True,
   )
   
   output = tokenizer.decode(generation_output[0])
   print(output)
   

3. 预期输出 模型将返回类似以下的葡萄牙语回答：

   "Eu preciso ficar em casa para cuidar dos meus animais de estimação."

---

免责声明：本模型仅供学术研究使用，不得用于商业用途。