深度学习示例

一个深度学习示例仓库。

🦄 Lambda 上还有其他令人兴奋的机器学习项目： ML Times、分布式训练指南、Text2Video、GPU 基准测试。

快速入门

• 从下方列表中选择一个示例
• 使用您自己的 本地 GPU 机器，或在 Lambda Cloud 上获取所需的 GPU
• 按照示例 README.md 中的说明操作

示例

• 微调 Stable Diffusion 文本到图像模型
• YoloV5 - 使用 YoloV5 的目标检测示例
• GPTNeoX - 大型语言模型多节点分布式训练
• 实验跟踪
• PyTorch DDP - 使用 PyTorch DDP、torch.distributed.launch、torchrun 和 mpirun 进行多节点训练
• nerfstudio 在 Lambda Cloud 上

Deep Learning Examples 快速上手指南

本仓库汇集了由 Lambda Labs 提供的高质量深度学习示例，涵盖图像生成、目标检测、大模型分布式训练及实验追踪等场景。

环境准备

在开始之前，请确保满足以下系统要求：

• 硬件：配备 NVIDIA GPU 的本地工作站（推荐 Lambda Vector）或云端实例（Lambda Cloud）。
• 系统：Linux (Ubuntu 20.04/22.04 推荐)。
• 软件依赖：
  • NVIDIA Driver (版本需匹配 CUDA 工具包)
  • CUDA Toolkit & cuDNN
  • Python 3.8+
  • Git
  • PyTorch 或 TensorFlow (根据具体示例需求)

提示：国内开发者若使用本地环境，建议配置清华源或阿里源以加速 Python 包下载；若使用 Lambda Cloud，环境通常已预装基础驱动。

安装步骤

1. 克隆仓库

   git clone https://github.com/LambdaLabsML/examples.git
   cd examples
   

2. 选择并进入特定示例目录 根据需求选择一个示例文件夹，例如 Stable Diffusion 微调：

   cd stable-diffusion-finetuning
   

3. 创建虚拟环境并安装依赖 大多数示例包含独立的 requirements.txt。

   python3 -m venv venv
   source venv/bin/activate
   pip install -r requirements.txt
   

   (注：如遇下载缓慢，可添加 -i https://pypi.tuna.tsinghua.edu.cn/simple 参数)

4. 验证环境 部分示例可能需要下载预训练模型权重，请确保网络连接畅通或手动放置权重文件至指定目录（详见各子目录说明）。

基本使用

每个示例的具体运行方式略有不同，以下是两个典型场景的最简启动命令：

场景一：Stable Diffusion 微调 (文本生成图像)

进入对应目录后，运行训练脚本：

python train.py --instance_data_dir ./data --output_dir ./output --resolution 512 --train_batch_size 1

场景二：PyTorch 多节点分布式训练 (DDP)

使用 torchrun 启动分布式任务：

torchrun --nproc_per_node=4 --nnodes=1 main.py --batch-size 64

场景三：YOLOv5 目标检测

执行推理或训练命令：

python detect.py --weights yolov5s.pt --source 0

注意：以上命令仅为通用示例。请务必进入具体的子目录（如 yolov5/, gpt-neox-training/ 等），阅读该目录下的 README.md 以获取针对该模型的详细参数说明和数据集准备指南。