[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"similar-philschmid--deep-learning-pytorch-huggingface":3,"tool-philschmid--deep-learning-pytorch-huggingface":61},[4,18,26,36,44,53],{"id":5,"name":6,"github_repo":7,"description_zh":8,"stars":9,"difficulty_score":10,"last_commit_at":11,"category_tags":12,"status":17},4358,"openclaw","openclaw\u002Fopenclaw","OpenClaw 是一款专为个人打造的本地化 AI 助手，旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚，能够直接接入你日常使用的各类通讯渠道，包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息，OpenClaw 都能即时响应，甚至支持在 macOS、iOS 和 Android 设备上进行语音交互，并提供实时的画布渲染功能供你操控。\n\n这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地，用户无需依赖云端服务即可享受快速、私密的智能辅助，真正实现了“你的数据，你做主”。其独特的技术亮点在于强大的网关架构，将控制平面与核心助手分离，确保跨平台通信的流畅性与扩展性。\n\nOpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者，以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力（支持 macOS、Linux 及 Windows WSL2），即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你",349277,3,"2026-04-06T06:32:30",[13,14,15,16],"Agent","开发框架","图像","数据工具","ready",{"id":19,"name":20,"github_repo":21,"description_zh":22,"stars":23,"difficulty_score":10,"last_commit_at":24,"category_tags":25,"status":17},3808,"stable-diffusion-webui","AUTOMATIC1111\u002Fstable-diffusion-webui","stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面，旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点，将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。\n\n无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师，还是想要深入探索模型潜力的开发者与研究人员，都能从中获益。其核心亮点在于极高的功能丰富度：不仅支持文生图、图生图、局部重绘（Inpainting）和外绘（Outpainting）等基础模式，还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外，它内置了 GFPGAN 和 CodeFormer 等人脸修复工具，支持多种神经网络放大算法，并允许用户通过插件系统无限扩展能力。即使是显存有限的设备，stable-diffusion-webui 也提供了相应的优化选项，让高质量的 AI 艺术创作变得触手可及。",162132,"2026-04-05T11:01:52",[14,15,13],{"id":27,"name":28,"github_repo":29,"description_zh":30,"stars":31,"difficulty_score":32,"last_commit_at":33,"category_tags":34,"status":17},1381,"everything-claude-code","affaan-m\u002Feverything-claude-code","everything-claude-code 是一套专为 AI 编程助手（如 Claude Code、Codex、Cursor 等）打造的高性能优化系统。它不仅仅是一组配置文件，而是一个经过长期实战打磨的完整框架，旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。\n\n通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能，everything-claude-code 能显著提升 AI 在复杂任务中的表现，帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略，使得模型响应更快、成本更低，同时有效防御潜在的攻击向量。\n\n这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库，还是需要 AI 协助进行安全审计与自动化测试，everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目，它融合了多语言支持与丰富的实战钩子（hooks），让 AI 真正成长为懂上",157379,2,"2026-04-15T23:32:42",[14,13,35],"语言模型",{"id":37,"name":38,"github_repo":39,"description_zh":40,"stars":41,"difficulty_score":32,"last_commit_at":42,"category_tags":43,"status":17},2271,"ComfyUI","Comfy-Org\u002FComfyUI","ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎，专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式，采用直观的节点式流程图界面，让用户通过连接不同的功能模块即可构建个性化的生成管线。\n\n这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景，也能自由组合模型、调整参数并实时预览效果，轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性，不仅支持 Windows、macOS 和 Linux 全平台，还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构，并率先支持 SDXL、Flux、SD3 等前沿模型。\n\n无论是希望深入探索算法潜力的研究人员和开发者，还是追求极致创作自由度的设计师与资深 AI 绘画爱好者，ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能，使其成为当前最灵活、生态最丰富的开源扩散模型工具之一，帮助用户将创意高效转化为现实。",108322,"2026-04-10T11:39:34",[14,15,13],{"id":45,"name":46,"github_repo":47,"description_zh":48,"stars":49,"difficulty_score":32,"last_commit_at":50,"category_tags":51,"status":17},6121,"gemini-cli","google-gemini\u002Fgemini-cli","gemini-cli 是一款由谷歌推出的开源 AI 命令行工具，它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言，它提供了一条从输入提示词到获取模型响应的最短路径，无需切换窗口即可享受智能辅助。\n\n这款工具主要解决了开发过程中频繁上下文切换的痛点，让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用，还是执行复杂的 Git 操作，gemini-cli 都能通过自然语言指令高效处理。\n\n它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口，具备出色的逻辑推理能力；内置 Google 搜索、文件操作及 Shell 命令执行等实用工具；更独特的是，它支持 MCP（模型上下文协议），允许用户灵活扩展自定义集成，连接如图像生成等外部能力。此外，个人谷歌账号即可享受免费的额度支持，且项目基于 Apache 2.0 协议完全开源，是提升终端工作效率的理想助手。",100752,"2026-04-10T01:20:03",[52,13,15,14],"插件",{"id":54,"name":55,"github_repo":56,"description_zh":57,"stars":58,"difficulty_score":32,"last_commit_at":59,"category_tags":60,"status":17},4721,"markitdown","microsoft\u002Fmarkitdown","MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具，专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片（含 OCR）、音频（含语音转录）、HTML 乃至 YouTube 链接等多种格式的解析，能够精准提取文档中的标题、列表、表格和链接等关键结构信息。\n\n在人工智能应用日益普及的今天，大语言模型（LLM）虽擅长处理文本，却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点，它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式，成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外，它还提供了 MCP（模型上下文协议）服务器，可无缝集成到 Claude Desktop 等 LLM 应用中。\n\n这款工具特别适合开发者、数据科学家及 AI 研究人员使用，尤其是那些需要构建文档检索增强生成（RAG）系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性，但其核心优势在于为机器",93400,"2026-04-06T19:52:38",[52,14],{"id":62,"github_repo":63,"name":64,"description_en":65,"description_zh":66,"ai_summary_zh":66,"readme_en":67,"readme_zh":68,"quickstart_zh":69,"use_case_zh":70,"hero_image_url":71,"owner_login":72,"owner_name":73,"owner_avatar_url":74,"owner_bio":75,"owner_company":76,"owner_location":77,"owner_email":65,"owner_twitter":78,"owner_website":79,"owner_url":80,"languages":81,"stars":101,"forks":102,"last_commit_at":103,"license":104,"difficulty_score":10,"env_os":105,"env_gpu":106,"env_ram":107,"env_deps":108,"category_tags":120,"github_topics":65,"view_count":32,"oss_zip_url":65,"oss_zip_packed_at":65,"status":17,"created_at":121,"updated_at":122,"faqs":123,"releases":158},7900,"philschmid\u002Fdeep-learning-pytorch-huggingface","deep-learning-pytorch-huggingface",null,"deep-learning-pytorch-huggingface 是一个专为深度学习初学者和进阶开发者打造的实战资源库，旨在帮助用户快速掌握基于 PyTorch 和 Hugging Face 生态的开发技能。面对大模型训练门槛高、技术栈复杂以及推理优化困难等痛点，它提供了一系列详尽的教程和可运行代码示例，覆盖了从数据准备、模型微调到底层部署的全流程。\n\n无论是希望入门 Transformer 架构的研究人员，还是需要落地大模型应用的工程师，都能从中找到适合的指南。其内容不仅包含经典的文本分类与摘要任务，更紧跟前沿技术，深入讲解了如何利用 DeepSpeed、LoRA、QLoRA 及 FSDP 等技术高效微调 Llama、Falcon、Gemma 等主流大语言模型。此外，它还独特地涵盖了指令对齐（DPO）、多模态模型训练、量化加速（GPTQ\u002FFP8）以及 TPU 分布式训练等高阶主题，并提供了具体的推理基准测试与优化方案。通过这套资源，用户可以轻松跨越理论到实践的鸿沟，以更低成本和更高效率构建自己的 AI 应用。","# Getting Started with Deep Learning with PyTorch and Hugging Face\n\nThis repository contains instructions\u002Fexamples\u002Ftutorials for getting started with Deep Learning using PyTorch and Hugging Face libraries like [transformers](https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Ftransformers\u002Findex), [datasets](https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Fdatasets\u002Findex).\n\n### Training Examples\n\n* [Fine-tune FLAN-T5 XL\u002FXXL using DeepSpeed & Hugging Face Transformers](.\u002Ftraining\u002Fdeepseed-flan-t5-summarization.ipynb)\n* [Fine-tune FLAN-T5 for chat & dialogue summarization](.\u002Ftraining\u002Fflan-t5-samsum-summarization.ipynb)\n* [Fine-tune Falcon 180B with DeepSpeed ZeRO, LoRA & Flash Attention](.\u002Ftraining\u002Fdeepseed-falcon-180b-lora-fa.ipynb)\n* [Getting started with Transformers and TPU using PyTorch](.\u002Ftraining\u002Faccelerate-tpu-bert-text-classification.ipynb)\n* [Extended Guide: Instruction-tune Llama 2](.\u002Ftraining\u002Finstruction-tune-llama-2-int4.ipynb)\n* [Quantize open LLMs using optimum and GPTQ](.\u002Ftraining\u002Foptimize-llama-2-gptq.ipynb)\n* [Fine-tune Embedding models for RAG](.\u002Ftraining\u002Ffine-tune-embedding-model-for-rag.ipynb)\n* [Fine-tune LLMs in 2024 with TRL](.\u002Ftraining\u002Ffine-tune-llms-in-2024-with-trl.ipynb)\n* [Fine-tune LLMs in 2025](.\u002Ftraining\u002Ffine-tune-llms-in-2025.ipynb)\n* [Fine-tune Multimodal LLMs with TRL](.\u002Ftraining\u002Ffine-tune-multimodal-llms-with-trl.ipynb)\n* [RLHF in 2024 with DPO & Hugging Face](.\u002Ftraining\u002Fdpo-align-llms-in-2024-with-trl.ipynb)\n* [Fine-tune Gemma with ChatML](.\u002Ftraining\u002Fgemma-lora-example.ipynb)\n* [Efficiently scale distributed training with FSDP & Q-LoRA](.\u002Ftraining\u002Ffsdp-qlora-distributed-llama3.ipynb)\n* [Fine-tune classifier with ModernBERT in 2025](.\u002Ftraining\u002Ffine-tune-modern-bert-in-2025.ipynb)\n* [How to align open LLMs in 2025 with DPO & Hugging Face](https:\u002F\u002Fgithub.com\u002Fphilschmid\u002Fdeep-learning-pytorch-huggingface\u002Fblob\u002Fmain\u002Ftraining\u002Frl-with-llms-in-2025-dpo.ipynb)\n\n### Inference Examples\n\n* [Text Generation Inference Examples](.\u002Finference\u002FREADME.md)\n* [FP8 Inference Benchmarks](.\u002Finference\u002Ffp8-inference.md)\n* [Idefics Inference](.\u002Finference\u002Fidefics.md)\n* [Llama 2 Inference](.\u002Finference\u002Fllama-7b.md)\n* [Speculative Decoding](.\u002Finference\u002Fspeculative.md)\n* [StarCoder GPTQ Inference](.\u002Finference\u002Fstarcoder_gptq.md)\n","# 使用 PyTorch 和 Hugging Face 入门深度学习\n\n此仓库包含使用 PyTorch 以及 Hugging Face 的 [transformers](https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Ftransformers\u002Findex)、[datasets](https:\u002F\u002Fhuggingface.co\u002Fdocs\u002Fdatasets\u002Findex) 等库入门深度学习的说明、示例和教程。\n\n### 训练示例\n\n* [使用 DeepSpeed 和 Hugging Face Transformers 微调 FLAN-T5 XL\u002FXXL](.\u002Ftraining\u002Fdeepseed-flan-t5-summarization.ipynb)\n* [微调 FLAN-T5 用于聊天与对话摘要](.\u002Ftraining\u002Fflan-t5-samsum-summarization.ipynb)\n* [使用 DeepSpeed ZeRO、LoRA 和 Flash Attention 微调 Falcon 180B](.\u002Ftraining\u002Fdeepseed-falcon-180b-lora-fa.ipynb)\n* [使用 PyTorch 和 TPU 入门 Transformers](.\u002Ftraining\u002Faccelerate-tpu-bert-text-classification.ipynb)\n* [扩展指南：指令微调 Llama 2](.\u002Ftraining\u002Finstruction-tune-llama-2-int4.ipynb)\n* [使用 optimum 和 GPTQ 对开源大模型进行量化](.\u002Ftraining\u002Foptimize-llama-2-gptq.ipynb)\n* [为 RAG 微调嵌入模型](.\u002Ftraining\u002Ffine-tune-embedding-model-for-rag.ipynb)\n* [2024 年使用 TRL 微调大模型](.\u002Ftraining\u002Ffine-tune-llms-in-2024-with-trl.ipynb)\n* [2025 年微调大模型](.\u002Ftraining\u002Ffine-tune-llms-in-2025.ipynb)\n* [使用 TRL 微调多模态大模型](.\u002Ftraining\u002Ffine-tune-multimodal-llms-with-trl.ipynb)\n* [2024 年使用 DPO 和 Hugging Face 进行 RLHF](.\u002Ftraining\u002Fdpo-align-llms-in-2024-with-trl.ipynb)\n* [使用 ChatML 微调 Gemma](.\u002Ftraining\u002Fgemma-lora-example.ipynb)\n* [利用 FSDP 和 Q-LoRA 高效扩展分布式训练](.\u002Ftraining\u002Ffsdp-qlora-distributed-llama3.ipynb)\n* [2025 年微调 ModernBERT 分类器](.\u002Ftraining\u002Ffine-tune-modern-bert-in-2025.ipynb)\n* [如何在 2025 年使用 DPO 和 Hugging Face 对齐开源大模型](https:\u002F\u002Fgithub.com\u002Fphilschmid\u002Fdeep-learning-pytorch-huggingface\u002Fblob\u002Fmain\u002Ftraining\u002Frl-with-llms-in-2025-dpo.ipynb)\n\n### 推理示例\n\n* [文本生成推理示例](.\u002Finference\u002FREADME.md)\n* [FP8 推理基准测试](.\u002Finference\u002Ffp8-inference.md)\n* [Idefics 推理](.\u002Finference\u002Fidefics.md)\n* [Llama 2 推理](.\u002Finference\u002Fllama-7b.md)\n* [推测解码](.\u002Finference\u002Fspeculative.md)\n* [StarCoder GPTQ 推理](.\u002Finference\u002Fstarcoder_gptq.md)","# deep-learning-pytorch-huggingface 快速上手指南\n\n本仓库提供了基于 PyTorch 和 Hugging Face 生态系统（如 `transformers`、`datasets`）进行深度学习开发的指令、示例和教程。涵盖从模型微调（Fine-tuning）、量化到推理的全流程。\n\n## 环境准备\n\n在开始之前，请确保您的开发环境满足以下要求：\n\n*   **操作系统**: Linux (推荐 Ubuntu 20.04+) 或 macOS。Windows 用户建议使用 WSL2。\n*   **Python 版本**: Python 3.9 或更高版本。\n*   **硬件加速**:\n    *   **GPU**: 推荐使用 NVIDIA GPU (需安装对应的 CUDA 驱动)。部分示例支持 TPU。\n    *   **内存**: 微调大模型（如 Llama 2, Falcon）建议至少 24GB VRAM，或使用 LoRA\u002FQLoRA 技术在较低显存下运行。\n*   **前置依赖**:\n    *   Git (用于克隆仓库)\n    *   pip 或 conda (包管理工具)\n\n> **提示**：国内开发者若遇到网络连接问题，建议在安装步骤中配置清华或阿里镜像源。\n\n## 安装步骤\n\n### 1. 克隆仓库\n首先将项目代码克隆到本地：\n\n```bash\ngit clone https:\u002F\u002Fgithub.com\u002Fphilschmid\u002Fdeep-learning-pytorch-huggingface.git\ncd deep-learning-pytorch-huggingface\n```\n\n### 2. 创建虚拟环境\n推荐使用 `conda` 或 `venv` 隔离环境：\n\n```bash\n# 使用 conda\nconda create -n dl-hf python=3.10\nconda activate dl-hf\n\n# 或者使用 venv\npython -m venv venv\nsource venv\u002Fbin\u002Factivate  # Windows: venv\\Scripts\\activate\n```\n\n### 3. 安装核心依赖\n根据您的需求安装基础库。为了加速下载，国内用户可使用 `-i` 指定镜像源。\n\n**基础安装 (PyTorch + Transformers + Datasets):**\n\n```bash\n# 使用清华镜像源安装 PyTorch (CUDA 11.8 示例，请根据实际显卡调整)\npip install torch torchvision torchaudio --index-url https:\u002F\u002Fdownload.pytorch.org\u002Fwhl\u002Fcu118\n\n# 安装 Hugging Face 核心库及常用训练工具\npip install transformers datasets accelerate evaluate -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n**进阶安装 (针对特定示例):**\n如果您需要运行 DeepSpeed、LoRA 或量化示例，需额外安装以下库：\n\n```bash\n# 安装 DeepSpeed, PEFT (LoRA), TRL (强化学习), Optimum (量化) 等\npip install deepspeed peft trl optimum auto-gptq bitsandbytes flash-attn -i https:\u002F\u002Fpypi.tuna.tsinghua.edu.cn\u002Fsimple\n```\n\n> **注意**: `flash-attn` 可能需要特定的编译环境，若安装失败可暂时跳过，部分示例会自动降级处理。\n\n## 基本使用\n\n本仓库的核心内容是位于 `training\u002F` 和 `inference\u002F` 目录下的 Jupyter Notebook (`.ipynb`) 文件。以下是快速启动一个微调任务的标准流程。\n\n### 1. 启动 Jupyter Lab\n进入项目根目录并启动交互式开发环境：\n\n```bash\njupyter lab\n```\n\n### 2. 选择并运行示例\n在浏览器打开的界面中，导航至 `training` 文件夹，选择一个适合您需求的笔记本。\n\n**示例：微调 FLAN-T5 进行摘要生成**\n1. 打开 `.\u002Ftraining\u002Fflan-t5-samsum-summarization.ipynb`。\n2. 按顺序执行单元格。代码逻辑通常如下：\n\n```python\nfrom transformers import AutoModelForSeq2SeqLM, AutoTokenizer\nfrom datasets import load_dataset\n\n# 1. 加载模型和分词器\nmodel_name = \"google\u002Fflan-t5-base\"\ntokenizer = AutoTokenizer.from_pretrained(model_name)\nmodel = AutoModelForSeq2SeqLM.from_pretrained(model_name)\n\n# 2. 加载数据集 (例如 SAMSum 对话摘要数据集)\ndataset = load_dataset(\"samsum\")\n\n# 3. 数据预处理函数\ndef preprocess_function(examples):\n    inputs = [doc for doc in examples[\"dialogue\"]]\n    model_inputs = tokenizer(inputs, max_length=512, truncation=True)\n    \n    labels = [doc for doc in examples[\"summary\"]]\n    with tokenizer.as_target_tokenizer():\n        labels = tokenizer(labels, max_length=128, truncation=True)\n    \n    model_inputs[\"labels\"] = labels[\"input_ids\"]\n    return model_inputs\n\ntokenized_datasets = dataset.map(preprocess_function, batched=True)\n\n# 4. 后续步骤请参考 Notebook 中的 TrainingArguments 定义及 trainer.train()\n```\n\n### 3. 运行推理示例\n对于推理任务，可查看 `inference` 目录下的 Markdown 文档或对应的脚本。例如运行 Llama 2 推理：\n\n```bash\n# 参考 .\u002Finference\u002Fllama-7b.md 中的指引\npython inference\u002Frun_llama_inference.py --model_id \"meta-llama\u002FLlama-2-7b-chat-hf\" --prompt \"你好，请介绍一下你自己。\"\n```\n\n> **提示**：首次运行会自动从 Hugging Face Hub 下载模型权重。国内网络若下载缓慢，可配置 `HF_ENDPOINT` 环境变量使用镜像站：\n> ```bash\n> export HF_ENDPOINT=https:\u002F\u002Fhf-mirror.com\n> ```","某电商公司的算法团队急需构建一个能理解复杂用户评论并生成精准摘要的智能客服系统，以应对大促期间海量的反馈数据。\n\n### 没有 deep-learning-pytorch-huggingface 时\n- **技术门槛高**：工程师需手动编写大量底层代码来整合 PyTorch 与 Hugging Face Transformers，配置 DeepSpeed 或 FSDP 分布式训练环境往往耗费数天调试。\n- **资源消耗巨大**：缺乏量化（GPTQ）和高效微调（LoRA\u002FQLoRA）的最佳实践指引，导致尝试微调大模型时显存溢出，被迫购买昂贵的多卡集群。\n- **对齐效果差**：在让模型学习人类偏好（RLHF\u002FDPO）时，因缺少标准的 TRL 库教程，模型生成的回复经常偏离业务语气，甚至产生幻觉。\n- **推理速度慢**：部署阶段不懂如何使用 FP8 推理或投机采样（Speculative Decoding），导致线上响应延迟高，无法满足实时客服需求。\n\n### 使用 deep-learning-pytorch-huggingface 后\n- **快速启动**：直接复用仓库中\"Fine-tune LLMs with TRL\"等现成 Notebook，几小时内即可搭建好基于 Llama 3 的微调流水线，无需重复造轮子。\n- **成本显著降低**：应用仓库提供的 Q-LoRA 和 GPTQ 量化方案，成功在单张消费级显卡上完成了模型微调与部署，硬件成本降低 80%。\n- **效果精准可控**：利用成熟的 DPO 对齐教程优化模型，使生成的客服摘要不仅准确提炼了用户诉求，还完美契合了品牌亲切专业的语调。\n- **高性能交付**：参考 FP8 推理基准和投机解码示例，将线上接口延迟从秒级压缩至毫秒级，轻松支撑大促流量高峰。\n\ndeep-learning-pytorch-huggingface 通过提供经过验证的全链路最佳实践，将大模型落地周期从“月”缩短至“天”，让团队专注于业务价值而非基础设施调试。","https:\u002F\u002Foss.gittoolsai.com\u002Fimages\u002Fphilschmid_deep-learning-pytorch-huggingface_a49ba4d6.png","philschmid","Philipp Schmid","https:\u002F\u002Foss.gittoolsai.com\u002Favatars\u002Fphilschmid_f974de75.png","AI Developer Experience @google-deepmind | prev: Tech Lead at \r\n@huggingface , AWS ML Hero","@huggingface","Nuremberg","_philschmid","www.philschmid.de","https:\u002F\u002Fgithub.com\u002Fphilschmid",[82,86,90,94,98],{"name":83,"color":84,"percentage":85},"Jupyter Notebook","#DA5B0B",82.3,{"name":87,"color":88,"percentage":89},"Python","#3572A5",16.4,{"name":91,"color":92,"percentage":93},"Shell","#89e051",0.8,{"name":95,"color":96,"percentage":97},"JavaScript","#f1e05a",0.3,{"name":99,"color":100,"percentage":97},"Dockerfile","#384d54",1365,261,"2026-04-15T06:56:47","MIT","未说明","训练大型模型（如 Falcon 180B, Llama 2\u002F3）必需高性能 NVIDIA GPU；具体显存取决于模型大小及是否使用量化\u002FLoRA（例如 FP8、INT4、Q-LoRA 可降低显存需求）；需支持 CUDA 及 Flash Attention","未说明（建议根据模型参数量配置充足系统内存，大模型训练通常需 64GB+）",{"notes":109,"python":105,"dependencies":110},"该仓库为教程集合而非单一软件包，具体环境需求随示例不同而变化。部分示例涉及 TPU 训练；针对大模型（如 180B 参数）提供了 DeepSpeed ZeRO、FSDP、LoRA\u002FQ-LoRA 及 GPTQ 量化等高效训练与推理方案；建议使用支持 Flash Attention 的硬件以加速计算。",[111,112,113,114,115,116,117,118,119],"torch","transformers","datasets","accelerate","deepspeed","peft","trl","optimum","bitsandbytes",[35,14],"2026-03-27T02:49:30.150509","2026-04-16T08:14:11.314031",[124,129,134,139,144,149,154],{"id":125,"question_zh":126,"answer_zh":127,"source_url":128},35384,"保存模型时遇到 CUDA OOM（显存溢出）错误怎么办？","这通常是由于库版本不兼容导致的。尝试将 `peft` 锁定在 0.2.0 版本，并将 `accelerate` 降级到 0.17.1 版本。即使使用了 bitsandbytes 量化，如果版本过新（如 peft 0.3.0 + accelerate 0.19.0）也可能导致显存逐渐增加直至溢出。推荐的依赖配置如下：\ntransformers==4.27.2\ndatasets==2.9.0\naccelerate==0.17.1\nevaluate==0.4.0\nbitsandbytes==0.37.1\npeft==0.2.0","https:\u002F\u002Fgithub.com\u002Fphilschmid\u002Fdeep-learning-pytorch-huggingface\u002Fissues\u002F16",{"id":130,"question_zh":131,"answer_zh":132,"source_url":133},35385,"使用 LoRA 微调时出现 'Target modules all-linear not found' 错误如何解决？","这是因为当前安装的 `peft` 版本不支持 `target_modules=\"all-linear\"` 参数，或者安装命令中存在空格错误。请运行以下命令安装特定版本的 peft 来修复此问题：\n!pip install git+https:\u002F\u002Fgithub.com\u002Fhuggingface\u002Fpeft@4a1559582281fc3c9283892caea8ccef1d6f5a4f --upgrade\n注意：确保命令中 `@` 后面的 commit hash 和 `--upgrade` 之间有空格，否则 git 会报错。","https:\u002F\u002Fgithub.com\u002Fphilschmid\u002Fdeep-learning-pytorch-huggingface\u002Fissues\u002F43",{"id":135,"question_zh":136,"answer_zh":137,"source_url":138},35386,"在 T4 GPU 上运行 FSDP 或 QLoRA 训练时报错关于 bfloat16 或 tf32 不支持怎么办？","这是预期行为。NVIDIA T4 GPU 硬件本身不支持 bfloat16 (Bf16) 或 tf32 数据类型。如果在代码或配置中强制使用了这些精度（例如设置 `torch.bfloat16`），在 T4 上会引发错误。解决方法是改用 fp16 (float16) 进行训练，或者升级到支持 bfloat16 的 GPU（如 A100, H100, A10 等）。","https:\u002F\u002Fgithub.com\u002Fphilschmid\u002Fdeep-learning-pytorch-huggingface\u002Fissues\u002F55",{"id":140,"question_zh":141,"answer_zh":142,"source_url":143},35387,"如何使用 DeepSpeed 对 FLAN-T5-XXL 模型进行推理？","不能直接使用普通的 Hugging Face pipeline 脚本配合 deepspeed 命令运行，否则输出可能是乱码。需要使用 `deepspeed.init_inference` 初始化模型。示例代码如下：\nimport os, deepspeed, torch\nfrom transformers import pipeline\nlocal_rank = int(os.getenv('LOCAL_RANK', '0'))\nworld_size = int(os.getenv('WORLD_SIZE', '4'))\ngenerator = pipeline('text2text-generation', model='YOUR_MODEL_PATH', device=local_rank)\ngenerator.model = deepspeed.init_inference(generator.model, mp_size=world_size, dtype=torch.bfloat16, replace_with_kernel_inject=True)\noutput = generator(\"Your prompt\", do_sample=True, min_length=2)","https:\u002F\u002Fgithub.com\u002Fphilschmid\u002Fdeep-learning-pytorch-huggingface\u002Fissues\u002F11",{"id":145,"question_zh":146,"answer_zh":147,"source_url":148},35388,"使用 4 张 A40 (48GB) 显卡微调 FLAN-T5-XXL 时发生 OOM，即使 batch_size=1 也不行，怎么办？","4 张 A40 (48GB) 的显存不足以在不启用 offload 的情况下加载并微调 FLAN-T5-XXL 模型，因为激活值（activations）过大。解决方案有两种：1. 开启 ZeRO Offload (`offload: true`)，这将把部分状态卸载到 CPU，虽然速度会变慢但可以运行（每张卡约占用 22GB 显存）。2. 使用更多或更强的显卡，例如测试表明 8 张 A100 (40GB) 可以在不开启 offload 的情况下以 batch_size=8 运行。","https:\u002F\u002Fgithub.com\u002Fphilschmid\u002Fdeep-learning-pytorch-huggingface\u002Fissues\u002F6",{"id":150,"question_zh":151,"answer_zh":152,"source_url":153},35389,"如何在只有 16GB 内存的 MacBook Pro M1 上运行 Llama-2-7b 模型？","在 M1 Mac 上运行大模型需要特定的配置和量化。虽然官方代码主要针对 Linux\u002FCUDA 环境，但可以参考社区指南在 M1 上运行。维护者推荐参考以下 Gist 指南进行操作：https:\u002F\u002Fgist.github.com\u002Fcedrickchee\u002Fe8d4cb0c4b1df6cc47ce8b18457ebde0。通常需要利用 llama.cpp 或 MLX 等针对 Apple Silicon 优化的后端，并对模型进行量化（如 4-bit 或 8-bit）以适应 16GB 统一内存。","https:\u002F\u002Fgithub.com\u002Fphilschmid\u002Fdeep-learning-pytorch-huggingface\u002Fissues\u002F28",{"id":155,"question_zh":156,"answer_zh":157,"source_url":153},35390,"Llama-2 70B 模型在使用 QLoRA 和 Flash Attention 代码时出现形状（shape）错误是正常的吗？","是的，针对 Llama-2 7B 有效的代码直接在 70B 模型上运行时可能会遇到形状不匹配的问题。这通常是因为不同参数量级的模型在架构细节（如注意力头数、隐藏层维度）上存在差异，导致预设的配置无法自动适配。目前维护者正在测试 13B 模型并计划进行调整，建议在运行 70B 模型时仔细检查并手动调整模型配置文件中的维度参数，或等待代码库更新以正式支持 70B 模型。",[]]