我猜咱们未来可能会有一些更深的链接，或者会有一些机会合作点什么，为了能更高效愉悦地沟通，不妨先查阅一下这篇👉「社区使用说明文档」💓～

  本社区是围绕大模型、适用于内各阶大模型学习者的专属大模型教程，针对各类大模型提供包括环境设置、本地部署、项目开发、高效微调等技能在内的**「全流程指导」**，简化大模型的使用和应用流程，让更多的想转行大模型的学习者更好地使用大模型，帮助前沿、有效的大模型更快融入到普通学习者的生活中。

  本社区主要包含的学习内容包括：

• 热门（开源/在线）大模型部署与调用
• 大模型RAG、Agent开发技术实战
• 大模型微调实战
• 企业级落地项目开发实战训练

  社区创办的主要目的就是提供国内最前沿的优质大模型学习内容，成为大模型与学习者们的交流阶梯，实现个人学业/职业/兴趣的梦想，拥抱更恢弘而辽阔的大模型世界。

  现开设了大模型学习交流群，扫描下方二维码，海量硬核独家技术干货内容+无门槛技术交流，来遇见更多志同道合的小伙伴！社群技术交流氛围浓厚，不定期开设硬核干货&前沿技术公开课噢~

🌱学习建议小Tips：对于刚入门学习大模型的小伙伴，建议先学习环境配置、熟悉功能，然后再学习模型的部署使用，最后再学习进阶的技术。因为环境配置以及模型的部署使用只是基础，部署后对模型进行微调、RAG搭建、Agent开发等，属于是大模型的进阶。

🎉 欢迎使用赋范大模型技术社区 |  Getting started

🔍 赋范大模型社区「搜索自查版」

💪赋范大模型技术实战复现成长营

📰AI大模型周周报专栏（分享版）

✨学员深度访谈合集丨Agentic时代同行计划

1.1 开源大模型指南

• GPT-OSS（README）
• Qwen3（README）
• DeepSeek v3（README）
• DeepSeek R1（README）
• DeepSeek Janus（README）
• Phi-4 14B（README）
• Qwen系列（README）
• Llama 3（README）
• ChatGLM-3（README）
• Baichuan2（README）
• LlAMA.CPP开源推理框架使用指南

1.2 在线大模型指南

• GPT-5（README）
• OpenAI Responses API（README）
• OpenAI Agents API（README）
• OpenAI Realtime API（README）
• OpenAI Swarm（README）
• OpenAI o1（README）
• GPT4o（README）
• Claude系列（README）
• Gemini系列（README）
• GLM-4（README）

1.3 RAG全栈技术

• 多模态RAG（README）
• GraphRAG（README）
• Agentic RAG（README）
• RAG（README）

1.4 Agent开发范式（更多项目查看实战项目部分）

• LangChain（README）
• LangGraph（README）
• Dify（README）
• Multi-Agent（README）
• Agent（README）

1.5 微调

• LLaMA-Factory（README）
• LoRA（README）
• GPT-OSS高效微调实战丨数据集专题+模型Agent性能微调（课件）
• Qwen3混合推理模型「对话+推理」双形态高效微调实战（课件）
• DeepSeek R1高效微调入门（课件）

2.1 热门项目实战合集

• 从0到1搭建企业级多模态RAG检索引擎丨olmOCR与MinerU
• 借助最新模型GPT-4.1搭建一个Mini DeepResearch实战项目
• DeepSeek企业级智能体MiniManus开发实战
• CherryStudio+高德MCP打造个人出行规划助理
• DeepSeek R1模型蒸馏入门实战
• Agent智能客服案例实战（DeepSeek+LangGraph）
• MateGen：新一代交互式AI智能编程助手（安装与部署文档）
• 企业级DB-GPT安装部署指南
• 手动复现DeepSeek v3丨预训练+全量指令微调+DPO强化学习微调全流程实战
• 从零搭建开发私有智能客服系统
• 从零训练专属大模型技术实战合集
• B站动态数据&舆情分析智能体
• Qwen2.5-Coder适配Cursor实现低代码开发
• CrewAI+LangChain搭建Multi Agent系统实战合集
• 从零构建类ChatGPT的智能对话系统（RAG技术核心）
• 从0搭建Agent+RAG
• GLM-4本地Python代码解释器与数据分析Agent开发实战

🍄学习小Tips：社区资料课件包含代码，均有配套的讲解视频，有需要的小伙伴可在本页开头部分扫码加入我们的社区交流群，享受社区完整学习资源～

• Qwen3技术实战合集

  • Qwen3系列模型配置硬件参考自查表（课件）
  • Qwen-3深度解析！仅需1/3硬件成本，性能超越DeepSeek-R1（课件）
  • Qwen-3部署与调用详解丨模型详解、transformer原生库调用流程、Qwen3-14B模型接入Ollama（课件）
  • Qwen-3部署与调用详解丨Qwen3模型接入vLLM、OpenWeb-UI，借助llama.cpp运行Qwen3模型（课件）
  • 自由控制Qwen3模型的思考模式（课件）
  • Qwen3接入MCP技术实战（上）（课件）
  • Qwen3接入MCP技术实战（下）（课件）
  • Qwen3混合推理模型「对话+推理」双形态高效微调实战（上）（课件）
  • Qwen3高效微调实战丨从数据集创建到微调结果评估全流程（下）（课件）
  • 【专题讲解】微调数据集构造原理详解（课件）

• DeepSeek系列专栏合集

  • DeepSeek-R1-0528模型评测流程与完整测评报告（课件）
  • DeepSeek-R1-0528模型编程问题测试（课件）
  • 大模型配置硬件参考自查表！！（点我点我🔥）
  • DeepSeek R1 API调用指南（课件）
  • DeepSeek R1 本地部署与调用方法（课件）
  • DeepSeek R1 + Open-Webui多功能企业级部署实战（课件）
  • 独家KTransformers技术实战！单卡4090运行DeepSeek满血版(课件)
  • Unsloth R1动态量化部署方案，最低0显存(课件)
  • Ktransformers+Unsloth联合部署方案实践（课件）
  • DeepSeek R1模型蒸馏入门实战（课件）
  • DeepSeek R1蒸馏模型部署与调用（课件）
  • DeepSeek-R1蒸馏1.5B Qwen模型调用流程（课件）
  • DeepSeek R1高效微调入门（课件）
  • DeepSeek R1 Distill高效微调入门实战（课件）
  • DeepSeek R1 GRPO算法实战（课件）
  • DeepSeek R1本地知识库问答快速实战（课件）
  • DeepSeek-V3-0324模型深度解析（课件）
  • DeepSeek v3 Function calling（课件）
  • DeepSeek-V3-0324模型深度解析（课件）
  • Open-WebUI接入DeepSeek v3流程详解（课件）
  • DeepSeek v3本地部署流程（课件）
  • DeepSeek v3借助Swarm搭建多代理智能体(课件)
  • DeepSeek v3借助GraphRAG搭建知识库问答机器人(课件)
  • MiniDeepSeek分词器训练流程（课件）)
  • MiniDeepSeek预训练（课件）
  • MiniDeepSeek后训练：全量指令微调+DPO强化学习微调（课件）
  • DeepSeek Function calling功能详解（课件）
  • MCP+DeepSeek-V3-0324搭建miniManus开发实战（课件）
  • DeepSeek Function calling响应模式介绍（课件）
  • DeepSeek企业级智能体MiniManus开发实战（课件）
  • DeepSeek Janus Pro本地部署与调用实战！（视频）
  • DeepSeek Janus本地部署与调用实战（课件 ）
  • Janus Pro本地调用指南(课件)

• Qwen-QVQ @建元Aris

  • QvQ视觉推理大模型快速入门（课件）

• Qwen2VL @建元Aris

  • 多模态大模型Qwen2VL安装部署与调用教程（课件）

• Qwen-QWQ @建元Aris

  • [Qwen-QWQ:32B]本地部署完整流程（课件）
  • Cursor调用QWQ实现辅助编程（课件）

• Qwen2.5-Coder @建元Aris

  • Qwen2.5-Coder安装部署接入Cursor（课件）

• Qwen2.5 @建元Aris

  • Qwen2.5介绍与部署流程（课件）

• Qwen @木羽Cheney

  • Ubuntu22.04系统Qwen-Chat-7B部署文档（课件）
  • Qwen模型的批量推理与推理加速（课件）
  • Transformers库配置大模型开发环境（课件）
  • Qwen大模型接入vLLM框架（课件）
  • QwenAPI调用开发实践（课件）

• Llama3 @九天Hector

  • Llama3本地部署与微调入门（课件）

• LLaMA3架构全解与代码复现 @菜菜TsaiTsai

  • LLaMA原理精讲与架构复现（课件）

• ChatGLM3 @九天Hector

  • ChatGLM3全新消息队列构建方法及模型性能评测（课件）
  • ChatGLM3-6B零基础部署与使用指南（课件）
  • ChatGLM3 Function calling功能介绍与Agent实战（课件）

• Baichuan2 @木羽Cheney

  • BaiChuan 2 大模型生态介绍及本地私有化部署方案（课件）
  • Baichuan2体系介绍与私有化部署（视频）

• OpenAI @九天Hector

  • OpenAI Realtime API 发布介绍（课件）
  • OpenAI 实时语音API功能介绍（课件）
  • Swarm快速入门介绍（课件）
  • OpenAI o1模型快速入门（课件）
  • GPT4o API零门槛获取与调用指南（课件）
  • GPT-4o实战：多模态知识库+多模态机器人（课件）
  • 手把手搭建一个GPTs（课件）

• Claude @九天Hector

  • Claude3.5 API调用方法介绍（课件）
  • Claude 3.5账号注册与API-KEY获取流程（课件）
  • Claude 3账号注册与API-KEY获取流程（课件）

• GLM-4 @九天Hector

  • GLM-4在线大模型生态介绍（课件）
  • GLM-4模型介绍与本地调用方法（课件）
  • GLM-4模型参数详解（课件）
  • GLM-4 API调用流程 & 关键参数详解丨技术干货（课件）
  • GLM-4+Function+calling入门与实现（课件）
  • GLM-4开源模型零门槛部署与调用指南（课件）

• Gemini @九天Hector

  • Gemini API快速调用（课件）

  如果你对于大模型学习还有【更多需求】，或者想【提供项目文档】，可以扫描👇下方二维码提交，让我们共同构建维护这个项目吧~

  社群技术交流氛围浓厚，我们不定期会开设私密硬核干货&前沿技术公开课噢~

LLMs-Technology-Community-Beyondata 快速上手指南

本指南旨在帮助开发者快速接入“赋范大模型技术社区”资源，掌握从环境配置、模型部署到企业级项目实战的全流程技能。社区专注于提供国内最前沿的大模型（如 Qwen3, DeepSeek R1/V3, GPT-OSS 等）教程与实战代码。

环境准备

在开始学习或复现社区项目前，请确保您的开发环境满足以下基础要求：

系统要求

• 操作系统: Linux (推荐 Ubuntu 20.04/22.04), macOS, 或 Windows (建议配合 WSL2 使用)。
• 硬件配置:
  • 入门学习: 8GB+ 内存，无需独立显卡（使用在线 API 或量化小模型）。
  • 本地部署/微调: 建议 NVIDIA GPU，显存 16GB+ (运行 7B-14B 模型)，32GB+ (运行 70B+ 模型或全量微调)。
  • 参考自查: 社区提供详细的《大模型配置硬件参考自查表》，可根据目标模型查询具体需求。

前置依赖

请安装以下基础工具链：

• Python: 版本 3.9 - 3.11 (推荐 3.10)。
• Package Manager: pip 或 conda。
• Git: 用于克隆项目代码。
• CUDA Toolkit: 若需本地运行 GPU 加速模型，请安装与显卡驱动匹配的 CUDA 版本 (通常 11.8 或 12.1+)。

💡 国内加速建议： 推荐使用国内镜像源加速 Python 包下载：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

本社区不是一个单一的 Python 库，而是一个包含多个开源项目、教程和实战代码的资源集合。获取资源的步骤如下：

1. 加入社区与获取资料

扫描社区二维码或访问飞书文档链接，获取最新的项目代码仓库地址和课件资料。

• 核心入口: 欢迎使用赋范大模型技术社区

2. 克隆具体项目代码

根据您想学习的方向（如 RAG、Agent、微调），在对应的文档页面找到 GitHub/Gitee 仓库链接。以通用的大模型推理框架 LLaMA.CPP 或微调框架 LLaMA-Factory 为例：

# 示例：克隆 LLaMA-Factory 微调框架 (具体链接请以社区最新文档为准)
git clone https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory

# 安装依赖 (推荐使用国内镜像)
pip install -e ".[torch,metrics]" -i https://pypi.tuna.tsinghua.edu.cn/simple

3. 模型下载 (可选)

若需本地部署模型，建议使用 ModelScope (魔搭社区) 或 Wisemodel (始智 AI) 等国内平台加速下载：

# 安装 modelscope
pip install modelscope -i https://pypi.tuna.tsinghua.edu.cn/simple

# 示例：下载 Qwen3 模型
python -c "from modelscope import snapshot_download; snapshot_download('Qwen/Qwen3-7B', cache_dir='./models')"

基本使用

社区内容涵盖广泛，以下提供两个最典型的使用场景示例：

场景一：调用在线/本地大模型 (基于社区教程)

参考社区提供的 Qwen3 部署与调用详解，使用 Python 快速调用模型：

from transformers import AutoTokenizer, AutoModelForCausalLM

# 加载模型 (路径为本地下载路径或模型 ID)
model_name = "./models/Qwen3-7B" 
tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto", trust_remote_code=True)

# 构建输入
prompt = "请简述大模型 RAG 技术的核心原理。"
inputs = tokenizer(prompt, return_tensors="pt").to(model.device)

# 生成回复
outputs = model.generate(**inputs, max_new_tokens=512)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

场景二：启动企业级 RAG/Agent 项目

参考社区 LangGraph 快速入门 或 Dify 搭建流程，构建智能体应用：

1. 配置环境变量:

   export OPENAI_API_KEY="your_api_key"
   export MODEL_NAME="qwen-max" # 或本地模型地址
   

2. 运行实战脚本 (以社区提供的 MiniManus 或 DeepResearch 项目为例):

   # 进入具体项目目录
   cd projects/deepseek-minimanus
   
   # 安装项目特定依赖
   pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
   
   # 启动服务
   python main.py --config config.yaml
   

🌱 学习路径建议：

1. 先阅读 LLM 新手入门必看 熟悉基础概念。
2. 按照 [环境配置 -> 模型部署 -> 微调/RAG/Agent 开发] 的顺序进阶。
3. 结合社区提供的 实战复现成长营 进行动手练习。