用提示工程和LangChain搞定SH*T

使用ChatGPT/GPT-4和LangChain在Python中构建真实世界的AI应用

🍿 在YouTube上观看

• 15分钟入门LangChain和Llama 2
• 在您自己的数据集上微调Llama 2
• 在单个GPU上将LLM部署到生产环境
• 使用Llama 2和LangChain与多个PDF文件聊天
• AutoGen - 使用ChatGPT/GPT-4构建强大的AI代理

📖 阅读教程

LangChain

• LangChain快速入门：结合Llama 2
• 使用加载器导入自定义数据
• 通过模型添加AI功能
• 用链使LLM更有用
• 利用记忆构建聊天机器人
• 用代理完成复杂任务

模型

• StableVicuna - 开源RLHF LLM聊天机器人
• OpenLLaMa - LLaMA的开源复现
• XGen-7B：支持最多8K tokens的长序列建模
• Falcon 180B

项目

• 在自定义数据集上微调Llama 2
• 使用Llama 2和LangChain与多个PDF文件聊天
• 结合本地LLM（Falcon 7B）和LangChain的聊天机器人
• Private GPT4All：使用免费LLM与PDF文件对话
• CryptoGPT：加密货币Twitter情感分析
• 使用QLoRA在自定义数据集上微调LLM（Falcon 7b）
• 通过HuggingFace推理端点将LLM部署到生产环境
• 使用LangChain和开放LLM，结合自定义知识库构建支持聊天机器人
• 使用RunPod将您的私有Llama 2模型部署到生产环境
• AutoGen - 使用ChatGPT/GPT-4构建强大的AI代理

Get-Things-Done-with-Prompt-Engineering-and-LangChain 快速上手指南

🛠 环境准备

系统要求

• Python 3.8 或更高版本
• 支持 GPU 的环境（推荐，用于加速模型推理）
• 64 位操作系统

前置依赖

• pip（Python 包管理工具）
• git（用于克隆项目）

推荐使用国内镜像源加速安装，例如：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple

📦 安装步骤

1. 克隆项目仓库：

git clone https://github.com/curiousily/Get-Things-Done-with-Prompt-Engineering-and-LangChain.git
cd Get-Things-Done-with-Prompt-Engineering-and-LangChain

2. 创建虚拟环境并激活（可选但推荐）：

python -m venv venv
source venv/bin/activate   # Linux/macOS
venv\Scripts\activate      # Windows

3. 安装依赖包：

pip install -r requirements.txt

💡 基本使用

以下是一个最简单的示例，展示如何使用 LangChain 和 Llama 2 模型进行基本的提示工程：

from langchain import PromptTemplate, LLMChain
from langchain.llms import LlamaCpp

# 加载本地 Llama 2 模型（需提前下载模型文件）
llm = LlamaCpp(model_path="./models/llama-7b.ggmlv3.q4_0.bin")

# 定义提示模板
prompt = PromptTemplate(
    input_variables=["topic"],
    template="请解释一下 {topic}。"
)

# 创建链式结构
chain = LLMChain(llm=llm, prompt=prompt)

# 运行链
response = chain.run("人工智能")
print(response)

注意：你需要先下载 Llama 2 的本地模型文件，并将其放置在指定路径中。相关资源可通过官方渠道获取。