服务器配置：

安全配置：

数据库配置：

性能与CORS配置：

日志配置：

代理配置：

GPT-Load会自动从环境变量中读取代理设置，以便向上游AI提供商发起请求。

支持的代理协议格式：

• HTTP: http://user:pass@host:port
• HTTPS: https://user:pass@host:port
• SOCKS5: socks5://user:pass@host:port

基础设置：

请求设置：

关键配置：

迁移场景

• 启用加密：将明文数据加密存储 - 使用 --to <new-key>
• 禁用加密：将加密数据解密为明文 - 使用 --from <current-key>
• 更换加密密钥：替换加密密钥 - 使用 --from <current-key> --to <new-key>

操作步骤

Docker Compose 部署

# 1. 更新镜像（确保使用最新版本）
docker compose pull

# 2. 停止服务
docker compose down

# 3. 备份数据库（强烈建议）
# 在迁移之前，您必须手动备份数据库或导出您的密钥，以免因操作或异常导致密钥丢失。

# 4. 执行迁移命令
# 启用加密（your-32-char-secret-key 是您的密钥，建议使用 32 位以上的随机字符串）
docker compose run --rm gpt-load migrate-keys --to "your-32-char-secret-key"

# 禁用加密
docker compose run --rm gpt-load migrate-keys --from "your-current-key"

# 更换加密密钥
docker compose run --rm gpt-load migrate-keys --from "old-key" --to "new-32-char-secret-key"

# 5. 更新配置文件
# 编辑 .env 文件，将 ENCRYPTION_KEY 设置为与 --to 参数一致的值。
# 如果禁用加密，则移除 ENCRYPTION_KEY 或将其设置为空。
vim .env
# 添加或修改：ENCRYPTION_KEY=your-32-char-secret-key

# 6. 重启服务
docker compose up -d

源码构建部署

# 1. 停止服务
# 停止正在运行的服务进程（Ctrl+C 或终止进程）

# 2. 备份数据库（强烈建议）
# 在迁移之前，您必须手动备份数据库或导出您的密钥，以免因操作或异常导致密钥丢失。

# 3. 执行迁移命令
# 启用加密
make migrate-keys ARGS="--to your-32-char-secret-key"

# 禁用加密
make migrate-keys ARGS="--from your-current-key"

# 更换加密密钥
make migrate-keys ARGS="--from old-key --to new-32-char-secret-key"

# 4. 更新配置文件
# 编辑 .env 文件，将 ENCRYPTION_KEY 设置为与 --to 参数一致的值。
echo "ENCRYPTION_KEY=your-32-char-secret-key" >> .env

# 5. 重启服务
make run

重要提示

⚠️ 重要提醒：

• 一旦丢失 ENCRYPTION_KEY，加密数据将无法恢复！ 请务必安全备份此密钥。建议使用密码管理器或安全的密钥管理系统。
• 迁移前必须停止服务，以避免数据不一致。
• 强烈建议在迁移前 备份数据库，以便在迁移失败时进行恢复。
• 密钥应使用 32 位或更长的随机字符串 以确保安全性。
• 迁移完成后，请确保 .env 文件中的 ENCRYPTION_KEY 与 --to 参数一致。
• 如果禁用加密，则需移除或清空 ENCRYPTION_KEY 配置。

密钥生成示例

# 生成安全随机密钥（32 位）
openssl rand -base64 32 | tr -d "=+/" | cut -c1-32

GPT-Load 通过分组名称将请求路由到不同的 AI 服务。使用方法如下：

1. 代理端点格式

http://localhost:3001/proxy/{group_name}/{original_api_path}

• {group_name}：在管理界面中创建的分组名称
• {original_api_path}：与原始 AI 服务路径保持完全一致

2. 认证方式

在Web管理界面中配置代理密钥，支持系统级和组级代理密钥。

• 认证方法：与原生API一致，但需将原始密钥替换为已配置的代理密钥。
• 密钥作用范围：在系统设置中配置的全局代理密钥可在所有组中使用。而在某个组中配置的组代理密钥仅对该组有效。
• 格式：多个密钥之间用逗号分隔。

3. OpenAI接口示例

GPT-Load目前支持两种兼容OpenAI的组类型：

• openai（OpenAI聊天完成格式）
• openai-response（OpenAI响应格式）

假设已创建一个名为openai的组：

原始调用：

curl -X POST https://api.openai.com/v1/chat/completions \
  -H "Authorization: Bearer sk-your-openai-key" \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-4.1-mini", "messages": [{"role": "user", "content": "Hello"}]}'

代理调用：

curl -X POST http://localhost:3001/proxy/openai/v1/chat/completions \
  -H "Authorization: Bearer your-proxy-key" \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-4.1-mini", "messages": [{"role": "user", "content": "Hello"}]}'

需要更改的内容：

• 将https://api.openai.com替换为http://localhost:3001/proxy/openai
• 将原始API密钥替换为代理密钥

OpenAI响应格式示例（openai-response组）：

curl -X POST http://localhost:3001/proxy/openai-response/v1/responses \
  -H "Authorization: Bearer your-proxy-key" \
  -H "Content-Type: application/json" \
  -d '{"model": "gpt-4.1-mini", "input": "Hello"}'

4. Gemini接口示例

假设已创建一个名为gemini的组：

原始调用：

curl -X POST https://generativelanguage.googleapis.com/v1beta/models/gemini-2.5-pro:generateContent?key=your-gemini-key \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"parts": [{"text": "Hello"}]}]}'

代理调用：

curl -X POST http://localhost:3001/proxy/gemini/v1beta/models/gemini-2.5-pro:generateContent?key=your-proxy-key \
  -H "Content-Type: application/json" \
  -d '{"contents": [{"parts": [{"text": "Hello"}]}]}'

需要更改的内容：

• 将https://generativelanguage.googleapis.com替换为http://localhost:3001/proxy/gemini
• 将URL参数中的key=your-gemini-key替换为代理密钥

5. Anthropic接口示例

假设已创建一个名为anthropic的组：

原始调用：

curl -X POST https://api.anthropic.com/v1/messages \
  -H "x-api-key: sk-ant-api03-your-anthropic-key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model": "claude-sonnet-4-20250514", "messages": [{"role": "user", "content": "Hello"}]}'

代理调用：

curl -X POST http://localhost:3001/proxy/anthropic/v1/messages \
  -H "x-api-key: your-proxy-key" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{"model": "claude-sonnet-4-20250514", "messages": [{"role": "user", "content": "Hello"}]}'

需要更改的内容：

• 将https://api.anthropic.com替换为http://localhost:3001/proxy/anthropic
• 将x-api-key头中的原始API密钥替换为代理密钥

6. 支持的接口

OpenAI聊天完成格式（openai）：

• /v1/chat/completions - 聊天对话
• /v1/completions - 文本补全
• /v1/embeddings - 文本嵌入
• /v1/models - 模型列表
• 以及其他所有兼容OpenAI的接口

OpenAI响应格式（openai-response）：

• /v1/responses - 统一响应生成
• /v1/models - 模型列表
• 以及其他所有兼容OpenAI响应格式的接口

Gemini格式：

• /v1beta/models/*/generateContent - 内容生成
• /v1beta/models - 模型列表
• 以及其他所有Gemini原生接口

Anthropic格式：

• /v1/messages - 消息对话
• /v1/models - 模型列表（如有）
• 以及其他所有Anthropic原生接口

7. 客户端SDK配置

OpenAI Python SDK：

from openai import OpenAI

client = OpenAI(
    api_key="your-proxy-key",  # 使用代理密钥
    base_url="http://localhost:3001/proxy/openai"  # 使用代理端点
)

response = client.chat.completions.create(
    model="gpt-4.1-mini",
    messages=[{"role": "user", "content": "Hello"}]
)

Google Gemini SDK（Python）：

import google.generativeai as genai

# 配置API密钥和基础URL
genai.configure(
    api_key="your-proxy-key",  # 使用代理密钥
    client_options={"api_endpoint": "http://localhost:3001/proxy/gemini"}
)

model = genai.GenerativeModel('gemini-2.5-pro')
response = model.generate_content("Hello")

Anthropic SDK（Python）：

from anthropic import Anthropic

client = Anthropic(
    api_key="your-proxy-key",  # 使用代理密钥
    base_url="http://localhost:3001/proxy/anthropic"  # 使用代理端点
)

response = client.messages.create(
    model="claude-sonnet-4-20250514",
    messages=[{"role": "user", "content": "Hello"}]
)

重要提示：作为透明代理服务，GPT-Load完全保留了各类AI服务的原生API格式和认证方式。您只需替换端点地址，并使用管理界面中配置的代理密钥，即可实现无缝迁移。