目录

• 提供商 API
• 推理提供商

提供商 API

由训练或微调模型的公司自身运营的 API。

• Cohere 🇺🇸 - Command A、Command R+、Aya Expanse 32B 等9种模型。20 RPM，每月1K次请求。
• Google Gemini 🇺🇸 - Gemini 2.5 Pro、Flash、Flash-Lite 等5种模型。5–15 RPM，每日100–1K次请求。^1
• Mistral AI 🇪🇺 - Mistral Large 3、Small 3.1、Ministral 8B 等4种模型。每秒1次请求，每月10亿token。
• Zhipu AI 🇨🇳 - GLM-4.7-Flash、GLM-4.5-Flash、GLM-4.6V-Flash。限流未公开。

推理提供商

托管来自不同来源的开源权重模型的第三方平台。

• Cerebras 🇺🇸 - Llama 3.3 70B、Qwen3 235B、GPT-OSS-120B 等4种模型。30 RPM，每日14,400次请求。
• Cloudflare Workers AI 🇺🇸 - Llama 3.3 70B、Qwen QwQ 32B 等48种模型。每天1万神经元。
• GitHub Models 🇺🇸 - GPT-4o、Llama 3.3 70B、DeepSeek-R1 等多种模型。10–15 RPM，每日50–150次请求。
• Groq 🇺🇸 - Llama 3.3 70B、Llama 4 Scout、Kimi K2 等18种模型。30 RPM，每日1K次请求（Llama 3.1 8B为14,400次）。[^3]
• Hugging Face 🇺🇸 - Llama 3.3 70B、Qwen2.5 72B、Mistral 7B 等众多模型。每月有0.10美元的免费额度。
• Kluster AI 🇺🇸 - DeepSeek-R1、Llama 4 Maverick、Qwen3-235B 等3种模型。限流未公开。
• LLM7.io 🇬🇧 - DeepSeek R1、Flash-Lite、Qwen2.5 Coder 等29种模型。30 RPM（使用token可提升至120 RPM）。
• NVIDIA NIM 🇺🇸 - Llama 3.3 70B、Mistral Large、Qwen3 235B 等多种模型。40 RPM。
• Ollama Cloud 🇺🇸 - DeepSeek-V3.2、Qwen3.5、Kimi-K2.5 等18种模型。仅支持同时运行一个模型，适用于轻量级使用。[^2]
• OpenRouter 🇺🇸 - DeepSeek R1、Llama 3.3 70B、GPT-OSS-120B 等30种模型。20 RPM，每日50次请求（购买10美元以上额度后可增至1K次）。^4
• SiliconFlow 🇨🇳 - Qwen3-8B、DeepSeek-R1-Distill-Qwen-7B、GLM-4.1V-9B-Thinking 等11种模型。1K RPM，每日5万TPM。

贡献

知道有哪些免费层级遗漏了吗？提交 PR！请包含提供商名称、API端点、速率限制（附上官方文档链接）以及几款值得关注的模型。试用额度和限时促销不计入免费层级。

注释

• RPM — 每分钟请求数。RPD — 每日请求数。
• “限流未公开”表示提供商未公布其速率限制。
• 除非另有说明，所有端点均兼容OpenAI SDK。
• 每个链接都指向提供商的API密钥页面。
• [^2]: Ollama Cloud以GPU时间计量用量，而非token或请求次数。免费层级被描述为“轻量级使用”，会每5小时重置一次会话限制，每周重置一次周度限制。另有Pro（用量为免费版的50倍）和Max（250倍）套餐可供选择。不兼容OpenAI SDK，使用的是Ollama API。
• [^3]: 每日14,400次请求仅适用于Llama 3.1 8B Instant。其他大多数模型（如Llama 3.3 70B、Llama 4 Scout、Kimi K2等）每日仅限1,000次请求（速率限制）。

awesome-free-llm-apis 快速上手指南

awesome-free-llm-apis 并非一个需要安装的软件包，而是一个精选列表，收录了提供永久免费层级（Free Tier）的大语言模型（LLM）API 服务商。本指南将帮助中国开发者快速筛选合适的国内/国际服务，获取密钥并调用接口。

环境准备

在开始之前，请确保满足以下条件：

• 系统要求：任意支持网络连接的开发环境（Windows, macOS, Linux）。

• 前置依赖：

  • 已安装 Python 3.8+ 或 Node.js（用于运行示例代码）。
  • 能够访问目标服务商官网的网络环境（部分国际服务可能需要特殊网络配置）。
  • 推荐工具：安装 OpenAI 官方 SDK 或兼容库，因为列表中绝大多数接口均兼容 OpenAI SDK 格式。

  pip install openai
  # 或者
  npm install openai
  

安装步骤（获取 API 密钥）

由于这是一个资源列表，"安装"过程实为注册并获取 API Key的过程。针对中国开发者，优先推荐以下国内可直接访问且提供免费额度的服务商：

方案 A：国内首选（无需特殊网络）

1. 智谱 AI (Zhipu AI)

   • 地址：https://open.bigmodel.cn/usercenter/apikeys
   • 特点：提供 GLM-4-Flash 等模型，速度极快，国内访问稳定。限额未公开文档详细说明，但通常对个人开发者友好。
   • 操作：注册账号 -> 进入控制台 -> 创建 API Key。

2. 硅基流动 (SiliconFlow)

   • 地址：https://cloud.siliconflow.cn/account/ak
   • 特点：提供 Qwen3、DeepSeek-R1 等开源模型的高速推理。免费额度高达 1K RPM / 50K TPM。
   • 操作：注册账号 -> 个人中心 -> 创建访问令牌。

方案 B：国际主流（需确认网络可达性）

如果需要使用特定的国际模型（如 Llama 3.3 70B, Mistral 等），可选择以下平台：

• Groq: https://console.groq.com/keys (以极速推理著称，Llama 3.1 8B 免费额度极高)。
• Cerebras: https://cloud.cerebras.ai/ (提供超大上下文窗口模型)。
• OpenRouter: https://openrouter.ai/keys (聚合平台，购买 $10 信用额后可解锁更高免费模型限速)。

注意：所有链接均指向各平台的 API Key 生成页面。请妥善保管您的 Key，不要提交到公共代码仓库。

基本使用

列表中的大多数提供商（除 Ollama Cloud 外）均兼容 OpenAI SDK。以下以 智谱 AI 和 硅基流动 为例，展示如何使用 Python 进行最简单的文本推理。

示例 1：调用智谱 AI (GLM-4-Flash)

from openai import OpenAI

# 初始化客户端
# base_url 需替换为智谱的兼容地址
client = OpenAI(
    api_key="YOUR_ZHIPU_API_KEY",  # 替换为您的智谱 API Key
    base_url="https://open.bigmodel.cn/api/paas/v4/"
)

response = client.chat.completions.create(
    model="glm-4-flash",  # 或其他可用免费模型
    messages=[
        {"role": "system", "content": "你是一个有用的助手。"},
        {"role": "user", "content": "请用一句话介绍北京。"}
    ]
)

print(response.choices[0].message.content)

示例 2：调用硅基流动 (Qwen3-8B)

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_SILICONFLOW_API_KEY",  # 替换为您的硅基流动 API Key
    base_url="https://api.siliconflow.cn/v1"
)

response = client.chat.completions.create(
    model="Qwen/Qwen3-8B", 
    messages=[
        {"role": "user", "content": "Hello, how are you?"}
    ]
)

print(response.choices[0].message.content)

示例 3：调用 Groq (Llama 3.3 70B)

from openai import OpenAI

client = OpenAI(
    api_key="YOUR_GROQ_API_KEY",
    base_url="https://api.groq.com/openai/v1"
)

response = client.chat.completions.create(
    model="llama-3.3-70b-versatile",
    messages=[{"role": "user", "content": "Explain quantum computing in simple terms."}]
)

print(response.choices[0].message.content)

关键参数说明

• base_url: 不同提供商的中继地址不同，请务必查阅对应平台的文档。
• model: 模型名称必须与提供商支持的免费模型列表完全一致（如 glm-4-flash, llama-3.3-70b-versatile）。
• 限速提示：免费层级通常有 RPM (每分钟请求数) 和 RPD (每天请求数) 限制。生产环境请务必添加重试机制和错误处理。