🍋 柠檬水：清爽快速的本地AI

下载 | 文档 | Discord

柠檬水是一款本地AI服务器，它为您提供与云端API相同的功能，但完全免费且私密。您可以在自己的NPU和GPU上使用最新的模型进行聊天、编码、语音和图像生成。

柠檬水有两种形式：

• 柠檬水服务器会安装一个服务，您可以使用标准的OpenAI、Anthropic和Ollama API将其连接到数百款优秀的应用程序。
• 可嵌入的柠檬水是一个便携式二进制文件，您可以将其打包到您自己的应用程序中，为用户提供多模态的本地AI，并根据用户的电脑自动优化性能。

本项目由社区为所有PC打造，AMD工程师进行了优化，以充分发挥Ryzen AI、Radeon和Strix Halo PC的潜力。

快速入门

1. 安装：Windows · Linux · macOS（测试版） · Docker · 源码
2. 获取模型：使用模型管理器浏览并下载
3. 生成：通过内置的聊天、图像生成、语音生成等界面尝试模型
4. 移动端：随身携带您的柠檬水：iOS · Android · 源码
5. 连接：将柠檬水与您喜爱的应用程序一起使用：

                  

希望您的应用也能在此展示吗？只需提交一个市场PR即可！

支持的平台

平台	构建

使用命令行界面

要运行并与 Gemma 对话：

lemonade run Gemma-4-E2B-it-GGUF

要使用 Lemonade 模型进行编程：

lemonade launch claude

多模态功能：

# 图像生成
lemonade run SDXL-Turbo

# 语音生成
lemonade run kokoro-v1

# 转录
lemonade run Whisper-Large-v3-Turbo

查看可用模型并下载它们：

lemonade list

lemonade pull Gemma-4-E2B-it-GGUF

查看您电脑上可用的后端：

lemonade backends

模型库

Lemonade 支持多种大型语言模型（GGUF、FLM 和 ONNX），以及 Whisper、Stable Diffusion 等模型，可在 CPU、GPU 和 NPU 上运行。

使用 lemonade pull 或内置的 模型管理器 下载模型。您还可以从 Hugging Face 导入自定义 GGUF/ONNX 模型。

浏览所有内置模型 →

支持的配置

Lemonade 支持多种用于大语言模型、语音处理、文本转语音和图像生成的推理引擎，每种引擎都有其特定的后端和硬件要求。

模态	引擎	后端	设备	操作系统
文本生成	llamacpp	vulkan	x86_64 CPU、AMD iGPU、AMD dGPU	Windows、Linux
		rocm	支持的 AMD ROCm iGPU/dGPU 系列*	Windows、Linux
		cpu	x86_64 CPU	Windows、Linux
		metal	Apple Silicon GPU	macOS（测试版）
		system	x86_64 CPU、GPU	Linux
	flm	npu	XDNA2 NPU	Windows、Linux
	ryzenai-llm	npu	XDNA2 NPU	Windows
语音转文本	whispercpp	npu	XDNA2 NPU	Windows
		vulkan	x86_64 CPU	Linux
		cpu	x86_64 CPU	Windows、Linux
文本转语音	kokoro	cpu	x86_64 CPU	Windows、Linux
图像生成	sd-cpp	rocm	支持的 AMD ROCm iGPU/dGPU 系列*	Windows、Linux
		cpu	x86_64 CPU	Windows、Linux

要检查您的机器具体支持哪些配方/后端，请运行：

lemonade backends

* 参见支持的 AMD ROCm 平台

架构	平台支持	GPU 型号
gfx1151（STX Halo）	Windows、Ubuntu	Ryzen AI MAX+ Pro 395
gfx120X（RDNA4）	Windows、Ubuntu	Radeon AI PRO R9700、RX 9070 XT/GRE/9070、RX 9060 XT
gfx110X（RDNA3）	Windows、Ubuntu	Radeon PRO W7900/W7800/W7700/V710、RX 7900 XTX/XT/GRE、RX 7800 XT、RX 7700 XT

项目路线图

正在开发	正在考虑	最近完成
原生多模态工具调用	vLLM 支持	将应用移植到 Tauri
更多 whisper.cpp 后端		可嵌入式二进制发布
更多 SD.cpp 后端		图像生成
MLX 支持		语音转文本
		文本转语音
		应用市场

在您的应用中集成可嵌入式 Lemonade

可嵌入式 Lemonade 是 Lemonade 的二进制版本，您可以将其打包到自己的应用中，为应用提供一个便携、自动优化的多模态本地 AI 堆栈。这使得用户可以专注于您的应用，而无需安装 Lemonade、品牌宣传或数据收集。

请查看可嵌入式 Lemonade 指南。

将 Lemonade 服务器连接到您的应用程序

您可以通过将任何兼容 OpenAI 的客户端库配置为使用 http://localhost:13305/v1 作为基础 URL 来使用它。下表列出了不同语言中官方及流行的 OpenAI 客户端。

您可以自由选择您偏好的语言。

Python	C++	Java	C#	Node.js	Go	Ruby	Rust	PHP
openai-python	openai-cpp	openai-java	openai-dotnet	openai-node	go-openai	ruby-openai	async-openai	openai-php

Python 客户端示例

from openai import OpenAI

# 初始化客户端以使用 Lemonade 服务器
client = OpenAI(
    base_url="http://localhost:13305/api/v1",
    api_key="lemonade"  # 必需但未使用
)

# 创建聊天补全
completion = client.chat.completions.create(
    model="Gemma-4-E2B-it-GGUF",  # 或其他可用模型
    messages=[
        {"role": "user", "content": "法国的首都是哪里？"}
    ]
)

# 打印响应
print(completion.choices[0].message.content)

有关更详细的集成说明，请参阅集成指南。

常见问题解答

如需阅读我们的常见问题解答，请参阅FAQ 指南。

贡献

Lemonade 由本地 AI 社区共同构建！如果您希望为该项目做出贡献，请查看我们的贡献指南。

维护者

这是一个由 @amd-pworfolk、@bitgamma、@danielholanda、@jeremyfowers、@kenvandine、@Geramy、@ramkrishna2910、@sawansri、@siavashhub、@sofiageo、@superm1、@vgodsoe 维护的社区项目，并由 AMD 赞助。您可以通过提交issue、发送电子邮件至 lemonade@amd.com 或加入我们的Discord与我们联系。

代码签名政策

由 SignPath.io 提供免费代码签名服务，证书由 SignPath Foundation 颁发。

• 提交者和评审者：本仓库的维护者
• 批准者：所有者

隐私政策：除非用户或安装/操作人员明确请求，否则本程序不会将任何信息传输到其他联网系统。在用户请求时，Lemonade 会从 Hugging Face Hub 下载 AI 模型（请参阅其隐私政策)。

许可与署名

本项目：

• 使用 C++（服务器端）和 React（应用程序）构建，满怀对开源社区的热爱；
• 站在众多优秀工具的肩膀之上，这些工具包括：
  • ggml/llama.cpp
  • ggml/whisper.cpp
  • ggml/stable-diffusion.cpp
  • kokoros
  • OnnxRuntime GenAI
  • Hugging Face Hub
  • OpenAI API
  • IRON/MLIR-AIE
  • 以及更多…
• 根据 Apache 2.0 许可证 进行许可。
  • 项目的部分内容按照 NOTICE.md 中的说明进行许可。

Lemonade 快速上手指南

Lemonade 是一款高性能的本地 AI 服务器，旨在提供与云端 API 同等的能力，但完全免费且保护隐私。它支持在本地 NPU 和 GPU 上运行最新的聊天、编程、语音及图像生成模型，并兼容 OpenAI、Anthropic 和 Ollama 标准接口。

环境准备

系统要求

Lemonade 支持多平台，针对不同硬件进行了优化（特别是 AMD Ryzen AI、Radeon 及 Strix Halo 平台）：

• Windows: Windows 11 (推荐)
• Linux: Ubuntu 24.04+, Debian Trixie+, Fedora 43, Arch Linux
• macOS: Apple Silicon (M 系列芯片，Beta 版本)
• 容器: Docker

硬件后端支持

• GPU: AMD iGPU/dGPU (Vulkan/ROCm), Apple Silicon (Metal), 通用 x86_64 GPU
• NPU: AMD XDNA2 NPU (专为 Ryzen AI 优化)
• CPU: 通用 x86_64 处理器

注意：无需预先安装复杂的深度学习框架（如 PyTorch），Lemonade 安装包已包含所需运行时依赖。

安装步骤

请选择适合你操作系统的安装方式：

1. Windows 用户

访问官方下载页面获取 .msi 安装包： https://lemonade-server.ai/install_options.html#windows 下载后双击运行安装向导即可。

2. Linux 用户 (以 Ubuntu 为例)

可以通过 PPA 源安装（推荐）：

sudo add-apt-repository ppa:lemonade-sdk/lemonade
sudo apt update
sudo apt install lemonade-server

或者使用 Snap 安装：

sudo snap install lemonade-server

其他发行版（Arch, Fedora, Debian）请参考官方文档对应的安装指令。

3. macOS 用户 (Beta)

访问官方下载页面获取 .pkg 安装包： https://lemonade-server.ai/install_options.html#macos

4. Docker 用户

拉取并运行容器：

docker run -d --gpus all -p 8000:8000 --name lemonade ghcr.io/lemonade-sdk/lemonade:latest

基本使用

安装完成后，lemonade 命令行工具即可使用。以下是核心工作流：

1. 查看可用模型

列出官方支持的模型库：

lemonade list

2. 下载模型

使用 pull 命令下载模型到本地（例如下载 Gemma 模型）：

lemonade pull Gemma-4-E2B-it-GGUF

提示：你也可以通过内置的图形化 "Model Manager" 浏览和下载模型，或导入自定义的 GGUF/ONNX 模型。

3. 运行模型

启动服务并与模型交互：

• 文本对话 (Chat):

  lemonade run Gemma-4-E2B-it-GGUF
  

• 编程辅助 (Coding): 启动兼容 Claude Code 接口的服务：

  lemonade launch claude
  

• 多模态任务:

  # 图像生成
  lemonade run SDXL-Turbo
  
  # 语音生成 (TTS)
  lemonade run kokoro-v1
  
  # 语音转录 (STT)
  lemonade run Whisper-Large-v3-Turbo
  

4. 连接第三方应用

Lemonade 启动后会自动监听本地端口，兼容标准 API。你可以将其连接到支持 OpenAI/Ollama 协议的应用中，例如：

• Open WebUI: 配置 API 地址为 http://localhost:8000/v1
• VS Code (Continue 插件): 选择 Ollama 或 OpenAI 提供商，指向本地 Lemonade 服务
• Dify / n8n: 在集成设置中选择 Lemonade 插件或自定义 API 端点

5. 查看后端状态

检查当前机器可用的推理后端（CPU/GPU/NPU）：

lemonade backends

现在，你已经可以在本地私有环境中自由使用强大的 AI 模型了。更多高级配置和模型列表请访问 Lemonade 文档中心。