Klee

一款原生 macOS AI 助手，完全在您的 Mac 上运行。无需云端、无需账号、无需订阅。

Klee 使用 MLX 在 Apple Silicon 芯片上直接运行大型语言模型，因此您的对话数据始终保留在本地设备上。

功能特性

• 100% 本地推理 -- 您的数据始终保存在 Mac 上
• 无需账号或 API 密钥 -- 下载后即可开始聊天
• 一键下载模型 -- 选择一个模型，剩下的由 Klee 自动处理
• 原生工具调用 -- AI 可以读写文件、搜索网页并执行 Shell 命令
• 视觉支持 -- 使用支持的 VLM 模型，可将图片附加到消息中
• 网络搜索 -- 通过 Jina AI 进行网络搜索（免费 API 密钥，可在侧边栏中配置）
• 流式响应 -- 生成的 token 会实时显示
• 内联思考 -- 在可折叠卡片中查看模型的推理过程
• 平台模块 -- 通过原生 Swift 集成扩展 AI 功能（即将推出）
• 轻量级 -- 约 75MB 的原生 SwiftUI 应用，无 Electron、无 Docker、无后台服务

系统要求

要求	最低配置
macOS	15.0 (Sequoia) 或更高版本
芯片	Apple Silicon (M1 或更高)
内存	16 GB（参见下方模型表格）

更多的内存可以解锁更大、功能更强的模型：

内存	推荐模型
16 GB	Qwen 3.5 9B、Qwen 3 8B、Gemma 3 12B、DeepSeek R1 8B
32 GB	Qwen 3.5 27B、Qwen 3.5 35B (MoE)
64 GB	Gemma 3 27B、DeepSeek R1 32B
96 GB+	Qwen 3.5 122B (MoE)

安装

Klee 直接以签名的 macOS 应用程序形式分发（开发者 ID），不通过 App Store。

1. 从 Releases 下载最新的 .dmg 文件。
2. 将 Klee 拖拽到您的 Applications 文件夹。
3. 打开 Klee -- 如果 macOS 显示 Gatekeeper 警告，请前往 系统设置 > 隐私与安全性，然后点击“仍要打开”。

使用方法

1. 打开 Klee -- 应用会检测您的系统内存，并显示兼容的模型。
2. 下载模型 -- 点击任意推荐模型旁边的下载按钮。下载中断后会自动恢复。
3. 开始聊天 -- 选择已下载的模型，输入您的消息。

AI 可以帮助您进行文件操作、网络查询和执行 Shell 命令——只需自然地提出请求即可。

网络搜索设置（可选）

要启用网络搜索：

1. 在 jina.ai 获取一个免费的 API 密钥（无需信用卡）。
2. 点击右上角的侧边栏切换按钮。
3. 启用 网络搜索，并粘贴您的 API 密钥。
4. 请求 Klee 帮您搜索任何内容。

模型会被缓存到 ~/.klee/models/ 目录下，并在应用重启后仍然保留。

支持的模型

所有模型均为 HuggingFace 上 mlx-community 提供的 4 位量化变体。

模型	大小	最小内存	视觉支持	HuggingFace ID
Qwen 3.5 9B	~6 GB	16 GB	是	mlx-community/Qwen3.5-9B-4bit
Qwen 3 8B	~4.3 GB	16 GB	否	mlx-community/Qwen3-8B-4bit
Gemma 3 12B	~8 GB	16 GB	否	mlx-community/gemma-3-12b-it-qat-4bit
DeepSeek R1 8B	~4.6 GB	16 GB	否	mlx-community/DeepSeek-R1-0528-Qwen3-8B-4bit
Qwen 3.5 27B	~16 GB	32 GB	是	mlx-community/Qwen3.5-27B-4bit
Qwen 3.5 35B (MoE)	~20 GB	32 GB	是	mlx-community/Qwen3.5-35B-A3B-4bit
Gemma 3 27B	~17 GB	64 GB	否	mlx-community/gemma-3-27b-it-qat-4bit
DeepSeek R1 32B	~18 GB	64 GB	否	mlx-community/DeepSeek-R1-Distill-Qwen-32B-4bit
Qwen 3.5 122B (MoE)	~70 GB	96 GB	是	mlx-community/Qwen3.5-122B-A10B-4bit

内置工具

Klee 使用原生工具调用（mlx-swift-lm ToolCall API）-- 无需 MCP、无需 Node.js、无需外部进程。

工具	描述
file_write	创建或覆盖文件
file_read	读取文件内容
file_list	列出目录内容
file_delete	删除文件
web_search	搜索网页（需要 Jina API 密钥）
web_fetch	获取并提取网页内容
shell_exec	执行 Shell 命令（超时时间为 30 秒）

从源码构建

需要 Xcode 16+ 和 macOS 15.0+。

git clone https://github.com/signerlabs/Klee.git
cd Klee
open Klee.xcodeproj

选择 Klee 方案，然后构建并运行（Cmd+R）。SPM 依赖项（mlx-swift-lm）将在首次构建时自动解析。

致谢

Klee 借鉴了 ShipSwift 的组件和架构设计。

许可证

MIT

Klee 快速上手指南

Klee 是一款专为 Apple Silicon Mac 设计的原生 AI 助手。它完全在本地运行，无需云端、无需账号、无需订阅，利用 MLX 框架直接在设备上运行大语言模型，确保数据隐私安全。

环境准备

在开始之前，请确保您的设备满足以下硬件和系统要求：

• 操作系统：macOS 15.0 (Sequoia) 或更高版本
• 芯片架构：Apple Silicon (M1, M2, M3 系列或更新)
• 内存 (RAM)：最低 16 GB
  • 16 GB：推荐运行 Qwen 3.5 9B, Gemma 3 12B 等中小型模型。
  • 32 GB+：可运行 Qwen 3.5 27B/35B 等更大模型。
  • 64 GB+：支持 DeepSeek R1 32B 等高性能模型。
  • 96 GB+：可挑战 Qwen 3.5 122B (MoE) 超大模型。
• 前置依赖：无（应用为独立原生 SwiftUI 构建，无需 Docker、Node.js 或 Python 环境）。

安装步骤

Klee 以签名的 macOS 应用程序形式发布，未上架 App Store。请按以下步骤安装：

1. 下载安装包 访问 GitHub Releases 下载最新的 .dmg 文件。 (注：若下载速度慢，可尝试使用国内镜像加速工具或代理)

2. 移动应用 打开下载的 .dmg 文件，将 Klee 图标拖拽至 Applications (应用程序) 文件夹。

3. 首次运行授权 双击打开 Klee。由于是开发者 ID 签名而非 App Store 分发，macOS 可能会弹出"Gatekeeper"警告。

   • 前往 系统设置 (System Settings) > 隐私与安全性 (Privacy & Security)。
   • 在底部找到关于 Klee 的拦截提示，点击 "仍要打开" (Open Anyway)。
   • 在弹出的确认框中再次点击“打开”。

基本使用

安装完成后，即可开始本地 AI 对话：

1. 启动并选择模型 打开 Klee，应用会自动检测您的系统内存，并列出兼容的模型列表。 点击推荐模型旁边的 下载按钮。模型文件将缓存至 ~/.klee/models/，支持断点续传。

2. 开始对话 模型下载完成后，选中该模型，直接在输入框中输入自然语言指令。

   • 文件操作：例如“帮我创建一个名为 test.txt 的文件并写入 Hello World"。
   • Shell 命令：例如“列出当前目录下的所有 jpg 图片”。
   • 多模态交互：若使用了支持 Vision 的模型（如 Qwen 3.5），可直接拖入图片进行分析。

3. 配置联网搜索（可选） 若需让 AI 获取实时信息：

   • 访问 jina.ai 获取免费 API Key（无需信用卡）。
   • 在 Klee 右上角点击侧边栏开关。
   • 启用 Web Search 并粘贴 API Key。
   • 现在可以询问如“查询今天最新的科技新闻”等问题。

提示：所有推理过程均在本地完成，响应以流式输出，您甚至可以在折叠卡片中查看模型的思维链（Thinking Process）。