Clippy

Clippy 让你在自己的电脑上本地运行各种大型语言模型（LLMs），同时保留上世纪90年代的经典用户界面。借助 Llama.cpp，它支持流行的 GGUF 格式模型——也就是说，几乎涵盖了市面上大多数公开可用的模型。此外，它还提供一键安装功能，可轻松部署 Google 的 Gemma3、Meta 的 Llama 3.2、Microsoft 的 Phi-4 以及 Qwen 的 Qwen3。

这款应用是对已故传奇人物 Clippy 的致敬与怀念——这位来自 Microsoft Office 1997 的虚拟助手。Clippy 的形象由插画师 Kevan Atteberry 设计，他曾为 Microsoft Office 助手系列创作了超过 15 种备选角色。需要注意的是，本应用与 Microsoft 并无关联，也未获得其批准或支持。你可以把它看作一种软件艺术作品；如果你不喜欢它，那不妨将其视为一种软件讽刺。

同时，Clippy 也被设计为 @electron/llm 的参考实现，旨在帮助其他 Electron 应用开发者更便捷地在本地集成语言模型。

功能特性

• 简洁、熟悉且经典的聊天界面：向你的模型发送消息，即可获得回复。
• 开箱即用：无需复杂配置。打开应用就能直接开始对话。得益于 llama.cpp 和 node-llama-cpp，应用会自动检测并选择最高效的运行方式（如 Metal、CUDA、Vulkan 等）来执行模型。
• 自定义模型、提示词与参数：加载你下载的自定义模型，并自由调整各项设置。
• 离线、本地、免费：所有计算都在你的设备上完成。Clippy 唯一的网络请求仅用于检查更新（该功能也可关闭）。

非功能特性

目前市面上已经存在无数用于本地 LLM 的聊天应用，其中许多可能比 Clippy 更加优秀——这完全没问题。本项目并不追求成为“最佳聊天机器人”。相反，我希望你能享受一种奇妙的组合：对上世纪90年代技术的怀旧情怀，与我们如今在2025年所能体验到的最前沿科技之间的碰撞。

下载更多模型

借助 Llama.cpp，Clippy 支持绝大多数 GGUF 格式的模型。你可以在众多在线资源中找到这些模型——我个人倾向于使用由 TheBloke 或 Unsloth 量化过的版本。

致谢

特别感谢以下各位：

• 感谢 Microsoft——不仅因为他们在 Electron 生态系统中做出的巨大贡献，更因为他们为我们带来了计算机历史上最具标志性的角色与设计之一。
• 感谢 Kevan Atteberry 创造的 Clippy 角色。
• 感谢 Jordan Scales (@jdan) 提供的 Windows 98 风格设计。
• 感谢 Pooya Parsa (@pi0)，他是目前已知唯一一位从 Clippy 的精灵图集中提取出每一帧长度的人。
• 感谢 node-llama-cpp，将 Llama.cpp 无缝集成到 Node.js 中。

Clippy 快速上手指南

Clippy 是一款致敬微软 Office 97 助手的开源工具，允许你在本地运行大型语言模型（LLM），同时享受复古的 90 年代用户界面。它基于 llama.cpp 和 @electron/llm 构建，支持 GGUF 格式的模型，完全离线运行。

环境准备

• 操作系统：
  • Windows 10/11
  • macOS 10.15+ (支持 Metal 加速)
  • Linux (支持 CUDA/Vulkan)
• 硬件要求：
  • 建议配备独立显卡（NVIDIA GPU 或 Apple Silicon）以获得最佳推理速度。
  • 足够的内存以加载所选模型（例如，运行 7B 模型建议至少 8GB-16GB RAM）。
• 前置依赖：
  • 无需手动安装 Python、CUDA 或编译工具。应用内置了 node-llama-cpp，会自动检测并利用系统最佳的计算后端（Metal, CUDA, Vulkan 等）。

安装步骤

Clippy 提供一键安装包，无需通过命令行编译。

1. 访问发布页面： 前往 Clippy GitHub Releases 页面。

2. 下载对应版本： 根据你的操作系统下载最新的安装包：

   • Windows: clippy-setup-win-x64.exe
   • macOS: clippy-setup-mac.dmg (Intel/Apple Silicon 通用)
   • Linux: clippy-setup-linux-x86_64.AppImage 或 .deb/.rpm 包

3. 安装运行：

   • Windows: 双击下载的 .exe 文件并按提示完成安装。
   • macOS: 打开 .dmg 文件，将 Clippy 拖入应用程序文件夹。

     注意：首次打开时若提示“无法验证开发者”，请在“系统设置”>“隐私与安全性”中点击“仍要打开”。

   • Linux: 赋予执行权限并运行：

     chmod +x clippy-setup-linux-x86_64.AppImage
     ./clippy-setup-linux-x86_64.AppImage
     

基本使用

1. 启动应用： 打开安装好的 Clippy 应用，你将看到经典的回形针助手界面。

2. 选择模型：

   • 应用预置了一键下载功能，支持 Google Gemma3, Meta Llama 3.2, Microsoft Phi-4, 和 Qwen Qwen3。
   • 在设置或模型选择菜单中，点击你喜欢的模型名称，应用将自动下载对应的 GGUF 量化版本。
   • 国内用户提示：如果自动下载速度慢，可手动从 Hugging Face 或 ModelScope (魔搭) 搜索带有 GGUF 后缀的模型文件（推荐 TheBloke 或 Unsloth 量化版本），下载后在 Clippy 中选择"Load Custom Model"加载本地文件。

3. 开始对话：

   • 模型加载完成后，直接在对话框输入文字。
   • Clippy 会以标志性的动画和语气回复你。
   • 所有推理过程均在本地完成，无需联网（除首次检查更新外，该功能可在设置中关闭）。

4. 高级调整（可选）：

   • 你可以在设置中调整温度（Temperature）、上下文长度等参数，或加载自定义的系统提示词（System Prompt）来改变 Clippy 的性格。