Sidekick

与本地大型语言模型对话，它能够根据您 Mac 上的文件、文件夹和网站中的信息作出回应，无需安装任何其他软件。所有对话均在离线状态下进行，您的数据始终安全无虞。Sidekick 是一款本地优先的应用程序——内置用于本地模型的推理引擎，同时也兼容 OpenAI 的 API，以提供更多模型选择。

Sidekick 内置 llama.cpp 后端，开箱即用即可支持现代 GGUF 格式的本地模型，例如 Qwen3.5。

示例用法

假设您正在为一篇关于阿兹特克人与西班牙军队互动的历史论文收集资料，想找一找阿兹特克人是否使用过缴获的西班牙武器的相关文字。

此时，您可以询问 Sidekick：“阿兹特克人是否使用过缴获的西班牙武器？”它会直接引用相关段落并附上页码，同时给出简要分析。

为了验证 Sidekick 的回答，只需点击其回复下方显示的参考文献，Sidekick 引用的学术论文便会立即在您的阅读器中打开。

功能特性

更多关于 Sidekick 的功能及其使用方法，请参阅此处。

资源使用

Sidekick 可以访问您指定“专家”中的文件、文件夹和网站，这些“专家”可以单独配置，以包含与特定兴趣领域相关的资源。激活某个“专家”后，Sidekick 就能根据需要获取并引用相关材料。

由于 Sidekick 使用 RAG（检索增强生成）技术，理论上您可以向每个“专家”添加无限量的资源，Sidekick 仍能从中找到与您的请求相关的信息，从而辅助其分析。

例如，一位学生可能会创建“英语文学”、“数学”、“地理”、“计算机科学”和“物理”等“专家”。下图中，他已激活了“计算机科学”这个“专家”。

用户也可以通过将文件直接拖拽到输入框中，赋予 Sidekick 访问权限。

Sidekick 甚至可以通过网络搜索提供最新信息，从而加快研究速度。

自带 API 密钥

除了其核心的本地优先功能外，Sidekick 还允许您使用自己的 OpenAI 兼容 API 密钥。这样您可以在保持主要本地优先工作流的同时，接入额外的远程模型。

函数调用

Sidekick 可以调用函数来增强模型的数学和逻辑能力，并执行相应操作。函数会按顺序循环调用，直到获得结果。

例如，当您让 Sidekick 计算英伟达公司 2025 年第三季度的财务指标时，它会进行27 次工具调用，保存 CSV 文件并呈现结果。

当您让 Sidekick 为朋友 Jean 的生日聚会起草一封邀请邮件时，它会从您的通讯录中找到我的生日和 Jean 的邮箱地址，并在我的默认邮件客户端中生成草稿。

这使得完全在本地运行的智能体成为可能。

深度研究

深度研究是 Sidekick 中专门实现的一种智能体，用于处理长期、多步骤的研究任务。

只需指定一个研究主题，剩下的就交给 Sidekick 完成——它会阅读 50 到 80 个网页，并综合信息撰写研究报告。

记忆功能

Sidekick 现在能够在不同对话之间记住有用的信息，从而使它的回应更加贴切和个性化。无论您是在 Sidekick 中打字、说话，还是生成图片，它都能回忆起您分享过的细节和偏好，并据此调整回应内容。您使用得越多，它就越有用，随着时间推移，您会逐渐感受到改进。

例如，我可能会告诉 Sidekick，我是 Python 初学者，正尝试编写自己的版本的俄罗斯方块游戏。

当我询问有关 pygame 替代方案时，它会根据我当前的项目——俄罗斯方块——提出建议。

画布

使用 Canvas 创建、编辑和预览网站、代码及其他文本内容。

您可以选中文本的一部分，然后提示聊天机器人进行选择性编辑。

图像生成

Sidekick 可以根据文本生成图像，帮助您为工作制作视觉辅助材料。

这里没有按钮、开关或“图像生成”模式。相反，内置的 CoreML 模型会自动识别图像生成提示，并在必要时生成图像。

图像生成功能适用于 macOS 15.2 或更高版本，并且需要 Apple Intelligence 支持。

高级 Markdown 渲染

Sidekick 能够以极佳的效果渲染 Markdown。

LaTeX

Sidekick 提供原生的 LaTeX 渲染功能，用于显示数学公式。

数据可视化

在适当的情况下，表格会自动生成可视化图表，支持多种类型的图表，包括柱状图、折线图和饼图。

图表可以拖放至第三方应用中使用。

代码

代码经过语法高亮处理后美观地呈现，并且只需点击一下按钮即可导出或复制。

工具箱

使用 Sidekick 中的 工具 来大幅提升你的工作效率。

内联写作助手

按下 Command + Control + I 即可访问 Sidekick 的内联写作助手。例如，使用“回答问题”命令，你可以在不离开 Microsoft Word 的情况下完成作业！

使用默认快捷键 Tab 接受下一个建议词，或使用 Shift + Tab 接受所有建议词。可在 这里 查看演示。

检测器

使用检测器评估文本中的 AI 比例，并根据提供的建议重写 AI 内容。

图解器

图解器允许你仅通过一个提示快速生成复杂的关联图。利用集成的预览和编辑器进行快速修改。

幻灯片工作室

与其制作 PowerPoint，不如直接写下提示。借助 AI，你只需 5 分钟就能完成一份 10 分钟的演示文稿。

支持导出为 PDF 和 PowerPoint 等常见格式。

快速生成

Sidekick 使用 llama.cpp 作为推理后端，该后端针对 Apple Silicon 进行了优化，能够提供极快的生成速度。它还支持推测性解码，这可以进一步提升生成速度。

此外，你还可以选择将生成任务卸载到云端，从而加快处理速度并延长 MacBook 的电池续航时间。

安装

要求

• 配备 Apple Silicon 的 Mac
• 内存 ≥ 8 GB

下载与设置

• 请按照 此处 的指南操作。

目标

Sidekick 的主要目标是让开放、本地、私密且具备上下文感知能力的 AI 应用程序能够被大众所使用。

更多关于我们使命的信息，请参阅 这里。

开发者设置

要求

• 配备 Apple Silicon 的 Mac
• 内存 ≥ 8 GB

开发者设置步骤

1. 克隆本仓库。
2. 运行 security find-identity -p codesigning -v 查找你的签名身份。
   • 你会看到类似以下内容：
   • 1) <SIGNING IDENTITY> "Apple Development: Michael DiGovanni ( XXXXXXXXXX)"
3. 运行 ./setup.sh <TEAM_NAME> <SIGNING IDENTITY FROM STEP 2> 更改 Xcode 项目中的团队信息，并下载及签名 marp 二进制文件。
   • marp 二进制文件是构建演示文稿所必需的，必须签名才能创建演示文稿。
4. 在 Xcode 中打开并运行。

贡献

我们非常欢迎各位的贡献。让我们一起让 Sidekick 变得简单而强大。

联系方式

请联系本仓库的所有者 johnbean393@gmail.com，或提交一个问题。

致谢

本项目离不开以下人员的辛勤工作：

• psugihara 及其贡献者开发的 FreeChat，本项目深受其启发
• Georgi Gerganov 对 llama.cpp 的贡献
• 阿里巴巴对 Qwen 2.5 的训练
• Meta 对 Llama 3 的训练
• Google 对 Gemma 3 的训练

星标历史

Sidekick 快速上手指南

Sidekick 是一款专为 macOS 设计的“本地优先”AI 助手。它允许你在离线状态下与本地大语言模型（LLM）对话，并能直接读取你的文件、文件夹和网页内容进行分析，无需安装额外软件。所有数据均保留在本地，确保隐私安全。

环境准备

在开始之前，请确保你的设备满足以下硬件和系统要求：

• 操作系统：macOS（建议更新至最新版本以支持 Apple Intelligence 功能）
• 硬件架构：必须配备 Apple Silicon 芯片 (M1, M2, M3 等系列)
• 内存要求：RAM ≥ 8 GB
• 前置依赖：
  • 无需手动安装 llama.cpp 或其他后端，Sidekick 已内置优化后的推理引擎。
  • 若需使用图像生成功能，需升级至 macOS 15.2 或以上版本。

安装步骤

目前官方主要提供图形化安装指南，请按照以下步骤获取并配置应用：

1. 下载应用 访问官方文档指引页面获取最新安装包：

   https://johnbean393.github.io/Sidekick/Markdown/gettingStarted/
   

   (注：由于网络原因，如访问缓慢，请尝试使用网络加速工具或检查 GitHub Releases 页面是否有直接下载的 .dmg 文件)

2. 安装与授权

   • 下载完成后，打开 .dmg 文件并将 Sidekick 拖入 Applications 文件夹。
   • 首次启动时，macOS 可能会提示“无法打开”，请前往 系统设置 > 隐私与安全性 中点击“仍要打开”。
   • 根据提示授予 Sidekick 必要的权限（如文件访问、全屏控制等），以便其能读取你的文档和执行快捷操作。

3. 开发者构建（可选） 如果你希望从源码编译开发版，请在终端执行以下命令：

   git clone https://github.com/johnbean393/Sidekick.git
   cd Sidekick
   security find-identity -p codesigning -v
   # 将 <TEAM_NAME> 和 <SIGNING IDENTITY> 替换为你的实际信息
   ./setup.sh <TEAM_NAME> <SIGNING IDENTITY>
   

基本使用

Sidekick 的核心优势在于结合本地文件上下文（RAG）进行对话。以下是三种最基础的使用场景：

1. 基于本地文件的问答

你可以让 Sidekick 分析特定的文件或文件夹（称为"Experts"）。

• 操作步骤：
  1. 启动 Sidekick，在设置中创建一个新专家（例如“历史研究”）。
  2. 将相关的 PDF、TXT 文件或整个文件夹拖入该专家的资源区。
  3. 在对话框中输入问题，例如：

     阿兹特克人是否使用了缴获的西班牙武器？请提供原文引用和页码。
     

  4. Sidekick 会检索本地文件，给出带出处的回答。点击引用链接可直接跳转打开源文件。

2. 临时文件拖拽分析

对于单次性的文件分析，无需配置专家，直接拖拽即可。

• 操作步骤：
  1. 直接将任意文件（如 CSV、代码文件、论文）拖入 Sidekick 的输入框。
  2. 立即提问，例如：

     总结这份财报中 2025 年第三季度的关键指标。
     

3. 深度研究与多步任务

利用内置的 Agent 能力处理复杂任务。

• 联网搜索：直接询问需要最新信息的问题，Sidekick 会自动调用 Web Search 获取实时数据。
• 深度研究 (Deep Research)： 输入一个宏观主题，例如：

  调研量子计算在药物发现领域的最新进展，并生成一份研究报告。
  

  Sidekick 将自动规划步骤，阅读 50-80 个网页，合成信息并输出完整报告。
• 功能调用 (Function Calling)： 尝试指令如“给 Jean 发一封生日聚会邀请邮件”，Sidekick 会自动查询联系人、获取邮箱并在默认邮件客户端创建草稿。

进阶技巧

• 内联写作助手：在任何文本编辑器（如 Word）中按下 Command + Control + I 唤出助手，使用 Tab 键接受单词补全建议。
• 画布模式 (Canvas)：在对话中生成的代码或文章，可点击进入 Canvas 模式进行可视化编辑和预览。
• 模型切换：默认使用本地 GGUF 模型（如 Qwen3.5），也可在设置中填入 OpenAI 兼容的 API Key 以使用云端模型。