示例、教程和应用，助您在笔记本电脑、移动设备和边缘设备上，基于我们的开放权重 LFMs 以及 LEAP SDK 进行开发。

目录

• 桌面应用
• 浏览器应用
• 移动应用（Android / iOS）
• 微调笔记本
• 由 LFM 提供支持的第三方应用
• 社区项目
• 技术深度解析
• 贡献
• 支持

🖥️ 桌面应用

用于在您的笔记本电脑或台式机上运行 LFM 模型的 Python 和命令行应用程序。

名称	描述	链接
发票解析器	使用 LFM2-VL-3B 从发票图像中提取结构化数据	代码
音频转录命令行工具	使用 llama.cpp 的 LFM2-Audio-1.5B 实现实时音频到文本转录	代码
航班搜索助手	使用支持工具调用的 LFM2.5-1.2B-Thinking 查找并预订机票	代码
音频车载控制台	结合 LFM2.5-Audio-1.5B 和 LFM2-1.2B-Tool 的语音控制车载演示	代码
LocalCowork	基于 LFM2-24B-A2B 的本地 AI 代理，用于文件操作、安全扫描、OCR 等	代码
家庭助手	具有工具调用功能、基准测试和微调流程的本地家庭助手，使用 LFM2-350M 和 LFM2.5-1.2B	代码
Mac 语音助手	在 Apple Silicon Mac 上运行的本地语音助手，使用 LFM2.5-Audio-1.5B 和 LEAP SDK	代码
Mac 视觉助手	使用 LEAP SDK 的本地视觉语言模型聊天，专为 Apple Silicon Mac 设计	代码

🌐 浏览器应用

无需安装即可直接在浏览器中通过 WebGPU 和 ONNX Runtime Web 运行 LFM 模型的应用程序。

名称	描述	链接
工具调用	使用 WebGPU 将 LFM2 完全在浏览器中运行，实现浏览器内的工具调用	代码 | 演示
语音助手	使用 LFM2.5-Audio-1.5B 完全在浏览器中运行，实现语音识别、TTS 和对话功能	代码 | 演示
实时视频字幕	使用 LFM2.5-VL-1.6B 在浏览器中通过 WebGPU 实现实时视频字幕	代码 | 演示
思维链推理	使用 WebGPU 将 LFM2.5-1.2B-Thinking 完全在浏览器中运行，实现本地思维链推理	代码 | 演示
手势与语音赛车	完全本地运行的浏览器驾驶游戏，由手势（MediaPipe）和语音命令（LFM2.5-Audio-1.5B）控制	代码
LEAP 语音助手	通过 WebAssembly 在浏览器中运行的本地语音助手，使用 LEAP SDK	代码

📱 移动应用

使用 LEAP Edge SDK 在 iOS 和 Android 上部署 LFM2 模型的原生示例。Edge SDK 旨在让小型语言模型的部署如同调用云端 LLM API 端点一样简单，代码分别用 Kotlin（Android）和 Swift（iOS）编写。

安卓

名称	描述	链接
LeapChat	具有实时流、持久会话历史和现代 UI 的聊天应用	代码
语音助手	使用 LFM2.5-Audio-1.5B 进行音频输入输出，实现本地 AI 推理	代码
LeapKoogAgent	与 Koog 框架集成，实现 AI 代理功能	代码
SloganApp	使用 Android Views 进行单轮营销口号生成	代码
ShareAI	网站摘要生成器	代码
Recipe Generator	使用 LEAP SDK 生成结构化输出	代码
VLM 示例	视觉语言模型集成	代码

苹果 iOS

名称	描述	链接
LeapChat	具有实时流、对话管理和 SwiftUI 的聊天应用	代码
LeapSloganExample	在 SwiftUI 中进行基础 LEAP SDK 集成，用于文本生成	代码
Recipe Generator	生成结构化输出	代码
语音助手	使用 LFM2.5-Audio-1.5B 进行音频输入和输出，实现本地 AI 推理	代码
Vision Assistant	使用 LEAP SDK 在 iOS 上进行视觉语言模型聊天	代码

🎯 微调笔记本

用于使用您自己的数据自定义 LFM 模型的 Colab 笔记本和 Python 脚本。

名称	描述	链接
监督微调 (SFT)
使用 Unsloth 的 SFT	使用 Unsloth 和 LoRA 进行内存高效的 SFT，训练速度提升 2 倍	笔记本
使用 TRL 的 SFT	使用 Hugging Face TRL 库和参数高效的 LoRA 进行监督微调	笔记本
强化学习
使用 Unsloth 的 GRPO	使用基于组的相对策略优化训练可验证任务的推理模型	笔记本
使用 TRL 的 GRPO	使用基于规则的奖励进行基于组的相对策略优化来训练推理模型	笔记本
持续预训练 (CPT)
针对翻译的 CPT	使用领域数据将模型适配到特定语言或翻译领域	笔记本
针对文本补全的 CPT	向模型传授领域特定知识和创意写作风格	笔记本
视觉-语言模型
使用 Unsloth 的 VLM SFT	对 LFM2-VL 模型在自定义图像-文本数据集上进行监督微调	笔记本

由 LFM 提供支持的第三方应用

作为推理后端支持 LFM 模型以及其他提供商的生产级和开源应用。

名称	描述	链接
DeepCamera	开源 AI 相机系统，用于本地视觉智能，具备面部识别、行人再识别功能，并可在 Jetson 和 Raspberry Pi 上进行边缘部署	代码
Osaurus	原生 macOS AI 工具链，用于在本地管理代理、记忆、工具和身份，通过 MLX 支持 Apple Silicon 上的 LFM 模型	代码

🌟 社区项目

由社区构建的开源项目，展示了 LFM 在实际用例中的应用。

精选

名称	描述	链接
边缘端图像分类	全流程教程，涵盖微调和部署，使用本地 VLM 实现超快速且准确的图像分类	代码
使用小型 LMs 的国际象棋游戏	全流程教程，涵盖微调和部署，利用小型语言模型构建国际象棋游戏	代码
私人文档问答	设备端文档问答，结合 RAG 和语音输入	代码
LFM2.5 移动操作	经过 LoRA 微调的 LFM2.5-1.2B 模型，可将自然语言转换为 Android OS 函数调用，用于设备端移动操作识别	代码
照片分类助手	使用 LFM 视觉模型清理私人照片库	代码
Tiny-MoA	在 CPU 上运行的混合代理系统，配备 LFM2.5 大脑（1.2B）	代码
barq-web-rag	基于浏览器的 RAG 应用程序，用于文档问答，采用 LFM2.5-1.2B-Thinking 模型，完全在本地通过 WebGPU 运行	代码
LFM-Scholar	自动化文献综述代理，用于查找和引用论文	代码

更多

名称	描述	链接
私人摘要生成器	100% 本地文本摘要生成，支持多种语言	代码
TranslatorLens	离线翻译相机，实现实时文本翻译	代码
会议智能 CLI	用于会议转录和分析的 CLI 工具	代码
食品图像微调	在食品图像数据集上微调 LFM 模型	代码
LFM2-KoEn-Tuning	针对韩英翻译微调的 LFM2 1.2B 模型	代码
LFM-2.5 思考版在网页上	LFM2.5 1.2B 参数量的日语语言模型，使用 Transformers.js 和 ONNX Runtime Web，在浏览器中通过 WebGPU 本地运行	代码
SFT + DPO 微调	教育一个 1.2B 模型成为脾气暴躁的意大利厨师：使用 Unsloth 进行 SFT + DPO 微调	代码
Tauri 插件 LEAP AI	Tauri 插件，用于将 LEAP 和 Liquid LFM 集成到使用 Tauri 构建的桌面和移动应用程序中	Crate
LFM-2.5 JP 在网页上	LFM2.5 1.2B 参数量的日语语言模型，使用 Transformers.js 和 ONNX Runtime Web，在浏览器中通过 WebGPU 本地运行	代码
grosme	CLI 杂货助手，读取 Apple Notes 列表并使用 LFM-2.5 工具调用代理通过 Ollama 查找 Walmart 产品匹配	代码
使用 LEAP SDK 的聊天	LEAP SDK 在 React Native 中的集成	代码
Discord 版主	使用 LFM2.5-1.2B 检查超过预定字符限制的消息，以识别可疑内容	代码

🕐 技术深度解析

录制的约 60 分钟的会议，涵盖高级主题和动手实践。

日期	主题	链接
2025-11-06	微调 LFM2-VL 用于图像分类	视频
2025-11-27	使用 LFM2-Audio 构建 100% 本地音频转文本 CLI	视频
2025-12-26	使用 GRPO 和 OpenEnv 微调 LFM2-350M 以控制浏览器	视频
2026-01-22	使用 LFM2.5-VL-1.6B 和 WebGPU 进行本地视频字幕生成	视频
2026-03-05	构建您自己的本地 AI 编程助手	视频

加入下一次会议吧！前往 Discord 的 #live-events 频道。

贡献

我们欢迎您的贡献！请在社区项目部分提交 PR，并附上您项目的 GitHub 仓库链接。

支持

• 📖 Liquid AI 文档
• 💬 加入我们的 Discord 社区

Liquid AI Cookbook 快速上手指南

本指南旨在帮助开发者快速使用 Liquid AI 的开源权重模型（LFMs）和 LEAP SDK，在笔记本、移动端及边缘设备上构建 AI 应用。

环境准备

系统要求

• 操作系统:
  • 桌面端：Windows, macOS (推荐 Apple Silicon), Linux
  • 移动端：Android (Kotlin), iOS (Swift)
  • 浏览器端：支持 WebGPU 的现代浏览器 (Chrome, Edge 等)
• 硬件建议:
  • 本地运行大模型建议使用具备独立显卡的设备或 Apple Silicon Mac。
  • 移动端需较新的智能手机以支持端侧推理。
• 核心依赖:
  • Python 3.9+
  • Git
  • Hugging Face Account (用于下载模型权重)

前置依赖安装

克隆项目仓库并安装基础 Python 依赖：

git clone https://github.com/Liquid4All/cookbook.git
cd cookbook

# 安装基础依赖 (具体依赖视子项目而定，通常包含 torch, transformers, leap-sdk 等)
pip install -r requirements.txt

国内加速提示: 若下载模型或依赖缓慢，建议配置 Hugging Face 镜像源：

export HF_ENDPOINT=https://hf-mirror.com

或使用国内 pip 源：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

根据目标平台选择对应的安装方式：

1. 桌面端应用 (Python/CLI)

大多数桌面示例位于 examples/ 目录下。以 发票解析器 (Invoice Parser) 为例：

cd examples/invoice-parser
pip install -r requirements.txt
# 确保已设置 Hugging Face Token
export HUGGING_FACE_HUB_TOKEN="your_token_here"

2. 浏览器端应用 (WebGPU)

无需安装本地环境，但需确保浏览器启用 WebGPU。

• 直接体验: 访问 Hugging Face Spaces Demo
• 本地运行:

  # 进入对应示例目录，如语音助手
  cd examples/audio-webgpu-demo
  # 通常需要启动一个本地静态服务器
  python -m http.server 8000
  

3. 移动端应用 (Android/iOS)

需安装对应平台的开发工具链及 LEAP Edge SDK。

• Android:
  1. 安装 Android Studio (最新版)。
  2. 打开 Android/LeapChat 或其他示例项目。
  3. 同步 Gradle 依赖（自动拉取 LEAP SDK）。
• iOS:
  1. 安装 Xcode (最新版)。
  2. 打开 iOS/LeapChatExample 等项目。
  3. 通过 Swift Package Manager 集成 LEAP SDK。

4. 微调环境 (Fine-Tuning)

若需进行模型微调，推荐使用 Colab 或本地 GPU 环境，并安装 unsloth 或 trl：

pip install unsloth[colab-new] -i https://pypi.tuna.tsinghua.edu.cn/simple
# 或
pip install trl accelerate peft -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

以下展示两个最典型的使用场景：运行本地 CLI 工具和浏览器端推理。

场景一：运行本地音频转录 CLI

使用 LFM2-Audio-1.5B 模型进行实时语音转文字。

1. 进入示例目录：

   cd examples/audio-transcription-cli
   

2. 运行脚本（首次运行会自动下载模型）：

   python transcribe.py --model LiquidAI/LFM2-Audio-1.5B
   

3. 对着麦克风说话，终端将实时输出转录文本。

场景二：在浏览器中运行工具调用 (Tool Calling)

无需后端服务器，直接在浏览器利用 WebGPU 运行 LFM2。

1. 访问官方 Demo 或本地启动：

   # 假设已克隆 webgpu 示例代码
   cd examples/tool-calling-webgpu
   npm install
   npm run dev
   

2. 打开浏览器访问 http://localhost:xxxx。
3. 在界面中输入指令（例如：“查询今天的天气”），模型将在本地识别意图并调用模拟工具函数。

场景三：开始微调 (SFT)

使用 Unsloth 对模型进行监督微调。

1. 打开微调笔记本书写环境：

   jupyter notebook finetuning/notebooks/sft_with_unsloth.ipynb
   

2. 在 Notebook 中依次执行单元格：
   • 加载预训练模型 (LiquidAI/LFM2-1.2B)。
   • 准备自定义数据集。
   • 配置 LoRA 参数并开始训练。
   • 导出合并后的模型权重。

---

更多高级示例（如车机语音助手、家庭助理、视觉语言模型应用）请参考各子目录下的 README.md 文件。