EchoKit Server

EchoKit Server 是管理 EchoKit 设备 与 AI 服务之间通信的核心组件。它可以本地部署或连接到预设服务器，允许开发者定制 LLM（大语言模型）端点、规划 LLM 提示词、配置语音模型，并集成额外的 AI 功能（如 MCP 服务器）。

您需要一个 EchoKit 设备，或者使用 EchoKit 固件 创建自己的 ESP32 设备。

功能

EchoKit Server 驱动完整的语音-AI 交互循环，使开发者能够轻松运行端到端语音管道，并提供灵活的模型选择和自定义集成。

ASR → LLM → TTS 管道

无缝连接 ASR（自动语音识别） → LLM → TTS（文本转语音） 以实现实时、自然的对话。 每个阶段都可以使用您首选的模型或 API 独立配置。

模型兼容性

• ASR（语音识别）： 适用于任何 OpenAI 兼容 的 API。
• LLM（语言模型）： 连接到任何 OpenAI 规范 端点 — 本地或云端。
• TTS（文本转语音）： 使用任何 OpenAI 规范 语音模型以实现灵活部署。
  • ElevenLabs（流式模式）

端到端模型管道

开箱即用的支持：

• Gemini — Google 的多模态模型
• Qwen Real-Time — 阿里巴巴强大的开源 LLM

开发者定制

• 本地 部署或连接 远程推理服务器
• 定义您自己的 LLM 提示词 和 响应工作流
• 为不同角色或用例配置 语音和声音模型
• 集成 MCP 服务器（模型上下文协议）以扩展功能

设置 EchoKit 服务器

构建

git clone https://github.com/second-state/echokit_server

编辑 config.toml 以定制 VAD（语音活动检测）、ASR、LLM、TTS 服务，以及提示词和 MCP 服务器。您可以 查看许多示例。

cargo build --release

aarch64 (ARM64) 构建注意事项： 当交叉编译为 aarch64 时，所需的 fp16 目标功能会通过 .cargo/config.toml 自动启用。如果在 aarch64 上原生构建，您可能需要设置：

RUSTFLAGS="-C target-feature=+fp16" cargo build --release

配置 AI 服务

config.toml 可以使用开源或专有 AI 服务的任意组合，只要它们提供 OpenAI 兼容 API 端点。以下是为 EchoKit 服务器启动开源 AI 服务的说明。

• ASR: https://llamaedge.com/docs/ai-models/speech-to-text/quick-start-whisper
• LLM: https://llamaedge.com/docs/ai-models/llm/quick-start-llm
• 流式 TTS: https://github.com/second-state/gsv_tts

或者，您可以使用 Google Gemini Live 服务进行 VAD + ASR + LLM，甚至可选地用于 TTS。参见 config.toml 示例。

您还可以 配置 MCP 服务器 以赋予 EchoKit 服务器工具使用能力。

配置语音提示

服务器上的 hello.wav 文件会在设备连接时发送给 EchoKit 设备。这是设备用来告诉用户它已准备好的语音提示。

运行 EchoKit 服务器

export RUST_LOG=debug
nohup target/release/echokit_server &

在网页上测试

前往此处：https://echokit.dev/chat/

点击链接将 index.html 文件保存到您的本地硬盘。

双击本地 index.html 文件并在浏览器中打开它。

在网页中，将 URL 设置为您自己的 EchoKit 服务器地址，然后开始聊天！

配置新设备

前往网页：https://echokit.dev/setup/ 并使用蓝牙连接到 GAIA ESP332 设备。

配置 WiFi 和服务器

• WiFi SSID（例如，MyHome）
• WiFi 密码（例如，MyPassword）
• echokit_server 的 Web Socket 服务器 URL
  • 美国：ws://indie.echokit.dev/ws/
  • 台湾：ws://tw.echokit.dev/ws/
  • 世界其他地区：ws://edge.echokit.dev/ws/

使用设备

聊天： 按一次或多次 K0 按钮，直到状态栏显示 "Ready"。您现在可以说话，它会显示 "Listening ..."。设备在判断您说完话后进行回答。

配置： 按下 RST。在重启时，按住 K0 进入配置模式。然后 打开配置 UI 通过蓝牙连接到设备。

EchoKit Server 快速上手指南

EchoKit Server 是管理 EchoKit 设备与 AI 服务通信的核心组件，支持 ASR → LLM → TTS 全流程语音交互。开发者可本地部署或连接预设服务器，自定义大模型端点与语音策略。

环境准备

• 硬件要求：
  • EchoKit 设备，或刷入了 EchoKit firmware 的 ESP32 设备。
• 软件依赖：
  • Rust (包含 cargo 工具)
  • Git
• 系统支持：Linux / macOS / Windows (aarch64 架构需注意编译参数)

安装步骤

1. 克隆仓库

   git clone https://github.com/second-state/echokit_server
   

2. 配置服务 编辑 config.toml 文件，自定义 VAD、ASR、LLM、TTS 服务及 Prompt。支持 OpenAI 兼容接口、Gemini、Qwen Real-Time 等。

   • 参考示例：examples/
   • 开源 AI 服务搭建参考：LlamaEdge Docs

3. 编译构建

   • 通用构建：

     cargo build --release
     

   • aarch64 (ARM64) 注意：若原生构建，可能需要设置：

     RUSTFLAGS="-C target-feature=+fp16" cargo build --release
     

基本使用

1. 启动服务器

   export RUST_LOG=debug
   nohup target/release/echokit_server &
   

2. 网页测试

   • 访问 https://echokit.dev/chat/ 保存 index.html 到本地。
   • 浏览器打开本地 index.html，设置 URL 为你的服务器地址即可对话。

3. 配置设备

   • 访问 https://echokit.dev/setup/ 通过蓝牙连接设备 (GAIA ESP332)。
   • 配置 WiFi 及服务器 WebSocket 地址（根据网络环境选择）：
     • 台湾：ws://tw.echokit.dev/ws/
     • 全球其他地区：ws://edge.echokit.dev/ws/
     • 美国：ws://indie.echokit.dev/ws/
     • 自建服务器：填写你的 echokit_server 地址。

4. 开始对话

   • 按下设备 K0 按钮直至状态栏显示 "Ready"。
   • 说话后设备会自动识别并回复。
   • 重置配置：按 RST 重启，重启中按住 K0 进入配置模式。