AlphaAvatar

GitHub
566 22 中等 1 次阅读 3天前Apache-2.0插件图像语言模型音频开发框架Agent其他
AI 解读 由 AI 自动生成,仅供参考

AlphaAvatar 是一个可本地部署的「全能数字分身」框架,把实时 3D 形象、语音对话、长期记忆、任务规划、外部工具调用等功能打包成一套插件系统。它解决的是传统聊天机器人“用完即走、记不住事”的痛点,让 AI 真正成为长期陪伴、主动提醒、替你执行任务的私人管家。

适合三类人:
• 开发者——想快速拼装属于自己的虚拟助手或游戏 NPC;
• 研究人员——需要可控环境做多模态记忆、自主规划实验;
• 注重隐私的普通用户——希望把健康、笔记、日程等数据留在本地,却仍享受智能助理的便利。

亮点:完全开源、插件即插即用;支持 LiveKit 实时音视频;记忆模块跨文本、图像、声音统一存储;可调用 MCP、RAG、DeepResearch 等外部工具,实现“自己上网查资料、写总结、发邮件”。

使用场景

背景:独立开发者林可正在做一款面向自由职业者的「时间-健康-收入」一体化管理 SaaS,需要快速上线一个 24×7 的 AI 健康教练,既能实时语音互动,又能记住用户长期数据并给出个性化建议。

没有 AlphaAvatar 时

  • 数据孤岛:健康、日程、收入分别存在 Notion、Google Fit、Stripe,每次查询都要手动切换,无法交叉分析。
  • 实时性差:用传统 WebSocket 做语音对话,延迟 2-3 秒,用户说“我今天跑了 5 公里”后,系统 5 秒才回“很好”,体验尴尬。
  • 记忆断档:用户上周提到“膝盖旧伤”,今天再问训练计划,系统完全忘了,只能重复提问。
  • 开发周期长:为了集成 3D Avatar、语音合成、RAG 检索,需要分别对接 LiveKit、ElevenLabs、LlamaIndex,排期至少 6 周。
  • 隐私顾虑:用户担心健康数据上云,团队被迫自建加密存储,额外增加 2 人月运维成本。

使用 AlphaAvatar 后

  • 一站式数据管道:AlphaAvatar 的 MCP 插件把 Notion、Google Fit、Stripe 拉通,自动聚合为「健康-时间-收入」统一视图,实时生成洞察。
  • 毫秒级语音互动:基于 LiveKit 的 Omni Avatar,端到端延迟 <300 ms,用户边跑边说“心率 160 正常吗?”Avatar 立即语音回复并同步弹出 3D 表情鼓励。
  • 长期记忆连续:AlphaAvatar 把“膝盖旧伤”写进本地向量记忆,后续每次生成训练计划都自动降低跳跃类动作权重,用户直呼“比私教还懂我”。
  • 3 天上线:直接复用 AlphaAvatar 的插件市场,勾选「健康教练」模板,再替换自有 3D 模型,核心功能 72 小时跑通,省下 5 周开发时间。
  • 完全本地部署:Docker 一键拉起,所有数据留在用户 NAS,GDPR 合规审计一次通过,运维成本归零。

一句话总结:AlphaAvatar 让独立团队在 3 天内交付一个会听、会记、会思考、还能本地部署的 24×7 健康教练,把 6 周开发周期压缩到 72 小时,同时把用户隐私牢牢锁在本地。

运行环境要求

操作系统
  • Linux
  • macOS
GPU

未说明

内存

未说明

依赖
notes需先安装 uv 并创建 Python 3.11 虚拟环境;首次运行需执行 alphaavatar download-files 下载所需文件;支持通过 LiveKit 提供公网语音/视频接入;支持 WhatsApp、WeChat、Slack 等多通道接入;插件体系仍在快速迭代,部分功能处于 In Progress 状态
python3.11
alpha-avatar-agents
uv
livekit
AlphaAvatar hero image

快速开始

The AvatarAlpha icon, the name of the repository.

欢迎PR GitHub最新提交 许可证

GitHub关注者 GitHub分支 GitHub星标

面向所有人的可学习、可配置、可插拔的全能个人助理

路线图 | 演示 | 首页 | 文档


AlphaAvatar简介

AlphaAvatar是一个全能型Avatar个人助理框架,旨在逐步进化为你智能的私人管家

完全自托管且以隐私为先 —— 你可以将AlphaAvatar部署在本地或自己的基础设施上,全面掌控你的数据、记忆与行为。

它基于插件式Agent架构构建,融合了以下核心能力:

  • 🧠 全模态记忆
  • 🧬 动态人格理解
  • 💡 自我提升的反思
  • 📅 长期规划与执行
  • 🧰 外部工具集成(MCP / RAG / DeepResearch)
  • 😊 实时虚拟角色(Avatar)

这些组件共同使AlphaAvatar超越传统聊天机器人,成为一套持续、个性化且主动的助理系统

🎯 愿景

我们的目标是打造一款能够持续学习、记忆并代表用户采取行动的AI,真正扮演个人生活管理者的角色,而非被动的响应者。

🧩 AlphaAvatar能做什么?

通过内部Agent插件与外部工具的结合,AlphaAvatar可以实现以下功能:

1️⃣ 个人数据与生活指标管理

  • 📊 跟踪并分析个人指标(健康、健身、睡眠、学习进度)
  • 📈 提供长期洞察与趋势分析
  • 🎯 根据历史模式提出改进建议

2️⃣ 知识与笔记管理

  • 📖 整理个人笔记、文档与知识
  • 🔍 通过RAG检索相关信息
  • 🧠 随着时间积累构建个人知识库

3️⃣ 任务与事件管理

  • 📅 安排任务与提醒
  • ⏰ 根据情境与优先级主动通知
  • 🔄 将长期目标分解为可执行步骤

4️⃣ 自主规划与执行

  • 🧠 规划多步骤工作流(学习计划、项目、研究)
  • 🔧 自动调用工具完成任务
  • 📌 在长时间跨度内保持一致性

5️⃣ 个性化陪伴与上下文感知

  • 🧬 理解用户的偏好、习惯与个性
  • 💬 提供高度个性化的回复
  • 🤝 在不同对话与模态间保持连续性

6️⃣ 对外部世界的交互

  • 🌐 搜索、研究并总结现实世界信息
  • 🧰 与各类工具集成(邮件、数据库、API、消息应用)
  • 🔗 作为连接用户意图与外部系统的桥梁

🤖 为什么选择 AlphaAvatar?

与传统 AI 助手不同,AlphaAvatar 具有以下特点:

  • 有状态 → 能够记住并与您共同成长
  • 主动 → 不仅响应,更能主动行动
  • 可组合 → 完全基于插件的架构
  • 多模态 → 支持文本、语音和视觉交互
  • 可扩展 → 轻松集成新工具与新能力

💡 AlphaAvatar 不仅仅是一个助手——
它是您的长期 AI 伙伴与个人操作系统


AlphaAvatar 插件

🧠 记忆

用于 Omni-Avatar 的自我提升记忆模块。

README↗

🧬 人格

自动提取并实时匹配用户全模态人格。

README↗

💡 反思

Planned

用于 Omni-Avatar 的优化器,能够自动构建 Avatar 的内部知识库。

README↗

📅 计划

Planned

Agent 需要进行更长时间跨度的规划,以确保其行为具有连贯性和可靠性。

README↗

🤖 行为

Planned

控制 AlphaAvatar 的行为逻辑与流程。

README↗

😊 虚拟角色

在交互过程中实时生成的、用于视觉呈现 Avatar 的虚拟角色

README↗


工具插件

🔍 深度研究

允许 AlphaAvatar 访问网络,并通过独立的 Agent 服务执行单步或多步推理,以搜索更精准的内容。

README↗

📖 RAG

允许 AlphaAvatar 访问 文档/技能(用户上传、由反思模块生成或通过 URL 访问),以获取与文档相关的信息。

README↗

🧰 MCP

允许 AlphaAvatar 访问现实世界的外部工具,例如数据库、电子邮件、社交媒体等。

README↗

🌍 沙盒

Planned

为 AlphaAvatar 提供沙盒环境,使其能够与外部世界或其他 agent互动,从而实现多 agent 交互与探索。

README↗


文档与指南

最新动态 🔥

  • [2026/03] 我们发布了 AlphaAvatar 版本 0.5.0,支持 MCP 插件,该插件可实现对 MCP 工具的检索与并发调用。
    • 发布了 AlphaAvatar 版本 0.5.1:新增了 WhatsApp 渠道支持,通过 Baileys 驱动程序连接到 AlphaAvatar Agent,实现 WhatsApp 集成。
    • 发布了 AlphaAvatar 版本 0.5.2:新增 AlphaAvatar Voice 插件,支持 Voice.ai TTS API,提供更丰富的说话人选项。
  • [2026/02] 我们发布了 AlphaAvatar 版本 0.4.0,支持由 RAG-Anything 库提供的 RAG,并优化了记忆与深度研究模块。
    • 发布了 AlphaAvatar 版本 0.4.1:修复了人格插件的 bug,并新增了 MCP 插件。
  • [2026/01] 我们发布了 AlphaAvatar 版本 0.3.0,支持由 tavily API 提供的深度研究。
    • 发布了 AlphaAvatar 版本 0.3.1:在记忆模块中新增了用户与助手交互时的工具调用功能。
  • [2025/12] 我们发布了 AlphaAvatar 版本 0.2.0,支持基于 AIRI live2d 的虚拟角色展示。
  • [2025/11] 我们发布了 AlphaAvatar 版本 0.1.0,支持自动记忆提取、自动用户人格提取与匹配。

安装 ⚙️

从 PyPI 安装 稳定版 AlphaAvatar:

uv venv .my-env --python 3.11
source .my-env/bin/activate
pip install alpha-avatar-agents

从 GitHub 安装 最新版 AlphaAvatar:

git clone --recurse-submodules https://github.com/AlphaAvatar/AlphaAvatar.git
cd AlphaAvatar

uv venv .venv --python 3.11
source .venv/bin/activate
uv sync --all-packages

快速入门 ⚡️

以开发模式启动您的 agent,将其连接到 LiveKit,并使其可在互联网上的任何地方使用。


🧩 第一步:配置环境变量

cd AlphaAvatar

# 复制模板
cp .env.template .env.dev

编辑 .env.dev 并设置所需的环境变量。

📦 第二步:下载所需文件

alphaavatar download-files

✅ 第三步:运行 agent

ENV_FILE=.env.dev alphaavatar dev examples/agent_configs/pipeline_openai_airi.yaml

# 或
ENV_FILE=.env.dev alphaavatar dev examples/agent_configs/pipeline_openai_tools.yaml

要查看更多支持的模式,请参阅 LiveKit 文档

要查看更多示例,请参阅 示例自述文件

使用方法 🚀

AlphaAvatar 支持多种接入渠道,使不同类型的用户——从终端用户到开发者——都能与系统进行交互。


🧠 运行时架构

            AlphaAvatar 运行时
            ───────────────────

    ┌──────────────────────────────┐
    │        代理会话          │
    │        虚拟形象引擎          │
    │   (LLM / 内存 / RAG / MCP) │
    └──────────────┬───────────────┘
                   │
            输入分发器
                   │
            输入信封
                   │
    ┌──────────────┴───────────────┐
    │                              │
通道适配器                原生输入
(入口层)                (Web / 应用)
    │                              │
    ▼                              ▼
WhatsApp / 微信 / Slack      音频 / 文本 / 视频
    │                              │
    └──────────────┬───────────────┘
                   ▼
           输出分发器
                   │
    ┌──────────────┴───────────────┐
    │                              │
通道出口                  原生输出
(消息API)                (WebRTC / 界面)

💡 AlphaAvatar 采用通道适配器架构,将运行时逻辑与通信渠道解耦。


🌐 Web 访问

🖥️ 基于浏览器的实时交互界面。 这将成为 AlphaAvatar 的官方用户界面。

  • 🎙️ 实时语音与多模态通信
  • 🧠 完整插件支持(内存 / RAG / MCP 等)
  • 😊 虚拟角色展示

💬 社交与消息平台

直接在消息平台上与 AlphaAvatar 互动。

功能:

  • 💬 文本对话
  • 🎤 语音消息交互
  • 🧰 通过聊天界面调用工具

WhatsApp

📦 渠道介绍:自述文件

▶️ 启动 WhatsApp 渠道

确保 AlphaAvatar 代理已运行(参见上方的快速入门)。

ENV_FILE=.env.dev sh examples/channels/start_whatsapp.sh

💡 WhatsApp 渠道以独立桥接进程运行,并连接到代理运行时。

微信

Slack


📲 原生移动应用

一款专门的 AlphaAvatar 移动应用程序,提供:

  • 🎙️ 实时语音通信
  • 😊 Live2D / 虚拟角色可视化
  • 🧠 持久化内存与人格设定

🧪 开发者游乐场(现已可用)

这是目前 AlphaAvatar 的主要接入渠道。

开发者可通过 LiveKit 游乐场 立即访问 AlphaAvatar。

👉 https://agents-playground.livekit.io/

启动 AlphaAvatar 服务器后:

  1. 连接到您的 LiveKit 实例
  2. 在游乐场中配置代理名称(必须与 avatar_name 匹配,默认为 Assistant),以启用显式分发。
  3. 连接到代理房间
  4. 开始测试实时交互

支持的功能:

  • 🎙️ 语音交互
  • 🧠 内存提取
  • 🔍 RAG 检索
  • 🧩 MCP 工具调用
  • 😊 虚拟角色展示

playground airi 截图


💡 AlphaAvatar 目前以开发者为先。 Web 和移动体验正在积极开发中。

版本历史

v0.5.22026/03/29
v0.5.12026/03/21
v0.5.02026/02/21
v0.4.12026/02/08
v0.4.02026/02/01
v0.3.12026/01/04
v0.3.02025/12/31
v0.2.02025/12/06
v0.1.02025/11/13

相似工具推荐

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|今天
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

139k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

107.7k|★★☆☆☆|2天前
开发框架图像Agent

NextChat

NextChat 是一款轻量且极速的 AI 助手,旨在为用户提供流畅、跨平台的大模型交互体验。它完美解决了用户在多设备间切换时难以保持对话连续性,以及面对众多 AI 模型不知如何统一管理的痛点。无论是日常办公、学习辅助还是创意激发,NextChat 都能让用户随时随地通过网页、iOS、Android、Windows、MacOS 或 Linux 端无缝接入智能服务。 这款工具非常适合普通用户、学生、职场人士以及需要私有化部署的企业团队使用。对于开发者而言,它也提供了便捷的自托管方案,支持一键部署到 Vercel 或 Zeabur 等平台。 NextChat 的核心亮点在于其广泛的模型兼容性,原生支持 Claude、DeepSeek、GPT-4 及 Gemini Pro 等主流大模型,让用户在一个界面即可自由切换不同 AI 能力。此外,它还率先支持 MCP(Model Context Protocol)协议,增强了上下文处理能力。针对企业用户,NextChat 提供专业版解决方案,具备品牌定制、细粒度权限控制、内部知识库整合及安全审计等功能,满足公司对数据隐私和个性化管理的高标准要求。

87.6k|★★☆☆☆|今天
开发框架语言模型

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。

85k|★★☆☆☆|今天
图像数据工具视频

ragflow

RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,旨在为大语言模型构建更精准、可靠的上下文层。它巧妙地将前沿的 RAG 技术与智能体(Agent)能力相结合,不仅支持从各类文档中高效提取知识,还能让模型基于这些知识进行逻辑推理和任务执行。 在大模型应用中,幻觉问题和知识滞后是常见痛点。RAGFlow 通过深度解析复杂文档结构(如表格、图表及混合排版),显著提升了信息检索的准确度,从而有效减少模型“胡编乱造”的现象,确保回答既有据可依又具备时效性。其内置的智能体机制更进一步,使系统不仅能回答问题,还能自主规划步骤解决复杂问题。 这款工具特别适合开发者、企业技术团队以及 AI 研究人员使用。无论是希望快速搭建私有知识库问答系统,还是致力于探索大模型在垂直领域落地的创新者,都能从中受益。RAGFlow 提供了可视化的工作流编排界面和灵活的 API 接口,既降低了非算法背景用户的上手门槛,也满足了专业开发者对系统深度定制的需求。作为基于 Apache 2.0 协议开源的项目,它正成为连接通用大模型与行业专有知识之间的重要桥梁。

77.1k|★★★☆☆|昨天
Agent图像开发框架