ccflare

GitHub
935 97 简单 1 次阅读 今天MIT插件
AI 解读 由 AI 自动生成,仅供参考

ccflare 是一款专为 Claude API 设计的开源代理工具,旨在帮助开发者彻底摆脱速率限制(Rate Limit)的困扰。它通过智能负载均衡技术,自动将请求分发到多个不同的 API 账户中,确保在高并发场景下也能稳定运行,不再因触发限流而中断服务。

除了核心的代理功能,ccflare 还提供了极高的透明度。它能实时追踪每一个请求的延迟、Token 消耗及成本估算,并记录完整的请求与响应日志,方便用户进行深度调试和性能分析。其独特的技术亮点在于极低的性能损耗(开销小于 10 毫秒),同时支持基于会话的上下文保持,确保多轮对话的连贯性。此外,它还具备自动故障转移、OAuth 令牌刷新等生产级特性,并配有交互式终端界面(TUI)和 Web 仪表盘,让监控和管理变得直观简单。

这款工具非常适合需要高频调用 Claude API 的软件开发人员、AI 应用构建者以及研究人员使用。无论是正在开发大型语言模型应用,还是需要批量处理数据的团队,ccflare 都能让你完全掌控自己的基础设施,以免费、开源且高效的方式提升开发效率。

使用场景

某初创团队正在开发一款基于 Claude API 的自动化代码审查助手,需在高并发场景下处理大量开发者的提交请求。

没有 ccflare 时

  • 频繁触发限流:单个 API Key 在早晚高峰极易触达速率限制,导致服务中断,用户收到"429 Too Many Requests"错误。
  • 黑盒运行状态:无法实时监控每个请求的 Token 消耗和响应延迟,出现异常时只能盲目猜测是网络问题还是配额耗尽。
  • 上下文断裂风险:简单的重试机制难以维持长对话的会话一致性,导致代码审查逻辑在多次请求间丢失上下文。
  • 成本不可控:缺乏细粒度的账单分析,难以预估多账号并行下的实际运营成本,预算经常超支。

使用 ccflare 后

  • 零限流体验:ccflare 智能地将流量动态分发到多个备用账号池,自动规避单点限流,保障服务 7x24 小时稳定运行。
  • 全链路可观测:通过实时仪表盘清晰追踪每次请求的延迟、Token 用量及错误堆栈,快速定位性能瓶颈。
  • 会话智能保持:利用基于会话的负载均衡策略,确保同一用户的连续对话始终路由至同一账号,完美保留审查上下文。
  • 精细化成本管控:实时统计各账号的 Token 消耗与估算成本,帮助团队精准制定预算并优化资源分配。

ccflare 通过智能负载均衡与深度可观测性,将不稳定的单一 API 调用转化为高可用、低成本的企业级生产服务。

运行环境要求

操作系统
  • 未说明
GPU

不需要 GPU

内存

未说明

依赖
notes该工具是一个 Claude API 代理,不依赖本地大模型运行,因此无需 GPU。核心运行环境为 Bun (JavaScript/TypeScript 运行时),版本需 >= 1.2.8。需要配置至少一个 Claude API 账户(免费、专业或团队版均可)。数据持久化使用 SQLite 数据库。
python不需要 Python (基于 Bun 运行时)
Bun >= 1.2.8
ccflare hero image

快速开始

ccflare 🛡️

跟踪每一次请求。深入底层。再也不用担心速率限制了。

终极 Claude API 代理,可在多个账户之间实现智能负载均衡。全面掌握每一次请求、响应和速率限制情况。

https://github.com/user-attachments/assets/c859872f-ca5e-4f8b-b6a0-7cc7461fe62a

ccflare 控制面板

为什么选择 ccflare?

  • 🚀 零速率限制错误 - 自动将请求分配到多个账户
  • 📊 请求级分析 - 实时跟踪延迟、令牌使用量和成本
  • 🔍 深度调试 - 完整的请求/响应日志记录和错误追踪
  • ⚡ <10ms 开销 - 对您的 API 调用性能影响极小
  • 💸 免费且开源 - 您可以自行运行、修改,并完全掌控自己的基础设施

快速开始

# 克隆并安装
git clone https://github.com/snipeship/ccflare
cd ccflare
bun install

# 启动 ccflare(TUI + 服务器)
bun run ccflare

# 配置 Claude SDK
export ANTHROPIC_BASE_URL=http://localhost:8080

功能特性

🎯 智能负载均衡

  • 基于会话 - 维持对话上下文(5 小时会话)

📈 实时分析

  • 按请求跟踪令牌使用量
  • 监控响应时间
  • 检测并警告速率限制
  • 成本估算与预算管理

🛠️ 开发者工具

  • 交互式 TUI (bun run ccflare)
  • Web 控制面板 (http://localhost:8080/dashboard)
  • 用于账户管理的 CLI
  • 用于自动化的 REST API

🔒 生产就绪

  • 账户之间的自动故障转移
  • OAuth 令牌刷新处理
  • SQLite 数据库用于持久化
  • 可配置的重试逻辑

文档

完整文档位于 docs/

截图

控制面板 日志
实时控制面板 请求日志
分析
分析与使用跟踪

系统要求

  • Bun >= 1.2.8
  • Claude API 账户(免费版、专业版或团队版)

贡献

我们欢迎任何贡献!请参阅 CONTRIBUTING.md 获取相关指南。

许可证

MIT - 详情请参阅 LICENSE


专为持续交付的开发者打造 ❤️

在 Awesome Claude Code 中被提及

在 Awesome Claude Code 中被提及

常见问题

相似工具推荐

ML-For-Beginners

ML-For-Beginners 是由微软推出的一套系统化机器学习入门课程,旨在帮助零基础用户轻松掌握经典机器学习知识。这套课程将学习路径规划为 12 周,包含 26 节精炼课程和 52 道配套测验,内容涵盖从基础概念到实际应用的完整流程,有效解决了初学者面对庞大知识体系时无从下手、缺乏结构化指导的痛点。 无论是希望转型的开发者、需要补充算法背景的研究人员,还是对人工智能充满好奇的普通爱好者,都能从中受益。课程不仅提供了清晰的理论讲解,还强调动手实践,让用户在循序渐进中建立扎实的技能基础。其独特的亮点在于强大的多语言支持,通过自动化机制提供了包括简体中文在内的 50 多种语言版本,极大地降低了全球不同背景用户的学习门槛。此外,项目采用开源协作模式,社区活跃且内容持续更新,确保学习者能获取前沿且准确的技术资讯。如果你正寻找一条清晰、友好且专业的机器学习入门之路,ML-For-Beginners 将是理想的起点。

85k|★★☆☆☆|昨天
图像数据工具视频

OpenHands

OpenHands 是一个专注于 AI 驱动开发的开源平台,旨在让智能体(Agent)像人类开发者一样理解、编写和调试代码。它解决了传统编程中重复性劳动多、环境配置复杂以及人机协作效率低等痛点,通过自动化流程显著提升开发速度。 无论是希望提升编码效率的软件工程师、探索智能体技术的研究人员,还是需要快速原型验证的技术团队,都能从中受益。OpenHands 提供了灵活多样的使用方式:既可以通过命令行(CLI)或本地图形界面在个人电脑上轻松上手,体验类似 Devin 的流畅交互;也能利用其强大的 Python SDK 自定义智能体逻辑,甚至在云端大规模部署上千个智能体并行工作。 其核心技术亮点在于模块化的软件智能体 SDK,这不仅构成了平台的引擎,还支持高度可组合的开发模式。此外,OpenHands 在 SWE-bench 基准测试中取得了 77.6% 的优异成绩,证明了其解决真实世界软件工程问题的能力。平台还具备完善的企业级功能,支持与 Slack、Jira 等工具集成,并提供细粒度的权限管理,适合从个人开发者到大型企业的各类用户场景。

70.6k|★★★☆☆|今天
语言模型Agent开发框架

gpt4free

gpt4free 是一个由社区驱动的开源项目,旨在聚合多种可访问的大型语言模型(LLM)和媒体生成接口,让用户能更灵活、便捷地使用前沿 AI 能力。它解决了直接调用各类模型时面临的接口分散、门槛高或成本昂贵等痛点,通过统一的标准将不同提供商的资源整合在一起。 无论是希望快速集成 AI 功能的开发者、需要多模型对比测试的研究人员,还是想免费体验最新技术的普通用户,都能从中受益。gpt4free 提供了丰富的使用方式:既包含易于上手的 Python 和 JavaScript 客户端库,也支持部署本地图形界面(GUI),更提供了兼容 OpenAI 标准的 REST API,方便无缝替换现有应用后端。 其技术亮点在于强大的多提供商支持架构,能够动态调度包括 Opus、Gemini、DeepSeek 等多种主流模型资源,并支持 Docker 一键部署及本地推理。项目秉持社区优先原则,在降低使用门槛的同时,也为贡献者提供了扩展新接口的便利框架,是探索和利用多样化 AI 资源的实用工具。

66k|★★☆☆☆|2天前
插件语言模型Agent

gstack

gstack 是 Y Combinator CEO Garry Tan 亲自开源的一套 AI 工程化配置,旨在将 Claude Code 升级为你的虚拟工程团队。面对单人开发难以兼顾产品战略、架构设计、代码审查及质量测试的挑战,gstack 提供了一套标准化解决方案,帮助开发者实现堪比二十人团队的高效产出。 这套配置特别适合希望提升交付效率的创始人、技术负责人,以及初次尝试 Claude Code 的开发者。gstack 的核心亮点在于内置了 15 个具有明确职责的 AI 角色工具,涵盖 CEO、设计师、工程经理、QA 等职能。用户只需通过简单的斜杠命令(如 `/review` 进行代码审查、`/qa` 执行测试、`/plan-ceo-review` 规划功能),即可自动化处理从需求分析到部署上线的全链路任务。 所有操作基于 Markdown 和斜杠命令,无需复杂配置,完全免费且遵循 MIT 协议。gstack 不仅是一套工具集,更是一种现代化的软件工厂实践,让单人开发者也能拥有严谨的工程流程。

64.6k|★★☆☆☆|今天
Agent插件

meilisearch

Meilisearch 是一个开源的极速搜索服务,专为现代应用和网站打造,开箱即用。它能帮助开发者快速集成高质量的搜索功能,无需复杂的配置或额外的数据预处理。传统搜索方案往往需要大量调优才能实现准确结果,而 Meilisearch 内置了拼写容错、同义词识别、即时响应等实用特性,并支持 AI 驱动的混合搜索(结合关键词与语义理解),显著提升用户查找信息的体验。 Meilisearch 特别适合 Web 开发者、产品团队或初创公司使用,尤其适用于需要快速上线搜索功能的场景,如电商网站、内容平台或 SaaS 应用。它提供简洁的 RESTful API 和多种语言 SDK,部署简单,资源占用低,本地开发或生产环境均可轻松运行。对于希望在不依赖大型云服务的前提下,为用户提供流畅、智能搜索体验的团队来说,Meilisearch 是一个高效且友好的选择。

57k|★★☆☆☆|今天
图像Agent数据工具

awesome-claude-skills

awesome-claude-skills 是一个精心整理的开源资源库,旨在帮助用户挖掘和扩展 Claude AI 的潜力。它不仅仅是一份列表,更提供了实用的“技能(Skills)”模块,让 Claude 从单纯的文本生成助手,进化为能执行复杂工作流的智能代理。 许多用户在使用 AI 时,常受限于其无法直接操作外部软件或处理特定格式文件的痛点。awesome-claude-skills 通过预设的工作流解决了这一问题:它不仅能教会 Claude 专业地处理 Word、PDF 等文档,进行代码开发与数据分析,还能借助 Composio 插件连接 Slack、邮箱及数百种常用应用,实现发送邮件、创建任务等自动化操作。这使得重复性任务变得标准化且可复用,极大提升了工作效率。 无论是希望优化日常办公流程的普通用户、需要处理复杂文档的研究人员,还是寻求将 AI 深度集成到开发管线中的开发者,都能从中找到适合的解决方案。其独特的技术亮点在于“技能”的可定制性与强大的应用连接能力,让用户无需编写复杂代码,即可通过简单的配置让 Claude 具备跨平台执行真实任务的能力。如果你希望让 Claude

51.3k|★★☆☆☆|今天
Agent插件