MetisFL

GitHub
521 42 较难 1 次阅读 1个月前NOASSERTION开发框架
AI 解读 由 AI 自动生成,仅供参考

MetisFL 是首个完全开源的联邦学习框架,采用 C++ 与 Python 双语言构建,旨在为分布式机器学习提供可扩展、高效且安全的工作流解决方案。它主要解决了传统联邦学习工具在跨操作系统部署时常见的依赖冲突与环境不一致难题,通过官方推荐的 Docker 容器化方案,确保项目在 CentOS、MacOS 或 Ubuntu 等不同系统上均能稳定运行。

该工具特别适合人工智能研究人员、算法工程师及后端开发者使用,尤其是那些需要在保护数据隐私的前提下,训练大规模分布式模型的团队。MetisFL 的核心技术亮点在于其底层由高性能的 C++ 编写以保证计算效率,同时提供友好的 Python 接口以降低开发门槛,实现了性能与易用性的平衡。此外,项目支持 CUDA 加速,能够充分利用 GPU 资源提升训练速度,并提供了从基础环境配置到复杂集群部署的完整指引。无论是进行学术探索还是构建企业级隐私计算应用,MetisFL 都能提供一个坚实可靠的技术底座,帮助用户轻松搭建安全的联邦学习网络。

使用场景

某跨国医疗集团希望联合多家医院的数据训练癌症预测模型,但受限于患者隐私法规,无法将原始数据集中到云端。

没有 MetisFL 时

  • 开发门槛极高:团队需从零构建联邦学习架构,既要处理复杂的分布式通信逻辑,又要手动协调 Python 算法层与底层高性能计算,研发周期长达数月。
  • 性能瓶颈明显:纯 Python 实现的聚合服务在处理大规模医院节点并发时延迟严重,且难以利用 C++ 优势进行底层加速,导致模型收敛速度缓慢。
  • 环境部署困难:不同医院的服务器操作系统(如 CentOS、macOS)依赖库版本冲突频发,缺乏统一的容器化方案,现场调试和运维成本巨大。
  • 安全合规风险:自研框架缺乏经过验证的安全加密机制,难以向监管机构证明数据在传输和聚合过程中的绝对隐私性。

使用 MetisFL 后

  • 开箱即用的高效架构:直接采用全球首个开源的 C++ 与 Python 混合实现框架,无需重复造轮子,团队在一周内即可搭建起可扩展的联邦学习工作流。
  • 极致性能释放:利用 MetisFL 底层的 C++ 核心处理高并发聚合任务,结合 Docker 容器化部署,显著降低了通信延迟,模型训练效率提升数倍。
  • 统一的环境交付:通过官方提供的预配置 Docker 镜像(支持 Ubuntu/RockyLinux 及 CUDA),屏蔽了底层系统差异,实现了在各医院节点上的“一次构建,到处运行”。
  • 内建安全可信:依托框架原生的安全设计,天然满足隐私保护要求,轻松通过集团内部及外部监管的合规审计。

MetisFL 通过高性能的混合语言架构与标准化的容器交付,让跨机构隐私计算从“艰难自研”变为“高效落地”。

运行环境要求

操作系统
  • Linux
  • macOS
GPU
  • 非必需
  • 若需使用,支持 NVIDIA GPU,需安装 nvidia-docker,CUDA 版本支持 11.7 (Ubuntu) 或 11.3 (RockyLinux)
内存

未说明 (Docker 镜像大小约 9GB-12GB)

依赖
notes官方强烈建议使用 Docker 容器运行以避免跨操作系统库不一致问题。提供 Ubuntu (稳定)、RockyLinux (不稳定) 及对应的 CUDA 镜像。无 Docker 环境下需手动安装 googletest 和 protobuf 并运行配置脚本。若使用 CLion 开发,需同步 Bazel 构建文件。
python3.8, 3.9, 3.10
docker
googletest
protobuf
bazel
nvidia-docker (GPU 模式)
MetisFL hero image

快速开始

 

MetisFL:面向可扩展、高效且安全的联邦学习工作流的开源联邦学习框架

MetisFL——首个以 C++ 和 Python3 实现的开源联邦学习框架。

BSD-3 许可证 PyPI - Python 版本

引用

 

项目安装步骤 - Docker

由于在不同操作系统(例如 CentOS 与 macOS)之间出现了一些库的不兼容问题,我们决定构建一个 Docker 镜像,并在整个容器中运行该项目。Dockerfile 中包含了所有必要的步骤。

系统先决条件:

  1. Python
  2. Docker

要通过 Docker 编译并运行该项目,请导航到项目的父目录,然后执行以下操作:

  1. 运行 chmod +x ./configure.sh && ./configure.sh 来配置 MetisFL 项目。

    注意:我们在构建 Docker 镜像之前运行上述命令,是为了正确配置项目的所有依赖项。

  2. 构建整个项目的 Docker 镜像。

    • Ubuntu 镜像(稳定,推荐使用):docker build -t projectmetis_ubuntu_22_04 -f DockerfileUbuntu .
    • Ubuntu 开发镜像(用于开发目的):docker build -t projectmetis_dev -f DockerfileDev .
    • RockyLinux 镜像(不稳定):docker build -t projectmetis_rockylinux_8 -f DockerfileRockyLinux . 以上任一镜像的大致大小(使用 Docker):不含 CUDA 约 9GB,含 CUDA 约 12GB。
  3. 构建 Docker CUDA 镜像(仅适用于 Ubuntu 和 RockyLinux 镜像)。

    • Ubuntu + CUDA:cd docker_images/cuda/ubuntu/11.7 && docker build -t projectmetis_ubuntu_22_04_cuda -f Dockerfile .
    • RockyLinux + CUDA:cd docker_images/cuda/rockylinux/11.3 && docker build -t projectmetis_rockylinux_8_cuda -f Dockerfile .
    • 验证 Docker CUDA 驱动是否已正确安装:nvidia-docker run --rm --gpus all projectmetis_ubuntu_22_04_cuda nvidia-smi

独立(无 Docker)先决条件

  • 安装 googletest(macOS 上使用 brew install googletest
  • 安装 protobuf(macOS 上使用 brew install protobuf
  • 运行 ./configure 脚本

Bazel CLion 相关说明

如果项目文件无法被识别,则需要同步 Bazel。操作步骤如下:

  1. 选择上方的 Bazel 选项卡
  2. 选择 Sync 子选项卡
  3. 然后点击“Sync Project with BUILD Files”

Trello UI

https://trello.com/b/bYLUYqGK/metis-v01

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|5天前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|6天前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

150.7k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

108.3k|★★☆☆☆|昨天
开发框架图像Agent

gemini-cli

gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。

100.8k|★★☆☆☆|2天前
插件Agent图像

markitdown

MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器

93.4k|★★☆☆☆|5天前
插件开发框架