openpcc

GitHub
928 31 较难 1 次阅读 1周前Apache-2.0开发框架
AI 解读 由 AI 自动生成,仅供参考

OpenPCC 是一个开源框架,旨在实现可验证的私有 AI 推理。它灵感源自苹果的私有云计算架构,但完全开放、可审计,并允许用户在自己的基础设施上部署。

在 AI 应用日益普及的今天,用户往往担心提示词、输出结果及日志数据泄露给服务提供商。OpenPCC 正是为了解决这一隐私痛点而生,它确保任何人运行开源或自定义模型时,无需向计算提供方暴露敏感信息。

该工具特别适合注重数据安全的开发者、研究人员以及需要自建私有 AI 服务的企业团队。通过 OpenPCC,技术团队可以在不信任的基础设施上安全地运行模型,同时满足合规性要求。

其核心技术亮点包括:采用“不经意 HTTP"(OHTTP)中继技术,切断请求与用户身份的关联;利用硬件远程证明(Hardware Attestation)验证计算环境的真实性;以及通过加密流传输确保数据在处理过程中始终处于密文状态。此外,OpenPCC 致力于成为社区治理的透明标准,目前提供了 Go 语言客户端及基于 C 库的 Python 和 JavaScript 接口,方便开发者快速集成与测试。

使用场景

某医疗科技公司需要将包含患者敏感病史的文本上传至云端大模型进行辅助诊断分析,但必须严格防止数据泄露。

没有 openpcc 时

  • 数据裸奔风险:患者的姓名、病史等提示词(Prompt)以明文形式传输给云服务商,存在被运营商记录或内部人员窥探的风险。
  • 审计黑盒:无法从技术上验证服务商是否真的删除了日志,只能依赖对方的商业承诺和法律条款,缺乏可验证性。
  • 请求关联追踪:攻击者或恶意管理员可能通过流量特征将多次查询关联到同一位患者,从而推断出完整的诊疗轨迹。
  • 部署受限:由于隐私顾虑,公司被迫放弃性能更强的云端模型,只能使用本地部署的低算力模型,导致诊断准确率下降。

使用 openpcc 后

  • 端到端加密流:利用混淆 HTTP(OHTTP)和加密流技术,确保提示词、生成结果及中间日志在传输和处理全程对计算节点不可见。
  • 硬件级可信验证:通过硬件证明(Hardware Attestation)和透明度策略,客户端可密码学验证代码运行环境未被篡改,实现“零信任”审计。
  • 请求完全 unlinkable:架构设计确保每次推理请求都无法被关联到特定用户身份,彻底切断基于行为模式的追踪路径。
  • 安全享用云端算力:在无需自建昂贵基础设施的前提下,安全地调用云端高性能开源模型,兼顾了数据隐私与诊断精度。

openpcc 通过密码学证明和透明架构,让机构能在不暴露任何原始数据的前提下,放心地使用强大的云端 AI 推理能力。

运行环境要求

操作系统
  • 未说明
GPU

未说明

内存

未说明

依赖
notes该项目核心是一个用 Go 编写的客户端框架及 C 库,用于实现可证明的私有 AI 推理。它本身不包含模型推理引擎,而是作为客户端连接到外部的 'OpenPCC Compute Node'(计算节点,代码在另一个仓库中)。运行开发测试需要安装 Go 语言和 Mage 构建工具。网络架构上依赖 OHTTP (Oblivious HTTP) 中继和网关来保护隐私。README 未提供具体的操作系统、GPU、内存或 Python 版本限制,因为这些通常取决于所连接的后端计算节点而非此客户端库本身。
python未说明 (主要基于 Go 和 C 库,Python 为衍生客户端)
Go (语言环境)
Mage (构建工具)
OHTTP Gateway/Relay (网络组件)
openpcc hero image

快速开始

OpenPCC

OpenPCC 是一个开源框架,用于实现可证明隐私的 AI 推理。它受到 Apple 的 Private Cloud Compute 启发,但完全开放、可审计,并且可以在您自己的基础设施上部署。OpenPCC 允许任何人运行公开或自定义的 AI 模型,而无需暴露提示、输出或日志——通过加密流式传输、硬件认证和不可关联的请求来强制实施隐私保护。

OpenPCC 旨在成为 AI 数据隐私领域的一个透明、社区治理的标准。

阅读 OpenPCC 白皮书:https://github.com/openpcc/openpcc/blob/main/whitepaper/openpcc.pdf

托管服务

Confident Security 正在基于 OpenPCC 标准构建一项完全托管的服务,名为 CONFSEC。如需了解更多信息并注册,请访问 https://confident.security。

OpenPCC 客户端

此仓库包含符合 OpenPCC 标准的 Go 客户端代码,以及作为 Python 和 JavaScript 客户端基础的 C 库。此外,还包含若干内存中服务,可用于测试客户端功能。

无感知 HTTP 中继 (OHTTP)

为确保计算服务提供商无法获知用户的个人操作,OpenPCC 使用无感知 HTTP (OHTTP)。预计 OpenPCC 部署将运行一个 OHTTP 网关,并配置客户端使用由第三方运营的 OHTTP 中继来连接到该网关。目前,我们推荐 Oblivious.network 作为唯一可在注册后立即使用的 OHTTP 中继服务。

OpenPCC 计算节点

请参阅 https://github.com/confidentsecurity/confidentcompute,以获取与此仓库配套的相关计算节点实现。

Go 使用示例

本地开发示例请参见 cmd/test-client/main.go。若要连接到生产环境服务,代码可能如下所示:

import (
    "context"
    "fmt"
    "net/http"
    "os"
    "strings"

    "github.com/openpcc/openpcc"
    "github.com/openpcc/openpcc/inttest"
    "github.com/openpcc/openpcc/transparency"
)

func makePCCRequest() error {
    ctx := context.Background()

    identityPolicy := transparency.IdentityPolicy{
		OIDCSubjectRegex: "^https://github.com/confidentsecurity/T/.github/workflows.*",
		OIDCIssuerRegex:  "https://token.actions.githubusercontent.com",
    }

    cfg := openpcc.DefaultConfig()
    cfg.APIURL = "https://app.confident.security"
    cfg.APIKey = os.Getenv("<APIKEY_ENV_VAR_NAME>")
    cfg.TransparencyVerifier = transparency.DefaultVerifierConfig()
    cfg.TransparencyIdentityPolicy = &identityPolicy

    client, err := openpcc.NewFromConfig(ctx, cfg)
    if err != nil {
        return fmt.Errorf("创建 OpenPCC 客户端失败: %w", err)
    }

    // 推理请求采用 OpenAI API 的生成格式
    body := "{\"model\":\"qwen3:1.7b\",\"prompt\":\"为什么天空是蓝色的?\"}"
    req, err := http.NewRequest("POST", "http://confsec.invalid/v1/completions", strings.NewReader(body))
    if err != nil {
        return err
    }
    // 为请求添加标签,以便将其路由到运行指定模型的计算节点
    req.Header.Add("X-Confsec-Node-Tags", "qwen3:1.7b")

    resp, err := client.RoundTrip(req)
    if err != nil {
        return err
    }

    return nil
}

开发

开发命令通过 Go 工具 mage 运行。

您可以直接使用 go.mod 工具安装 go tool mage [cmd] 来运行命令,也可以安装 mage 本身以减少按键次数:go install github.com/magefile/mage@latest

mage 将打印出可用命令列表(命令源代码位于 /magefiles/*)。

在开发过程中,可使用 mage runMemServices 运行所有内存中的 OpenPCC 服务,然后使用 mage runClient 向系统发送测试请求。

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|1周前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|1周前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

155.4k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

108.3k|★★☆☆☆|4天前
开发框架图像Agent

gemini-cli

gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。

100.8k|★★☆☆☆|5天前
插件Agent图像

markitdown

MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器

93.4k|★★☆☆☆|1周前
插件开发框架