java

GitHub
921 224 中等 1 次阅读 2天前Apache-2.0开发框架
AI 解读 由 AI 自动生成,仅供参考

Java 是 TensorFlow 专为 Java 及 JVM 生态(如 Scala、Kotlin)打造的官方绑定库,让开发者能够直接在 Java 环境中构建、训练和运行机器学习模型。它有效解决了以往企业级应用中,因核心算法多由 Python 主导而导致的语言栈割裂问题,使得熟悉 Java 的团队无需切换技术栈即可大规模落地人工智能应用。

这款工具特别适合广大企业后端开发者、数据工程师以及需要在现有 Java 系统中集成 AI 能力的研究团队。其核心亮点在于独立的发布节奏与现代化的构建体验:代码已从 TensorFlow 主仓库剥离,支持独立迭代更新;同时构建系统从 Bazel 迁移至 Maven,大幅降低了 Java 开发者的上手门槛。在功能架构上,Java 提供了分层设计,既包含轻量级的 tensorflow-core 供框架开发者调用底层原生库,也提供了面向神经网络开发的 tensorflow-framework 高级 API。此外,它还支持针对 Linux、Windows、macOS 等不同平台及 GPU 加速场景的精细化依赖管理,帮助开发者在确保性能的同时最小化应用体积。

使用场景

某大型电商企业的后端团队需要在现有的 Java 微服务架构中集成实时欺诈检测模型,以拦截异常交易。

没有 java 时

  • 架构割裂严重:数据科学家使用 Python 训练模型,而生产环境是纯 Java 集群,必须额外部署 Python 推理服务,导致系统架构复杂且维护成本高。
  • 通信延迟高昂:Java 后端需通过 HTTP 或 gRPC 调用外部 Python 服务,网络往返增加了毫秒级延迟,无法满足高并发交易场景下的实时性要求。
  • 依赖管理混乱:团队需在 JVM 环境中强行嵌入 Python 运行时或配置复杂的容器化方案,不仅占用大量资源,还常因环境版本不一致引发线上故障。
  • 开发流程断层:Java 开发者无法直接读取或操作 TensorFlow 模型图,调试和迭代模型逻辑时必须依赖跨语言协作,严重拖慢上线速度。

使用 java 后

  • 原生无缝集成:利用 java 提供的原生绑定,团队直接在 Java 代码中加载并运行 TensorFlow 模型,无需引入任何外部语言运行时,架构回归简洁统一。
  • 零网络延迟推理:模型推理过程在 JVM 进程内完成,消除了网络调用开销,将单次检测延迟从数十毫秒降低至微秒级,显著提升吞吐量。
  • 标准化构建部署:借助对 Maven 的原生支持,开发人员只需在 pom.xml 中添加对应平台(如 linux-x86_64-gpu)的依赖即可自动获取底层二进制文件,彻底解决环境兼容难题。
  • 全栈自主可控:Java 工程师可直接使用 tensorflow-framework 构建和微调神经网络,实现了从数据处理到模型部署的全链路闭环开发。

java 让企业能够以纯 Java 技术栈低成本、高性能地规模化落地机器学习能力,真正打通了算法研究与生产应用之间的“最后一公里”。

运行环境要求

操作系统
  • Linux
  • macOS
  • Windows
GPU
  • 可选
  • 若需使用 NVIDIA GPU,需安装 NVIDIA 驱动、CUDA Toolkit 和 cuDNN(例如 Ubuntu 24.04 下可安装 nvidia-driver-550, nvidia-cuda-toolkit, nvidia-cudnn)
  • 支持的平台分类器包括 linux-x86_64-gpu
  • 未明确具体显存大小和 CUDA 版本要求
内存

未说明

依赖
notes1. 该工具运行在任意 JVM 上,支持 Java 及其他 JVM 语言(如 Scala, Kotlin)。 2. 最低 Java 版本要求:对于 1.1.0 及更高版本,需要 Java 11+;早期版本可能需要 Java 8+。 3. 构建系统已从 Bazel 迁移至 Maven。 4. 建议根据目标部署平台选择特定的 native 依赖(classifier)以减小应用体积,避免同时引入多个平台的 native 库。 5. macOS x86_64 架构在 1.1.0 及以后版本不再支持,仅支持 Apple Silicon (arm64)。
python不适用 (基于 JVM 的工具)
tensorflow-core-api
tensorflow-core-native
tensorflow-framework
Maven 或 Gradle 构建工具
java hero image

快速开始

TensorFlow for Java

欢迎来到 TensorFlow 的 Java 世界!

TensorFlow 可以在任何 JVM 上运行,用于构建、训练和部署机器学习模型。它提供了一系列工具和框架,可以帮助数据科学家和该领域的开发者完成大多数常见任务。Java 以及 Scala 或 Kotlin 等其他 JVM 语言在全球各地的中小型企业中被广泛使用,这使得 TensorFlow 成为大规模采用机器学习的战略性选择。

本仓库

早期,TensorFlow 的 Java 绑定托管在 主仓库 中,并且仅在核心库的新版本准备发布时才会一起发布,而这种情况一年通常只发生几次。现在,所有与 Java 相关的代码已被迁移到本仓库,以便能够独立于官方 TensorFlow 发布进行开发和更新。此外,大部分构建任务已从 Bazel 迁移到 Maven,这对于大多数 Java 开发者来说更加熟悉。

以下描述了仓库的布局及其不同构件:

  • tensorflow-core

    • 构建 TensorFlow Java 核心语言绑定的所有构件
    • 目标用户:在 TensorFlow 基础之上提供自有 API 或框架的项目,只需要一个轻量级的层来从 JVM 访问 TensorFlow 原生库
  • tensorflow-framework

    • 使用 TensorFlow 构建和训练神经网络的主要 API
    • 目标用户:神经网络开发者
    • 更多信息请参阅:tensorflow-framework/README.md

注:NdArray 库模块现已拥有自己的 仓库,并已从 TensorFlow Java 项目中移出。

沟通方式

本仓库由 TensorFlow JVM 特别兴趣小组(SIG)维护。您可以通过在 TensorFlow 论坛 上发帖并添加 sig_jvm 标签,或通过 sig-jvm Gitter 频道 联系我们。您也可以直接向本仓库提交拉取请求或提出问题。

构建源代码

请参阅 CONTRIBUTING.md

使用 Maven 构件

将 TensorFlow Java 作为依赖项添加到您的 Maven 项目中有两种方式:分别为每个目标平台单独添加依赖,或者使用一个同时支持所有平台的单一依赖。

单独添加依赖

采用这种方式时,您需要先添加 tensorflow-core-api 的依赖,然后再添加一个或多个带有特定平台分类器的 tensorflow-core-native 依赖。这种方法更受推荐,因为它只包含您所需的 TensorFlow 构建,从而最小化应用程序的大小,但同时也更具限制性。

虽然 TensorFlow Java 可以针对 多种平台 进行编译,但本项目目前仅支持并分发以下平台的二进制文件:

  • linux-x86_64:基于 Intel/AMD 芯片的 Linux 平台
  • linux-x86_64-gpu:支持 CUDA GPU 的 Intel/AMD 芯片上的 Linux 平台
  • linux-arm64:基于 Arm 芯片的 Linux 平台
  • macosx-arm64:基于 Apple Silicon 芯片的 macOS X 平台
  • windows-x86_64:基于 Intel/AMD 芯片的 Windows 平台(v1.1.0 及更早版本)

适用于 macosx-x86_64 的二进制文件仅在 TF-Java 1.0 系列及更早版本中可用;自 TF-Java 1.1 及更高版本起,由于 Google 已不再支持或发布这些版本,因此相关二进制文件已被移除。

例如,如果您要构建一个仅用于部署在无 GPU 支持的 Linux 系统上的 JAR 包,应添加以下依赖:

<dependency>
  <groupId>org.tensorflow</groupId>
  <artifactId>tensorflow-core-api</artifactId>
  <version>1.1.0</version>
</dependency>
<dependency>
  <groupId>org.tensorflow</groupId>
  <artifactId>tensorflow-core-native</artifactId>
  <version>1.1.0</version>
  <classifier>linux-x86_64</classifier>
</dependency>

或使用 Gradle:

def tfVersion = '1.1.0'
implementation "org.tensorflow:tensorflow-core-api:$tfVersion"
implementation "org.tensorflow:tensorflow-core-native:$tfVersion:linux-x86_64"

另一方面,如果您计划将 JAR 包部署到更多平台上,则需要添加额外的原生依赖,如下所示:

<dependency>
  <groupId>org.tensorflow</groupId>
  <artifactId>tensorflow-core-api</artifactId>
  <version>1.1.0</version>
</dependency>
<dependency>
  <groupId>org.tensorflow</groupId>
  <artifactId>tensorflow-core-native</artifactId>
  <version>1.1.0</version>
  <classifier>linux-x86_64-gpu</classifier>
</dependency>
<dependency>
  <groupId>org.tensorflow</groupId>
  <artifactId>tensorflow-core-native</artifactId>
  <version>1.1.0</version>
  <classifier>macosx-arm64</classifier>
</dependency>
<dependency>
  <groupId>org.tensorflow</groupId>
  <artifactId>tensorflow-core-native</artifactId>
  <version>1.1.0</version>
  <classifier>windows-x86_64</classifier>
</dependency>

或使用 Gradle:

def tfVersion = '1.1.0'
implementation "org.tensorflow:tensorflow-core-api:$tfVersion"
implementation "org.tensorflow:tensorflow-core-native:$tfVersion:linux-x86_64-gpu"
implementation "org.tensorflow:tensorflow-core-native:$tfVersion:macosx-arm64"
implementation "org.tensorflow:tensorflow-core-native:$tfVersion:windows-x86_64"

每个平台只能添加一个依赖,这意味着您不能在同一项目中同时添加 linux-x86_64linux-x86_64-gpu 的原生依赖。

若要使用 NVIDIA GPU,您需要安装 NVIDIA 设备驱动程序、CUDA Toolkit 和 cuDNN。对于 Ubuntu 24.04,您可以使用以下命令安装它们: sudo apt install -y nvidia-driver-550 nvidia-cuda-toolkit nvidia-cudnn

单一依赖项

在某些情况下,添加一个包含运行 TensorFlow Java 所需所有工件的单一依赖项可能是更优的选择,这些工件会以传递方式引入,适用于任何受支持的平台

  • tensorflow-core-platform:包含 tensorflow-core-api,以及针对 linux-x86_64linux-x86_64-arm64macosx-arm64windows-x86_64 的原生工件。

例如,要在本项目分发二进制文件的任何 CPU 平台上运行 TensorFlow Java,只需将以下依赖项添加到您的应用中:

<dependency>
  <groupId>org.tensorflow</groupId>
  <artifactId>tensorflow-core-platform</artifactId>
  <version>1.1.0</version>
</dependency>

或使用 Gradle:

implementation "org.tensorflow:tensorflow-core-platform:1.1.0"

不过请注意,TensorFlow 的构建产物体积较大,如果包含过多的原生依赖,可能会显著增加应用程序的大小。因此,建议将依赖限制为您目标运行的平台。为此,这些工件包含了遵循本页面约定的配置文件:

快照版本

TensorFlow Java 工件的快照版本会在代码每次更新后自动发布。要使用这些快照版本,您需要在 pom.xml 中添加 Sonatype OSS 仓库,如下所示:

<repositories>
    <repository>
        <id>tensorflow-snapshots</id>
        <url>https://oss.sonatype.org/content/repositories/snapshots/</url>
        <snapshots>
            <enabled>true</enabled>
        </snapshots>
    </repository>
</repositories>
<dependencies>
    <!-- 依赖示例,更多选项请参阅上文 -->
    <dependency>
        <groupId>org.tensorflow</groupId>
        <artifactId>tensorflow-core-platform</artifactId>
        <version>1.2.0-SNAPSHOT</version>
    </dependency>
</dependencies>

或使用 Gradle:

repositories {
  mavenCentral()
  maven {
    url = uri("https://oss.sonatype.org/content/repositories/snapshots")
  }
}

dependencies {
    // 依赖示例,更多选项请参阅上文
    implementation "org.tensorflow:tensorflow-core-platform:1.2.0-SNAPSHOT"
}

TensorFlow/Java 版本支持

下表展示了 TensorFlow、TensorFlow Java 与最低支持 Java 版本之间的对应关系。

TensorFlow Java 版本 TensorFlow 版本 最低 Java 版本
0.2.0 2.3.1 8
0.3.0 2.4.1 8
0.3.1 2.4.1 8
0.3.2 2.4.1 8
0.3.3 2.4.1 8
0.4.0 2.7.0 8
0.4.1 2.7.1 8
0.4.2 2.7.4 8
0.5.0 2.10.1 11
1.0.0-rc.1 2.16.1 11
1.0.0-rc.2 2.16.2 11
1.0.0 2.16.2 11
1.1.0 2.18.0 11
1.2.0-SNAPSHOT 2.20.0 11

如何贡献?

欢迎各位贡献代码和建议,具体指南请参阅 CONTRIBUTING.md

代码与使用示例

请查看此仓库:https://github.com/tensorflow/java-models

版本历史

v1.1.02025/06/29
v0.4.02021/11/28
v0.3.32021/08/31
v0.3.22021/07/12
v0.3.12021/03/15
v1.0.02024/12/06
v1.0.0-rc.22024/09/25
v1.0.0-rc.12024/04/12
v0.5.02023/02/21
v0.4.22022/09/23
v0.4.12022/03/29
v0.2.02020/10/07

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|2天前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|3天前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

144.7k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

107.9k|★★☆☆☆|2天前
开发框架图像Agent

markitdown

MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器

93.4k|★★☆☆☆|昨天
插件开发框架

LLMs-from-scratch

LLMs-from-scratch 是一个基于 PyTorch 的开源教育项目,旨在引导用户从零开始一步步构建一个类似 ChatGPT 的大型语言模型(LLM)。它不仅是同名技术著作的官方代码库,更提供了一套完整的实践方案,涵盖模型开发、预训练及微调的全过程。 该项目主要解决了大模型领域“黑盒化”的学习痛点。许多开发者虽能调用现成模型,却难以深入理解其内部架构与训练机制。通过亲手编写每一行核心代码,用户能够透彻掌握 Transformer 架构、注意力机制等关键原理,从而真正理解大模型是如何“思考”的。此外,项目还包含了加载大型预训练权重进行微调的代码,帮助用户将理论知识延伸至实际应用。 LLMs-from-scratch 特别适合希望深入底层原理的 AI 开发者、研究人员以及计算机专业的学生。对于不满足于仅使用 API,而是渴望探究模型构建细节的技术人员而言,这是极佳的学习资源。其独特的技术亮点在于“循序渐进”的教学设计:将复杂的系统工程拆解为清晰的步骤,配合详细的图表与示例,让构建一个虽小但功能完备的大模型变得触手可及。无论你是想夯实理论基础,还是为未来研发更大规模的模型做准备

90.1k|★★★☆☆|2天前
语言模型图像Agent