nncase

GitHub
872 207 简单 1 次阅读 昨天Apache-2.0语言模型开发框架
AI 解读 由 AI 自动生成,仅供参考

nncase 是一款专为 Kendryte 系列 AI 加速器(如 K230)打造的开源深度学习编译器。它的核心作用是将用户在主流框架(如 TensorFlow Lite、Caffe、ONNX)中训练好的神经网络模型,高效地编译并优化为能在特定硬件上流畅运行的格式,从而打通从算法模型到嵌入式设备部署的“最后一公里”。

对于希望在资源受限的边缘设备上落地 AI 应用的开发者而言,nncase 解决了模型兼容性差、推理速度慢以及精度损失大等痛点。它内置了强大的量化技术和算子融合策略,在显著提升了模型推理帧率(FPS)的同时,能够最大程度保持模型的原始识别准确率,确保在图像分类、目标检测和语义分割等任务中表现优异。

这款工具主要面向嵌入式 AI 工程师、算法研究人员以及物联网设备开发者。如果你正在使用嘉楠科技的芯片进行项目开发,或者需要将轻量级模型部署到边缘端,nncase 提供了完善的命令行工具和 Python 接口,支持 Linux 和 Windows 环境,并附带详细的文档与社区支持,能帮助你快速完成模型的转换、仿真测试与实际部署。

使用场景

某嵌入式开发团队正致力于将基于 YOLOv5 的目标检测算法部署到嘉楠科技 K230 AI 加速芯片上,用于智能安防摄像头的实时人流统计。

没有 nncase 时

  • 模型兼容性差:直接从 PyTorch 导出的 ONNX 模型无法直接在 K230 硬件上运行,团队需手动重写底层算子或寻找不稳定的第三方转换脚本。
  • 推理性能低下:未经针对硬件优化的浮点模型在边缘端运行帧率仅为 3-4 FPS,完全无法满足实时监控所需的流畅度。
  • 精度损失不可控:自行尝试量化(Quantization)时缺乏校准工具,导致模型压缩后精度大幅下跌,误报率飙升。
  • 调试周期漫长:缺乏统一的编译栈和仿真环境,每次修改参数都需烧录固件到开发板验证,严重拖慢迭代速度。

使用 nncase 后

  • 一键模型编译:利用 nncase 直接导入 ONNX 模型,自动完成算子融合与硬件指令映射,无需手动修改网络结构即可生成可执行文件。
  • 性能显著提升:通过 nncase 的量化感知训练与优化,模型在保持 u8/int8 精度的同时,推理速度提升至 23+ FPS,实现流畅实时检测。
  • 精度高度对齐:内置的校准工具确保量化后的模型 mAP 指标与原始浮点模型误差控制在 1% 以内,保障了业务准确性。
  • 高效仿真验证:借助 nncase 提供的模拟器,开发者可在 PC 端快速验证模型效果与性能,将“修改 - 验证”循环从小时级缩短至分钟级。

nncase 通过提供从模型导入、量化优化到硬件编译的一站式解决方案,彻底打通了通用深度学习模型到 Kendryte 专用加速器的高效落地路径。

运行环境要求

操作系统
  • Linux
  • Windows
GPU

未说明 (该工具为 AI 加速器编译器,主要运行在 CPU 上进行模型编译,目标硬件为 K210/K510/K230 等 NPU)

内存

未说明

依赖
notes1. 目前 K510 和 K230 芯片相关的源代码未开源,无法通过源码直接编译使用 nncase-K510 和 nncase-kpu (K230),建议直接通过 pip 安装预编译包。 2. Windows 用户安装 K230 支持库时,需手动下载特定版本的 .whl 文件进行安装。 3. 该工具主要用于将 TFLite、Caffe、ONNX 模型编译为嘉楠科技 (Canaan) AI 加速器可用的格式。
python支持 Python 2 和 Python 3 (根据安装包名称 py2.py3 推断)
nncase
nncase-kpu (K230 专用,Windows 需单独安装 whl 包)
nncase hero image

快速开始

nncase

GitHub 仓库 Gitee 仓库 GitHub 发布

切换中文

nncase 是一款面向 AI 加速器的神经网络编译器。

Telegram:nncase 社区 技术讨论 QQ 群:790699378 。答案:人工智能


K230

安装

  • Linux:

    pip install nncase nncase-kpu
    
  • Windows:

    1. pip install nncase
    2. 在下方链接中下载 `nncase_kpu-2.x.x-py2.py3-none-win_amd64.whl`。
    3. pip install nncase_kpu-2.x.x-py2.py3-none-win_amd64.whl
    

nncasenncase-kpu 的所有版本均可在 Release 中找到。

支持的算子

基准测试

类别 模型 形状 量化类型(If/W) nncase FPS tflite/onnx 结果 准确率 信息
图像分类 mobilenetv2 [1,224,224,3] u8/u8 600.24 top-1 = 71.3%
top-5 = 90.1%
top-1 = 71.1%
top-5 = 90.0%
数据集(ImageNet 2012,50000 张图片)
tflite
resnet50V2 [1,3,224,224] u8/u8 86.17 top-1 = 75.44%
top-5 = 92.56%
top-1 = 75.11%
top-5 = 92.36%
数据集(ImageNet 2012,50000 张图片)
onnx
yolov8s_cls [1,3,224,224] u8/u8 130.497 top-1 = 72.2%
top-5 = 90.9%
top-1 = 72.2%
top-5 = 90.8%
数据集(ImageNet 2012,50000 张图片)
yolov8s_cls(v8.0.207)
目标检测 yolov5s_det [1,3,640,640] u8/u8 23.645 bbox
mAP50-90 = 0.374
mAP50 = 0.567
bbox
mAP50-90 = 0.369
mAP50 = 0.566
数据集(coco val2017,5000 张图片)
yolov5s_det(v7.0 标签,rect=False,conf=0.001,iou=0.65)
yolov8s_det [1,3,640,640] u8/u8 9.373 bbox
mAP50-90 = 0.446
mAP50 = 0.612
mAP75 = 0.484
bbox
mAP50-90 = 0.404
mAP50 = 0.593
mAP75 = 0.45
数据集(coco val2017,5000 张图片)
yolov8s_det(v8.0.207,rect = False)
图像分割 yolov8s_seg [1,3,640,640] u8/u8 7.845 bbox
mAP50-90 = 0.444
mAP50 = 0.606
mAP75 = 0.484
segm
mAP50-90 = 0.371
mAP50 = 0.578
mAP75 = 0.396
bbox
mAP50-90 = 0.444
mAP50 = 0.606
mAP75 = 0.484
segm
mAP50-90 = 0.371
mAP50 = 0.579
mAP75 = 0.397
数据集(coco val2017,5000 张图片)
yolov8s_seg(v8.0.207,rect = False,conf_thres = 0.0008)
姿态估计 yolov8n_pose_320 [1,3,320,320] u8/u8 36.066 bbox
mAP50-90 = 0.6
mAP50 = 0.843
mAP75 = 0.654
keypoints
mAP50-90 = 0.358
mAP50 = 0.646
mAP75 = 0.353
bbox
mAP50-90 = 0.6
mAP50 = 0.841
mAP75 = 0.656
keypoints
mAP50-90 = 0.359
mAP50 = 0.648
mAP75 = 0.357
数据集(coco val2017,2346 张图片)
yolov8n_pose(v8.0.207,rect = False)
yolov8n_pose_640 [1,3,640,640] u8/u8 10.88 bbox
mAP50-90 = 0.694
mAP50 = 0.909
mAP75 = 0.776
keypoints
mAP50-90 = 0.509
mAP50 = 0.798
mAP75 = 0.54
bbox
mAP50-90 = 0.694
mAP50 = 0.909
mAP75 = 0.777
keypoints
mAP50-90 = 0.508
mAP50 = 0.798
mAP75 = 0.5…

特性

  • 支持多输入、多输出及多分支结构
  • 静态内存分配,不使用堆内存
  • 算子融合与优化
  • 支持浮点和量化 uint8 推理
  • 支持基于校准数据集的浮点模型后量化
  • 扁平化模型,零拷贝加载

架构

nncase 架构

从源码构建

建议直接通过 pip 安装 nncase。目前,与 k510 和 K230 芯片相关的源代码尚未开源,因此无法通过编译源代码直接使用 nncase-K510nncase-kpu(K230)。

如果您的模型中包含 nncase 尚未支持的算子,您可以在 issue 中提出需求,或自行实现并提交 PR。这些功能将在后续版本中集成,或者您也可以联系我们获取临时版本。 以下是编译 nncase 的步骤。

git clone https://github.com/kendryte/nncase.git
cd nncase
mkdir build && cd build

# 使用 Ninja
cmake .. -G Ninja -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=./install
ninja && ninja install

# 使用 make
cmake .. -DCMAKE_BUILD_TYPE=Release -DCMAKE_INSTALL_PREFIX=./install
make && make install

资源

Canaan 开发者社区

Canaan 开发者社区 包含与 K210、K510 和 K230 相关的所有资源。

  • 资料下载 --> 提供三种芯片对应开发板的预编译镜像。
  • 文档 --> 三种芯片对应的文档。
  • 模型库 --> 可在 K210 和 K230 上运行的工业、安防、教育等场景示例及代码。
  • 模型训练 --> K210 和 K230 的模型训练平台支持多种场景的模型训练。

Bilibili

K210 相关仓库

K230 相关仓库


版本历史

v2.11.02026/02/28
v2.10.02025/08/08
v2.9.02024/07/31
v2.8.32024/05/22
v2.8.22024/04/28
v2.8.12024/02/28
v2.8.02024/01/25
v2.7.02023/12/28
v2.6.02023/11/30
v2.5.12023/10/31
v2.5.02023/10/30
v2.4.02023/09/25
v2.3.02023/08/28
v2.2.02023/07/31
v2.1.12023/07/21
v2.1.02023/07/03
v2.0.02023/06/02
v1.9.02023/03/23
v1.8.02022/09/30
v1.7.12022/07/01

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|1周前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|1周前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

156.8k|★★☆☆☆|今天
开发框架Agent语言模型

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

108.3k|★★☆☆☆|5天前
开发框架图像Agent

gemini-cli

gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。

100.8k|★★☆☆☆|5天前
插件Agent图像

markitdown

MarkItDown 是一款由微软 AutoGen 团队打造的轻量级 Python 工具,专为将各类文件高效转换为 Markdown 格式而设计。它支持 PDF、Word、Excel、PPT、图片(含 OCR)、音频(含语音转录)、HTML 乃至 YouTube 链接等多种格式的解析,能够精准提取文档中的标题、列表、表格和链接等关键结构信息。 在人工智能应用日益普及的今天,大语言模型(LLM)虽擅长处理文本,却难以直接读取复杂的二进制办公文档。MarkItDown 恰好解决了这一痛点,它将非结构化或半结构化的文件转化为模型“原生理解”且 Token 效率极高的 Markdown 格式,成为连接本地文件与 AI 分析 pipeline 的理想桥梁。此外,它还提供了 MCP(模型上下文协议)服务器,可无缝集成到 Claude Desktop 等 LLM 应用中。 这款工具特别适合开发者、数据科学家及 AI 研究人员使用,尤其是那些需要构建文档检索增强生成(RAG)系统、进行批量文本分析或希望让 AI 助手直接“阅读”本地文件的用户。虽然生成的内容也具备一定可读性,但其核心优势在于为机器

93.4k|★★☆☆☆|1周前
插件开发框架