- 综合排序
- 最热优先
- 最新优先
- 来自专栏又见苍岚
RKNN-Toolkit2 Quick Start
RKNN RKNN（Rockchip Neural Network）是由瑞芯微（Rockchip）推出的神经网络加速器和推理引擎。 模型转换工具： RKNN 提供了模型转换工具，允许用户将训练好的深度学习模型转换为 RKNN 支持的格式。这通常涉及将模型转换为一个中间表示，然后再将其编译成适用于 RKNN 加速器的格式。 对象 rknn = RKNN(verbose=True) 配置 RKNN 对象 rknn.config(mean_values=[123.675, 116.28, 103.53], std_values /dataset.txt’) 输出 RKNN 模型 rknn.export_rknn(‘. /resnet_18.rknn’) 初始化 RKNN 运行环境 rknn.init_runtime() RKNN 推断得到结果 outputs = rknn.inference(inputs=[img]
2K10编辑于 2023-12-11 在Windows环境下的rknn-toolkit环境搭建
下载rknn_toolkit的轮子。可以直接在瑞芯微的git仓库中下载，地址为：github.com/rockchip-linux/rknn-toolkit/releases。 选择rknn-toolkit-v1.7.5-packages.zip下载，之后解压，pip install rknn_toolkit-1.7.5-cp36-cp36m-win_amd64.whl。 =1.14.0 torch==1.10.0 torchvision==0.11.0 mxnet-cu101==1.5.0 打开anaconda prompt命令行， conda create -n rknn 安装mxnet,rknn-toolkit官方要求的版本是mxnet==1.5.0 pip install mxnet==1.5.0 安装tenserflow,rknn-toolkit官方要求的版本是 pip install rknn_toolkit-1.7.5-cp36-cp36m-win_amd64.whl --find-links=你的路径
1.3K10编辑于 2025-07-22创龙 瑞芯微 RK3588 国产2.4GHz八核 工业开发板—NPU开发案例
NPU开发流程如下：（1）模型训练：用户根据需求自行训练模型或使用官方提供的模型；（2）模型转换：使用RKNN-Toolkit2将预训练模型转换为RK3588 NPU可使用的RKNN模型；（3）应用开发 ：基于RKNN API开发应用程序。 关于RKNN-Toolkit2模型转换使用说明、混合量化、精度问题排查的详细介绍，可查看LinuxSDK源码"external/rknn-toolkit2/doc/"目录下的"Rockchip_User_Guide_RKNN_Toolkit2 Host# python3from rknn.api import RKNN执行如下命令，可退出虚拟环境。Host# deactivate模型转换打开Ubuntu，执行如下命令，进入虚拟环境。 模型转化成功后将会在当前目录下新生成rknn_models目录，并在rknn_models目录下生成RKNN模型。
1.1K10编辑于 2025-09-30- 来自专栏算法之名
RK35XX NPU开发指南
/resnet18.pt') 转化 from rknn.api import RKNN if __name__ == '__main__': rknn = RKNN(verbose=True ', rknn_batch_size=1) rknn.export_rknn('resnet18.rknn') rknn.release() 运行结果 模型推理 from rknn.api ', rknn_batch_size=1) rknn.export_rknn('resnet18.rknn') rknn.init_runtime( target=None 精度分析 from rknn.api import RKNN if __name__ == '__main__': rknn = RKNN(verbose=True, verbose_file ', rknn_batch_size=1) rknn.export_rknn('resnet18.rknn') rknn.accuracy_analysis( inputs
1.1K30编辑于 2023-10-29 - 来自专栏txp玩Linux
嵌入式音视频开发面试题：如何优化画面质量？
每发一个IDR，就相应地发一个PPS和SPS_nal_unit 六、说一下RKNN的开发、部署步骤： 1、RKNN的部署工作一般以下步骤： RKNN的部署一般要部署三个文件，分别是：box_priors.txt 2、RKNN的开发步骤，一般分为以下几步： 第一步，读取模型文件：这个模型文件可以是ssd模型、 yolo模型等。 第二步，初始化rknn模块，调用的API是rknn_init。 第三步，对视频数据进行RKNN识别。 ，把RGB24的数据传给RKNN的输入模块(调用的API是rknn_inputs_set)。 输入模块设置完成之后，则调用rknn_run开启识别工作，并实时把输出的结果拿到(调用rknn_outputs_get获取识别出来后的结果)。 第四步，把识别出来的结果进行可视化操作。
89430编辑于 2023-08-31 - 来自专栏FPGA/ARM/DSP技术专栏
瑞芯微RK3562 四核 ARM Cortex-A53 + 单核 ARM Cortex-M0——NPU开发案列
NPU开发流程如下：（1） 模型训练：用户根据需求自行训练模型或使用官方提供的模型；（2） 模型转换：使用RKNN-Toolkit2将预训练模型转换为RK3562 NPU可使用的RKNN模型；（3） 应用开发 ：基于RKNN API开发应用程序。 关于RKNN-Toolkit2环境搭建、模型转换使用说明、混合量化、精度问题排查的详细介绍，可查看yolov5_object_detect案例"tool\rknn-toolkit2\doc\"目录下的" 关于RKNN-Toolkit2模型转换API接口说明，可查看yolov5_object_detect案例"tool\rknn-toolkit2\doc\"目录下的"02_Rockchip_RKNPU_User_Guide_RKNN_SDK_V2.0.0beta0 关于RKNN API的详细使用说明，可查看yolov5_object_detect案例"tool\rknn-toolkit2\doc\"目录下的"04_Rockchip_RKNPU_API_Reference_RKNNRT_V2.0.0beta0
97810编辑于 2025-04-15 - 来自专栏野生AI架构师
边缘计算：在rk1808上测试yolov3-tiny及spp模型
训练的，需要编译成rknn模型。 ret = rknn.build(do_quantization=False, pre_compile=True) # 导出成rknn模型 ret = rknn.export_rknn(rknn_model /rknn_models/gf_yolov3_tiny.rknn, time: 4.22s 整个过程约为4.22秒，主要时间消耗在编译模型上。 模型推断 ---- 模型已经导出成rknn格式，现在就可以使用它来进行推断预测了，使用也比较简单： # 加载rknn模型 rknn.load_rknn(rknn_model) # 指定使用rk1808 /rknn_models/gf_yolov3_spp.rknn, time: 327.27s 总耗时327秒，编译耗时255秒，模型大了，耗时也是大大的增加。
1.6K30发布于 2021-10-28 创龙 瑞芯微 RK3562 国产 2GHz 四核A53 工业开发板—NPU开发案例
NPU开发流程如下：（1）模型训练：用户根据需求自行训练模型或使用官方提供的模型；（2）模型转换：使用RKNN-Toolkit2将预训练模型转换为RK3562 NPU可使用的RKNN模型；（3）应用开发 ：基于RKNN API开发应用程序。 关于RKNN-Toolkit2环境搭建、模型转换使用说明、混合量化、精度问题排查的详细介绍，可查看yolov5_object_detect案例"tool\rknn-toolkit2\doc\"目录下的" 关于RKNN-Toolkit2模型转换API接口说明，可查看yolov5_object_detect案例"tool\rknn-toolkit2\doc\"目录下的"02_Rockchip_RKNPU_User_Guide_RKNN_SDK_V2.0.0beta0 关于RKNN API的详细使用说明，可查看yolov5_object_detect案例"tool\rknn-toolkit2\doc\"目录下的"04_Rockchip_RKNPU_API_Reference_RKNNRT_V2.0.0beta0
46910编辑于 2025-07-16- 来自专栏米尔电子
基于米尔瑞芯微RK3576边缘计算盒如何搭建驱动菜品识别模型
——RKNN-Toolkit2。 跨平台部署支持除了Python环境下的开发工具，RKNN-Toolkit2还提供了C/C++版本的运行时库（RKNN API）。 ）模型通过该工具链转换为.rknn格式文件。 步骤二： 将转换好的RKNN模型文件与调用RKNN Runtime的应用程序一同部署到MYD-LR3576边缘计算盒上。 可以直接通过网络安装：pip install rknn-toolkit2 -i https://pypi.org/simple# 如果已安装 RKNN-Toolkit2，可通过以下命令升级 RKNN-Toolkit2pip
78310编辑于 2025-10-31 RK3562 单板机神经网络开发指南：NPU 推理框架与目标检测实战
RKNN-Toolkit2是瑞芯微官方推出的用于模型转换、量化、推理和性能评估的开发工具包，支持将预训练的深度学习模型转换为瑞芯微NPU（神经网络处理单元）专用的RKNN格式，并在其芯片平台上高效部署。 开发流程如下：a)模型训练：用户根据需求自行训练模型或使用官方提供的模型；b)模型转换：使用RKNN-Toolkit2将预训练模型转换为RK3562 NPU可使用的RKNN模型；c)应用开发：基于RKNN "rknn-toolkit2\doc\02_Rockchip_RKNPU_User_Guide_RKNN_SDK_V2.0.0beta0_CN.pdf"文档。 关于RKNN-Toolkit2模型转换API接口说明，可查看yolov5_object_detect案例"\tools\rknn-toolkit2.tar.gz"压缩包的"rknn-toolkit2\doc 关于RKNN API的详细使用说明，可查看yolov5_object_detect案例"\tools\rknn-toolkit2.tar.gz"压缩包的"tool\rknn-toolkit2\doc\04
40810编辑于 2026-03-18- 来自专栏米尔电子
Qwen2-VL-3B模型NPU多模态部署指导与评测--基于米尔瑞芯微RK3576开发板
瑞芯微 NPU SDK：RKNN 和 RKLLM瑞芯微的 RKLLM 和 RKNN 是两个定位互补的 SDK，前者专注于大型语言模型（LLM）的端侧部署优化，后者是通用神经网络推理框架。 RKNN 是基础，RKLLM 是垂直扩展：RKNN SDK 是瑞芯微推出的通用神经网络推理框架，支持将 TensorFlow、PyTorch 等主流框架的模型转换为 RKNN 格式，并在瑞芯微 NPU 总得来说，RKLLM Runtime 依赖 RKNN 的 NPU 驱动进行硬件交互，其底层计算逻辑与 RKNN 共享同一套 NPU 加速引擎。 /demo 最后一个参数是核数，用于推理时是否考虑多核推理，可选参数为：2（RKNN_NPU_CORE_0_1）、3（RKNN_NPU_CORE_0_1_2）、其他（RKNN_NPU_CORE_AUTO 技术落地方面，RKNN 与 RKLLM SDK形成互补生态，RKNN 保障模型兼容性，RKLLM 通过量化优化、多模态支持等降低模型内存占用与推理延迟。
1.8K10编辑于 2025-08-29 - 来自专栏FPGA/ARM/DSP技术专栏
基于RK3588的NPU案例分享！6T是真的强！
第二步：模型转换 完成模型训练后，使用RKNN-Toolkit2将预训练模型转换为RK3588 NPU可使用的RKNN模型。 第三步：应用开发 基于RKNN API开发应用程序。开发阶段需要根据具体需求，将转换后的模型集成到应用程序中。 RK3588 NPU开发案例分享 案例说明 本案例基于RKNN API实现对图片中目标对象的识别，并将识别结果以加水印的方式添加至图像，并保存成图片文件。案例循环测试10次，统计出推理的平均处理耗时。 官方例程位于LinuxSDK源码"external/rknpu2/examples/rknn_yolov5_demo/"目录下。 /yolov5_object_detect yolov5s-640-640_rm_transpose_rk3588.rknn bus.jpg 从输出信息可知，本案例程序识别出测试图片包含4个person
2.5K10编辑于 2024-07-21 - 来自专栏米尔电子
基于米尔RK3576开发板的摄像头目标检测方案
文章重点剖析了摄像头特性分析、显示通路选择、RGA硬件加速、RKNN NPU集成等关键技术环节，为嵌入式AI视觉系统的开发与调优提供了一套完整的思路与实践方案。 不同输入模式下的显示耗时对比：2.4 NPU推理流程与耗时分析通用模型，通过rknn-toolkit2转换成rknn后就可以通过RKNN API来调用和推导。 使用rknn_model_zoo yolo5模型进行转换后生成模型，yolov5s-640-640.rknn和coco80labels_list.txt，以及一些调用参考代码。 rknn推理虚拟地址关键步骤如下：实际测试后rknn_run这个阶段大概耗时26~31ms之间rknnoutputsget获取数据后即可进行内部处理，检测出目标，坐标，信心指数，根据实际需求绘制在屏幕上
52311编辑于 2026-01-22 - 来自专栏野生AI架构师
基于Docker快速上手RK1808
# 注意： # 设备不能同时链接到两个adb服务器上，需要先kill掉宿主adb server adb kill-server # 加载docker镜像 docker load --input rknn-toolkit -1.1.0-docker.tar.gz # 启动容器 docker run -t -i --privileged \ -v /dev/bus/usb:/dev/bus/usb \ rknn-toolkit adb devices # 确认设备是否正常 cd /example/mobilenet_v1 # 编辑test.py vim test.py # 指定目标运行设备为rk1808 # ret = rknn.init_runtime test.py 正常执行过程会很快得到输出： --> config model done --> Loading model done --> Building model done --> Export RKNN
72310发布于 2021-10-28 - 来自专栏AI算法与图像处理
三行代码完成模型部署，支持云边端几十款AI硬件部署，覆盖CV、NLP、Speech（附源码）
全场景：一套代码云边端多平台多硬件一网打尽，覆盖CV、NLP、Speech 支持Paddle Inference、TensorRT、OpenVINO、ONNX Runtime、Paddle Lite、RKNN 一行命令切换TensorRT、OpenVINO、Paddle Inference、Paddle Lite、ONNX Runtime、RKNN等不同推理后端和对应硬件。 unzip -qo picodet_s_416_coco_npu.zip ## 下载Paddle静态图模型并解压 wget https://bj.bcebos.com/fastdeploy/models/rknn2 coco_npu.onnx \ --input_shape_dict "{'image':[1,3,416,416]}" # ONNX模型转RKNN /picodet _3588/picodet_3588.rknn \ --config_file .
2.1K40编辑于 2022-12-11 - 来自专栏FPGA/ARM/DSP技术专栏
RK3562J正式支持NPU，性价比再提升！
第二步：模型转换完成模型训练后，使用RKNN-Toolkit2将预训练模型转换为RK3562J NPU可使用的RKNN模型。 第三步：应用开发基于RKNN API开发应用程序。开发阶段需要根据具体需求，将转换后的模型集成到应用程序中。 案例说明案例基于RKNN API实现对图片中目标对象的识别，并将识别结果以加水印的方式添加至图像，然后保存成图片文件。案例进行10次循环测试，统计出推理的平均处理耗时。 /yolov5_object_detect yolov5s-640-640_rk3562.rknn bus.jpg从输出信息可知，本案例程序识别出测试图片bus.jpg中包含person、car、bus
1.2K20编辑于 2024-12-23 - 来自专栏福大大架构师每日一题
Rockchip RKNN修复、OpenVINO兼容性升级，开发者效率再提升！
Rockchip RKNN兼容性修复 • 问题解决：修复了torch_to_mnn转换中文件路径处理问题，确保Rockchip芯片模型导出稳定性。 • 用户受益：RKNN开发者不再因路径错误导致模型部署失败，边缘设备部署更顺畅！ 2. 用户受益总结 • 工业部署更稳：RKNN与OpenVINO修复，覆盖更多芯片与操作系统场景。 • 开发效率飙升：模型导出、超参数调优、测试流程全面简化，节省30%以上调试时间。
40510编辑于 2025-04-13 - 来自专栏PaddlePaddle
覆盖云边端全场景，FastDeploy三行代码搞定150+ CV、NLP、Speech模型部署
全场景： 1套代码云边端多平台多硬件一网打尽，覆盖CV、NLP、Speech 支持Paddle Inference、TensorRT、OpenVINO、ONNX Runtime、Paddle Lite、RKNN 一行命令切换TensorRT、OpenVINO、Paddle Inference、Paddle Lite、ONNX Runtime、RKNN等不同推理后端和对应硬件。 ，预处理加速，端到端性能优化，提升AI算法产业落地 FastDeploy在吸收TensorRT、OpenVINO、Paddle Inference、Paddle Lite、ONNX Runtime、RKNN coco_npu.onnx \ --input_shape_dict "{'image':[1,3,416,416]}" # ONNX模型转RKNN /picodet _3588/picodet_3588.rknn \ --config_file .
1.7K80编辑于 2022-11-29 - 来自专栏PaddlePaddle
C++到Python全搞定，教你如何为FastDeploy贡献代码
很多开发者可能会有疑惑，为什么Rockchip提供了RKNPU2和rknn-toolkit2这两个分别面向C++和Python的推理引擎，我们还要使用FastDeploy进行开发呢？ 简单来说，RKNPU2和rknn-toolkit2是推理引擎，它们侧重于推理；FastDeploy是推理部署工具侧重于部署。给RKNPU2输入一张图片，会得到一串数字。 RKNPU2 https://github.com/rockchip-linux/rknpu2 rknn-toolkit2 https://github.com/rockchip-linux/rknn-toolkit2 通常情况下，转换模型的工具一般使用rknn-toolkit2，但是这个工具API比较多，用起来较为复杂。 /infer_rknn.jpg" << std::endl; } int main(int argc, char* argv[]) { if (argc < 3) { std::cout
1.7K40编辑于 2023-03-06 - 来自专栏米尔电子
基于米尔RK3576部署端侧多模态多轮对话,6TOPS算力驱动30亿参数LLM
整体流程基于 rknn-llm 里的多轮对话案例[1]。本文目录本文目录一、引言1.1 什么是多轮对话？ 图像视觉编码器（Vision Encoder）模型选择：采用 qwen2_5_vl_3b_vision_rk3576.rknn 模型（本文）。 工程位于：rknn-llm/examples/Multimodal_Interactive_Dialogue_Demo，下面我们来逐步看下操作步骤。 /demo demo.jpg vision.rknn llm.rkllm 128 512其中，部署命令需传入 5 个核心参数，分别对应：image_path：输入图片路径encoder_model_path 参考资料[1] airockchip/rknn-llm: 'https://github.com/airockchip/rknn-llm'
1K10编辑于 2025-09-05
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号