- 综合排序
- 最热优先
- 最新优先
- 来自专栏JNing的专栏
【pytorch】ncnn
onnx转ncnn 完整实现： def onnx2ncnn(self): assert os.path.isfile(simplified_onnx_path) os.system(' python -m onnxsim .\2task.aiyou.0.0.onnx 2task.0.0.onnx 2. onnx2ncnn 2.1.指令转ncnn 安装： 参照 进行安装。 把ncnn/build/tools/下的 onnx2ncnn 和 ncnnoptimize（其他地方会用到） 移到全局环境下： 即可到任意目录下执行 onnx 到 ncnn 的转换： 2.2 .网站在线转ncnn 进入 convertmodel.com 进行在线转换： 3. 优化ncnn Note：如果不优化的话，pnn下loadModel时可能会fail。
79010编辑于 2021-12-06 - 来自专栏GoCoding
Flutter ncnn 使用
/tree/main/demo_ncnn ncnn 体验 ncnn 环境准备 获取 ncnn 源码，并编译。 cat <<-EOF >> ~/.bashrc # ncnn export NCNN_HOME=/usr/local/ncnn export PATH=\$NCNN_HOME/bin:\$PATH ncnn 推理实践 修改 ncnn/examples/yolox.cpp detect_yolox() 里模型路径，重编译后测试： cd ncnn/build/examples . ， demo_ncnn/: 选择图片进行 ncnn 推理的 Flutter 应用 plugins/ncnn_yolox/: ncnn 推理 yolox 模型的 Flutter FFI 插件 安装依赖， add_library(ncnn_yolox SHARED "ncnn_yolox.cc" ) target_link_libraries(ncnn_yolox ncnn ${OpenCV_LIBS
1.3K20编辑于 2023-08-26 - 来自专栏全栈程序员必看
ncnn笔记_cnn代码
最近看了ncnn的源码，代码风格清爽， 遂想先抛开VULKAN记录一下它的推理流程。 1. yolov2.cpp //construct net ncnn::Net yolov3; yolov3.load_param("mobilenetv2_yolov3.param"); yolov3 .load_model("mobilenetv2_yolov3.bin"); //read in img ncnn::Mat in = ncnn::Mat::from_pixels_resize(bgr.data yolov3.create_extractor(); ex.set_num_threads(4); //provide input ex.input("data", in); //get output ncnn 先写这么多入个门， ncnn的重点应该是针对各类算子在移动设备端的优化。
73420编辑于 2022-09-20 - 来自专栏我的机器学习之路
Pytorch转NCNN的流程记录
PyTorch转NCNN的流程十分简单，如果顺利的话只需要两步： PyTorch转ONNX torch.onnx. _export(model, x, path, opset_version=11) ONNX转NCNN . /onnx2ncnn model.onnx model.param model.bin 可是世上哪有那么多一帆风顺的事，这篇文章记录的就是模型重训练之后转成NCNN的过程中遇到的问题和解决方案。 解决：修改NCNN模型的param文件，将Resize算子修改成按比例resize。 模型输出结果与ONNX模型不同 解决：逐层对比NCNN与onnx模型的输出结果 使用onnxruntime（Python）和NCNN（C++）分别提取每个节点的输出，进行对比。
3K51发布于 2020-10-26 - 来自专栏GiantPandaCV
Keras2NCNN？Yes
转换路线 我的转换路线为： Keras->Caffe->NCNN 首先Caffe->NCNN是NCNN默认支持的，所以不需要我做任何工作，所以我的工作主要就是Keras->Caffe。 模型 编译NCNN，执行模型转换命令： ~/ncnn/build/tools/caffe/caffe2ncnn new.prototxt new.caffemodel new.param new.bin set(EXECUTABLE_OUTPUT_PATH ./) # 分别设置ncnn的链接库和头文件 set(NCNN_LIBS /home/pc/bbuf_project/ncnn/build/install /lib/libncnn.a) set(NCNN_INCLUDE_DIRS /home/pc/bbuf_project/ncnn/build/install/include/ncnn) # 配置OpenMP }) # 建立链接依赖 add_executable(NCNN_SEG main.cpp) target_link_libraries(NCNN_SEG ${NCNN_LIBS}) target_link_libraries
1.1K10发布于 2020-07-23 - 来自专栏Ar-Sr-Na
【Python】Pytorch模型转NCNN模型
前言最近用Real-ESRGAN的时候遇到了个问题，别人预训练的模型都是Pytorch的.pth格式的模型，但NCNN打包的ESRGAN只能使用.param和.bin的NCNN模型，有没有办法转换chaiNNer 此时进入就不会提示安装Python了，因为我们只做模型转换，ffmpeg的功能暂时用不上，他也会下载ffmpeg，就只能耐心等了，报错不用理，一样能够进入软件安装依赖使用内嵌Python点这里打开需要下载Pytorch和NCNN Python（需要设置环境变量，如果没有需要设置python路径）使用GPU转换在左侧面板，Search搜索Load Model，选择Pytorch里面的，拖入工作流然后选择转换器Convert to NCNN ，连起来最后保存为NCNN模型（Save Model，选择NCNN里面的）第一步选择.pth的模型，最后一步设置保存的目录和名称最后点击上面的运行，很快就转换完成了
53610编辑于 2024-12-25 ubuntu上部署yolox的ncnn模型
库： https://github.com/Tencent/ncnn/releases/download/20230223/ncnn-20230223-ubuntu-1804-shared.zip 解压后 的动态库，修改到自己下载的ncnn路径 set(ncnn_DIR /home/darknet/CM/10_device/ncnn-20230223-ubuntu-1804-shared/lib/cmake /ncnn) find_package(ncnn REQUIRED) # 2. opencv动态库 find_package(OpenCV REQUIRED) add_executable(yolox yolox.cpp) target_link_libraries(yolox ncnn ${OpenCV_LIBS}) 注意这个CMakeLists.txt和yolox.cpp一起，yolox.cpp 代码就在yolox官方源码demo/ncnn/cpp里面，然后编译 mkdir build && cd build cmake .. make -j 结果：
26410编辑于 2025-07-20- 来自专栏3D视觉从入门到精通
实践教程｜YOLOX目标检测ncnn实现
得到由onnx-simplifier的模型之后，就可以开始转换ncnn之旅了！ （贴太多图了，模型图就不贴了，大家可以自己用netron打开欣赏） # ncnn_root代表ncnn根目录 cd /ncnn_root/build/tools/onnx . 具体怎么写focus可以去看up写的转换yolov5s到ncnn的文章，我这里主要只讲具体操作过程:nihui：详细记录u版YOLOv5目标检测ncnn实现zhuanlan.zhihu.com ? 的代码），为看简单起见，咱们直接把yolox.cpp文件挪到ncnn工程的examples目录下，然后在/ncnn\_root/examples/CMakeLists.txt中做如图修改: ? 或者你直接给绝对路径也行） 最后附上ncnn的结果（有彩蛋，大概算吧）. ? 啊，彩蛋就是ncnn没有出现那个误检的框......参数配置都是一样，conf0.3，nms0.65, size 416。
2.3K41发布于 2021-07-27 - 来自专栏毛利学Python
yolov5模型转换NCNN模型部署
写作原因：最近看了下nihui大佬的ncnn，练习着将yolov5训练的模型转换成ncnn模型并部署，同时借鉴了网上优秀的博文，记录一下，如有不对的地方，请多多指教。 说明：pytorch模型转换成onnx模型，及onnx模型简化和转ncnn模型在引用的文章中都有详细的说明，可移步至引用文章中查看。 先来看下ncnn模型，两个，一个是param一个是bin，需要修改的是param。 图1 其实yolov5 v1-v5版本在训练完后，使用onnx2ncnn.exe将简化后的onnx模型转换成ncnn模型时主要出现这个问题。 动态尺寸推理 图6 说明：为什么要修改这里，nihui大佬的解释是 u版yolov5 是支持动态尺寸推理，但是ncnn天然支持动态尺寸输入，无需reshape或重新初始化，给多少就算多少。
3.1K20编辑于 2022-09-22 - 来自专栏快乐阿超
sherpa-ncnn端到端语音识别
——冯骥才 https://github.com/k2-fsa/sherpa-ncnn Sherpa-NCNN：高效的端到端语音识别框架 在语音识别领域，实时性与高性能一直是关键挑战。 Sherpa-NCNN是一款基于NCNN框架的端到端语音识别工具，专注于低资源设备上的高效运行。该项目由K2团队开发，旨在为开发者提供轻量级、开源且性能优越的语音识别解决方案。 什么是Sherpa-NCNN？ Sherpa-NCNN是一个面向低资源设备（如手机、嵌入式设备等）的端到端语音识别框架，基于腾讯开源的高性能推理框架NCNN构建。 克隆仓库 从GitHub获取Sherpa-NCNN的代码： 12 git clone https://github.com/k2-fsa/sherpa-ncnn.gitcd sherpa-ncnn 您可以从Sherpa-NCNN模型仓库下载预训练模型。 应用场景 Sherpa-NCNN适用于以下场景： 离线语音识别：在无网络环境下进行语音转录。
1.5K10编辑于 2024-12-20 - 来自专栏腾讯开源的专栏
【开业大吉】ncnn君是大厨师
ncnn 君是做什么的？ ncnn君是大厨师(框架)，会做很多菜，但凡涉及人工智能的菜(应)肴(用)都可以做，比如类似于 faceu 的贴猫耳贴爱心，比如自动识别照片中的东西，比如自动修图作画等等。 ncnn君做菜手法高超，煎、炸、炒、拌、蒸样样都会(支持各种CNN)，只要研究人员将研究好的菜(模)谱(型)递给ncnn君，ncnn君就能照着做出来好(智)吃(能)的菜(应)肴(用)。 为什么要选择ncnn君？ 雇用 ncnn 君的正确姿势！ ncnn君表示，腾讯的好多食客(QQ/Qzone/微信)对他的做菜功力赞赏尤佳，迫切期待更多能懂自己的朋友，一同品味人间美味。 ncnn君于7月24日开业酬宾，进店地址： https://github.com/Tencent/ncnn 好吃客在github上赏个star再走！ ?
77360发布于 2018-03-02 - 来自专栏C++开发学习交流
【AI模型】ncnn深度学习框架配置与使用
1. ncnn介绍 项目Github地址：https://github.com/Tencent/ncnn ncnn（Nebula Convolutional Neural Network）是一个高效、轻量级的深度学习框架 以下是 ncnn 的一些关键特点和优势： 1.轻量级和高效性能：ncnn 是一个轻量级的深度学习框架，可以在资源受限的设备上高效运行。 2.跨平台支持：ncnn 提供了广泛的跨平台支持，包括 Android、iOS、Windows、Linux 等多个操作系统。 3.易于集成：ncnn 提供了简洁的 C++ 接口，易于集成到现有项目中。 4.丰富的模型支持：ncnn 支持多种深度学习模型的加载和推理，包括常见的卷积神经网络（CNN）、循环神经网络（RNN）、生成对抗网络（GAN）等。
1.6K10编辑于 2024-07-24 - 来自专栏腾讯开源的专栏
开源项目介绍｜ncnn - 神经网络推理框架
2022腾讯犀牛鸟开源人才培养计划 开源项目介绍 滑至文末报名参与开源人才培养计划 提交 ncnn 项目Proposal ncnn 项目介绍 一个为手机端极致优化的高性能神经网络前向计算框架。 ncnn 项目导师介绍 倪辉 ncnn作者 导师寄语： ncnn是业界知名的AI推理框架，社区支持很好，参与研发是能学到知识和技术的，导师会很耐心帮助你的，对吧对吧！ ncnn 相关资料 ncnn 优秀开源 AI 应用大典： https://github.com/zchrissirhcz/awesome-ncnn https://github.com/Baiyuetribe /ncnn-models ncnn 架构技术视频： https://b23.tv/mv7rea1 ncnn 任务实战项目 编程任务 Project: ncnn custom namespace Brief Explanation: 允许用户编译时指定namespace，替代ncnn，以便多个版本ncnn同时使用 Knowledge Prerequisite: C++ Level: Easy Project
1.9K20编辑于 2022-06-27 - 来自专栏腾讯技术工程官方号的专栏
第二篇|腾讯开源项目盘点：ncnn、xLua、libco等
1、为手机端极致优化的高性能神经网络前向计算框架 ncnn star:5666 ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。ncnn 从设计之初深刻考虑手机端的部署和使用。 基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能 APP，将 AI 带到你的指尖。ncnn 目前已在腾讯多款应用中使用，如 QQ，Qzone，微信，天天P图等。 量化和半精度浮点存储，可导入 caffe 模型 支持直接内存零拷贝引用加载网络模型 可注册自定义层实现并扩展 恩，很强就是了，不怕被塞卷 QvQ 项目地址： https://github.com/Tencent/ncnn
2.7K30发布于 2019-05-16 - 来自专栏AI科技评论
业界 | 腾讯优图首个开源项目 ncnn 加入 ONNX
AI 科技评论按：腾讯优图首个 AI 开源项目 ncnn 目前已正式加入 ONNX，现已支持将 ONNX 文件转换为 ncnn 模型。 据 GitHub 主页显示，ncnn 目前已收获 4465 个 star , 1129 个 folk。 GitHub 地址：https://github.com/Tencent/ncnn 据 GitHub 介绍，ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。 基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能 APP，将 AI 带到你的指尖。ncnn 目前已在腾讯多款应用中使用，如 QQ，Qzone，微信，天天P图等。 与此同时，ncnn 也能借助 ONNX 良好的项目生态，帮助打破不同框架间的模型转换壁垒。
84910发布于 2018-09-21 - 来自专栏腾讯开源的专栏
开源项目介绍｜ncnn-神经网络推理框架
2023腾讯犀牛鸟开源人才培养计划 开源项目介绍 扫码填写问卷报名，提交ncnn项目申请书 加入开发实践 与导师一起成长这一夏 ncnn 项目介绍 ncnn是一个为手机端极致优化的高性能神经网络前向计算框架 ncnn 项目导师寄语 倪辉，ncnn作者 ncnn是业界知名的AI推理框架，社区支持很好，参与研发是能学到知识和技术的，导师会很耐心帮助你的，对吧对吧！ ncnn 相关资料 ncnn 优秀开源 AI 应用大典： https://github.com/zchrissirhcz/awesome-ncnn https://github.com/Baiyuetribe /ncnn-models ncnn 架构技术视频： https://b23.tv/mv7rea1 ncnn 任务实战项目 编程任务 1(easy) rewrite logsoftmax and logsigmoid to ncnn ops in pnnx 在pnnx中将 logsoftmax和logsigmoid重写为ncnn的op ncnn有log和softmax sigmoid算子实现，但没有 logsoftmax
1.3K30编辑于 2023-07-16 - 来自专栏腾讯开源的专栏
开源项目介绍 ｜ ncnn-神经网络推理框架
ncnn项目介绍 ? ncnn是一个为手机端极致优化的高性能神经网络前向计算框架。基于 ncnn，开发者能够将深度学习算法轻松移植到手机端高效执行，开发出人工智能 APP，将 AI 带到你的指尖。 ncnn项目导师介绍 ? 倪辉 ncnn作者 导师寄语： ncnn是业界知名的AI推理框架，社区支持很好，参与研发是能学到知识和技术的，导师会很耐心帮助你的，对吧对吧！ ? ? ncnn相关资料 ? ncnn项目地址：https://github.com/Tencent/ncnn ? 期望结果： ncnn::from_apple_cgimage 和 ncnn::to_apple_cgimage ncnn::from_macos_nsimage 和 ncnn::to_macos_nsimage /Tencent/ncnn/issues/889 Tencent/ncnn#1358 https://github.com/Tencent/ncnn/issues/1358 Tencent/ncnn#1726
7K21发布于 2021-06-21 - 来自专栏优图实验室的专栏
直播预告 | 谈谈ncnn的设计理念和软件工程
在此背景下，同年7月，腾讯优图实验室第一次对外公开深度学习的研究成果——ncnn，一个针对移动平台优化的高性能神经网络推理框架。 作为业界首个为移动端优化的开源神经网络推断库，ncnn几乎开启了国内深度学习框架开源的“热潮”。它能实现无第三方依赖，跨平台，在手机端cpu运算速度在开源框架中更是处于领先水平。 本次优Tech沙龙，我们就邀请到了ncnn开源负责人、腾讯优图实验室高级研究员nihui来为大家进行分享。他奠定了 ncnn 的所有架构设计和发展规划，并承担了 GitHub 上近 80%的维护工作。 这次，nihui将以这个ncnn项目“设计师”的身份，来跟大家谈谈ncnn项目的架构设计，设计上的动机和理由；以及ncnn项目运作多年所依赖的软件工程方法。 所有对ncnn有兴趣的朋友们，可千万别错过这次深入学习的机会哦！
66940发布于 2021-01-12 - 来自专栏CSDN博客
在Android手机上使用腾讯的ncnn实现图像分类
ncnn的GitHub地址：https://github.com/Tencent/ncnn 使用Ubuntu编译ncnn库 1、首先要下载和解压NDK。 # 进入到ncnn源码根目录下 cd ncnn # 创建一个新的文件夹 mkdir -p build-android-armv7 # 进入到该文件夹中 cd build-android-armv7 # 的根目录，就是我们上一部分克隆的ncnn源码。 cd ncnn/ 6、在根目录下编译ncnn源码。 static ncnn::Mat ncnn_param; static ncnn::Mat ncnn_bin; static ncnn::Net ncnn_net; extern "C" {
4.1K60发布于 2020-05-06 - 来自专栏GiantPandaCV
NCNN+INT8+YOLOV4量化模型和实时推理
【GiantPandaCV导语】本文记录了作者使用NCNN量化YOLOV4模型并进行推理的全过程，过程比较详细，希望对想使用NCNN这一功能的读者有帮助。 一、前言 2021年5月7日，腾讯优图实验室正式推出了ncnn新版本，这一版本的贡献毫无疑问，又是对arm系列的端侧推理一大推动，先剖出nihui大佬博客上关于新版ncnn的优化点： 继续保持优秀的接口稳定性和兼容性 的int8量化初探 趁着这股热风，赶紧试下新版ncnn量化版int8（更重要的原因是月底要中期答辩了，毕设还没搞完，赶紧跑跑大佬的库，顺带嫖一波） 2.1 安装编译ncnn 话不多说，在跑库前先安装编译好需要的环境 NCNN_PROFILING double t_capture_end = ncnn::get_current_time(); fprintf(stdout - t_detect_start); #endif #ifdef NCNN_PROFILING double t_draw_start = ncnn::get_current_time
3K30发布于 2021-05-18
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号