- 综合排序
- 最热优先
- 最新优先
工厂端部署轻量化模型
在工厂端部署轻量化模型通过TensorRT加速的ResNet，是制造业实现实时物料追溯与质量检测的关键技术路径。以下从技术原理、实施步骤、应用场景及优化策略四个维度展开说明：一、为何选择轻量化模型？ 模型轻量化改造架构优化： 将ResNet-50替换为ResNet-18或MobileNetV3，参数量减少80%以上。 量化加速： 通过TensorRT的FP16/INT8量化，将模型从32位浮点转为低精度计算，推理速度提升2-4倍。 示例：ResNet-18在Jetson Xavier上INT8量化后，推理延迟从15ms降至4ms。2. AI方案模型选型： 基础模型：ResNet-34（ImageNet预训练） 轻量化后：剪枝至ResNet-12，INT8量化，体积从85MB→12MB。
1.4K10编辑于 2025-04-10- 来自专栏AI人工智能
边缘智能体：轻量化部署与离线运行
边缘智能体：轻量化部署与离线运行 Hello，我是摘星！ 在彩虹般绚烂的技术栈中，我是那个永不停歇的色彩收集者。 每一个优化都是我培育的花朵，每一个特性都是我放飞的蝴蝶。 'compressed_params': compressed_size }2.3 压缩效果对比分析压缩方法模型大小减少推理速度提升精度损失适用场景权重量化(INT8) 75%2-4x<2%通用场景结构化剪枝50-80%1.5-3x2-5%CNN模型知识蒸馏60-90%3-10x3-8%复杂模型低秩分解30-60%1.2-2x1-3%全连接层混合压缩80-95%5-15x5 50MB80ms94%8W高智能交通80MB120ms91%12W中智能零售30MB60ms89%6W高智能医疗100MB200ms96%15W中5.4 部署最佳实践class DeploymentBestPractices 'AI技术成熟', '边缘计算需求' ] }总结作为一名深耕AI技术多年的博主摘星，通过本文对边缘智能体轻量化部署与离线运行的全面探讨
1.2K11编辑于 2025-07-24 - 来自专栏AI智韵
YoloV8改进策略：RefConv打造轻量化YoloV8利器
我们使用RefConv替换YoloV8中的卷积，既能提高精度，又能降低运算量，使得模型更加轻量化！ spm=1001.2014.3001.5502 YoloV8官方结果 YOLOv8l summary (fused): 268 layers, 43631280 parameters, 0 gradients p3 230 105 0.99 1 0.995 0.801 p8 0.831 Speed: 0.2ms preprocess, 3.8ms inference, 0.0ms loss, 0.8ms postprocess per image 测试结果 YOLOv8l 总结 本文使用RefConv改进了YoloV8。其实我也尝试了很多种改进方式，没有效果。
52110编辑于 2024-10-22 - 来自专栏机器学习AI算法工程
yolov8 模型架构轻量化，极致降低参数量
模型轻量化加速是深度学习领域的重要研究方向，旨在减小模型的体积和计算复杂度，从而提高在资源受限设备上的运行效率，模型参数量在轻量化加速中扮演着至关重要的角色。 通过减少模型参数量，可以有效降低模型的体积，从而减小存储空间需求，使模型更容易在嵌入式设备和移动设备上部署。 其次，模型参数量对计算资源的需求有显著影响。 因此，在模型轻量化加速过程中，通过合理减少参数量，可以在保持模型性能的同时，实现模型的轻量化。 为了降低模型参数量，研究人员采用了多种方法，如剪枝、量化、蒸馏等。 本文将从另外一个角度，即模型的结构设计方面，实现参数量的最小，并以YOLOV8为例子，通过模型结构的轻量化设计，在保证模型性能稳定不变的前提下极致的压缩参数量 一、设计思路 从模型结构看V8主要有两个大的模块构成 模型结构轻量化参数对比 原yolov8参数：3011043 轻量化后参数：1436977 通过以上模块的替换使得模型参数降低至原来的一半不到，且精度不变，这是通过剪枝、蒸馏都没办到的
5.1K11编辑于 2024-05-29 - 来自专栏计算机魔术师
【腾讯云｜云原生】自定制轻量化表单Docker快速部署
本文将为展示在该服务器上部署轻量化定制表单服务为例带你一文走进该服务器的方方面面。 在这里插入图片描述 图片 先放效果图！！ Github开源地址✨✨： 自定制轻量化表单 一款基于pywebio 快速开发的表单，实现设置每个校区每个时间段只能被预约一次。 [ ](https://img-blog.csdnimg.cn/2eb6cc4c63b64a8e9dd60331323c4533.png) 图片 拉取github项目命令（该服务器自带Git的哦✨） git ✨✨ 运行命令： docker run -p 9000:9000 fast_form 图片 部署成功！！ Github开源地址✨✨： 自定制轻量化表单 有问题欢迎大家提出issues！ 如果喜欢请点点一个小小的star！！ 点赞，关注收藏！
79210编辑于 2023-10-12 - 来自专栏全栈工程师修炼之路
轻量化HTTP服务器环境快速搭建部署
[TOC] 0x01 快速搭建轻量化HTTP服务器 描述：在做运维或者安全相关的测试项目的时候，需要快速搭建HTML服务器环境来下载文件或者POC，主要针对于HTML代码与文件浏览下载; 1.Python 最近有个项目要构建一个轻量化的HTTP服务器，而且需要支持HTTPS 因为要求最好不使用IIS，所以用的是HttpListener类，HTTP部分已经完成，但是在增加HTTPS支持时出现报错 已知需要支持 = 404 } else { $content = & $route $buffer = [System.Text.Encoding]::UTF8.
1.6K10编辑于 2022-09-28 《OpenClaw边缘轻量化部署的核心技术与实践》
因此，边缘部署的第一步就是将微服务架构重构为单体架构，将所有核心功能整合到一个进程中，消除不必要的进程间通信开销。模型轻量化是OpenClaw边缘部署的第一步，但也是最容易被误解的一步。 传统的量化技术通常采用统一的量化精度，比如将所有的参数都量化为8位整数。但这种统一量化的方式会导致模型精度的损失，尤其是对于一些对精度敏感的层。 对于OpenClaw来说，混合精度量化是一种非常有效的轻量化手段，可以在几乎不损失核心能力的前提下，将模型的内存占用降低一半以上。知识蒸馏技术可以与量化技术结合使用，进一步提升轻量化模型的性能。 对于OpenClaw来说，知识蒸馏不仅可以用于压缩核心推理模型，还可以用于压缩各个功能模块的模型，实现整个框架的轻量化。任务特定的轻量化裁剪是比通用轻量化技术更有效的手段。 不同类型的边缘设备有着不同的硬件特性和资源约束，需要采用不同的轻量化策略。
28900编辑于 2026-05-30- 来自专栏YOLO大作战
YOLOv8轻量化：模型轻量化设计 | 轻量级可重参化EfficientRep| 来自YOLOv6思想
最重要的是，整合思想和实践，构建了一套不同规模的部署网络，以适应多样化的用例。在 YOLO 作者的慷慨许可下，作者将其命名为 YOLOv6。作者也热烈欢迎用户和贡献者进一步增强。
2.1K70编辑于 2023-11-08 - 来自专栏计算机魔术师
【腾讯云｜云原生】自定制轻量化表单Docker快速部署
本文将为展示在该服务器上部署轻量化定制表单服务为例带你一文走进该服务器的方方面面。先放效果图！！ Github开源地址✨✨： 自定制轻量化表单一款基于pywebio 快速开发的表单，实现设置每个校区每个时间段只能被预约一次。 （可以选择各种后端框架或者是内置服务器）
部署教程 ✨✨首先进入到服务器后，我们需要安装docker环境。 [](https://img-blog.csdnimg.cn/2eb6cc4c63b64a8e9dd60331323c4533.png)拉取github项目命令（该服务器自带Git的哦✨）git pull Github开源地址✨✨： 自定制轻量化表单有问题欢迎大家提出issues！ 如果喜欢请点点一个小小的star！！ 点赞，关注收藏！65420编辑于 2023-11-09 - 来自专栏Docker项目实战
轻量化知识库方案：Docker部署Dokuwiki 的最佳实践
hostnameIP地址操作系统版本Docker版本部署项目jeven01192.168.3.88Ubuntu24.04.2LTS28.3.3Dokuwiki2.2本次实践介绍1.本次实践部署环境为个人测试环境 ，生产环境请谨慎；2.在Docker环境下部署Dokuwiki个人知识库。 Dokuwiki服务5.1创建部署目录创建部署目录展开代码语言：BashAI代码解释mkdir-p/data/dokuwiki/config&&cd/data/dokuwiki目录授权展开代码语言：BashAI 代码解释chmod-R755/data/dokuwiki/5.2编辑部署文件使用docker-cli方式部署，可参考以下命令：展开代码语言：BashAI代码解释dockerrun-d\--name=dokuwiki 八、总结通过本次Docker部署Dokuwiki的实践，成功构建了一个轻量级、可移植的个人知识库系统，显著提升了部署效率与环境一致性。
1.4K00编辑于 2026-01-07 - 来自专栏计算机魔术师
【腾讯云｜云原生】自定制轻量化表单Docker快速部署
🙋♂️声明：本人目前大学就读于大二，研究兴趣方向人工智能&硬件（虽然硬件还没开始玩，但一直很感兴趣！希望大佬带带）
1.4K30编辑于 2023-09-30 - 来自专栏公众号:咻咻ing
8. 部署方案
JanusGraph提供了多种存储和索引后端选项，可以灵活地部署它们。本章介绍了一些可能的部署方案，以帮助解决这种灵活性带来的复杂性。 注意：本章中介绍的场景仅是JanusGraph如何部署的示例。 每个部署都需要考虑具体的用例和生产需求。 1. 基础部署 这种方案是大多数用户在刚开始使用JanusGraph时可能想要选择的方案。 后者描述了将部署向高级部署转换的方式。 任何可扩展存储后端都可以通过这种方案来使用。 但是，对于Scylla，当托管与此方案中的其他服务共存时，需要进行一些配置。 高级部署 高级部署是在第8.1节“基础部署”上的演变。 它们不是将JanusGraph Server实例与存储后端以及可选的索引后端一起部署，而是在不同的服务器上部署。 这种部署方案提供了不同组件的独立可伸缩性，因此使用可扩展的后端存储/索引当然也是最有意义的。 3. 简单部署 也可以在一台服务器上将JanusGraph Server与后端一起部署。
99320发布于 2019-08-07 - 来自专栏一个执拗的后端搬砖工
springboot(8)-热部署
spring为开发者提供了一个名为spring-boot-devtools的模块来使Spring Boot应用支持热部署，提高开发者的开发效率，无需手动重启Spring Boot应用。 接下来我们就通过编码的方式实现springboot热部署。 groupId> <artifactId>spring-boot-devtools</artifactId> </dependency> 二）修改ide配置&浏览器缓存禁用 为了实现热部署 请求能够被正常的接收和处理，也就是说明我们配置的springboot热部署已经生效。 总结 springboot热部署在开发阶段特别实用，我们对应用修改之后不需要手动点构建和部署就能自动重启后看到效果，当然可能springboot实现热部署还有其他方式，这里暂不做过多探讨，有兴趣的可以自己研究一下
69610发布于 2020-11-19 轻量化 vs 定制化：不同规模企业如何选择 MyEMS 部署模式？
然而，市场上的 MyEMS 部署方案大致分为 “轻量化” 与 “定制化” 两类，前者开箱即用、成本低，后者深度适配、灵活性高 —— 不同规模的企业该如何抉择？ 一、核心认知：轻量化与定制化 MyEMS 的本质差异要做出正确选择，首先需明确两种部署模式的核心定义与适用边界。 二者并非 “优劣对立”，而是针对不同需求场景的设计，其差异体现在部署方式、功能模块、成本周期等多个维度：对比维度轻量化部署（SaaS / 标准化部署）定制化部署（私有部署 / 深度开发）核心定义基于标准化模块的 上线后，通过分析发现某生产线 “能耗高但产量低” 的异常，优化工艺后单月能耗降低 8%，同时冷链设备故障预警率提升至 90%，减少停机损失约 5 万元 / 次。 典型案例：某大型汽车集团（旗下 8 个生产基地）采用全定制化 MyEMS，实现三大核心功能：① 各基地能耗数据实时汇总至集团总部，支持 “总部调控 - 基地执行” 的分级管理；② 对接生产系统，分析 “
62610编辑于 2025-10-14- 来自专栏Docker项目实战
Docker一键部署 Crumbs，自建轻量化私有笔记服务
极简的部署方式：提供高度容器化的支持，仅需一条 Docker 命令即可快速完成私有化环境的搭建与运行。 本次实践部署环境为个人测试环境，生产环境请谨慎；2.在Docker环境下部署Crumbs自托管笔记应用。 bretzel-app/crumbsff86ea2e5edc: Already exists82dd35b9bc5d: Pull completed0513e5eafd9: Pull complete539f12fec8ec Crumbs服务5.1 创建部署目录创建部署目录mkdir -p /data/crumbs/data && cd /data/crumbs在测试环境中，为了方便操作，我们直接为挂载目录设置了完全权限。 chmod -R 777 /data/crumbs5.2 docker-cli方式部署（可选）如果想要使用docker-cli方式部署，可参考以下命令部署。
8000编辑于 2026-10-14 模型轻量化技术
1.核心数学原理1.1核心思想在保留模型核心几何特征与视觉效果的前提下，通过简化几何、压缩数据、优化结构，降低模型存储体积与渲染压力，适配数字孪生实时渲染与大规模场景部署，核心是“损失可控的精度与效率平衡 /PCD），无非流形边、自相交面精度要求：明确轻量化误差阈值（≤0.1mm/0.3mm/1mm），核心细节区域需标注部署需求：明确渲染帧率要求（≥30fps）、存储体积限制（≤100MB/单体）3.2核心步骤 采样比例=10%-50%；高曲率点保留率=80%-90%细节保护：关键区域边折叠禁止阈值=0.005mm；细节区域采样密度提升20%数据压缩参数Draco压缩：顶点量化精度=10-16位；法向量量化精度=8- ：简化模型、压缩参数、LOD分级文件、精度验证报告输出：轻量化模型（glTF/GLB优先、3DTiles）、LOD模型集、部署配置文件坐标：与原始模型一致，右手系，Y轴向上，单位米，统一EPSG:4490 ：与原始模型更新同步，静态场景每季度1次，动态场景按需更新，轻量化参数同步调整
48810编辑于 2026-05-14- 来自专栏机器之心
多硬件支持、轻量化部署等，百度Paddle Lite特性全解读
针对多平台多硬件的场景，飞桨（PaddlePaddle）在今年 8 月份升级发布了 Paddle Lite 推理引擎。它支持多种硬件、多种平台，还具备轻量化部署、高性能实现等重要特性。 特性&能力 Paddle Lite 支持如下特性：①多硬件平台支持；②轻量化部署；③高性能实现；④量化计算支持。下面我们一一介绍。 1.1. 轻量级部署 完善的多硬件平台支持必须至少有如下支持，比如完整的各类硬件后端支持，多份硬件相关算子的实现，计算图详尽的分析和优化能力。这些能力的支持必然带来最终部署库的体积膨胀，难以轻量化部署。 在体积敏感的场景下，Paddle Lite 可以选择轻量化部署方案，即可以只部署执行阶段，而复杂的分析优化则封装到了离线工具中。 模型转换 为了满足手机端轻量化部署的需求，我们会在离线阶段进行模型结构的分析和优化，并将优化后的模型序列化到 Naive Buffer 的格式，从而减少部署包的体积，并实现无第三方依赖。
1.9K20发布于 2019-09-29 - 来自专栏集智书童
项目实践 | 从零开始边缘部署轻量化人脸检测模型——EAIDK310部署篇
继续上一章的话题，前面我们主要聊到关于人脸检测模型UltraFace的训练任务，本文将和大家讨论在开发板上如何部署UltraFace模型，并进行实时视频人脸检测，或者图片流人脸检测。 1Tengine简介 Tengine 由 OPEN AI LAB 主导开发，该项目实现了深度学习神经网络模型在嵌入式设备上的快速、高效部署需求。 为实现在众多 AIoT 应用中的跨平台部署，本项目基于原有 Tengine 项目使用 C 语言进行重构，针对嵌入式设备资源有限的特点进行了深度框架裁剪。 同时采用了完全分离的前后端设计，有利于 CPU、GPU、NPU 等异构计算单元的快速移植和部署，同时降低评估和迁移成本。 Tengine推理流程 依照顺序调用Tengine核心API如下： ?
1.3K20发布于 2021-07-07 QClaw本地部署实测｜零代码落地、本地隐私防护，企业轻量化AI Agent部署指南
一、QClaw技术定位与核心架构概述QClaw基于OpenClaw开源框架封装，是腾讯电脑管家推出的轻量化本地AI智能体，核心技术定位为「本地执行+微信直连+隐私计算」，解决传统AIAgent部署门槛高 核心架构采用分层设计，确保本地执行效率与安全隔离，整体架构分为5层，各层职责清晰、解耦性强，适配企业轻量化自动化场景：接入层：微信协议适配与扫码认证模块，实现微信聊天框与AI控制台的无缝对接，支持文字、 /macOS14不支持Linux桌面版，AppleSilicon与Intel芯片均适配CPU4核8核实测8核配置较4核，多任务并发效率提升47%内存8GB16GB空闲内存低于4GB时，任务执行易出现卡顿 /混合部署，数据主权可控部署成本零代码，3分钟快速部署需配置服务器/容器，部署耗时≥2小时可视化部署向导，企业级流程部署≤30分钟运维难度轻量化，支持自动更新，运维成本低需专业运维团队，维护成本高统一管控平台 ：小型企业优先选择QClaw标准部署，快速落地轻量化AI自动化；中型企业可采用QClaw+私有模型组合，平衡部署效率与数据安全；大型企业可考虑实在Agent企业版，其跨系统集成能力与细粒度权限管控，更适配复杂企业
3.8K00编辑于 2026-03-30- 来自专栏集智书童
项目实践 | 从零开始边缘部署轻量化人脸检测模型——训练篇
在模型大小上，默认FP32精度下（.pth）文件大小为 1.04~1.1MB，推理框架int8量化后大小为 300KB 左右。 2数据处理 2.1 输入尺寸的选择 由于涉及实际部署时的推理速度，因此模型输入尺寸的选择也是一个很重要的话题。 在作者的原github中，也提到了一点，如果在实际部署的场景中大多数情况为中近距离、人脸大同时人脸的数量也比较少的时候，则可以采用 的输入尺寸； 如果在实际部署的场景中大多数情况为中远距离、人脸小同时人脸的数量也比较多的时候 ，则可以采用 或者 的输入尺寸； 这里由于使用的是EAIDK310进行部署测试，边缘性能不是很好，因此选择原作者推荐的最小尺寸 进行训练和部署测试。 6模型转换 由于部署使用的是Tengine边缘推理框架，由于pytorch输出的模型无法直接转换到tmfile模型下，因此还是选择使用onnx中间件的形式进行过度，具体实现代码如下： model_path
1.4K40发布于 2021-07-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号