- 综合排序
- 最热优先
- 最新优先
- 来自专栏玩转OpenClaw
【AI 部署】通过 Lighthouse、OrcaTerm AI 助手部署 OpenClaw
一、什么样的用户，最适合通过 AI 助手部署 OpenClaw ？在所有部署方式里，AI 助手部署并不是“唯一方案”，但它是最省心的方案之一。 只要在 AI 助手中表达一句清晰的意图，例如：“帮我部署 OpenClaw”AI 助手就会自动识别你的需求，并进入部署引导流程2️⃣ 操作极简， AI 会替你处理「最烦人的部分」整个过程高度“自动化”， 第二步：唤起 AI 助手面板点击 AI 助手后，右侧会弹出对话面板。在首屏你通常可以看到一些推荐的快捷问题，例如部署、运维、诊断类操作。 第三步：触发 OpenClaw 部署你可以选择以下任意方式：● 直接点击首屏的 「帮我部署 OpenClaw」 快捷提示● 或者手动输入：帮我部署 OpenClaw四、接下来的操作流程：你负责"点"，AI Lighthouse 、 OrcaTerm AI 助手部署 OpenClaw，本质是把“原本人工手搓的部署流程”，变成了一次“对话式、引导式”的产品体验。
14.3K310编辑于 2026-03-06 - 来自专栏C++开发学习交流
【AI模型】AI模型部署概述
AI模型部署方法 在AI深度学习模型的训练中，一般会用Python语言实现，原因是其灵活、可读性强。但在AI模型实际部署中，主要会用到C++，原因在于其语言自身的高效性。 AI模型部署框架 模型部署常见的推理框架有：ONNX、NCNN、OpenVINO、 TensorRT、Mediapipe。 AI模型部署平台 AI 模型部署是将训练好的 AI 模型应用到实际场景中的过程。 以下是一些常见的 AI 模型部署平台： 云端部署 云端部署是最流行的 AI 模型部署方式之一，通常使用云计算平台来托管模型和处理请求。 容器化部署 容器化部署是将 AI 模型封装到一个轻量级的容器中，然后在不同的环境中进行部署和运行。容器化部署可以提高可移植性和灵活性，并简化部署过程。
2K10编辑于 2024-07-24 云酒馆部署SillyTavern酒馆AI云端部署指南
“云酒馆AI”通常指把 SillyTavern 这个本地 LLM 前端部署到云端，通过浏览器随时访问，实现角色扮演、聊天、TTS 与图像生成等丰富玩法。
5.9K10编辑于 2025-09-29- 来自专栏Khan安全团队
还在买 Clawdbot AI ？保姆级 Clawdbot AI 部署教程
选择安装 Claude Skill 和 hook 最后就出这个界面，让你打开本地聊天界面
2.7K40编辑于 2026-01-28 AI模型的部署与监控
AI模型的部署与监控：如何在生产环境中部署AI模型随着人工智能技术的不断发展，AI模型在各个行业中的应用越来越广泛。 在本文中，我们将探讨AI模型的部署与监控的关键步骤，介绍在生产环境中部署AI模型的常见方法，以及如何通过监控确保模型在实际应用中的长期有效性。1. AI模型部署的基本步骤AI模型的部署并非一次性的任务，它是一个持续优化和维护的过程。 步骤二：选择部署平台选择合适的部署平台是成功部署AI模型的关键。常见的部署平台包括：云服务平台：如AWS、Azure、Google Cloud等。 总结AI模型的部署和监控是确保其在生产环境中长期稳定运行的关键步骤。从选择部署平台、容器化部署到自动化CI/CD流程，部署的每一步都需要精心规划。
91910编辑于 2025-02-03- 来自专栏AllTests软件测试
本地部署AI大模型DeepSeek
1、前言 在刚刚过去的春节假期，AI界可一点都不平静，一款来自中国的AI应用 DeepSeek，如同横空出世的黑马，迅速在全球范围内掀起了波澜。 这一系列令人咋舌的事件，让DeepSeek这个名字，瞬间成为了全球AI领域的焦点。 DeepSeek是一家专注于人工智能技术的公司（中国杭州深度求索）及其推出的大语言模型的名称。 从诞生之初就怀揣着推动人工智能技术发展的宏大愿景，致力于开发先进的大语言模型（LLM）和相关技术，在短短一年多的时间里，便在竞争激烈的AI领域崭露头角。 官方网址： https://www.deepseek.com/ 本篇讲解如何快速的在本地部署AI大模型DeepSeek。 2、本地部署DeepSeek 1、首先要下载安装Ollama。 Ollama是一个开源的大型语言模型本地部署框架。 特点： 多平台支持，如Windows、macOS、Linux，还支持Docker，方便跨平台部署。
84410编辑于 2025-02-10 - 来自专栏云原生知识宇宙
在 TKE 上部署 AI 大模型
概述本文介绍如何在 TKE 上部署 AI 大模型，以 DeepSeek-R1 为例，使用 Ollama、vLLM 或 SGLang 运行大模型并暴露 API，然后使用 OpenWebUI 提供交互界面。 Ollama 提供是 Ollama API，部署架构：vLLM 和 SGLang 都提供了兼容 OpenAI 的 API，部署架构：Ollama、vLLM、SGLang 与 OpenWebUI 介绍Ollama vLLM 的特点：推理性能更好，也更节约资源，适合部署到服务器供多人使用，还支持多机多卡分布式部署，上限更高，但能适配的 GPU 硬件比 Ollama 少，且需要根据不同 GPU 和大模型来调整 vllm 选型建议：如果有一定的技术能力且愿意折腾，能用 vLLM 或 SGLang 成功跑起来更推荐用 vLLM 和 SGLang 将大模型部署到 Kubernetes 中，否则就用 Ollama ，两种方式在本文中都有相应的部署示例 节点池启用弹性伸缩的方法是编辑节点池，然后勾选弹性伸缩，配置一下节点数量范围，最后点击确认：步骤7: 部署 OpenWebUI使用 Deployment 部署 OpenWebUI，并定义 Service
1.3K01编辑于 2025-02-20 - 来自专栏AI技术应用
AI私有化部署的费
AI私有化部署的费用构成非常复杂，不像云服务那样可以简单地按小时或按API调用量计费。它涉及到大量的前期投入（CapEx）和持续的运营维护成本（OpEx）。 以下是AI私有化部署的主要费用组成部分：一、前期投入 (Capital Expenditure - CapEx)这部分费用通常是最大头，且在项目初期一次性或分批支付。 3.集成与部署服务费用：如果企业内部缺乏经验，可能需要聘请外部专业服务公司进行硬件安装、软件配置、系统集成、网络调试和AI模型部署。这笔费用取决于服务的复杂度和时间。 总结：AI私有化部署的费用远高于简单的云服务API调用，主要体现在高昂的前期硬件投入和持续的专业运维成本上。 对于大型企业、对数据安全和性能有极致要求、或拥有长期稳定且高并发的AI工作负载，且具备较强IT运维能力的组织而言，本地化部署可能是值得投资的。
4.5K10编辑于 2025-06-06 - 来自专栏AI技术应用
AI大模型本地化部署
AI大模型本地化部署是将大规模人工智能模型（如GPT、LLaMA、DeepSeek等）部署到本地服务器或设备上，以满足数据隐私、安全性和性能需求的过程。 以下是AI大模型本地化部署的关键步骤、技术难点及解决方案。一、本地化部署的关键步骤1.需求分析与规划 明确应用场景（如智能客服、文本生成、图像识别等）。评估本地硬件资源（GPU、内存、存储）和预算。 3.数据隐私与安全难点：本地化部署需确保数据隐私和合规性。解决方案：采用私有化部署方案，避免数据外传。4.部署复杂性难点：从硬件调试到模型优化，流程复杂。 企业级应用：浪潮计算机推出“推理一体机”，支持多行业快速部署AI能力。五、未来趋势软硬协同：更多“开箱即用”的一体化解决方案将涌现。国产化适配：国产AI算力和模型（如DeepSeek）将加速普及。 边缘计算：大模型将更多部署到边缘设备，满足实时性需求。通过以上步骤和解决方案，AI大模型本地化部署可以更好地满足行业需求，推动AI技术的广泛应用。
4.5K10编辑于 2025-03-08 Docker本地部署Crawl4AI
之前本地部署的firecrawl无法正常运行了，于是今天来部署github另外一个高star的爬虫项目：Crawl4AI# Pull the release candidate (recommended for latest features)docker pull unclecode/crawl4ai:0.6.0-r1# Or pull the latest stable versiondocker pull unclecode/crawl4ai:latest如果要使用LLM，准备一个.llm.env文件# Create a .llm.env file with your API keyscat \ --shm-size=1g \ unclecode/crawl4ai:latestWith LLM support:# Make sure .llm.env is in the current \ unclecode/crawl4ai:latest配置部署成功http://10.213.151.220:11235
1.3K10编辑于 2025-06-13- 来自专栏智药邦
AI+CRO｜Sygnature部署Iktos的AI药物设计软件
2022年5月10日，专门从事新药设计的AI公司Iktos和总部位于英国诺丁汉的CRO公司Sygnature Discovery宣布达成一项AI新药设计的合作协议。 根据这项为期3年的协议，Sygnature将部署Iktos的新生成设计软件Makya™，该软件将被Sygnature的科学家用来促进快速有效地设计新型化合物，并加速hit-to-lead/lead优化。 , MPO) 的生成性人工智能驱动的新设计软件 (技术文章参见J Comput Chem｜应用于多参数优化的基于配体的从头设计深度生成模型)，可作为SaaS平台使用，也可在客户本地或客户的虚拟私有云中部署 更多信息：http://www.iktos.ai/ 关于Sygnature Sygnature Discovery是一家领先的独立综合药物发现和非临床服务企业。 https://www.businesswire.com/news/home/20220510005247/en/Sygnature-Discovery-to-Deploy-Iktos%E2%80%99s-AI-for-Drug-Design-Software-Makya
38420编辑于 2022-06-08 一键部署 next-ai-draw-io：AI 绘图神器极简部署使用指南
一、为什么选择 EdgeOne Pages 部署？ next-ai-draw-io 是一款革命性的 AI 绘图应用，通过自然语言命令即可生成专业图表。 二、部署前准备1、获取Gitee/Github仓库： 一些众所周知的原因，若无法访问Github，可以使用Gitee。访问next-ai-draw-io Gitee仓库。 ）2）点击该链接，即可访问你的 AI 绘图应用⏱️ 实测时间：从点击部署到应用上线，平均耗时 2 分 15 秒四、部署后使用指南1、首次使用体验访问部署后的地址，进入应用首页，进行模型配置。 零技术门槛：无需懂 DevOps，业务人员也能部署极速上线：从点击部署到可用，2 分钟内完成成本极低：免费额度覆盖 90% 的日常使用场景七、总结通过 EdgeOne Pages 部署 next-ai-draw-io 现在就去 EdgeOne 部署你的 AI 绘图应用，让创作速度飞起来！（部署链接：点击一键部署）
3.1K20编辑于 2026-01-27- 来自专栏Debug日志
智能AI搭建：FastGPT本地简易部署
———— 马尔科姆·格拉德威尔 最近看到一个开源AI项目——FastGPT，感觉挺强大，准备部署到本地玩一玩。 FastGPT： 基于 LLM 大模型的开源 AI 知识库构建平台。 提供了开箱即用的数据处理、模型调用、RAG 检索、可视化 AI 工作流编排等能力，帮助您轻松构建复杂的 AI 应用。 官网：FastGPT 一、前置环境 1.1 Docker 安装 这里我使用的是Windows桌面版Docker Desktop来部署 参考文章： 一篇就够！ -`uname -s`-`uname -m` -o /usr/local/bin/docker-compose chmod +x /usr/local/bin/docker-compose 二、本地化部署 查看相关教程 本地FastGPT： 以上就相当于本地部署了一个简易版的FastGPT，接下来就可以本地玩一玩，创建自己的应用以及训练知识库等等。
1.9K10编辑于 2025-10-13 - 来自专栏AI技术应用
AI本地化部署的流程
AI本地化部署（On-Premise AI Deployment）的流程是一个系统性、多阶段的过程，旨在将AI模型及其所有相关组件（数据、基础设施、应用程序）部署在企业自己的数据中心或边缘设备上。 阶段四：AI服务化部署 (AI Servitization & Deployment)构建推理服务：API开发： 为AI模型创建RESTful API或gRPC接口，作为模型推理的入口。 Kubernetes部署与管理：定义Kubernetes部署文件： 编写Deployment、Service、Ingress等YAML文件，定义AI服务的部署方式、副本数量、资源限制（CPU、GPU、内存 部署到K8s集群： 使用kubectl apply -f命令将AI服务部署到Kubernetes集群。 AI本地化部署是一个长期的过程，需要企业持续投入资源进行优化、维护和迭代。
1.8K10编辑于 2025-06-06 - 来自专栏AI技术应用
AI本地化部署的优势
AI本地化部署（On-Premise AI Deployment）指的是将AI模型、数据、基础设施和相关应用程序全部部署在企业自己的服务器、数据中心或边缘设备上，而不是依赖于第三方云服务提供商。 资源利用率最大化： 如果企业已经拥有或计划购买昂贵的AI专用硬件（如GPU），本地部署可以确保这些投资得到充分利用，而不是按照云服务商的计费模型按小时计费。 离线能力与边缘计算离线运行： 在网络连接不稳定或无网络连接的环境中，本地部署的AI系统仍然可以独立运行，例如在远程油田、偏远地区的工厂、或车载系统中。 边缘智能： 将AI模型部署到边缘设备（如物联网设备、智能摄像头、生产线控制器）上，可以在数据生成端直接进行实时分析和决策，无需将数据传回云端，进一步降低延迟和带宽需求。 总结AI本地化部署的优势主要体现在数据主权、安全性、性能、低延迟、长期成本控制以及高度的定制化和集成能力。这些优势使得它成为许多对安全、性能和合规性有严苛要求的企业或特定行业应用场景的首选方案。
2.1K11编辑于 2025-06-06 - 来自专栏AI系统
【AI系统】训练后量化与部署
需要注意的是部分部署硬件有可能不支持 per-channel 量化推理。 激活量化：即对网络中不含权重的激活类算子进行量化。 For Find index m for which divergence[m] is minimal threshold = (m+0.5) * (width of a bin) 端侧量化推理部署
1.4K10编辑于 2024-12-06 - 来自专栏腾讯云服务器团队的专栏
GPU LAB 炼丹秘籍｜快速部署 AI 绘画
部署有一定门槛 可以看出，使用云服务器部署 AI 绘画模型是综合性价比最高的一种方式，但由于其使用的固有门槛，导致大多数炼丹师望而却步。 本文将演示如何使用 GPU LAB，极简部署 AI 绘画模型，降低用户在云服务器部署 AI 绘画模型的使用门槛。 购买服务器（3-5分钟） 首先，需购买一台腾讯云的 GPU 服务器。 可进入下一步，开始 AI 绘画环境部署。 安装完毕后进程中没有NVIDIA-、cuda-、cudnn-等 开始部署 Plan A（推荐）：三条指令部署 AI 绘画环境 在确保已完成驱动自动安装后，可通过执行下述三条指令，快速部署 AI 绘画环境 PlanB：一键完成 AI 绘画环境部署 同 planA，在确保已完成驱动自动安装后，可将 planA 中三条指令合为一条，一键完成 webui 部署。
2.7K21编辑于 2023-05-15 - 来自专栏AI技术应用
AI大模型的本地化部署
AI大模型的本地化部署，是将原本在云端运行的大型人工智能模型，转移到本地的硬件设备上运行。这种部署方式，在数据隐私、网络延迟、成本控制等方面，都有着重要的意义。 以下是关于AI大模型本地化部署的一些关键方面。1. 本地化部署的优势：数据隐私： 本地部署可以最大限度地保护敏感数据，避免数据在传输和存储过程中泄露的风险。 成本控制： 长期来看，本地部署可以减少对云服务的依赖，降低运行成本。离线运行： 本地部署使得应用可以在没有网络连接的情况下运行，提高了应用的可用性。2. 安全问题： 本地化部署需要注意本地设备的安全，防止模型被恶意使用。3. 本地化部署的关键技术：模型量化： 通过降低模型的精度，减小模型的大小，提高运行速度。 总而言之，AI大模型的本地化部署，是一项具有挑战性但也充满机遇的技术。随着硬件资源的不断提升和模型优化技术的不断发展，本地化部署的应用前景将更加广阔。
2.1K10编辑于 2025-03-10 - 来自专栏个人路线
开源 AI Agent 实战：openJiuwen macOS 部署教程
macOS 系统本地安装 openJiuwen 完整指南 本指南详细介绍在 macOS 系统中通过本地源码方式安装 openJiuwen 的完整流程，包含环境准备、依赖安装、系统部署及常见问题解决，适用于技术开发与测试人员参考 及以上 MySQL 8.0 及以上 Milvus 2.6.2 及以上（可选，仅记忆功能依赖） 二、安装依赖软件 正式安装 openJiuwen 前，需先完成上述依赖软件的安装与验证，再执行后续源码获取和部署步骤 重新激活虚拟环境并启动服务 source .venv/bin/activate python main.py 关于 openJiuwen openJiuwen 社区聚焦 AI Agent 通用平台能力 ，致力于构建易用、灵活且稳定的开源智能体平台，推动商用级 Agentic AI 技术广泛应用与落地。 AI Agent 技术的发展！
1.1K10编辑于 2026-01-12 - 来自专栏深度学习那些事儿
AI部署以及工业落地学习之路
AI部署 AI部署这个词儿大家肯定不陌生，可能有些小伙伴还不是很清楚这个是干嘛的，但总归是耳熟能详了。 因此很多AI部署相关行业和AI芯片相关行业也在迅速发展，现在虽然已经2021年了，但我认为AI部署相关的行业还未到头，AI也远远没有普及。 AI部署工业落地这块似乎还没有那么卷...相比AI算法来说，AI部署的入坑机会更多些。 [你懂得] 当然，AI落地部署和神经网络深度学习的关系是分不开的，就算你是AI算法工程师，也是有必要学习这块知识的。并不是所有人都是纯正的AI算法研究员。 算法部署最常用的语言是啥，当然是C++了。如果想搞深度学习AI部署这块，C++是逃离不了的。
1.9K10发布于 2021-08-07
腾讯云开发者
Copyright © 2013 - 2026 Tencent Cloud. All Rights Reserved. 腾讯云 版权所有
深圳市腾讯计算机系统有限公司 ICP备案/许可证号：粤B2-20090059 
粤公网安备44030502008569号
腾讯云计算（北京）有限责任公司 京ICP证150476号 | 京ICP备11018762号