首页
学习
活动
专区
圈层
工具
发布

#gpu

Ollama如何正常调用AMD GPU

胖头鱼的鱼缸

在前一篇使用Ollama在本地运行QWen3:30B的时候,发现一个问题,即大模型本地运行时没有调用AMD Ryzen AI Max+ 395的GPU,是使用...

9810

初探GPU:统一内存是什么

胖头鱼的鱼缸

在上一篇文章中简单介绍了DDR、GDDR还有HBM的区别,CPU需要内存的低延迟而GPU需要显存的高带宽。但在最近几年的PC产品中(其实不止PC也不仅是最近几...

7310

初探GPU:显存有何不同

胖头鱼的鱼缸

之前写过不少关于数据库使用的硬件的文章,主要集中在CPU、内存、磁盘和网络,但是随着AI时代的来临,似乎还有一块硬件没有怎么去写,那就是算力的核心GPU。

7100

04-ResourcePool和WorkerGroup-GPU资源如何被角色化

anzhsoft

上一篇解释了 single controller:PPO 主循环保留在一个 controller 进程里,一行 WorkerGroup 调用会被展开成 disp...

6800

03-SingleController一个大脑如何调度一群GPU工人

anzhsoft

上一篇我们把 RLHF 看成一条高层 Dataflow:rollout 生成样本,reward/ref/value/advantage 补齐训练信号,actor...

9600

指纹浏览器开100个窗口哪个不卡顿?

用户12578554

能不能开100个窗口不卡,跟浏览器进程管理架构、内核定制深度、内存回收策略直接相关。市面上能跑100个窗口的产品有好几款,但"开了不卡"和"开了能用"是两回事。

12610

87个GPU内核实测:AI写代码,强在局部,弱在协同

随机比特

腾讯 | 高级前端工程师 (已认证)

你在终端里敲下 tab,AI 补全了剩下的代码。编译通过,逻辑通顺,变量命名比你写的还漂亮。你甚至有点恍惚——这家伙是不是真的懂我在干什么?

7810

JetPack 7.2环境Jetson设备GPU加速异常问题深度解析(含Jtop解决办法)

GPUS Lady

NVIDIA Jetson设备升级JetPack 7.2系统后,几个常用AI开发工具、容器环境与可视化工具出现GPU加速失效问题,普遍表现为程序崩溃、静默降级C...

10710

在线设计制图场景:GPU云桌面助力3D建模与视频渲染

克劳德2048

一、摘要: 3D建模与视频渲染对计算资源要求极高,传统本地工作站面临硬件成本高、升级困难、协作不便等痛点。腾讯云CVD提供多种高性能GPU图形云桌面,让设计团队...

16310

别让你的GPU集群,变成一堆“模型孤儿

cxuanAI

README 里说得很直接:KServe 同时面向 Generative AI 和 Predictive AI。

11010

别扯 GPU 折旧了,AI 泡沫的真凶是 “算力不够用”

PikeTalk

先掰扯那 “GPU 只能用 2-3 年” 的鬼话,源头不就是 Meta 那篇 Llama3 报告?

10200

AI革命,第五次康波周期

PikeTalk

正如当年的蒸汽机、电气化、互联网,每一次技术浪潮,都会把产业龙头推向难以想象的高度。

7910

使用GPU-Z进行开发环境显卡诊断:从参数识别到性能瓶颈定位

PC电脑医生

在软件开发环境中,显卡不仅是图形渲染的载体,在机器学习训练、视频编解码加速、桌面应用GPU渲染等场景中也扮演着重要角色。开发者在配置工作站或排查性能问题时,往往...

14910

Flash-KMeans:快速且内存高效的精确 K-Means,可在单张 GPU 进行亿级数据的聚类

deephub

在当前的人工智能领域LLM 及其生成能力几乎独占了所有焦点。但再精密的 RAG Pipeline,能力上限也取决于那个沉默的引擎:搜索与聚类层。

8700

2026四大GPU计算生态横评:一文分清CUDA、ROCm、OpenCL、oneAPI

GPUS Lady

2026年,GPU通用计算领域已经形成非常清晰的竞争格局:三家芯片厂商自研的闭源/开源专属计算栈,外加一套行业通用开放标准,四类方案各有优劣,分别适配AI训练推...

28610

别再误解GPU Page Fault!英伟达UVM统一内存机制深度拆解

GPUS Lady

英伟达的统一虚拟内存(UVM)在设计逻辑上与CPU虚拟内存高度相似,但GPU的缺页异常(Page Fault)开销远高于CPU。不过,这种高开销的成因和大众普遍...

16010

内核启动前,GPU已完成九层初始化:揭秘英伟达GPU完整固件栈

GPUS Lady

多数人对电脑启动的认知,局限于“开机BIOS→系统内核→驱动加载→硬件就绪”的流程。但很少有人知道,在操作系统内核启动、任何系统程序加载之前,你的NVIDIA ...

11910

2026年6月21日-行业日报-OpenAI加速IPO-科创板扩容AI大模型-微软DirectX统一GPU诊断

小博测试成长之路

摘要:OpenAI 最快本周五秘密提交 IPO 文件,计划 9 月上市;证监会宣布科创板第五套标准扩大至 AI 大模型行业;微软推出 DirectX Dump ...

33610
领券