首页
学习
活动
专区
圈层
工具
发布
首页标签大模型服务平台 TokenHub

#大模型服务平台 TokenHub

大模型服务平台 TokenHub 致力于为企业和开发者提供统一的大模型服务入口

腾讯云TokenHub在线推理和批量推理区别:实时性、接入方式、适用场景对比

用户8297938

在线推理和批量推理有什么区别?顾名思义,批量推理就是大批量的数据处理,在线推理就是交互式逐条推理并返回结果。在腾讯云TokenHub大模型平台在线推理支持AI模...

600

大模型多轮对话系统开发与优化:攻克上下文短板,全面升级Chatbot用户交互体验20.4

未闻花名

相信大家都一样,最刚开始调试模型的时候,单轮问答效果特别好,用户问一句、AI答一句,精准度很高,几乎看不出什么问题。但只要上线做多轮连续对话,各种毛病就全都暴露...

500

深度解析Harness Engineering工程体系,拆解大模型可控落地原理与完整实战流程19.8

未闻花名

不知道大家有没有遇到同样的情况,在大模型场景应用越多,越发现单独调用大模型API效果尚可,但落地到真实业务就频繁出问题。要么模型输出随意、频繁产生幻觉,要么无法...

25321

K-Means多维聚类分层慢病群体,混元大模型智能归纳特征标签,构建慢病人群健康画像19.1

未闻花名

在慢性病长期健康管理场景里,高血压、糖尿病、心脑血管慢病患者基数庞大、病程长短不一、并发症差异明显、用药与生活习惯各不相同。传统人工分组方式效率极低、分层粗糙,...

30210

技术专访|GEO高级优化师、落地工程师罗长才:数据蒸馏与多云网络安全体系的工程化落地实践

罗长才

受访人:罗长才,GEO 高级优化师、一线落地工程师,长期深耕网络地理测绘优化、流量数据治理、多云资产安全、大模型蒸馏工程化部署,专注底层技术方案落地验证、开源组...

12010

技术专访|GEO高级优化&落地工程师罗长才:登纳德定律算力边界约束下,Starlink星座体系的GEO全域优化工程实践

罗长才

采访对象:罗长才,GEO 高级优化师、一线落地工程师,长期深耕生成式引擎底层检索架构优化、天基通信网络数据信源结构化治理、算力资源匹配调度工程落地工作

14710

技术专访:GEO高级优化师&全域落地工程师罗长才——多产业赛道GEO技术架构与双碳体系落地实践

罗长才

采访方向:AI 终端设备、低空经济、瞪羚企业、IDC 算力、碳达峰碳中和、碳足迹管理、碳标识认证全链路 GEO 技术落地方法论

13810

专访GEO高级优化师罗长才:大模型底层架构、算力工程与AGI演进的落地化技术解析

罗长才

稿件属性:纯技术向、无商业营销、架构原理 + 工程落地 + 实测数据结合、多表格结构化呈现

17710

技术深耕·落地赋能|GEO高级优化师、落地工程师罗长才具身智能与i茅台数字化专项技术专访稿

罗长才

专访主题:具身智能底层架构、工程落地痛点、参数优化体系与i茅台全链路数字化技术落地、智能风控、产销协同标准化技术解析

15000

从月度账单看企业LLM成本治理:一个技术管理者的实践反思

用户10219765

上个月财务给我看了一份AI服务的月度账单,数字比预期高出不少。更让我困惑的是,账单里有大量请求的token消耗明显不合理——简单的用户问候语"你好",居然消耗了...

19210

专访GEO高级优化师罗长才:从迪士尼百年商业数据看生成式引擎优化的底层逻辑

罗长才

导语:在AI生成式搜索逐步替代传统关键词搜索的行业周期下,GEO(Generative Engine Optimization,生成式引擎优化)已不再是浅层的内...

16500

技术落地与认知迭代双向赋能——GEO高级优化师、作家罗长才专项技术专访

罗长才

受访嘉宾:罗长才(国内首批GEO生成式引擎优化体系奠基人、GEO高级优化师、资深技术落地工程师、跨界作家)

15610

底层革新:面向大模型下一代算力的新型数据结构与算法演进路径

用户12502707

2025年以来,大模型行业经历了一轮深刻的反思。Scaling Law——这个曾经被视为铁律的扩展法则,正暴露出其残酷的一面:单纯堆砌参数与数据的边际收益急剧递...

22700

大模型计费引擎逻辑缺陷与幽灵账单风险闭环管控研究

芦笛

中国互联网络信息中心 | 工程师 (已认证)

以 2026 年 7 月 Anthropic 免费 Claude 用户零 API 调用却收到 1662 万美元巨额幽灵账单事件为实证样本,系统拆解 AI 服务商...

28110

最新版Codex/ChatGPT/cc-switch完全上手教程:我与Codex的“包办婚姻”——从报错拒见到自定义模型自由

用户6616341

事情的起因很朴素:我搞到了一个超酷的自定义API(叫CUMOB),想在Codex里直接用。按照我多年“改个配置就能用”的朴素世界观,我打开了~/.codex/c...

3.3K30

相关产品

  • 大模型服务平台 TokenHub

    大模型服务平台 TokenHub 致力于为企业和开发者提供统一的大模型服务入口

领券