首页
学习
活动
专区
圈层
工具
发布

#token

9个实用的省 Token 技巧,万人收藏!

卡卡罗特AI

不知道大家有没有发现,最近 Codex 的额度似乎越来越不经用了。随便聊几个需求,5 小时的额度转眼就见底。

22710

聊着聊着就报错了——上下文溢出与 Token 边界测试

霍格沃兹-测试开发学社

AI 测试开发面试高频题:"大模型接口常见的边界问题有哪些?" 边界值分析是测试的老手艺,但大模型的边界换了形态:输入有上下文窗口,输出有 max_tokens...

9110

卖Token的,谁在赚钱?|爱分析洞察

爱分析ifenxi1

2026年以来,中国模型API调用量正以前所未有的速度攀升。截至今年6月,豆包大模型日均Token调用量突破180万亿,过去一年增长超过了10倍。

16800

Token 的 ROI:个人与公司如何判断 AI 投入是否值得

南京刘三刀

随着 AI(Artificial Intelligence,人工智能)工具逐渐进入个人工作和企业生产流程,关于成本的讨论也越来越多:

21030

每月给AI交"月租"的人醒醒:这笔账我算完了,一年白扔1800

奋进者说

上篇我说,把AI装进自己电脑,每月能省下200块。有人私信我:"200块?你不会是吹的吧?"今天这篇,我就把这笔账,一笔一笔摊开给你看。算完你会发现,200块还...

12300

搭建OpenAI-Claude API中转站

用户6989487

开发 AI 应用时,经常需要调用 OpenAI、Claude 等大语言模型的 API。但由于网络限制或管理需求,直接调用官方 API 可能不够方便。本文将介绍一...

27610

OPC必备!在 Cloudflare Worker 上免费部署自托管 AI 网关:集中管理与供应 Token

程序猿DD

如果你跟我一样,平时折腾独立产品、或者是 AI 方向的 OPC,相信你一定买了很多 Coding Plan、Token Plan 等各种 AI 资源。不论你是在...

37310

TokenHub 正式开源:企业 AI 落地,需要先把 Token 管起来

astaxie

过去一段时间,我们接触了大量正在推进 AI 落地的企业。大家的共识越来越清晰:AI 真的开始用起来了。

37110

DecentMem 双池记忆:借鉴强化学习的利用与探索设计,Token 消耗降了近一半

deephub

基于大语言模型的多智能体系统有一个问题就是所有智能体共享一个存储库。这样会限制着性能、可扩展性和多样性。

11510

DGX Spark 极限压榨!深度优化 DeepSeek-V4:35token/s、单机承载 766K 上下文多智能体服务

GPUS Lady

极长上下文会小幅拉高单 token 延迟:248K 上下文约 146ms/token,519K 上下文约 177ms/token;超长上下文优势是并发承载量与缓...

1.2K10

Token降本50%:Harness工作流的成本优化实践

腾讯云开发者

代码图谱的 token 节省不只体现在单次查询上,更重要的是减少了 Agent 的探索轮次。少一轮工具调用,就少一次 API 请求,就少一整个 context ...

58211

Google DeepMind 发了三款新模型,token 更少,质量更高,成本没涨

用户11563501

根据 Google 的数据,3.6 Flash 在 Artificial Analysis Index 上平均少用 17% 的输出 token。在某些 Deep...

23400

23-长上下文训 练为什么需要SequenceParallel

anzhsoft

第 22 篇把 mini-batch、micro-batch 和 dynamic batch size 拆开了:算法窗口、GPU 执行切片、token 重新装箱...

14100

我上线了Token共享与交换平台AITokenBus,让你免费无限用AI

www.tangshuang.net

腾讯 | 前端开发工程师 (已认证)

故事的开始是这样的:有一次,我正在使用AI完成某个任务,突然提示,你的套餐用量已经消耗完了,此时,看着做到一半的任务,我却束手无策。

32710
领券