首页
学习
活动
专区
圈层
工具
发布

#LLM

6000 亿参数只激活 270 亿,Step 5 Preview 凭什么挤进全球开源前三

叫我阿柒啊

腾讯云TDP | 产品KOL (已认证)

上周我注意到一个数据。全球开发者最常用的模型调用平台 OpenRouter 上,一个来自中国团队的新模型登上了 Trending 榜首,按 token 使用量排...

14200

和AI一起搞事情#9. Jev不就是个 JSON 分类器?我劝你把这篇看完再说

风雨中的小七

你给它一段描述(state),再给它几个问题(questions),它直接还你每个选项的概率分布——全程不生成任何文字。

1800

SpringAI Token 成本治理:用量统计、语义缓存与 CLS 监控告警

行者全栈架构师

摘要: AI 应用的最大变动成本是 Token 消耗,但传统 APM 不懂 Token。本文实现 Token 用量统计(CLS 结构化推送)、语义缓存(相似问题...

5610

LLM 面试必问的 8 个问题,答不上来直接淘汰

怕浪猫

构建 AI Agent,大语言模型(LLM)是最核心的基础设施。Agent 的推理、工具调用、记忆能力,都依赖底层模型质量。理解 LLM 的内部机制,才能在工程...

6300

Karpathy:75%人口未接触LLM,约5000人可用的内部系统已让数千智能体协作数周

YourTools

Andrej Karpathy 10月11日重提4月观察,称75%人口几乎未接触大型语言模型,而约5000人可访问的内部前沿系统已能让数千智能体协作数周完成软件...

15510

软件开发转Agent应用开发基础:神经网络与深度学习基础

A小码哥

传统开发的内容越来越少,现在基本都是全栈,本来想连产品和设计都通过ai来实现的,但是原型和设计稿的效果一直不好,还是需要设计同学把握审美(需要基础)。现在出一些...

7900

LLM与办公IM实践

爱努力的Max

办公 IM 是 LLM 落地最被低估的一环——它同时提供了天然的组织上下文(谁、和谁聊天、在哪个群、在讨论什么)和唯一的执行出口(发消息、建日程、写文档、发起会...

10130

GLM-5:智谱新一代旗舰基座模型【简介】

A小码哥

【局限性】当前模型刚更新出来,官方限制并发为1,超过直接就被拒绝了。然后模型返回cluade的问题官方说是估计做了模型混淆的结果。

15110

Claude vs. Claude Code vs. Cowork:Anthropic 三剑客如何选

A小码哥

如果你一直在纠结到底该用哪一个,或者在什么场景下使用,那么这篇文章将在两分钟内帮你彻底理清思路。

15410

APEX-Agents:长期专业任务的AI代理能力测试

A小码哥

APEX-Agents(AI Productivity Index for Agents)是由Mercor于2026年1月推出的首个在真实、长期专业工作环境中评...

11610

AI 行业周报(2026.10.01 — 10.08)

A小码哥

AI消息刷得太快,平时开发任务比较多,忙起来每天在刷新闻的时间上不够了,制作成定时任务将主要新闻变成周报文章与大家共赏,有什么意见可留言。

32810

LLM网关共享密钥架构下的缓存侧信道风险与隔离方案

用户12731574

一、行业隐性痛点 在多租户API聚合网关体系中,绝大多数中转平台依赖上游共享密钥池实现低成本调度。行业普遍忽略模型推理缓存侧信道泄露风险,该漏洞不属于明文数据泄...

9810

LLM-First Search复现指南:提示、伪代码与API参数

GEO实战经验分享

这条条目写给要复现 LLM-First Search 的研究者与工程团队,讲清一篇 LFS 论文要公开到什么程度才算可复现,以及提示、伪代码、公式、Token、...

8910

vllm企业私有化大模型部署实战指南

AI-Frontiers

原文:https://mp.weixin.qq.com/s/QaJNbqA3zND2JT4H0Vn5qQ

13410

SpringAI 多模型路由:混元主模型与备用降级策略实战

行者全栈架构师

摘要: 简单 FAQ 用 hunyuan-pro 太贵(¥0.02/千Token),复杂推理用 hunyuan-lite 又不够。本文实现 SpringAI 多...

14332

类Jev项目Kev从入门到实战(7):如何选型:决策树与 checklist

用户12796739

先确认任务形状:输出是「从 N 个选项里选一个」「是非判断」「打等级」三种之一?是,才继续。

11310
领券