---

LangChain 发布了一篇技术博客，讲怎么把 TypeSafe AI 的 System One 模型 **Jev** 接进 Agent 框架。核心场景：Agent 循环里那些「快速结构化决策」——原来每次都要调一次完整 LLM，现在用 200 倍快、400 倍便宜的 Jev 替代。

---

## 一、Agent 循环里的决策税

Agent 的循环是：LLM 决定做什么 → 工具执行 → 模型评估结果 → 继续，直到任务完成。

每一步决策都要一次完整模型调用。工具调用和结构化输出让接口变规整了，但**循环依然慢、依然贵**——每个决策一次 LLM 调用。

Jev 的切入点就在这里：它不生成文本，它评估状态、返回带概率的类型化答案。

```python
from langchain_typesafe import Noul, TypeSafeClassifier

classifier = TypeSafeClassifier()
response = classifier.invoke(
    state="The deploy failed twice and customers are seeing 500s. Can someone look now?",
    questions={"urgent": Noul(instructions="Does this need attention right now?")},
)
urgency = response.nouls["urgent"].noul
```

三种问题类型：

| 类型 | 返回 |
|------|------|
| **Choice** | 每个选项的概率 + 总体置信度 |
| **Score** | 连续分数 + 分布 + 置信度 |
| **Noul** | 命题为真的概率（是/否） |

关键特性：**同一状态可以一次问多个问题，并行评估**——加问题几乎不增加响应时间。

---

## 二、模型路由：便宜模型和贵模型之间加个调度器

「简单查询不需要和困难调试用同一个模型。」ModelRouterMiddleware 让 Jev 站在前面分类请求：

```python
router = ModelRouterMiddleware(
    choices={
        "fast": ModelChoice(
            model="openai:luna",
            criteria="Direct lookups, extraction, and localized changes.",
        ),
        "powerful": ModelChoice(
            model="openai:sol",
            criteria="Architecture and high-stakes decisions.",
        ),
    },
    instructions="Choose the least costly model that can complete the task.",
)
```

路由根据最新用户消息选模型，整个运行周期使用同一选择，概率和置信度留在 agent state 里。

---

## 三、AutoMode 护栏：闭源 harness 的模式开源了

博客里最有信息量的一段：

> Agent 本质上不可信。它可能收到坏指令（自然的，或来自攻击者），被说服去执行我们不想要的动作。Claude、Codex、Cursor 这类 harness 都内置了某种「危险动作分类器」——**这一步一直锁在闭源部分里**。现在便宜高性能的分类器模型出现了，我们可以把这个模式用到所有 Agent 上。

```python
guardrail = AutoModeMiddleware(tools=["bash"])
agent = create_agent("openai:gpt-5.6-luna", middleware=[guardrail])
```

AutoModeMiddleware 用 Jev 检查工具调用，在工具执行**之前**拦截高风险动作。一个 100ms 级、每十亿 token $42 的分类器，让任何开源 Agent 框架都能拥有商业 harness 级的安全层。

---

## 四、边界：Jev 取代不了 LLM

博客明确划线：**Jev 不是 LLM 的替代品**。它不生成文本，处理的是今天用 LLM 做的分类任务——同样效果，更低的延迟和成本。

正确的组合：**LLM 做开放推理和生成，Jev 做沿途的快速结构化决策**。一个思考，一个把关。

社区里已经跑起来的项目：Browserbase 用 Jev 驱动浏览器 Agent（每次几分之一美分）、实时交易 Agent、规模化邮件分诊。

---

## 五、安装

```bash
pip install langchain-typesafe
export TYPESAFE_API_KEY=...
```

---

## 结语

Agent 基础设施里一直缺一层：**毫秒级、可校准、极便宜的决策器**。LLM 太慢太贵，规则太脆。Jev 这类 System One 模型补上了这个空位——而且第一次把商业 harness 的护栏模式带进了开源生态。

Agent 架构正在分层：推理层用 LLM，决策层用 System One，执行层用工具。每一层用最适合它的模型。


LangChain 发布了一篇技术博客，讲怎么把 TypeSafe AI 的 System One 模型 Jev 接进 Agent 框架。核心场景：Agent 循环里那些「快速结构化决策」——原来每次都要调一次完整 LLM，现在用 200 倍快、400 倍便宜的 Jev 替代。

用 Jev 给 Agent 装护栏：LangChain 的 harness 实践

LangChain 发布了一篇技术博客，讲怎么把 TypeSafe AI 的 System One 模型 Jev 接进 Agent 框架。核心场景：Agent 循环里那些「快速结构化决策」——原来每次都要调一次完整 LLM，现在用 200…

软件研发

人工智能

编程语言

架构设计

LangChain集成TypeSafeAI的Jev模型，以200倍速度、400倍低成本替代Agent循环中的LLM快速决策，支持类型化概率输出与并行多问题评估。ModelRouterMiddleware智能路由请求，AutoModeMiddleware提供开源危险动作护栏，实现毫秒级、每十亿token$42的安全分类，分层架构中LLM负责推理，Jev专司决策。

代码解释

LangChain

路由

Agent

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

LangChain集成TypeSafeAI的Jev模型，以200倍速度、400倍低成本替代Agent循环中的LLM快速决策，支持类型化概率输出与并行多问题评估。ModelRouterMiddleware智能路由请求，AutoModeMiddleware提供开源危险动作护栏，实现毫秒级、每十亿token$42的安全分类，...

用 Jev 给 Agent 装护栏：LangChain 的 harness 实践-腾讯云开发者社区-腾讯云

用 Jev 给 Agent 装护栏：LangChain 的 harness 实践

用 Jev 给 Agent 装护栏：LangChain 的 harness 实践

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐