1. LangSmith 可观测性平台
LangSmith 是 LangChain 配套的 Agent 工程平台,提供生产环境所需的完整可观测性能力:
- 分布式追踪:将每次 Agent 运行分解为结构化的时间线,精确展示每个步骤的执行顺序和原因。支持 Python、TypeScript、Go、Java SDK 接入
- 分析洞察:聚合趋势指标、AI 驱动的分析报告,自动检测使用模式和失败模式
- 评估体系:支持人类评审、LLM-as-judge、成对比较、CI/CD 集成和多轮对话评分,使用真实生产数据持续改进 Agent 表现
- 交互式调试:Polly 工具支持自然语言调试和提示词工程
截至 2026 年,LangSmith 已处理超过 150 亿次追踪和 100 万亿个 Token。
2. 生产级部署能力
- LangGraph Platform:提供可扩展的分布式运行时,支持 Agent 的弹性伸缩、持久化状态管理和定时任务调度
- 人机协同(Human-in-the-Loop):Agent 执行过程中可暂停等待人工审批,适用于金融、法律、医疗等高 stakes 场景
- 类型安全流式传输:支持消息、UI 组件和自定义事件的类型安全流式传输
- A2A 和 MCP 协议支持:原生支持 Agent-to-Agent 通信协议和 Model Context Protocol
3. 企业安全和治理
- SOC 2 Type II 认证:满足企业级安全合规要求
- SSO/SAML 和 RBAC:支持单点登录和基于角色的访问控制
- 审计日志:完整的操作审计追踪
- 客户管理加密密钥(CMK)和 VPC Peering:满足数据驻留和加密管控要求
- 自托管选项:支持私有化部署 LangSmith 和 LangGraph Platform
4. NVIDIA 企业级集成
2026 年 3 月,LangChain 与 NVIDIA 宣布全面整合,推出企业级 Agent AI 平台:
- GPU 加速执行:NVIDIA 优化的 LangGraph 执行策略,包括并行执行(自动识别独立节点并发运行)和推测执行(同时运行条件分支)
- NVIDIA NIM 微服务:在云、本地和混合环境中提供最高 2.6 倍的吞吐量
- NVIDIA OpenShell:基于策略的安全护栏沙盒运行时,控制 Agent 可访问的数据库、网络连接和云调用
- NeMo Agent Toolkit:提供身份验证、速率限制、内置调试 UI 和 GPU 集群规模计算器
5. 企业级中间件能力
- PII 合规:内置 PII 检测和脱敏中间件,满足 GDPR、HIPAA 等隐私法规
- 内容审核:在模型输出后插入内容安全检查
- 动态模型切换:根据负载、成本和延迟需求动态选择模型
- 限流和熔断:在 wrap_model_call 中实现细粒度的流量控制