使用 Elastic Inference Service (EIS) 扩展模型目录，构建感知任务的 Agent

EIS 已经提供了对最先进的大型语言模型 (LLM) 的访问，这些模型为 Elastic Agent Builder 和 Elastic AI Assistants 提供了 开箱即用的 AI 能力，包括自动摄取、威胁检测、问题调查和根因分析。现在，我们通过 更广泛的目录 扩展了这一基础，为开发者提供了更多对 Agent 推理、检索和行动方式的控制。

实际上，这反映了企业构建 AI 系统的更广泛转变。单一的、通用的 AI 模型的想法已经不再适用。真实的 Agent 工作流需要多种模型，它们具有不同的优势、成本和性能特征。借助 EIS，团队可以直接在 Agent Builder 中选择和切换模型，无需设置、成本或托管开销；或者，他们可以在 工作流 中混合搭配模型，使每个步骤都使用最适合该任务的模型。

开发者可以直接在 Elasticsearch 中使用来自 OpenAI、Anthropic 和 Google 的模型，为不同的 Agent 步骤选择不同的模型，而 Elastic 完全管理生产 Agent 的推理、扩展和 GPU 执行。

下拉菜单显示多个来自 Anthropic、Google 和 OpenAI 的 AI 模型选项，其中选择了“Anthropic Claude Opus 4.6”，并显示在 Elastic 界面旁边。

EIS 上扩展的托管模型目录

扩展后的 EIS 目录现在包含针对不同任务类别优化的模型，从轻量级生成到大型上下文推理以及用于检索的嵌入。

对于生成，目录包括：

• Anthropic Claude Opus 4.5 和 4.6。
• Gemini 2.5 Flash。
• Gemini 2.5 Pro。
• OpenAI GPT-4.1 和 GPT-4.1 Mini。
• OpenAI GPT-5.2。
• OpenAI GPT-OSS-120B。

对于检索，EIS 包含原生 Jina AI 模型：jina-embeddings-v3 和 jina-embeddings-v5，它们为多语言检索提供快速、高质量的嵌入。该服务还包括来自 Microsoft、OpenAI、Google 和 Alibaba 的嵌入模型。

为 Agent 任务选择合适的模型

借助 EIS，模型选择成为 Agent 内部的设计决策，而非运维问题。Agent 可以根据模型扮演的角色来选择模型，而无需改变推理的部署或扩展方式。

为了说明实际应用，我们来看几个常见的 Agent 场景。

简单信息查询

简单的交互，例如回答“我们的假期政策是什么？”，不需要昂贵的前沿模型，可以由快速、低成本的选项处理。

• 任务：“我们的假期政策是什么？”
• 模式：检索并总结。
• 模型选择：快速、低成本的生成模型。

Elastic Agent 界面显示“Holiday Policy Inquiry”响应，以清晰的卡片式布局列出公司观察到的假期。

也可以 通过 API 配置，选择要使用的模型：

POST kbn://api/agent_builder/converse
{
  "input": "What is our holiday policy?",
  "agent_id": "internal-kb-bot",
  "connector_id": "Anthropic-Claude-Sonnet-4-5"
}

此步骤主要依赖检索质量。轻量级模型足以快速总结一小部分文档。

中等能力

更复杂的任务可能受益于能力更强的生成模型，但不一定需要使用最昂贵的推理模型。

• 任务：“比较我们的假期政策与法国新劳动法，并起草一封电子邮件。”
• 模式：检索相关文档，跨来源比较政策细节，并生成输出（例如邮件草稿）。
• 模型选择：能力更强的生成模型。

视频缩略图

以下是 API 示例：

POST kbn://api/agent_builder/converse
{
  "input": "Compare our holiday policy with new labor laws in France and draft an email.",
  "agent_id": "internal-kb-bot",
  "connector_id": "Google-Gemini-2-5-Pro"
}

此任务需要跨多个来源进行综合，并输出结构化内容，但不需要最重的推理模型。

调查或审计任务（高能力）

• 任务：审查大量文档集以识别合规风险。
• 模式：在大型上下文中进行多步推理，模型评估多个文档中的信息并综合发现，然后做出最终判断。
• 模型选择：前沿或大型上下文模型。

Elastic AI Agent 界面滚动，显示公司假期政策与法国劳动法假期权益之间的对比表格，针对工作场所查询生成。

尝试使用 API：

POST kbn://api/agent_builder/converse
{
  "input": "What are the compliance risks associated with Example AI products?",
  "connector_id": "Anthropic-Claude-Opus-4-6"
}

由于任务需要更深入的推理和跨多个输入的一致评估，输出质量更为重要。因此，高能力模型适合此步骤。

EIS 还支持更高级的编排模式。企业越来越认识到，为每个 Agent 步骤都使用前沿模型是低效的。

借助 Agent Builder 和 Elastic Workflows，团队可以设计 Agent，其中每个子任务由最适合该任务的模型执行，基于成本、复杂性和准确性要求。

模型作为评判者模式（质量控制）

• 任务：使用第二个模型验证 Agent 的输出。
• 模式：生成并评估。

在这个 Elastic Workflow 示例中，Agent 使用一个模型生成响应，使用第二个模型评估其质量，为结果添加验证层。Elastic Workflows 是 Elasticsearch 内置的自动化引擎，允许开发者将可靠的脚本化自动化与 AI 驱动的步骤相结合，用于需要推理的任务。

视频缩略图

多模型方法通过将生成与评估分离，实现新的可靠性模式：一个模型生成响应，另一个模型验证它。目前，团队可以通过将通用生成模型与更轻量级的评估模型配对来实现这一点。

随着时间的推移，这种模式自然演变为专门的评判和防护模型，专门用于验证、策略检查和质量控制。随着这些模型的出现，EIS 可以轻松地将它们引入 Agent 工作流，而无需改变推理的部署或管理方式。

下一步计划

EIS 正在积极发展，更多模型即将推出。您可以在 Elastic 公共路线图 上跟踪即将推出的内容以及我们正在构建的内容。

开始使用

Elastic Inference Service 使您可以轻松地从默认模型开始，并逐步演进到复杂的多模型 Agent 工作流，所有这些都在 Elasticsearch 中完成。无论您是在构建全球检索增强生成 (RAG) 系统、搜索，还是需要可靠上下文的 Agentic 工作流，Elastic 现在都为您提供开箱即用的高性能模型，以及从原型到生产环境的运维简单性，让您充满信心。

所有 Elastic Cloud 试用版都可以访问 Elastic Inference Service。立即在 Elastic Cloud Serverless 或 Elastic Cloud Hosted 上试用，或者通过 Cloud Connect 将 EIS 与您的自管理集群结合使用。

准备好构建最先进的搜索体验了吗？

足够先进的搜索并非单靠个人努力就能实现。Elasticsearch 由数据科学家、ML 运维人员、工程师以及更多像您一样对搜索充满热情的人共同推动。让我们联系并合作，构建能为您带来所需结果的魔法搜索体验。