一、为什么 2026 年的 AI 工程师不再手写 Prompt？

在过去三年里，AI 应用的开发模式是脆弱的：换一个基座模型、改一个业务字段、甚至升级一次 API 版本，原本精心调教的 Prompt 就可能瞬间失效。这种“面向字符串编程”的模式面临三大工程灾难：

2026 年的解法：DSPy (Declarative Self-improving Python)。

你只负责定义任务的输入输出签名（Signature）和控制流（Module），把“如何写出最好的 Prompt”这件事，交给编译器（Optimizer）去自动搜索和优化。

二、DSPy 核心架构：从“写 Prompt”到“定义 Signature”

在 DSPy 中，没有硬编码的提示词模板。取而代之的是三个核心抽象：

[定义 Signature] + [组装 Module] + [准备 Eval Dataset]
         │                  │                 │
         └──────────────────┼─────────────────┘
                            ▼
                   [DSPy Optimizer (编译器)]
                            │
              ┌─────────────┴─────────────┐
              ▼                           ▼
    [自动生成的最优 Prompt]        [微调后的 LM Weights]
              │                           │
              └─────────────┬─────────────┘
                            ▼
               [生产环境部署 (序列化 JSON)]


三、实战：用 DSPy 构建“自优化” RAG Agent

我们将使用 DSPy 构建一个经典的 RAG 问答系统。注意观察：

全程没有任何手写的 Prompt 模板

，所有提示词均由编译器根据数据自动优化生成。

# dspy_self_optimizing_rag.py
"""
2026 前沿实战：基于 DSPy 的自优化 RAG Agent
全程无手写 Prompt，通过 BootstrapFewShot 编译器自动进化
"""
import dspy
from dspy.datasets import HotPotQA
from dspy.evaluate import Evaluate

# ==================== 1. 配置 LLM 与检索器 ====================
# 模拟生产环境：你可以随时切换为本地 Ollama 或国产模型，无需改代码
lm = dspy.LM('openai/gpt-4o-mini', api_key='sk-your-api-key')
colbertv2_wiki17_abstracts = dspy.ColBERTv2(url='http://20.102.90.50:2017/wiki17_abstracts')

dspy.configure(lm=lm, rm=colbertv2_wiki17_abstracts)

# ==================== 2. 定义 Signature (声明式任务描述) ====================
class GenerateAnswer(dspy.Signature):
    """根据提供的上下文回答用户问题。如果上下文中没有答案，请回答'未知'。"""
    context = dspy.InputField(desc="检索到的相关文档段落")
    question = dspy.InputField(desc="用户的自然语言问题")
    answer = dspy.OutputField(desc="简洁准确的答案，不超过30字")

# ==================== 3. 组装 Module (类似 PyTorch 模型定义) ====================
class RAGAgent(dspy.Module):
    def __init__(self, num_passages=3):
        super().__init__()
        # 声明式检索模块
        self.retrieve = dspy.Retrieve(k=num_passages)
        # 声明式推理模块 (编译器会自动为其注入 CoT 格式)
        self.generate_answer = dspy.ChainOfThought(GenerateAnswer)

    def forward(self, question):
        context = self.retrieve(question).passages
        prediction = self.generate_answer(context=context, question=question)
        return dspy.Prediction(answer=prediction.answer)

# ==================== 4. 定义评估指标 (Eval Metric) ====================
def validate_context_and_answer(example, pred, trace=None):
    """自定义评估函数：检查答案是否正确且基于上下文"""
    # 简化的精确匹配评估，实际生产中可使用 LLM-as-a-Judge
    gold_answer = example.answer.lower().strip()
    pred_answer = pred.answer.lower().strip()
    
    is_correct = gold_answer in pred_answer or pred_answer in gold_answer
    return is_correct

# ==================== 5. 加载数据并执行编译 (核心魔法) ====================
if __name__ == "__main__":
    # 加载 HotPotQA 数据集作为训练/验证集
    dataset = HotPotQA(train_seed=1, train_size=20, eval_seed=2026, dev_size=50, test_size=0)
    trainset = [x.with_inputs('question') for x in dataset.train]
    devset = [x.with_inputs('question') for x in dataset.dev]

    print("🚀 初始化未编译的 RAG Agent...")
    uncompiled_rag = RAGAgent()
    
    # 评估未编译版本的表现
    evaluate = Evaluate(devset=devset, metric=validate_context_and_answer, num_threads=4, display_progress=True)
    print("\n📊 未编译版本 DevSet 准确率:")
    evaluate(uncompiled_rag)

    print("\n🔥 启动 DSPy BootstrapFewShot 编译器...")
    print("   (编译器正在自动搜索最优 Few-shot 示例与指令...)")
    
    # 核心：使用优化器自动编译 Agent
    optimizer = dspy.teleprompt.BootstrapFewShot(metric=validate_context_and_answer)
    compiled_rag = optimizer.compile(student=RAGAgent(), trainset=trainset)
    30523.t.kuaisou.com
    # 评估编译后版本的表现
    print("\n📈 编译后版本 DevSet 准确率:")
    evaluate(compiled_rag)31224.t.kuaisou.com 


    # 保存编译后的 Agent (序列化为 JSON，包含自动生成的最优 Prompt)
    compiled_rag.save("compiled_rag_agent_v1.json")
    print("\n💾 编译后的 Agent 已保存至 compiled_rag_agent_v1.json")
    
    # 查看编译器自动生成的 Prompt (见证奇迹的时刻)
    print("\n🔍 编译器为 GenerateAnswer 模块自动生成的最优 Prompt:")
    print(compiled_rag.generate_answer.demos[0]) 


运行上述代码，你将观察到以下现象：

四、生产进阶：2026 DSPy 企业级落地三大基石

上述代码展示了 DSPy 的基础用法。在真实的 2026 企业级 LLMOps 平台中，DSPy 通常与以下基础设施深度集成：

五、结语：AI 工程的“工业革命”时刻

回顾软件工程史，我们从汇编语言走向了高级语言，从手动管理内存走向了垃圾回收，从裸机部署走向了 Kubernetes。

每一次范式的跃迁，本质上都是将“易错的、依赖人类直觉的手工操作”抽象为“确定性的、可自动化的工程组件”。

2026 年，DSPy 正在对 LLM 应用开发做同样的事情。它宣告了“Prompt Engineer”作为一个独立岗位的终结，同时也开启了 

“LLM Compiler Engineer（大模型编译工程师）”

未来的 AI 开发者，核心竞争力不再是“能写出多么花哨的提示词”，而是：

能否定义清晰的评估指标（Metrics）、能否设计合理的模块化架构（Modules）、以及能否构建高质量的对齐数据集（Golden Datasets）。

掌握 DSPy，就是掌握了通往下一代确定性 AI 工程的钥匙。

告别“提示词玄学”：2026 AI 应用新基建，用 DSPy 构建可编译、可优化的确定性 Agent

开发工具

2026年AI工程迎来重大变革，DSPy框架引领后Prompt时代新范式。斯坦福报告揭示：企业级AI应用正从手工调参转向程序化优化，通过声明式编程实现自动Prompt生成与模型优化。实战案例展示DSPy如何构建自优化RAG系统，准确率提升40%以上，支持多模型无缝切换。核心优势在于将逻辑编排与提示调优解耦，使大模型应用具备可编译、可测试的工程属性。

大模型应用

深度学习

软件工程

回归测试

Kubernetes

编译器

Agent

JSON

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

2026年AI工程迎来重大变革，DSPy框架引领后Prompt时代新范式。斯坦福报告揭示：企业级AI应用正从手工调参转向程序化优化，通过声明式编程实现自动Prompt生成与模型优化。实战案例展示DSPy如何构建自优化RAG系统，准确率提升40%以上，支持多模型无缝切换。核心优势在于将逻辑编排与提示调优解耦，使大模型应用...

告别“提示词玄学”：2026 AI 应用新基建，用 DSPy 构建可编译、可优化的确定性 Agent

告别“提示词玄学”：2026 AI 应用新基建，用 DSPy 构建可编译、可优化的确定性 Agent

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐