企业级Java加AI项目实战 项目开发教程

┌─────────────────────────────────────────────────┐
│                   前端层                          │
│     React / Vue3 + TypeScript + Ant Design       │
├─────────────────────────────────────────────────┤
│                   网关层                          │
│          Spring Cloud Gateway / Nginx             │
├─────────────────────────────────────────────────┤
│                 应用服务层                        │
│        Spring Boot 3.x + Spring AI + LangChain4j │
├─────────────────────────────────────────────────┤
│                  AI引擎层                         │
│     OpenAI / DeepSeek / 通义千问 / 本地Ollama     │
├─────────────────────────────────────────────────┤
│                   数据层                          │
│       PostgreSQL + Redis + Milvus(向量数据库)      │
├─────────────────────────────────────────────────┤
│                 基础设施层                        │
│          Docker + K8s + Prometheus + ELK          │
└─────────────────────────────────────────────────┘

bash# 使用Spring Initializr创建项目（选择依赖：Spring Web, Spring AI, Spring Security）
mvn archetype:generate \
  -DgroupId=com.enterprise.ai \
  -DartifactId=java-ai-project \
  -DarchetypeArtifactId=maven-archetype-quickstart \
  -DinteractiveMode=false

xml<!-- Spring AI集成 -->
<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-ollama-spring-boot-starter</artifactId>
    <version>1.0.0</version>
</dependency>

<!-- LangChain4j - RAG/Agent核心 -->
<dependency>
    <groupId>dev.langchain4j</groupId>
    <artifactId>langchain4j-spring-boot-starter</artifactId>
    <version>0.35.0</version>
</dependency>

<!-- 向量数据库 -->
<dependency>
    <groupId>io.milvus</groupId>
    <artifactId>milvus-sdk-java</artifactId>
    <version>2.4.0</version>
</dependency>

<!-- ONNX Runtime加速推理 -->
<dependency>
    <groupId>com.microsoft.onnxruntime</groupId>
    <artifactId>onnxruntime</artifactId>
    <version>1.16.0</version>
</dependency>

<!-- 本地模型引擎 -->
<dependency>
    <groupId>com.jlama</groupId>
    <artifactId>jlama-core</artifactId>
    <version>0.8.0</version>
</dependency>

yamlspring:
  ai:
    ollama:
      base-url: http://localhost:11434
      model: llama3
    openai:
      api-key: ${OPENAI_API_KEY}
      chat:
        options:
          model: gpt-4o
          temperature: 0.7

# 向量数据库配置
milvus:
  host: localhost
  port: 19530

# 安全配置
security:
  api-keys:
    enabled: true
    header: X-API-Key

java@Service
public class AiCustomerService {

    @Autowired
    private ChatClient chatClient;

    @Autowired
    private VectorStore vectorStore;

    public ChatResponse answer(String question) {
        // 1. 语义检索相关知识（取Top3）
        List<Document> relatedDocs = vectorStore.similaritySearch(question, 3);

        // 2. 构造RAG提示词
        String prompt = """
            你是企业客服助手。请根据以下参考资料回答用户问题。
            参考资料：
            %s
            用户问题：%s
            要求：只基于参考资料回答，不知道就说不知道。
            """.formatted(
                relatedDocs.stream()
                    .map(Document::content)
                    .collect(joining("\n")),
                question
            );

        // 3. 调用大模型
        return chatClient.prompt()
            .user(prompt)
            .call()
            .content();
    }
}

java@Bean
public FunctionCallback contractExtractor() {
    return new FunctionCallback(new ContractExtractFunction());
}

public record ContractExtractFunction(
    @Description("从合同文本中提取关键信息")
    String contractText
) {
    @Description("提取合同金额、甲方、乙方、签约日期")
    public ContractInfo extract(String text) {
        // Spring AI自动将此函数注册给大模型
        // 模型会自动决定何时调用、如何填参
        return parseContract(text);
    }
}

java@Service
public class OrderAgent {

    private final ConversationalAgent agent;

    public OrderAgent() {
        this.agent = AgentBuilder.builder()
            .chatModel(ChatModelProvider.create())
            .tools(new OrderQueryTool(), new RefundTool(), new NotifyTool())
            .memory(MemoryType.CONVERSATIONAL)
            .build();
    }

    public String execute(String userRequest) {
        return agent.execute(userRequest);
    }
}

// 工具类：AI可自主调用
@Tool
public class OrderQueryTool {
    @Description("查询订单状态")
    public OrderStatus queryOrder(String orderId) {
        return orderService.getStatus(orderId);
    }
}

ecommerce-ai-transformation (父工程)
├─ ecommerce-ai-common          # 公共模块
├─ ecommerce-ai-api             # Feign接口、DTO
├─ ecommerce-ai-gateway         # 路由、限流
├─ ecommerce-ai-model           # AI模型对接（Spring AI整合）
├─ ecommerce-ai-vector          # 向量处理（Milvus）
├─ ecommerce-ai-customer        # 客服AI（工单自动回复）
├─ ecommerce-ai-comment         # 评论AI（恶意评论识别）
├─ ecommerce-ai-product         # 商品内容AI（标题/描述生成）
├─ ecommerce-ai-order           # 订单AI（异常排查）
└─ ecommerce-ai-user            # 用户画像AI

dockerfileFROM openjdk:17-slim
WORKDIR /app
COPY target/java-ai-project-0.0.1.jar app.jar
EXPOSE 8080
ENTRYPOINT ["java", "-jar", "app.jar"]

java@Aspect
@Component
public class AiCallMonitor {

    @Around("execution(* org.springframework.ai.chat.ChatClient.call(..))")
    public Object monitorCall(ProceedingJoinPoint joinPoint) throws Throwable {
        long startTime = System.currentTimeMillis();
        Object result = joinPoint.proceed();
        long duration = System.currentTimeMillis() - startTime;

        if (result instanceof ChatResponse response) {
            int inputTokens = response.getMetadata().getInputTokens();
            int outputTokens = response.getMetadata().getOutputTokens();
            double cost = (inputTokens * 0.0000015) + (outputTokens * 0.000002);

            log.info("AI调用 - 耗时:{}ms, 输入:{}tokens, 输出:{}tokens, 成本:${}",
                duration, inputTokens, outputTokens, cost);
        }
        return result;
    }
}