Spring Boot集成Spring Ai框架【详解 搭建Spring Ai项目，以及简单的ai大模型智能体应用，附有图文+示例代码】

企业开发 2025-04-08 05:58:37 阅读次数: 0

文章目录

一.Spring Ai介绍

Spring Ai 官方：https://spring.io/projects/spring-ai

1.0 认识Spring Ai

Spring AI 是一个用于 AI 工程的应用程序框架。 其目标是将 Spring 生态系统设计原则（如可移植性和模块化设计）应用于 AI 领域，并将使用 POJO 作为应用程序的构建块推广到 AI 领域。

在这里插入图片描述

Spring AI 的核心是解决了 AI 集成的根本挑战：将您的企业数据和 API 与 AI 模型连接起来。

1.1 特征

Spring AI 提供以下功能：

上述内容摘自：Spring Ai 官网。

1.1 大模型专业名字介绍

1.1.1 RAG(检索增强生成)

在这里插入图片描述

大致思路：假如有个智能客服，它会优先去查询向量数据中数据，将查到的相关数据给 prompt对象 ，然后通过大模型响应给应用程序。

RAG 的基本原理

RAG 主要由 两个阶段 组成：

扫描二维码关注公众号，回复： 17538820 查看本文章

  1. 检索阶段（Retrieval）：

    • 在生成文本之前，模型会从一个 外部知识库（如向量数据库、文档集合等）检索出相关的信息。
    • 这种检索通常使用 向量搜索（如 FAISS、Milvus）或基于搜索引擎（如 Elasticsearch）。

  2. 生成阶段（Generation）：

    • 结合检索到的内容，大语言模型（如 GPT、LLaMA）使用这些外部信息来生成更准确、符合事实的回答。
    • 这种方式可以减少幻觉（hallucination），让生成的内容更加可信。
RAG 的关键技术

向量数据库

  • 用于存储和检索文本嵌入（text embeddings）。
  • 常见的向量数据库：
    • FAISS（Facebook AI Similarity Search）
    • Milvus
    • Pinecone
    • Weaviate

文本嵌入（Embedding）

  • 使用模型（如 OpenAI Embeddings、BERT、Sentence-BERT）将文本转换为向量，便于相似度搜索。

检索策略

  • 稠密检索（Dense Retrieval）：基于神经网络（如 DPR、ColBERT），效果更优，但计算成本较高。
  • 稀疏检索（Sparse Retrieval）：如 BM25，传统的基于关键词的检索方法。
RAG 的优势
  • 减少幻觉：模型基于真实检索到的内容生成回答，降低胡编乱造的概率。
  • 增强知识：即使预训练数据缺乏某些信息，模型仍可动态检索外部知识库。
  • 实时更新：相比 LLM 需要重新训练，RAG 只需更新知识库，适用于动态领域（如法律、医学等）。
  • 更精准回答：相比纯 LLM，RAG 结合检索数据，可提供更精确的参考来源。
RAG 的应用场景
  • 智能问答系统（如企业知识库问答、金融/法律咨询）
  • 代码自动补全（检索 GitHub 代码库，提高准确性）
  • 医疗辅助诊断（结合医学文献，提高生成答案的专业性）
  • 法律法规检索（查询法律条文，生成更符合规范的解读）
  • 客服机器人（实时检索 FAQ，提升客服效率）

1.1.2 fine-tuning(微调)

在这里插入图片描述

1.1.3 function-call(函数调用)

在这里插入图片描述

1.2 创建简单的Spring Ai项目

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

在这里插入图片描述

二.Spring Ai简单的智能应用

（延续使用1.2中创建的Spring Ai 应用。）

2.1 智能提问实现

【yml配置】

spring:
  ai:
    openai:
      api-key: you_api_key
      base-url: 你的api_key的请求路径
      chat:
        options:
          model: gpt-3.5-turbo  # 调用的哪个模型名称

由于调用 的是国外的open ai 大模型，需要“魔法”，所以我这里搞了中转站，请求中转站的 api-key和base-url，具体的做法 淘宝 搜 open api key

【controller】

package com.hz.controller;

import org.springframework.ai.chat.client.ChatClient;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;

/**
 * @Author: weiyi
 * @Description:
 * @Date 2025/2/28 21:24
 * @ClassName AiController
 * @Version 1.0
 */

@RestController
@RequestMapping("/ai")
public class AiController {
    
    


    //智能对话的客户端
    private final ChatClient chatClient;

    public AiController(ChatClient.Builder chatClientBuilder) {
    
    
        this.chatClient = chatClientBuilder.build();
    }

    @GetMapping("/ai01")
    public String generation(
            @RequestParam(value = "message", 
                          defaultValue = "给我讲个笑话")
            String message) {
    
    
      
        return this.chatClient.prompt()  // prompt:提示词
                .user(message) // message:用户输入的信息
                .call() // 调用大模型 远程请求大模型
                .content(); // 获取大模型的返回结果
    }
}

上述代码是 参考的spring Ai 官方文档

在这里插入图片描述

【测试】

http://localhost:8080/ai/ai01?message=列出spring中的重点概念

在这里插入图片描述

这个场景模拟的是在大模型如deepseek等对话窗口的提问。

2.2 角色预设

假如你希望是一个特定场景下的智能体对话，可以进行角色预设。

在项目中的config包中创建AiConfig配置类

/**
 * @Author: weiyi
 * @Description:
 * @Date 2025/2/28 21:40
 * @ClassName AiConfig
 * @Version 1.0
 */
@Configuration
public class AiConfig {
    
    

    @Bean
    ChatClient chatClient(ChatClient.Builder builder) {
    
    
        return builder
                .defaultSystem("你现在不是 chat gpt 了，" +
                        "你是一个精通古代诗人的智能助手，有个诗人叫维一，知识渊博")
                .build();

    }

}

【修改controller】

在这里插入图片描述

/**
 * @Author: weiyi
 * @Description:
 * @Date 2025/2/28 21:24
 * @ClassName AiController
 * @Version 1.0
 */

@RestController
@RequestMapping("/ai")
public class AiController {
    
    

    //智能对话的客户端
    @Autowired
    private  ChatClient chatClient;

    // public AiController(ChatClient.Builder chatClientBuilder) {
    
    
    //     this.chatClient = chatClientBuilder.build();
    // }

    @GetMapping("/ai01")
    public String generation(
            @RequestParam(value = "message", defaultValue = "给我讲个笑话")
            String message) {
    
    
        // prompt:提示词
        return this.chatClient.prompt()
                .user(message) // message:用户输入的信息
                .call() // 调用大模型 远程请求大模型
                .content(); // 获取大模型的返回结果
    }
}

测试

在这里插入图片描述

2.3 流式响应

通俗点说流式响应就是将生成的文本内容一个字一个字的显示出来。

/**
     * @description: 流式响应
     * @author: weiyi
     * @date: 2025/3/1 19:08
     * @param: [message]
     * @return: reactor.core.publisher.Flux<java.lang.String>
     **/
    @GetMapping(value = "/ai02", 
                produces = "text/html;charset=utf-8")
    public Flux<String> generation02(String message){
    
    
        Flux<String> output = chatClient.prompt()
                .user(message)
                .stream()
                .content();
        return output;
    }

如果不设置 produces = “text/html;charset=utf-8” 输出内容会出现中文乱码。

在这里插入图片描述

2.4 ChatClient和ChatMode区别

ChatClient Api 里是大模型通用的功能。

ChatMode Api 是大模型特有功能。假如用deepseek特有的模型功能需要用ChatMode Api

在这里插入图片描述

如：用open ai 下模型：

在这里插入图片描述


 @Autowired
 private ChatModel chatModel;

@GetMapping(value = "/ai03", 
            produces = "text/html;charset=utf-8")
    public String generation03(
      @RequestParam(value = "message",
            defaultValue = "给我讲个笑话") String message){
    
    
        ChatResponse response = chatModel.call(
                new Prompt(
                        message, // new UserMessage(message)
                        OpenAiChatOptions.builder()
                                .model("gpt-3.5-turbo")
                                .temperature(0.4)//让生成文字更有温度
                                .build()
                ));
        //等同于 .content
        return response.getResult().getOutput().getText();
    }

在这里插入图片描述

2.5 文生图（gpt-4模型和deepseek-r1模型）

在这里插入图片描述
在这里插入图片描述

spring:
  ai:
    openai:
      api-key: xxxxx
      base-url: xxxxxx
      chat:
        options:
          model: gpt-4-32k


@GetMapping(value = "/ai05")
    public String generation05(
      @RequestParam(value = "message",
            defaultValue = "画个龙") String message) {
    
    
        ImageResponse response = openaiImageModel.call(
                new ImagePrompt(message, // 图片提示词
                        OpenAiImageOptions.builder()
                                .quality("hd") // 图片质量
                                .withModel(OpenAiImageApi.DEFAULT_IMAGE_MODEL) // 图片模型
                                .N(1) // 生成图片数量
                                .height(1024)
                                .width(1024).build())

        );
        return response.getResult().getOutput().getUrl();
    }

会生成图片的url地址：

在这里插入图片描述

将生成的图片地址粘贴浏览器地址栏：
(这是调用gpt4模型生成的)
在这里插入图片描述
【换成deepseek-r1模型】
☞deepseek官网文档
在这里插入图片描述

在这里插入图片描述
这是调用deepseek-r1模型生成。
在这里插入图片描述

2.6 文生语音

持续待更新…

2.7 语音翻译

持续待更新…

2.8 多模态

持续待更新…

2.9 function-call请求

持续待更新…

持续待更新…

猜你喜欢

转载自blog.csdn.net/weixin_54555405/article/details/145952883
今日推荐
Electron中的关于静态资源加载问题解决方案
《Cursor-AI编程》基础篇-界面指南
《Cursor-AI编程》基础篇-Tab代码智能补充
《Cursor-AI编程》基础篇-Composer功能详解
《Cursor-AI编程》基础篇-Chat功能详解
《Cursor-AI编程》进阶篇-自定义模型
《Cursor-AI编程》进阶篇-上下文详解
【大模型系列篇】最强检索增强技术GraphRAG基本原理详解
【大模型系列篇】基于Ollama和GraphRAG v2.0.0快速构建知识图谱
解释什么是迁移学习？在 CNN 中如何应用？（面试题200合集，高频、关键）
解释数据增强（Data Augmentation）的概念和方法（（面试题200合集，高频、关键））
揭秘大模型“魔法”：Function Calling 让 AI 不止会说，更能“做”！
周排行
ConfigurationClassParser类的parse方法源码解析
基础大讲堂-java 位运算符
ConsecutiveInteger判断给定的整数n能否表示成连续的m(m>1)个正整数之和
多项式问题之六——多项式快速幂
Spring Security技术栈开发企业级认证与授权（四）RESTful API服务异常处理
Linux基础命令---apachectl
MATLAB中的线性插值
Unity编辑器拓展之十七：NGUI ComponentSelector增加搜索框
SqlServer 备份还原教程
[Unity动画]01.
每日归档
更多
2025-04-12(10529)
2025-04-11(9561)
2025-04-10(1213)
2025-04-09(10354)
2025-04-08(12998)
2025-04-07(0)
2025-04-06(0)
2025-04-05(0)
2025-04-04(0)
2025-04-03(0)