springboot集成langchain4j-实现简单的智能问答机器人

本文将基于langchain4j实现一个简单的智能问答机器人。

1. 启动本地ollama

ollama run mistral
>>> 你是谁
我是一个用来帮助您的AI assistant。

您可以向我提问,我会尽力回答您的问题,或者提供相关资源,并帮助您解决问题。

请随时告诉我如何更好地为您服务!

>>> Send a message (/? for help)

2. 创建springboot-langchain4j工程

  <dependency>
      <groupId>dev.langchain4j</groupId>
      <artifactId>langchain4j-spring-boot-starter</artifactId>
      <version>1.0.0-alpha1</version>
    </dependency>
    <dependency>
      <groupId>dev.langchain4j</groupId>
      <artifactId>langchain4j-ollama-spring-boot-starter</artifactId>
      <version>0.34.0</version>
    </dependency>

    <!-- for Flux<String> support -->
    <dependency>
      <groupId>dev.langchain4j</groupId>
      <artifactId>langchain4j-reactor</artifactId>
      <version>1.0.0-alpha1</version>
    </dependency>
    <dependency>
      <groupId>org.springframework.boot</groupId>
      <artifactId>spring-boot-starter-webflux</artifactId>
    </dependency>

3.在浏览器上与ollama mstral llm进行简单的问答

在浏览器地址栏输入对话内容,例如我们询问下面的2个问题,观察大模型的回答内容:

参考文章

springboot集成langchain4j-实现智能问答机器人