LangChain4j HelloWorld

197 阅读2分钟

LangChain4j 可以与不同的大语言模型、向量模型/数据库进行集成。每个集成都有自己的 Maven 依赖。

如果想使用 LangChain4j,需要的 JDK 版本至少是 17。

LangChain4j 提供 2 个抽象级别:

  • Low Level:简单封装,可以自由组合构建大语言模型(LLM)的应用程序的 “基本要素”,如 ChatModel、UserMessage、EmbeddingStore、Embedding 等,但需要编写更多的衔接代码。
  • High Level:在这个层面,你可以使用诸如AI Services这样的高级 API 与大语言模型进行交互,这会为你屏蔽所有的复杂性和样板代码。你仍然可以灵活地调整和微调其行为,但这是以声明式的方式完成的。

开始之前

创建 project 父工程:langchain4j-demo

<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>

    <groupId>com.wheelmouse</groupId>
    <artifactId>langchain4j-demo</artifactId>
    <version>1.0-SNAPSHOT</version>
    <packaging>pom</packaging>

    <name>langchain4j-demo</name>
    <url>http://maven.apache.org</url>

    <properties>
        <maven.compiler.source>21</maven.compiler.source>
        <maven.compiler.target>21</maven.compiler.target>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
        <spring-boot.version>3.3.8</spring-boot.version>
        <langchain4j.version>1.0.0-beta3</langchain4j.version>
    </properties>

    <dependencyManagement>
        <dependencies>
            <dependency>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-dependencies</artifactId>
                <version>${spring-boot.version}</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
            <!-- 加载bom 后,所有langchain4j引用不需要加版本号 -->
            <dependency>
                <groupId>dev.langchain4j</groupId>
                <artifactId>langchain4j-bom</artifactId>
                <version>${langchain4j.version}</version>
                <type>pom</type>
                <scope>import</scope>
            </dependency>
        </dependencies>
    </dependencyManagement>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
                <version>${spring-boot.version}</version>
            </plugin>
        </plugins>
    </build>
</project>

永远的 HelloWorld

Step 1:建Module langchain4j-helloworld

Step 2:改POM

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0"
         xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
         xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/xsd/maven-4.0.0.xsd">
    <modelVersion>4.0.0</modelVersion>
    <parent>
        <groupId>com.wheelmouse</groupId>
        <artifactId>langchain4j-demo</artifactId>
        <version>1.0-SNAPSHOT</version>
    </parent>

    <groupId>com.wheelmouse</groupId>
    <artifactId>langchain4j-helloworld</artifactId>

    <properties>
        <maven.compiler.source>21</maven.compiler.source>
        <maven.compiler.target>21</maven.compiler.target>
        <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
    </properties>

    <dependencies>
        <!--所有调用均基于 OpenAI 协议标准,实现一致的接口设计与规范
        LangChain4j 提供与许多 LLM 提供商的集成。每个集成都有自己的 maven 依赖项。
        最简单的开始方式是从 OpenAI 集成开始-->
        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j-open-ai-spring-boot-starter</artifactId>
        </dependency>
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>
        <dependency>
            <groupId>org.projectlombok</groupId>
            <artifactId>lombok</artifactId>
            <optional>true</optional>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-test</artifactId>
            <scope>test</scope>
        </dependency>
    </dependencies>

    <build>
        <plugins>
            <plugin>
                <groupId>org.springframework.boot</groupId>
                <artifactId>spring-boot-maven-plugin</artifactId>
            </plugin>
        </plugins>
    </build>

</project>

Step 3:写YML

server.port=9001

spring.application.name=langchain4j-helloworld

langchain4j.open-ai.chat-model.api-key=# Your API KEY
langchain4j.open-ai.chat-model.model-name=# Your Model
langchain4j.open-ai.chat-model.base-url=# Your API URL

logging.level.dev.langchain4j.model.openai = DEBUG

Step4:启动类

@SpringBootApplication
public class LangChain4JHelloWorldApplication {
    public static void main(String[] args) {
        SpringApplication.run(LangChain4JHelloWorldApplication.class,args);
    }
}

Step 5:Controller

@RestController
@Slf4j
public class HelloLangChain4JController {

    @Resource
    private ChatLanguageModel chatLanguageModel;

    // http://localhost:9001/langchain4j/hello?prompt=如何学习阿里云
    @GetMapping(value = "/langchain4j/hello")
    public String hello(@RequestParam(value = "prompt", defaultValue = "你是谁") String prompt) {
        String result = chatLanguageModel.chat(prompt);

        System.out.println("通过langchain4j调用qwen-turbo-0624模型返回结果:\n" + result);

        return result;
    }


}

Step 6:测试效果 http://localhost:9001/langchain4j/hello?prompt=%E5%A6%82%E4%BD%95%E5%AD%A6%E4%B9%A0%E9%98%BF%E9%87%8C%E4%BA%91

Reference

docs.langchain4j.dev/tutorials/s… docs.langchain4j.dev/tutorials/s…