4.9 MiniMax Chat

43 阅读7分钟

MiniMax Chat

Spring AI 参考文档 - MiniMax 聊天模型集成指南

概述

Spring AI 支持来自 MiniMax 的各种 AI 语言模型。您可以与 MiniMax 语言模型交互,并基于 MiniMax 模型创建多语言对话助手。

先决条件

您需要在 MiniMax 创建一个 API 来访问 MiniMax 语言模型。

MiniMax 注册页面 创建账户,并在 API 密钥页面 生成令牌。

Spring AI 项目定义了一个名为 spring.ai.minimax.api-key 的配置属性,您应该将其设置为从 API 密钥页面获得的 API Key 的值。

您可以在 application.properties 文件中设置此配置属性:

spring.ai.minimax.api-key=<您的MiniMax API密钥>

为了在处理 API 密钥等敏感信息时增强安全性,您可以使用 Spring 表达式语言 (SpEL) 来引用环境变量:

# 在 application.yml 中
spring:
  ai:
    minimax:
      api-key: ${MINIMAX_API_KEY}
# 在您的环境或 .env 文件中
export MINIMAX_API_KEY=<您的MiniMax API密钥>

您也可以在应用程序代码中以编程方式设置此配置:

// 从安全源或环境变量检索 API 密钥
String apiKey = System.getenv("MINIMAX_API_KEY");

添加存储库和 BOM

Spring AI 构件发布在 Maven Central 和 Spring Snapshot 存储库中。 请参考构件存储库部分,将这些存储库添加到您的构建系统。

为了帮助依赖管理,Spring AI 提供了 BOM(物料清单)以确保在整个项目中使用一致的 Spring AI 版本。请参考依赖管理部分,将 Spring AI BOM 添加到您的构建系统。

自动配置

注意:Spring AI 自动配置和启动模块构件名称发生了重大变化。 请参阅升级说明了解更多信息。

Spring AI 为 MiniMax 聊天客户端提供 Spring Boot 自动配置。 要启用它,请将以下依赖项添加到您项目的 Maven pom.xml 文件中:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-starter-model-minimax</artifactId>
</dependency>

或者添加到您的 Gradle build.gradle 构建文件中:

dependencies {
    implementation 'org.springframework.ai:spring-ai-starter-model-minimax'
}

提示:请参考依赖管理部分,将 Spring AI BOM 添加到您的构建文件中。

聊天属性

重试属性

前缀 spring.ai.retry 用作属性前缀,让您可以为 MiniMax 聊天模型配置重试机制。

属性描述默认值
spring.ai.retry.max-attempts最大重试尝试次数10
spring.ai.retry.backoff.initial-interval指数退避策略的初始睡眠持续时间2 秒
spring.ai.retry.backoff.multiplier退避间隔乘数5
spring.ai.retry.backoff.max-interval最大退避持续时间3 分钟
spring.ai.retry.on-client-errors如果为 false,则抛出 NonTransientAiException,并且不会尝试重试 4xx 客户端错误代码false
spring.ai.retry.exclude-on-http-codes不应触发重试的 HTTP 状态代码列表(例如,抛出 NonTransientAiException)
spring.ai.retry.on-http-codes应触发重试的 HTTP 状态代码列表(例如,抛出 TransientAiException)
连接属性

前缀 spring.ai.minimax 用作属性前缀,让您可以连接到 MiniMax。

属性描述默认值
spring.ai.minimax.base-url连接的 URLapi.minimax.chat
spring.ai.minimax.api-keyAPI 密钥-
配置属性

注意:聊天自动配置的启用和禁用现在通过前缀为 spring.ai.model.chat 的顶级属性配置。

要启用:spring.ai.model.chat=minimax(默认启用)

要禁用:spring.ai.model.chat=none(或任何不匹配 minimax 的值)

进行此更改是为了允许多个模型的配置。

前缀 spring.ai.minimax.chat 是属性前缀,让您可以为 MiniMax 配置聊天模型实现。

属性描述默认值
spring.ai.minimax.chat.enabled (已移除,不再有效)启用 MiniMax 聊天模型true
spring.ai.model.chat启用 MiniMax 聊天模型minimax
spring.ai.minimax.chat.base-url可选地覆盖 spring.ai.minimax.base-url 以提供聊天特定的 URLapi.minimax.chat
spring.ai.minimax.chat.api-key可选地覆盖 spring.ai.minimax.api-key 以提供聊天特定的 api-key-
spring.ai.minimax.chat.options.model这是要使用的 MiniMax 聊天模型abab6.5g-chatabab5.5-chatabab5.5s-chatabab6.5-chatabab6.5g-chatabab6.5t-chatabab6.5s-chat 指向最新模型版本)
spring.ai.minimax.chat.options.maxTokens在聊天完成中生成的最大令牌数。输入令牌和生成令牌的总长度受模型的上下文长度限制。-
spring.ai.minimax.chat.options.temperature使用的采样温度,控制生成完成的明显创造性。较高的值会使输出更随机,而较低的值会使结果更聚焦和确定性。不建议同时修改温度和 top_p 的相同完成请求,因为这两个设置的相互作用难以预测。0.7
spring.ai.minimax.chat.options.topP温度采样的替代方案,称为核采样,其中模型考虑具有 top_p 概率质量的令牌结果。因此 0.1 意味着只考虑构成前 10% 概率质量的令牌。我们通常建议更改此参数或温度,但不要同时更改两者。1.0
spring.ai.minimax.chat.options.n为每个输入消息生成多少聊天完成选择。请注意,您将根据所有选择中生成的令牌数量计费。默认值为 1,不能大于 5。具体来说,当温度非常小且接近 0 时,我们只能返回 1 个结果。如果此时 n 已设置且 >1,服务将返回非法输入参数(invalid_request_error)1
spring.ai.minimax.chat.options.presencePenalty-2.0 到 2.0 之间的数字。正值根据新令牌是否出现在文本中来对其进行惩罚,增加模型谈论新主题的可能性。0.0f
spring.ai.minimax.chat.options.frequencyPenalty-2.0 到 2.0 之间的数字。正值根据新令牌在文本中的现有频率对其进行惩罚,降低模型逐字重复同一行的可能性。0.0f
spring.ai.minimax.chat.options.stop模型将停止生成由 stop 指定的字符,目前仅支持格式为 ["stop_word1"] 的单个停止词-

注意:您可以覆盖 ChatModel 实现的通用 spring.ai.minimax.base-urlspring.ai.minimax.api-key。如果设置了 spring.ai.minimax.chat.base-urlspring.ai.minimax.chat.api-key 属性,它们将优先于通用属性。如果您想为不同的模型和不同的模型端点使用不同的 MiniMax 账户,这很有用。

提示:所有以 spring.ai.minimax.chat.options 为前缀的属性都可以通过向 Prompt 调用添加请求特定的运行时选项在运行时覆盖。

运行时选项

MiniMaxChatOptions.java 提供模型配置,例如要使用的模型、温度、频率惩罚等。

在启动时,可以使用 MiniMaxChatModel(api, options) 构造函数或 spring.ai.minimax.chat.options.* 属性配置默认选项。

在运行时,您可以通过向 Prompt 调用添加新的请求特定选项来覆盖默认选项。 例如,要覆盖特定请求的默认模型和温度:

ChatResponse response = chatModel.call(
    new Prompt(
        "Generate the names of 5 famous pirates.",
        MiniMaxChatOptions.builder()
            .model(MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue())
            .temperature(0.5)
        .build()
    ));

提示:除了模型特定的 MiniMaxChatOptions 外,您还可以使用通过 ChatOptions#builder() 创建的可移植 ChatOptions 实例。

示例控制器

创建一个新的 Spring Boot 项目,并将 spring-ai-starter-model-minimax 添加到您的 pom(或 gradle)依赖项中。

src/main/resources 目录下添加 application.properties 文件,以启用和配置 MiniMax 聊天模型:

spring.ai.minimax.api-key=YOUR_API_KEY
spring.ai.minimax.chat.options.model=abab6.5g-chat
spring.ai.minimax.chat.options.temperature=0.7

提示:请将 api-key 替换为您的 MiniMax 凭据。

这将创建一个可以注入到您的类中的 MiniMaxChatModel 实现。 这是一个使用聊天模型进行文本生成的简单 @Controller 类示例。

@RestController
public class ChatController {

    private final MiniMaxChatModel chatModel;

    @Autowired
    public ChatController(MiniMaxChatModel chatModel) {
        this.chatModel = chatModel;
    }

    @GetMapping("/ai/generate")
    public Map generate(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        return Map.of("generation", this.chatModel.call(message));
    }

    @GetMapping("/ai/generateStream")
	public Flux<ChatResponse> generateStream(@RequestParam(value = "message", defaultValue = "Tell me a joke") String message) {
        var prompt = new Prompt(new UserMessage(message));
        return this.chatModel.stream(prompt);
    }
}

手动配置

MiniMaxChatModel 实现了 ChatModelStreamingChatModel,并使用低级 MiniMaxApi 客户端连接到 MiniMax 服务。

spring-ai-minimax 依赖项添加到您项目的 Maven pom.xml 文件中:

<dependency>
    <groupId>org.springframework.ai</groupId>
    <artifactId>spring-ai-minimax</artifactId>
</dependency>

或者添加到您的 Gradle build.gradle 构建文件中:

dependencies {
    implementation 'org.springframework.ai:spring-ai-minimax'
}

提示:请参考依赖管理部分,将 Spring AI BOM 添加到您的构建文件中。

接下来,创建 MiniMaxChatModel 并使用它进行文本生成:

var miniMaxApi = new MiniMaxApi(System.getenv("MINIMAX_API_KEY"));

var chatModel = new MiniMaxChatModel(this.miniMaxApi, MiniMaxChatOptions.builder()
                .model(MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue())
                .temperature(0.4)
                .maxTokens(200)
                .build());

ChatResponse response = this.chatModel.call(
    new Prompt("Generate the names of 5 famous pirates."));

// 或使用流式响应
Flux<ChatResponse> streamResponse = this.chatModel.stream(
    new Prompt("Generate the names of 5 famous pirates."));

MiniMaxChatOptions 为聊天请求提供配置信息。 MiniMaxChatOptions.Builder 是一个流畅的选项构建器。

低级 MiniMaxApi 客户端

MiniMaxApi 提供了一个用于 MiniMax API 的轻量级 Java 客户端。

这是一个显示如何以编程方式使用 API 的简单片段:

MiniMaxApi miniMaxApi =
    new MiniMaxApi(System.getenv("MINIMAX_API_KEY"));

ChatCompletionMessage chatCompletionMessage =
    new ChatCompletionMessage("Hello world", Role.USER);

// 同步请求
ResponseEntity<ChatCompletion> response = this.miniMaxApi.chatCompletionEntity(
    new ChatCompletionRequest(List.of(this.chatCompletionMessage), MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue(), 0.7, false));

// 流式请求
Flux<ChatCompletionChunk> streamResponse = this.miniMaxApi.chatCompletionStream(
    new ChatCompletionRequest(List.of(this.chatCompletionMessage), MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.getValue(), 0.7, true));

请遵循 MiniMaxApi.java 的 JavaDoc 获取更多信息。

WebSearch 聊天

MiniMax 模型支持网络搜索功能。网络搜索功能允许您在网络上搜索信息并在聊天响应中返回结果。

关于网络搜索,请遵循 MiniMax ChatCompletion 获取更多信息。

这是一个显示如何使用网络搜索的简单片段:

UserMessage userMessage = new UserMessage(
        "How many gold medals has the United States won in total at the 2024 Olympics?");

List<Message> messages = new ArrayList<>(List.of(this.userMessage));

List<MiniMaxApi.FunctionTool> functionTool = List.of(MiniMaxApi.FunctionTool.webSearchFunctionTool());

MiniMaxChatOptions options = MiniMaxChatOptions.builder()
    .model(MiniMaxApi.ChatModel.ABAB_6_5_S_Chat.value)
    .tools(this.functionTool)
    .build();


// 同步请求
ChatResponse response = chatModel.call(new Prompt(this.messages, this.options));

// 流式请求
Flux<ChatResponse> streamResponse = chatModel.stream(new Prompt(this.messages, this.options));
MiniMaxApi 示例

相关资源