spring-ai 第六模型介绍-聊天模型

0 阅读1分钟

spring-ai 第六模型介绍-聊天模型

官网

利用了预训练的语言模型,例如 GPT(生成型预训练变换器),以在自然语言中生成类似人类的响应

spring-ai网址docs.spring.io/spring-ai/r…

通过输入封装的辅助类 Prompt 和输出处理的辅助类 ChatResponse

  • 基于chatmodel

    public interface ChatModel extends Model<Prompt, ChatResponse>, StreamingChatModel {

    default String call(String message) {...}
    
    @Override
    ChatResponse call(Prompt prompt);
    

    }

  • 基于流式(StreamingChatModel)

    public interface StreamingChatModel extends StreamingModel<Prompt, ChatResponse> {

    default Flux<String> stream(String message) {...}
    
    @Override
    Flux<ChatResponse> stream(Prompt prompt);
    

    }

Image text

  • 以下流程图说明了Spring AI如何处理聊天模型的配置和执行,结合了启动和运行时选项 Image text

源码示例

gitee.com/kcnf\_open/…

  • 股票相关建议和关键信息筛选提炼

Image text

  • 结果回答太含蓄 Image text