第九模型介绍-聊天记录
官网
大型语言模型（LLMs）是无状态的，这意味着它们不会保留之前交互的信息。当您希望在多次交互中保持上下文或状态时，这可能是一个限制。为了解决这个问题，Spring AI 提供了聊天记忆功能，使您能够存储和检索在与 LLM 的多次交互中的信息。
spring-ai网址【docs.spring.io/spring-ai/r…
核心架构分为两层
- ChatMemory（记忆管理层）
如果您需要维护所有消息交换的完整记录，您应该考虑使用其他方法，例如依赖于Spring Data以高效地存储和检索完整的聊天历史记录
Spring AI自动配置一个ChatMemory bean，您可以在应用程序中直接使用。默认情况下，它使用内存中的仓库来存储消息
策略类型
实现类
描述
消息窗口
MessageWindowChatMemory
维护一个固定大小的消息窗口，当消息数超过设定值（默认为20）时，自动移除最旧的消息。
摘要记忆
ConversationSummaryChatMemory
对超过Token限制的历史对话进行摘要，将摘要作为后续对话的上下文，节省Token用量。
时间窗口
需自定义
根据时间戳，只保留最近一段时间内的消息作为上下文。
- ChatMemoryRepository（存储层）
存储层负责将消息存储在持久化存储中，例如数据库或文件系统。
Spring AI 提供了以下几种开箱即用的实现：
- InMemoryChatMemoryRepository:
- 默认实现，消息存储在内存中，适合开发或测试，重启即丢失。
- JdbcChatMemoryRepository:
- 用于关系型数据库持久化。官方支持 MySQL、PostgreSQL、SQL Server、HSQLDB 等
关键差异：ChatMemory 与 ChatHistory
在使用 Spring AI 的记忆功能时，理解这两个概念的区别至关重要：
- ChatMemory：
专为维护当前对话的上下文感知而设计，用于提升模型回答质量。
- ChatHistory：
指代完整的、原始的对话记录。官方文档明确指出，ChatMemory 不适合存储完整历史，如需保存所有记录，应考虑使用 Spring Data 等其他方案。
基于内存存储进行演示
源码示例
-
yaml配置
In application.yml
spring: ai: zhipuai: api-key: ${ZHIPUAI_API_KEY} chat: options: model: glm-4v-flash datasource: url: jdbc:h2:file:./data/chat_memory username: sa password: driver-class-name: org.h2.Driver h2: console: enabled: true path: /h2-console sql: init: mode: always schema-locations: classpath:schema.sql
-
测试代码
- 测试结果
数据库查询
- 本地数据位置
- 可视化客户端查询
登录信息：
JDBC URL: jdbc:h2:file:./data/chat_memory
Username: sa
Password: （留空，不填）
-
查询结果
SELECT * FROM SPRING_AI_CHAT_MEMORY;
