1. 大模型技术的现状与挑战
-
当前大模型技术进入应用阶段，但仍有许多未探索领域。
-
持续学习尚未攻克，目前大模型训练仍是阶段式全量更新（如OpenAI定期重新训练），而非真正意义上的持续学习。
- 问题：灾难性遗忘（学习新知识时遗忘旧知识）。
- 可能原因：模型中的语言能力、世界知识、推理能力等纠缠存储，难以单独更新某一项。
- 潜在解决方案：分层解耦（如知识存储、推理能力、语言能力分离），或通过知识蒸馏压缩优化存储。
2. 持续学习的两个关键方向
-
（1）增量世界知识补充
- 当前方法：全量重新训练，效率低。
- 研究方向：如何在不影响其他能力的情况下，仅更新知识（如通过MLP层的Key-Value存储机制）。
-
（2）推理与任务完成能力的优化
-
可通过环境反馈优化模型行为（类似强化学习）。
-
设想：构建虚拟生态圈（AI沙盒） ，模拟动态环境：
- 动态奖励：根据任务完成度分配计算资源。
- 种群竞争：多智能体对比择优。
- 环境突变：随机调整接口，增强适应性。
-
3. RAG（检索增强生成）的局限与改进
-
当前RAG的问题：
- 外挂式检索：依赖传统搜索技术（知识库+多路召回），未与模型深度融合。
- 上下文长度限制：即使扩展到几十K，长文本处理仍会衰减。
- 信息未压缩：检索结果线性堆叠，缺乏抽象与压缩。
-
改进方向：
-
内生RAG：让模型在推理时动态压缩检索信息，存储到独立模块（类似记忆系统）。
- 类似Mem0项目：对话历史总结、冲突消解，形成长期记忆。
- Star Attention（英伟达）：单次信息编码，但缺乏多步压缩。
-
链式搜索推理（如Deep Research）：
- 模型主动判断需要补充的信息，迭代搜索。
- 问题：速度慢（几分钟到几十分钟），依赖模型推理能力。
-
流式数据处理：
- 让模型直接接入数据流（如金融资讯），实时筛选、压缩、编码。
- 挑战：如何保证流式数据与模型参数空间的一致性（可能需要Adapter桥接）。
-
4. 未来探索方向
- 持续学习：解耦模型能力，实现知识动态更新。
- 内生RAG：让检索与模型深度融合，提高信息密度与效率。
- 流式数据处理：模型直接处理实时数据流，减少检索延迟。
- 虚拟环境训练：通过AI沙盒优化任务完成能力。
