给 AI 记忆系统加上「遗忘权」:开发者视角下的记忆边界设计

4 阅读3分钟

给 AI 记忆系统加上「遗忘权」:开发者视角下的记忆边界设计

做 AI 记忆系统的时候,大多数开发者只想一件事:怎么让 AI 记得更多、更久、更准。

但很少有人想第二个问题:用户有没有权利让 AI 忘掉一些事?

这不是哲学问题,是工程问题。


为什么「遗忘」是个设计问题

欧盟 GDPR 早在 2018 年就确立了「被遗忘权」——用户有权要求删除平台上关于自己的数据。AI 记忆系统如果不考虑这一点,迟早会踩坑。

更现实的场景是:

  • 用户在 AI 客服里说了一句气话,不想这句话永远影响后续服务
    • 用户换工作了,不想 AI 助手还记得上一家公司的内部信息
    • 用户曾经聊过一段敏感的私人经历,想清除这段记忆

如果系统没有提供这个能力,用户会觉得被监视,信任崩塌。


记忆边界的三个维度

1. 时间边界:记忆应该有保质期

不是所有记忆都应该永久保留。用户两年前聊过的内容,未必还和现在的状态相关。可以设计分层的保留策略:

MEMORY_TTL = {
  "sensitive": 7,    # 敏感内容 7 天自动清除
    "preference": 90,  # 偏好类 90 天
      "core_profile": -1 # 核心画像永久保留(用户明确同意)
      }
      ```
      
      **2. 内容边界:哪些不该被记**
      
      在存入记忆前做一层过滤,识别并拦截不应被长期保留的内容类型:
      
      ```python
      SENSITIVE_PATTERNS = [
        "密码", "身份证", "银行卡",
          "情绪宣泄", "临时抱怨"
          ]
          
          def should_memorize(content):
            for pattern in SENSITIVE_PATTERNS:
                if pattern in content:
                      return False
                        return True
                        ```
                        
                        **3. 控制边界:用户能主动删什么**
                        
                        提供清晰的记忆管理接口,让用户看得到、删得掉:
                        
                        ```python
                        def delete_memory(user_id, memory_id):
                          # 支持单条删除
                            timem.delete(user_id=user_id, memory_id=memory_id)
                            
                            def clear_topic(user_id, topic_keyword):
                              # 支持按话题批量清除
                                memories = timem.search(
                                    query=topic_keyword,
                                        user_id=user_id,
                                            top_k=50
                                              )
                                                for m in memories:
                                                    timem.delete(user_id=user_id, memory_id=m["id"])
                                                    
                                                    def full_reset(user_id):
                                                      # 支持一键清空(核武器级别,需要二次确认)
                                                        timem.clear_all(user_id=user_id)
                                                        ```
                                                        
                                                        ---
                                                        
                                                        ## TiMem 的隐私优先设计
                                                        
                                                        TiMem 在架构上做了几个对隐私友好的选择:
                                                        
                                                        - **用户数据完全隔离**:每个 `user_id` 的记忆空间物理隔离,不会跨用户泄漏
                                                        - **最小化召回**:不会把所有历史记忆都塞进 context,只召回与当前查询相关的部分
                                                        - **可审计**:每条记忆有来源标注,用户可以查看 AI「知道」自己什么
                                                        
                                                        ---
                                                        
                                                        ## 设计建议
                                                        
                                                        如果你在做 AI 记忆系统,建议把这几个问题当成必答题:
                                                        
                                                        1. 用户能看到 AI 记得关于自己的什么吗?
                                                        2. 用户能删除某条记忆吗?
                                                        3. 敏感内容有没有自动过滤或定期清除机制?
                                                        4. 数据留存时间有没有上限?
                                                        
                                                        不是所有问题都要完美解决,但有没有想过这些,会决定产品的信任上限。
                                                        
                                                        ---
                                                        如果你对 AI 记忆技术感兴趣,欢迎访问 TiMem 的 GitHub 仓库:
                                                        https://github.com/TiMEM-AI/timem
                                                        给我们一个 Star,你的支持是我们持续开源的最大动力!
                                                        
                                                        在线体验:https://playground.timem.cloud
                                                        技术文档:https://docs.timem.cloud