Agent记忆系统

上下文窗口管理策略

1. 截断策略
   - 直接截断早期消息
   - 保留系统提示和最近N轮对话

2. 摘要策略
   - 将早期对话压缩为摘要
   - 保留关键信息，减少token占用

3. 选择性保留
   - 根据重要性评分保留消息
   - 保留工具调用结果等关键信息

4. 滑动窗口
   - 维护固定大小的窗口
   - 新消息进入，旧消息移出

5. 分层压缩
   - 短期：完整保留最近对话
   - 中期：压缩为摘要
   - 长期：提取关键实体和关系

摘要压缩示例

原始对话（500 tokens）:
User: 我想开发一个天气应用
Agent: 好的，我来帮您规划。请问您需要哪些功能？
User: 需要查看实时天气、7天预报、空气质量
Agent: 明白了。您希望支持哪些城市？
User: 主要是一二线城市
Agent: 好的，我来设计应用架构...

压缩后（100 tokens）:
[摘要] 用户想开发天气应用，功能包括实时天气、7天预报、空气质量，
       覆盖一二线城市。已讨论架构设计方案，正在进行UI设计。

记忆存储流程

# 记忆存储流程

1. 信息提取
   - 从对话中提取关键信息
   - 识别实体、关系、事件

2. 向量化
   - 使用Embedding模型将文本转为向量
   - 选择合适的嵌入模型（如text-embedding-3）

3. 元数据附加
   - 时间戳、来源、重要性等
   - 便于后续过滤和排序

4. 存储
   - 写入向量数据库
   - 建立索引

5. 更新知识图谱（可选）
   - 提取实体关系
   - 更新图谱结构

常用检索策略

• 语义相似度：根据查询向量找最相似的记忆
• 关键词匹配：结合BM25等传统检索方法
• 时间衰减：优先返回最近的记忆
• 重要性加权：根据记忆重要性排序
• 混合检索：结合多种策略

分层记忆架构

┌─────────────────────────────────────────┐
│              Agent Core                  │
├─────────────────────────────────────────┤
│  ┌─────────────────────────────────┐    │
│  │      短期记忆（Context Window）   │    │
│  │    当前对话 + 任务状态             │    │
│  └─────────────────────────────────┘    │
│                   ↓                      │
│  ┌─────────────────────────────────┐    │
│  │      工作记忆（Redis/内存）       │    │
│  │    任务进度 + 中间结果            │    │
│  └─────────────────────────────────┘    │
│                   ↓                      │
│  ┌─────────────────────────────────┐    │
│  │      长期记忆（向量数据库）        │    │
│  │    知识 + 经验 + 偏好             │    │
│  └─────────────────────────────────┘    │
│                   ↓                      │
│  ┌─────────────────────────────────┐    │
│  │      知识图谱（Neo4j等）          │    │
│  │    实体 + 关系 + 事件             │    │
│  └─────────────────────────────────┘    │
└─────────────────────────────────────────┘

LangChain记忆系统示例

from langchain.memory import ConversationBufferMemory
from langchain.memory import VectorStoreRetrieverMemory
from langchain_community.vectorstores import Chroma
from langchain_openai import OpenAIEmbeddings

# 短期记忆：对话缓冲
short_term_memory = ConversationBufferMemory(
    memory_key="chat_history",
    return_messages=True
)

# 长期记忆：向量存储
embeddings = OpenAIEmbeddings()
vectorstore = Chroma(
    embedding_function=embeddings,
    persist_directory="./chroma_db"
)
retriever = vectorstore.as_retriever(
    search_kwargs={"k": 5}
)
long_term_memory = VectorStoreRetrieverMemory(
    retriever=retriever
)

# 使用记忆
from langchain.chains import ConversationChain

chain = ConversationChain(
    llm=llm,
    memory=short_term_memory,
    verbose=True
)

# 保存重要信息到长期记忆
long_term_memory.save_context(
    {"input": "用户偏好深色主题"},
    {"output": "已记住您的偏好"}
)