轻量级AI记忆系统：基于txt文件的RAG技术实践

1. 项目背景与核心思路

最近在开发AI对话系统时，发现大语言模型存在两个明显短板：一是无法记住历史对话内容，二是知识更新滞后。这导致用户每次提问都要重复上下文，体验很差。于是我开始研究如何给AI添加记忆功能，最终设计了一套轻量级解决方案——将对话记录直接保存到txt文件，需要时再喂给模型。

这种方法的本质是简化版的RAG（检索增强生成）技术。不同于企业级系统需要搭建向量数据库，个人开发者完全可以用txt文件作为知识库。每次对话时，系统会先检索相关历史记录，再结合当前问题生成回答。这种方案特别适合以下场景：

• 个人知识管理（如整理会议记录）
• 长期对话陪伴型AI
• 需要持续学习的专业领域助手

2. 技术实现方案

2.1 基础架构设计

系统工作流程分为三个阶段：

1. 记忆存储：将AI回复自动保存到指定txt文件
2. 记忆检索：根据当前问题查找相关历史记录
3. 记忆增强：将检索结果作为上下文喂给AI

python复制# 伪代码示例
def chat_with_memory(user_input):
    # 阶段1：检索相关记忆
    related_memories = search_memories(user_input) 
    
    # 阶段2：组合提示词
    prompt = f"""
    历史对话记录：
    {related_memories}
    
    当前问题：
    {user_input}
    """
    
    # 阶段3：调用AI并保存新记录
    response = call_ai(prompt)
    save_to_txt(response)
    return response

2.2 文件存储优化技巧

直接写入txt虽然简单，但需要注意几个关键点：

1. 文件结构设计

markdown复制[2023-08-20 14:30]
用户：如何用Python读写txt文件？
AI：可以使用open()函数配合with语句...

[2023-08-20 15:45] 
用户：那怎么追加内容呢？
AI：需要在open()中使用'a'模式...

2. 写入性能优化

• 使用缓冲写入（每10条批量写入）
• 采用UTF-8编码避免乱码
• 定期归档大文件（建议单文件不超过10MB）

3. 错误处理机制

python复制def safe_write(content):
    try:
        with open('memory.txt', 'a', encoding='utf-8') as f:
            f.write(f"\n[{datetime.now()}] {content}")
    except Exception as e:
        print(f"写入失败：{str(e)}")
        # 自动重试或切换备用文件

3. 记忆检索的实现细节

3.1 轻量级检索方案

相比专业的向量数据库，我们可以在txt文件上实现以下检索方式：

1. 关键词匹配法

python复制def search_by_keyword(query):
    keywords = extract_keywords(query) # 使用jieba分词
    matches = []
    with open('memory.txt', 'r', encoding='utf-8') as f:
        for line in f:
            if any(key in line for key in keywords):
                matches.append(line)
    return "\n".join(matches[:5]) # 返回前5条相关记录

2. 最近优先策略

python复制def search_recent_first(query, n=3):
    """获取最近的n条相关记录"""
    lines = open('memory.txt', 'r', encoding='utf-8').readlines()
    return "\n".join([l for l in reversed(lines) if query in l][:n])

3. 混合检索模式（推荐）

python复制def hybrid_search(query):
    # 先尝试关键词匹配
    results = search_by_keyword(query)
    if len(results.splitlines()) < 2:  # 结果不足时补充最近记录
        results += "\n" + search_recent_first(query)
    return results

3.2 性能优化技巧

1. 建立内存缓存

python复制from functools import lru_cache

@lru_cache(maxsize=100)
def cached_search(query):
    return hybrid_search(query)

2. 文件索引优化

python复制# 预先建立关键词索引
keyword_index = defaultdict(list)

def build_index():
    with open('memory.txt', 'r', encoding='utf-8') as f:
        for i, line in enumerate(f):
            for word in jieba.cut(line):
                keyword_index[word].append(i)

4. 记忆增强的实践技巧

4.1 上下文构造方法

喂给AI的提示词需要精心设计，建议采用以下结构：

code复制[系统指令]
你是一个有记忆能力的AI助手，以下是之前的对话记录：

[历史记录]
用户：Python怎么处理异常？
AI：可以使用try-except结构...
用户：能举个例子吗？
AI：比如：try: x=1/0 \n except ZeroDivisionError: print("不能除零")

[当前问题]
用户：那文件不存在的异常呢？

4.2 长度控制策略

1. 智能截断算法

python复制def truncate_context(text, max_tokens=1000):
    tokens = text.split()
    if len(tokens) <= max_tokens:
        return text
    # 优先保留含有关键词的部分
    important = [t for t in tokens if is_important(t)]
    return " ".join(important[:max_tokens//2] + tokens[-max_tokens//2:])

2. 分块处理方案

python复制def chunked_prompt(query):
    context = hybrid_search(query)
    chunks = [context[i:i+500] for i in range(0, len(context), 500)]
    responses = []
    for chunk in chunks:
        prompt = f"上下文：{chunk}\n问题：{query}"
        responses.append(call_ai(prompt))
    return "\n".join(responses)

5. 常见问题与解决方案

5.1 典型问题排查表

5.2 性能优化实测数据

在Intel i5+16GB设备上的测试结果：

优化建议：

• 超过1万条记录建议分片存储
• 高频访问数据应加载到内存
• 定期归档旧记录（如按月拆分文件）

6. 进阶扩展方向

1. 智能记忆整理

python复制def auto_clean_memory():
    # 使用AI自动总结冗余对话
    old_content = read_file('memory.txt')
    summary = call_ai(f"请总结以下对话的核心内容：\n{old_content}")
    rewrite_file('memory.txt', summary)

2. 多模态记忆

python复制def save_multimedia(description, filepath):
    with open('memory.txt', 'a', encoding='utf-8') as f:
        f.write(f"\n[图像] {description} {filepath}")

3. 记忆权重调整

python复制def weighted_search(query):
    # 根据使用频率和时间衰减计算权重
    records = load_records()
    for r in records:
        r.score = frequency(r) * time_decay(r.date)
    return sorted(records, key=lambda x: -x.score)[:5]

这套方案我在三个项目中实际应用过，最大的体会是：开始时总想追求完美的向量检索，后来发现对大多数场景，简单的关键词匹配+时间排序已经能解决80%的问题。特别是在个人知识管理场景，重点不在于检索算法多先进，而在于形成持续记录的习惯。