1. 项目背景与核心价值
在AI辅助编程领域，模型"遗忘"上下文信息是个老生常谈却又始终绕不开的痛点。想象你正在和一位编程助手结对开发，当你切换到新文件时它突然问"我们刚才在讨论什么函数来着？"——这种场景在现有AI编程工具中几乎每天都在上演。
传统解决方案主要依赖两种路径：要么增大上下文窗口（GPT-4-turbo已支持128k tokens），要么通过向量数据库做外部记忆。但前者成本呈指数级增长，后者则存在检索精度和实时性问题。我们提出的待办清单系统（To-Do List System）尝试用第三种思路解决这个问题：通过结构化记忆管理，让AI像人类开发者一样主动维护任务上下文。
这个系统的独特价值在于：
- 轻量化：不需要额外训练或复杂架构，仅需约5%的上下文窗口占用
- 可解释：所有待办事项显式展示，开发者可随时干预调整
- 可组合：能与现有缓存/检索方案协同工作
2. 系统架构设计
2.1 核心数据结构
系统采用三层存储结构：
python复制class TodoItem:
id: str # UUID
content: str # 自然语言描述
priority: int # 0-2对应低/中/高
created_at: float # 时间戳
related_files: List[str] # 关联文件路径
status: str # pending/done/archived
class TodoList:
items: Dict[str, TodoItem] # ID到条目的映射
display_strategy: Callable # 渲染策略
capacity: int # 最大条目数
2.2 工作流程
- 信息捕获：通过AST解析器识别代码中的TODO注释，同时监控开发者与AI的对话历史
- 去重合并：使用模糊匹配算法（fuzzywuzzy+TF-IDF）合并相似条目
- 优先级计算：基于以下公式动态调整：
code复制priority = 0.4*recency + 0.3*frequency + 0.2*file_relevance + 0.1*user_defined - 上下文注入：在每次AI请求前，自动插入最高优先级的3-5个待办事项
3. 关键技术实现
3.1 实时捕获模块
采用Roslyn编译器API（C#）和LibCST（Python）构建双解析器，实现以下捕获规则：
- 显式标记：识别
// TODO:、# FIXME等标准注释 - 隐式意图：从对话中提取如"等会儿要实现"、"后面需要处理"等关键短语
- 代码模式：检测未实现的接口、抛出NotImplementedError的位置
实践发现：单纯正则匹配会漏掉70%以上的隐式待办项，必须结合语法树分析
3.2 记忆压缩算法
为避免清单膨胀，开发了基于LRU的混合淘汰策略：
python复制def should_keep(item: TodoItem) -> bool:
if item.status != 'pending':
return False
time_decay = exp(-0.1*(current_time - item.created_at)/3600)
score = item.priority * time_decay
return score > threshold
实测表明，该算法在保留关键任务的同时，将内存占用控制在原始对话历史的3%以下。
4. 效果验证
在100个真实编程会话中测试，对比基线模型（无记忆管理）：
| 指标 | 基线 | 待办清单系统 | 提升幅度 |
|---|---|---|---|
| 上下文一致性 | 58% | 89% | +53% |
| 多轮对话中断率 | 41% | 12% | -71% |
| 任务完成度 | 67% | 94% | +40% |
| 平均响应时间 | 1.2s | 1.3s | +8% |
虽然带来轻微延迟，但用户体验评分从3.8提升至4.6（5分制）。
5. 实战技巧
5.1 优先级调优
发现模型过度关注近期任务时，可调整权重公式：
python复制# 增加文件关联性权重
new_weights = [0.3, 0.2, 0.4, 0.1] # recency, frequency, relevance, manual
5.2 异常处理
常见问题及解决方案：
| 现象 | 可能原因 | 解决方法 |
|---|---|---|
| 重复创建相似条目 | 模糊匹配阈值过高 | 调低similarity_threshold参数 |
| 高优先级任务被淘汰 | 时间衰减系数过大 | 减小公式中的0.1衰减因子 |
| 清单不显示 | 注入位置错误 | 检查prompt_template配置 |
5.3 VS Code插件集成
在package.json中添加这些关键配置：
json复制"contributes": {
"commands": [{
"command": "extension.freezeTodo",
"title": "Pin当前待办项"
}],
"menus": {
"editor/context": [{
"command": "extension.freezeTodo",
"when": "resourceLangId == python"
}]
}
}
6. 演进方向
当前系统还存在几个待改进点：
- 跨会话记忆：结合轻量级向量存储（如FAISS）实现长期记忆
- 自动分解：将"实现用户系统"这类宏观任务拆解为具体子任务
- 冲突检测：当两个待办项存在代码逻辑冲突时主动预警
在本地测试时，可以通过修改config.yaml中的debug选项获得详细日志：
yaml复制memory:
debug: true
max_items: 15
persistence_path: .ai_todos
这个看似简单的待办清单系统，实际上构建了人机协作的新范式——不是让AI被动响应，而是主动参与任务流管理。比起盲目扩大上下文窗口，这种结构化记忆方案在成本和效果上展现了更好的平衡性