AI 记忆研究:检索、模型学习与场景信号
我尝试让轻量模型从相处数据中学习用户特征,也重新检查了输入信号能支持什么判断。阶段性实验提示:仅靠表情推断意图不够,后续需要补充场景信息。
做陪伴型 AI,我关心下次打开时,交流能不能接着上次继续。为此研究过外部检索、模型层学习,以及场景与因果信号。这些方向解决的问题不同,不能用一个“记住了”概括。
检索适合保存事实
mem0、Zep 等方案把对话存档、建立索引,在需要时提供给模型。它们不必修改模型权重,能够让回答参考用户说过的话。
这种方式需要解决检索遗漏、旧事实更新和上下文长度问题。在我做的那轮评测中,被测系统尚未稳定超过全量历史对照;结论受题库、模型和版本限制,不能直接推广到所有产品。
用轻量模型学习状态
我也尝试了 CfC(连续时间神经网络),让模型从随时间变化的多模态特征中学习用户状态。阶段性实验支持继续探索这条路线,但状态识别通过实验,并不等于模型已经理解一个人,更不等于能可靠判断他的意图。
为了检查这个差距,我又用信息论方法估计输入信号与目标的关联。这类分析同样受样本和估计方法限制,作用是帮助判断下一步值得补什么数据。
表情提供的信息不够
在当时的数据和设置下,仅靠表情推断意图的证据不足;加入一段表情变化序列,也没有带来原先期待的改善。加入会议、休息等场景信息后,表现有所改善。
我把它作为阶段性结论归档,后续方向转向补充场景与情境信号。继续调模型之前,需要确认输入是否包含目标所需的信息。
继续研究因果,但收窄结论
接下来我用 AI 辅助阅读连续时间因果发现的论文,对比实验条件和结论。不同评测基准之间存在不一致,部分领先方法缺乏直接对照,不能把各自的结果拼成统一排名。
这些检查让我收窄了方案中“因果验证器”的职责:用于检查、排除部分不成立的方向,不把它当作已经证明因果关系的工具。
会议场景的研究分支仍在积累数据。视觉链路以提取特征为主,不保存原始画面;这是一项数据处理选择,不代表所有隐私风险都已解决。
当前的分工是:检索保留事实,轻量模型学习状态变化,场景研究补充判断依据。相关研究保留在作品页的 LnMem 项目中。
参考文献
以下保留此次阅读的文献,按研究问题分组。
连续时间系统的因果定义
1. From Ordinary Differential Equations to Structural Causal Models: the deterministic case — arxiv.org/abs/1304.7920
2. Causal interpretation of stochastic differential equations — arxiv.org/abs/1304.0217
3. Causal models for dynamical systems — arxiv.org/abs/2001.06208
结构学习算法
4. Neural graphical modelling in continuous-time: consistency guarantees and algorithms — arxiv.org/abs/2105.02522
5. Neural Structure Learning with Stochastic Differential Equations — arxiv.org/abs/2311.03309
6. Deep Koopman operator framework for causal discovery in nonlinear dynamical systems — arxiv.org/abs/2505.14828
7. Causal Structure Learning for Dynamical Systems with Theoretical Score Analysis — arxiv.org/abs/2512.14361
打分与检验方法
8. Tangent Space Causal Inference: Leveraging Vector Fields for Causal Discovery in Dynamical Systems — arxiv.org/abs/2410.23499
9. Signature Kernel Conditional Independence Tests in Causal Discovery for Stochastic Processes — arxiv.org/abs/2402.18477
10. Distinguishing Cause from Effect with Causal Velocity Models — arxiv.org/abs/2502.05122
适用条件与评测基准
11. Causality and independence in perfectly adapted dynamical systems — arxiv.org/abs/2101.11885
12. Disentangling Continuous-Time Latent Dynamics: Identifiability of Latent SDEs via Diffusion Shifts — arxiv.org/abs/2606.28228
13. Causal Discovery from Heteroscedastic Stochastic Dynamical Systems under Imperfect Physical Models — arxiv.org/abs/2602.04907
14. Hybrid² Neural ODE Causal Modeling and an Application to Glycemic Response — arxiv.org/abs/2402.17233
15. CausalDynamics: A large-scale benchmark for structural discovery of dynamical causal models — arxiv.org/abs/2505.16620