RSI三块关键拼图，MemT 1.0从模型层补上「记忆」 – 量子位

AI圈，最近集体盯上了三个字母：RSI。
Hinton的RSI论文，22位署名作者里，坐着Bengio、OpenAI首席科学家Pachocki、Anthropic联创Jack Clark……几乎AI的半壁江山都在这儿。
大家在将目光投向AI自我改进的同时，一个更值得追问的基础问题浮出水面：
有效的方法需要被保留，走过的弯路也需要被识别，承接这件事的，其实是记忆。
常规的思路很简单：给AI直接外接一个经验库，操作方法、历史教训就能通通被保存检索。
记忆张量在这方面的探索，则给出了一份截然不同的答卷——记忆原生。
何为记忆原生？就是将经验的保留、更新和调用，做成模型可以学习的能力。
当记忆在模型中生根发芽，便构成了记忆原生模型。
其最新开源发布的MemT 1.0系列，就给出了一条颇为具体的路径：
它把经验编码成内部动态状态，再通过训练学习怎样写入、更新和读取，最后让这些状态经由记忆分支参与后续计算。
与外部记忆相比，它不仅能力没打折，未来拓展的天花板也会更高。
这也是记忆原生模型首次实现近300B参数规模的工程验证。
（论文地址指路： https://arxiv.org/abs/2610.26825）
好家伙，记忆看不见摸不着，但却实打实成为模型成长的立足根本。
从早期要求模型记住信息，到用好经验，模型对记忆的要求不断升级，也让记忆一步步从幕后走到台前。
MemT-1.0-Nano总计36B参数、激活3B，基座用的是“源神”Qwen3.6-35B-A3B；MemT-1.0-Flash则向上突破，高达288B参数、激活17B，基座是经过进一步后训练的DeepSeek-V4-Flash。
它们共同的变化，即都是在选定的Transformer模块里增加了一条与原有注意力并行的记忆计算通路。
比如同样面对一个新任务，外部记忆的做法是把记忆原文、检索证据乃至抽象方法塞回上下文，让模型复用经验。
其中检索与整理过程，同样可以引入学习机制。
而MemT 1.0这类记忆原生模型，选择继续深入模型内部：
经验经过编码，成为可更新的矩阵状态；模型生成答案或动作时，通过专门的记忆分支读取状态，读出结果再与原有注意力输出融合，影响后续生成。
区别落在了经验如何表示，以及它通过什么计算过程发挥作用。
但这样做的好处也很明显，让读写参与训练能够换来更顺畅的方法复用，不过代价也有，如果想要精确删除、解释与恢复，就需要额外机制的加入。
外部文本肯定更方便检查和溯源，二者目前来看各有各的优劣。
要说真能看出差别，还得是在用了经验之后，观察模型跑起来如何。
接Bug→定位代码→动手修改，基本都是这么个流程。但要是一开始问题没复现、边界条件也没确认好，修改不成反倒漏洞百出，一代传一代。
拿SWE-bench Verified为例，里面有一项涉及Django的parse_http_date函数，需要修复两位数年份的解析逻辑。
研究团队比较了无经验、文本经验和记忆原生三种设置下的执行轨迹。
没有经验时，Agent找到Bug后，很快开始修改解析逻辑，后续步骤中才出现定向复现与验证。有经验的两组，则都先构建复现测试，再修改代码。
其中，MemT-1.0-Nano还在初次修改后重新检查了一项边界条件，修正实现，并做了额外验证。
可以明显看出，经验改变了行动顺序，也参与了任务内的检查与修正。
放到更大样本上对比，在500项SWE-bench Verified任务，每项独立运行三次中，MemT-1.0-Nano在关键断点的平均成功率为69.73％，无经验基线为66.07％，文本经验组为69.13％。
三次全部成功的任务比例，则从无经验时的54.00％提高到62.80％，文本经验组为61.80％。
再看SWE-bench Multilingual任务中，同一触发设置下，原生记忆组平均成功率为63.56％，无经验组为60.00％，文本经验组为63.00％。
换句话说，这些程序性经验能通过记忆原生得以保留，表现和显式文本经验接近，优势更多体现在平均成功率和重复执行的可靠性上。
再直观一点，来看一段像素风的迷宫探索演示。
同一个迷宫，同样的移动速度，左边是没有记忆原生的Agent，右边是具备记忆原生的MemT 1.0。
第一轮，两边都需要探索未知路线，也都会走进死胡同。
区别出现在这一轮结束之后：成功路线和需要避开的岔路被整理归档，并加载到MemT 1.0的记忆中，为下一轮探索提供参考。
到了第二轮，同样从起点出发，左边仍会在岔路上重复试探，右边则借助上一轮经验，避开已经走过的死胡同，沿有效路线抵达终点。