来论坛留个脚印, 之前写 agent 解决方案的时候就 构想过 把大模型的 元能力 和 知识库 解耦出来, 这不就来了.哈哈
而且, 基本不占gpu推理能力, 有点以查代算的意思, 小模型ROME + Engram 模块 应该能搞. 主要是觉得工程上, 不用给模型做大手术就能集成 Engram 模块 , 值得一试.