#记忆单元

InfLLM

InfLLM是一种新型无训练记忆方法，可有效处理超长序列。通过将远程上下文存储在额外的存储单元中并采用高效机制进行注意力计算，InfLLM在保持长距离依赖捕捉能力的同时，提高了处理效率。即使在序列长度达到1,024K的情况下，InfLLM仍表现优越，无需连续训练即可超越许多基线模型。