#流畅生成

通过`attention_sinks`改进预训练语言模型，结合滑动窗口注意力，实现流畅文字生成。与传统`transformers`不同，保持显存恒定使用，确保高效性能。支持Llama、Mistral、Falcon、MPT、GPTNeoX等多种模型，适用于多步生成任务，如聊天机器人。详细benchmark测试结果显示，该技术在处理数百万个令牌后依然保持低困惑度和高流畅度，是多任务处理的理想选择。