#上下文压缩

AutoCompressors是一项创新语言模型技术，可将长文本上下文压缩为少量摘要向量并进行推理。该项目提供官方实现，包含预训练模型、安装指南和示例代码。支持Llama-2和OPT等基础模型，有效提升长文本处理能力，为自然语言处理开辟新途径。

Selective Context是一种创新上下文压缩技术，能使大语言模型处理内容量提升一倍。该技术利用基础语言模型计算词句自信息，评估信息量，实现长文档和长对话的高效处理。项目提供完整代码实现、数据集和多项实验评估，已获EMNLP 2023会议认可。此上下文压缩技术适用于需要处理大量文本数据的场景，如智能客服、文档分析等。用户可通过pip安装，便捷集成到现有大语言模型项目中，显著提升处理效率。