Selective_Context
Selective Context是一种创新上下文压缩技术,能使大语言模型处理内容量提升一倍。该技术利用基础语言模型计算词句自信息,评估信息量,实现长文档和长对话的高效处理。项目提供完整代码实现、数据集和多项实验评估,已获EMNLP 2023会议认可。此上下文压缩技术适用于需要处理大量文本数据的场景,如智能客服、文档分析等。用户可通过pip安装,便捷集成到现有大语言模型项目中,显著提升处理效率。