lmppl
LM-PPL是一个Python库,用于计算文本困惑度,评估文本的流畅性和典型性。支持多种预训练语言模型,如GPT、BART、T5和BERT,简便安装,易于使用。用户可根据需求选择不同类型的语言模型并调整最大Token长度及批量大小,优化处理时间与准确性。