#自动缓存

由Bespoke Labs开发的Llama-3.1-Bespoke-MiniCheck-7B模型，应用高质量数据策展技术，提升了长文本事实核查的精准度。该模型从internlm2_5-7b-chat微调，集成了35K个数据点，包括ANLI示例与合成生成数据，以增强泛化能力。尽管体积小，该模型在LLM-AggreFact基准测试中表现卓越，自动前缀缓存功能提升了推理速度，在高负载下保持出色的文档处理能力。