#数据集微调

tiny-bert-sst2-distilled模型通过对BERT基础版本进行蒸馏优化，专注于文本情感分类任务。该模型在SST-2评估集上达到83.26%的准确率，保持了不错的性能表现。模型架构采用2层transformer结构，隐藏层维度为128，具有轻量化特点，适合在计算资源有限的环境中部署使用。