#CompactBioBERT

CompactBioBERT是BioBERT的压缩版本，通过结合DistilBioBERT和TinyBioBERT的蒸馏技术，在PubMed数据集上训练而成。该模型采用6层transformer结构，隐藏层和嵌入层维度为768，总参数约6500万。CompactBioBERT在保持生物医学自然语言处理性能的同时，有效缩小了模型规模，提升了计算效率。