#跨语言任务

Multilingual-MiniLM-L12-H384是一款小型多语言预训练模型，采用12层结构和384维隐藏单元，transformer参数仅2100万。该模型在XNLI和MLQA等跨语言任务中表现出色，支持15种语言，同时保持了较小的模型规模。它融合了BERT的架构设计和XLM-R的分词技术，适用于各类需要高效多语言处理的应用场景。