#DziriBERT

DziriBERT是首个专门为阿尔及利亚方言开发的Transformer语言模型。该模型能同时处理阿拉伯文和拉丁文字符的阿尔及利亚文本，在仅使用约100万条推文进行预训练的情况下，就在阿尔及利亚文本分类任务中创下新纪录。DziriBERT支持掩码语言建模，适用于多种自然语言处理任务。但值得注意的是，由于预训练数据源自社交媒体，模型可能会在某些情况下生成不当词语，使用时需根据具体应用进行筛选。