Github
Huggingface
论文FairBERTa：公平性与性能兼具的语言模型
FairBERTa是一个创新的大型语言模型，它在人口统计学上经过扰动的语料库上进行训练，旨在提高模型的公平性。与RoBERTa相比，FairBERTa在保持下游任务性能的同时，显著提升了模型的公平性。这个项目由Facebook Research开发，代表了自然语言处理领域在解决社会偏见问题上的重要进展。
模型特点
FairBERTa采用了与RoBERTa相似的训练方法，使用掩码语言建模（MLM）目标在大规模英语数据集上进行预训练。它随机遮蔽输入序列中15%的单词，然后通过模型预测这些被遮蔽的单词。这种双向表示学习方法使模型能够更好地理解语言的上下文。
训练数据
FairBERTa的训练数据来源广泛，包括BookCorpus、英文维基百科、CC-News、OpenWebText和Stories等五个来源，总计160GB的经过扰动处理的数据集。这些数据经过特殊的人口统计学扰动处理，旨在减少数据中可能存在的人口统计偏见。
公平性改进
FairBERTa的一个关键创新是引入了神经扰动模型。研究团队收集了大量人工标注的文本扰动数据，并基于此训练了一个神经扰动模型。这个模型能够根据给定的单词、目标人口统计属性和输入文本，输出相应的人口统计属性被重写的文本。
应用与性能
FairBERTa可以在多种下游任务上进行微调。研究表明，在人口统计学上经过扰动的数据集上预训练的语言模型通常更公平。而且，在扰动处理后的GLUE数据集上微调的语言模型在下游任务中表现出更少的人口统计偏见，同时不会牺牲性能。
潜在影响和局限性
尽管FairBERTa在多项公平性指标上显示出比RoBERTa更好的表现，但研究人员也认识到评估大型语言模型的（不）公平性仍然存在挑战。对于这个模型的偏见、风险和局限性的深入讨论，可以参考相关论文的结果和局限性部分。
未来展望
FairBERTa项目为创建更公平的自然语言处理技术开辟了新的道路。研究人员希望通过探索神经人口统计扰动，能够推动自然语言处理领域朝着更公平的方向发展。这个项目不仅为研究人员提供了宝贵的工具和资源，也为整个NLP社区提出了重要的问题，即如何最好地评估和改进大型语言模型的公平性。
