Github
文档文言文（古文）- 现代文平行语料
一、语料简介
这是一个非常全面的文言文（古文）- 现代文平行语料，基本涵盖了大部分经典古籍著作。从文学角度出发，本项目将所有古文原文整理至"古文原文"文件夹中，并对每本古籍按篇章/章节进行划分与展示，正文部分存于各章节下的"text.txt"中，例如"论语/学而篇/text.txt"，"孟子/梁惠王章句上/第一节/text.txt"。对于平行数据，本项目整理至"双语数据"文件夹中，这些双语数据是以句子级别为单位进行划分，本项目提供了原文、译文、双语三种数据格式，例如："论语/学而篇/source.txt"、"论语/学而篇/target.txt"、"论语/学而篇/bitext.txt"。注：所有数据均按行保留了古文原文的相对顺序，即数据非打乱。
本语料数据来源于互联网1，所爬取到的原始数据是篇章级对齐的双语数据，经过脚本进行分句、对齐，处理成了句子级别对齐的双语（平行）数据，共计972467句。核心对齐思路采用归一化编辑距离算法与长度比指标。
需要注意"双语数据"文件夹中古文数据量少于"古文原文"文件夹中的古文数据，这是因为数据来源中部分古文没有译文，也有部分古文的译文残缺，故"双语数据"文件夹中仅收录了包含双语句对的数据。
二、复现过程
本项目提供了本语料的处理过程及相关脚本，具体过程详见复现。
三、统计信息
古文原文共包含327本书籍。双语数据共包含97本书籍，其中包含句子级别对齐句子共计972467个句对。详细统计信息可查看统计信息。
四、声明
本语料数据均来自互联网。所有数据均注明了出处，可详见各书目下文件"数据来源.txt"。原始数据的最终解释权归相关数据来源方所有。
感谢为该语料库做出贡献的成员：谈修泽、罗应峰。
五、更新历史
v2.0 2023年3月 重新整理数据，保留更加详尽的原始数据信息，并注明出处
v1.0 2022年2月 数据的初始整理
