#Saiga
RULM 学习资料汇总 - 俄语语言建模与指令微调项目
2 个月前
相关项目
rulm
此项目展示了俄语语言模型的实现与比较，涵盖DataFest的分享、主要演示和Fine-tuning Colab资源链接。同时介绍了基于ChatGPT生成数据的RuTurboAlpaca和Saiga两个主要数据集，以及相关模型及其训练配置的详细内容。提供了数据集生成脚本和提示。此外，还展示了GPT Role-play Realm的数据集和模型评估结果，包括与GPT4和gpt-3.5-turbo的对比分析。
saiga_llama3_8b
项目基于Llama-3模型开发，专注于俄语对话处理。通过优化提示格式和配置，提升在信息提供和故事创作方面的应用。最新版本v7在性能和用户交互上取得显著进步，并支持多种格式以满足不同开发需求。用户可通过Colab体验此工具，探索其多任务处理能力。