aya-23-35B - 高性能多语言大模型指令微调指南

项目介绍：Aya-23-35B

项目背景

Aya-23-35B是一个多语言的大型语言模型，由Cohere For AI和Cohere联合开发。该项目提供了一种高度先进的多语言能力模型，以支持全球范围内的研究和应用。该模型通过结合高性能的预训练模型和最新发布的Aya Collection数据集，形成了一个强大的多语言模型，支持23种语言。

模型特色

Aya-23-35B以开放权重的方式进行发布，经过指令微调（Instruction Fine-Tuned），能有效理解和处理多种语言任务。在其开发过程中，特别注重模型的多语言性能优化，涵盖了包括中文（简体和繁体）、阿拉伯语、捷克语、荷兰语、英语、法语、德语、希腊语、希伯来语、印地语、印度尼西亚语、意大利语、日语、韩语、波斯语、波兰语、葡萄牙语、罗马尼亚语、俄语、西班牙语、土耳其语、乌克兰语和越南语在内的23种语言。

使用指南

Aya-23-35B模型可以通过安装特定的代码库来使用。用户需要从源代码库中安装transformers库，然后通过示例代码导入模型和分词器进行文本生成任务的测试。这款模型尤其适合需要生成自然语言文本的自动化任务。

示例代码

以下是一个简单使用模型进行土耳其语信件生成的代码片段：

# pip install 'git+https://github.com/huggingface/transformers.git'
from transformers import AutoTokenizer, AutoModelForCausalLM

model_id = "CohereForAI/aya-23-35B"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

messages = [{"role": "user", "content": "Anneme onu ne kadar sevdiğimi anlatan bir mektup yaz"}]
input_ids = tokenizer.apply_chat_template(messages, tokenize=True, add_generation_prompt=True, return_tensors="pt")

gen_tokens = model.generate(
    input_ids, 
    max_new_tokens=100, 
    do_sample=True, 
    temperature=0.3,
    )

gen_text = tokenizer.decode(gen_tokens[0])
print(gen_text)