#韩语

awesome-korean-llm

本资源列表全面汇总了韩语开源大语言模型(LLM)信息。内容涵盖Polyglot-Ko、KoAlpaca、KULLM等多种韩语LLM模型,提供模型规模、开发者、基础架构等核心数据。同时按基础模型对韩语LLM进行分类,包括基于Polyglot-Ko、Llama、Llama-2等的不同类型。该列表为韩语自然语言处理研究者提供了重要参考。

KoLLaVA

KoLLaVA是基于LLaVA框架开发的韩语多模态AI模型。通过韩语指令微调,该模型实现图像理解和多轮对话,可回答图像相关问题并进行视觉推理。项目开源了预训练和指令微调数据集、模型权重,并提供详细使用说明,为韩语多模态AI研究与应用提供了重要资源。

KoBigBird

KoBigBird是基于BigBird架构的韩语预训练模型，支持处理长达4096个token的序列。通过稀疏注意力机制，其计算复杂度从O(n²)降至O(n)。在短序列和长序列任务评估中，KoBigBird表现优异。项目包含使用指南、预训练方法和评估结果，为韩语自然语言处理提供支持。

bert-base-cased-Korean-sentiment

此情感分析模型基于bert-base-multilingual-cased进行优化，专为韩语购物评论设计，准确率超过92%，用于情感分类。

llama-3.2-Korean-Bllossom-3B-GGUF

Bllossom团队推出的这是一个全新的韩英双语语言模型，旨在增强Meta-Llama-3.2-3B的韩语能力。通过150GB高质量韩语数据的调优，该模型在不影响英语表现的同时，对韩语支持进行了强化。在LogicKor测试中表现突出，并允许多种性能优化方法。该项目在AAAI2024等会议上获得了口头报告机会，旨在进一步推动韩语语言能力的提升。

bert-base

KLUE BERT base是一个专门针对韩语自然语言处理任务的预训练模型。它基于62GB多样化韩语语料库训练，采用创新的形态素子词分词技术。在KLUE基准测试中，该模型在主题分类、语义相似度和命名实体识别等多项任务上展现出优异性能。此外，研究团队也注重解决数据偏见和隐私保护问题，为韩语NLP领域提供了重要工具。

albert-kor-base

该项目提供了一个基于70GB韩语文本数据集训练的Albert基础模型，使用42000个小写子词。模型旨在为韩语自然语言处理任务提供高效的预训练表示。研究者可通过transformers库轻松加载模型和分词器。项目还包含模型性能评估及与其他韩语语言模型的比较信息，为相关研究提供参考。

llama-3.2-Korean-Bllossom-3B

llama-3.2-Korean-Bllossom-3B是基于Llama 3.2-3B的韩英双语增强模型。通过150GB精选韩语数据的全面微调和指令调优，该模型在保持英语能力的同时显著提升了韩语表现。在LogicKor基准测试中，它创下了3B-5B规模模型的最高分。这个开源模型支持商业使用，为韩语自然语言处理任务提供了有力支持。

kobart

KoBART-base-v2是一款优化的韩语自然语言处理预训练模型，基于BART架构开发。通过引入聊天数据训练，该模型增强了长序列语义理解能力，在NSMC情感分析任务中准确率达90.1%。KoBART还优化了模型结构，增加bos/eos后处理器，移除token_type_ids，进一步提升性能。研究者可借助transformers库轻松应用这一先进的韩语NLP模型。