Project Icon

GPT2-Chinese

GPT2-Chinese:支持多种中文Token化和大规模语料训练

GPT2-Chinese项目提供了适用于中文的GPT2训练代码,支持BERT和BPE Tokenizer,能够生成诗词、新闻、小说等内容,适用于大规模语料训练。该项目基于Pytorch实现,支持最新的预训练模型,如通用中文模型和古诗词模型。详细的模型信息可以在Huggingface Model Hub中找到。用户可以自行训练和生成文本,同时支持FP16和梯度累积。

gpt-fast - PyTorch原生高效文本生成项目
GithubPyTorchgpt-fast开源项目性能优化文本生成模型量化
gpt-fast是一个基于PyTorch的高效Transformer文本生成项目,代码精简(<1000行Python),仅依赖PyTorch和sentencepiece。项目特点包括极低延迟、int8/int4量化、推测解码和张量并行,支持NVIDIA和AMD GPU。gpt-fast不是框架或库,而是展示原生PyTorch性能的示例。它支持LLaMA系列和Mixtral 8x7B等模型,提供详细基准测试和多种优化技术。该项目实现了高效的文本生成,展现了PyTorch在AI领域的强大性能。
starcoder2-15b-GPTQ - 支持600多种编程语言的大规模代码生成模型
GithubHuggingfaceStarCoder2代码生成开源项目机器学习模型深度学习自然语言处理
starcoder2-15b-GPTQ是一个经GPTQ量化的15B参数代码生成模型,支持600多种编程语言。它采用分组查询注意力机制和滑动窗口注意力,具有16,384个token的上下文窗口,在4万亿以上token上训练。模型可生成代码片段,但可能存在缺陷,使用时需谨慎。提供多种精度和量化版本,适应不同硬件需求。
textgen - 文本生成库实现多种模型,支持大模型微调和推理
ChatGLMGithubLLaMALoRA开源项目文本生成模型训练
TextGen实现了LLaMA、ChatGLM、GPT2等多种文本生成模型。该开源库支持大模型LoRA微调训练和高效推理,还包含UDA、Seq2Seq等经典生成模型。TextGen提供多个预训练模型,可用于对话生成、文本扩增、翻译等任务。项目开箱即用,便于研究人员和开发者快速构建文本生成应用。
Transformers-for-NLP-2nd-Edition - BERT到GPT-4的Transformer模型详解
BERTGPT-4GithubOpenAI APITransformers-for-NLP-2nd-Edition开源项目机器学习
本项目涵盖了从BERT到GPT-4的Transformer模型,提供了在Hugging Face和OpenAI环境下的微调、训练及提示工程示例。还包括ChatGPT、GPT-3.5-turbo、GPT-4和DALL-E的使用示例,包括语音到文本、文本到语音、文本到图像生成等内容。详述了GPT-4 API提示工程和最新平台更新,提供实用的指导与教程。
zero_nlp - 中文NLP训练与应用框架
Githubpytorchzero_nlp中文NLP大模型开源项目模型训练
zero_nlp是基于pytorch和transformers的中文NLP框架,支持从数据处理到模型部署的整个工作流程。它特别适用于处理大数据集、训练和部署多卡串联大模型,支持包括gpt2、clip在内的丰富模型类型,适用于文本分类、生成及多模态处理等多种任务。
gpt-ya2-v2 - 基于kpriyanshu256数据集优化的文本生成模型
GithubHuggingfacegpt2准确率开源项目数据集模型精调
gpt-ya2-v2利用kpriyanshu256数据集对gpt2模型进行微调,提高了文本生成的因果语言建模性能。主要训练参数包括学习率5e-05和批量大小8,采用Adam优化器和线性学习率调度。模型在测试中达到36.91%的准确性,展示了在文本生成任务中的有效性。
datasetGPT - 基于大型语言模型的文本数据集生成工具
API接口GithubdatasetGPT命令行工具大语言模型开源项目数据集生成
datasetGPT是一个命令行工具和Python库,用于通过大型语言模型生成文本数据集。支持OpenAI、Cohere和Petals等多个LLM后端,可生成文本和对话数据。适用于构建AI检测器训练语料库、收集LLM生成的对话数据集进行研究,以及批量处理文本等场景。通过灵活的参数配置,datasetGPT能够生成多样化的数据集。
BioGPT - 预训练Transformer模型为生物医学文本提供强大工具
BioGPTGithubTransformer开源项目生物医学文本自然语言处理预训练模型
BioGPT是一个针对生物医学文本的预训练Transformer模型。该模型在关系提取、文档分类和问答等下游任务中表现优异。项目提供预训练模型和特定任务的微调模型,可通过多种渠道获取。BioGPT支持文本生成、特征提取等多种应用场景,为生物医学自然语言处理研究提供了实用工具。
gpt2-lora-random - GPT2模型LoRA微调框架 提升语言模型性能的开源项目
GithubHuggingfacegpt2peft开源项目机器学习模型模型训练深度学习框架
gpt2-lora-random项目利用PEFT框架实现GPT2模型的LoRA微调。通过Low-Rank Adaptation技术,该项目降低了模型训练的资源需求和参数量。它为开发者提供了一个用于自然语言处理任务优化的灵活框架。项目文档涵盖了模型训练流程和环境影响评估指南,适合研究人员和工程师使用。
chatbot - 可用自定义语料训练的中文聊天机器人
GPT模型GithubMindSporeRLHFSeq2Seqchatbot开源项目
该项目提供一个可用自定义语料训练的中文聊天机器人,并即将推出GPT版本,新增MindSpore支持。项目包含Seq2Seq和GPT两大分支,计划于2024年内实现类似mini-GPT4的图文多模态对话功能,并增强分布式集群训练能力。用户可下载小黄鸡语料进行实践,项目支持TensorFlow和PyTorch。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

Project Cover

天工AI音乐

天工AI音乐平台支持音乐创作,特别是在国风音乐领域。该平台适合新手DJ和音乐爱好者使用,帮助他们启动音乐创作,增添生活乐趣,同时发现和分享新音乐。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号