Project Icon

ov-gpt2-fp32-no-cache

改进GPT-2文本生成性能的开源项目,结合Optimum-Intel

此项目结合Optimum-Intel而优化GPT-2的文本生成,继承于HF模型库的GPT-2,并采用OMZ的Openvino IR,实现了无缓存的高效预测。该模型允许在Optimum-Intel环境中使用OVModelForCausalLM进行文本生成,具有长文本输出和多序列结果的功能,帮助提升生成效率。

GPTCache - 用于为 LLM 查询创建语义缓存的库
API成本节约GPTCacheGithub大语言模型开源项目性能提升缓存策略
GPTCache专为大型语言模型(LLM)设计,通过建立语义缓存库存储响应,以有效降低API调用费用并加快响应速度。项目兼容多种LLM,实现常见查询的缓存,简化重复请求,适合高效部署于生产环境。欢迎访问最新文档和发布通告。
rwkv-4-169m-pile - RNN与Transformer的高性能结合:高效文本生成
GPUGithubHuggingfaceRWKV人工神经网络开源项目文本生成模型转换脚本
RWKV项目由Bo Peng主导,结合RNN和Transformer的优势,提供强大的LLM性能,支持“无限”上下文长度、快速推理和节省显存。该模型支持并行训练,如GPT,可用于高效文本生成,并提供详细的使用和部署指南。项目中提供的多种硬件运行方案,使得用户能够轻松部署在不同环境中,享有快速且节能的文本生成体验,符合现代AI开发需求。
vit-gpt2-image-captioning - ViT-GPT2结合的智能图像描述生成模型
GithubHuggingfacetransformers图像描述开源项目模型深度学习自然语言处理计算机视觉
vit-gpt2-image-captioning是一个结合视觉Transformer和GPT-2的图像描述生成模型。该模型能准确识别图像内容并生成对应文本描述,支持多种图像输入方式,易于集成应用。项目提供简单使用示例和Transformers pipeline部署方法,为开发者提供了实用的开源图像描述解决方案。
cogvlm2-llama3-chat-19B-int4 - 不同场景应用的高性能多语言文本生成模型
CogVLM2GPU内存需求GithubHuggingface中英文支持图像分辨率基准测试开源项目模型
CogVLM2是一种先进的多语言文本生成模型,在多项基准测试中表现优异,如TextVQA和DocVQA。支持高达8K的文本长度和1344x1344的图像分辨率,并能在ZhipuAI开放平台上进行体验。该模型拥有高效的设计,占用较低的GPU内存,需在Linux系统下的Nvidia显卡上运行,适用于多语言环境中的各种场景。
OpenGPT - 医疗领域的大型对话模型框架与数据集生成工具
GithubNHS-LLMOpenGPT医疗数据集大语言模型安装指南开源项目
OpenGPT框架助您创建数据集并训练医疗领域的大型对话模型。通过OpenGPT生成的NHS-LLM使用丰富的医疗数据集供下载。提供从数据收集到模型训练的完整教程,并兼容LLaMA模型。详细教程涵盖了使用预设提示词生成任务数据集及调整配置文件进行模型训练的方法。
GPTFast - Hugging Face Transformers模型推理加速工具
GPTFastGithubHugging Face开源项目推理加速量化静态键值缓存
GPTFast是一个为Hugging Face Transformers模型优化推理速度的开源Python库。它集成了多种加速技术,如静态键值缓存、int4量化和推测解码,可将模型推理速度提升7.6-9倍。GPTFast支持torch.compile、int8量化、GPTQ int4量化等优化方法,通过简单的API调用即可应用于各类Hugging Face模型。该项目持续更新,未来计划引入更多先进的加速技术。
opt-6.7b - Meta AI推出开源预训练语言模型促进AI研究
GithubHuggingfaceOPT人工智能开源项目文本生成模型语言模型预训练
OPT-6.7B是Meta AI推出的开源预训练语言模型,采用因果语言建模方法训练。该模型具有67亿参数,在800GB多样化数据集上训练,性能接近GPT-3。OPT-6.7B可用于文本生成和下游任务微调,旨在促进大型语言模型的可重复研究,让更多研究者参与探讨语言模型的影响。
KoGPT2-FineTuning - KoGPT2模型微调工具 韩语歌词和文本生成
GithubKoGPT2开源项目微调文本生成机器学习自然语言处理
KoGPT2-FineTuning是一个基于SKT-AI的KoGPT2模型的微调工具,专注于韩语歌词和文本生成。该项目使用精选的歌词、小说和文章数据进行训练,支持不同音乐流派的歌词创作。它提供Colab运行环境,并包含可调参数的生成器功能,方便用户控制输出文本的创意性。此项目为韩语自然语言处理和创意写作领域提供了实用的解决方案。
OpenGPT - 开发者友好的自然语言处理API集成
APIGithubOpenGPT人工智能模型开发者开源项目自然语言处理
OpenGPT 3.5/4 提供开发者友好的API,使自然语言处理功能易于集成。简单且不复杂的使用步骤,让开发者能快速应用GPT技术,增强其应用程序的功能。该项目让每个人都能免费获取人工智能模型,并为开发者提供便捷的接口和示例代码。欢迎贡献,推进AI技术的边界。
sparsegpt - 开源项目实现大型语言模型高效压缩
GithubSparseGPT开源项目模型压缩神经网络剪枝稀疏化语言模型
SparseGPT是一个致力于大型语言模型压缩的开源项目。它提供了一套工具,可在单次操作中对OPT、BLOOM和LLaMA等大规模语言模型进行精确剪枝。该项目支持非结构化、n:m结构化和稀疏量化压缩方法,并包含在WikiText2、PTB和C4子集上评估模型性能的脚本。SparseGPT能有效缩减模型规模的同时保持准确性,为研究人员和开发者提供了探索语言模型压缩的实用工具。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号