Project Icon

TextPruner

使用低成本且无需训练的方法优化预训练语言模型

TextPruner提供低成本且无需训练的方法来优化预训练语言模型,通过减少模型尺寸加快推理速度。兼容多种NLU模型,提供用户友好的接口,支持词汇、Transformer和流水线剪枝。用户可以方便地根据需求自定义配置。详细文档和实验结果支持,帮助用户快速上手并验证性能提升。适用于Python 3.7及以上版本,依赖torch和transformers库。

wanda - 基于权重和激活的大型语言模型剪枝技术
GithubLLM剪枝Wanda开源项目权重激活模型压缩稀疏性
Wanda是一种针对大型语言模型(LLM)的剪枝技术,通过结合权重大小和输入激活范数来选择性移除权重。相比传统的仅基于权重大小的剪枝方法,Wanda展现出更高的效率。该技术支持LLaMA、LLaMA-2等多种模型,可实现非结构化和结构化稀疏。Wanda方法简单实用,在维持模型性能的同时有效降低参数量,为LLM的轻量化和优化开辟了新途径。
parrot_paraphraser_on_T5 - Parrot:多功能文本复述框架优化NLU训练
GithubHuggingfaceParrot开源项目改写文本增强机器学习模型自然语言理解
Parrot是一个基于T5模型的文本复述框架,旨在加速自然语言理解(NLU)模型的训练过程。这个工具提供了可调节的参数来控制复述的充分性、流畅性和多样性,不仅能生成高质量的复述,还能保持原始意图和实体。Parrot易于安装和使用,适用于对话系统和语音助手等场景的NLU数据增强。其灵活性和效果使其成为NLU模型开发中的实用工具。
Transformer-TTS - 神经语音合成系统
GithubPyTorchTacotronTransformer-TTS开源项目神经网络语音合成
Transformer-TTS,一个基于Pytorch的高效神经语音合成系统。它使用Transformer网络,且训练速度是传统seq2seq模型的3到4倍。不仅提供预训练模型,其合成语音质量经实验证明优异。同时,项目支持自定义学习模型及策略,包括Noam式预热衰减学习率及关键的梯度裁剪等,是语音合成研究的理想选择。
hardware-aware-transformers - 瞄准多硬件平台优化的自然语言处理Transformer模型
GithubHATNLPPyTorchTransformer开源项目硬件感知
HAT项目提供基于PyTorch的硬件感知Transformer,模型大小减小至原来的3.7倍,且性能无损。通过SuperTransformer搜索优化的SubTransformer,大幅降低搜索成本,并在不同硬件平台例如Raspberry Pi和Intel Xeon上实现显著加速。支持多种机器翻译任务,并提供预处理数据和预训练模型的直接下载。
modded-nanogpt - 基于PyTorch的高效GPT-2训练器变体
GPT-2GithubNanoGPTPyTorch开源项目模型优化训练效率
Modded-NanoGPT是一个基于Andrej Karpathy的llm.c项目的GPT-2训练器变体。该项目通过引入旋转嵌入等现代技术,将训练效率提高一倍,仅需5B tokens即可达到与原版相同的验证损失。代码简化至446行,实现了124M参数的transformer模型。在Fineweb验证集上,模型达到3.2818的验证损失。通过架构调整和超参数优化,该项目在保持性能的同时显著提升了训练速度。
text - TorchText自然语言处理工具包即将终止开发并发布最终版本
GithubNLPPyTorchtorchtext开源项目数据集模型
TorchText将于2024年4月发布其最终稳定版0.18。这一NLP工具包包括原始文本迭代器、基本NLP构建模块、文本处理转换、预训练模型和词汇类等功能。推荐使用Anaconda安装,支持多种Python版本。指南和文档包括SpaCy、Moses等可选依赖项。提供详细教程和示例帮助用户入门。
llama3-8B-usenet-merged - 高效NLP模型潜力与使用指南
GithubHuggingfacetransformers偏见开源项目模型语言处理限制
探讨使用transformers库的NLP模型,通过环境影响分析及初学者指南,了解其应用潜力及可能的偏见与限制。
pytextrank - 基于图算法的Python自然语言处理与知识图谱工具
GithubPyTextRankspaCy图算法开源项目文本摘要自然语言处理
PyTextRank 是一个Python实现的TextRank算法库,作为spaCy管道扩展,专注于图形化自然语言处理和知识图谱应用。它支持短语提取、低成本抽取式摘要,方便将非结构化文本转化为结构化信息。
tiny-llama-fast-tokenizer - 测试用途的轻量级语言模型分词器
GithubHuggingface开源项目权重初始化模型模型测试模型评估测试目的随机权重
tiny-llama-fast-tokenizer是一个专为测试目的设计的轻量级语言模型分词器。该项目使用随机权重,主要用于快速验证分词过程。它不适用于实际生产环境,但对于开发者进行初步测试和评估非常有用。这个工具为开发者提供了一个简单的方式来验证和测试分词过程,特别适合在开发初期快速进行概念验证。
Selective_Context - 高效压缩上下文技术实现大语言模型处理能力倍增
GithubLLMNLP任务Selective Context上下文压缩开源项目效率提升
Selective Context是一种创新上下文压缩技术,能使大语言模型处理内容量提升一倍。该技术利用基础语言模型计算词句自信息,评估信息量,实现长文档和长对话的高效处理。项目提供完整代码实现、数据集和多项实验评估,已获EMNLP 2023会议认可。此上下文压缩技术适用于需要处理大量文本数据的场景,如智能客服、文档分析等。用户可通过pip安装,便捷集成到现有大语言模型项目中,显著提升处理效率。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号