Project Icon

bytepiece

创新高效的字节级Unigram分词工具

BytePiece是一款基于字节的Unigram分词工具,采用创新训练算法实现高压缩率。该工具直接处理UTF-8字节,无需预处理,确保语言无关性。相比SentencePiece,BytePiece具有更高效的随机分词算法,支持多进程训练加速,并采用纯Python实现,便于二次开发。这一工具为自然语言处理提供了纯粹、易扩展的分词方案。

GPT2-Chinese - GPT2-Chinese:支持多种中文Token化和大规模语料训练
BERT分词器GPT2-ChineseGithubHuggingface中文语言模型开源项目预训练模型
GPT2-Chinese项目提供了适用于中文的GPT2训练代码,支持BERT和BPE Tokenizer,能够生成诗词、新闻、小说等内容,适用于大规模语料训练。该项目基于Pytorch实现,支持最新的预训练模型,如通用中文模型和古诗词模型。详细的模型信息可以在Huggingface Model Hub中找到。用户可以自行训练和生成文本,同时支持FP16和梯度累积。
bert-base-chinese-ner - 传统中文BERT模型及自然语言处理工具
CKIP BERTGithubHuggingfacetransformers模型命名实体识别开源项目模型繁體中文自然语言处理
该项目提供传统中文BERT等模型和多功能自然语言处理工具,辅助词性标注、分词和实体识别。建议使用BertTokenizerFast以提高性能。CKIP开发和维护,详情使用说明见GitHub页面。
bricks - 开源自然语言处理模块库 提升文本分析效率
Githubbricks代码模块开源项目文本分析自然语言处理
bricks是一个开源自然语言处理模块库,提供多种文本分类器、提取器和生成器。开发者可利用bricks实现语言检测、情感分析、复杂度评估等文本增强功能。该项目支持独立使用,也可与refinery无缝集成,为文本分析提供灵活解决方案。
jcseg - 轻量级中文分词和关键字提取工具,支持多种语言
GithubJcsegJettymmseg算法中文分词关键字提取开源项目
Jcseg是一款基于mmseg算法的中文分词器,具备关键字、短语、句子提取及文章自动摘要功能,支持Lucene、Solr、Elasticsearch分词接口。其内置Jetty高性能Web服务器,提供多种分词模式、自定义词库、同义词匹配和拼音追加,适合多种语言客户端调用。
BMTools - 开源工具集成平台 赋能语言模型新能力
BMToolsGithub大语言模型工具学习开源项目插件开发
BMTools是一个开源项目,通过工具扩展语言模型能力,为社区提供工具构建和共享平台。该项目支持创建插件和使用ChatGPT插件,优化开源工具使用。BMTools提供单一和多工具接口,集成本地和在线工具,鼓励社区贡献。项目为研究人员提供工具学习和开发环境,推动语言模型与工具的融合研究。
lingua-py - 多语言检测工具,支持75种语言的高效文本解析
GithubLinguaRust实现开源项目文本分类自然语言处理语言检测
该工具能够高效检测文本所属语言,适用于自然语言处理中的文本分类和拼写检查等预处理步骤。这款灵活的小库在长文本和短文本上都能保持高准确率,不依赖外部API或服务,可完全离线使用。相比其他开源库,具有更高的精度和更低的内存占用,尤其适合处理短文本如微博信息。
bitnet_b1_58-large - BitNet b1.58复现项目展示1比特量化语言模型的效能
1比特量化BitNetGithubHuggingface开源项目模型模型评估语言模型
本项目复现了BitNet b1.58的1比特量化语言模型,采用RedPajama数据集进行了1000亿token的训练。通过实施论文中提出的训练策略,项目成功重现了700M、1.3B和3B规模模型的性能。评估结果显示,在困惑度(PPL)和多项零样本任务中,复现模型与原论文报告的数据高度一致,证实了该方法在模型压缩和维持性能方面的有效性。项目还提供了详细的评估流程和命令,方便研究者进行复现和进一步探索。通过比较不同规模模型在各项任务上的表现,该研究为大规模语言模型的高效压缩和部署提供了valuable的实践参考。
bilingual_book_maker - 使用AI技术帮助用户创建多语言电子书的工具
AI翻译工具ChatGPTGithubbilingual_book_makerliteLLM多语言电子书开源项目热门
bilingual_book_maker是一款利用ChatGPT技术,帮助用户将epub/txt/srt文件和书籍翻译成多语言版本的AI工具。该工具专为翻译已进入公共领域的epub书籍而设计,支持多种语言设置,易于操作,同时提供多个AI模型选择,包括目前热门的GPT-4等,确保翻译质量和效率。
bit - 轻松创建和管理可重用组件的开发工具
BitGithub代码复用开源项目组件开发软件构建
Bit是一款专注于构建可组合软件的开发工具。它通过简化独立可重用组件的创建、维护和重用过程,提高了软件开发效率。Bit兼容JavaScript生态系统的各种工具,为NodeJS、React和Angular等框架提供官方开发环境。无论是单体仓库、多仓库还是无仓库结构,Bit都能帮助开发者轻松管理组件,实现代码复用和模块化开发。
small - 开源中文自然语言处理平台
GithubHuggingfaceLTP中文分词命名实体识别开源项目模型自然语言处理词性标注
LTP是哈工大开发的开源中文自然语言处理平台,提供分词、词性标注、命名实体识别等功能。支持Python和Rust接口,最新版本结合深度学习和感知机算法,显著提升处理速度。LTP支持用户自定义训练,在学术和工业领域广泛应用,是中文NLP研究与应用的重要工具。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号