Logo
Project Icon

ChineseWebText

大规模中文网络文本数据集及其评估工具链

ChineseWebText高质量中文数据集网页文本处理自然语言处理数据评估模型Github开源项目

ChineseWebText是一个大规模中文网络文本数据集，总容量达1.42TB，每条文本均附带质量评分。该项目还提供了一个600GB的高质量子集，文本质量均超过90%。项目包含EvalWeb工具链，用于从原始网络数据中提取优质中文文本。EvalWeb通过数据准备、预处理和BERT评估模型对文本质量进行筛选和评估。此外，项目还开发了基于FastText的快速分类器，在保持性能的同时提高了处理效率。

GithubGithubHuggingfaceHuggingface论文论文
介绍相关项目
Telechat - 开源多语言对话模型，支持长文生成和高效部署
GithubTeleChat中文数据集大语言模型开源模型开源项目模型评测
TeleChat是一系列开源大语言模型,包含1B至12B规模,支持中英双语。采用优化结构和训练方法,在多领域表现优异。项目开源预训练数据集和评测结果,支持模型微调与高效部署。
dclm - 大型语言模型训练与评估的开源综合框架
DataComp-LMGithub大语言模型开源项目数据处理模型训练评估
DataComp-LM是一个开源的大型语言模型训练和评估框架。它提供了超过300T的CommonCrawl标准语料库、基于open_lm的预训练方案和50多项评估指标。研究人员可利用该框架在411M至7B参数规模下进行数据集构建实验。通过数据集优化，DataComp-LM已显著提升了模型性能，创建了多个跨规模表现优异的高质量数据集。
Mind2Web - AI通用网页交互代理
AI模型GithubMind2Web开源项目数据集网页交互网页代理
Mind2Web是一个开创性的AI项目，旨在开发能在任何网站上执行复杂任务的通用网页交互代理。该项目构建了包含2,000多个开放式任务的数据集，覆盖137个网站和31个领域。Mind2Web的特点是任务多样性、真实网站环境和广泛的用户交互模式，为AI在网络环境中的应用提供了坚实基础。
Awesome-LLM-Eval - 集成了评估工具、数据集、演示与论文资源的平台
GithubLLM应用LLM技术边界大模型评估开源项目评估工具评估数据集
Awesome-LLM-Eval 包罗万象，集成了评估工具、数据集、演示与论文资源，深入探讨大型语言模型的评估技术和方法。该平台支撑学术探索与实际应用，并致力于提升语言模型的透明度及可信度。
Awesome-Machine-Generated-Text - 机器生成文本研究资源汇总与综述
GPTGithub人工智能大规模语言模型开源项目自然语言处理预训练
这是一个全面的机器生成文本研究资源库,汇集了大规模预训练语言模型、分析方法和检测技术等关键内容。项目收录了OpenAI、DeepMind和Google等顶级机构的重要成果,包括GPT系列、Chinchilla和T5等著名模型。此外还整理了相关论文、演示、数据集和共享任务,为该领域的研究与开发提供了丰富参考。
ceval - 全面评估中文大语言模型能力的基准测试
C-EvalGithub中文评测基础模型多选题学科分类开源项目
C-Eval是一个综合性中文基础模型评估套件，涵盖52个学科和4个难度级别的13948道多选题。该项目通过零样本和少样本评估，展示了主流模型在STEM、社会科学和人文学科等领域的表现。C-Eval旨在帮助开发者追踪模型进展并分析其优缺点。研究者可通过官方网站或相关论文获取详细信息，并利用提供的数据和方法评估自己的模型。
NLP-Natural-Language-Processing - 全面的自然语言处理资源与工具库
GithubNatural Language Processing开源项目数据科学机器学习深度学习计算机视觉
提供全面的自然语言处理（NLP）资源，涵盖数据集、前沿技术、课程、书籍推荐、GitHub代码示例及流行工具。涉及数据分析、知识图谱、模型与算法、情感分析、主题建模等任务的详细资料与学习路径。了解最新NLP动态，探索自然语言处理的应用潜力。
Awesome-Chinese-LLM - 中文大语言模型开源项目与应用全览
Github中文LLM可商用多轮对话大语言模型开源项目
探索Awesome Chinese LLM——这是一个集中展示中文大语言模型的开源项目、应用和教程的平台。包括100+项经优化微调的资源，助力自然语言处理的学术与应用开发。
WebCPM - 交互式网络搜索的中文长答案生成系统
GithubWebCPM中文长文本问答开源项目网页搜索自然语言处理问答系统
WebCPM项目通过交互式网络搜索技术解决中文长篇问答任务。其开发的搜索界面收集用户行为数据，用于微调大规模预训练语言模型。该模型能够模拟人类搜索过程，生成基于事实的长答案。项目开源了全套资源，包括搜索界面、数据集、代码和模型参数，为自然语言处理领域研究提供支持。
ToolBench - 大规模工具使用指令数据集与开源语言模型
AI工具APIGithubToolBench大规模语言模型工具使用能力开源项目
ToolBench项目构建了大规模的指令微调数据集，旨在提升语言模型的工具使用能力。该项目收集了16464个真实API，覆盖单工具和多工具场景，采用深度优先搜索决策树方法生成注释。项目提供训练脚本和微调后的ToolLLaMA模型，其工具使用能力达到了与ChatGPT相当的水平。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号