Data-Provenance-Collection

跨学科倡议推动AI训练数据集透明度和责任使用

Data Provenance Initiative AI数据集透明度文档化负责任使用 Github 开源项目

Data-Provenance-Collection项目致力于提高AI训练数据集的透明度和负责任使用。该项目审计了44个数据集合,涵盖1800多个文本微调数据集,记录了其来源、许可和创建者等元数据。开发者可通过项目脚本筛选符合许可和特征要求的数据集,促进AI训练数据的规范使用。

data_management_LLM - 大型语言模型训练数据管理资源汇总

Github大语言模型开源项目数据质量监督微调训练数据管理预训练

该项目汇总了大型语言模型训练数据管理的相关资源。内容涵盖预训练和监督微调阶段，探讨领域组成、数据数量和质量等关键方面。项目还收录了数据去重、毒性过滤等技术，以及不同因素间的关系研究。这些资源为优化LLM训练数据管理提供了全面参考。

cleanlab - 开源工具自动检测和优化机器学习数据集

Githubcleanlab开源项目数据中心AI数据清理机器学习标签错误检测

cleanlab是一款开源的数据中心AI工具包，能够自动检测机器学习数据集中的标签错误、异常值和重复项等问题。该工具适用于图像、文本和表格等各类数据，并支持所有机器学习模型。除了发现数据问题，cleanlab还可以训练更稳健的模型，评估数据质量。基于可靠的理论基础，cleanlab运行高效，操作简便，是优化数据质量和提升模型性能的实用工具。

cleanvision - 图像数据集问题自动检测工具，提升计算机视觉项目质量

CleanVisionGithub图像数据集开源项目数据质量数据问题检测计算机视觉

CleanVision是一个开源的图像数据集审核工具，能自动检测模糊、曝光不当和重复等常见问题。它为计算机视觉项目提供了数据预处理解决方案，支持多种图像格式，适用于分类、分割和对象检测等任务。开发者只需几行Python代码即可快速审核数据集，有助于提高机器学习模型的训练质量。

ai-collection - AI生成应用平台

AI CollectionAI应用Generative AIGitHubGithub开源项目推特

AI Collection展现丰富的生成型应用平台，覆盖内容生成、语音互动到视觉处理。借助前沿AI技术，用户可轻松制作和分享视频、音频及文本，极大提高工作效率与创新力。具体来说，视觉处理功能可以帮助用户提升设计效率、降低成本，而内容生成和分享功能则具有独特优势，让用户在短时间内创造高质量的多媒体内容。

responsible-ai-toolbox - 负责任AI开发与监控的工具集

AI模型FairlearnGithubInterpretMLResponsible AI Toolboxraiwidgets开源项目

Responsible AI Toolbox是一个集合，包含多个工具和库，旨在通过提供模型和数据探索及评估界面，帮助开发者和利益相关者更好地理解和监控AI系统。该工具集包括Responsible AI dashboard、Error Analysis dashboard、Interpretability dashboard、Fairness dashboard等，还涵盖数据处理、数据平衡分析与性别偏见测量等模块。用户可自定义工作流，以优化模型调试和数据驱动决策，确保AI系统的安全性、可靠性和公平性。

LLMDataHub - 大语言模型训练数据集合

GithubLLMDataHub大语言模型开源社区开源项目数据集聊天机器人

LLMDataHub汇聚高品质大语言模型训练数据，为研究人员和从业者提供丰富的数据资源。该平台涵盖多种数据集，适合提升聊天机器人对话质量、应答生成及语言理解。同时，平台更新最新数据集，助您获取行业前沿资源。

google-research - 多项目代码和数据集共享平台

GitHubGithubGoogle Research代码库开源项目数据集许可证

Google Research提供多种项目的代码和数据集，数据集在CC BY 4.0国际许可下发布，源码文件在Apache 2.0许可下发布。用户可通过GitHub编辑器下载所需子目录，并进行浅克隆以提交拉取请求。库内容持续更新，最新更新时间为2023年。

Data-science - 数据科学项目的综合资源库和实践指南

GitHubGithubMLOpsPython开源项目数据科学机器学习

Data-science项目汇集了丰富的数据科学资源，涵盖MLOps、数据管理、测试和生产力工具等领域。通过文章、代码和视频教程，该项目全面展示了数据科学工作流程，从项目管理到部署。它为数据科学家和机器学习工程师提供了提高效率、构建可靠项目的实用指南。

lilac - 开源解决方案促进AI数据探索与质量管理

AI训练GithubLilac开源项目数据探索数据质量控制数据集处理

Lilac是一个开源的AI数据处理工具，专注于数据集的探索、管理和质量控制。它提供交互式数据探索、LLM驱动的搜索、聚类和标注功能，支持本地运行和云端处理。Lilac能够优化数据集，降低AI训练成本，并支持语义搜索和概念搜索等高级特性。该工具已被Cohere和Databricks等公司采用，用于改善预训练和微调数据的质量。

DVC AI - 全面优化机器学习数据管理流程

AIAI工具DataChain数据处理数据管理机器学习

DVC AI为机器学习提供全面数据管理解决方案。功能涵盖数据预处理、实验跟踪和模型版本控制。可高效处理海量非结构化数据,支持自动标注、偏差缓解和重复项去除。采用无数据复制的版本控制和共享机制,结合云端技术,显著优化机器学习工作流程。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com