Project Icon

HuggingFaceModelDownloader

专用于从HuggingFace网站下载模型和数据集的工具

HuggingFace Model Downloader是一款实用工具,专用于从HuggingFace网站下载模型和数据集,支持多线程下载LFS文件,并通过SHA256校验确保文件完整性。兼容Linux、Mac及Windows WSL2系统,提供简单的安装脚本和多种下载选项,能够根据操作系统和架构自动选择正确版本。该工具还支持通过配置文件自定义下载参数,适用于需要集成Go或Python进行推理的项目。

PicoMLXServer - 简化MLX AI模型管理的工具
AI助手GithubHuggingFaceMLXOpenAI APIPico MLX Server开源项目
Pico MLX Server提供简单易用的图形界面,便于管理MLX AI模型。通过菜单栏可以迅速启动和停止服务器,用户还可以从HuggingFace下载MLX模型,安装Python环境和必要依赖,并在多个端口同时运行多个服务器。此外,Pico MLX Server兼容OpenAI API,支持现有的AI聊天客户端。适用于macOS 14.0及以上版本。
mlx-llm - 在Apple Silicon上实时运行的高级语言模型应用与工具
Apple SiliconGithubHuggingFaceLarge Language ModelsQuantizationmlx-llm开源项目
mlx-llm支持用户在Apple Silicon设备上实时运行高级语言模型(LLMs)的应用和工具。该项目支持多种预训练模型,并提供简便的安装方法。用户可以加载新版预训练权重、进行模型量化及嵌入提取。此外,mlx-llm还覆盖了多种应用场景,包括命令行聊天、LoRA或QLoRA微调及检索增强生成(RAG)等。
video2dataset - 快速构建大规模视频数据集的开源工具
Githubvideo2dataset分布式处理开源项目数据预处理视频下载视频数据集
video2dataset是一个开源工具,用于从视频URL快速创建大规模视频数据集。它支持多种输入输出格式和文件系统,可在12小时内处理1000万个视频。该工具提供增量模式、分布式处理和Weights & Biases集成,适合机器学习训练等场景。其灵活的API和配置选项让用户能够精细控制数据处理流程。
multi-model-server - 深度学习模型的部署工具
DockerGithubMulti Model ServerPython开源项目模型服务深度学习
Multi Model Server是一个灵活的工具,用于部署由各种ML/DL框架训练的深度学习模型。通过命令行界面或预配置的Docker镜像,可以快速设置HTTP端点处理模型推理请求。支持Python 2.7和3.6,提供适合CPU和GPU推理的不同MXNet pip包。详细的文档和使用示例,以及Slack频道和社区支持,进一步简化了用户使用体验。推荐在生产环境中使用Docker容器以提升安全性和性能。
Finetune_LLMs - 引用数据集微调大型语言模型 (LLM) 的代码
DeepSpeedFinetune LLMsGPTJGithubHuggingfaceNvidia-docker开源项目
Finetune_LLMs 项目提供代码支持DeepSpeed、Lora或QLora方法微调大型语言模型,涵盖从名言数据集学习及利用 Nvidia-docker 简化环境配置,适于需GPU支持的用户。
quantized-models - 提供多源量化模型以提升大语言模型推理效率
GithubHuggingfacequantized-modelstransformers大型语言模型开源项目文本生成推理模型量化模型
quantized-models项目整合了多种来源的量化模型,旨在提高大语言模型的推理效率。模型支持者包括TheBloke、LoneStriker、Meta Llama等,提供gguf、exl2格式的支持。用户可通过transformers库便捷地进行文本生成,这些模型按现状发布,需遵循其各自的许可协议。
xFasterTransformer - 高效的大规模语言模型推理优化方案
GithubPython APIXeonxFasterTransformer大语言模型开源项目高性能
xFasterTransformer是一个为X86平台优化的大规模语言模型(LLM)推理解决方案,支持多插槽和节点的分布式运行,适用于大型模型推理。它提供C++和Python API,支持例如ChatGLM、Llama、Baichuan等流行的LLM模型,并可通过PyPI、Docker或从源代码进行安装。项目附带详细文档、API使用示例、基准测试代码和Web演示,确保用户能充分利用其高性能和高扩展性。
webdataset - 大规模深度学习数据集的管理工具
GithubPyTorchWebDatasettar文件开源项目数据管道深度学习
WebDataset是一种高性能的数据管理工具,专为大规模深度学习任务设计。它支持从本地存储和云对象存储读取数据,兼容PyTorch、TensorFlow和JAX。WebDataset能高效处理和读取多种格式的数据集,如图像、音频和视频,极大地提升I/O性能并简化数据预处理。其优势包括低延迟、无需本地存储及并行数据访问,适用于不同规模的深度学习任务。
download-directory.github.io - GitHub仓库子目录一键下载工具
GitHubGithub下载工具仓库文件子目录下载开源项目
download-directory.github.io是一个在线工具,用于解决GitHub不支持直接下载单个文件夹的问题。通过输入GitHub目录链接,可一键下载指定文件夹中的所有内容。工具支持自定义下载文件名,操作简便,适用于从大型仓库中获取特定文件。相比GitZip和DownGit等工具,download-directory.github.io提供了更简洁的界面和更快速的下载体验,为开发者和GitHub用户提供了更高效的文件获取方式。
hailo_model_zoo - 面向多AI任务的深度学习预训练模型集合
GithubHailo Model ZooHailo硬件开源项目模型优化深度学习预训练模型
Hailo模型库提供针对分类、检测和分割等AI任务的预训练深度学习模型。用户可测量模型的全精度和量化精度,并生成用于Hailo硬件加速的HEF文件。该库还包含自定义数据集重训练指南和特定用例模型。支持快速上手、性能评估及Hailo硬件部署,助力高效AI应用开发。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号