Project Icon

mosec

云端机器学习模型服务框架

Mosec是一个高效且灵活的模型服务框架,旨在简化云端机器学习模型的部署和服务构建。其采用Rust和Python,实现高速性能与易用性,支持动态批处理和流水线处理,适用于CPU和GPU的混合工作负载。Mosec还提供模型预热、优雅关闭和Prometheus监控,便于通过Kubernetes等系统进行管理。

deepseek-moe-16b-base - 采用稀疏混合专家架构的开源大语言模型
DeepSeek MoEGithubHuggingface人工智能代码生成开源项目机器学习模型模型训练
DeepSeek MoE 16B Base是一个基于稀疏混合专家(MoE)架构的开源大语言模型,支持商业应用。模型使用bfloat16格式,可通过Transformers库调用,擅长文本生成和补全。它采用查询-键值对映射的注意力机制,高效处理自然语言处理任务。该项目遵循MIT许可,提供详细文档和示例代码,便于开发者集成使用。
cog - 专门用于将机器学习模型打包进生产级容器的开源工具
CogDockerGithub开源开源项目机器学习部署
Cog是一款开源工具,专门用于将机器学习模型打包进生产级容器。它简化了自定义Docker环境的配置过程,能自动创建符合最佳实践的Docker镜像。Cog支持多版本CUDA,标准化的Python I/O 定义,队列处理和即将推出的云存储功能,使得从开发到部署的全过程更加高效。用户可选在本地或通过Replicate部署模型。
sacremoses - 简洁高效的Python自然语言处理工具包和命令行界面
GithubPythonSacremoses令牌化开源项目归则化模型训练
Sacremoses是一个支持Python 3的自然语言处理工具包,提供分词、去分词、真字修复和文本规范化功能。支持命令行操作和多进程处理,让大规模文本处理变得更简单。
Made-With-ML - 学习设计、开发、部署和迭代机器学习生产系统的开放资源
GithubMLOpsMade With ML开源项目机器学习模型部署软件工程
Made With ML 是开发者学习设计、开发、部署和迭代机器学习生产系统的开放资源。它提供完整课程和代码实践指导,支持本地及云集群环境配置,适合求知欲强的技术人员和研究者。
sealos - 基于Kubernetes的云原生应用管理操作系统
GithubKubernetesSealos云原生应用云操作系统容器管理开源项目
Sealos是基于Kubernetes内核的云操作系统发行版,简化云使用体验。它提供应用管理、数据库管理和云通用性功能,实现高效、经济的云原生应用部署和管理。Sealos降低云使用成本,支持公有云和私有云环境,方便传统应用向云端迁移。
4DMOS - 3D LiDAR数据中的稀疏4D卷积移动物体分割
4DMOSGithubLiDAR开源项目移动物体分割稀疏4D卷积语义KITTI
4DMOS是一个基于稀疏4D卷积的3D LiDAR数据移动物体分割项目。该方法通过MinkowskiEngine处理点云序列,提取时空特征实现移动目标识别。项目开源了预训练模型、Docker环境和使用说明,支持在SemanticKITTI数据集上应用。研究成果发表于IEEE RA-L,为自动驾驶和机器人导航提供了新的技术方案。
awesome-mlops - 机器学习操作(MLOps)资源与最佳实践
AI在生产中GithubMLOps女性数据科学节开源项目机器学习操作特征存储
awesome-mlops 为用户提供全面的机器学习操作(MLOps)资源与最佳实践,覆盖从核心知识、社区交流到模型部署和监测等各个方面。无论是初学者还是专业人士,都能在这个项目中找到有价值的信息和指导。
candle - Rust语言打造的高性能机器学习框架
CandleGPU支持GithubRust开源项目机器学习框架模型推理
Candle是一款基于Rust开发的机器学习框架,专注于性能优化和易用性。它支持GPU加速计算,提供LLaMA、Stable Diffusion等多种AI模型示例。Candle采用类PyTorch的简洁语法,支持模型训练和自定义操作。该框架具有优化的CPU和CUDA后端,同时支持WebAssembly。作为一个轻量级但功能强大的框架,Candle适用于机器学习应用的快速开发和部署。
poem - Rust 生态系统中全功能的 Web 框架
AWS LambdaGithubOpenAPIPoem FrameworkRustWeb框架开源项目
Poem 是 Rust 语言生态中的一款全功能 Web 框架。该框架支持 AWS Lambda 部署和 OpenAPI 集成,具备高性能和丰富功能。多个知名项目如 Databend 和 Aptos 均采用了 Poem。框架特点包括简洁 API 设计、完善文档和活跃社区。Poem 为 Rust Web 开发提供了强大支持。
bacalhau - 高效的分布式计算框架
BacalhauGithub云计算分布式计算安全计算开源项目数据处理
Bacalhau是一个分布式计算平台,可以在数据生成和存储的位置执行任务,从而实现高效、安全的计算。支持Docker容器、WebAssembly (wasm)镜像和任意二进制文件作为任务运行,无需大量重写代码,简化现有工作流程。其特点包括快速作业处理、低成本、安全和大规模数据处理,利用边缘计算的闲置资源减少传输成本,通过精细的权限模型保护数据安全。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号