#云计算

MOSEC: 高性能机器学习模型服务框架

3 个月前
Cover of MOSEC: 高性能机器学习模型服务框架

Tau: 开源分布式平台即服务(PaaS)解决方案

3 个月前
Cover of Tau: 开源分布式平台即服务(PaaS)解决方案

SkyPilot:跨云计算的统一AI和批处理任务执行框架

3 个月前
Cover of SkyPilot:跨云计算的统一AI和批处理任务执行框架
相关项目
Project Cover

skypilot

SkyPilot是一个为LLMs和AI提供的框架,支持在任意云平台运行,最大化GPU利用率和降低成本。该框架通过自动管理作业队列,简化了扩展操作,还提供了对象存储的简便接入。用户可以在全球任一区域的云中自动故障转移,使用管理型Spot实例以较低成本运行,同时自动选择成本最优的机型和区域。

Project Cover

阿里云开发者社区

阿里云开发者社区汇总了全面的云计算、大数据和人工智能资源。提供开发工具、实战教程及丰富的活动,以及一个开发者交流的平台。支持开发者掌握云技术,促进技术交流与创新。

Project Cover

曦灵

百度智能云·曦灵为企业提供云计算服务,包括数据存储、处理与分析。其服务助力企业应对市场变动,提升运营效率,同时保障数据安全和隐私。

Project Cover

mosec

Mosec是一个高效且灵活的模型服务框架,旨在简化云端机器学习模型的部署和服务构建。其采用Rust和Python,实现高速性能与易用性,支持动态批处理和流水线处理,适用于CPU和GPU的混合工作负载。Mosec还提供模型预热、优雅关闭和Prometheus监控,便于通过Kubernetes等系统进行管理。

Project Cover

openai-translator

该翻译应用利用OpenAI GPT技术,支持GPT-3.5 Turbo、GPT-4等模型。它是一个可安装在手机和桌面的PWA,采用了React、Vite、Tailwind CSS等技术栈。用户可通过本地开发环境和Docker轻松构建和部署该项目。如果喜欢,请记得为项目点赞,谢谢。

Project Cover

resources

该页面提供增强现实、区块链、大数据、云计算、前端开发、后端开发、机器学习、游戏开发、物联网等领域的学习资源。每个主题下包含详细的资源链接,有助于快速找到所需的学习资料。此资源库旨在满足多种学习需求。

Project Cover

WasmEdge

WasmEdge是一个轻量、高性能且可扩展的WebAssembly运行时,被认为是最快的Wasm虚拟机之一。作为CNCF的官方沙盒项目,WasmEdge应用于现代Web架构、边缘计算微服务、无服务器SaaS API、嵌入式功能、智能合约和智能设备。通过提供安全的执行沙箱和操作系统资源隔离,WasmEdge允许社区贡献的代码作为插件安全执行,使软件产品扩展与定制更加方便。

Project Cover

bacalhau

Bacalhau是一个分布式计算平台,可以在数据生成和存储的位置执行任务,从而实现高效、安全的计算。支持Docker容器、WebAssembly (wasm)镜像和任意二进制文件作为任务运行,无需大量重写代码,简化现有工作流程。其特点包括快速作业处理、低成本、安全和大规模数据处理,利用边缘计算的闲置资源减少传输成本,通过精细的权限模型保护数据安全。

Project Cover

tau

Tau是一个为软件开发者设计的开源框架,用于构建低维护、高扩展性的云计算平台。该平台无需外部依赖,提供简单配置,通过Git管理基础设施。支持WebAssembly计算,具备自动节点和协议发现、内容寻址存储等功能,确保高性能和可靠性。适合小型团队或个人开发者,实现本地编码即全球部署,平衡开发速度和基础设施成本。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号