Project Icon

server

开源AI推理服务,兼容多种深度学习和机器学习框架

Triton Inference Server是一款开源推理服务软件,支持TensorRT、TensorFlow、PyTorch等多种深度学习和机器学习框架。它优化了云端、数据中心、边缘和嵌入式设备的推理性能,适用于NVIDIA GPU、x86和ARM CPU,以及AWS Inferentia。主要功能包括动态批处理、模型流水线、HTTP/REST和gRPC协议支持等。通过Triton,用户可以轻松部署和优化AI模型,提升推理效率。

trt_yolo_video_pipeline - 基于TensorRT的多路视频分析处理框架
GithubTensorRT多路并发开源项目目标检测硬件编解码视频分析
TRT-VideoPipeline是一个基于TensorRT的多路视频分析处理框架。该项目支持YOLO系列模型推理,实现单模型多显卡多实例负载调度,并利用GPU进行数据处理。框架支持NVIDIA硬件编解码,可处理RTSP、RTMP、MP4等多种视频格式。其模块化设计便于功能节点的灵活组合,适应不同应用场景。
libedgetpu - Coral设备边缘AI推理的高性能运行时库
Coral设备Edge TPUGithubTensorFlowlibedgetpu开源项目编译构建
libedgetpu是一个开源项目,为Coral设备提供用户空间运行时驱动。支持多平台构建和ARM架构交叉编译,优化Edge TPU性能实现高效边缘AI推理。提供Docker、Bazel和Makefile构建方式,适用于Linux、macOS和Windows等主流操作系统。使用USB加速器时需注意散热问题,建议在适宜温度下操作以确保安全。
prst.ai - 简化AI流程的自托管多功能提示词管理平台
AI工具AI管理API集成定价规则提示词管理自托管
prst.ai是一款自托管AI多功能工具,专注于提示词管理和AI工具集成。它提供无代码提示词管理、自定义定价规则和AI结果验证等功能。用户可轻松比较不同AI模型,连接各种SaaS解决方案,无需复杂编程即可应用AI技术。prst.ai适用于各种规模的企业,有助于简化AI工作流程,优化性能,并确保数据所有权。通过提供统一的AI接口,prst.ai使AI自动化和集成过程更加便捷高效。
training_extensions - OpenVINO框架助力快速训练和部署计算机视觉模型
GithubOpenVINO开源项目模型训练深度学习计算机视觉迁移学习
OpenVINO Training Extensions是一个专注计算机视觉的低代码迁移学习框架。它基于PyTorch和OpenVINO工具包开发,提供简洁API和CLI命令,支持分类、检测、分割等多种任务的模型训练、推理和部署。该框架具备自动配置、分布式训练、混合精度等功能,可快速构建高效准确的视觉AI模型。
Deep-learning-in-cloud - 深度学习云计算资源和工具综合指南
GithubMLOps云GPU免费计算资源开源项目模型部署深度学习
这个开源项目汇集了云端深度学习资源和工具信息。内容包括GPU云服务比较、云GPU提供商列表、定价和试用信息、模型部署平台、MLOps工具以及学术优惠。项目旨在帮助开发者和企业选择合适的云计算资源,提高模型训练效率并降低成本。此外还提供了模型部署和MLOps相关指导,为深度学习全生命周期提供参考。无论是个人开发者还是企业,都能在这里找到适合自己需求的云计算资源和工具。
website - KServe简化机器学习模型部署和管理
GithubKServe开源项目文档社区网站贡献
KServe是开源机器学习模型服务平台,旨在简化AI模型部署和管理。项目网站提供全面文档、代码示例和社区资源。支持版本化文档,欢迎社区参与改进。平台为企业级AI部署提供灵活解决方案,包括最新文档、博客和贡献指南。
stable-diffusion-multi-user - 基于Stable Diffusion的多用户AI绘图服务器部署方案
API部署GPU服务器GithubStable Diffusion多用户开源项目负载均衡
这是一个基于Stable Diffusion的多用户AI绘图服务器项目,提供自动扩展、负载均衡和WebUI扩展API支持。项目包含Django API、Runpod Serverless和Replicate三种部署方案,支持多用户队列、模型切换、civitai模型和Lora等功能。开发者可以基于此项目构建自定义UI、社区功能和账户系统。
lightrail - 助力开发者构建跨应用AI智能工作流
AI ActionsGithubLightrail开发工具开源项目跨应用平台
Lightrail是一个跨应用AI操作平台,支持在现有工具和应用中执行AI操作。平台提供TypeScript SDK,便于开发者编写和分发新的AI操作。Lightrail集成了VS Code、JupyterLab、PostgreSQL和Chrome等工具,支持在提示中使用截图,并具备基于本地向量数据库的长期记忆功能。该平台旨在优化工作流程,提升生产效率。
app - 开源AI应用开发与模型部署平台
AI基础设施GithubPrem应用开发开源开源项目隐私保护
Prem提供了一个统一的AI应用开发和模型部署环境,注重保护用户数据隐私和模型所有权。该平台简化了AI部署流程,支持聊天、嵌入、矢量存储等多种AI接口。Prem可安装在Linux服务器或本地MacOS/Linux系统上,方便用户管理和使用开源AI服务,同时降低数据泄露风险。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号