Project Icon

ortex

Elixir实现的ONNX模型并发推理框架

Ortex是基于ONNX Runtime的Elixir封装库,通过Nx.Serving实现ONNX模型的并发和分布式部署。该框架支持CUDA、TensorRT和Core ML等多种后端,能够高效加载和推理主流机器学习库导出的ONNX模型。Ortex还提供了便捷的存储型张量实现,为开发者提供了灵活且高效的机器学习模型部署方案。

gpt-neox - 大规模语言模型训练库,支持多系统和硬件环境
DeepSpeedEleutherAIFlash AttentionGPT-NeoXGithubMegatron Language Model开源项目
GPT-NeoX是EleutherAI开发的库,专注于在GPU上训练大规模语言模型。它基于NVIDIA的Megatron,并结合了DeepSpeed技术,提供前沿的架构创新和优化,支持多种系统和硬件环境。广泛应用于学术界、工业界和政府实验室,支持AWS、CoreWeave、ORNL Summit等多个平台。主要功能包括分布式训练、3D并行、旋转和嵌入技术,以及与Hugging Face等开源库的无缝集成。
openrl - 综合性强化学习平台,支持多任务训练
GithubOpenRLPyTorch多智能体开源项目强化学习自然语言处理
OpenRL 是一款基于 PyTorch 的开源强化学习研究框架,支持单代理、多代理、离线强化学习、自我对弈及自然语言处理任务。框架提供统一接口、训练加速方法和多种深度学习模型支持,兼容 Gymnasium、MuJoCo、StarCraft II 等多种环境。同时,OpenRL 还支持用户自定义训练模型、奖励模型和环境配置,并提供中英文文档。
trlx - 分布式微调大型语言模型的强化学习框架,支持奖励函数与高效并行
GithubHugging FaceILQLNVIDIA NeMoPPOtrlX开源项目
一个专注于强化学习微调大型语言模型的分布式训练框架。支持使用奖励函数或已标注数据集进行训练,兼容🤗Hugging Face和NVIDIA NeMo模型,可扩展到20B参数以上。实现了PPO和ILQL等多种RL算法,提供详细文档和丰富示例,支持分布式训练和超参数搜索。适用于各种应用场景,通过高效并行技术提升训练效率。
corenet - 用于训练多任务深度神经网络的工具库
CoreNetGithub开源项目模型训练深度学习神经网络计算机视觉
CoreNet是一款多功能深度神经网络工具库,支持训练各种规模的标准和创新模型。它适用于基础模型、计算机视觉和自然语言处理等多个领域。该项目提供可复现的训练方案、预训练模型权重和针对Apple Silicon优化的MLX示例,有助于推动AI研究和应用的发展。
onnxruntime-genai - 设备端高效运行LLM模型的灵活解决方案
GithubLLMONNX Runtime开源项目模型架构生成式AI硬件加速
onnxruntime-genai是一个用于设备端高效运行大型语言模型的API。它支持Gemma、Llama、Mistral等多种模型架构,提供多语言接口。该项目实现了生成式AI的完整流程,包括预处理、推理、logits处理等。开发者可以使用generate()方法一次性生成输出或实现逐token流式输出。onnxruntime-genai为本地部署和运行LLM模型提供了简单、灵活、高性能的解决方案。
TensorRT - 提升PyTorch推理效率的工具
CUDAGithubPyTorchTensorRTTorch-TensorRT安装开源项目
Torch-TensorRT将TensorRT的强大功能引入PyTorch,用户仅需一行代码即可显著提升推理性能。该工具支持在多个平台上安装,包括PyPI和NVIDIA NGC PyTorch容器。通过torch.compile或导出式工作流,用户可以高效优化和部署模型。Torch-TensorRT依赖CUDA和TensorRT,与Linux和Windows等多种平台兼容。提供丰富资源,包括教程、工具和技术讲座,供用户学习使用。
openai_ex - Elixir社区维护的OpenAI API客户端,功能全面支持
APIElixirGithubOpenaiEx图像生成开源项目聊天机器人
OpenaiEx是一个Elixir库,全面支持OpenAI API功能,如Assistants API Beta 2、DALL-E-3、文本转语音及流式聊天完成。该库允许流式请求取消,结构与官方Python API一致,适用于Livebook开发,并通过环境变量配置。详细的安装和使用指南可在hexdocs找到,提供多个实例和用例,如流式Orderbot、Deeplearning.AI Orderbot和图像生成UI。
wasmcloud-otp - 基于OTP的WebAssembly actor模型运行时
ElixirGithubNATSOTPWebAssemblywasmCloud开源项目
wasmCloud-otp是一个基于OTP框架的WebAssembly运行时,为actor和能力提供者提供托管和调度。它利用WebAssembly的优势,支持开发者编写无样板代码的actor模型应用。该项目包含主机核心和仪表板Web UI,支持实时监控和控制,通过NATS实现lattice功能。虽已被弃用,但仍是学习WebAssembly和分布式系统的有价值资源。
Holocron - 深度学习计算机视觉技巧的高效实现与应用
GithubHolocronPyTorch开源项目模型深度学习计算机视觉
Holocron项目提供深度学习计算机视觉最新技术的高效实现,增强开发者灵活性并与PyTorch生态系统兼容。支持多种图像分类、目标检测和语义分割模型,包括Res2Net、Darknet和YOLO等。项目附带详细文档、示例代码和实时演示,助力开发者快速上手并部署高性能视觉解决方案,并提供多种优化算法和工具提升训练效率与准确性。适用于追求前沿性能和灵活开发环境的研究人员和工程师。
mctx - 高效JAX实现的蒙特卡洛树搜索库
GithubJAXMctx开源项目强化学习深度学习蒙特卡洛树搜索
Mctx是一个基于JAX的蒙特卡洛树搜索库,实现了AlphaZero和MuZero等算法。该库支持JIT编译和并行批处理,以提高计算效率。Mctx平衡了性能和易用性,为研究人员提供了探索搜索型强化学习算法的便利工具。它包含通用搜索函数和具体策略实现,用户只需提供学习到的环境模型组件即可使用。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号