#GPU支持

Flux.jl - 轻量级的纯Julia机器学习框架
FluxJulia机器学习轻量级抽象GPU支持Github开源项目
Flux.jl是一个基于100%纯Julia技术栈的机器学习框架,结合原生GPU和自动微分支持,提供简洁优雅的解决方案。该框架使简单任务易于实现,并且高度可定制。适用于Julia 1.9及更高版本,支持快速模型构建与训练。了解更多信息,请参阅快速入门和文档页面。
dask-sql - 分布式SQL查询引擎,结合Python轻松扩展计算
Dask-SQLPythonSQL分布式计算GPU支持Github开源项目
dask-sql是一个分布式SQL查询引擎,结合Python和SQL,支持无限扩展计算。通过pip或conda安装,可与Jupyter Notebook或BI工具集成,并支持CUDA GPU查询加速。dask-sql支持多种数据格式和存储位置,通过UDFs增强查询能力,适用于本地和云端大规模计算。详细信息请参考官方文档。
lancedb - 高效管理与检索嵌入的开源多模态向量数据库
LanceDB矢量搜索嵌入管理多模态数据GPU支持Github开源项目
LanceDB 是一款开源的多模态向量数据库,具备持久存储功能,能够简化嵌入的管理与检索。它支持生产级别的向量搜索,无需管理服务器,可存储、查询和过滤向量、元数据以及多模态数据(包括文本、图片、视频、点云等)。它还支持向量相似性搜索、全文搜索和SQL查询,并提供原生的Python和JavaScript/TypeScript支持,同时实现零拷贝和自动版本管理。LanceDB 与 LangChain、LlamaIndex、Apache-Arrow、Pandas、Polars、DuckDB 等多个生态系统集成。其核心由Rust编写,基于Lance构建,专为高性能机器学习工作负载而设计。
pomegranate - Python 中快速、灵活且易于使用的概率建模
pomegranatePyTorch概率建模GPU支持混合精度支持Github开源项目
新版本将计算后端从Cython迁移到PyTorch,提升了速度和灵活性。新特性包括GPU支持、半精度计算、多变量分布、缺失值处理以及更好的社区贡献。改进后的pomegranate在混合模型、贝叶斯网络和隐马尔科夫模型的构建中表现出色,实现了高度的灵活性和效率。
stable-audio-metrics - 音频生成模型评估指标集合
stable-audio-metrics音频生成模型评估音频指标GPU支持数据结构Github开源项目
stable-audio-metrics是一个评估音乐和音频生成模型的开源指标集合。它包含基于Openl3的Fréchet距离、基于PaSST的Kullback-Leibler散度和基于CLAP-LAION的CLAP分数。该项目针对长形式全频带立体声生成进行了优化,支持可变长度输入,并提供了详细文档和示例。适用于评估MusicCaps、AudioCaps和Song Describer等数据集的音频生成质量。
docker-whisperX - 优化Docker镜像的WhisperX语音识别与转录解决方案
WhisperXDockerGPU支持语音识别模型构建Github开源项目
docker-whisperX项目优化了WhisperX语音识别工具的Docker镜像构建流程。该项目实现了175个10GB大小Docker镜像的并行构建,提供多种预构建镜像和自定义选项,支持不同语言和模型。用户可通过GPU加速,获得包含逐字时间戳和说话人分离的高质量语音转文字结果。
candle - Rust语言打造的高性能机器学习框架
Candle机器学习框架RustGPU支持模型推理Github开源项目
Candle是一款基于Rust开发的机器学习框架,专注于性能优化和易用性。它支持GPU加速计算,提供LLaMA、Stable Diffusion等多种AI模型示例。Candle采用类PyTorch的简洁语法,支持模型训练和自定义操作。该框架具有优化的CPU和CUDA后端,同时支持WebAssembly。作为一个轻量级但功能强大的框架,Candle适用于机器学习应用的快速开发和部署。
whisper-asr-webservice - 基于Whisper的开源语音识别Web服务
Whisper ASR语音识别DockerGPU支持开源项目Github
whisper-asr-webservice是一个开源的语音识别Web服务,基于OpenAI Whisper模型。它支持OpenAI Whisper和Faster Whisper引擎,提供多语言语音识别、翻译和语言识别功能。项目提供Docker镜像,支持CPU和GPU部署。这个服务具有高性能和易用性,适合各种语音识别应用场景。
node-mlx - 基于MLX的高效Node.js机器学习开发工具
node-mlx机器学习框架JavaScriptMLXGPU支持Github开源项目
node-mlx是基于MLX的Node.js机器学习框架,支持Apple Silicon GPU加速及x64 Mac和Linux平台。该框架提供丰富的API和示例,涵盖语言模型训练和文本生成等应用。node-mlx通过简化复杂的机器学习任务,使JavaScript开发者能够更便捷地构建和部署AI模型。
gotch - Go语言深度学习框架 基于PyTorch C++ API的高性能实现
深度学习张量操作神经网络GPU支持PytorchGithub开源项目
Gotch是基于PyTorch C++ API (Libtorch)开发的Go语言深度学习框架。它实现了全面的张量操作、动态计算图、JIT接口和预训练模型加载等功能,同时支持CPU和GPU。Gotch采用纯Go API设计,便于构建和训练神经网络模型,适合深度学习研究和应用开发。
animatediff-cli - 命令行工具实现低内存消耗的无限长度动画生成
AnimateDiffAI动画生成VRAM优化无限长度生成GPU支持Github开源项目
animatediff-cli是一款开源的动画生成工具,专注于降低VRAM使用并支持无限长度动画创作。该工具兼容CPU和GPU运行,集成了RIFE插值技术以提升动画质量。用户可通过灵活的配置选项自定义提示、选择模型和设置帧数。此外,animatediff-cli支持批量生成和Python程序调用,为动画创作提供了多样化的应用场景。尽管项目仍在持续优化中,但其已展现出生成高质量动画的潜力。
RealtimeSTT_LLM_TTS - 整合语音识别与AI对话的开源项目
RealtimeSTT语音转文字实时转录GPU支持唤醒词Github开源项目
该项目集成语音识别、AI对话和语音合成,支持GPU加速以实现低延迟交互。具备语音检测、实时转录和唤醒词等功能,可用于开发语音助手和AI对话应用。Web界面支持个性化配置,适合快速构建语音交互系统。