Logo
Project Icon

accelerated-scan

GPU加速的并行扫描算法高效解决一阶递归

Accelerated ScanGPU并行计算CUDATritonGithub开源项目

accelerated-scan是一个Python包，实现了GPU上高效的一阶并行关联扫描。该项目采用分块处理算法和GPU通信原语，能快速处理状态空间模型和线性RNN中的一阶递归问题。支持前向和后向扫描，提供C++ CUDA内核和Triton实现，在不同序列长度下均有出色性能表现。适用于深度学习和信号处理等需要高性能递归计算的领域。

访问官网访问官网GithubGithub论文论文
介绍相关项目
thundersvm - GPU加速的开源支持向量机库
GPU加速GithubThunderSVM并行计算开源项目支持向量机机器学习
ThunderSVM是一个开源的支持向量机库，通过GPU和多核CPU加速计算，显著提高SVM训练效率。该库实现了LibSVM的全部功能，支持一类SVM、SVC、SVR和概率SVM等多种模型。ThunderSVM提供Python、R、Matlab和Ruby等多种编程语言接口，跨平台兼容Linux、Windows和MacOS。采用与LibSVM一致的命令行参数，便于用户快速上手。作为高效的SVM实现，ThunderSVM为数据科学家和机器学习研究者提供了强大的工具支持。在某些大规模数据集上，ThunderSVM相比传统SVM实现可实现10-100倍的加速，已被多个知名机器学习项目采用。
jax-triton - JAX与Triton集成实现GPU计算加速
CUDAGPU加速GithubJAXTritonjax-triton开源项目
jax-triton项目实现了JAX和Triton的集成，让开发者能在JAX中使用Triton的GPU计算功能。通过triton_call函数，可在JAX编译函数中应用Triton内核，提高计算密集型任务效率。项目提供文档和示例，适合机器学习和科学计算领域的GPU计算优化需求。
raft - 可复用CUDA函数库加速向量搜索与机器学习
CUDAGPU加速GithubRAFT向量搜索开源项目机器学习
RAFT是一个CUDA加速的C++头文件库，为机器学习和信息检索提供基础算法和原语。它实现了先进的向量相似度搜索方法，包括暴力搜索、IVF-Flat、IVF-PQ和CAGRA。RAFT还提供可重用原语，用于构建涵盖数据生成、模型评估、分类回归、聚类等领域的机器学习算法。通过跨项目复用和集中核心计算，RAFT加速了算法开发，并使未来优化能广泛应用于各种算法。
DeepSpeed - 一个深度学习优化库，专为大规模模型训练和推理设计
DeepSpeedGithub分布式训练大规模模型训练开源项目模型压缩模型推理
DeepSpeed 是一个深度学习优化软件套件，专为大规模模型训练和推理设计，能显著优化系统性能和降低成本。它支持亿级至万亿级参数的高效管理，兼容各种计算环境，从资源受限的GPU系统到庞大的GPU集群。此外，DeepSpeed 在模型压缩和推理领域亦取得创新成就，提供极低的延迟和极高的处理速率。
TensorRT-YOLO - 为YOLO目标检测模型提供推理加速解决方案
CUDAGithubTensorRT-YOLOYOLO开源项目推理加速目标检测
此项目基于TensorRT，为YOLO目标检测模型提供推理加速解决方案，支持YOLOv3至YOLOv10及PP-YOLOE系列。集成EfficientNMS插件及CUDA技术，有效提升推理效率。支持C++和Python，包含CLI快速导出和推理功能，并提供Docker一键部署。推荐CUDA 11.6及以上版本和TensorRT 8.6及以上版本。
pytorch_scatter - 优化分散操作的 PyTorch 扩展库
CPUGPUGithubPyTorch开源项目数据处理高性能计算
该扩展库为PyTorch提供了高效的稀疏更新和分段操作，包含scatter、segment_coo和segment_csr，支持sum、mean、min和max等归约方式。操作可适用于不同数据类型，并支持CPU和GPU。复合功能包括scatter_std、scatter_logsumexp、scatter_softmax和scatter_log_softmax。安装过程简单，适用于各大操作系统和PyTorch/CUDA组合。
deepsparse - 优化CPU上深度学习推理的高效稀疏性使用
CPU推理DeepSparseGithubLLM支持开源项目模型量化稀疏性
DeepSparse是一个专为CPU优化的深度学习推理运行时，通过使用稀疏性显著加快模型推理速度。结合SparseML优化库，DeepSparse支持模型剪枝和量化，在CPU上实现卓越性能。支持各种计算机视觉和自然语言处理模型，包括BERT、ViT、ResNet、YOLOv5/8等。此外，DeepSparse现已支持高效的LLM推理，对稀疏量化模型实现多倍加速。可通过PyPI安装，并提供多种API便于部署。
flashinfer - 专注LLM服务的高效GPU内核库
FlashInferGPU内核GithubLLM服务开源项目注意力机制高性能计算
FlashInfer是一个面向大型语言模型(LLM)服务和推理的GPU内核库。它实现了多种注意力机制，如FlashAttention、SparseAttention和PageAttention。通过优化共享前缀批处理解码和压缩KV缓存等技术，FlashInfer提高了LLM推理效率。该项目兼容PyTorch、TVM和C++，便于集成到现有系统，适用于多种LLM应用场景。
torchquad - 基于GPU加速的开源数值积分框架
GPUGithubPyTorchtorchquad开源项目数值积分机器学习
torchquad是一个开源的高性能数值积分框架,支持PyTorch、JAX和Tensorflow等多个后端。该框架针对GPU进行了优化,能有效处理高维积分问题,并在GPU上展现出优异的扩展性。torchquad提供多种积分方法,支持自动微分,适用于机器学习和科学计算等领域。其简洁的API设计使研究人员和开发者能够高效地完成复杂的数值积分任务。
torchsde - 提供GPU支持的随机微分方程求解器
GANGithubNeural SDEPyTorchSDE solverstochastic differential equation开源项目
这个库提供了支持GPU和高效反向传播的随机微分方程（SDE）求解器。其使用Python和PyTorch开发，安装方便，并附有丰富的示例。用户可以通过简单的代码示例快速入门，并通过文档进一步学习。除了基础功能外，还包括潜在SDE和GAN中的SDE等高级应用示例。适用于在高性能计算环境中执行复杂SDE模型的研究人员和开发者。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号