Project Icon

flops-counter.pytorch

神经网络运算量与参数计算工具

该工具用于计算神经网络中的理论乘法加法运算量,以及参数数量和逐层计算成本。工具支持两个后端:pytorch和aten。aten后端覆盖更多模型架构,而pytorch后端更适合CNN分析。通过设置verbose参数,可以获取未纳入复杂度计算的操作信息,通过ignore_modules选项则可以忽略特定模块,适用于研究用途。适用于Pytorch版本2.0及以上。

bitsandbytes - 高效CUDA优化库 支持多位量化和矩阵运算
CUDAGithubbitsandbytes优化器开源项目硬件后端量化
bitsandbytes是一个轻量级Python库,为CUDA自定义函数提供封装。该库主要提供8位优化器、矩阵乘法(LLM.int8())以及8位和4位量化功能。通过bitsandbytes.nn模块实现多位线性层,bitsandbytes.optim模块提供优化器。目前正在拓展对更多硬件后端的支持,包括Intel CPU+GPU、AMD GPU和Apple Silicon,Windows平台的支持也在开发中。
nnsight - 解释和操作深度学习模型内部的Python包
GithubPyTorchnnsight开源项目模型操作深度学习模型神经网络解释
nnsight是一个专门用于深度学习模型内部解释和操作的Python包。它可以访问模型隐藏状态、进行噪声注入和跨提示干预。该工具支持保存中间值、修改参数和多token生成等功能,方便研究人员和开发者深入分析和调试神经网络模型。
gen-efficientnet-pytorch - 泛型EfficientNet和其它高效PyTorch模型的实现
EfficientNetGithubMixNetMobileNetPyTorch开源项目模型
本项目实现了EfficientNet、MixNet、MobileNetV3等多种高效模型,利用通用架构定义支持多种计算高效的神经网络。所有模型均基于MobileNet V1/V2块序列设计,并支持字符串化架构配置。请注意,该项目现已停止维护,推荐使用`timm`库获取更多功能和权重兼容的模型。
pytorch-dnc - PyTorch实现的差分神经计算机及相关模型库
DNCGithubSAMSDNC开源项目神经网络记忆增强
这个PyTorch库实现了差分神经计算机(DNC)、稀疏访问存储器(SAM)和稀疏差分神经计算机(SDNC)等模型。它提供灵活API用于构建和训练这些神经网络,支持多层控制器、共享内存等配置。库中还包含复制和加法等基准任务,以及内存可视化功能,有助于开发和评估基于外部存储的神经网络模型。
attention-gym - FlexAttention API的注意力机制实验工具集
Attention GymFlexAttentionGithubPyTorch开源项目机器学习注意力机制
Attention Gym是一个基于FlexAttention API的开源工具集,用于实验和优化各种注意力机制。项目提供了多种注意力变体的实现、性能对比工具和实用函数,包括示例脚本和可视化组件。研究人员和开发者可以利用这些资源来探索、理解和应用先进的注意力技术,从而在自己的模型中实现更高效的注意力机制。
PyTorch-Tutorial-2nd - 涵盖深度学习应用与推理部署的知识库
GithubPyTorch大语言模型开源项目深度学习自然语言处理计算机视觉
本书基于PyTorch,系统性涵盖深度学习的核心知识,包括计算机视觉、自然语言处理、大语言模型等实战案例,详解ONNX和TensorRT推理部署框架,为读者提供从基础到应用的完整指导,帮助快速掌握PyTorch并实现项目落地。适合AI自学者、产品经理及跨领域人士阅读。
AutoFP8 - 量化库优化大语言模型推理性能
AutoFP8FP8量化GithubvLLM开源项目模型压缩神经网络
AutoFP8是一个开源FP8量化库,用于生成vLLM兼容的压缩检查点。它提供FP8_E4M3精度的量化权重、激活和KV缓存比例,支持静态和动态激活方案。AutoFP8能将预训练模型转换为FP8格式,与vLLM无缝集成,提高大语言模型推理效率,同时保持模型精度。这个工具适用于优化和部署大规模语言模型。
TokenLimits - 实时检测多种AI模型的文本令牌数量
AI工具AI模型TokenLimitstoken限制图像模型文本模型
TokenLimits为用户提供实时文本令牌计数服务,支持GPT-4、GPT-3.5-Turbo、Stable Diffusion等多种AI模型。网站显示输入文本的令牌数、字符数和单词数,帮助用户确保内容符合各模型的输入限制。这一工具适用于AI内容创作者和开发者,有助于提高AI模型使用效率。
cytoflow - 用于流式细胞术定量分析的Python工具包
CytoflowGithubPython工具开源软件开源项目数据可视化流式细胞术分析
Cytoflow是一个开源的Python工具包,用于流式细胞术数据的定量和可重复分析。它提供图形界面和Python模块,强调元数据和工作流程概念。该工具支持自动门控和混合模型等数据驱动分析,适合细胞内状态测量。Cytoflow注重易用性和可视化,具有良好的扩展性,可在多种操作系统上运行。
torch-dreams - 神经网络可视化与解释性增强工具
GithubTorch-Dreams可解释性图像生成开源项目特征可视化神经网络
Torch-Dreams是一个Python库,专注于神经网络可视化和增强模型可解释性。它提供特征可视化、通道激活和多模型同步可视化等功能,支持批量处理和自定义变换。这个工具适合研究人员分析深度学习模型内部机制,也可用于生成艺术创作。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号