#RNN

深入探索PyTorch-RNN文本分类:从原理到实践

3 个月前
Cover of 深入探索PyTorch-RNN文本分类:从原理到实践

深度学习课程CC6204:智利大学计算机科学系的前沿课程

3 个月前
Cover of 深度学习课程CC6204:智利大学计算机科学系的前沿课程

深入解析 TTT-LM-PyTorch: 具有表达性隐藏状态的 RNN 测试时学习框架

3 个月前
Cover of 深入解析 TTT-LM-PyTorch: 具有表达性隐藏状态的 RNN 测试时学习框架

RWKV: 革新RNN的新型语言模型架构

3 个月前
Cover of RWKV: 革新RNN的新型语言模型架构
相关项目
Project Cover

RWKV-LM

RWKV是一个高性能的并行化RNN,具有变换器级别的性能。该模型实现了快速的推理和训练速度,不依赖于传统的注意力机制,而是通过隐藏状态进行计算,优化了VRAM的使用,并支持处理无限长度的文本上下文。RWKV的这些特点使其在进行句子嵌入和处理复杂文本任务时显示出优越的能力。

Project Cover

ChatRWKV

ChatRWKV基于RWKV语言模型,提供类似ChatGPT的体验。RWKV是目前唯一能在质量和扩展性上匹敌Transformer的RNN模型,具有更快的速度和更低的VRAM消耗。项目最新版本为RWKV-6,提供多个模型演示和详尽的开发资源,包括CUDA内核加速和多种推理引擎。用户可以通过这些资源构建高效的聊天机器人和语音生成系统,体验领先的AI技术。

Project Cover

ttt-lm-pytorch

ttt-lm-pytorch项目提出了一种新型序列建模层,结合了RNN的线性复杂度和高表达能力的隐藏状态。该方法将隐藏状态设计为机器学习模型,通过自监督学习在测试阶段持续更新,因此被称为测试时训练(TTT)层。项目实现了TTT-Linear和TTT-MLP两种变体,分别采用线性模型和双层MLP作为隐藏状态,为长序列建模提供了高效替代方案。

Project Cover

CC6204

CC6204是GitHub上的一个开源深度学习课程项目,采用西班牙语授课。课程涵盖神经网络理论、CNN、RNN等核心内容,融合理论与实践,讲解深度学习模型原理及应用,指导学生构建模型解决实际问题。提供在线视频和PyTorch编程作业,全面培养深度学习实战能力。

Project Cover

cond_rnn

ConditionalRecurrent是一个兼容Keras的包装器,用于基于时间不变数据进行条件时间序列预测。它支持各种循环层,通过学习条件表示来初始化RNN状态,有效模拟P(x_{t+1}|x_{0:t}, cond)。该库适用于包含外部输入的时间序列数据,如天气预测,为整合时间不变条件信息提供了实用的解决方案。

Project Cover

Pytorch-RNN-text-classification

Pytorch-RNN-text-classification是一个多类别短文本分类模型,基于RNN架构设计。该项目使用Pytorch实现,集成词嵌入、LSTM(或GRU)和全连接层。模型支持GloVe预训练词向量,采用交叉熵损失函数和Adam优化器。通过零填充和PackedSequence技术处理mini-batch,提高训练效率。项目包含数据预处理和训练脚本,方便研究人员快速应用于实际文本分类任务。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号