#反向传播

NYU-DLSP21课程本学期重新组织，更新内容涵盖历史、反向传播、梯度下降、参数共享（循环和卷积网络）及能量基潜变量模型。每个主题持续两周，配有实践课程和作业。新版课程模块加强了对潜变量模型的理解。最新的幻灯片、笔记本及记录将同期发布，替代旧版课程材料。

torchdiffeq是基于PyTorch的常微分方程(ODE)求解器库，支持通过伴随方法进行ODE解的反向传播，保持恒定内存开销。该库兼容GPU加速，提供多种求解算法，包括自适应和固定步长方法。支持可微分事件处理功能，适用于深度学习研究。torchdiffeq为研究人员提供了实现和探索基于ODE的机器学习模型的工具。

micrograd是一个轻量级自动梯度引擎，实现反向传播算法，为神经网络训练提供核心功能。项目基于karpathy/micrograd，并针对LLM101n模块进行了优化。包含自动梯度引擎、简单神经网络和训练循环，致力于提供直观的神经网络训练可视化。后续将开发交互式Web演示，支持实时数据点调整和网络响应观察。