机器学习数学
学习和复习机器学习数学的资源合集。
📚 书籍
计算机科学与机器学习的代数、拓扑、微分计算和优化理论
作者: Jean Gallier 和 Jocelyn Quaintance
包括机器学习和计算机科学的数学概念。
书籍链接: https://www.cis.upenn.edu/~jean/math-deep.pdf
应用数学与机器学习基础
作者: Ian Goodfellow, Yoshua Bengio 和 Aaron Courville
包含 深度学习 书籍中的深度学习数学基础。
章节链接: https://www.deeplearningbook.org/contents/part_basics.html
机器学习数学
作者: Marc Peter Deisenroth, A. Aldo Faisal 和 Cheng Soon Ong
这是你可能想要开始的地方。慢慢开始,做一些例子。注意符号,并熟悉它。
书籍链接: https://mml-book.github.io
概率机器学习: 入门
作者: Kevin Patrick Murphy
本书包含对经典机器学习方法及其背后原理的全面概述。
书籍链接: https://probml.github.io/pml-book/book1.html
深度学习数学
作者: Brent Werness, Rachel Hu 等
此参考资料包含一些数学概念,以帮助更好地理解深度学习。
章节链接: https://d2l.ai/chapter_appendix-mathematics-for-deep-learning/index.html
深度学习的数学工程
作者: Benoit Liquet, Sarat Moka 和 Yoni Nazarathy
本书对深度学习的数学工程进行了完整而简洁的概述。除了概述深度学习的基础外,还涵盖了卷积神经网络、递归神经网络、变压器、生成对抗网络、强化学习及多种技巧。重点是深度学习模型、算法和方法的基本数学描述。
书籍链接: https://deeplearningmath.org
贝叶斯法则!应用贝叶斯建模入门
作者: Alicia A. Johnson, Miles Q. Ott, Mine Dogucu
非常好的在线书籍,涵盖贝叶斯方法。
书籍链接: https://www.bayesrulesbook.com/index.html
📄 论文
深度学习所需的矩阵微积分
作者: Terence Parr 和 Jeremy Howard
在深度学习中,你需要理解一系列基本的矩阵操作。如果你想深入研究矩阵微积分的数学,这是你的指南。
论文链接: https://arxiv.org/abs/1802.01528
人工智能的数学
作者: Gitta Kutyniok
一篇总结数学在深度学习研究中的重要性以及它如何推动该领域发展的文章。
论文链接: https://arxiv.org/pdf/2203.08890.pdf
🎥 视频讲座
帝国理工学院的多元微积分
讲师: Dr. Sam Cooper 和 Dr. David Dye
反向传播是训练深度神经网络的关键算法,它依赖于微积分。熟悉链式法则、雅可比矩阵、梯度下降等概念。
视频播放列表链接: https://www.youtube.com/playlist?list=PLiiljHvN6z193BBzS0Ln8NnqQmzimTW23
机器学习数学 - 线性代数
讲师: Dr. Sam Cooper 和 Dr. David Dye
前一个视频讲座的极好伴侣。神经网络对数据进行变换,你需要线性代数来更好地理解这种变换。
视频播放列表链接: https://www.youtube.com/playlist?list=PLiiljHvN6z1_o1ztXTKWPrShrMrBLo5P3
CS229: 机器学习
讲师: Anand Avati
包含对许多机器学习概念的数学解释的讲座。
课程链接: https://www.youtube.com/playlist?list=PLoROMvodv4rNH7qL6-efu_q2_bPuy0adh
🧮 数学基础
统计学习要素
作者: Jerome H. Friedman, Robert Tibshirani 和 Trevor Hastie
机器学习处理数据,进而处理不确定性,而统计学正是教授这些内容。熟悉估计量、统计显著性等主题。
书籍链接: https://hastie.su.domains/ElemStatLearn/
如果你对统计学习入门感兴趣,可以查看 "统计学习导论"。
概率论:科学的逻辑
作者: E. T. Jaynes
在机器学习中,我们关注于构建概率模型,因此你会遇到概率论中的概念,如条件概率和不同的概率分布。
来源链接: https://bayes.wustl.edu/etj/prob/book.pdf
信息论、推理与学习算法
作者: David J. C. MacKay
当你应用机器学习时,你是在处理信息处理,本质上依赖于信息论的思想,如熵和KL散度。
书籍链接: https://www.inference.org.uk/itprnn/book.html
统计与概率
由可汗学院提供
机器学习所需的统计与概率的完整概述。
课程链接: https://www.khanacademy.org/math/statistics-probability
线性代数的正确方法
作者: Sheldon Axler
基于流行的线性代数书籍《线性代数的正确方法》的幻灯片和视频讲座。
讲座和幻灯片链接: https://linear.axler.net/LADRvideos.html
线性代数
由可汗学院提供
向量、矩阵及其操作,点积与叉积,矩阵乘法等,是理解机器学习数学的基本知识。
课程链接: https://www.khanacademy.org/math/linear-algebra
微积分
由可汗学院提供
预备微积分、微分微积分、积分微积分、多元微积分
课程链接: https://www.khanacademy.org/math/calculus-home
本合集远非详尽,但它应该为学习一些机器学习中使用的数学概念提供一个良好的基础。如果有任何问题,可以在 Twitter 上联系我。