Project Icon

Statistical-Learning-Method_Code

《统计学习方法》算法实现与详细注释

本项目实现了《统计学习方法》一书中的机器学习算法,涵盖监督学习和无监督学习方法。代码采用Python编写,每行均有详细注释,关键部分标注公式出处。项目还提供相关博客链接,旨在帮助学习者深入理解算法原理,适合机器学习入门者参考学习。

【广告】每日Arxiv(中文版)

每日Arxiv(中文版)致力于论文汉化,目前翻译范围包括标题摘要,AI学科近期支持论文全文汉化

每天阅读百篇论文不是梦!

链接:学术巷子(xueshuxiangzi.com)

前言

力求每行代码都有注释,重要部分注明公式来源。具体会追求下方这样的代码,学习者可以对照公式看程序,让代码有据可查。

图片

如果时间充裕的话,可能会尝试为每一章写一篇博客。先放个博客链接吧:传送门

注:其中Mnist数据集已转换为csv格式,由于体积为107M超过限制,改为压缩包形式。下载后务必先将Mnist文件内压缩包直接解压。

【更新】

书籍出版:目前已与人民邮电出版社签订合同,未来将结合该仓库整理出版机器学习实践相关书籍。同时会在book分支中对代码进行重构,欢迎在issue中提建议!现有的issue问题也会考虑进去。(2022年2月12日)

线下培训:女朋友计划近期开办ML/MLP/CV线下培训班,地点北上广深杭,目标各方向快速入门,正在筹备。这里帮她打个广告,可以添加微信15324951814(备注线下培训)。本人也会被拉过去义务评估课程质量。。。(2022年2月12日)

无监督部分更新:部分无监督算法已更新!!!该部分由Harold-Ran提供,在此感谢!欢迎有其他算法补充的同学也添加我微信并提交PR!(2021年1月27日)

实现

监督部分

第二章 感知器:

博客:统计学习方法|感知器原理剖析及实现
实现:perceptron/perceptron_dichotomy.py

第三章 K最近邻:

博客:统计学习方法|K最近邻原理剖析及实现
实现:KNN/KNN.py

第四章 朴素贝叶斯:

博客:统计学习方法|朴素贝叶斯原理剖析及实现
实现:NaiveBayes/NaiveBayes.py

第五章 决策树:

博客:统计学习方法|决策树原理剖析及实现
实现:DecisionTree/DecisionTree.py

第六章 逻辑回归与最大熵模型:

博客:逻辑回归:统计学习方法|逻辑回归原理剖析及实现
博客:最大熵:统计学习方法|最大熵原理剖析及实现

实现:逻辑回归:Logistic_and_maximum_entropy_models/logisticRegression.py
实现:最大熵:Logistic_and_maximum_entropy_models/maxEntropy.py

第七章 支持向量机:

博客:统计学习方法|支持向量机(SVM)原理剖析及实现
实现:SVM/SVM.py

第八章 提升方法:

实现:AdaBoost/AdaBoost.py

第九章 EM算法及其推广:

实现:EM/EM.py

第十章 隐马尔可夫模型:

实现:HMM/HMM.py

无监督部分

第十四章 聚类方法

实现:K-means_Clustering.py

实现:Hierachical_Clustering.py

第十六章 主成分分析

实现:PCA.py

第十七章 潜在语义分析

实现:LSA.py

第十八章 概率潜在语义分析

实现:PLSA.py

第二十章 潜在狄利克雷分配

实现:LDA.py

第二十一章 PageRank算法

实现:Page_Rank.py

许可

本项目内容遵循署名-非商业性使用-相同方式共享 4.0 国际 (CC BY-NC-SA 4.0)许可协议。

联系

欢迎提交拉取请求,如有疑问也可通过问题、微信或电子邮件联系。
此外,如果有需要微软亚洲研究院实习内部推荐的同学,欢迎联系。
微信: lvtengchao(请注明"博客-学校/单位-姓名")
电子邮件: lvtengchao@pku.edu.cn

项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号