懂AI
Statistical-Learning-Method_Code

Statistical-Learning-Method_Code

《统计学习方法》算法实现与详细注释

本项目实现了《统计学习方法》一书中的机器学习算法，涵盖监督学习和无监督学习方法。代码采用Python编写，每行均有详细注释，关键部分标注公式出处。项目还提供相关博客链接，旨在帮助学习者深入理解算法原理，适合机器学习入门者参考学习。

统计学习方法机器学习代码实现监督学习无监督学习Github开源项目
访问官网GitHub论文文档

【广告】每日Arxiv（中文版）

每日Arxiv（中文版）致力于论文汉化，目前翻译范围包括标题和摘要，AI学科近期支持论文全文汉化

每天阅读百篇论文不是梦！

链接：学术巷子(xueshuxiangzi.com)

前言

力求每行代码都有注释，重要部分注明公式来源。具体会追求下方这样的代码，学习者可以对照公式看程序，让代码有据可查。

图片

如果时间充裕的话，可能会尝试为每一章写一篇博客。先放个博客链接吧：传送门。

注：其中Mnist数据集已转换为csv格式，由于体积为107M超过限制，改为压缩包形式。下载后务必先将Mnist文件内压缩包直接解压。

【更新】

书籍出版：目前已与人民邮电出版社签订合同，未来将结合该仓库整理出版机器学习实践相关书籍。同时会在book分支中对代码进行重构，欢迎在issue中提建议！现有的issue问题也会考虑进去。（2022年2月12日）

线下培训：女朋友计划近期开办ML/MLP/CV线下培训班，地点北上广深杭，目标各方向快速入门，正在筹备。这里帮她打个广告，可以添加微信15324951814（备注线下培训）。本人也会被拉过去义务评估课程质量。。。（2022年2月12日）

无监督部分更新：部分无监督算法已更新！！！该部分由Harold-Ran提供，在此感谢！欢迎有其他算法补充的同学也添加我微信并提交PR！（2021年1月27日）

实现

监督部分

第二章 感知器：

博客：统计学习方法|感知器原理剖析及实现
实现：perceptron/perceptron_dichotomy.py

第三章 K最近邻：

博客：统计学习方法|K最近邻原理剖析及实现
实现：KNN/KNN.py

第四章 朴素贝叶斯：

博客：统计学习方法|朴素贝叶斯原理剖析及实现
实现：NaiveBayes/NaiveBayes.py

第五章 决策树：

博客：统计学习方法|决策树原理剖析及实现
实现：DecisionTree/DecisionTree.py

第六章 逻辑回归与最大熵模型：

博客：逻辑回归：统计学习方法|逻辑回归原理剖析及实现
博客：最大熵：统计学习方法|最大熵原理剖析及实现

实现：逻辑回归：Logistic_and_maximum_entropy_models/logisticRegression.py
实现：最大熵：Logistic_and_maximum_entropy_models/maxEntropy.py

第七章 支持向量机：

博客：统计学习方法|支持向量机(SVM)原理剖析及实现
实现：SVM/SVM.py

第八章 提升方法：

实现：AdaBoost/AdaBoost.py

第九章 EM算法及其推广：

实现：EM/EM.py

第十章 隐马尔可夫模型：

实现：HMM/HMM.py

无监督部分

第十四章 聚类方法

实现：K-means_Clustering.py

实现：Hierachical_Clustering.py

第十六章 主成分分析

实现：PCA.py

第十七章 潜在语义分析

实现：LSA.py

第十八章 概率潜在语义分析

实现：PLSA.py

第二十章 潜在狄利克雷分配

实现：LDA.py

第二十一章 PageRank算法

实现：Page_Rank.py

许可

本项目内容遵循署名-非商业性使用-相同方式共享 4.0 国际 (CC BY-NC-SA 4.0)许可协议。

联系

欢迎提交拉取请求，如有疑问也可通过问题、微信或电子邮件联系。
此外，如果有需要微软亚洲研究院实习内部推荐的同学，欢迎联系。
微信: lvtengchao（请注明"博客-学校/单位-姓名"）
电子邮件: lvtengchao@pku.edu.cn

编辑推荐精选

博思AIPPT

博思AIPPT

AI一键生成PPT，就用博思AIPPT！

博思AIPPT，新一代的AI生成PPT平台，支持智能生成PPT、AI美化PPT、文本&链接生成PPT、导入Word/PDF/Markdown文档生成PPT等，内置海量精美PPT模板，涵盖商务、教育、科技等不同风格，同时针对每个页面提供多种版式，一键自适应切换，完美适配各种办公场景。

AI办公办公工具AI工具博思AIPPTAI生成PPT智能排版海量精品模板AI创作热门
潮际好麦

潮际好麦

AI赋能电商视觉革命，一站式智能商拍平台

潮际好麦深耕服装行业，是国内AI试衣效果最好的软件。使用先进AIGC能力为电商卖家批量提供优质的、低成本的商拍图。合作品牌有Shein、Lazada、安踏、百丽等65个国内外头部品牌，以及国内10万+淘宝、天猫、京东等主流平台的品牌商家，为卖家节省将近85%的出图成本，提升约3倍出图效率，让品牌能够快速上架。

iTerms

iTerms

企业专属的AI法律顾问

iTerms是法大大集团旗下法律子品牌，基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构，帮助企业扫清合规障碍，筑牢风控防线，成为您企业专属的AI法律顾问。

SimilarWeb流量提升

SimilarWeb流量提升

稳定高效的流量提升解决方案，助力品牌曝光

稳定高效的流量提升解决方案，助力品牌曝光

Sora2视频免费生成

Sora2视频免费生成

最新版Sora2模型免费使用，一键生成无水印视频

最新版Sora2模型免费使用，一键生成无水印视频

Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手，它拥有超精准的音频识别翻译能力，几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球，无论你是留学生、商务人士、韩剧美剧爱好者，还是出国游玩、多国会议、跨国追星等等，都可以满足你所有需要同传的场景需求，线上线下通用，扫除语言障碍，让全世界的语言交流不再有国界。

讯飞绘文

讯飞绘文

选题、配图、成文，一站式创作，让内容运营更高效

讯飞绘文，一个AI集成平台，支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容，加速品牌传播，提升内容营销效果。

热门AI辅助写作AI工具讯飞绘文内容运营AI创作个性化文章多平台分发AI助手
TRAE编程

TRAE编程

AI辅助编程，代码自动修复

Trae是一种自适应的集成开发环境（IDE），通过自动化和多元协作改变开发流程。利用Trae，团队能够更快速、精确地编写和部署代码，从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能，是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
商汤小浣熊

商汤小浣熊

最强AI数据分析助手

小浣熊家族Raccoon，您的AI智能助手，致力于通过先进的人工智能技术，为用户提供高效、便捷的智能服务。无论是日常咨询还是专业问题解答，小浣熊都能以快速、准确的响应满足您的需求，让您的生活更加智能便捷。

imini AI

imini AI

像人一样思考的AI智能体

imini 是一款超级AI智能体，能根据人类指令，自主思考、自主完成、并且交付结果的AI智能体。

下拉加载更多