# Machine_Learning_Code

**Repository Path**: yubo1993/Machine_Learning_Code

## Basic Information

- **Project Name**: Machine_Learning_Code
- **Description**: 《统计学习方法》与常见机器学习模型(GBDT/XGBoost/lightGBM/catBoost/FM/FFM)的原理讲解与python和类库实现
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 2
- **Forks**: 0
- **Created**: 2020-08-24
- **Last Updated**: 2023-07-20

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# 机器学习模型的python与类库实现

本repo以李航博士的《统计学习方法》为路线，逐章讲解并实现其中所有的算法；此外，还会加上常用的机器学习模型，譬如GBDT、XGBoost、Light GBM、FM、FFM等等，力争将传统的机器学习方法能够融汇贯通🎉。

## 统计学习方法｜感知机模型

**模型理论讲解：**[统计学习方法｜感知机模型原理详解及实现](https://codewithzichao.github.io/2020/02/17/统计学习方法｜感知机模型原理详解与实现/#more)

**模型代码实现：**[perceptron_python.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/perceptron/perceptron_python.py)、[perceptron_sklearn.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/perceptron/perceptron_sklearn.py)

## 统计学习方法｜K近邻

**模型理论讲解：**[统计学习方法｜K近邻算法原理详解与实现](https://codewithzichao.github.io/2020/02/26/统计学习方法｜最近邻算法原理详解与实现/#more)

**模型代码实现：**[KNN_python.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/KNN/KNN_python.py)、[KNN_sklearn.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/KNN/KNN_sklearn.py)

## 统计学习方法｜朴素贝叶斯

**模型理论讲解：**[统计学习方法｜朴素贝叶斯模型原理详解与实现](https://codewithzichao.github.io/2020/02/18/统计学习方法-朴素贝叶斯模型详解与实现/#more)

**模型代码实现：**[Naive_Bayes_python.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/Naive_Bayes/Naive_Bayes_python.py)、[Naive_Bayes_sklearn.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/Naive_Bayes/Naive_Bayes_sklearn.py)

## 统计学习方法｜决策树

**模型理论讲解：**[统计学习方法｜决策树模型原理详解与实现](https://codewithzichao.github.io/2020/02/27/统计学习方法-决策树模型原理详解与实现/#more)

**模型代码实现：** [decision_tree_python.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/Decision_Tree/decision_tree_python.py)、[decision_tree_sklearn.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/Decision_Tree/decision_tree_sklearn.py)

## 统计学习方法｜logistic回归

**模型理论讲解：**[统计学习方法｜logistic回归模型详解与实现](https://codewithzichao.github.io/2020/02/20/统计学习方法-最大熵模型原理详解与实现/#more)

**模型代码实现：**[logisitic_regression_python.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/MaxEnt/logistic_regression_python.py)、[logistic_regression_scikit-learn.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/MaxEnt/logistic_regression_scikit-learn.py)

## 机器学习｜softmax

**模型理论讲解：**[机器学习｜softmax模型原理讲解与实现](https://codewithzichao.github.io/2020/02/28/机器学习-softmax模型详解与实现/#more)

**模型代码实现：**[softmax_python.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/softmax/softmax_python.py)

## 统计学习方法｜最大熵模型

**模型理论讲解：**[统计学习方法｜最大熵模型原理详解与实现](https://codewithzichao.github.io/2020/02/20/统计学习方法-最大熵模型原理详解与实现/#more)

**模型代码实现：**[Max_Entropy.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/MaxEnt/Max_Entropy.py)

## 统计学习方法｜支持向量机

**模型理论讲解：**[统计学习方法｜支持向量机模型原理详解与实现](https://codewithzichao.github.io/2020/02/17/统计学习方法-支持向量机模型原理详解与实现/#more)

**模型代码实现：**[SVM_python.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/SVM/SVM_python.py)、[SVM_sklearn.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/SVM/SVM_sklearn.py)

## 统计学习方法｜AdaBoost

**模型理论讲解：**[统计学习方法｜AdaBoost模型原理详解与实现](https://codewithzichao.github.io/2020/02/27/统计学习方法-AdaBoost模型原理详解与实现/)

**模型代码实现：**

## 机器学习｜XGBoost模型原理详解与实战

**模型理论讲解：**[机器学习｜XGBoost模型原理详解与实战](https://codewithzichao.github.io/2020/02/28/机器学习-XGBoost模型原理详解与实战/#more)

**模型应用实战**：[xgboost_mnist.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/xgboost/xgboost_mnist.py)

## 机器学习｜LightGBM/catBoost

**模型理论讲解：**[机器学习｜LightGBM与catBoost模型原理详解](https://codewithzichao.github.io/2020/03/04/机器学习-LightGBM与catBoost模型原理详解/#more)

## 统计学习方法｜EM算法

**模型理论讲解：**[统计学习方法｜EM算法与GMM模型原理详解与实现](https://codewithzichao.github.io/2020/02/22/统计学习方法-EM算法原理详解与实现/#more)

**模型代码实现：**

## 统计学习方法｜HMM

**模型理论讲解：**[统计学习方法｜隐马尔可夫模型原理详解与实现](https://codewithzichao.github.io/2020/02/23/统计学习方法-隐马尔可夫模型原理详解与实现/#more)

**模型代码实现：**[HMM_hmmlearn.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/HMM/HMM_hmmlearn.py)、[HMM_python.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/HMM/HMM_python.py)

## 统计学习方法｜CRF

**模型理论讲解：**[统计学习方法｜条件随机场模型原理详解与实现](https://codewithzichao.github.io/2020/02/24/统计学习方法-条件随机场模型原理详解与实现/#more)

**模型代码实现：**[CRF_python.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/CRF/CRF_python.py)、[CRF_sklearn.py](https://github.com/codewithzichao/Machine_Learning_Code/blob/master/CRF/CRF_sklearn.py)

## 机器学习｜FM/FFM

**模型理论讲解：**[机器学习｜FM模型与FFM模型原理详解](https://codewithzichao.github.io/2020/02/28/机器学习-FM-FFM模型详解/#more)