回归（Regression）
分类（Classification）
- 朴素贝叶斯
朴素贝叶斯（NB）是生成式（Generative）的。通过后验概率来进行分类（如：某一个物品在某一个类别的概率比较大，那么我们就认为这个物品属于这个类别）
不妨假设数据服从二维正态分布，考虑利用训练集确定二维正态分布所需要的参数（均值\(\mu_1, \mu_2\)、协方差\(\Sigma\)）。
图中的点代表的训练集中某一类别的元素（认为有两个参数），那么可以用考虑用二维正态分布拟合。如何确定二维正态分布的参数？用最大似然估计，即概率密度乘起来，取对数，再求偏导。一个 trick 就是不同类别的元素共用协方差，结果会更优。
这边有个推导是在贝叶斯公式的基础上继续推导，可以得到