各位老铁们好，相信很多人对深入解析：机器学习高斯分布推导教程（第二部分）都不是特别的了解，因此呢，今天就来为大家分享下关于深入解析：机器学习高斯分布推导教程（第二部分）以及的问题知识，还望可以帮助大家，解决大家的一些困惑，下面一起来看看吧！
二、通过极大似然估计高斯分布的均值和方差
最大似然
高斯分布
一维高斯分布下的估计似然函数
通过最大似然估计法求解
证明是的无偏估计
通过最大似然估计法求解
为了证明是一个有偏估计，我们需要证明是一个有偏估计，并且我们需要判断。证明如下：
可以理解为
" alt="mu" />取就已经确定了所有的和等于，也就是说当个确定以后，第个也就被确定了，所以少了一个“自由度”，因此。 方差的无偏估计：三、为什么高斯分布的等高线是个“椭圆”
高斯分布与马氏距离多维高斯分布马氏距离证明高斯分布等高线为椭圆协方差矩阵的特征值分解任意的实对称矩阵都有个线性无关的特征向量。并且这些特征向量都可以正交单位化而得到一组正交且模为 1 的向量。故实对称矩阵可被分解成。将概率密度整理成椭圆方程的形式上式中可以理解为将减去均值进行中心化以后再投影到方向上，相当于做了一次坐标轴变换。 当的维度为2即时，得到类似椭圆方程的等式，所以也就可以解释为什么其等高线是椭圆形状。二维高斯分布的图像如下所示：
四、高斯分布的局限性
参数过多协方差矩阵中的参数共有个（是对称矩阵），因此当的维度很大时，高斯分布的参数就会有很多，其计算复杂度为。 可以通过假设高斯分布的协方差矩阵为对角矩阵来减少参数，当高斯分布的协方差矩阵为对角矩阵时，特征向量的方向就会和原坐标轴的方向平行，因此高斯分布的等高线（同心椭圆）就不会倾斜。 另外如果在高斯分布的协方差矩阵为对角矩阵为对角矩阵的基础上使得其特征值全部相等（即）,则高斯分布的等高线就会成为一个圆形，而且不会倾斜，称为各向同性。 单个高斯分布拟合能力有限解决方案是使用多个高斯分布，比如高斯混合模型。五、求高斯分布的边缘概率与条件概率
概述首先将变量、均值和方差进行划分：本部分旨在根据上述已知来求。 定理以下定义为推导过程中主要用到的定理，这里只展示定理的内容，不进行证明：一个简单但不严谨的证明：求边缘概率所以，同理。 求条件概率现在可以得到。根据与的关系可以得到的分布：因此可以得到，同理可以得到。六、求高斯分布的联合概率分布
概述本部分旨在根据上述已知来求。 求解由上述已知可以确定与的关系为线性高斯模型，则与符合下述关系：然后求解的均值和方差：求解求解需要首先求解与的联合分布，然后根据上一部分的公式直接得到。好了，关于深入解析：机器学习高斯分布推导教程（第二部分）和的问题到这里结束啦，希望可以解决您的问题哈！
【深入解析：机器学习高斯分布推导教程（第二部分）】相关文章：
2.米颠拜石
3.王羲之临池学书
8.郑板桥轶事十则
用户评论
我一直在学机器学习，这篇博客解释高斯分布正好让我可以理解得更透彻。
有18位网友表示赞同！
对机器学习算法有兴趣的小伙伴一定要看！这篇文章讲得很清楚。
有18位网友表示赞同！
刚开始研究高斯分布的应用，感觉这个推导系列很棒，继续学习。
有11位网友表示赞同！
终于找到了解释高斯分布的详细文章，之前一直不太理解它。
有12位网友表示赞同！
机器学习的许多算法都依赖于高斯分布，这篇博客很有用！
有9位网友表示赞同！
我正在学习概率论和统计学，这篇文章恰好能帮助我去理解高斯分布的应用在机器学习中。
有11位网友表示赞同！
分享给我的大学同学，他们也在学习机器学习，这个系列应该很适合他们。
有9位网友表示赞同！
希望后续还有更多关于高斯分布和其它重要概念的博客文章分享！
有7位网友表示赞同！
这篇博文让我对高斯分布有了更深入的理解，之前只是知道它是常用的分布而已。
有18位网友表示赞同！
机器学习推导系列很全面，期待作者能带来更多精彩的内容！
有8位网友表示赞同！
这个文章写的很清晰易懂，即使对于初学者来说也是很好理解的。
有7位网友表示赞同！
我对高斯分布的应用在实际工程案例里的了解还是有很多不足，希望后续有相关内容分享。
有10位网友表示赞同！
收藏了这篇博客，以后遇到相关问题的时候可以来参考。
有12位网友表示赞同！
机器学习这个领域太广阔了，感谢作者对我们知识传递的贡献！
有15位网友表示赞同！
在学习机器学习的过程中遇到很多困惑，希望这类博客能帮助更多人解决问题。
有18位网友表示赞同！
高斯分布是机器学习中非常重要的概念之一，这篇推导系列有助于我更好地理解它。
有7位网友表示赞同！
感谢作者深入浅出的讲解，让我对高斯分布有了更好的认识！
有14位网友表示赞同！
分享到微信群里，让同学们一起学习吧！
有10位网友表示赞同！
机器学习的未来可期，期待了解更多先进的技术和方法。
有5位网友表示赞同！