搜索
机器学习第七讲张兆翔课程回顾图论有向图无向图概率论+图论=概率图模型结点：随机变量或者一组随机变量连接弧：随机变量之间的关系有向图模型无向图模型有向图模型‐‐‐‐‐贝叶斯网络示例??隐马尔可夫模型观测序列第三缸第一缸第二缸幕布HMM的表达HMM的三个基本问题问题1：给定观察序列O=O1,O2,…OT,以及模型, 如何计算P(O|λ)？问题2：给定观察序列O=O1,O2,…OT以及模型λ,如何选择一个对应的状态序列S = q1,q2,…qT，使得S能够最为合理的解释观察序列O？问题3：如何调整模型参数, 使得P(O|λ)最大？),,(BA),,(BA马尔可夫随机场概率图模型=概率论+图论有向图无向图有向图模型无向图模型贝叶斯网络马尔可夫网络概率图模型的条件独立对于贝叶斯网络满足“头尾相连”或“尾尾相连”的节点都在C中；满足“头头相连”的节点和它的任何后裔都不在C中；?概率图模型的条件独立对于贝叶斯网络满足“头尾相连”或“尾尾相连”的节点都在C中；满足“头头相连”的节点和它的任何后裔都不在C中；?概率图模型的条件独立对于马尔可夫网络如果A，B之间每条路径存在至少一个节点在C中；或者如果去掉C中的所有节点，A和B没有连通路径；?概率图模型的条件独立对于马尔可夫网络如果A，B之间每条路径存在至少一个节点在C中；或者如果去掉C中的所有节点，A和B没有连通路径；Markov Blanket概率图模型的因式分解对于贝叶斯网络概率图模型的因式分解对于马尔可夫网络概率图模型的因式分解对于马尔可夫网络最大团概率图模型的因式分解对于马尔可夫网络对于团和团中的元素，定义函数能量函数马尔可夫随机场实例‐图像去噪马尔可夫随机场实例‐图像去噪马尔可夫随机场实例‐图像去噪马尔可夫随机场实例‐图像去噪梯度下降法初始化：一次尝试改变一个如果能量降低则改变，如果能量升高则不改变；依次进行；很高效，但只能找到局部极值马尔可夫随机场实例‐图像去噪有向图与无向图有向图转化为无向图有向图转化为无向图但是条件独立却会有所改变概率图模型推理概率图模型推理概率图模型表达一个联合概率分布求取边缘分布或者求取后验分布，比如被观测，求取求取最大后验概率举例贝叶斯理论链模型的推理求边缘分布链模型的推理链模型的推理链模型的推理多树树模型的推理无向树有向树因式图模型无向树有向树因式图模型无向图模型‐‐‐‐因式图模型有向图模型‐‐‐‐因式图模型多树‐‐‐因式图模型对于树模型的推理都可以转化为因式树模型的推理因式树模型推理因式树模型推理因式树模型推理因式树模型推理因式树模型推理初始化：因式树模型的推理因式树模型的推理因式树模型的推理因式树模型的推理概率图模型总结两次课内容仅仅介绍了概率图模型的最基础的知识和理论仅以一个实例说明了概率图模型的实际应用‐‐‐图像降噪问题；概率图模型完全可以用纯概率的方式表达；而图模型的引入提供了理解的直观性。概率图模型总结有向图模型贝叶斯网络适合描述随机变量之间的因果关系在人工智能和统计中应用更为广泛无向图模型马尔可夫随机场适合描述随机变量之间的软关系在计算机视觉、物理学等领域更流行