CS228-notes马尔可夫随机场入门：掌握无向图模型的核心原理

【免费下载链接】cs228-notes Course notes for CS228: Probabilistic Graphical Models. 项目地址: https://gitcode.com/gh_mirrors/cs/cs228-notes

马尔可夫随机场（Markov Random Fields, MRF）是概率图模型中的重要分支，通过无向图结构紧凑表示变量间的依赖关系。CS228-notes项目提供了系统的马尔可夫随机场理论讲解，帮助初学者理解无向图模型的核心原理与应用方法。本文将基于representation/undirected/index.md的内容，带你快速掌握马尔可夫随机场的基础概念、图结构特性及实际应用场景。

马尔可夫随机场的基础概念

从贝叶斯网络到无向图模型

贝叶斯网络通过有向图表示变量间的因果关系，但某些概率分布的独立性假设无法用有向图完美表达。例如在投票偏好模型中，朋友间的相互影响更适合用无向图描述：

图1：马尔可夫随机场的无向图表示（左）及其团因子结构（右），展示四个个体投票偏好的依赖关系

马尔可夫随机场采用无向图结构，通过团因子（clique factors）定义联合概率分布：

$$ p(x_1, \dotsc, x_n) = \frac{1}{Z} \prod_{c \in C} \phi_c(x_c) $$

其中 $Z = \sum_{x_1, \dotsc, x_n} \prod_{c \in C} \phi_c(x_c)$ 为归一化常数（配分函数），$\phi_c$ 是非负函数，表示团内变量的相容性得分。

与贝叶斯网络的关键差异

两种图模型各有优势：

• 表达能力：无向图能简洁表示某些有向图无法描述的依赖关系（如循环依赖）
• 计算复杂度：马尔可夫随机场的配分函数计算通常是NP-hard问题
• 可解释性：贝叶斯网络的有向边具有明确的因果含义，更易解释

图2：左图展示无法用有向图表示的独立性（X⊥Y|{W,Z}且W⊥Z|{X,Y}），右图展示无法用无向图表示的独立性（X⊥Y）

马尔可夫随机场的独立性准则

马尔可夫性与分离准则

无向图模型的独立性判断基于分离准则：若变量集B在图中分离A和C，则A与C在给定B时条件独立（A⊥C|B）。这种分离通过"切割集"（cut set）实现：

图3：阴影节点构成的切割集XB将图分为XA和XC两部分，实现XA与XC的条件独立

马尔可夫毯（Markov Blanket）

某变量的马尔可夫毯是使其与图中其他变量条件独立的最小变量集，在无向图中即该变量的所有邻居节点。这一特性简化了条件概率计算，只需考虑邻居变量的影响。

条件随机场（CRF）：结构化预测的利器

CRF的定义与应用

条件随机场是马尔可夫随机场的重要扩展，专门建模条件概率分布 $p(y|x)$，适用于结构化预测任务（如序列标注、图像分割）。其核心思想是利用观测变量x指导结构化输出y的预测。

实例：光学字符识别（OCR）

在OCR任务中，CRF通过两种因子捕捉依赖关系：

• 观测因子：$\phi(x_i, y_i)$ 描述字符图像与标签的相容性
• 转移因子：$\phi(y_i, y_{i+1})$ 编码相邻字符的共现规律

图4：链式CRF用于字符识别，通过相邻标签依赖解决模糊字符（如"U"与"V"）的识别问题

CRF的能量函数通常表示为特征的线性组合： $$ \phi_c(x_c,y_c) = \exp(w_c^T f_c(x_c, y_c)) $$

其中 $f_c$ 是描述变量间相容性的特征函数，$w_c$ 为待学习的权重参数。这种灵活的特征表示使CRF在自然语言处理、计算机视觉等领域取得广泛应用。

马尔可夫随机场的实际应用

马尔可夫随机场在人工智能领域有诸多应用：

• 图像分割：通过像素间的依赖关系实现区域划分
• 自然语言处理：序列标注、句法分析等结构化预测任务
• 计算机视觉：图像去噪、目标检测、立体匹配

项目中representation/undirected/index.md详细介绍了这些应用场景的数学建模方法。若需深入学习，可参考learning/undirected/中的参数学习内容，以及inference/目录下的推理算法实现。

总结与学习资源

马尔可夫随机场通过无向图结构和团因子定义，为复杂依赖关系建模提供了强大工具。其核心挑战在于配分函数计算和推理算法的设计，但通过条件随机场等扩展形式，在实际应用中展现了优异性能。

CS228-notes项目提供了完整的学习路径：

1. 基础概念：representation/undirected/index.md
2. 推理算法：inference/ve/（变量消元）、inference/jt/（联合树）
3. 参数学习：learning/undirected/index.md

要开始学习，可通过以下命令获取完整项目：

git clone https://gitcode.com/gh_mirrors/cs/cs228-notes

通过这些资源，你将逐步掌握马尔可夫随机场的理论基础与实践技能，为深入研究概率图模型打下坚实基础。

【免费下载链接】cs228-notes Course notes for CS228: Probabilistic Graphical Models. 项目地址: https://gitcode.com/gh_mirrors/cs/cs228-notes