之前学习了隐马尔可夫模型，现在记录一下条件随机场。
1、什么是条件随机场
首先我们先了解什么是随机场。
在概率论中，随机场的定义为：由样本空间Ω = {0, 1, ..., G − 1}n取样构成的随机变量Xi所组成的S = {X1, ..., Xn}。若对所有的ω∈Ω下式均成立，则称π为一个随机场。更直白一点的理解是随机场是由若干个位置组成的整体，当给每一个位置中按照某种分布随机赋予一个值之后，其全体就叫做随机场。就如一句话对他进行词性标注，先不论对错，只要对每个词标注了就形成一个随机场。
接着我们来了解什么是马尔科夫随机场。
先看《统计学习方法》中对马尔科夫随机场的定义。
概率无向图模型，又称为马尔可夫随机场，是一个可以由无向图表示的联合概率分布。
图(graph)是由结点(node)及连接结点的边(edge)组成的集合。结点和边分别记作 v 和 e，结点和边的集合分别记作 V 和 E，图记作G=(V,E)。无向图是指边没有方向的图。设有联合概率分布P(Y)，Y是一组随机变量。由无向图G=(V,E)表示概率分布P(Y)，即在图G中，每个结点 v 表示一个随机变量Yv；每条边e表示随机变量之间的概率依赖关系。
定义：设有联合概率分布P(Y)由无向图G=(V,E)表示，在图G中，结点表示随机变量，边表示随机变量之间的依赖关系。如果联合概率分布P(Y)满足成对、局部或全局马尔可夫性，就称此联合概率分布为概率无向图模型，或马尔可夫随机场。
成对、局部或全局马尔可夫性定义如下：
成对马尔可夫性：设u和v是无向图G中任意两个没有边连接的结点，结点u和v分别对应随机变量Yu和Yv，其他所有结点为O，对应的随机变量组是YO。成对马尔可夫性是指给定随机变量组YO的条件下随机变量Yu和Yv是条件独立的，即
局部马尔可夫性：设v是无向图G中任意一个结点，W是与v有边连接的所有结点，O是v, W以外的其他所有结点。分别表示随机变量Yv，以及随机变量组YW和YO。局部马尔可夫性是指在给定随机变量组YW的条件下随机变量Yv与随机变量组YO是独立的，即
全局马尔可夫性:设结点集合A, B是在无向图G中被结点集合C分开的任意结点集合，如图11.2所示。结点集合A, B和C所对应的随机变量组分别是YA，YB和YC。全局马尔可夫性是指给定随机变量组YC条件下随机变量组YA，YB是条件独立的，即
上述成对的、局部的、全局的马尔可夫性定义是等价的。
这里更直白一点的理解是马尔科夫随机场是随机场的特例，它假设随机场中某一个位置的赋值仅仅与和它相连的位置的赋值有关，和与其不相连的位置的赋值无关。
条件随机场
条件随机场是给定随机变量X条件下，随机变量Y的马尔可夫随机场。这里主要介绍定义在线性链上的特殊的条件随机场，称为线性链条件随机场。
定义：设X与Y是随机变量，P(Y | X)是在给定X的条件下Y的条件概率分布。若随机变量Y构成一个由无向图G=(V,E)表示的马尔可夫随机场，即
对任意结点v成立，则称条件概率分布P(Y|X)为条件随机场。式中w~v表示在图G=(V,E)中与结点v有边连接的所有结点w，w ！= v表示结点v以外的所有结点，Yv，Yu与Yw为结点v，u与w对应的随机变量。
线性链条件随机场：
在CRF的定义中，我们并没有要求X和Y有相同的结构。而现实中，我们一般都假设X和Y有相同的图结构，在《统计学习方法》中主要说明的是线性链的情况，如图有：