机器学习数学知识积累之线性代数解析几何,微积分 (3)

$$ (b_1,b_2,..,b_s) = (a_1,a_2,..,a_r)\begin{bmatrix}k_{11} & k_{12} & ... & k_{1s}\\ k_{21} & k_{22} & ... & k_{2s}\\ ... & ... & ... & ...\\ k_{r1} & k_{r2} & ... & k_{rs}\end{bmatrix} $$,

其中的$K$矩阵为线性表示的系数矩阵。

由矩阵得到向量组间的线性表示:

机器学习数学知识积累之线性代数解析几何,微积分

乘积矩阵的列组可以由第一个矩阵的列祖表出,乘积矩阵的行组可以由第二个矩阵的行组线性表出

向量空间

设$V\subseteq F^n, V\neq \O$,如果, $\forall \alpha,\beta \in V,\forall k \in F$,

1. $\alpha + \beta \in V$

2. $k \alpha \in V$

则称$V$是数F上的一个向量空间。 

也就是说向量空间具有加法和数乘封闭性。

比如,有很多向量空间, $F^n, \begin{Bmatrix}0\end{Bmatrix}, R^3, R^2$,再比如线性方程的解空间:

$N(A)=\begin{Bmatrix}X \in R^n|AX = 0\end{Bmatrix}$,由于满足该空间中的加法及数乘封闭性,因此也是一个向量空间

再比如,基张成的空间:

设$\alpha, \beta \in F^n$,记 $V=L(\alpha,\beta)=\begin{Bmatrix}k_1\alpha+k_2\beta|k_1,k_2 \in F\end{Bmatrix}$, $V$就是$\alpha, \beta$张成的向量空间

向量空间的基底,纬数,坐标,以及基向量的纬度

向量空间的最大无关组就称为向量空间的基

向量空间的纬数是其基(最大无关组)的向量个数,基向量的纬数是基向量包含的分量的个数

向量的纬数 $\geq$ 向量空间的纬数

机器学习数学知识积累之线性代数解析几何,微积分

比如(1,0,0),(0,1,0)线性无关,其张成的向量空间为三维空间中的一个平面($R^{3}$的子空间),该空间的维数为2(因为最大无关组向量的个数为2),但是向量本身是三维的。

也就是说三维向量可能存在二维平面(实质是三维空间中的一个平面里),但是二维向量不可能存在于三维空间中,因为三维空间是由至少三维的向量基张成的,因此二维向量只能再加一个纬度才可能存在三维空间中。

向量空间的任何向量都可以由基底线性表示,其表示系数被称为该向量在给定基底$\alpha_1,\alpha_2,..,\alpha_m$下的坐标,比如:

$\alpha = x_1\alpha_1+x_2\alpha_2+..+x_m\alpha_m$

这里的$(x_1,x_2,x_m)^T$就为向量$\alpha$的坐标。注意:不同基底,其坐标就会不同

自然基

$R^{n}$空间中,我们单独取单个分量长度为1而其他分量长度为0的向量$e_1=(1,0,0,0..0),e_2=(0,1,0,0..0),..,e_r=(0,0,0,0..1),$形成的一个向量组自然是正交的,称为自然基。

过度矩阵与向量空间中不同基底下的坐标转换公式

机器学习数学知识积累之线性代数解析几何,微积分

https://blog.csdn.net/qq_25847123/article/details/79374501

设V是一个向量空间,给出其两组列向量基:

$\alpha_1,\alpha_2,..,\alpha_m以及\beta_1,\beta_2,..,\beta_m$,那么对于$\forall \alpha \in V$

$$\alpha = x_1\alpha_1+x_2\alpha_2+..+x_m\alpha_m = (\alpha_1 \alpha_2 .. \alpha_m)X, X=(x_1 x_2 .. x_m)^T$$

$$\alpha = y_1\beta_1+y_2\beta_2+..+y_m\beta_m = (\beta_1 \beta_2 .. \beta_m)Y, Y=(y_1 y_2 .. y_m)^T$$

那么不同基底下X和Y两者之间是什么关系呢?

我们先来考察基底之间的线性关系,引入"过度矩阵P"的概念,来刻画不同基底之间的变换关系。比如:

$$(\alpha_1 \alpha_2 .. \alpha_m)\begin{pmatrix}P_{11} & .. & P_{1m}\\ P_{21} & .. & P_{2m}\\ .. & .. & ..\\ P_{m1} & .. & P_{mm}\\ \end{pmatrix}_{m \times m}=(\alpha_1 \alpha_2 .. \alpha_m)P$$

上述过度矩阵P必然是可逆$m阶$方阵,坐标Y和坐标X之间存在以下关系:

$Y = P^{-1}X$

这就是不同基底下的坐标转换公式

我们知道$(\alpha_1 \alpha_2 .. \alpha_m)$实际上描述了一个由基底组成的线性变换

规范正交基

设$\alpha_1,\alpha_2,..,\alpha_m,$是向量空间$V$的一组基,满足以下条件:

1.$|\vec{\alpha_i}| = 1, i=1,2,..,m$ 规范

2.$ \vec{\alpha_i} \cdot \vec{\alpha_j} = 0, i\neq j $ 正交

则称$\alpha_1,\alpha_2,..,\alpha_m$为向量空间V的规范正交基

例:$$e_1=\begin{pmatrix}1\\0\end{pmatrix}e_2=\begin{pmatrix}0\\1\end{pmatrix}$$

$$\alpha_1=\begin{pmatrix}\sqrt{2}/2\\-\sqrt{2}/2\end{pmatrix}\alpha_2=\begin{pmatrix}\sqrt{2}/2\\\sqrt{2}/2\end{pmatrix}$$

都是$R^2$的规范正交基

规范正交基的优点:

假设$\alpha_1,\alpha_2,..,\alpha_m$为空间$V$的一组规范正交基,则对于任意$\alpha \in V, \beta \in V$

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/zzwxgz.html