机器学习-矩阵和线性代数-笔记

关于奇异值分解具体的可以看看这篇博文SVD

  奇异值分解(Singular Value Decomposition)是一种重要的矩阵分解方法,可以看做对称方阵在任意矩阵上的推广。

假设A是一个m×n阶实矩阵,则存在一个分解使得:

    

机器学习-矩阵和线性代数-笔记

通常将奇异值由大而小排列。这样,Σ便能由A唯一确定了。

与特征值、特征向量的概念相对应:

  Σ对角线上的元素称为矩阵A的奇异值;

  U的第i列称为A的关于σi的左奇异向量;

  V的第i列称为A的关于σi的右奇异向量。

线性代数

定义:方阵的行列式

  1 阶方阵的行列式为该元素本身

  n 阶方阵的行列式等于它的任一行 或列 的各元素与其对应的代数余子式乘积之和。

  1×1的方阵,其行列式等于该元素本身。

    

机器学习-矩阵和线性代数-笔记

  2×2的方阵,其行列式用主对角线元素乘积减去次对角线元素的乘积。

        

机器学习-矩阵和线性代数-笔记

  3×3的方阵:

    

机器学习-矩阵和线性代数-笔记

  根据“主对角线元素乘积减去次对角线元素的乘积”的原则,得:

机器学习-矩阵和线性代数-笔记

  在一个n阶行列式A中,把(i,j)元素aij所在的第i行和第j列划去后,留下的n-1阶方阵的行列式叫做元素aij的余子式,记作Mij。

  代数余子式:Aij=(-1)i+jMij

  

机器学习-矩阵和线性代数-笔记

伴随矩阵

对于n×n方阵的任意元素aij都有各自的代数余子式Aij=(-1)i+jMij,构造n×n的方阵A*:

  

机器学习-矩阵和线性代数-笔记

A*称为A的伴随矩阵。注意Aij位于A*的第j行第i列。

方阵的逆A.A*=|A|.I

由前述结论:

  

机器学习-矩阵和线性代数-笔记

  

机器学习-矩阵和线性代数-笔记

范德蒙行列式Vandermonde

机器学习-矩阵和线性代数-笔记

数学归纳法

矩阵的乘法

 A 为 m × s 阶的矩阵, B 为 s × n 阶的矩阵,那么, C=A × B 是 m × n 阶的矩阵,其中,

      

机器学习-矩阵和线性代数-笔记

矩阵和向量的乘法

  A 为 m × n 的矩阵, x 为 n × 1 的列向量,则 Ax为 m × 1 的列向量,记:

机器学习-矩阵和线性代数-笔记

  由于 n 维列向量和 n 维空间的点一一对应,上式实际给出了从 n 维空间的点到 m 为空间点的线性变换。

    旋转、平移 (齐次坐标下)

  特殊的,若 m=n ,且 Ax 完成了 n 维空间内的线性变换。

矩阵的秩

  在 m × n 矩阵 A 中,任取 k 行 k 列,不改变这 k2 个元素在 A 中的次序,得到 k 阶方阵,称为矩阵 A 的 k 阶子式。

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/zwdfzd.html