MIT线性代数课程精细系列笔记

干货|MIT线性代数课程精细笔记[第一课]

干货|MIT线性代数课程精细笔记[第二课]

干货|MIT线性代数课程精细笔记[第三课]

干货|MIT线性代数课程精细笔记[第四课]

干货|MIT线性代数课程精细笔记[第五课]

干货|MIT线性代数课程精细笔记[第六课]-子空间与零空间

连载笔记|MIT线性代数课程精细笔记[第七课]-Ax=b的解讨论

连载笔记|MIT线性代数课程精细笔记[第八课]-秩的概念

1

知识概要

之前消元处理矩阵时，经常发现矩阵中有时会有一行或几行本身就是前面几 行的线性组合情况，这一节我们就从这种线性相关或线性无关的特征入手，介绍 空间中的几个重要的概念：基，维数。

2

 线性无关与线性相关

2.1 背景知识

首先强调，接下来我们谈论的概念都是基于向量组的，而不是基于矩阵。线性无关，线性相关是向量组内的关系，基也是一个向量组，不要与矩阵概念混淆。

首先从之前学习的 Ax = 0 方程谈起。

假设 m*n 的矩阵 A：

显然，n > m，以这样的矩阵 A 构成的方程 Ax = 0，此时未知数𝑥 𝑛 的个数比 方程的个数多。未知数一共 n 个，方程一共 m 个。

所以此时 A 的零空间中除零向量以外还有其他向量，原因是这样的 A 一定有 自由变量(至少有 n-m 个自由变量)，这就造成了零空间中向量的无穷解。

2.2 线性无关与线性相关

举几个例子感受一下上面的概念：

2.3 零空间的作用

根据上面的例题 4，我们再从矩阵的零空间与矩阵列向量角度重新定义 向量组的线性相关/无关。假设现有一 m*n 矩阵 A：

• 如果 A 各列向量构成的向量组是线性无关的，那么矩阵 A 的零空间中只有零 向量。

• 如果 A 各列向量构成的向量组是线性相关的，那么矩阵 A 零空间中除零向 量之外还一定有其他向量。

很好理解上面零空间角度的定义。因为零空间反映的就是 A 各列向量的线性组合。

从秩的角度看来：

• 线性无关对应向量组构成的矩阵，秩为 n，此时没有自由变量，零空间中 只有零向量存在。

• 线性相关对应向量组构成的矩阵，秩小于 n，有 n-r 个自由变量，零空间 中有很多向量。

转自：机器学习算法与自然语言处理

完整内容请点击“阅读原文”