RQTN

第 11 课 矩阵空间、秩 $1$ 矩阵和小世界图 本章内容可分为三部分：第一部分延续上节课的内容，把向量空间的定义从向量扩展到矩阵和微分方程，第二部分介绍秩 $1$ 矩阵，第三部分简单讲述了图的概念和图与矩阵之间的联系。 我们接着探究上一节课提到的矩阵空间的概念。我们仍然讨论所有的 $3\times 3$ 矩阵这样的矩阵空间，记之为 $M$。 对于 $M$，很容易找到其子空间，比如所有的上三角矩阵（记为 $U$）以及所有的对称矩阵（记为 $S$）等等。 所有的对称矩阵所组成的矩阵空间 $S$ 其维数为 $6$。容易找出 $S$ 的 $6$ 个基： \displaylines{ \begin{bmatrix}1&0&0\\0&0&0\\0&0&0\end{bmatrix},\begin{bmatrix}0&0&0\\0&1&0\\0&0&0\end{bmatrix},\begin{bmatrix}0&0&0\\0&0&0\\0&0&1\end{bmatrix},\begin{bmatrix}0&1&0\\1&0&0\\0&0&0\end{bmatrix},\begin{bmatri ...

第 10 课 四个基本子空间 本章主要详细介绍了矩阵的四个基本子空间，并对于每个子空间探讨了两个问题：基和维数。课程的最后我们对向量空间的概念进行了一次扩展：从 $R^n$ 到 $R^{n\times n}$。 假设 $A$ 为 $m\times n$ 的一个矩阵，秩为 $r$，则其对应的四个基本子空间为： $A$ 的列空间 $C(A)$ $A$ 的零空间 $N(A)$ $A$ 的行空间 $C(A^T)$ $A$ 的左零空间 $N(A^T)$ 显然，列空间 $C(A)$ 是$A$ 的所有列向量的线性组合，每个列向量为 $m$ 维，所以 $C(A)$ 是 $R^m$ 的子空间；零空间 $N(A)$ 里的向量都是 $n$ 维向量，所以 $N(A)$ 是 $R^n$ 的子空间；行空间 $C(A^T)$ 是所有行的线性组合，每个行向量为 $n$ 维，所以 $C(A^T)$ 是 $R^n$ 的子空间；左零空间 $N(A^T)$ 里的向量都是 $m$ 维向量，所以 $N(A^T)$ 是 $R^m$ 的子空间。 我们先来探讨相对简单的维数的问题： 四个子空间的维数分别是什么？ 列空间 $C( ...

第 9 课 线性相关性、基和维数 本章主要讲述了向量组线性相关/无关，生成，基和维数等概念，并额外介绍了如何使用矩阵来判断向量组的线性相关性/无关性。 在介绍线性相关/无关，生成，基和维数这些概念之前，我们首先要明确这些词都是针对什么量的：比如我们一般会说向量组线性相关或无关，向量组生成一个向量空间，向量组作为某个向量空间的基，而不会说矩阵线性相关或无关（对于矩阵我们一般说秩或行列式），矩阵生成一个向量空间，矩阵作为某个向量空间的基。最后需要声明的一点是，这里讨论的维数的概念也并非值的是矩阵的维数，而是向量空间的维数。 向量组线性相关/无关 对于向量组中的所有向量，如果不存在结果为零向量的线性组合（除了系数全部为零也即零组合的情况），那么向量组是线性无关的，否则向量组线性相关。 如果向量组里面包含了一个零向量，那么向量组必然线性相关。 使用矩阵来判断向量组的线性相关性/无关性 给定向量组包括向量 $v_1,v_2,\cdots,v_n$，将向量组中各向量作为列向量以形成一个矩阵，则有 $A=\begin{bmatrix}v_1&v_2&\cdots& ...

第 8 课 求解 $Ax=b$ ：可解性和解的结构 本章将系统讲解线性方程组的求解，也即 $Ax = b$。首先课程讲述了可解性的概念，然后给出求解 $Ax=b$ 的具体算法（$x_p+x_n$），最后从秩的角度来理解解的结构。 我们已经知道， $Ax=b$ 是不一定有解的，其可解性可以通过消元来反映（消元过程可以看出其可解性），如果有解，就需继续探究是唯一解还是多解并求出所有的解（通解）。 我们还是使用上节课的矩阵，那么易得 $Ax=b$ 的消元过程为： \displaylines{ \begin{bmatrix} \color{red}{1}&2&2&2&b_1\\ 2&4&6&8&b_2\\ 3&6&8&10&b_3 \end{bmatrix} \xrightarrow[r_3=r_3-3 \times r_1]{r_2=r_2-2 \times r_1} \begin{bmatrix} \color{red}{1}&2&2&2&b_1\\ 0&0&\color{red}{2}&4&b_2-2b_1\\ 0&0&2&4&b_3-3b_1 \end{bmatrix} ...

第 7 课 求解 $Ax=0$ ：主变量，特解 本章主要讲解如何求解 $Ax=0$。其中涉及到了诸多步骤和概念，包括消元（从中可以看出一些线性相关的信息）、秩、主列、主变量、自由列、自由变量以及特解。注意到，在整个课程的后半部分都在探讨 RREF，这有助于我们更加多角度深入地了解 $Ax=0$ 的求解，当然，RREF 在求解零空间时也有其重要的用途。 首先我们给出一个矩阵： \displaylines{ A = \left[ \begin{matrix} 1 & 2 & 2 & 2 \\ 2 & 4 & 6 & 8 \\ 3 & 6 & 8 & 10 \end{matrix} \right] }观察该矩阵的行和列，容易发现，列二是列一的倍数，而行三也等于行一加上行二，这些线性相关的情况都会在消元的过程中表现出来。 在消元的过程中，零空间不会改变。这一点非常重要。零空间实际上就是由满足 $Ax=0$ 的所有 $x$ 所组成。在消元过程中，解是不会改变的，因此零空间也不会改变。实际上，消元过程改变的是列空间（行变换改变列空间）。 行变换改变的是列空间这一点应该不难理解。随着行变 ...

第 6 课 列空间和零空间 本章主要介绍了列空间和零空间。首先，探讨了关于子空间的并和交是否依然是一个子空间。然后我们开始探讨列空间中列空间的大小问题。最后我们学习了零空间，并对零空间是向量空间这一事实给予了证明。 考虑子空间的并和交： 假设取某个向量空间的两个子空间 $P$ 和 $L$，那么： 关于它们的并 $P\bigcup L$ 是子空间吗？显然，两个子空间的并，不一定是子空间 关于它们的交 $P\bigcap L$ 是子空间吗？是的。实际上，对于任意两子空间的交集都是子空间。这一点很好证明： \displaylines{ 我们假设存在子空间 S 和 T，存在向量 v,w且 v,w\in S\bigcap T \\ \because v\in S\bigcap T, w\in S\bigcap T\\ \therefore v\in S, w\in S, v\in T, w\in T \\ \therefore v+w\in S, v+w\in T\\ \therefore v+w\in S\bigcap T \\ 加法封闭证闭。\\ 假设存在任意常数k，显然有\\ kv ...

第 5 课 转置、置换和向量空间 $R$ 本章介绍的主要内容包括置换、转置和向量空间。在最开始部分对置换矩阵给予介绍：包括对于 $LU$ 分解的扩展 $PA = LU$ 以及置换矩阵的定义和性质。然后介绍了矩阵的转置，并延伸介绍了对称矩阵的概念。后半部分的课程主要对向量空间尤其是 $R^n$及其子空间进行了讲述（从 $R^2$ 和 $R^3$ 看出一定规律），最后引申出列空间的概念。 考虑消元过程中的行交换，可得到扩展有：$A = LU \rightarrow PA = LU$。后式对所有的可逆矩阵 $A$ 都适用。 在前一讲中我们已经提到了，对于可逆矩阵 $A$ ，其在消元过程中可能出现主元为零的情况，此时需要进行行交换，而行交换无非就是乘上一个置换矩阵而已，矩阵 $A$ 通过左乘多个置换矩阵变换成一个相当好的矩阵（也即在消元过程中不需要进行行交换），此时进行 $LU$ 分解就没有任何问题了，而这些左乘的多个置换矩阵的总乘积记为 $P$。 置换矩阵是行重新排列了的单位矩阵。 这意味着置换矩阵显然必须是一个方阵，因为单位矩阵就是方阵，且单位矩阵也是一个置换矩阵（只不过单位矩阵不 ...

第 4 课 $A$ 的 $LU$ 分解 本章介绍的主要内容是 $A$ 的 $LU$ 分解。在最开始部分首先补充介绍了一些逆矩阵的内容。然后我们研究了矩阵的 $LU$ 分解，主要体现在求得一个一击致命的 $E$ (其逆即为 $L$)，同时我们探究了为什么 $L$ 比 $E$ 要好。最后我们考虑了行交换的情况，介绍了置换矩阵。 矩阵乘积的逆： \displaylines{ (AB)(B^{-1}A^{-1}) = I \\ (B^{-1}A^{-1})(AB) = I }老师给了一个生动有趣的比喻：“这就像先脱鞋子，再脱袜子，然后其逆动作应该是先穿袜子，再穿鞋子。” 转置矩阵和逆矩阵的关系： 注意，矩阵乘积的逆和矩阵乘积的转置都调换了矩阵的顺序：$AB$ 的逆为 $B^{-1}A^{-1}$，其转置为 $B^TA^T$。 \displaylines{ 已知 AA^{-1} = I \\ \therefore (AA^{-1})^T=I^T=I\\ \because (A^{-1})^TA^T = I \\ \therefore (A^T)^{-1} = (A^{-1})^T }由上 ...

第 3 课 乘法和逆矩阵 第 3 课的主要内容是矩阵乘法和逆矩阵。矩阵乘法主要介绍了矩阵乘法的多种求解方法、乘法的结合律以及能够相乘的条件。逆矩阵主要介绍了如何判断一个矩阵是逆矩阵，最后顺带提及了求解一个好矩阵（非奇异矩阵）的逆矩阵的方法。 矩阵乘法 $AB=C$ 的 $5$ 种求解方法： 从元素的角度（$A$ 的行乘以 $B$ 的列） \displaylines{ c_{ij} = (Row_i\ of\ A)\cdot(Col_j\ of\ B)= \begin{bmatrix} a_{i1}&a_{i2}&\cdots&a_{in} \end{bmatrix} \begin{bmatrix} b_{1j}\\b_{2j}\\\vdots\\b_{nj} \end{bmatrix} = \sum^{n}_{k=1}a_{ik}\cdot b_{kj} } 从列的角度（列的线性组合）：$C$ 的各列是 $A$ 中各列的一个线性组合，组合方式由 $B$ 决定。比如 $C$ 的第一列是 $A$ 中各列相对于 $B$ 的第一列的一个线性组合。 从行的角度（行的线性组合）：$C$ 的 ...

第 2 课 矩阵消元 第 2 课的主要内容是消元法的介绍。前半部分主要介绍了消元法的具体操作以及消元法成功条件（对矩阵 $A$ 有一定要求）。后半部分主要讲述使用矩阵乘法的观点来表示消元操作，顺带提及了用于矩阵行置换的置换矩阵和逆矩阵。 消元法不总是奏效的，其是否奏效取决于矩阵是否是一个好矩阵。不好的矩阵在消元时会出现主元的位置被零占据且通过行置换也无法解决该问题的情况。 换句话说，消元失效指的是不能得到 n（矩阵行数）个主元，于是矩阵也因此变得不可逆。 右侧向量 $b$ 是不是在消元过程中也要考虑（也即形成增广矩阵一起参与矩阵消元的行变换过程） 平时计算当然可以形成增广矩阵一起考虑。 但就 MATLAB 而言，MATLAB 一般在消元过程中不考虑右侧向量 $b$，而是在消元过程完成后（也即矩阵从 $A$ 变为 $U$ 后），再对右侧向量进行处理（使用消元矩阵进行左乘，消元矩阵本身能够表示消元过程中的所有消元操作）。 之所以这样做是有道理的，这样的做法能够在某种场景下大量简化计算量：对于矩阵 $A$，给出大量不同的右侧向量 $b$ 进行 $x$ 的求解，此时只要我们算出了消元矩 ...