第三讲：乘法和逆矩阵 ​

上一讲大概介绍了矩阵乘法和逆矩阵，本讲就来做进一步说明。

矩阵乘法 ​

• 行列内积：有$m\times n$矩阵$A$和$n\times p$矩阵$B$（$A$的总列数必须与$B$的总行数相等），两矩阵相乘有$AB=C$，$C$是一个$m\times p$矩阵，对于$C$矩阵中的第$i$行第$j$列元素$c_{ij}$，有：

  $$c_{ij}=ro{w}_i\cdot colum{n}_j=\sum _{k=i}^n{a}_{ik}{b}_{kj}$$

  其中$a_{ik}$是$A$矩阵的第$i$行第$k$列元素，$b_{kj}$是$B$矩阵的第$k$行第$j$列元素。

  可以看出$c_{ij}$其实是$A$矩阵第$i$行点乘$B$矩阵第$j$列 $\left[\begin{array}{ccc}& ⋮& \\ & ro{w}_i& \\ & ⋮& \end{array}\right]\left[\begin{array}{ccc}& & \\ \cdots & colum{n}_j& \cdots \\ & & \end{array}\right]=\left[\begin{array}{ccc}& ⋮& \\ \cdots & c_{ij}& \cdots \\ & ⋮& \end{array}\right]$

• 整列相乘：上一讲我们知道了如何计算矩阵乘以向量，而整列相乘就是使用这种线性组合的思想：

  $\left[\begin{array}{ccc}& & \\ A_{col1}& A_{col2}& \cdots & A_{coln}\\ & & \end{array}\right]\left[\begin{array}{ccc}\cdots & b_{1j}& \cdots \\ \cdots & b_{2j}& \cdots \\ \cdots & ⋮& \cdots \\ \cdots & b_{nj}& \cdots \end{array}\right]=\left[\begin{array}{ccc}& & \\ \cdots & (b_{1j}{A}_{col1}+b_{2j}{A}_{col2}+\cdots +b_{nj}{A}_{coln})& \cdots \\ & & \end{array}\right]$

  上面的运算为$B$的第$j$个列向量右乘矩阵$A$，求得的结果就是$C$矩阵的第$j$列，即$C$的第$j$列是$A$的列向量以$B$的第$j$列作为系数所求得的线性组合，$C_j=b_{1j}{A}_{col1}+b_{2j}{A}_{col2}+\cdots +b_{nj}{A}_{coln}$。

• 整行相乘：同样的，也是利用行向量线性组合的思想：

  $\left[\begin{array}{cccc}⋮& ⋮& ⋮& ⋮\\ a_{i1}& a_{i2}& \cdots & a_{in}\\ ⋮& ⋮& ⋮& ⋮\end{array}\right]\left[\begin{array}{ccc}& B_{row1}& \\ & B_{row2}& \\ & ⋮& \\ & B_{rown}& \end{array}\right]=\left[\begin{array}{c}⋮\\ (a_{i1}{B}_{row1}+a_{i2}{B}_{row2}+\cdots +a_{in}{B}_{rown})\\ ⋮\end{array}\right]$

  上面的运算为$A$的第$i$个行向量左乘矩阵$B$，求得的结果就是$C$矩阵的第$i$行，即$C$的第$i$行是$B$的行向量以$A$的第$i$行作为系数所求的的线性组合，$C_i=a_{i1}{B}_{row1}+a_{i2}{B}_{row2}+\cdots +a_{in}{B}_{rown}$。

• 列乘以行：用$A$矩阵的列乘以$B$矩阵的行，得到的矩阵相加即可：

  $\left[\begin{array}{ccc}& & \\ A_{col1}& A_{col2}& \cdots & A_{coln}\\ & & \end{array}\right]\left[\begin{array}{ccc}& B_{row1}& \\ & B_{row2}& \\ & ⋮& \\ & B_{rown}& \end{array}\right]=A_{col1}{B}_{row1}+A_{col2}{B}_{row2}+\cdots +A_{coln}{B}_{rown}$

  注意，$A_{coli}{B}_{rowi}$是一个$m\times 1$向量乘以一个$1\times p$向量，其结果是一个$m\times p$矩阵，而所有的$m\times p$矩阵之和就是计算结果。

• 分块乘法：$\left[\begin{array}{cc}{A}_1& A_2\\ A_3& A_4\end{array}\right]\left[\begin{array}{cc}{B}_1& B_2\\ B_3& B_4\end{array}\right]=\left[\begin{array}{cc}{A}_1{B}_1+A_2{B}_3& A_1{B}_2+A_2{B}_4\\ A_3{B}_1+A_4{B}_3& A_3{B}_2+A_4{B}_4\end{array}\right]$

  在分块合适的情况下，可以简化运算。

逆（方阵） ​

首先，并不是所有的方阵都有逆；而如果逆存在，则有$A^{-1}A=I=A{A}^{-1}$。教授这里提前剧透，对于方阵，左逆和右逆是相等的，但是对于非方阵（长方形矩阵），其左逆不等于右逆。

对于这些有逆的矩阵，我们称其为可逆的或非奇异的。我们先来看看奇异矩阵（不可逆的）：$A=\left[\begin{array}{cc}1& 2\\ 3& 6\end{array}\right]$，在后面将要学习的行列式中，会发现这个矩阵的行列式为$0$。

观察这个方阵，我们如果用另一个矩阵乘$A$，则得到的结果矩阵中的每一列应该都是$\left[\begin{array}{c}1\\ 2\end{array}\right]$的倍数，所以我们不可能从$AB$的乘积中得到单位矩阵$I$。

另一种判定方法，如果存在非零向量$x$，使得$Ax=0$，则矩阵$A$不可逆。我们来用上面的矩阵为例：$\left[\begin{array}{cc}1& 2\\ 3& 6\end{array}\right]\left[\begin{array}{c}3\\ -1\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]$。

证明：如果对于非零的$x$仍有$Ax=0$，而$A$有逆$A^{-1}$，则$A^{-1}Ax=0$，即$x=0$，与题设矛盾，得证。

现在来看看什么矩阵有逆，设$A=\left[\begin{array}{cc}1& 3\\ 2& 7\end{array}\right]$，我们来求$A^{-1}$。$\left[\begin{array}{cc}1& 3\\ 2& 7\end{array}\right]\left[\begin{array}{cc}a& b\\ c& d\end{array}\right]=\left[\begin{array}{cc}1& 0\\ 0& 1\end{array}\right]$，使用列向量线性组合的思想，我们可以说$A$乘以$A^{-1}$的第$j$列，能够得到$I$的第$j$列，这时我会得到一个关于列的方程组。

接下来介绍高斯-若尔当（Gauss-Jordan）方法，该方法可以一次处理所有的方程：

• 这个方程组为$\{\begin{array}{l}\left[\begin{array}{cc}1& 3\\ 2& 7\end{array}\right]\left[\begin{array}{c}a\\ b\end{array}\right]=\left[\begin{array}{c}1\\ 0\end{array}\right]\\ \left[\begin{array}{cc}1& 3\\ 2& 7\end{array}\right]\left[\begin{array}{c}c\\ d\end{array}\right]=\left[\begin{array}{c}0\\ 1\end{array}\right]\end{array}$，我们想要同时解这两个方程；

• 构造这样一个矩阵$\left[\begin{array}{cccc}1& 3& 1& 0\\ 2& 7& 0& 1\end{array}\right]$，接下来用消元法将左侧变为单位矩阵；

• $\left[\begin{array}{cccc}1& 3& 1& 0\\ 2& 7& 0& 1\end{array}\right]\stackrel{ro{w}_2-2ro{w}_1}{\to }\left[\begin{array}{cccc}1& 3& 1& 0\\ 0& 1& -2& 1\end{array}\right]\stackrel{ro{w}_1-3ro{w}_2}{\to }\left[\begin{array}{cccc}1& 0& 7& -3\\ 0& 1& -2& 1\end{array}\right]$

• 于是，我们就将矩阵从$\left[\begin{array}{cc}A& I\end{array}\right]$变为$\left[\begin{array}{cc}I& A^{-1}\end{array}\right]$

而高斯-若尔当法的本质是使用消元矩阵$E$，对$A$进行操作，$E\left[\begin{array}{cc}A& I\end{array}\right]$，利用一步步消元有$EA=I$，进而得到$\left[\begin{array}{cc}I& E\end{array}\right]$，其实这个消元矩阵$E$就是$A^{-1}$，而高斯-若尔当法中的$I$只是负责记录消元的每一步操作，待消元完成，逆矩阵就自然出现了。