Skip to content

线形代数#

通用线形系统表达#

虽然线性是一个抽象的数学概念，却在我们的生活中无处不在。

鸡尾酒会问题

比如在一场派对或者是会议上，有很多人在同时交谈，那么我们是如何听清楚对方的声音呢？这就是一个线形系统的例子。Pasted image 20250902105520.png 当我把这个问题用模型描述，我这里只有两个人在说话，而你是听众。那么，你听到的声音\(y\)，其实就是两个声源\(x_1\)和\(x_2\)信号的线性组合。这里的权重可能是和你们之间的距离，有讲话者声音的大小有关，我们将他们统一标记成\(a_i\)。Pasted image 20250902105629.png 这个过程可以用一个简单的加权求和方程来描述，写成矩阵形式如下： \(\(y=x_1a_1+x_2a_2=[a_1,a_2]^T[x_1, x_2]=Ax\)\)

CT成像例子

CT扫描过程，探测器收到的信号\(Y\)，其是人体内部组织密度对X的衰减的线性叠加，这个物理过程可以写成 \(\(Y = AX\)\) 其中\(X\)是我们的成像物体（比如人体）。而\(A\)是图像的编码矩阵，在这里是射线随做身体的衰减。

线性系统通用的一般表达式为 $$ Y = AX $$

  • 如果已知\(X\)和\(Y\)，求解\(A\)编码方法的过程，被称之为求解模型，那就是一个典型的机器学习问题

  • 如果已知\(A\)和\(Y\)，求解原始图像\(X\)的过程，就是图像重建问题。

线形空间和基#

以图像重建为例，最直接的解法是 \(X = A^{-1}Y\)。但逆矩阵\(A^{-1}\)一定存在或唯一吗？

一个矩阵可逆等效于：

  1. 行列式不为零
线形独立和行列式

下面用一个简单的2x2方程组为例，求解这一过程。 $$ Y = AX $$ 可以写成

\[ \begin{bmatrix} y_1 \\ y_2 \\ \end{bmatrix} = \begin{bmatrix} a_{11} & a_{12} \\ a_{12} & a_{22} \\ \end{bmatrix} \begin{bmatrix} x_1 \\ x_2 \\ \end{bmatrix} \]

写成方程的形式

\[ \begin{matrix} a_{11}x_1+a_{12}x_2=y_1 \\ a_{21}x_1+a_{22}x_2=y_2 \end{matrix} \]

求解上面的方程可以得到

\[ x_1=\frac{a_{22}y_1-a_{12}y_2}{a_{11}a_{22}-a_{21}a_{12}} \]

这样如果\(A\)的行列式

\[ |A|=a_{11}a_{22}-a_{21}a_{12} \]

如果\(A \neq 0\)，则\(x_1\)有唯一解。如果行列式为零，分母就为零，则方程无解。

  1. 列向量线性无关
线形向量构成空间

CT扫描过程，探测器收到的信号\(Y\)，其是人体内部组织密度对X的衰减的线性叠加，这个物理过程可以写成

这也可以说这组基构成这个空间。这一概念进而扩展到如何寻找构成空间的主要分量：主成分分析