《矩阵分析》重点笔记

《矩阵分析》重点笔记第一章：引言与基础概念1.1矩阵的定义与基本性质矩阵是线性代数中的基本概念，它是一个按照长方形排列的复数或实数的集合，用括号包围，元素之间通常用逗号或空格分隔。矩阵是数学、物理、工程、计算机科学等多个领域中的重要工具，用于解决线性方程组、表示线性变换、处理数据等。定义：一个m×n矩阵A是一个由m行n列元素组成的矩形数组，记作A=​a11​a21​⋮am1​​a12​a22​⋮am2​​⋯⋯⋱⋯​a1n​a2n​⋮amn​​​其中，aij​（1≤i≤m,

1≤j≤n）是矩阵A的第i行第j列元素。基本性质：矩阵的相等：两个矩阵相等当且仅当它们具有相同的行数和列数，且对应位置的元素都相等。零矩阵：所有元素都为0的矩阵称为零矩阵，记作O。单位矩阵：对角线元素全为1，其余元素全为0的方阵称为单位矩阵，记作I。矩阵类型定义示例零矩阵所有元素都为0(00​00​)单位矩阵对角线为1，其余为0(10​01​)对称矩阵A=AT(12​21​)反对称矩阵A=−AT(0−1​10​)1.2矩阵的分类矩阵可以根据其行数和列数的关系以及元素的特性进行分类。方阵：行数和列数相等的矩阵。矩形阵：行数和列数不相等的矩阵。对称矩阵：满足A=AT的矩阵，即矩阵等于其转置。反对称矩阵：满足A=−AT的矩阵。对角矩阵：只有对角线元素非零的矩阵。上（下）三角矩阵：所有元素在下（上）三角区域为零的矩阵。1.3矩阵的转置与共轭转置：矩阵A的转置是将A的行换成列得到的矩阵，记作AT。AT=​a11​a12​⋮a1n​​a21​a22​⋮a2n​​⋯⋯⋱⋯​am1​am2​⋮amn​​​共轭：对于复数矩阵，其共轭是将每个元素替换为其复共轭得到的矩阵。若A是实数矩阵，则其共轭等于其本身。1.4矩阵的相等与相似相等：如前文所述，两个矩阵在行数和列数相同且对应元素相等时称为相等。相似：如果存在可逆矩阵P，使得B=P−1AP，则称矩阵A与B相似。相似矩阵具有相同的特征值。1.5矩阵在线性变换中的应用简介矩阵是描述线性变换的有力工具。在二维或三维空间中，线性变换（如旋转、缩放、平移等）可以通过矩阵乘法来表示。例如，一个二维点(x,y)经过线性变换后变为(x′,y′)，这个变换可以表示为一个2×2矩阵A与点向量(xy​)的乘积：(x′y′​)=A(xy​)通过矩阵分析，我们可以深入理解线性变换的性质和效果。第二章：矩阵运算2.1矩阵加法与数乘矩阵加法：两个同型矩阵（即行数和列数相同）可以进行加法运算，对应位置的元素相加即可。数乘：矩阵可以与一个标量（实数或复数）相乘，结果是矩阵的每个元素都与该标量相乘。2.2矩阵乘法及其性质矩阵乘法：矩阵乘法是线性代数中的核心运算之一。设A是一个m×n矩阵，B是一个n×p矩阵，则它们的乘积C=AB是一个m×p矩阵，其元素cij​是A的第i行与B的第j列对应元素乘积的和。性质：结合律：(AB)C=A(BC)分配律：A(B+C)=AB+AC，(A+B)C=AC+BC数与矩阵的乘法：k(AB)=(kA)B=A(kB)单位矩阵的作用：AI=A，IA=A（I为单位矩阵）注意：矩阵乘法不满足交换律，即AB=BA。2.3矩阵的逆与伪逆逆矩阵：对于方阵A，如果存在一个方阵B，使得AB=BA=I，则称B是A的逆矩阵，记作A−1。性质：若A可逆，则A−1唯一。(A−1)−1=A。若A、B都可逆，则(AB)−1=B−1A−1。伪逆（Moore-Penrose伪逆）：对于非方阵或某些特殊的方阵（如奇异矩阵），不存在逆矩阵，但可以定义一种广义的逆，即伪逆，满足某些特定的性质。2.4矩阵的行列式与伴随矩阵行列式：方阵A的行列式是一个标量，记作det(A)或∣A∣，它反映了矩阵的某些性质，如是否可逆。性质：det(I)=1（I为单位矩阵）。det(AB)=det(A)det(B)。若A可逆，则det(A−1)=det(A)1​。交换矩阵的两行（列），行列式变号。伴随矩阵：对于方阵A，其伴随矩阵（也称为余子式矩阵的转置）是由A的各个元素的代数余子式构成的矩阵的转置，记作A∗。2.5分块矩阵运算在处理大型矩阵时，为了方便计算和理解，常常将矩阵分成若干个小块（子矩阵）来进行运算。分块矩阵运算包括分块加法、分块乘法、分块转置等。分块乘法：设A和B是两个可以相乘的矩阵，将它们分别分成若干个子矩阵，则AB的乘积可以通过子矩阵的乘法来计算。分块转置：将矩阵A分成若干个子矩阵后，对每个子矩阵进行转置，再按原位置排列，得到A的分块转置。分块矩阵运算可以大大简化复杂矩阵的计算过程，是矩阵分析中常用的技巧之一。第三章：线性方程组与矩阵3.1线性方程组的矩阵表示线性方程组是数学和工程领域中最常见的问题之一。一个线性方程组可以表示为矩阵形式Ax=b，其中A是系数矩阵，x是未知数列向量，b是常数项列向量。通过矩阵表示，我们可以利用矩阵运算来求解线性方程组，如高斯消元法、矩阵逆等。第四章：特征值与特征向量4.1特征值与特征向量的定义特征值与特征向量是矩阵理论中的核心概念，它们在矩阵的谱分析、线性变换的性质研究以及量子力学等领域有着广泛的应用。定义：设A是一个n×n矩阵，如果存在一个非零向量x和一个标量λ，使得Ax=λx，则称λ是A的一个特征值，x是对应于λ的一个特征向量。4.2特征值与特征向量的性质性质：特征值的唯一性：矩阵A的特征值是唯一的，但对应于同一个特征值的特征向量可能不唯一（相差一个非零倍数）。特征值的和与积：矩阵A的所有特征值之和等于A的迹（即主对角线上元素之和），所有特征值之积等于A的行列式。相似矩阵的特征值：相似矩阵具有相同的特征值。特征向量的正交性：对应于不同特征值的特征向量是正交的（在实数域内）。性质描述唯一性特征值唯一，特征向量可能不唯一和与积特征值之和=迹，特征值之积=行列式相似矩阵相似矩阵特征值相同正交性不同特征值的特征向量正交4.3特征值与特征向量的计算计算矩阵的特征值和特征向量通常通过求解特征方程Ax=λx来实现。这可以转化为求解特征多项式f(λ)=det(A−λI)=0的根，其中I是单位矩阵。步骤：写出矩阵A的特征多项式f(λ)。求解特征多项式f(λ)=0的根，得到特征值λ1​,λ2​,…,λn​。对于每个特征值λi​，求解方程组(A−λi​I)x=0，得到对应于λi​的特征向量。4.4特征值分解与对角化如果矩阵A有n个线性无关的特征向量，那么A可以进行特征值分解（也称为对角化），即存在一个可逆矩阵P，使得P−1AP=D，其中D是对角矩阵，对角线上元素为A的特征值。应用：特征值分解在矩阵的快速幂计算、矩阵的谱分析、量子力学的波函数求解等领域有着广泛的应用。4.5广义特征值与广义特征向量在某些情况下，我们需要考虑更一般的特征值问题，即广义特征值问题Ax=λBx，其中A和B都是n×n矩阵，且B可逆。此时，λ称为广义特征值，x称为对应于λ的广义特征向量。广义特征值问题可以通过转化为标准特征值问题来求解，即令B−1Ax=λx，然后按照标准特征值问题的求解方法进行求解。第五章：矩阵的分解与因式分解5.1矩阵的LU分解LU分解（LUDecomposition）是将一个方阵分解为一个下三角矩阵L和一个上三角矩阵U的乘积，即A=LU。LU分解在求解线性方程组、计算矩阵的逆和行列式等方面有着广泛的应用。步骤：通过高斯消元法将矩阵A化为上三角矩阵U。在消元过程中，记录每一步的消元系数，构成下三角矩阵L。5.2矩阵的QR分解QR分解（QRDecomposition）是将一个方阵分解为一个正交矩阵Q和一个上三角矩阵R的乘积，即A=QR。QR分解在数值线性代数中有着重要的应用，如求解特征值问题、计算矩阵的奇异值分解等。方法：QR分解可以通过Gram-Schmidt正交化过程、Householder变换或Givens旋转等方法来实现。5.3矩阵的奇异值分解奇异值分解（SingularValueDecomposition,SVD）是将一个矩阵分解为一个正交矩阵U、一个对角矩阵Σ（对角线上元素为奇异值）和另一个正交矩阵V的转置的乘积，即A=UΣVT。奇异值分解在信号处理、图像处理、数据压缩等领域有着广泛的应用。性质：奇异值分解是唯一的（不考虑正交矩阵的符号变化）。奇异值是非负的，且按照从大到小的顺序排列。奇异值分解可以用于计算矩阵的秩、范数等。5.4矩阵的极分解极分解（PolarDecomposition）是将一个方阵分解为一个正交矩阵Q和一个正定矩阵P的乘积，即A=QP。极分解在矩阵的谱分析、矩阵的正定性判断等方面有着应用。性质：极分解是唯一的（不考虑正交矩阵的符号变化）。当A可逆时，P也是可逆的，且P=(ATA)21​。当A是对称矩阵时，极分解就是特征值分解。5.5矩阵的Cholesky分解Cholesky分解是将一个正定矩阵分解为一个下三角矩阵L和其转置的乘积，即A=LLT。Cholesky分解在求解正定矩阵的线性方程组、优化问题等方面有着高效的应用。性质：Cholesky分解是唯一的（不考虑下三角矩阵的符号变化）。当A是正定矩阵时，Cholesky分解存在且唯一。Cholesky分解可以用于计算正定矩阵的行列式、逆等。第六章：矩阵在数据分析中的应用6.1矩阵与线性回归线性回归是数据分析中的基本方法之一，用于建立自变量与因变量之间的线性关系模型。在线性回归中，矩阵运算起着重要的作用。模型：设自变量为X=(x1​,x2​,…,xn​)T，因变量为Y，则线性回归模型可以表示为Y=Xβ+ϵ，其中β是回归系数向量，ϵ是误差项。求解：通过最小二乘法或矩阵运算，可以求解出回归系数向量β=(XTX)−1XTY。6.2矩阵与主成分分析主成分分析（PrincipalComponentAnalysis,PCA）是一种数据降维技术，用于提取数据的主要特征并去除冗余信息。在主成分分析中，矩阵运算特别是特征值分解起着关键的作用。步骤：对数据进行标准化处理，得到矩阵X。计算矩阵X的协方差矩阵C=n−11​XTX。对协方差矩阵C进行特征值分解，得到特征值λi​和特征向量ui​。选择前k个最大的特征值对应的特征向量作为主成分方向。将原始数据投影到这些主成分方向上，得到降维后的数据。6.3矩阵与聚类分析聚类分析是数据挖掘中的一项重要技术，用于将数据分成若干个类别或簇。在聚类分析中，矩阵运算可以用于计算数据之间的距离或相似度，以及进行数据的中心化等处理。方法：常见的聚类方法包括K-均值聚类、层次聚类等。在这些方法中，都需要计算数据点之间的距离或相似度矩阵，并进行相应的矩阵运算。例如，在K-均值聚类中，需要通过迭代更新聚类中心和计算数据点到聚类中心的距离来不断优化聚类结果。6.4矩阵与图像处理图像处理是计算机视觉和图形学中的重要领域，矩阵运算在图像处理中起着至关重要的作用。图像可以表示为一个二维矩阵或三维张量（对于彩色图像），其中每个元素表示像素的亮度或颜色值。应用：图像变换：如旋转、缩放、平移等可以通过矩阵乘法来实现。图像滤波：如均值滤波、高斯滤波等可以通过与相应的卷积核矩阵进行卷积运算来实现。图像压缩：如JPEG压缩中使用了离散余弦变换（DCT）矩阵来将图像转换为频域表示，从而实现压缩。图像分割：如基于图论的方法中，可以通过构建图像的相似度矩阵并进行谱聚类来实现图像的分割。第七章：矩阵在机器学习中的应用7.1矩阵与线性分类器线性分类器是机器学习中的基础模型之一，用于将数据点分类到不同的类别中。在线性分类器中，矩阵运算扮演着核心角色。模型表示：

设数据集为X，其中每个数据点xi​都是一个向量。线性分类器的目标是通过一个权重向量w和一个偏置项b来定义一个决策边界，将数据点分类到不同的类别中。决策函数可以表示为f(x)=wTx+b。训练过程：

训练线性分类器的过程就是求解权重向量w和偏置项b的过程。这通常通过最小化一个损失函数来实现，如逻辑回归中的交叉熵损失。在求解过程中，需要用到矩阵运算，如梯度下降法中的矩阵乘法。多类分类：

对于多类分类问题，可以使用一对多（One-vs-All）策略，将多类分类问题转化为多个二分类问题，每个二分类问题对应一个类别与其他类别的区分。这样，就可以为每个类别训练一个线性分类器，并通过比较各个分类器的输出来确定数据点的最终类别。线性分类器类型描述二分类区分两个类别多类分类区分多个类别，常用一对多策略损失函数衡量模型预测与实际标签之间的差异梯度下降法一种优化算法，用于求解权重向量和偏置项7.2矩阵与支持向量机支持向量机（SupportVectorMachine,SVM）是一种强大的线性分类器，它试图找到一个能够最大化不同类别之间间隔的决策边界。在SVM中，矩阵运算同样起着至关重要的作用。间隔最大化：

SVM的目标是找到一个权重向量w和偏置项b，使得决策边界能够最大化不同类别之间的间隔。间隔定义为离决策边界最近的数据点到决策边界的距离。通过拉格朗日乘子法和KKT条件，可以将这个问题转化为一个凸优化问题，并通过求解一个线性方程组来得到最优解。核技巧：

当数据不是线性可分的时候，SVM通过引入核技巧来将原始数据映射到一个高维空间中，使得在高维空间中数据是线性可分的。核技巧通过定义一个核函数K(xi​,xj​)来计算高维空间中数据点之间的内积，而不需要显式地进行数据映射。常见的核函数包括线性核、多项式核和径向基函数（RBF）核等。矩阵运算：

在SVM的训练和预测过程中，涉及到大量的矩阵运算。例如，在计算间隔最大化问题中的拉格朗日乘子时，需要求解一个线性方程组，这涉及到矩阵的逆运算和乘法运算。在预测阶段，需要计算数据点与支持向量之间的内积，这也涉及到矩阵运算。7.3矩阵与神经网络神经网络是一种复杂的非线性模型，由多个神经元层组成，每层神经元之间通过权重连接。在神经网络中，矩阵运算是最基本的操作之一。前向传播：

在前向传播过程中，输入数据通过神经网络的各层进行传播，每一层的输出作为下一层的输入。对于全连接层（也称为密集层），其输出可以通过矩阵乘法来计算：z=Wx+b，其中W是权重矩阵，x是输入数据，b是偏置向量，z是输出。然后，通过激活函数对z进行非线性变换，得到该层的最终输出。反向传播：

在反向传播过程中，通过计算损失函数关于权重和偏置的梯度来更新它们。梯度的计算涉及到大量的矩阵运算，如矩阵乘法、矩阵加法、矩阵转置等。通过链式法则，可以将损失函数的梯度传播到神经网络的每一层，从而更新每一层的权重和偏置。卷积神经网络：

在卷积神经网络（ConvolutionalNeuralNetwork,CNN）中，矩阵运算同样起着重要作用。卷积层通过卷积核（也称为滤波器）对输入数据进行卷积运算，提取特征。卷积运算可以看作是一种特殊的矩阵乘法，其中卷积核是一个小的矩阵，它在输入数据上滑动并进行点积运算。池化层（如最大池化层）也对输入数据进行下采样操作，这同样涉及到矩阵运算。循环神经网络：

在循环神经网络（RecurrentNeuralNetwork,RNN）中，矩阵运算也用于处理序列数据。RNN通过隐藏状态来捕捉序列中的时间依赖性，隐藏状态的更新涉及到矩阵乘法。在长短期记忆网络（LongShort-TermMemory,LSTM）和门控循环单元（GatedRecurrentUnit,GRU）等变种中，矩阵运算更加复杂，但仍然是核心操作之一。第八章：矩阵在信号处理中的应用8.1矩阵与信号滤波信号滤波是信号处理中的基本任务之一，用于去除信号中的噪声或提取特定频率成分。矩阵运算在信号滤波中起着重要作用。线性滤波器：

线性滤波器可以通过卷积运算来实现，卷积运算可以看作是一种特殊的矩阵乘法。对于一维信号，滤波器可以表示为一个向量（或一维矩阵），信号也可以表示为一个向量。通过卷积运算，可以得到滤波后的信号。对于二维信号（如图像），滤波器可以表示为一个二维矩阵，同样通过卷积运算来实现滤波。频域滤波：

在频域中，信号可以通过傅里叶变换转换为频谱表示。频域滤波通过修改频谱来去除或增强特定频率成分。频域滤波也可以看作是一种矩阵运算，其中傅里叶变换矩阵和逆傅里叶变换矩阵起着关键作用。通过乘以适当的频域滤波器矩阵，可以实现频域滤波。8.2矩阵与信号压缩信号压缩是信号处理中的另一个重要任务，用于减少信号的存储或传输成本。矩阵运算在信号压缩中同样起着重要作用。变换编码：

变换编码是一种常用的信号压缩方法，通过将一个信号转换为一个更容易压缩的形式来实现压缩。常见的变换包括离散余弦变换（DCT）、小波变换等。这些变换都可以通过矩阵乘法来实现。例如，DCT可以通过乘以DCT矩阵来将信号转换为频域表示，然后对小系数进行量化编码以实现压缩。主成分分析（PCA）：

PCA是一种数据降维技术，也可以用于信号压缩。通过PCA，可以将信号投影到由主成分构成的子空间中，从而实现压缩。PCA涉及到协方差矩阵的计算和特征值分解，这些都是矩阵运算的重要部分。8.3矩阵与信号检测信号检测是信号处理中的关键任务之一，用于从噪声中检测有用信号。矩阵运算在信号检测中同样发挥着重要作用。匹配滤波：

匹配滤波是一种最优信号检测技术，用于在噪声背景中检测已知信号。匹配滤波可以通过卷积运算来实现，即信号与滤波器的卷积结果最大时，表示检测到了信号。这同样涉及到矩阵运算。自适应滤波：

自适应滤波是一种能够根据输入信号动态调整滤波器系数的滤波技术。自适应滤波通常通过最小化预测误差来实现，这涉及到大量的矩阵运算，如梯度计算、矩阵乘法等。常见的自适应滤波算法包括最小均方误差（LMS）算法和递归最小二乘（RLS）算法等。第九章：矩阵在图论与网络分析中的应用9.1矩阵与图的表示图是由节点和边组成的结构，用于表示对象之间的关系。在图论中，矩阵是一种常用的表示图的方法。邻接矩阵：

邻接矩阵是一种表示图的方法，其中矩阵的行和列分别对应图的节点，矩阵元素表示节点之间的连接关系。如果两个节点之间有边连接，则对应的矩阵元素为1（或边的权重）；否则为0。邻接矩阵是一种直观的图的表示方法，便于进行矩阵运算和图的性质分析。关联矩阵：

关联矩阵是另一种表示图的方法，用于表示节点与边之间的关系。在关联矩阵中，行对应图的节点，列对应图的边，矩阵元素表示节点与边之间的关联关系。如果某个节点与某条边相关联（即该节点是这条边的一个端点），则对应的矩阵元素为1；否则为0。关联矩阵在图的遍历、连通性判断等方面有着应用。9.2矩阵与图的遍历图的遍历是指按照某种规则访问图中的每个节点和边。矩阵运算在图的遍历中起着重要作用。深度优先搜索（DFS）：

DFS是一种常用的图遍历算法，通过递归或栈的方式实现。在DFS中，可以使用邻接矩阵来表示图，并通过矩阵运算来判断节点之间的连接关系。DFS可以用于图的连通性判断、拓扑排序等任务。广度优先搜索（BFS）：

BFS是另一种常用的图遍历算法，通过队列的方式实现。在BFS中，同样可以使用邻接矩阵来表示图，并通过矩阵运算来访问节点的邻居节点。BFS可以用于图的最短路径搜索、连通分量划分等任务。9.3矩阵与图的性质分析图的性质分析是指通过分析图的结构来揭示图的某些性质或特征。矩阵运算在图的性质分析中发挥着重要作用。第十章：矩阵在优化问题中的应用10.1矩阵与线性规划线性规划（LinearProgramming,LP）是优化问题中的一种基本类型，涉及在给定约束条件下优化一个线性目标函数。矩阵在线性规划中扮演着核心角色。线性规划的标准形式：

线性规划问题可以表示为以下标准形式：minimizesubject

to​cTxAx≤bx≥0​其中，c

是目标函数的系数向量，A

是约束条件的系数矩阵，b

是约束条件的常数向量，x

是决策变量向量。单纯形法：

单纯形法是求解线性规划问题的一种经典算法。它通过迭代地改进可行解来找到最优解。在单纯形法的每一步中，都需要进行矩阵运算，如矩阵的逆运算、乘法运算和转置运算等。这些运算对于确定下一步的改进方向和判断当前解是否最优至关重要。表：线性规划中的关键矩阵矩阵/向量描述c目标函数的系数向量A约束条件的系数矩阵b约束条件的常数向量x决策变量向量B基矩阵，用于单纯形法中的迭代B−1基矩阵的逆矩阵，用于计算改进方向对偶问题：

线性规划问题有一个与之对应的对偶问题，其对偶问题的形式也是线性规划。通过对偶问题，可以得到原问题的一些重要性质，如最优解的存在性、唯一性和对偶间隙等。对偶问题的构造和求解同样涉及到大量的矩阵运算。10.2矩阵与二次规划二次规划（QuadraticProgramming,QP）是优化问题中的一种重要类型，其目标函数是二次函数，约束条件是线性函数。二次规划在许多领域都有广泛应用，如机器学习、金融优化和工程设计等。二次规划的标准形式：

二次规划问题可以表示为以下标准形式：minimizesubject

to​21​xTHx+fTxAx≤bEx=d​其中，H

是目标函数的二次项系数矩阵（通常是对称矩阵），f

是目标函数的一次项系数向量，A

和

E

是约束条件的系数矩阵，b

和

d

是约束条件的常数向量。求解方法：

二次规划的求解方法包括内点法、梯度投影法、有效集法等。这些方法都需要进行大量的矩阵运算，如矩阵的乘法、加法、求逆和特征值分解等。特别是当问题规模较大时，矩阵运算的效率和稳定性成为求解二次规划的关键。应用实例：

二次规划在机器学习中的应用非常广泛，如支持向量机（SVM）的训练过程就是一个二次规划问题。在SVM中，目标函数是最大化间隔，约束条件是数据点被正确分类。通过求解这个二次规划问题，可以得到最优的权重向量和偏置项，从而构建出分类器。10.3矩阵与半定规划半定规划（SemidefiniteProgramming,SDP）是优化问题中的一种高级类型，其约束条件涉及到矩阵的半正定性。半定规划在控制论、量子计算、金融工程等领域有着广泛应用。半定规划的标准形式：

半定规划问题可以表示为以下标准形式：minimizesubject

to​trace(C⋅X)trace(Ai​⋅X)=bi​,i=1,…,mX⪰0​其中，C

和

Ai​

是给定的对称矩阵，bi​

是给定的常数，X

是对称矩阵变量，trace(⋅)

表示矩阵的迹，⪰

表示矩阵的半正定关系。求解方法：

半定规划的求解方法包括内点法、切割平面法、增广拉格朗日法等。这些方法都需要处理矩阵的半正定性约束，因此涉及到大量的矩阵运算，如矩阵的乘法、加法、特征值分解和奇异值分解等。特别是内点法，通常需要计算矩阵的逆和进行大量的线性代数运算。应用实例：

半定规划在控制论中的应用非常广泛，如鲁棒控制、最优控制等问题都可以转化为半定规划问题来求解。在金融工程中，半定规划也用于风险管理、投资组合优化等方面。通过求解半定规划问题，可以得到最优的控制策略或投资组合配置。第十一章：矩阵在数据科学中的高级应用11.1矩阵与降维技术降维技术是数据科学中的重要手段，用于减少数据的维度，从而简化模型、提高计算效率和减少存储成本。矩阵在降维技术中起着关键作用。主成分分析（PCA）：

PCA是一种常用的线性降维技术，通过正交变换将原始数据转换为一组新的变量（主成分），这些新的变量是原始数据的线性组合，且彼此之间不相关。PCA的核心是求解协方差矩阵的特征值和特征向量，然后通过选择最大的几个特征值对应的特征向量来构建投影矩阵，从而实现降维。矩阵分解：

矩阵分解是另一种常用的降维