矩阵方程AxxB=D的极小范数最小二乘解毕业论文

1、AX+XB=D的最小二乘解摘要矩阵理论不仅是学习经典数学的基础，也是最具有实用价值的数学理论。它不仅是数学的一个重要分支，而且已成为现代科技领域处理大量有限维空间形式和数量关系的有力工具。尤其是计算机的广泛应用，为矩阵理论的应用开辟了广阔的前景。例如，系统工程、优化方法和稳定性理论与矩阵理论密切相关。目前，在矩阵理论领域，矩阵方程解的研究一直是最热门的问题之一。矩阵方程及其解的问题已在生物学、电学、光子光谱学、振动理论、线性最优控制等诸多领域中被发现。重要应用。对矩阵方程解的研究和探索从未间断过。可见，解方程的问题确实是一个很重要的课题。本文将讨论这个命题，利用矩阵的直积（Kronecker

2、product）、矩阵的行矫直和全秩分解来求解矩阵方程的最小二乘解，并且可以用Moore-Penrose逆表示.关键词：矩阵方程 最小二乘解 矩阵直积（Kroneck product） 全秩分解计算摩尔-彭罗斯逆摘 要矩阵理论是学习经典数学的基础，也是最有意义的数学理论之一。它不仅是数学的一个重要分支，而且已成为处理现代技术各种领域中有限维空间结构与数量之间许多关系的有力工具。计算机的广泛使用为矩阵理论的应用带来了光明的前景。许多问题都与矩阵理论密切相关，如系统工程、优化方法、稳定性理论等。目前，矩阵方程的研究已成为矩阵理论中最热门的课题之一。它广泛应用于生物学、电学、光谱学、振动理论、线性最

3、优控制等不同领域。人们一直在研究和探索矩阵方程的解法，这意味着课题研究是至关重要的。本文讨论了矩阵方程的可用解，利用克罗内克积，对矩阵进行全秩分解，得到矩阵方程的最小范数最小二乘解。并且可以用Moore -Penrose 逆来表示。关键词：矩阵方程；最小范数最小二乘解；克罗内克产品；全秩分解算法；摩尔-彭罗斯逆目录TOC o 1-3 h z u HYPERLINK l _Toc326618053 摘要 PAGEREF _Toc326618053 h 1 HYPERLINK l _Toc326618054 摘要 PAGEREF _Toc326618054 h 2 HYPERLINK l _Toc

4、326618055 1简介 PAGEREF _Toc326618055 h 4 HYPERLINK l _Toc326618056 1.1 Yapunov矩阵方程5的应用背景及研究现状 PAGEREF _Toc326618056 h HYPERLINK l _Toc326618057 1.2本文的主要工作 PAGEREF _Toc326618057 h 5 HYPERLINK l _Toc326618058 1.3符号说明 PAGEREF _Toc326618058 h 6 HYPERLINK l _Toc326618059 2预备知识 PAGEREF _Toc326618059 h 7 HY

5、PERLINK l _Toc326618060 2.1矩阵 PAGEREF _Toc326618060 h 7个数 HYPERLINK l _Toc326618061 2.1.1 8号矩阵的定义 PAGEREF _Toc326618061 h HYPERLINK l _Toc326618062 2.1.2矩阵数的性质 PAGEREF _Toc326618062 h 8 HYPERLINK l _Toc326618063 2.2矩阵的直积及其应用 PAGEREF _Toc326618063 h 10 HYPERLINK l _Toc326618064 2.2.1直积概念 PAGEREF _Toc

6、326618064 h 10 HYPERLINK l _Toc326618065 2.2.2矩阵直积的性质 PAGEREF _Toc326618065 h 11 HYPERLINK l _Toc326618066 2.2.3线性矩阵方程的可解性 PAGEREF _Toc326618066 h 11 HYPERLINK l _Toc326618067 2.3矩阵的全秩分解 PAGEREF _Toc326618067 h 12 HYPERLINK l _Toc326618068 2.3.1矩阵全秩分解的定义 PAGEREF _Toc326618068 h 12 HYPERLINK l _Toc32

7、6618069 2.3.2矩阵全秩分解的性质 PAGEREF _Toc326618069 h 12 HYPERLINK l _Toc326618070 2.4广义逆矩阵的存在与性质 PAGEREF _Toc326618070 h 14 HYPERLINK l _Toc326618071 2.4.1 Penrose的广义逆矩阵定义 PAGEREF _Toc326618071 h 14 HYPERLINK l _Toc326618072 2.4.2广义逆矩阵的性质 PAGEREF _Toc326618072 h 14 HYPERLINK l _Toc326618073 2.4.3 Moore-Pe

8、nrose逆矩阵的计算 PAGEREF _Toc326618073 h 15 HYPERLINK l _Toc326618074 3矩阵方程的最小二乘解 PAGEREF _Toc326618074 h 16 HYPERLINK l _Toc326618075 3.1广义逆矩阵和线性方程组的解 PAGEREF _Toc326618075 h 16 HYPERLINK l _Toc326618076 3.1.1线性方程组最小二乘解的定义 PAGEREF _Toc326618076 h 16 HYPERLINK l _Toc326618077 3.1.2矩阵方程到线性代数方程的变换 PAGEREF

9、_Toc326618077 h 17 HYPERLINK l _Toc326618078 3.2求解 PAGEREF _Toc326618078 h 矩阵方程18 HYPERLINK l _Toc326618079 3.2.1在一致条件下 PAGEREF _Toc326618079 h 求解矩阵方程的情况1 9 HYPERLINK l _Toc326618080 3.2.2矩阵方程不相容时的解 PAGEREF _Toc326618080 h 2 1 HYPERLINK l _Toc326618081 结论 PAGEREF _Toc326618081 h 2 2 HYPERLINK l _Toc

10、326618082 至 PAGEREF _Toc326618082 h 2 3 HYPERLINK l _Toc326618083 参考文献 PAGEREF _Toc326618083 h 2 41 简介矩阵理论不仅是学习经典数学的基础，也是最具有实用价值的数学理论。它不仅是数学的一个重要分支，而且已成为现代科技领域处理大量有限维空间形式和数量关系的有力工具。在矩阵理论领域，矩阵方程解的研究一直是最热门的问题之一，对矩阵方程解的研究和探索一直没有中断，但几乎所有的结论都是基于矩阵作为特殊的矩阵（如对称矩阵等），或者解的表达形式过于繁琐。此外，还有一些文献只讨论理解的存在。 Lyapunov 方

11、程在力学和控制论等许多领域都有重要的应用。可见，方程的求解问题确实是一个很重要的课题，所以有必要考虑给出方程的最小二乘解的表达式。本文将讨论这个命题，最后给出它的重要应用矩阵方程的最小二乘解和极小数的最小二乘解。1.1 Yapunov矩阵方程的应用背景及研究现状在科学和工程中，经常遇到求解线性方程组的问题。矩阵是描述和求解线性方程组的最基本和最有用的数学工具。矩阵的基本数学运算有很多，如转置、乘积、外积、逆矩阵、广义逆矩阵等。矩阵方程及其解问题在生物学、电学、光子光谱学、振动理论、有限元、结构设计、参数辨识、自动控制理论、线性最优控制等诸多领域都有重要的应用。提出了许多不同类型的线性矩阵方程的

12、模型问题，刺激了该理论的快速发展，使得线性矩阵方程的求解成为当今计算数学领域的研究热点之一。经过国外专家学者的不断探索，迄今为止，在线性矩阵方程问题的研究中取得了一系列丰硕的成果。对于矩阵方程，1955年彭罗斯得到了它有通解的充要条件和通解表达式； 1994年，黄礼平博士研究了四元数方阵的标准形式和矩阵方程问题； 2002年马飞，博士研究 2004年，袁永新教授研究矩阵方程的最优解。1.2本文的主要工作论文第一章简要介绍了李雅普诺夫方程研究的实际背景和研究现状；第二章介绍了现有的主要成果、数论、矩阵的直接乘积（Kronecker product）、矩阵全秩分解的row-wise straigh

13、tened sum算法等。第三章是本文的主要工作。根据直积的定义和性质，可以将矩阵方程化简为总则线性方程组。得到方程的最小解和最小二乘解。虽然最小二乘解一般不唯一，但最小二乘解确实是唯一的，可以用 Moore-Penrose 逆来表示。如果矩阵方程不相容，则其最小二乘解需要满足矩阵方程的最小二乘解。第四章给出结论，最后是本文的参考书目。1.3符号说明实数字段实维向量空间实矩阵空间秩实矩阵复数域复维向量空间复矩阵空间复杂的秩矩阵矩阵的行列式维线性空间矩阵的范围，的列空间矩阵的秩单位换算向量和向量的乘积向量生成的子空间矩阵的转置矩阵的共轭转置矩阵的行和列任意数量的矩阵矩阵的 Frobenius 数

14、矩阵的条件数矢量-数字矩阵的特征值矩阵和矩阵的直接乘积矩阵的逐行拉直产生的列向量矩阵的摩尔-彭罗斯逆矩阵的组逆2预备知识2.1矩阵数量在计算数学，特别是数值代数中，数论在研究数值方法的收敛性、稳定性和误差分析时非常重要。本章主要讨论矩阵空间中矩阵数的理论和性质。矩阵空间是一维线性空间。矩阵A被看作是线性空间中的一个“向量”，A的个数可以用定义-数的方式来定义。但是，矩阵之间也存在乘法，这应该体现在数的定义中。2.1.1矩阵数的定义定义 2.1让, 定义一个满足以下三个条件的实值函数非负性：则 , 0；那么 , ;均质： ;三角不等式： , , 称为A的广义矩阵数。如果是, , 和上相同的广义矩

15、阵数，我们有兼容性：,称为矩阵数。2.1.2矩阵数的性质与向量的情况一样，矩阵序列也有极限的概念：有一个矩阵序列 ，其中, .如果记录的行和列的元素被使用，并且有极限，那么就有极限，或者说收敛到矩阵，记为=或不收敛的矩阵序列称为发散矩阵。因此可以证明，充分必要条件是：(3)的定义2.1，可以证明以下不等式| |由此可以证明矩阵数的连续性，即可以启动其实从上面的讨论来看，当时，但是|所以在那个时候，就有了。推论 2.1 知道A = ( , 可以证明以下两个函数,是上面的矩阵数。证明对于一个函数，它显然是非负性和齐性的，下面只验证三角不等式和相容性+因此，是A的矩阵数。同理，可以证明它也是A的矩阵

16、数。与向量数一样，矩阵数也是多种多样的。然而，在数值方法中做某种估计时，遇到的大多数情况是矩阵的个数往往与向量的个数混在一起，矩阵往往表现为两个线性空间上的线性映射（变换）。因此，当考虑一些矩阵时，应该可以将其与向量的数量联系起来。这可以通过矩阵数与向量数兼容的概念来实现。下面介绍这个概念。定义 2.2对于上的矩阵个数和齐次向量个数，如果, (2.1)矩阵和向量的数量被认为是兼容的。定理 2.1设A ，且都是酉矩阵，则即A左或右乘以酉矩阵后，其值不变（ when和Q都是正交矩阵）。A的第 j列，则有即。然后推论2.2与A 相似的酉（或正交）矩阵的F 个数相同，即如果，则，其中Q是酉矩阵。2.2

17、矩阵的直积及其应用矩阵的直积（Kronecker product）在矩阵的理论研究和计算方法中有着非常重要的应用。特别是，利用矩阵的直接乘积运算，可以将线性矩阵方程转化为线性代数方程进行讨论或计算。2.2.1直接产品概念首先从简单的例子开始。有二元向量和三元向量，它们分别经过二阶矩阵和三阶矩阵，即, 的变换变成向量和, 即我们有,现在考虑一个六元素向量，其分量是这两个向量分量的乘积什么样的线性变换可以变成六元向量假设因此有+ ( )所以变换后的矩阵是一个六阶矩阵一般引入以下定义。定义2.3称其为如下块矩阵(2.2)的直接产品（克罗内克产品）。是块矩阵，所以公式 ( 2.2.1) 也可以简写为=

18、 (2.3)2.2.2矩阵直积的性质矩阵的直积具有以下性质。(1)(2)设为同阶矩阵，则(3)(4)让,，然后.假设两者都是可逆的，那么(6)如果两者都是上三角（lower triangular）矩阵，那么它们也是上三角（lower triangular ）矩阵。(7)(8) 如果和都是正交（酉）矩阵，那么它们也是正交（酉）矩阵。2.2.3线性矩阵方程的可解性在系统控制等工程领域，经常会遇到矩阵方程AX+XB=D (2.4)的解问题，其中,是已知矩阵， ,是未知矩阵。一般来说，线性矩阵方程可以表示为(2.5)其中是已知矩阵，是未知矩阵。下面利用矩阵直积的性质来研究矩阵方程(2.5)的可解性。设

19、置，并注意第一个行为和然后有从而=定理2.2式（2.5）有解的充要条件是，这里 表示矩阵A的列空间。定理2.3假设的特征值是方程有唯一解的充分必要条件。2.3矩阵的全秩分解本节讨论将非零矩阵分解为列满秩矩阵和行满秩矩阵的乘积的问题。2.3.1矩阵全秩分解的定义定义 2.4令，如果有一个矩阵和使得(2.6)则公式（2.6）称为矩阵的全秩分解。当它是满秩（列满秩或行满秩）矩阵时，可以分解为一个因子是单位矩阵，另一个因子是它本身，这种全秩矩阵分解称为平凡分解。2.3.2矩阵全秩分解的性质矩阵的全秩分解具有以下性质：定理 2.4假设存在满秩分解 (2.6)。在证明的时候，根据矩阵的初等变换理论，可以将

20、初等变换转化为梯形矩阵，即那么有一个有限数量的阶初等矩阵的乘积，记为，使得或者会被分块, ,然后有其中是列满秩矩阵，是行满秩矩阵。认证应该指出，矩阵（2.6）的全秩分解不是唯一的。这是因为如果它是任意阶的非奇异矩阵，则方程（2.6）可以重写为这是 的另一个全秩分解。求列满秩矩阵时，需要求矩阵及其逆矩阵，非常麻烦。为了避免这些操作，引入以下定义。定义 2.5令, 并满足(1)上一行的每一行至少包含一个非零元素，且第一个非零元素为1，后续行的元素全为零；(2) 如果第 1 行的第一个非零元素 1 在( ) 列中，则；(3)是单位矩阵的前列，则称为 Hermite 标准形式。定义 2.6以阶单位矩阵

21、的列向量为列组成的阶矩阵(2.7)称为排列矩阵，这里是1,2 的排列。定理 2.5假设Hermite 正则形式为（如 2.5 中所定义），则在（ 2.6 ）的全秩分解中，可取为.顺便说一下，有一个顺序可逆矩阵使得或者根据定理，块将是, ,可以得到一个全秩分解，其中是的前一行形成的矩阵。接下来，确定列满秩矩阵。参考Hermite 规范形式, 作为阶置换矩阵除, , 那么有其中。再次可用即的前列形成的矩阵，的列形成的矩阵。认证2.4广义逆矩阵的存在与性质2.4.1 Penrose的广义逆矩阵定义定义 2.7设置一个矩阵，如果矩阵满足以下四个彭罗斯方程（一世）(二)(四)称为Moore-Penros

22、e 逆，记为。定理 2.6存在并且对于任何.先证者存在的证明。如果是零矩阵，则可以验证零矩阵满足四个彭罗斯方程。如果，根据定理，可以进行奇异值分解,其中是的奇异值，并且分别是阶酉矩阵和阶酉矩阵。易于验证四个彭罗斯方程得到满足。看得见，一直都在。唯一性满足方程(i)(iv)，则认证2.4.2广义逆矩阵的性质广义逆矩阵具有以下性质定理 2.7假设, , , 那么(1)(2) ;(3) 如果和不是单数，则;(4) ;(5)并且都是幂等矩阵并且具有相同的秩；(6)定理 2.8给定矩阵和，充要条件是显然证明是充分的，如果，从定理 2.6(5)，我们有因此，存在一个矩阵使得从而必然是因为和互为1,2-逆，

23、可由2.4.2定理( )的(4)得到。认证定理 2.9 如果给定矩阵，则(1)(2)(3) ;(4) ;(5) ;(6)推论 2.2如果, 那么(2.8)如果，那么(2.9)推论 2.3设为维度列向量， ，则(2.10)和(2.11)2.4.3Moore-Penrose逆矩阵的计算假设矩阵的秩为，其中，下面介绍一种求Moore-Penrose逆矩阵的方法，即全秩分解法。前面介绍了矩阵全秩分解的概念，给出了通过初等变换进行全秩分解的方法。假设全秩分解为(2.12)其中， ，则可根据下列定理给出的结论计算广义逆矩阵。设置的全秩分解是等式。 (2.12)，那么(1)(2)(3)(4)(5)定理证明根

24、据定义，很容易验证 (1), (2) 成立。(3) 可以直接从 (1), (2) 得到。 （当它们分别被替换时，结论仍然成立。）(4) 从 (3) 知道， ， 和 因为所以另一个公式可以类似地证明。(5) 由(4) 可知， , , 包含公式及其他结论。3矩阵方程的最小二乘解3.1广义逆矩阵和线性方程组的解3.1.1线性方程的最小二乘解的定义考虑一个非齐次线性方程组(3.1)其中是给定的，并且是未确定的向量。如果存在使方程组 (3.1) 为真的向量，则称方程组是相容的，否则称为不相容或矛盾方程组。关于线性方程组的求解，常见的有以下几种情况。(1) 方程组(3.1)兼容的条件是什么？当它兼容时找到

25、它的通用解决方案（如果解决方案不是唯一的）。(2) 如果方程(3.1)相容，则可能有无穷多个解，得到极小数的解，即(3.2)欧几里得数在哪里。可以证明满足这个条件的解是唯一的，称为最小解。(3) 如果方程组 (3.1) 不相容，则没有通常意义上的解。但在很多实际问题中，需要解决极值问题(3.3)，欧几里得数在哪里。这种极值问题称为求矛盾方程的最小二乘问题，对应的矛盾方程的最小二乘解称为。(4) 一般而言，矛盾方程的最小二乘解不是唯一的，但在最小二乘解的集合中，存在极小的解。(3.4)是唯一的，称为最小二乘解。广义逆矩阵与线性方程组的解密切相关。广义逆矩阵可以用来解决上述许多问题，反之，广义逆矩

26、阵可以由线性方程的解来确定。3.1.2将矩阵方程转换为线性代数方程对于比较复杂的矩阵方程的解，我们通常采用行向量拉直的方法，将矩阵方程转化为线性方程，将矩阵方程转化为形式，然后讨论矩阵方程的解。假设的第一个行为可以表示为所以所以由以上推理，我们可以得到也就是说，矩阵方程被行向量拉直为让, , ,那么矩阵方程可以写成等价形式3.2求解矩阵方程考虑矩阵方程（其中），在通过行向量拉直它之后，即表示，这里表示的第 th行。挑出来3.2.1在兼容的条件下求解矩阵方程在一致条件下求解矩阵方程的情况，以及其中和。由前面的分析可知，矩阵方程变为可以看出，当且仅当矩阵非奇异时，矩阵具有唯一解是相容的。定理3.1

27、成立，当且仅当, 其中的特征值是 ，矩阵方程有唯一解。证明矩阵方程有唯一解有独特的解决方案有独特的解决方案让，并注意的特征值完全相同，由的特征值，所以其中。认证推论 3.1设的特征值和的特征值，则齐次方程有非零解的充要条件是存在。尽管上述定理给出了矩阵方程具有唯一解的充分必要条件，但通常不容易为其解矩阵写出显式表达式。如果和是一个稳定矩阵，即所有特征值的实部都小于零的矩阵，则解有一个明显的表达式。定理3.2令和是一个稳定的矩阵，并且给定。那么线性矩阵方程有一个唯一解，并且，(3.5)证明定理的假设保证不存在与- 相同的特征值，因此根据定理 3.1，存在唯一解。现在考虑初值问题(3.6)其中是上

28、面定义的矩阵值函数。可以得到直接验证，即问题（3.6）的解。对等式 (3.6)两边积分得到,那是.证明由 (3.5) 确定的解，只需要验证上面的公式。为此，只需要证明它对任何稳定矩阵都成立。但根据普遍理论，我们有, ,式中，是不同的特征值，分别是它们的指标，是的分量。现在让，分别的实部和虚部。根据一个稳定矩阵的假设， ，所以.所以， 。所以结论成立。前面我们讨论了有解和唯一解的条件，现在我们讨论方程有解时解的结构形式。具体步骤如下。首先取，我们得到以下特殊矩阵方程：, (3.7)求解方程 (3.7) 等价于找到与 可交换的所有矩阵。显然，方程（3.7）有无穷多个解。事实上，复数多项式）总是它的

29、解。方程(3.7)的解的表达式在下面的定理3.3中给出，然后，应用这个结果，讨论了解的表达式及其解空间的构造。由于解可以表示为齐次方程的齐解与非齐次方程的一个特解之和，所以最后只需要讨论解的条件即可。定理3.3有形式，这里是Jordan 范式，是对应于的特征值的Jordan 块。那么解方程（3.7）的充分必要条件是，其中是一个与 具有相同块形式的块矩阵。然后考虑齐次线性矩阵方程(3.8)解决方案的形式。主要技巧是将其归结为前面讨论的问题。显然，方程（3.8）有解。假设它的解，可以验证(3.9)可交换的，相反，如果（3.9）中的两个阶矩阵是可交换的，则它必须是方程（3.8）的解。因此，将定理 3

30、.3 的结果应用于 (3.9) 中的两个矩阵，我们有,那么矩阵方程 (3.8) 的任何解都具有形式，其中( ) 是矩阵方程 的通解。类似地，将推论应用于矩阵方程(3.10)我们有以下结果推论3.2矩阵方程（3.8）的通解形式为：, (3.11)其中 是方程 (3.8) 的线性独立解，并且, (3.12)这里，是的基本因子的最大公约数的度。顺便指出，(3.12)正是(3.8) 的解空间的维数，所以它也等于，其中。最后考虑总则非齐次矩阵方程(3.13)它等价于一个线性代数方程组, 所以 , , , 因此, 如果方程 (3.10) 是可解的, 它的解要么是唯一的, 要么是无限的, 通解是方程 (3.

31、8) 的通解和方程（3.10）的一些特定解。以下基本结果采用非建设性方法给出了方程（3.10）求解的充分必要条件。显然，它等价于3.2.2矩阵方程不兼容相当于当 时，称矩阵方程是不相容的，并且这个方程组是一个矛盾方程组。当矩阵方程不相容时，可以求出方程的最小二乘解一般来说，矛盾方程的最小二乘解不是唯一的，但在最小二乘解的集合中，具有极小数的解是唯一的，称为最小二乘解。为了求解上述矩阵方程的最小二乘解，需要以下两个引理。引理 3.1被假定为线性方程组的最小二乘解。相反，令是的最小二乘解，则引理 3.2 ，让我们有定理3.4如果矩阵方程不相容且满足矩阵方程的最小二乘解满足唯一的解决办法是。拉直行向量，我们得到从而将