来福网

QR分解

向量 · 向量空间  · 行列式  · 矩阵

标量 · 向量 · 向量空间 · 向量投影 · 外积(向量积) · 内积(数量积)

矩阵 · 行列式 · 线性方程组 · 秩 · 核 · 迹 · 单位矩阵 · 初等矩阵 · 方块矩阵 · 分块矩阵 · 三角矩阵 · 非奇异方阵 · 转置矩阵 · 逆矩阵 · 对角矩阵 · 可对角化矩阵 · 对称矩阵 · 反对称矩阵 · 正交矩阵 · 幺正矩阵 · 埃尔米特矩阵 · 反埃尔米特矩阵 · 正规矩阵 · 伴随矩阵 · 余因子矩阵 · 共轭转置 · 正定矩阵 · 幂零矩阵 · 矩阵分解 (LU分解 · 奇异值分解 · QR分解 · 极分解 · 特征分解) · 子式和余子式 · 拉普拉斯展开 · 克罗内克积

线性空间 · 线性变换 · 线性子空间 · 线性生成空间 · 基 · 线性映射 · 线性投影 · 线性无关 · 线性组合 · 线性泛函 · 行空间与列空间 · 对偶空间 · 正交 · 特征向量 · 最小二乘法 · 格拉姆-施密特正交化

QR分解法是三种将矩阵分解的方式之一。这种方式,把矩阵分解成一个正交矩阵与一个上三角矩阵的积。QR分解经常用来解线性最小二乘法问题。QR分解也是特定特征值算法即QR算法的基础。

实数矩阵的QR分解是把分解为

这里的是正交矩阵(意味着T = )而是上三角矩阵。类似的,我们可以定义A的QL, RQ和LQ分解。

更一般的说,我们可以因数分解复数 m {displaystyle m} ≥ )为 m {displaystyle m} ∗ = 的意义上,不需要是方阵)和 n {displaystyle n} m {displaystyle m} 是非奇异的,且限定 的对角线元素为正,则这个因数分解是唯一的。

QR分解的实际计算有很多方法,例如Givens旋转、Householder变换,以及Gram-Schmidt正交化等等。每一种方法都有其优点和不足。

Householder变换将一个向量关于某个平面或者超平面进行反射。我们可以利用这个操作对 m × n ( m n ) {displaystyle mtimes n(mgeqq n)} 维实列向量,且有 x = | α | {displaystyle |mathbf {x} |=|alpha |} = cos() 和 = sin() 出现在第 行和第 行与第 列和第 列的交叉点上。就是说,吉文斯旋转矩阵的所有非零元定义如下::

乘积 (, , )x 表示向量 x 在 (,)平面中的逆时针旋转 θ 弧度。

对于一个向量

如果, r = a 2 + b 2 {displaystyle r={sqrt {a^{2}+b^{2}}}} , c = a r {displaystyle c={frac {a}{r}}} , s = b r {displaystyle s=-{frac {b}{r}}} , 那么,就存在旋转矩阵G,使 A {displaystyle A} 底部转成0。

每一次的旋转,吉文斯旋转都可以将一个元素化成0,直到将原始矩阵转成一个上三角矩阵,则完成分解。

对于: A 2 {displaystyle A_{2}} 子矩阵 : A 2 _ S u b {displaystyle A_{2_Sub}}

格拉姆-施密特正交化的基本想法,是利用投影原理在已有正交基的基础上构造一个新的正交基。

v V n {displaystyle {boldsymbol {v}}in {boldsymbol {V^{n}}}} V k {displaystyle {boldsymbol {V}}^{k}} V n {displaystyle {boldsymbol {V}}^{n}} 上的 k {displaystyle k} 维子空间,其标准正交基为 { η 1 , , η k } {displaystyle {{boldsymbol {eta }}_{1},ldots ,{boldsymbol {eta }}_{k}}} ,且 v {displaystyle {boldsymbol {v}}} 不在 V k {displaystyle {boldsymbol {V}}^{k}} 上。由投影原理知, v {displaystyle {boldsymbol {v}}} 与其在 V k {displaystyle {boldsymbol {V}}^{k}} 上的投影 p r o j V k v {displaystyle mathrm {proj} _{boldsymbol {V^{k}}}{boldsymbol {v}}} 之差


是正交于子空间 V k {displaystyle {boldsymbol {V}}^{k}} 的,亦即 β {displaystyle {boldsymbol {beta }}} 正交于 V k {displaystyle {boldsymbol {V}}^{k}} 的正交基 η i {displaystyle {boldsymbol {eta }}_{i}} 。因此只要将 β {displaystyle {boldsymbol {beta }}} 单位化,即

那么 { η 1 , , η k , η k + 1 } {displaystyle {{boldsymbol {eta }}_{1},ldots ,{boldsymbol {eta }}_{k},{boldsymbol {eta }}_{k+1}}} 就是 V k {displaystyle {boldsymbol {V}}^{k}} v {displaystyle {boldsymbol {v}}} 上扩展的子空间 s p a n { v , η 1 , . . . , η k } {displaystyle mathrm {span} {{boldsymbol {v}},{boldsymbol {eta }}_{1},...,{boldsymbol {eta }}_{k}}} 的标准正交基。

根据上述分析,对于向量组 { v 1 , , v m } {displaystyle {{boldsymbol {v}}_{1},ldots ,{boldsymbol {v}}_{m}}} 张成的空间 V m {displaystyle {boldsymbol {V}}^{m}} ( m n {displaystyle mn} ),只要从其中一个向量(不妨设为 v 1 {displaystyle {boldsymbol {v}}_{1}} )所张成的一维子空间 s p a n { v 1 } {displaystyle mathrm {span} {{boldsymbol {v}}_{1}}} 开始(注意到 v 1 {displaystyle {boldsymbol {v}}_{1}} 就是 s p a n { v 1 } {displaystyle mathrm {span} {{boldsymbol {v}}_{1}}} 的正交基),重复上述扩展构造正交基的过程,就能够得到 V n {displaystyle {boldsymbol {V}}^{n}} 的一组正交基。这就是格拉姆-施密特正交化。

首先需要确定已有基底向量的顺序,不妨设为 { v 1 , , v n } {displaystyle {{boldsymbol {v}}_{1},ldots ,{boldsymbol {v}}_{n}}} 。Gram-Schmidt正交化的过程如下:

这样就得到 s p a n { v 1 , , v n } {displaystyle mathrm {span} {{boldsymbol {v}}_{1},ldots ,{boldsymbol {v}}_{n}}} 上的一组正交基 { β 1 , , β n } {displaystyle {{boldsymbol {beta }}_{1},ldots ,{boldsymbol {beta }}_{n}}} ,以及相应的标准正交基 { η 1 , , η n } {displaystyle {{boldsymbol {eta }}_{1},ldots ,{boldsymbol {eta }}_{n}}}

现在要用格拉姆-施密特变换求解矩阵 A {displaystyle A} Q R {displaystyle QR} 分解。

令, a = {displaystyle a=}

那么可知,

A = Q R {displaystyle A=QR} ,可知,

MATLAB以qr函数来执行QR分解法,其语法为

此外,原矩阵A不必为正方矩阵;如果矩阵A大小为 m × n {displaystyle mtimes n} ,则矩阵Q大小为 m × m {displaystyle mtimes m} ,矩阵R大小为 m × n {displaystyle mtimes n}

对于直接求解线性方程组的逆,用QR分解的方法求解会更具有数据的稳定性。对于求解一个线性系统 A x = b {displaystyle Ax=b} , 这里 A {displaystyle A} 的维度是 m × n {displaystyle mtimes n}

如果 m n {displaystyle mleq n} , 那么 A T = Q R {displaystyle A^{T}=QR} ,这里 Q T = Q 1 {displaystyle Q^{T}=Q^{-1}} )。

R {displaystyle R} 的形式是 R = {displaystyle R={begin{bmatrix}R_{1}\0end{bmatrix}}} R 1 {displaystyle R_{1}} R {displaystyle R} 上不为0的部分。那么对于

如果 m n {displaystyle mn} , 那么 A = Q R {displaystyle A=QR} ,这里 Q T = Q 1 {displaystyle Q^{T}=Q^{-1}} )。本质是最小化 | | A x ^ b | | {displaystyle ||A{hat {x}}-b||}

后台-插件-广告管理-内容底部广告位PC端
后台-插件-广告管理-内容底部广告位手机端

相关推荐

评论

全部评论