求解加权线性最小二乘问题的预处理迭代方法

给出了求解一类加权线性最小二乘问题的预处理迭代方法,也就是预处理的广义加速超松弛方法（GAOR）,得到了一些收敛和比较结果．比较结果表明当原来的迭代方法收敛时,预处理迭代方法会比原来的方法具有更好的收敛率．而且,通过数值算例也验证了新预处理迭代方法的有效性．     

加权总体最小二乘问题的分析

总体最小二乘问题由Golub和Van Loan首先进行数学的分析,随后人们对于总体最小二乘问题的算法、解的各种形式、总体最小二乘解和最小二乘解的关系、总体最小二乘解的扰动理论以及数值试验作了大量的研究工作。近来,[10]中给出了总体最小二乘问题(TLS)较一般地讨论。另一方面,Golub和Van Loan研究了总体最小二乘问题的特殊均加权形式。本文试图在[10,11]的基础上讨论最一般的总体最小二     

线性子空间上求解AX=B的最小二乘问题的迭代算法

应用共轭梯度方法和线性投影算子,给出迭代算法求解了线性矩阵方程AX=B在任意线性子空间上的最小二乘解问题.在不考虑舍入误差的情况下,可以证明,所给迭代算法经过有限步迭代可得到矩阵方程AX=B的最小二乘解、极小范数最小二乘解及其最佳逼近.文中的数值例子证实了该算法的有效性.     

一类线性约束矩阵不等式及其最小二乘问题

本文主要考虑一类线性矩阵不等式及其最小二乘问题,它等价于相应的矩阵不等式最小非负偏差问题.之前相关文献提出了求解该类最小非负偏差问题的迭代方法,但该方法在每步迭代过程中需要精确求解一个约束最小二乘子问题,因此对规模较大的问题,整个迭代过程需要耗费巨大的计算量.为了提高计算效率,本文在现有算法的基础上,提出了一类修正迭代方法.该方法在每步迭代过程中利用有限步的矩阵型LSQR方法求解一个低维矩阵Krylov子空间上的约束最小二乘子问题,降低了整个迭代所需的计算量.进一步运用投影定理以及相关的矩阵分析方法证明了该修正算法的收敛性,最后通过数值例子验证了本文的理论结果以及算法的有效性.     

AHP最小二乘排序方法及其算法研究

本文研究AHP中的最小二乘排序方法(LSM)及其算法实现,给出了一种简单的收敛性迭代算法,并进行了理论分析和仿真运算。     

广义线性最小二乘问题的一个精确解及其推广

本文在特定的约束条件下,给出了一维线性广义最小二乘问题解的精确表达式,并对解的范围进行了讨论。对n维线性广义最小二乘问题,给出了求解方法,迭代步骤和收敛性定理。     

等式约束不定最小二乘问题的双曲MGS消去算法

众所周知,加权法是解等式约束不定最小二乘问题的方法之一.通过探讨极限意义下,双曲MGS算法解对应加权问题的本质,得到一类消去算法.实验表明,该算法以和文献中现有的GHQR算法达到一样的精度,但实际计算量只需要GHQR算法的一半.     

双变量矩阵方程组对称最小二乘解的迭代算法

本文研究了求双变量线性矩阵方程组的对称最小二乘解的问题.利用求解线性代数方程组的共轭梯度法的基本思想,通过对有关矩阵和系数的变形与近似处理,建立了一种迭代算法.拓宽了共轭梯度法的适用范围.算例表明,迭代算法是有效的.     

Sylvester矩阵方程极小范数最小二乘解的迭代解法

研究了Sylvester矩阵方程最小二乘解以及极小范数最小二乘解的迭代解法,首先利用递阶辨识原理,得到了求解矩阵方程AX+YB=C的极小范数最小二乘解的一种迭代算法,进而,将这种算法推广到一般线性矩阵方程A_iX_iB_i=C的情形,最后,数值例子验证了算法的有效性.     

关于“求解加权线性最小二乘问题的一类预处理GAOR方法”一文的注记

在"求解加权线性最小二乘问题的一类预处理GAOR方法"一文中,作者提出了求解加权线性最小二乘问题等价$2\times 2$块线性系统的一类预处理GAOR方法,并给出了几个比较定理来说明新提出预处理GAOR方法的优越性.本文我们将指出该文中几个比较定理的不完善之处和证明的错误之处,并给出正确的证明.     

关于一类连续最优控制问题的一种可实现的离散方法

本文对具有状态终端约束、控制受限的非线性连续最优控制问题给出一种新的可实现的离散方法，此方法通过求解非线最小二乘问题避免这类问题离散后出现的不可行现象，文中给出这种做法的理论证明和实现方案。     

非线性最小二乘问题的一种迭代解法

本文给出了求解非线性最小二乘问题的一种迭代解法 ,即由已知节点数据 (xi,yi) (i=1 ,2 ,… ,m)求函数 y=f(x,b1,b2 ,… ,bn)中非线性参数 b1,b2 ,… ,bn 的一种迭代解法 .并用实际算例的结果说明了该迭代解法优于一般线性化方法 ,说明了该种方法在实际工程领域中的应用     

双变量LMEs一种异类约束最小二乘解的MCG算法

借鉴求线性矩阵方程组(LMEs)同类约束最小二乘解的修正共轭梯度法,建立了求双变量LMEs的一种异类约束最小二乘解的修正共轭梯度法,并证明了该算法的收敛性.在不考虑舍入误差的情况下,利用该算法不仅可在有限步计算后得到LMEs的一组异类约束最小二乘解,而且选取特殊初始矩阵时,可求得LMEs的极小范数异类约束最小二乘解.另外,还可求得指定矩阵在该LMEs的异类约束最小二乘解集合中的最佳逼近.算例表明,该算法是有效的.     

对称不定问题的不精确Newton法

1.引 言 非线性方程组F（x）=0的数值求解,经典的算法是Newton迭代;xk 1=xk sk,k=0,1,2,…,（1.1）其中的sk满足F’（xk）sk=-F（xk）;k=0,1,2,….（1.2）这里x0为迭代的初始点,{xk}称为Newton迭代序列.当变量个数比较多时,每一步Newton迭代中计算Jacobi矩阵F’（xk）和求解线性方程组（1.2）的代价非常高;特别当xk远离方程组的解x＊时,高精度地求解线性方程组（1.2）     

Indefinitely preconditioned conjugate gradient method for large sparse equality and inequality constrained quadratic problems

This paper is concerned with the numerical solution of a symmetric indefinite system which is a generalization of the Karush–Kuhn–Tucker system. Following the recent approach of Luk?an and Vl?ek, we propose to solve this system by a preconditioned conjugate gradient (PCG) algorithm and we devise two indefinite preconditioners with good theoretical properties. In particular, for one of these preconditioners, the finite termination property of the PCG method is stated. The PCG method combined with a parallel version of these preconditioners is used as inner solver within an inexact Interior‐Point (IP) method for the solution of large and sparse quadratic programs. The numerical results obtained by a parallel code implementing the IP method on distributed memory multiprocessor systems enable us to confirm the effectiveness of the proposed approach for problems with special structure in the constraint matrix and in the objective function. Copyright © 2002 John Wiley & Sons, Ltd.     

Domain decomposition algorithms for indefinite weakly singular integral equations: the h and p versions

We extend the approach of Cai and Widlund (Domain decompositionalgorithms for indefinite elliptic problems, SIAM J. Sci. Stat.Comput. 13 (1992), 243-258), which was designed for finite elementdiscretizations, to boundary element discretizations of indefiniteweakly singular integral equations. Both the h and p versionsof the Galerkin approximation are considered. We prove thatthe additive Schwarz method suggested by Cai and Widlund canbe used for this equation as an efficient preconditioner forGMRES, an iterative method of conjugate gradient type. For bothversions, the rates of convergence of this iterative methodare shown to approach 1 only logarithmically as the degreesof freedom tend to infinity.     

改良PP回归最小二乘估计的相合性

本文考虑了PP回归估计问题，给出了PP方向和岭函数相合的改良估计，降低了文献中的限制条件．     

一个新的求解线性规划最小二乘算法

§1Introduction Currently,therearetwopopularapproachesinlinearprogramming:pivotalgorithm andinterior-pointalgorithm.Manyoftheirvariantsdevelopedbothintheoryand applicationsarestillinprogress.Thepivotmethodobtainstheoptimalsolutionviamoving consecutivelytoabettercorner-pointinthefeasibleregion,anditsmodificationstryto improvethespeedofattainingtheoptimality.Incontrast,theinterior-pointalgorithmis claimedasaninterior-pointapproach,whichgoesfromafeasiblepointtoafeasiblepoint throughtheinterioroft…     

强不定问题的变分方法

简要回顾近年来关于强不定问题的变分方法某些研究方面的发展．首先介绍强不定问题,接着叙述建立强不定问题的变分框架的基本思路,进而给出局部凸拓扑线性空间的形变理论,最后陈述几个基于此形变理论的处理强不定问题的临界点定理．这些理论的应用将在后续文章中介绍．