An algorithm for solving nonlinear least-squares problems with a new curvilinear search

Abstract

We propose a modification of an algorithm introduced by Martínez (1987) for solving nonlinear least-squares problems. Like in the previous algorithm, after the calculation of an approximated Gauss-Newton directiond, we obtain the next iterate on a two-dimensional subspace which includesd. However, we simplify the process of searching the new point, and we define the plane using a scaled gradient direction, instead of the original gradient. We prove that the new algorithm has global convergence properties. We present some numerical experiments.

Zusammenfassung

Es wird eine Modifikation eines Algorithmus von Martínez vorgeschlagen. Wie früher wird zunächst eine Gauß-Newton Richtungd näherungsweise berechnet und dann die nächste Iteration in einem zweidimensionalen Unterraum berechnet, der auchd enthält. In der vorliegenden Arbeit wird der Suchprozeß vereinfacht und zur Definition des Unterraumes wird nun ein skalierter Gradient verwendet. Der neue Algorithmus konvergiert global. Über numerische Experimente wird berichtet.