Das Gauß-Seidl-Verfahren wird zur iterativen Lösung von
linearen Gleichungssytemen verwendet.
Die Konvergenz ist für dieses Verfahren besonders wichtig, da man bei jedem Iterationsschritt
bessere Näherungen haben möchte, als die vorherigen Komponenten es waren.
Wenn für eine Matrix A das Zeilensummen-Kriterium erfüllt oder A positiv definit ist, dann
konvergiert dieses Verfahren für einen beliebigen Startvektor gegen die gesuchte Lösung von
Ax=b.
Das Zeilensummen-Kriterium ist eine Ungleichung, die besagt, daß in jeder Zeile der Matrix A
das Diagonalelement dem Betrage nach größer als die Summe der Nicht-Diagonalelemente ist.
Im Gegensatz zum Gesamtschritt-Verfahren verwendet man beim
Gauß-Seidl-Verfahren die neu berechneten Komponenten.
Wählt man als Richtungen für die Minimierung (ohne Rücksicht auf die Residuen zu nehmen) zyklisch die Koordinatenrichtungen
Im Minimierungsschritt wird nur die i-te Komponente des Vektors x(m) verändert:
Faßt man die n Komponenten, die das Resultat eines Zyklus sind, in einem Vektor x(k)
zusammen, so erhält man die Methode, die Einzelschritt- oder Gauß-Seidel-Verfahren genannt
wird.
Die Abnahme von f beim Minimierungsschritt ist durch folgendes gegeben:
Die Folge {f(x(m))} ist daher monoton fallend und nach unten beschränkt (weil f ein endliches Minimum besitzt), also konvergent.