Jeder iterative Prozeß liefert für einen Startwert

im mathematischen Sinn eine unendliche Folge {x(k)}. Für die praktische Lösung nichtlinearer Gleichungssysteme sind jedoch nur Algorithmen von Bedeutung, die für jeden Startwert x(0) nach endlich vielen Schritten ein Resultat liefern.
Sowohl für den Entwickler als auch für den Benutzer von Software zur Lösung nichtlinearer Gleichungen ist die Wahl geeigneter Abbruchkriterien bzw. Ihrer Parameter

eine wichtige und schwierige Aufgabe. Es müssen dabei Korrektheit und Effizienz gegeneinander abgewogen werden.
* Die Iteration darf nicht zu früh (d.h. weiter von der gesuchten Lösung entfernt als gefordert) beendet werden.
* Die Iteration soll nicht zu spät (d.h. nach dem Erreichen unnötig hoher Genauigkeit mit unnötig hohem Rechenaufwand) abgebrochen werden.
Ein zuverlässiges Programm sollte bei einer konvergenten Folge {x(k)} erkennen, ob der zuletzt berechnete Näherungswert x(k) bereits sie gewünschte Genauigkeit besitzt. Grundlage dieser Entscheidung ist ein Konvergenztest. Für schlechte Startwerte oder für Probleme, die überhaupt keine Lösung besitzen, müssen Mechanismen vorgesehen werden, die nicht konvergente Situationen erkennen und die Iteration mit der entsprechenden Information an den Anwender terminieren. Test zum Erkennen von Nicht-Konvergenz sind genauso wichtig wie Konvergenztests.
Abbruchkriterien
Die Kriterien zum Abbruch eines iterativen Nullstellenverfahrens sind:
1) Das numerische Problem wurde gelöst, indem ein Näherungswert

ermittelt wurde, der die vorgegebene Toleranz, also z.B. eine der folgenden Ungleichungen erfüllt:

oder

2) Das numerische Problem kann nicht gelöst werden, weil z.B. überhaupt keine Nullstelle von F existiert.
In den meisten Softwareprodukten werden Schätzwerte für die Norm des Fehlers

als Abbruchkriterium herangezogen. Sobald z.B. eine der Ungleichungen

oder eine Mischform (zur Vermeidung von Schwierigkeiten bei

), z.B.

erfüllt, wird die Iteration beendet. Falls die Folge {x(k)} rasch gegen x* konvergiert, d.h. falls

gilt, so ist

und aus

folgt

Konvergiert die Folge {x(k)} jedoch sehr langsam gegen x*, wenn also

gilt, so kann

sehr klein sein, obwohl die geforderte Genauigkeit noch bei weitem nicht erreicht ist. In diesem Fall führen die obigen Abbruchkriterien zu einem verfrühtem Terminieren.
Das Residuum

liefert im Vergleich zum Fehler ein weniger kritisches Abbruchkriterium: es wird allenfalls durch Auslöschungseffekte beeinträchtigt, da

nahe der Lösung x* gilt. Bei Funktionen mit großer Ableitung

kann das Residuum sehr groß sein

obwohl der Fehler

bereits sehr klein ist. Es empfiehlt sich daher, nicht ausschließlich die Residuenbedingung

als Abbruchkriterium zu verwenden. Die meisten Bibliotheksprogramme beurteilen die Konvergenz nach beiden Kriterien.
Kriterien für Nicht-Konvergenz
Die Diagnose einer Divergenz der Folge {x(k)} erfolgt meist durch eines der Kriterien

oder nach mehrmaligem Anwachsen des Residuums, z.B.

Sofern das Problem f(x)=0 überhaupt eine Lösung mit nichttrivialem (nichtentartetem) Einzugsbereich besitzt, deutet das 2.Kriterium auf die Wahl eines ungünstigen Startwertes x(0) hin. In diesen Fällen empfiehlt sich die Wiederholung der iterativen Nullstellenbestimmung mit einem (z.B. durch Zufallssuche ermittelten) neuen Startwert.
Außer den beiden angeführten Kriterien kann sich Nicht - Konvergenz auch durch systematisches, vor allem aber durch unsystematisches Oszillieren der Folge {x(k)} bemerkbar machen. Das Diagnostizieren eines derartigen Verhaltens wäre für ein Bibliotheksprogramm (bei dem auch die Effizienz ein wichtiges Qualitätsmerkmal ist) viel zu aufwendig. Iterationsfolgen {x(k)} mit unspezifischer Nichtkonvergenz bzw. Zu langsamer Konvergenz werden daher immer durch eine Aufwandsbeschränkung
k<kmax,
d.h. durch Vorgabe einer Maximalzahl der Iterationsschritte, terminiert.
Dieses Kriterium kann auch bei zu klein gewählten Toleranzparametern

zum Abbruch der Iteration führen. Die Situation

wird in manchen Programmen separat abgefragt und führt zur Terminierung mit einer entsprechenden Meldung. Wenn jedoch die Werte von F mit Ungenauigkeiten behaftet sind, die über dem Niveau elementarer Rundungsfehler liegen (noisy functions), und die Toleranzparameter eine Lösungsgenauigkeit vorschreiben, die aus diesem Grund nicht erreicht werden kann, so ist oft die Aufwandsbeschränkung jene Bedingung, die zum Abbruch führt.
Ein Grund für den Abbruch einer Iteration kann auch die Nichtausführbarkeit von Teilalgorithmen bestimmter Nullstellenverfahren sein. Wenn z.B. eines der linearen Gleichungssysteme, die beim Newton-Verfahren in jedem Schritt zu lösen sind, (numerisch) singulär ist, führt dies bei manchen Programmen zum Abbruch des gesamten Nullstellenverfahrens.