Řešení lineární rovnice
odhadneme vektorem a další přiblížení k přesnému
řešení vypočteme pomocí předpisu
Pro konvergenci iteračního procesu je tedy nutné a stačí, aby
Iterační metody dělíme na metody stacionární, které mají matici konstantní ( ), a na metody nestacionární.