ПОНЯТИЕ О МЕТОДЕ РЕЛАКСАЦИИ
В случаях, когда применение оценок погрешностей в методах простых итераций и Зейделя невозможно из-за отсутствия констант 
 или 
 , ограничивающих сверху какие-либо нормы матрицы итерирования соответствующего метода (см. теоремы 6.2 и 6.6), эти методы неэффективны и, более того, как будет показано в параграфе 6.7, малонадежны ввиду медленной сходимости. Рассмотрим одно обобщение метода Зейделя, позволяющее иногда в несколько раз ускорить сходимость итерационной последовательности.
Пусть 
 – обозначение 
 -й компоненты 
 -го приближения к решению системы (6.1) по методу Зейделя, а обозначение 
 будем использовать для 
 -й компоненты 
 -го приближения, получаемого новым методом. Этот метод определим равенством
 (6.21)
где 
 ; 
 , 
 – задаваемые начальные значения; ω – числовой параметр, который называют параметром релаксации. Очевидно, при 
 метод (6.21), называемый методом релаксации (ослабления), совпадает с методом Зейделя.
Конкретизируем метод релаксации для случая, когда исходная система (6.1) представляется в виде (6.7) и, следовательно, метод Зейделя имеет вид (6.13).
Пользуясь введенными здесь обозначениями, запишем на основании (6.13) дополнительное к (6.21) равенство для выражения компонент векторов 
 через компоненты векторов 
 (6.22)
Таким образом, метод релаксации можно понимать как поочередное применение формул (6.22) и (6.21) при каждом 
 . Действительно, задав начальные значения 
 и параметр 
 , при 
 , полагая 
 вычислим

при 
 , так же полагая 
 , находим

и т.д. Но можно избавиться от вспомогательной последовательности 
 , подставив (6.22) в (6.21). Для 
 будем иметь:
 (6.23)
От формулы (6.23), объединяющей формулы (6.22) и (6.21) и пригодной для проведения покоординатных вычислений, мало отличающихся от вычислений по методу Зейделя, легко перейти к векторно-матричной записи процесса релаксации. с этой целью перепишем (6.23) в виде

и далее, учитывая аддитивное представление матрицы 
 , получаем векторно-матричный итерационный процесс в неявной форме

Умножив последнее равенство слева на матрицу 
 , приходим к эквивалентному (6.23) методу простых итераций
 (6.24)
(подстановка сюда значения 
 превращает (6.24) в МПИ (6.14), эквивалентный методу Зейделя (6.13)).
Представление метода релаксации (6.23) в виде (6.24) позволяет сделать для него некоторые утверждения о сходимости, на основании соответствующих теорем о сходимости МПИ. Например можно применить теоремы 6.1 и 6.2, полагая в них 
 , правда, получаемые при этом результаты вряд ли будут вызывать интерес. Более глубокие результаты на этом пути получают, изучая спектральные свойства таких матриц 
 . Так, установлено, что сходимости процесса (6.23) необходимо, чтобы 
 . Для некоторых классов СЛАУ (6.1) это требование к параметру релаксации является и достаточным. Справедлива следующая теорема, обобщающая теорему 6.8.
Теорема 6.12 (Островского-Рейча).Для нормальной системы 
 метод релаксации (6.23) сходится при любом 
 и любом 
 .
Поскольку итерационный процесс (6.23) содержит параметр, естественно распорядиться им так, чтобы сходимость последовательности 
 была наиболее быстрой. Очевидно, это достигается в том случае, когда спектральный радиус матрицы 
 будет минимальным. В общем случае задача нахождения оптимального значения 
 не решена, и в практических расчетах применяют метод проб и ошибок. Однако для отдельных важных классов задач такие значения удается выразить через собственные числа матрицы 
 (т.е. корни уравнения, фигурирующего в теореме 6.4)и даже оценить ускорение, достигаемое введением в процесс Зейделя оптимального параметра релаксации. Существенно отметить, что это оптимальное значение 
 .При значениях 
 метод (6.23) называют методом последовательной верхней релаксации (сокращенно ПВР- или SOR- методом*). Ввиду низкой эффективности метода (6.23) при 
 , называемого в этом случае методом нижней релаксации, название «метод ПВР» в последнее время относят ко всему семейству методов (6.23), т.е. для любых  
 . При этом случай  
 называют сверхрелаксацией.
Покажем возможный выигрыш при использовании метода ПВР на простейшем примере.
Пример. Для системы

с симметричной положительно определенной матрицей 
 и очевидным решением 
 выполним по три итерационных шага,начиная с  
 , методами Якоби, Зейделя и ПВР соответственно по формулам

и

Сравнительные результаты третьего шага представлены следующей таблицей.
Таблица 6.1
| Метод Якоби | Метод Зейделя |  Метод ПВР
 (с   )
  |  |
  
  |  0,875 | ≈0,969 | ≈1,0008 | 
  
  |  −0,875 | ≈−0,984 | ≈−1,0009 | 
  
  |  0,125 | ≈0,031 | <0,001 | 
Значение параметра релаксации ω здесь взято близким к оптимальному, которое для матриц «упорядоченных согласованно со свойством А» находится по формуле

где 
 – спектральный радиус матрицы 
 (в данном случае 
 , 
 , 
 ).
 )