Быстрота сходимости процесса Ньютона

Если выполнимы все четыре условия теоремы 1, то для последовательных приближений , справедливо неравенство:

где - искомое решение, а

При сходимость метода - сверхбыстрая.

 

Единственность решения

Если выполнимы все четыре условия, в области

то содержится единственное решение системы

 

Выбор начального условия

Если выполнимы все четыре условия и , то процесс сходится к единственному решению в основной области при любом выборе начального условия из области


 

Модифицированный метод Ньютона

При использовании метода Ньютона наиболее трудоёмким является процесс вычисления обратной матрицы Якоби.

Если матрица невырождённая для некоторого приближения , и достаточно близко к (искомому решению), то можно использовать модифицированный метод Ньютона.

 

Метод итераций

Дана система нелинейных уравнений:

или

(1)

Допустим, что систему 1 можно привести к виду:

(2)

Введём обозначения:

, ,

Можно систему уравнений 2 переписать в виде:

Приведённое матричное уравнение и есть формула метода итераций

 

Необходимое и достаточное условие сходимости процесса итерации

Пусть функции и непрерывны в области , причём в области выполнимо неравенство:

где - некоторая константа.

Если последовательные приближения

,

не выходят из области , то этот процесс сходится к единственному решению системы.

 

Следствие:

оценка пиближённо

На практике лучше всего рассматривать матрицу с элементами

Для сходимости должно выполнятся условие

1)

2)

3)

 

Метод скорейшего спуска (градиентный метод)

Дана система линейных уравнений:

(1)

В матричном виде

Считаем, что действительны и непрерывно дифференцируемы в их общей области определения.

Рассмотрим функцию

(2)

Очевидно, что если мы найдём решение системы уравнений 1 , то это решение является и решением системы уравнений 2 и наоборот.

Предполагаем, что система 1 имеет лишь одно изолированное решение, представляющего собой точку строго минимум функции . Таким образом задача сводится к нахождению минимум функции в -мерном пространстве.

Берём точку - нулевое приближение. Через точку проходит поверхность уровня и . Если близка , то поверхность = будет похожа на элипсоид.

Из точки движемся по нормали к поверхности до тех пор, пока эта нормаль не коснётся другой поверхности:

И так далее.

Так как , то двигаясь таким образом, мы быстро приближаемся к точке с минимальным значением , которая соответствует некоему корню .

 

Градиент функции U

- набла или grad - есть вектор приложенный к точке , имеющий направление нормали. Из векторных произведений

, (3)

Как определить ? Для этого рассматривают скалярную функцию :

Уравнение 3 можно преобразовать так, чтобы не было явного выражения градиента. Введем обозначения , тогда итерационная формула градиентного метода будет иметь вид:

,

где

Вычисления производятся до тех пор, пока не станет справедливым следующее неравенство:

e,

где e - заданная точность вычисления.

 

Пример. Дана система нелинейных уравнений:

Найти решение системы градиентным методом с точностью e=0,01

Определим начальное приближение как:

Вектор-функция имеет вид:

Якобиан, или матрица частных производных имеет вид:

1 итерация

 

 

 

2 итерация

 

 

 

Решение системы нелинейных уравнений представлено в таблице:

 

K x ½Dx½ y ½Dy½ z ½Dz½
0.000 0,100 0.000 0,200 0.000 0,300
0.100 0,030 -0.200 0,250 0.300 0,250
0,130 0,095 0,050 0,251 0,050 0,209
0,035 0,018 -0,201 0,016 0,259 0,013
0,017 0,003 -0,185 0,007 0,246 0,001
0,014   -0,178   0,245  

 

Таким образом, решение системы уравнений имеет вид: