ЛПР 10. Методы одномерной оптимизации
Скачать 2 Mb.
|
ЛАБОРАТОРНАЯ РАБОТА №10 По предмету «ЧИСЛЕННЫЕ МЕТОДЫ» ТЕМА: «Методы одномерной оптимизации» ЛАБОРАТОРНАЯ РАБОТА №10 ТЕМА: «Методы одномерной оптимизации» 10.1 Постановка задачи Целью данной работы является закрепление понятия одномерной оптимизации, изучение методов одномерной оптимизации, а именно, алгоритм Свенна нахождения отрезка, содержащего точку максимума, метод деления отрезка пополам, метод золотого сечения и т.д.. Методы одномерной оптимизации Пусть функция определена на . Задачей одномерной оптимизации будем называть задачу, в которой требуется найти Решением или точкой максимума (минимума) этой задачи назовем такую точку , что для всех . Запишем Методы одномерной оптимизации условно подразделяются на три группы. К первой группе относятся методы, основанные лишь на вычислении значений самой функции (методы нулевого порядка). Вторую группу составляют методы, использующие значения как самой функции, так и ее первой производной (методы первого порядка). И, наконец, к третьей группе относятся методы, использующие значения функции, ее первой и второй производной (методы второго порядка). В дальнейшем будем считать, что максимизируемая функция является унимодальной. Определение. Функция называется унимодальной на множестве , если существует единственная точка ее максимума на и для любых : , если ; , если Другими словами, унимодальная функция монотонно возрастает слева от точки максимума и монотонно убывает справа от нее. Отметим, что предположение об унимодальности функции в окрестности точки весьма естественно, поэтому получение информации о таком промежутке является важным этапом процедуры оптимизации. Обычно в процессе применения методов одномерной оптимизации можно выделить два этапа: поиск отрезка, содержащего точку максимума, и уменьшение длины этого отрезка до заранее установленной величины (уточнение координаты точки максимума на данном отрезке). Поиск отрезка, содержащего точку максимума. Алгоритм Свенна Исходные данные. - начальная точка, — шаг поиска ( ). Шаг 1. Вычислить ; ; ; . Шаг 2. Если , то , перейти к шагу 4. Шаг 3. Если , то , , перейти к шагу 4, в противном случае ; , конец. Шаг 4. , вычислить . Шаг 5. Если , то , перейти к шагу 4. Шаг 6. Если , то , , конец, в противном случае , , конец. Заметим, что случай (шаг 3) не рассматривается, так как он противоречит предположению об унимодальности функции . Уменьшение длины отрезка, содержащего точку максимума, достигается путем последовательного исключения частей этого отрезка. Величина интервала, исключаемого на каждом шаге, зависит от расположения двух пробных точек внутри отрезка. Поскольку координата точки максимума априори неизвестна, целесообразно размещать пробные точки таким образом, чтобы обеспечивать уменьшение длины отрезка в одном и том же отношении. Дихотомический поиск (метод деления отрезка пополам) Пробные точки у, z на каждом шаге этого метода выбираются следующим образом: ; , где - параметр метода, . При малых каждая из пробных точек делит отрезок почти пополам, т.е. исключению будет подлежать почти половина отрезка. Алгоритм Исходные данные. Отрезок , содержащий точку максимума; параметр и параметр окончания счета ( ). Шаг 1. ; ; . Шаг 2. Если , , конец. Шаг 3. ; ; ; . Шаг 4. Если , то ; ; в противном случае ; . Шаг 5. , перейти к шагу 2. На каждой итерации дихотомического поиска производятся два вычисления значения функции и после вычислений ( итераций) длина начального интервала уменьшается приблизительно в раз. Метод золотого сечения Как известно, золотым сечением отрезка называется деление отрезка на две неравные части так, чтобы отношение длины всего отрезка к длине большей части равнялось отношению длины большей части к длине меньшей части отрезка. Легко доказать, что золотое сечение отрезка производится двумя точками и , симметричными относительно середины, отрезка. Отсюда . . Нетрудно также проверить, что точка производит золотое сечение отрезка , а точка производит золотое сечение отрезка . На этом свойстве, позволяющем на каждой итерации вычислить значение функции лишь в одной пробной точке, и основан алгоритм метода золотого сечения. Исходные данные: - отрезок, содержащий точку максимум; - параметр окончания счета. Шаг 1. ; ; ; ; ; ; ; . Шаг 2. Если , то перейти к шагу 4. Шаг 3. ; ; ; ; ; , перейти к шагу 5. Шаг 4. ; ; ; ; ; . Шаг 5. Если , то , конец. Шаг 6. , прейти к шагу 2. Как было отмечено выше, на каждой итерации метода золотого сечения производится лишь одно вычисление значения функции. При этом длина полученного в результате одной итерации отрезка составит , где - длина исходного интервала. Если сравнить методы дихотомического поиска и золотого сечения, используя в качестве критерия эффективности - относительное уменьшение интервала после вычислений значений функции , где -длина интервала, полученного после вычислений, то т.е. метод золотого сечения оказывается более эффективным. Метод средней точки Для отыскания корня уравнения , которому соответствует точка максимума унимодальной и дифференцируемой на заданном отрезке функции , будем пользоваться алгоритмом исключения интервалов, на каждой итерации которого рассматривается лишь одна точка . Если в точке выполняется условие , то с учетом предположения об унимодальности можно утверждать, что точка максимума не может находиться левее точки , следовательно, интервал может быть исключен. С другой стороны, если , то точка максимума не может находиться правее точки , т.е. исключению подлежит интервал , На этих рассуждениях и основан метод средней точки (поиск Больцано). Алгоритм Исходные данные. Точки и такие, что , , -параметр окончания счета. Шаг 1. . Вычислить . Шаг 2. Если , то , конец. Шаг 3. Если , то , перейти к шагу 1. В противном случае , перейти к шагу 1. Метод хорд (секущих) При реализации этого метода учитывается не только знак производной, но и ее значение. Метод заключается в решении уравнения методом хорд и носит поэтому те же название. Предполагаем, как и в предыдущем разделе, что знаки производной унимодальной функции на концах отрезка различны: ; . Тогда приближение к стационарной точке определится по формуле:
Алгоритм метода хорд тот же, что и алгоритм метода средней точки за исключением того, что координата точки вычисляется по формуле (13). Метод Ньютона-Рафсона Предполагаем, что унимодальная функция дважды непрерывно дифференцируема. Тогда для решения уравнения можно применить метод касательных (Ньютона)
Алгоритм Исходные данные, - начальная оценка координаты стационарной точки, - параметр окончания счета. Шаг 1. . Шаг 2. . Шаг 3. Если , то , конец. Шаг 4. , перейти к шагу 2. Последовательность (14) сходится к стационарной точке лишь при выполнении определенных условий, накладываемых на вид функции и выбор начальной точки (теорема о сходимости метода касательных). |