Основные понятия теории оптимизации

Теорема 1.2. (Достаточное условие существования локального экстремума). Если в точке все частные производные равны нулю, то, чтобы в этой точке функция имела экстремум, достаточно, чтобы квадратичная форма была положительно определенной для минимума и отрицательно определенной для максимума.

Определение 1.6. Квадратичная форма называется положительно определенной, если для любых , хотя бы одно из которых отлично от нуля, квадратичная форма принимает значение большее нуля.

Теорема 1.3. (ТеоремаВейерштрасса). Непрерывная функция, определенная на непустом, замкнутом, ограниченном множестве, достигает экстремума, по крайней мере, в одной точке этого множества.

Определение 1.7. Множество S называется выпуклым, если отрезок, соединяющий любые две точки этого множества, целиком содержится в этом множестве.

Определение 1.8. Функция на выпуклом множестве S называется выпуклой, если ее график на любом отрезке целиком оказывается не выше хорды, соединяющей соответствующие точки графика (функция выпукла вниз) или не ниже этой хорды (функция выпукла вверх); в противном случае – функция не является выпуклой.

Теорема 1.4. Пересечение выпуклых множеств является выпуклым множеством.

Теорема 1.5. Сумма выпуклых функций является выпуклой функцией.

Теорема 1.6. (Основное свойство выпуклых функций). Любой локальный экстремум выпуклой функции является и глобальным, но не наоборот.

Определение 1.9. Вектор, указывающий направление наискорейшего возрастания функции, называется градиентом функции в соответствующей точке

.