Техніка та енергетика

Дана стаття присвячена аналізу найбільш поширених методів оптимізації, що використовуються в практичних інженерних задачах пошуку екстремуму багатомірних функцій і формування на основі виявлених властивостей рекомендацій щодо вибору кращого на різних наборах даних. В процесі аналізу були розглянуті різні реалізації методів градієнтного спуску, імпульсні методи, адаптивні методи та квазіньютонівські методи, узагальнені переваги та проблеми кожного з методів при їх використанні. Розроблена комп’ютерна програма, яка реалізує всі розглянуті методи. Проведений обчислювальний експеримент за трьома функціями показав, що найефективнішими виявилися методи нульового порядку – Розенброка та нульового порядку – Пауелла.

методи оптимізації, метод градієнтного спуску, стохастичний градієнт, квазіньютонівські методи, цільова функція