- Российские ученые из МФТИ, Сколтеха и Иннополиса разработали новые методы оптимизации без вычисления значений функции.
- Новые алгоритмы основаны на использовании сравнений значений функции без знания самих значений и производных.
- Порядковые оракулы позволяют сравнивать значения функции без обращения к ее значениям напрямую.
- Концепция порядковых оракулов становится важной в контексте обучения с подкреплением, кросс-валидации и оптимизации гиперпараметров.
- Новые подходы включают оптимизационный алгоритм с использованием порядкового оракула и способ ускорения этого алгоритма.
- Численные эксперименты подтвердили высокую производительность предложенных методов.
- OrderRCD превосходит аналогичный метод первого порядка RCD, а OrderACDM достигает большей скорости сходимости.
- Работа по внедрению концепции порядкового оракула в практику оптимизации является важным шагом к решению сложных задач в науке о данных и машинном обучении.
