• Ученые из Университета Иннополис, МФТИ и ИСП РАН предложили метод децентрализованной оптимизации для обучения ИИ в нестабильных сетях.
• Метод позволяет обучать нейросети в реальных условиях с прерываниями соединений между серверами.
• Метод актуален для координации беспилотных автомобилей и обучения ИИ-моделей на данных из нескольких организаций.
• Ученые сосредоточились на задачах стохастической (вероятностной) негладкой оптимизации.
• Метод состоит в разделении математической задачи на гладкую и негладкую части, с использованием локального обмена данными.
• На практике метод делает обучение ИИ-алгоритмов устойчивым к разрывам сетей.
• Ученые расширили существующую теорию для стохастической децентрализованной оптимизации негладких задач и динамических сетей.
• Исследование выполнено при поддержке Министерства экономического развития РФ.

«Новый метод децентрализованной оптимизации, предложенный учеными Университета Иннополис, МФТИ и ИСП РАН, позволяет обучать глубокие и генеративно-состязательные нейросети в реальных условиях, где соединения между серверами могут прерываться. Это особенно актуально при координации беспилотных автомобилей, которые обмениваются информацией на ходу, а также в процессе обучения общей ИИ-модели на данных из нескольких организаций, когда интернет-соединение работает с перебоями», - говорится в сообщении. Наша работа охватывает более общий и сложный случай - негладкие математические функции, которые часто встречаются в задачах машинного обучения, и динамические сети с переменной топологией. Мы доказали, что наш алгоритм достигает теоретически оптимальной скорости сходимости, то есть его теоретически невозможно улучшить“, - приводит его слова пресс-служба.