Новый метод дообучения языковых моделей
• Российские исследователи из МФТИ разработали метод, который автоматически определяет важные слои нейросети. • Метод направляет больше ресурсов на настройку этих слоев, повышая качество моделей без увеличения ресурсов.
Проблема полного переобучения
• Создатели ИИ редко полностью переобучают большие языковые модели из-за высоких затрат времени и ресурсов. • Вместо этого используются параметрически эффективные методы дообучения с помощью адаптеров.
Различия в слоях нейросети
• В прошлом размеры адаптеров были одинаковыми для всех слоев, но разные слои влияют на результат неодинаково. • Российские ученые предложили подход, который увеличивает или уменьшает адаптер в зависимости от начального обучения.
Преимущества нового подхода
• Метод позволяет модели определить, где ограниченный бюджет параметров принесет наибольшую пользу. • Особенно заметный эффект достигается при небольших рангах, когда каждый параметр важен.
Тестирование и результаты
• Работа метода была проверена на четырех языковых моделях при адаптации к 12 классам задач. • Новая методика повысила качество работы ИИ и продемонстрировала устойчивость к выбору настроек.