Как машины учат мир по-человечески: Разбираем крутое исследование про выпуклость

Исследование показывает, как искусственный интеллект (ИИ) начинает думать почти как человек, формируя выпуклые области в своих скрытых пространствах.
Выпуклость помогает ИИ обобщать, учиться на малых данных и становиться ближе к человеку.
Учёные придумали два способа измерения выпуклости в нейронных сетях: Евклидова выпуклость и Графовая выпуклость.
Выпуклость есть почти во всех изученных нейронных сетях.
Выпуклость растёт с глубиной и усиливается после дообучения модели.
Выпуклость предсказывает успех модели после дообучения, корреляция ~0.53 для обоих типов выпуклости.
ИИ становится понятнее и надежнее, если он думает выпукло, как человек.
Практическая польза выпуклости: быстрое обучение, выбор лучшей модели, доверие к ИИ.