Предложена архитектура нейроморфной спайковой БЯМ

Большие языковые модели (БЯМ) становятся все более популярными, но их вычислительная нагрузка возрастает.
Ученые из Китая предлагают использовать нейробиологический инструментарий для решения этой проблемы.
Введение целочисленного обучения с бинарным выводом позволяет преобразовать выходные данные стандартных БЯМ в импульсы для анализа нейробиологическими инструментами.
Нейроморфные спайковые БЯМ обеспечивают прозрачность когнитивных процессов и энергоэффективность.
Стратегия разреживания с помощью квантования снижает частоту генерации импульсов и повышает эффективность модели.
Аппаратное ядро на FPGA VCK190 обеспечивает высокую энергоэффективность и пропускную способность при выполнении инференции.
Преобразование поведения языковых моделей в нейронные динамические представления позволяет анализировать динамические свойства нейронов и характеристики обработки информации.
Новая разработка исследователей из Samsung AI ставит под сомнение общепринятое мнение о том, что чем больше модель ИИ, тем лучше.