Ученые уверены: современные БЯМ — тупик на пути к ИИ «человеческого» уровня

76% опрошенных специалистов считают, что увеличение размеров языковых моделей не приведет к созданию общего ИИ.
Индустрия ИИ зашла в тупик, и дополнительные инвестиции вряд ли изменят ситуацию.
Прогресс БЯМ связан с архитектурой «трансформер», разработанной Google в 2017 году.
Для увеличения размеров моделей требуются огромные деньги и энергия, что приводит к выбросам углекислого газа.
К концу этого десятилетия закончатся данные для обучения ИИ, и останутся два варианта: сбор личных данных или обучение на синтетических данных.
Текущие модели имеют ограничения в ресурсах и архитектуре, что мешает их улучшению.
Идея, что ИИ можно усовершенствовать, увеличив его размер, оказалась под вопросом.
Объединение «рассуждающих» моделей с другими системами машинного обучения может быть перспективным направлением.
Вероятностное программирование может помочь создать ИИ, более похожий на человеческий разум.