Малые ядерные реакторы для больших языковых моделей

Малые ядерные реакторы используются для питания больших языковых моделей (БЯМ).
На генерацию одной картинки с котиком тратится примерно столько же энергии, сколько на полную зарядку смартфона.
На 20-50 запросов в ChatGPT требуется около 483 мл чистой воды.
ЦОД используются для обработки данных и обучения моделей.
Потребность ЦОД в электроэнергии может возрасти на 160% к 2030 году.
На обслуживание ИИ уже расходуется около 8% всей электроэнергии в мире.
Основными потребителями энергии являются процессоры для обучения моделей.
БЯМ применяются для доработки текстов, оттачивания идей и развлечения.
БЯМ воспринимается как «умный поисковик».
Для снижения углеродного следа ИИ-систем предлагаются различные способы, включая использование разреженных моделей, GPU, облачных ЦОД и тщательный подбор мест для размещения ЦОД.
Новые технологии охлаждения ЦОД, такие как иммерсионное охлаждение, могут помочь отсрочить предел возможностей современных ЦОД.
Запитка ЦОД при помощи ядерных реакторов может стать лучшим выходом в данной ситуации.