Новое решение может снизить энергопотребление ИИ на 95%

Исследователи BitEnergy AI разработали алгоритм L-Mul для сокращения энергопотребления ИИ без потери точности и скорости.
L-Mul использует сложение целых чисел вместо операций с числами с плавающей запятой.
Традиционные ИИ-системы полагаются на числа с плавающей запятой, что требует значительных энергетических ресурсов.
L-Mul решает проблему энергопотребления, заменяя сложные операции с плавающей запятой на простые сложения целых чисел.
Алгоритм позволяет сократить энергопотребление на 95% для тензорных операций и на 80% для скалярных.
L-Mul легко интегрируется в модели на основе трансформеров, такие как GPT.
Для массового внедрения L-Mul требуется специализированное оборудование и оптимизация ускорителей для ИИ.
Конкуренция со стороны Nvidia может затруднить внедрение L-Mul.