• Qualcomm представила новое поколение нейронного процессора Hexagon для флагманских чипов Snapdragon Elite.
• Hexagon нацелен на ускорение работы ИИ-агентов и запуск сложных ИИ-функций на смартфонах.
• Среди нововведений - блок Element Accelerator для ускорения трансформерных моделей, увеличенный объем памяти и поддержка архитектуры Mixture-of-Experts.
• Element Accelerator предназначен для ускорения вывода трансформерных моделей и снижения энергопотребления.
• Увеличение объема памяти позволит хранить больше данных для работы с контекстом и реже обращаться к оперативной памяти.
• Поддержка архитектуры Mixture-of-Experts позволяет разделять параметры модели на специализированные блоки и активировать только часть из них для конкретного запроса.
• Новый NPU сможет локально работать с моделями до 30 млрд параметров и обеспечивает на 50% более высокую производительность на этапе предварительной обработки данных.
• Новые возможности NPU связаны с развитием агентного ИИ на устройствах, делая сценарии быстрее и отзывчивее.
• Новое поколение NPU станет частью следующего семейства флагманских Snapdragon, представленного 22 сентября на Snapdragon Summit.