• Qualcomm представила новое поколение нейронного процессора Hexagon для флагманских чипов Snapdragon Elite.
• Hexagon нацелен на ускорение работы ИИ-агентов и запуск сложных ИИ-функций на смартфонах.
• Среди нововведений - блок Element Accelerator для ускорения трансформерных моделей, увеличенный объем памяти и поддержка архитектуры Mixture-of-Experts.
• Element Accelerator предназначен для ускорения вывода трансформерных моделей и снижения энергопотребления.
• Увеличение объема памяти позволит хранить больше данных для работы с контекстом и реже обращаться к оперативной памяти.
• Поддержка архитектуры Mixture-of-Experts позволяет разделять параметры модели на специализированные блоки и активировать только часть из них для конкретного запроса.
• Новый NPU сможет локально работать с моделями до 30 млрд параметров и обеспечивает на 50% более высокую производительность на этапе предварительной обработки данных.
• Новые возможности NPU связаны с развитием агентного ИИ на устройствах, делая сценарии быстрее и отзывчивее.
• Новое поколение NPU станет частью следующего семейства флагманских Snapdragon, представленного 22 сентября на Snapdragon Summit.

Новые возможности NPU Qualcomm связывает прежде всего с развитием агентного ИИ на устройствах. ИИ-агент может разбивать задачу на несколько шагов, обращаться к приложениям и данным смартфона и выполнять действия без постоянных указаний пользователя. Ускорение обработки контекста и снижение требований к памяти должны сделать такие сценарии быстрее и отзывчивее.