• Groq создала первый в истории языковой процессор (LPU)
• LPU обеспечивает максимальную скорость для приложений на основе ИИ
• Джонатан Росс, бывший инженер Google, основал Groq в 2016 году для создания чипа для Deep Learning
• TSP от Groq подобен сборочной линии для обработки задач с данными
• LPU использует оптимизированный подход для устранения задержек и пропускной способности
• LPU энергоэффективен и управляет несколькими потоками для избежания недоиспользования ядер
• Масштабируемая конструкция чипа Groq позволяет соединять несколько LPU без узких мест
• LPU-процессор генерирует до 500 токенов в секунду, в то время как ChatGPT-3.5 - 40 токенов в секунду
• Видеодемонстрация работы системы Groq доступна на странице Мэтта Шумера в соцсети X