Gartner: к 2030 году стоимость работы с ИИ снизится более чем на 90%

Gartner прогнозирует снижение стоимости работы с ИИ более чем на 90% к 2030 году.
Ключевым фактором станет рост эффективности моделей и инфраструктуры.
Большие языковые модели станут экономичнее в 100 раз к концу десятилетия.
Снижение стоимости обеспечат развитие полупроводников, эффективное использование ресурсов, оптимизация архитектуры моделей.
Роль периферийных вычислений будет расти.
Стоимость обработки токенов определяет цену работы ИИ-сервисов.
Удешевление не означает автоматического снижения расходов для бизнеса.
Более продвинутые системы могут использовать в 5-30 раз больше токенов на одну задачу.
Совокупные расходы на использование ИИ могут увеличиться, несмотря на удешевление отдельных операций.
Грамотное распределение задач между разными типами моделей позволит сохранить баланс между стоимостью и производительностью.