China Telecom обучила 2 БЯМ полностью на отечественных чипах

China Telecom успешно разработала две большие языковые модели (БЯМ) на чипах, произведенных в Китае.
Разработка моделей свидетельствует о прогрессе Китая в технологической независимости из-за ограничений США на поставки полупроводников.
Новые модели содержат 1 триллион параметров (самая крупная в мире) и более 100 миллиардов параметров (TeleChat2-115B).
Количество параметров влияет на способность моделей обрабатывать большие объемы данных и выполнять сложные задачи.
Обучение моделей требует значительных вычислительных ресурсов, включая мощные процессоры и графические ускорители.
China Telecom использует чипы Ascend от Huawei Technologies и чипы от стартапа Cambricon для обучения моделей.
Сотрудничество с различными китайскими технологическими компаниями направлено на оптимизацию процессов обучения и интеграции моделей в приложения для конечных пользователей.