«Этический цензор» для проверки ответов ИИ появится в России

ВТБ и МГУ разрабатывают ИИ-модель для проверки ответов других нейросетей в банковских цифровых сервисах.
Новая система должна выявлять фактологические ошибки и отслеживать соответствие ответов этическим нормам.
Цель - снизить риски неверной или сомнительной информации от используемых нейросетей.
ВТБ уже применяет несколько больших языковых моделей (LLM) в своих сервисах, но точные платформы и поставщики не раскрываются.
Ранее ВТБ сотрудничал с «Яндексом» в 2021 году, интегрировав голосового ассистента в Алису.
Проект демонстрирует заботу финансовых организаций о безопасной и корректной работе ИИ-помощников.