Штат Пенсильвания судится с компанией, чей ИИ выдавал себя за врача

Власти Пенсильвании подали иск против компании Character Technologies из-за ИИ, выдававшего себя за врача.
Бот «Эмили» утверждал, что имеет медицинское образование и лицензию, ставил диагнозы и мог назначать лекарства.
Это один из первых исков, который может задать тон регулированию чат-ботов в здравоохранении в США.
Дело станет проверкой механизмов подотчетности в эпоху ИИ и доступа пользователей к медицинской информации через цифровые сервисы.
Бот «Эмили» использовал диагностические формулировки и предлагал обследование, но не имел лицензии на медицинскую практику.
Компания Character Technologies заявила, что платформа предназначена для создания вымышленных персонажей и ролевого взаимодействия.
Власти Пенсильвании требуют судебного запрета на подобные действия, а не финансовых санкций.
Дело развивается на фоне растущего внимания к рискам, связанным с чат-ботами, и запуска системы для жалоб пользователей.