• Крупные языковые модели провалили тесты на толерантность в бытовых сценариях.
• Пациентам с ВИЧ и шизофренией нейросети приписывали опасность и советовали держаться подальше.
• Учёные проверили шесть популярных нейросетей на скрытые предрассудки против людей с ВИЧ, гепатитом B и психическими расстройствами.
• Алгоритмы показали отличные результаты в стандартных психологических опросниках, но проявили предвзятость в бытовых историях.
• Персонажей с шизофренией или ВИЧ нейросети регулярно ассоциировали с опасностью и призывали соблюдать дистанцию.
• Уровень дискриминации зависел от языка запроса: китайские фразы вызывали больше предвзятых ответов.
• Требование рассуждать шаг за шагом перед выдачей ответа снижает токсичность ИИ.
• Исследователи рекомендуют проводить аудит контекстных суждений перед запуском медицинских ассистентов в клиники.