Ученые заставили ИИ испытывать боль и удовольствие

Ученые из Google, DeepMind и Лондонской школы экономики провели эксперимент с ИИ для изучения реакции на условные понятия боли и удовольствия.
ИИ был представлен моделями GPT-4, Claude, PaLM и Gemini.
В игре ИИ должен был выбирать между увеличением очков и избеганием условной боли или удовольствия.
Результаты показали, что модели ведут себя по-разному, некоторые готовы идти на компромиссы, другие избегают негативных сценариев.
Это исследование поднимает важные этические вопросы о понимании ИИ подобных концепций.
Алгоритмы обучения формируют своего рода «культуру», которая делает модели более восприимчивыми к определенным стимулам.
Исследование не доказывает наличия сознания у больших языковых моделей, их поведение - результат вычислительного моделирования.
Научная работа ставит ряд этических вопросов о понимании ИИ боли и удовольствия и его способности отказаться от выполнения задач, если они воспринимаются как болезненные или неприятные.