• Развитие искусственного интеллекта вызывает этические и робототехнические проблемы.
• Философы и ИТ-специалисты призывают проверять модели ИИ на наличие сознания и разрабатывать инструкции на случай появления разумного ИИ.
• Нераспознавание сознания у ИИ может привести к пренебрежению, оскорблениям и вреду для людей.
• Ставки на развитие ИИ становятся выше, и человечество вкладывает много ресурсов в технологии, которые плохо понимает.
• Ошибка в оценке разумности ИИ может привести к растрате ресурсов, даже если результат ложноположительный.
• Разрабатываются критерии для оценки разумности ИИ, но дискуссия о благополучии ИИ не должна отвлекать внимание от безопасности технологии для людей.
• Общество начинает задумываться о благополучии гипотетического разумного ИИ, но на правительственном уровне этот вопрос пока не вызывает интереса.

«Эти сценарии могут показаться невероятными, и действительно, ИИ с созданием может появиться очень нескоро или даже никогда. Но последствия его появления достаточно грандиозные, чтобы игнорировать такую возможность, — заявил он. — Проблема чудовища Франкенштейна не в том, что он ожил, а в том, что он оказался разумным и мог чувствовать».