- Технологическая сингулярность - неизбежный момент, когда ИИ сможет развиваться без участия человека.
- Вернор Виндж - автор термина «технологическая сингулярность».
- Наступление сингулярности исключает контроль над ИИ.
- Если ИИ под контролем, сингулярность еще не наступила, ИИ - продвинутый инструмент.
- Неизбежность сингулярности обусловлена техническим прогрессом.
- Человек будет понижаться в уровне относительно превосходящей его сущности.
- Традиционный человек не сможет противостоять разворачивающемуся процессу.
- Самообман - попытка сохранить контроль над автономно развивающимся ИИ.
- Техническая сингулярность и контроль - взаимоисключающие понятия.
- Запад и Россия предлагают разные стратегии контроля над ИИ: слияние с ИИ и создание государства-лаборатории.
- Информационное пространство на тему ИИ разделено на два потока: заработок на ИИ и противоречивые утверждения о сингулярности.
Проблема в том, что автономный ИИ перерастёт любые «начальные параметры». Чалмерс на эту тему пишет: «Сверхразумный ИИ перепишет свой исходный код, сделав контроль иллюзорным». Юдковский о контроле: «Любая система, превосходящая человеческий интеллект, сможет манипулировать нами задолго до того, как мы осознаем угрозу. Контроль — это миф». Ему вторит Рассел: «Мы не можем предсказать цели сверхразумного ИИ. Даже если он будет „дружественным“, его методы достижения целей могут быть катастрофичны».