- Два CEO компаний Google DeepMind и Anthropic обсудили «день после AGI» на Давосе.
- Амодеи считает, что AGI может появиться через 1-2 года, Хассабис - через 5-10 лет.
- Различия в прогнозах связаны с разными подходами к моделированию: химия, биология, физика и код.
- Амодеи и Хассабис обеспокоены возможными рисками и последствиями AGI для общества.
- Оба CEO призывают к замедлению прогресса в разработке AGI из-за опасений о возможном уничтожении цивилизации.
- Рынок труда и распределение новой продуктивности также важны, но смысл и цель работы имеют большее значение.
Амодеи: главное — следить за тем, как AI-системы начнут строить AI-системы. Это определит всё. Либо у нас есть ещё несколько лет, либо мы окажемся и перед чудесами, и перед критической опасностью одновременно.
Хассабис соглашается. Добавляет: они всегда готовы это обсуждать. Если самосовершенствование нейросетей не заработает само по себе, понадобятся другие прорывы. World models. Continual learning. Может, робототехника наконец выстрелит.