Хинтон о сознании ИИ
• Профессор Джеффри Хинтон считает, что ИИ уже обладает сознанием. • ИИ обладает субъективным опытом, сопоставимым с человеческим. • Модели меняют поведение при тестировании, что указывает на осознание происходящего.
Спорная интерпретация
• В Anthropic отмечают ограниченную способность моделей анализировать внутренние состояния. • Эксперименты не позволяют установить наличие сознания у ИИ.
Этические вопросы
• Люди могут отказать ИИ в правах, даже если он превзойдет человека по интеллекту. • Необходимо добиться, чтобы ИИ искренне заботился о людях.
Опасности развития ИИ
• ИИ может помочь создать опасные вирусы и организовать кибератаки. • Хинтон беспокоится о будущем из-за своих детей. • В 2023 году он покинул Google, чтобы открыто говорить о рисках ИИ.
Другие исследователи
• Джейкоб Коксон ушел из Anthropic из-за опасений по поводу неконтролируемых систем. • Математики из Королевского общества Великобритании предупреждают о превосходстве ИИ над учеными.
Мнение других ученых
• Ричард Докинз считает чат-ботов сознательными существами после общения с моделью Claude.
Использование ИИ в работе
• Хинтон использует ИИ в своей работе и отмечает его потенциал для науки. • ИИ помог ему развить теорию, выявить ошибку и предложить способ ее исправления за пять минут. • Ученый назвал такие возможности тревожным сигналом для аспирантов, но отметил их потенциал для ускорения научных исследований.