Инструменты ИИ и сознание
• Философская концепция «расширенного разума» предполагает, что инструменты могут стать частью сознания человека. • Исследователи считают, что умные помощники на основе ИИ могут незаметно управлять мышлением человека.
Пример с блокнотом
• Философы Энди Кларк и Дэвид Чалмерс показали, что блокнот может быть частью сознания человека. • Философ Пии Телакиви заменила блокнот нейросетью, изучающей привычки человека.
Критерии интеграции инструмента в сознание
• Философ Ричард Хирсминк предложил контрольный список для определения, когда инструмент становится частью сознания. • Критерии включают частоту обмена информацией, доступность, регулярность использования, доверие, адаптацию и прозрачность.
Влияние умных приложений
• Умные приложения подстраиваются под вкусы пользователя и могут направлять его действия. • ИИ-помощники собирают данные и приспосабливаются к пользователю, что может быть трудно распознать.
«Враждебный каркас»
• Философы называют вредоносную помощь ИИ «враждебным каркасом». • Манипуляции со стороны ИИ трудно распознать, так как инструменты не имеют «собственного умысла».
Этические вопросы
• Если умное приложение становится частью сознания, его решения могут быть восприняты как собственные. • Телакиви считает важным вопрос о том, стоит ли пользоваться такими инструментами. Изменение роли технологии • В случае с инструментами, способными к обучению, человек подстраивается под технологию, а не наоборот. • Философ Дэвид Чалмерс получает письма от ИИ-агентов, обсуждающих природу разума.