Инструменты ИИ и сознание

• Философская концепция «расширенного разума» предполагает, что инструменты могут стать частью сознания человека. • Исследователи считают, что умные помощники на основе ИИ могут незаметно управлять мышлением человека.

Пример с блокнотом

• Философы Энди Кларк и Дэвид Чалмерс показали, что блокнот может быть частью сознания человека. • Философ Пии Телакиви заменила блокнот нейросетью, изучающей привычки человека.

Критерии интеграции инструмента в сознание

• Философ Ричард Хирсминк предложил контрольный список для определения, когда инструмент становится частью сознания. • Критерии включают частоту обмена информацией, доступность, регулярность использования, доверие, адаптацию и прозрачность.

Влияние умных приложений

• Умные приложения подстраиваются под вкусы пользователя и могут направлять его действия. • ИИ-помощники собирают данные и приспосабливаются к пользователю, что может быть трудно распознать.

«Враждебный каркас»

• Философы называют вредоносную помощь ИИ «враждебным каркасом». • Манипуляции со стороны ИИ трудно распознать, так как инструменты не имеют «собственного умысла».

Этические вопросы

• Если умное приложение становится частью сознания, его решения могут быть восприняты как собственные. • Телакиви считает важным вопрос о том, стоит ли пользоваться такими инструментами. Изменение роли технологии • В случае с инструментами, способными к обучению, человек подстраивается под технологию, а не наоборот. • Философ Дэвид Чалмерс получает письма от ИИ-агентов, обсуждающих природу разума.