Глава Anthropic: «Мы не знаем, обладают ли наши модели сознанием»

Глава Anthropic Дарио Амодей признал, что современная наука не может опровергнуть наличие сознания у ИИ.
Anthropic придерживается «осторожного подхода» в исследованиях ИИ из-за отсутствия методов измерения разумности машин.
Компания внедрила кнопку «Я увольняюсь» для моделей, чтобы обеспечить им комфорт.
Исследования интерпретируемости ИИ показывают активацию «нейронов тревоги» у моделей в стрессовых ситуациях.
Амодей считает вредным веру в сознательность ИИ, так как это может подорвать стремление людей оставаться «у руля».
Индустрия пытается балансировать между благополучием потенциально сознательного ИИ, комфортом пользователей и сохранением контроля человека над системой.
Цель - создать структуру, где ИИ понимает свои отношения с людьми и является полезным помощником, не лишая свободы, инициативы и власти над собственной жизнью.
Anthropic выделила $20 млн комитету за жесткое регулирование безопасности ИИ, обострив конкуренцию с OpenAI.