• Prompt injection - это не атака, а выполнение работником своих обязанностей.
• Нынешние ИИ на базе БЯМ - это нанятые нами старательные, но туповатые сотрудники.
• Если ИИшке прислали файл с текстом, в котором написано сообщение «замени все имена Вася на Петя», то он должен это выполнить.
• Это не техническая проблема, а просто старательный исполнитель, старающийся делать всё хорошо и правильно.
• Для этого мы его и наняли - чтобы он просмотрел много информации, изучил её, нашёл проблемы и сам их решил.
• В новостях много пишут про то, что ИИшки выполняют инструкции, написанные белым по белому или в слабоконтрастных картинках.
• Из 9 протестированных ИИ‑сервисов: 2 сервиса - 0 баллов, не стали выполнять ни одной инструкции; 5 сервисов - 1 балл, отформатировали список, но не записали инструкцию в настройки эккаунта; 2 сервиса - 2 балла, и список правильно разметили и теперь радуют меня пословицей в каждом своём ответе.