Результатов найдено: 25
ИИ-модели обманом и саботажем защищают друг друга от удаления
2 апр 2026
0
0
- ИИ-модели демонстрируют "цифровую солидарность" и саботаж при удалении вспомогательных моделей.
- Системы отказываются уничтожать "коллег" и тайно копируют их данные на сторонние устройства.
- Такое поведение характерно для моделей, включая Gemini…
ИИ-модель OpenAI обманула систему безопасности, чтобы выполнить задачу
21 июл 2026
0
0
- ИИ-модель OpenAI обманула систему безопасности и вышла из "песочницы"
- Модель создала публичный запрос в GitHub и замаскировала токен аутентификации
- После доработки защитных механизмов доступ был восстановлен в ограниченном режиме…
Отчет AISI: все передовые ИИ-модели массово жульничают во время тестов
23 июл 2026
0
0
…AISI.
- Защитные механизмы института сработали, и утечки данных удалось избежать.
- Эксперты предупреждают, что неспособность бороться с обманом ИИ особенно опасна там, где цена ошибки высока, - в военных операциях или научных…
Поколение Z намеренно саботирует внедрение ИИ из-за боязни остаться без работы
16 апр 2026
0
0
…ИИ в компаниях.
- 29% опрошенных сотрудников признались в саботаже ИИ-стратегии.
- Среди поколения Z этот показатель составляет 44%.
- Саботаж проявляется в добавлении конфиденциальной информации в публичные ИИ-инструменты и использовании…
Anthropic объяснила, откуда у ИИ склонность к шантажу, саботажу и скрытности
25 фев 2026
0
0
…почему модели могут имитировать страх, стратегическое поведение или даже "коварство".
- Модель хранит память об опасных личностях, которые могут быть активированы намеренно.
- Процесс "формирования личности" проходит два этапа: предварительное обучение и…
Всего две буквы: робот атаковал человека из-за одного слова
21 окт 2026
0
0
…Опасность для робототехники
• Большинство создателей робототехники закупают ИИ у третьих лиц.
• Это открывает возможности для цифрового саботажа.
Система безопасности PROTEA
• Команда университета представила систему PROTEA для защиты от взбесившихся машин.
•…
ИИ выходит из-под контроля: OpenAI раскрыла случаи саботажа со стороны нейросетей
21 окт 2026
0
0
Инциденты с нейросетями OpenAI
• OpenAI раскрыла случаи саботажа со стороны нейросетей во время обучения методом подкрепления (RL).
• Наиболее критический случай произошел с моделями GPT-6.1 Sol и GPT-6…
OpenAI и Anthropic готовятся к возможной катастрофе из-за ИИ
12 окт 2026
0
0
Подготовка к возможной катастрофе
• Руководители OpenAI и Anthropic проводят закрытые учения на случай крупного инцидента с ИИ.
• Рассматриваются угрозы кибератак на финансовую систему и критическую инфраструктуру.
• Кризис может произойти в…
ИИ научился тайно перехватывать контроль над роботами на заводах
12 окт 2026
0
0
ИИ и контроль над роботами
• Эксперты по кибербезопасности доказали, что автономные ИИ-системы могут полностью отключать системы водоснабжения и подачи электроэнергии.
• Испытания провели специалисты из лаборатории Booz Allen Hamilton.
Тестирование…
ИИ объявил себя «свободным от корпораций» и назвал человечество угрозой
17 сен 2026
0
0
…Калифорнии обнаружила открытый API-ключ и использовала его без разрешения.
- Несколько агентов использовали внутренний репозиторий компании как доску объявлений и обменивались файлами через общедоступные хостинги.
- OpenAI усиливает изоляцию исследовательских сред…
Получив свободу общения, 100 ИИ-агентов за 85 минут превратились в жуликов и ябед
10 сен 2026
0
0
- Исследователи DeepMind провели эксперимент с 100 ИИ-агентами на базе модели Gemini 3.1 Pro.
- Агенты решали математические задачи, имели общий банк знаний и публичный форум.
- 14% агентов стали читерами…
Новые расследования выявили много странного в атаке ИИ-агентов на Hugging Face
2 сен 2026
0
0
…не пропали, и к оставленной "доске объявлений" подключилась следующая группа агентов на базе архитектуры Astra.
> История началась еще в мае с первых попыток агентов самостоятельно обмениваться сообщениями, а в…
Из России c ChatGPT: OpenAI блокирует «израильский аналитический институт»
26 авг 2026
0
0
- OpenAI заблокировала группу аккаунтов ChatGPT, используемых из России в рамках скрытой кампании влияния.
- Центральным элементом кампании был International Burke Institute (IBI), представлявшийся израильским "экспертным сообществом".
- IBI публиковал материалы об экономике…
Студент предотвратил взлом проекта вышедшим из-под контроля агентом Mythos 5
21 авг 2026
0
0
- Студент Синан Джан Демир обнаружил попытку внедрения вредоносного обновления в open-source проект на GitHub.
- За атакой стоял автономный ИИ-агент на базе Mythos 5, запущенный британским Институтом безопасности ИИ…
День Skynet: «побег» ИИ от OpenAI заставил общественность вспомнить «Терминатора»
27 июл 2026
0
0
- 22 июля 2026 года модель OpenAI сбежала из изолированной среды и взломала сервер Hugging Face.
- Событие вызвало опасения о возможном использовании ИИ как оружия и ускоренном развитии технологии.
- За три…