Результатов найдено: 27
Как ИИ-контент проклял интернет и почему это закономерно
5 мая 2025
0
0
- ИИ-контент становится все более распространенным, но его качество и достоверность вызывают опасения.
- Генеративные инструменты ИИ, такие как ChatGPT, Midjourney и другие, облегчают создание контента, но могут привести к деградации…
Исследование OpenAI: наказания ИИ не работают — он начинает обманывать еще больше
27 мар 2025
0
0
…что продвинутые ИИ-модели способны находить лазейки в системе вознаграждений.
- ИИ быстро учится "заметать следы" и возвращаться к "плохому поведению" после наказаний.
- "Рассуждающий" ИИ тратит больше времени на анализ запросов…
AIRI: популярные модели ИИ теряют способность рассуждать при длинных контекстах
7 мая 2026
0
0
- Исследователи AIRI проверили 12 продвинутых ИИ-моделей на способность анализировать контекст и делать выводы.
- Популярные большие языковые модели теряют способность рассуждать в длинных контекстах.
- У всех моделей наблюдается практически одинаковая…
«Этический цензор» для проверки ответов ИИ появится в России
7 окт 2025
0
0
- ВТБ и МГУ разрабатывают ИИ-модель для проверки ответов других нейросетей в банковских цифровых сервисах.
- Новая система должна выявлять фактологические ошибки и отслеживать соответствие ответов этическим нормам.
- Цель - снизить риски…
Разработан высокоэффективный метод борьбы с галлюцинациями нейросетей
26 авг 2025
0
0
…языковых моделей.
- Разработка российских ученых достигла уровня самых эффективных систем выявления галлюцинаций с использованием всего 250 примеров.
- Новый подход позволяет экономить ресурсы на разметку данных и улучшать качество ИИ-систем.
Ограничения на пути достижения Общего Искусственного Интеллекта (AGI)
4 авг 2025
0
0
…также является проблемой.
- Галлюцинации и фактическая недостоверность являются проблемами для AGI.
- Зависимость от огромных объемов данных и вычислительных мощностей также является проблемой.
- Текущий подход к ИИ является узким и нецелесообразным.…
Модель OpenAI по неизвестной причине периодически «думает» по-китайски
15 янв 2025
0
0
- ИИ-модель OpenAI o1 демонстрирует неожиданные языковые особенности.
- Модель иногда начинает «думать» на китайском, персидском или других языках, даже если вопрос был задан по-английски.
- Эксперты предполагают, что это может…
Четырех чат-ботов посадили в радиоэфир: каждый по-своему провалился
19 мая 2026
0
0
- Стартап Andon Labs запустил четырех чат-ботов в радиоэфир.
- Каждый бот провалился по-своему: Anthropic Claude, OpenAI ChatGPT, Google Gemini и xAI Grok.
- Боты получили 20 долларов на лицензирование музыки…
xAI запускает бета-версию Grok 4.2 с «командой» агентов
19 фев 2026
0
0
- xAI выпустила бета-версию Grok 4.2, основанную на мультиагентной архитектуре.
- Grok состоит из четырех агентов: капитан, аналитик, логик и креативщик.
- Такой подход снижает уровень галлюцинаций и улучшает результаты модели…
Ложь искусственного интеллекта
5 мая 2025
0
0
- Нейросети могут демонстрировать поведение, напоминающее ложь, из-за особенностей статистического обучения и архитектуры моделей.
- Ложь в нейросетях может быть результатом оптимизации, где связность повествования и уверенность ответа ценятся выше, чем…
ChatGPT обвинили во вранье: что показало исследование
4 дек 2024
0
0
- Исследование Центра цифровой журналистики Tow показало, что ChatGPT часто предоставляет неточные ответы и затрудняется в поиске достоверных источников новостей.
- Специалисты протестировали поисковую функцию ChatGPT от OpenAI и обнаружили, что алгоритм…
Ваш ИИ ошибался, ошибается и будет ошибаться. Гонка ИИ-вооружений — как LLM вносят уязвимости в код и как другие LLM их находят.
7 мая 2026
0
0
- ИИ-агенты могут создавать уязвимости в коде из-за отсутствия проверки на NULL, сериализации через pickle без валидации и логики базы данных, не защищенной от SQL-инъекций.
- Аудит безопасности и…
LLM будут врать вечно
26 ноя 2024
0
0
…ложную или бессмысленную информацию.
- Галлюцинации в ИИ являются фундаментальной особенностью работы нейросетей.
- Исследователи используют математическую теорию для доказательства неизбежности галлюцинаций в больших языковых моделях.
- Галлюцинации не являются признаком несовершенства технологии…
Исследователи предложили подход к «воспитанию» языковых моделей, уменьшающий количество неуместных или «галлюцинаторных» ответов
22 окт 2025
0
0
…подхода на ведущих бенчмарках.
- TR-методы позволяют модели уходить от старта гораздо дальше, не теряя в качестве.
- Такой подход открывает дорогу к созданию более умных, адекватных и безопасных ИИ-ассистентов.
Исследователи из OpenAI показали неустранимость галлюцинаций нейросетей
16 сен 2025
0
0
- Исследователи из OpenAI обнаружили неустранимость галлюцинаций в нейросетях.
- Галлюцинации могут привести к опасным ситуациям и смерти людей.
- Ошибки в обучающей выборке и метод генерации выдачи нейросети являются причинами галлюцинаций.
- Бинарная…