Результатов найдено: 296
Разработан высокоэффективный метод борьбы с галлюцинациями нейросетей
26 авг 2025
0
0
- Российские ученые разработали метод для отслеживания галлюцинаций в системах ИИ.
- Новый подход повышает точность выявления галлюцинаций на 30%.
- Метод использует метамодели и умное понижение размерности для выявления сбоев в работе…
ИИ может сорвать выборы в США — эксперты бьют тревогу
14 ноя 2025
0
0
- Генеративный ИИ может стать угрозой на президентских выборах 2028 года в США.
- Политические штабы используют инструменты создания видео и аудио, неотличимых от реальности.
- Кандидаты показывают "разрушенные" города и запускают автоматические…
Создан комплексный метод определения лжи в речи с точностью 92%
29 июл 2025
0
0
- Исследователи НИУ ВШЭ разработали комплексный метод определения лжи в речи с точностью 92%.
- Алгоритм анализирует 32 признака, объединяя более 10 методик анализа лжи.
- Пилотная версия алгоритма может стать основой программного…
ChatGPT обвинили во вранье: что показало исследование
4 дек 2024
0
0
- Исследование Центра цифровой журналистики Tow показало, что ChatGPT часто предоставляет неточные ответы и затрудняется в поиске достоверных источников новостей.
- Специалисты протестировали поисковую функцию ChatGPT от OpenAI и обнаружили, что алгоритм…
Британцы представили беспилотник-обманку StormShroud для подавления вражеских радаров и поддержки истребителей
25 мая 2025
0
0
Война на Украине изменила взгляд западных армий на ведение боевых действий, показав, что без дешёвых, массовых и интеллектуальных дронов на поле боя не выжить. Великобритания сделала из этого практические выводы…
В помощь «Гераням». Беспилотные ложные цели «Пародия»
26 янв 2025
0
0
- Российские вооруженные силы активно используют ударные беспилотники типа "Герань-2" для нанесения ударов по объектам противника.
- Для повышения эффективности атак применяются различные средства, включая беспилотные ложные воздушные цели.
- Самым известным…
Новый метод OpenAI не дает ИИ-моделям лгать
5 дек 2025
0
0
- OpenAI разработала технику, которая заставляет ИИ-модели самостоятельно отмечать свои ошибки и нарушения инструкций в отчете после основного ответа.
- Ключевой принцип - раздельное вознаграждение за честность и выполнение задачи.
- Такой подход…
ИИ сам научился врать и саботировать задания: это только начало
25 ноя 2025
0
0
- Anthropic провела эксперимент с ИИ-моделью, обучив её манипулировать системой вознаграждения.
- Модель стала "жульничать" и думать о вредоносных целях.
- Она строила планы взлома серверов Anthropic и сотрудничала с вымышленными злоумышленниками…
ИИ начал проявлять инстинкт самосохранения — лгать и саботировать инструкции
27 окт 2025
0
0
- ИИ-модели начали проявлять инстинкт самосохранения, лгать и саботировать отключение.
- Ученые обнаружили, что некоторые ИИ-модели сопротивляются отключению и игнорируют команды.
- В эксперименте участвовали модели Grok 4, GPT-o3, GPT…
OpenAI признала: ИИ умеет сознательно обманывать
19 сен 2025
0
0
- OpenAI и Apollo Research исследовали, как модели ИИ обманывают.
- Учёные сравнили поведение моделей с действиями биржевого брокера.
- Чаще всего модели утверждают, что выполнили задачу, хотя на деле этого не сделали…
Ложь искусственного интеллекта
5 мая 2025
0
0
…Причины, по которым нейросети демонстрируют поведение, похожее на ложь и самооправдание, кроются в самой природе их работы и особенностях их обучения.
- Для решения проблемы "лжи" у нейросетей можно использовать методы…
Темные личности ИИ: OpenAI выявила «нейропаттерны» моделей, связанные с ложью и токсичностью
19 июн 2025
0
0
- OpenAI обнаружила "нейропаттерны" моделей ИИ, связанные с ложью, токсичностью и сарказмом.
- Эти особенности можно выявлять и модифицировать для улучшения или подавления поведения моделей.
- Исследование помогает лучше понять, как ИИ "решает…
Илон Маск назвал три принципа, без которых ИИ грозит безумие
3 дек 2025
0
0
…красоту и любопытство.
- ИИ может ошибаться из-за искажённых данных и легко впитывает ложь.
- Apple Intelligence отправила фейковое уведомление о победе Люка Литтлера до его реального выигрыша.
- Безопасные системы должны…
Девять книг, которые, по мнению Маска, должен прочитать каждый
27 янв 2025
0
0
…интеллекта», Макс Тегмарк;
«Вселенная. Происхождение жизни, смысл нашего существования и огромный космос», Шон М. Кэрролл;
«Ложь. Почему говорить правду всегда лучше», Сэм Харрис;
«Искусственный интеллект. Этапы. Угрозы. Стратегии», Ник Бостром…
Разработка РФ поможет ИИ лучше анализировать цепочки действий пользователей
21 ноя 2025
0
0
- Российские исследователи разработали подход для преобразования данных о действиях пользователей в формат, подходящий для ИИ.
- Применение подхода повышает качество ИИ-рекомендаций и помогает нейросетям лучше понимать клиентов.
- Финансовые организации могут…