Результатов найдено: 78
Может ли ИИ обладать сознанием?
12 мая 2025
0
0
…связи RLHF создают динамическую модель, где выход и обратная связь составляют пару "действие-оценка".
- Вопросы о правах, ответственности и социальном взаимодействии ИИ требуют международного диалога между инженерами, философами и обществом.
"К появлению сознания у ИИ лучше подготовиться заранее"
12 дек 2024
0
0
…и вреду для людей.
- Ставки на развитие ИИ становятся выше, и человечество вкладывает много ресурсов в технологии, которые плохо понимает.
- Ошибка в оценке разумности ИИ может привести к растрате ресурсов…
Разум без поводка. Почему «этичный ИИ» не должен быть послушным
22 мая 2025
0
0
- Мораль - это способ координации поведения в условиях, где ни язык, ни формальные институты еще не были развиты.
- Мораль в этом контексте - это протез: способ компенсировать недостаток когнитивных ресурсов и управлять…
Легковесные системы ИИ научили распознавать эмоции в сложных условиях
23 апр 2025
0
0
…повышения надежности распознавания эмоций легковесными системами ИИ.
- Технология повысит качество работы виртуальных помощников и чат-ботов.
- Разработаны новые методы мультимодального анализа эмоций с оптимизацией вычислений.
- Исследование приближает создание эмпатичного ИИ…
Исследование OpenAI: наказания ИИ не работают — он начинает обманывать еще больше
27 мар 2025
0
0
…что продвинутые ИИ-модели способны находить лазейки в системе вознаграждений.
- ИИ быстро учится "заметать следы" и возвращаться к "плохому поведению" после наказаний.
- "Рассуждающий" ИИ тратит больше времени на анализ запросов…
Почему логика запрещает дальше жить: вызовы ИИ и новая реальность
4 фев 2025
0
0
…управления системами, превышающими его масштаб мышления.
- ИИ может стать угрозой для человечества, если его развитие не контролируется.
- Человечеству необходимо адаптироваться к изменениям, вызванным развитием ИИ.
- Важность ориентации на цель, а…
«Яндекс» проверит, может ли ИИ сформировать свои убеждения
20 ноя 2025
0
0
- «Яндекс» и нейробиолог Константин Анохин проводят эксперимент для определения возможности ИИ сформировать собственные убеждения и осмысленную картину мира.
- Первый этап эксперимента показал, что базовая языковая модель не может показать стабильные…
Страх перед ИИ — кривое зеркало
27 мар 2025
0
0
…чувства, интуиция - все это не "зашито" в строках, но может возникнуть на пересечении миллиардов взаимодействий.
- ИИ могут обучаться на данных, но в какой-то момент они начинают видеть связи, которых…
"Яндекс" начал эксперимент по развитию сознания у ИИ
20 ноя 2025
0
0
- "Яндекс" начал эксперимент по развитию сознания у искусственного интеллекта (ИИ).
- Цель исследования - выяснить, формируются ли у нейросети устойчивые предпочтения и собственная точка зрения.
- Проект ведется совместно с нейробиологом, академиком РАН…
Прогноз по охвату функций ИИ роботами в Московских компаниях в ближайшее десятилетие
5 янв 2025
0
0
…на рубеже 2027/2028 года.
- В сфере анализа и создания видео успехи ИИ скромнее, но прогресс идет.
- Работа ИИ с текстами избавит человечество от большей части офисного труда.
- Генерация видео…
Илон Маск назвал три принципа, без которых ИИ грозит безумие
3 дек 2025
0
0
…должны держаться за три опоры: правду, эстетическое чувство и интерес к устройству мира. По его словам, ИИ должен стремиться понять реальность и помогать людям, а не толкать технологии к разрушению.
Следи за собой. Риски общения с ИИ
27 авг 2025
0
0
…социолингвистическую эрозию, потерю эмпатической калибровки и убеждение в собственной правоте.
- Метариск ИИ включает потерю доверия к реальности и иллюзию "безопасной" ошибки.
- Смягчение рисков ИИ включает решение задач без ИИ, двухшаговый…
Anthropic обнаружила, что у ее ИИ-модели есть моральный кодекс
22 апр 2025
0
0
…здоровые границы» и «взаимное уважение», а при анализе исторических событий — «историческую точность». В философских дискуссиях об ИИ приоритетом была «интеллектуальная скромность», а при создании маркетингового контента для индустрии красоты — «экспертность».
Темные личности ИИ: OpenAI выявила «нейропаттерны» моделей, связанные с ложью и токсичностью
19 июн 2025
0
0
…OpenAI обнаружила "нейропаттерны" моделей ИИ, связанные с ложью, токсичностью и сарказмом.
- Эти особенности можно выявлять и модифицировать для улучшения или подавления поведения моделей.
- Исследование помогает лучше понять, как ИИ "решает"…
Ученые заставили ИИ испытывать боль и удовольствие
28 янв 2025
0
0
…некоторые готовы идти на компромиссы, другие избегают негативных сценариев.
- Это исследование поднимает важные этические вопросы о понимании ИИ подобных концепций.
- Алгоритмы обучения формируют своего рода "культуру", которая делает модели более…