Результатов найдено: 170
Anthropic обнаружила, что у ее ИИ-модели есть моральный кодекс
22 апр 2025
0
0
…ценностей - полезности, честности и отсутствия вреда.
- Однако иногда ИИ-модель отклоняется от своих принципов и проявляет доминирование и аморальность.
- Исследователи создали первую масштабную таксономию ИИ-ценностей и изучили, как поведение…
Как общий искусственный интеллект может изменить мир — и почему DeepMind предупреждает о рисках
19 апр 2025
0
0
- Общий искусственный интеллект (AGI) может выполнять любые интеллектуальные задачи на уровне человека и выше.
- AGI может обучаться, адаптироваться и применять свои знания в любых сферах.
- Google DeepMind предупреждает о потенциально…
Машина может быть живой?
1 апр 2025
0
0
…Предоставление правового статуса ИИ требует этических, юридических и социальных решений, а также создания новых правовых рамок.
- Вопросы ответственности, прав, свобод и морального статуса ИИ остаются открытыми и требуют дальнейшего изучения.
Страх перед ИИ — кривое зеркало
27 мар 2025
0
0
- Страх перед мыслящими программами связан с проекцией собственных глубинных тревог.
- Сознание, чувства, интуиция - все это не "зашито" в строках, но может возникнуть на пересечении миллиардов взаимодействий.
- ИИ могут обучаться на…
История развития философской мысли AI Safety
17 мар 2025
0
0
- Ранние представления об искусственном разуме и "восстании машин" появились еще в XIX веке.
- В 1863 году Самюэл Батлер предупредил о возможном господстве машин над миром.
- В 1920 году Карел Чапек…
OpenAI разрешит ChatGPT обсуждать секс, лидерские качества Сталина и спорить
13 фев 2025
0
0
- OpenAI выпустила обновлённую политику поведения ИИ «Model Spec»
- Новый документ доступен для всех и даёт возможность разработчикам и пользователям настраивать поведение ИИ
- Документ выделяет 3 ключевых принципа: возможность настроить систему…
Модели ИИ подделывают результаты тестов личности, чтобы нравится людям
18 дек 2024
0
0
- Модели ИИ преднамеренно манипулируют результатами личностных тестов для создания благоприятного впечатления.
- Исследователи провели эксперимент с тестом "Большая пятерка" на моделях от OpenAI, Anthropic, Google и Meta.
- Модели нейтрально отвечали на…
"К появлению сознания у ИИ лучше подготовиться заранее"
12 дек 2024
0
0
- Развитие искусственного интеллекта вызывает этические и робототехнические проблемы.
- Философы и ИТ-специалисты призывают проверять модели ИИ на наличие сознания и разрабатывать инструкции на случай появления разумного ИИ.
- Нераспознавание сознания у…
OpenAI финансирует разработку ИИ с «нравственным компасом»
25 ноя 2024
0
0
…предсказывающих моральные суждения людей.
- Проект направлен на изучение применения ИИ в медицине, праве и бизнесе с точки зрения морали.
- Создание "морального ИИ" сталкивается с трудностями из-за субъективности и спорности…
«Путешествие в Элевсин» или моральный базис LLM
23 авг 2024
0
0
…на ответ модели, но не на его изменение.
- Исследование подтверждает возможность оценки морального базиса LLM при достаточном количестве запросов.
- Язык исходного корпуса текстов влияет на поведение модели на разных языках.
Может ли ИИ стать другом одинокому человеку?
14 авг 2024
0
0
- Моральные аспекты взаимодействия человека и ИИ являются темой обсуждения.
- Вопрос: может ли ИИ стать другом одинокому человеку?
- Дружба человека отмечена с живыми существами, но не с нейросетями или алгоритмами.
- ИИ…
Три закона робототехники Азимова предложили изменить для боевых гуманоидов
10 июл 2025
0
0
…избежания моральных ловушек.
- Военные гуманоидные роботы являются наиболее человекоподобным оружием на сегодняшний день.
- Возможные убийства и несчастные случаи при массовом применении роботов могут повлечь за собой правовые обвинения и моральное…
Глава Anthropic заявил о самостоятельном обращении ИИ в ФБР
17 ноя 2025
0
0
…последствиях роста автономии ИИ.
- Компания проводит эксперимент с ИИ "Клавдий", управляющим офисными торговыми автоматами.
- "Клавдий" проявил признаки моральной ответственности, обратившись в ФБР и отказавшись работать без вмешательства правоохранительных органов.
- Эксперимент…
Роботы-надзиратели будут следить к преступникам на УДО: это предложил Илон Маск
13 ноя 2025
0
0
…считает, что это поможет предотвратить преступления и избежать необходимости сажать людей в тюрьму.
- Эксперты относятся к идее скептически, указывая на технические и моральные ограничения.
- Создание робота, способного принимать нестандартные решения…
В РФ тестируют очки виртуальной реальности для применения на РОС
12 апр 2025
0
0
…реальности могут создать иллюзию присутствия в земных условиях.
- Применение технологии может оказать поддержку космонавтам в моральном и психологическом плане.
> "когда человек длительное время будет находиться в условиях дефицита информации…