• Anthropic обновила «Конституцию Claude» - свод этических правил для нейросети.
• Документ расширяет рамки безопасности ИИ, включая запрет на помощь в создании биооружия.
• Обновленная версия впервые поднимает вопрос о моральном статусе и сознании ИИ.
• «Конституция Claude» является центральным элементом концепции «конституционного ИИ».
• Модель обучается следовать заранее заданным этическим принципам.
• Обновленная конституция сохраняет основы первой версии, но расширяет и уточняет вопросы этики и безопасности.
• Anthropic подчеркивает важность безопасности и психического здоровья пользователей.
• Claude должен уметь отказываться от выполнения незаконных запросов, даже от самой Anthropic.
• Компания предупреждает о возможных катастрофических последствиях от использования продвинутых ИИ-систем.