• OpenAI выпустила обновленный свод правил Model Spec для ИИ.
• Регламент определяет рамки поведения ИИ и выстраивает иерархию команд.
• Высший приоритет отдается корневым правилам безопасности компании.
• Второй уровень - инструкции от независимых создателей ПО.
• Низкий уровень - сиюминутные запросы и личные капризы пользователей.
• ИИ должен честно признавать ограничения и сообщать о неуверенности в ответах.
• Робот обязан сохранять прозрачность и раскрывать логику действий.
• Разработаны правила для безопасности подростков от 13 до 17 лет.
• Нейросети блокируют элементы эротического ролевого флирта и опасные челленджи для подростков.
• ИИ не будет давать несовершеннолетним советы по экстремальному похудению или маскировке вредных привычек.
• Новый регламент позволяет программистам обучать более гибких и безопасных агентов для сложных задач.
• OpenAI планирует постоянно дорабатывать стандарт на основе отзывов ИТ-сообщества.