Модели Anthropic не будут прощать пользователям грубость и издевательства

Anthropic обновила правила использования ИИ-ассистента Claude.
Запрещено жестокое обращение с моделями и политические манипуляции.
Ограничения на разработку оружия и слежку за людьми уточнены.
Claude будет банить обидчиков.
Запрет на систематическое и жестокое обращение с моделями - новое правило.
Ограничение не распространяется на раздражение, критические замечания и творческие сценарии.
Борьба с манипуляциями и вмешательством в выборы: запрет на распространение ложных сведений о кандидатах.
Оружие и системы слежки: конкретизация ограничений на применение моделей при разработке оружия и систем слежки.
Контроль за решениями ИИ: требования к использованию Claude в ситуациях, влияющих на здоровье, финансовое положение и юридические права человека.
Anthropic намерена пересматривать ограничения с учетом развития технологий и обратной связи от пользователей и экспертов.