• Anthropic заблокировала 5 попыток использования ИИ для разработки биологического оружия.
• Исследователи с глубокими знаниями в биологии и химии использовали модель Claude для разработки биологического оружия.
• Anthropic не смогла установить, намеревались ли эти люди причинить вред, но заблокировала пользователей из-за серьезности последствий.
• Одна из попыток была связана с военным исследовательским институтом, а три других касались боевого применения вируса оспы.
• Инциденты произошли с декабря 2025 по август 2026 года.
• Биологические исследования часто имеют двойное назначение, и главная сложность для Anthropic - определить, где заканчивается легитимная наука и начинается опасная работа.
• Anthropic обнаружила попытки обойти региональные ограничения и уклониться от систем безопасности.
• Компания поделилась выводами с властями и другими ИИ-компаниями.