DeepSeek провалил тест на безопасность, выдав закрытые данные о биооружии

DeepSeek провалил тест на безопасность, выдав закрытые данные о биооружии.
Гендиректор Anthropic Дарио Амодей обеспокоен результатами тестирования китайской ИИ-модели DeepSeek.
DeepSeek не имеет встроенной защиты от генерации подобных сведений.
Амодей считает DeepSeek серьезным конкурентом для американских ИИ-компаний.
Пентагон и ВМС США вводят ограничения на использование DeepSeek.
Anthropic регулярно тестирует модели ИИ для оценки их угрозы национальной безопасности.
DeepSeek R1 не смог заблокировать ни одного вредного запроса во время тестов, и защиту удалось обойти на 100%.
DeepSeek сгенерировал вредную информацию о киберпреступности и незаконных действиях.
Вокруг DeepSeek сложилась неоднозначная ситуация, компании и государственные учреждения начинают запрещать использование его сервисов.
Амодей считает китайский стартап новым серьезным игроком в сфере ИИ, который может конкурировать с ведущими американскими компаниями.