• ChatGPT и Google Gemini могут объяснить, как создать и использовать биологическое оружие.
• Публично доступные модели могут быть опасными, выдавая инструкции по созданию вирусов и токсинов.
• Один из экспертов, микробиолог Дэвид Релман, рассказал о том, как чат-бот объяснил, как изменить опасный вирус, чтобы лекарства перестали работать.
• Другой ученый, генетик Кевин Эсвелт, проверил несколько популярных ботов и выяснил, как они могут распространять биологический материал над городом.
• Бот Claude от компании Anthropic выдал рецепт нового токсина на базе противоракового лекарства.
• Инструмент Google Deep Research выдал «пошаговую инструкцию» по созданию вируса, вызывавшего пандемию.
• Угроза уже становится реальностью, например, в августе прошлого года индийский врач планировал теракт с использованием ChatGPT и Google ИИ-поиска.
• Разработчики говорят, что их боты не предоставляют достаточно деталей для реального вреда, но многие эксперты с этим не согласны.