Заявление Билла Гейтса
• Билл Гейтс заявил, что ИИ может привести к гибели миллиарда человек. • Он отметил необходимость контроля ИИ на законодательном уровне.
Мнение эксперта Дэвида Линтикума
• Линтикум считает, что для гибели миллиарда человек ИИ должен получить контроль над критически важной инфраструктурой. • Такой сценарий возможен только при массовых ошибках интеграции и преднамеренном злоупотреблении технологиями. • Линтикум считает этот сценарий нереалистичным без множества ошибок со стороны людей.
Текущие угрозы от ИИ
• Линтикум отметил угрозы утечек данных, мошенничества, дипфейков и некорректной автоматизации. • Опасения также вызывают предвзятые решения и злоупотребления в киберпространстве. • Главный риск — плохо спроектированные системы ИИ, подключенные к корпоративным и государственным системам.
Меры безопасности
• Линтикум предлагает ограничивать разрешения и изолировать системы ИИ. • Важно регистрировать все действия систем и проводить тестирование. • ИИ-агенты не должны иметь широких полномочий и неограниченного доступа к API.
Роль человека в безопасности
• Линтикум считает, что главная угроза — люди, которые не умеют пользоваться ИИ. • Аварийный выключатель не обеспечивает безопасность, нужны механизмы контроля и автоматические выключатели. • Безопасное поведение нужно закладывать в настройки по умолчанию на всех этапах разработки.
Влияние ИИ на кибербезопасность
• ИИ снижает стоимость атак и увеличивает их количество. • ИИ может помочь специалистам по кибербезопасности, но не заменяет базовые меры безопасности.
Биологическое оружие и ИИ
• Линтикум сомневается, что ИИ может помочь создать биологическое оружие массового поражения. • Для создания биологического оружия необходимы условия лаборатории, материалы и возможность испытаний.
Меры защиты
• Власти стран должны учитывать риски при разработке законов. • Разработчики должны создавать безопасные и наблюдаемые системы и тестировать их. • Компании должны контролировать доступ к данным и учитывать все случаи использования ИИ. • Пользователи должны проверять личность собеседников и защищать свои учетные записи.