• ИИ в информационной безопасности охватывает множество областей, от рекомендательных алгоритмов до роботов-убийц.
• LLM (большие языковые модели) являются ключевым инструментом в этой области, влияющим на информационную безопасность.
• LLM могут использоваться хакерами для автоматизации злонамеренных действий, снижения порога входа, упрощения разведки и сканирования, помощи в обнаружении и анализе уязвимостей, социальной инженерии на основе ИИ, работы с вредоносным кодом, эксплуатации уязвимостей и демократизации хакерства.
• LLM также могут использоваться для усиления внутренних центров управления безопасностью (SOC) и исправления ошибок в системах безопасности.
• Однако существуют проблемы с качеством сгенерированного кода и конфиденциальностью, которые могут быть решены с помощью четких корпоративных политик и частных локальных моделей.
• В целом, LLM открывают новые возможности для атакующих и защитников, и отрасль сталкивается с вызовами в связи с их использованием.