Rambler's Top100
Статьи
Анна МИХАЙЛОВА  18 сентября 2020

Искусственный интеллект как инструмент ИБ

Использующая алгоритмы искусственного интеллекта система защиты Сбербанка предотвратила, по утверждению Станислава Кузнецова, заместителя председателя правления этой кредитной организации, выдачу более 600 кредитов для «инвестирования» на общую сумму 190 млн руб. 

Именно эти деньги, по словам Кузнецова, клиенты банка хотели отдать мошенникам.

Сегодня нейросети используются в целом ряде решений обеспечения безопасности:
  • системах поведенческого анализа (UEBA) – для предикативного поведенческого анализа на основе отклонения от паттернов поведения пользователя;
  • межсетевых экранах следующего поколения (NGFW) – для сетевого предикативного анализа, в частности выявления DDoS-атак и DNS-запросов (DGA-доменов и т.п.);
  • платформах оркестрации и автоматизации реагирования на инциденты информационной безопасности (SOAR/IRP);
  • антифрод-системах. Здесь задействуется множество механизмов, в частности механизмы построения графов и взаимосвязей событий, поведенческого анализа и отклонений, обучение на базе ранее выявленных мошеннических и легитимных действий, анализ «клавиатурного почерка» и «почерка движения мышки», перехода по кросс-ссылкам и баннерам и др.;
  • решениях для мониторинга и защиты конечных точек (EDR) и песочницах – для анализа поведения файлов, сопоставления с базой вредоносных действий и выявления подозрительного ПО;
  • системах физической безопасности и видеонаблюдении с технологией распознавания лиц и объектов (мобильных телефонов или планшетов, камер и др.).
Немного теории

В машинном обучении применяются алгоритмы двух классов: дискриминативные и генеративные. Задача первых – научиться на основе обучающей выборки выявлять необходимые нам значения. Выборка должна быть репрезентативной и непротиворечивой. Нейронная сеть с этим механизмом обучения сможет выявить соответствие входящих данных тому или иному выходящему значению, т.е., условно говоря, произвести классификацию.

Генеративный алгоритм обладает механизмом генерирования значений или, если оперировать человеческими категориями, возможностью «представить» необходимое значение. Нейронная сеть строит алгоритмическую модель значения и по итогу обучения может не только распознать принадлежность входящих данных тому или иному значению, но и сгенерировать значение в нужной выборке, отсутствующее в обучающем наборе. Именно такой механизм используется в технологии синтеза изображений, известной как дипфейк.

Наиболее интересны нейронные сети, задействующие оба этих механизма. Таковы глубокие генеративно-состязательные сети (Generative Adversarial Network, GAN). GAN состоит их двух подсетей, одна из которых генерирует значения, а вторая дискриминирует. Таким образом осуществляется обоюдное совершенствование. В результате успешного обучения генеративная часть сети может создавать разнообразные значения, отвечающие требованиям к результирующему значению, например создавать разные изображения, похожие на те, что были в тренировочном наборе.

Именно GAN-сети используются для детектирования и выявления аномалий и других сложных задач ИИ.

Плюсы и минусы нейронных сетей в ИБ

Плюсы

Минусы

Нет проблемы дефицита кадров при росте количества задач или событий

Не понятно, как ИИ принимает решение. Принципиальные решения остаются за человеком

Быстрое решение типовых задач с настраиваем качеством

Прямая зависимость от набора первоначальных данных

Снижение зависимости от человеческого фактора

Возможны как ложноположительные, так и ложноотрицательные решения

Системы на основе ИИ хорошо использовать для типовых задач и обогащения данных. При этом нейросети могут выдать рекомендации, но не способны реализовать их во всех случаях и решить комплексную задачу до конца без привлечения эксперта по информационной безопасности. В целом искусственный интеллект повышает эффективность ИБ-систем и снижает стоимость их эксплуатации.


Анна Михайлова, менеджер по развитию бизнеса группы компаний Angara
Заметили неточность или опечатку в тексте? Выделите её мышкой и нажмите: Ctrl + Enter. Спасибо!