Как DLP-системы противостоят рискам генеративных ИИ-моделей

Предыдущий материал («Генеративные модели ИИ: время осознавать риски») был посвящен новому глобальному риску, а именно — как генеративные ИИ-модели создают компаниям новые угрозы, включающие утечки данных и промышленный шпионаж. Поскольку передача информации в публичные ИИ-сервисы становится серьезным риском для бизнеса, в этом материале поговорим о том, как с этими рисками работают DLP-системы.

Основная проблема

На первый взгляд кажется, что вместе с общедоступным генеративным ИИ просто появился еще один канал передачи данных, но на практике дела обстоят куда сложнее. Новый вызов — изменение пользовательского поведения. Передача информации во внешние ИИ-сервисы вошла в рутину: пользователь не просто отправляет документ во внешний сервис — он ведет диалог с ИИ-моделью, передает ей фрагменты документов, получает результаты обработки и использует их в дальнейшей работе. Компании не сразу начали задумываться о том, какие данные попадают в эти сервисы и что происходит с ними после отправки.

От контроля передачи к контролю контекста

Исторически DLP-система решает задачу по контролю передачи конфиденциальной информации за периметр организации. При работе с генеративным ИИ этого мало. Стало важно понимать и факт обращения к ИИ-сервису, и весь сценарий работы с данными: что пользователь передал ИИ-модели, какой результат получил и как использовал его дальше.

Такой сценарий требует новых механизмов контроля и правил использования ИИ. Надо определить, какими ИИ-сервисами можно пользоваться, какие данные допустимо передавать, кто имеет право работать с генеративными ИИ-моделями и в каких бизнес-процессах это разрешено. Детальность правил зависит от специфики компании, модели угроз и зрелости ИБ-процессов.

Если компания развернула LLM внутри корпоративной ИТ-инфраструктуры, она контролирует и модель, и данные, которые в нее попадают. С публичными сервисами ситуация другая. После передачи информации организация ее не контролирует. Именно здесь лежат основные риски.

Это меняет требования к DLP-системе. Недостаточно увидеть факт передачи данных — нужно понимать весь сценарий работы с информацией: какой сервис использовался, какие данные переданы, что модель вернула в ответ и как этот результат применялся в работе дальше. DLP-система переходит от контроля передачи данных к контролю контекста их использования.

Расследование как реконструкция событий

С появлением генеративного ИИ меняется и подход к расследованию инцидентов. Раньше достаточно было установить, кто, кому, когда и по какому каналу отправил конфиденциальную информацию. Теперь приходится восстанавливать всю цепочку работы с данными. Например, сотрудник передает в ИИ-модель не всю клиентскую базу, а только ее фрагмент, получает сегментацию клиентов или аналитический отчет, а затем отправляет подрядчику результат обработки. Формально база данных компанию не покинула, но часть конфиденциальной информации участвовала в работе ИИ-модели, а значит, могла повлиять на итоговый результат.

В этом случае при работе с DLP-системой недостаточно просто зафиксировать факт передачи данных. Нужно восстановить сценарий работы с информацией: определить источник данных, проследить действия пользователя с конкретной ИИ-моделью, какие политики безопасности сработали и чем в итоге завершилось взаимодействие с ИИ.

Возможности InfoWatch Traffic Monitor

Для многих компаний главная проблема — отсутствие видимости. Прежде чем выстраивать защиту, нужно понять, используют ли сотрудники генеративный ИИ, насколько активно, какие сервисы выбирают. В InfoWatch Traffic Monitor на первом этапе определяется периметр ИИ — все сервисы, с которыми взаимодействуют пользователи. Это позволяет увидеть реальную картину и выявить зоны риска.

Следующая задача — определить обращения, требующие внимания ИБ. Для этого используются обновленные базы контентной фильтрации со специализированными словарями, характерными для взаимодействия с генеративными моделями. Они позволяют выявлять попытки передачи конфиденциальной информации в публичные ИИ-сервисы. В системе предусмотрены готовые объекты защиты и политики, закрывающие наиболее распространенные сценарии работы с ИИ. Их можно использовать сразу «из коробки», затем постепенно адаптировать под специфику организации. В результате ИБ-специалист получает не просто факт обращения к ИИ, а возможность отделять рабочие сценарии от инцидентов и принимать решения с учетом контекста.

Организационные меры остаются основой

Вопрос использования публичных ИИ-моделей каждая организация решает по-своему: полный запрет, работа только с определенными сервисами или ставка на внутренние LLM. Самая современная DLP-система не компенсирует отсутствие организационных мер и правил. Компании необходимо определить доверенный периметр ИИ — разрешены ли ИИ-модели и какие именно, как они применяются и кто имеет к ним доступ. Сотрудники должны знать, какие данные нельзя передавать внешним ИИ-моделям, а какие следует анонимизировать перед отправкой.

В организационном плане безопасная работа с генеративным ИИ ставит целью сделать этот процесс понятным и управляемым.

Прогноз

Генеративный ИИ — это не критичный вызов для современных DLP-систем. Они уже адаптировались к облакам, мессенджерам и соцсетям. Серьезные изменения начнутся, когда с данными будут работать не сотрудники, а многочисленные ИИ-агенты, заменяющие и подменяющие человека. И задуматься  над этим нужно уже сейчас.