Безопасность данных в AI-проекте: что спрашивать у подрядчика

Почему это важно

AI-проект это не обычное внедрение ПО. Через агента проходят данные твоих клиентов: их вопросы, их имена, их заказы, их проблемы. Если эти данные уходят куда-то без твоего понимания, ты нарушаешь договор с клиентами и законы о персональных данных.

Я регулярно вижу проекты где клиент вообще не задавал вопросов про безопасность. Подрядчик поставил стек, данные идут через публичные API, персональные данные клиентов в логах у OpenAI, и никто не понимает что это уже нарушение.

Лучше задать пять неудобных вопросов на старте, чем пытаться чинить это задним числом.

Первый вопрос: через какие сервисы идут данные

Когда клиент пишет агенту, его сообщение проходит цепочку. Возможно: мессенджер, твой сервер, LLM-провайдер, векторная база, CRM, логи.

Попроси у подрядчика карту этой цепочки. На каждом узле спроси где физически хранятся данные и кому принадлежит этот узел.

Если ответ звучит как "ну где-то в облаке", это значит подрядчик сам не знает. Это уже риск.

Второй вопрос: что хранится и как долго

Не все данные равны. Одно дело временно обработать вопрос клиента для того чтобы дать ответ. Другое дело хранить этот вопрос в логе три года на случай если его понадобится перечитать.

Спроси: какие данные хранятся в логах, на какой срок, кто имеет к ним доступ, как они удаляются когда срок истёк.

У приличного проекта на эти вопросы есть простые ответы. У непричёсанного проекта ответы звучат как "всё логируется на всякий случай".

Третий вопрос: что уходит во внешние сервисы

Если агент работает через OpenAI API, каждый запрос клиента уходит на серверы OpenAI. По их условиям использования они не обучают модель на этих данных (для коммерческих API), но они всё равно временно хранят запросы для сервисных целей.

Это может быть ок, если твои данные не чувствительные. Это не ок если ты работаешь с медицинскими, финансовыми или юридическими данными клиентов.

Спроси: данные каких категорий уходят во внешние сервисы? Есть ли персональные данные? Есть ли соглашение с провайдером по обработке данных (DPA)?

Четвёртый вопрос: что с персональными данными

Имя, телефон, email, адрес это персональные данные. Они регулируются законом в большинстве юрисдикций. Если они проходят через агента, должно быть понятно на каком основании (согласие клиента, договор, законный интерес).

Спроси: как получается согласие клиентов на обработку? Где оно хранится? Что происходит если клиент требует удалить свои данные?

Если подрядчик не понимает вопроса, значит про GDPR или аналоги никто не думал. Это бомба замедленного действия.

Пятый вопрос: план на инцидент

Допустим случилась утечка. Или агент случайно отправил одному клиенту данные другого. Что мы делаем?

Спроси: есть ли план реакции на инцидент? Кто его владелец? Как мы узнаем что инцидент произошёл? Что мы говорим клиентам?

У приличного подрядчика план есть даже в общих чертах. У непричёсанного ответ "да мы ничего не нарушим". Это не план, это наивность.

Как я работаю с безопасностью в своих проектах

Карта данных на старте проекта. Пишется в документ, согласуется с клиентом, становится частью спецификации.

Минимальные данные в логах. Логирую технические детали (время, длительность, тип запроса, статус), а текст сообщений только в тех случаях когда клиент явно согласился, и только на ограниченный срок.

DPA с провайдерами. Если работаю через API провайдеров, беру только тех у кого есть приемлемое соглашение об обработке данных.

Локальное развёртывание для чувствительных проектов. Медицина, юриспруденция, финансы у меня не идут через публичные API. Только локально.

Обсуждение с юристом клиента. Если клиент большой, обязательно подключаем его юриста на этапе проектирования. Это ускоряет всё остальное потому что юридические вопросы решаются заранее, а не блокируют запуск.

Что делать тебе

Если у тебя уже есть AI-проект, пройдись по этим пяти вопросам и задай их подрядчику. Если ответы расплывчатые, это сигнал.

Если ты только планируешь проект, задай эти вопросы с первого разговора. Хороший подрядчик будет рад ответить. Плохой начнёт говорить что ты чрезмерно осторожничаешь.

Хочешь чтобы я провёл безопасностный аудит твоего проекта, пиши в t.me/kulmashev.