Закрытый контур для AI: когда это действительно нужно и как сделать правильно
Закрытый контур это не модное слово, а реальный способ решить проблему с чувствительными данными. Рассказываю как я это строю.
Что значит "закрытый контур"
Термин звучит технично, но идея простая. Данные твоих клиентов не покидают твою инфраструктуру. Все компоненты AI-агента (модель, поиск, база знаний, логи) работают на серверах которые контролируешь ты или которые физически находятся в юрисдикции где тебе это удобно.
В открытом варианте данные идут через публичные API (OpenAI, Anthropic, Google). В закрытом контуре они никуда не выходят за пределы твоего сервера или твоего частного облака.
Когда это действительно нужно
Медицинские данные. Любые данные о здоровье клиента регулируются жёстко во всех юрисдикциях. Публичные API тут не подходят.
Финансовые данные. Банковские операции, инвестиционная информация, детали сделок. Здесь есть строгие требования к хранению и обработке.
Юридические документы. Переписка с клиентами, договоры, детали дел. Адвокатская тайна не пускает эти данные на чужие серверы.
Корпоративные секреты. Внутренние процессы крупной компании, стратегия, технические разработки. Это не надо пускать через сервисы к которым имеют доступ конкуренты по неосторожности.
Данные граждан в юрисдикциях с жёстким регулированием. GDPR, российский 152-ФЗ, казахстанские, узбекские, белорусские аналоги требуют понимать где физически хранятся персональные данные.
Как я строю закрытый контур
Компонент первый: локальная LLM. В 2026 это Gemma 4 (Apache 2.0) на сервере клиента, или Llama в подходящем варианте, или меньшие модели типа Mistral. Запускается через Ollama или аналогичный рантайм.
Компонент второй: локальная векторная база. Qdrant, PGVector, Weaviate в self-hosted варианте. База знаний живёт на том же сервере где модель.
Компонент третий: оркестратор. LangGraph или собственный код на Python. Работает на том же сервере.
Компонент четвёртый: хранилище логов. Обычная SQL-база, тоже локально. Всё что логируется остаётся у клиента.
Компонент пятый: интерфейс. Веб-панель или Telegram-бот. В случае Telegram данные частично проходят через серверы Telegram, и это надо обсудить с юристом клиента. Иногда это приемлемо, иногда нет и приходится делать собственный веб-чат.
Требования к железу
Самая частая ошибка заказчика: ожидать что локальный AI будет работать на обычном ноутбуке. Это не так. Модели в 2026 требуют серьёзного железа.
Минимум для приличной скорости: видеокарта с 16-24 ГБ VRAM. Лучше больше. Альтернатива: арендовать GPU-сервер в облаке которое готово подписать нормальное соглашение по обработке данных.
Для небольшого объёма (до 200 обращений в день) подходит одна карта. Для больших объёмов нужен кластер или несколько GPU.
Я заранее считаю требования к железу и предлагаю клиенту несколько вариантов по стоимости.
Типичные ошибки в закрытом контуре
Первая: "закрытый контур" на словах, а по факту часть компонентов в публичных облаках. Клиент думает что данные в безопасности, но они идут через стороннее API для одного из шагов. Я всегда составляю схему всех потоков данных и прохожу по каждой стрелке.
Вторая: забытые логи. Данные не уходят наружу, но они пишутся в лог который хранится открыто и к которому есть доступ у всех разработчиков. Это нарушение не меньшее чем утечка наружу.
Третья: резервное копирование. Бэкапы базы знаний улетают в облако без шифрования. Это тоже утечка, о которой никто не думает.
Четвёртая: доступ сотрудников. Закрытый контур защищает от внешних, но сотрудники подрядчика имеют прямой доступ к серверу. Это должно быть прописано в договоре и отслеживаться логами доступа.
Сколько это стоит
Закрытый контур дороже открытого. Не в два раза, но заметно. Причины: железо, работа по развёртыванию, техническая поддержка, сложнее апгрейды.
Но. Для проектов где данные чувствительные, другого пути нет. И "дороже" это не значит "неподъёмно". Разумный закрытый контур для малого-среднего бизнеса у меня обычно укладывается в стоимость одного менеджера среднего уровня в месяц.
Что делать тебе
Если твои данные чувствительные и ты до сих пор работаешь через публичные API, это риск который однажды всплывёт. Не обязательно сегодня, но вопрос времени.
Хочешь чтобы я оценил переход на закрытый контур под твой стек, пиши в t.me/kulmashev. Посмотрим вместе что нужно и сколько это будет стоить.
Готовы внедрить эти решения в свой бизнес?
Запишитесь на бесплатный разбор ваших бизнес-процессов.
Связаться с нами