Я построил трёх AI-ассистентов. Двое из них слили бы клиентские данные
Три POC за полгода. У двоих не было архитектуры приватности. Что случилось бы в день выхода в эксплуатацию - и пять вопросов, которые я теперь задаю до того, как пустить ассистента на демо.
За последние полгода я выпустил три POC-ассистента на AI. Внутренний инструмент для продаж, копилот для саппорта и Q&A-бот по документации закупок. Все три демо прошли гладко, клиенты остались довольны. И двое из этих ассистентов слили бы клиентские данные в первый же день работы.
Я хочу рассказать про конкретные дыры, потому что вижу ту же форму ошибки в каждом втором AI-POC, который мне приносят посмотреть.
Шаблон всегда один. Фаундер хочет AI. Фаундер нанимает вайб-кодера (иногда меня, пока я не научился). Вайб-кодер выпускает за две недели. Штука работает. Фаундер говорит «выпускаем». Юрист говорит «подождите».
Вот что я выпускал и где у каждого была дыра.
Ассистент №1 - копилот для продаж. Читал заметки по продажам из Notion, собирал черновики писем вдогонку, отправлял их в CRM. Работал красиво. Три проблемы, которые я заметил только при внимательном перечитывании:
- В заметках лежали имена клиентов, телефоны и суммы контрактов. Всё это уходило в OpenAI API на каждый запрос. DPA клиента с его собственными покупателями такое не разрешал. Мы были в одном скриншоте от настоящего иска.
- Журнала аудита нет. Если бы клиентский пользователь спросил «какие мои данные видел ваш AI?», мы бы не смогли ответить. Не «не хотим» - мы не могли.
- Логи всех ответов модели лежали на VPS в открытом виде. Срок хранения по умолчанию - навсегда. Никто не решил иначе. Никто не подумал.
Ассистент №2 - копилот для поддержки. Подсказывал ответы на тикеты. Туториал по вайб-кодингу говорит: передавай полный тикет плюс историю клиента. Мы так и сделали. История содержала адреса, сообщения о неудачных платежах и один кейс, который я не хочу описывать в письменном виде. Всё ушло в LLM. Клиенту мы об этом не сказали.
Ассистент №3 - справочник по закупкам. Этот я строил позже и построил правильно. Два слоя очистки - скраббер персональных данных на входе и обезличивание на выходе. Плюс журнал аудита каждого запроса и ответа со сроком хранения 30 дней и SSO с ролевым доступом: юристы видели всё, команда закупок - только свои запросы.
Разница между №3 и остальными была не в AI-навыке. К моменту его постройки я уже понял, что AI - лёгкая часть. Сложная - это обвязка вокруг AI, которая решает, продашь ты эту штуку крупному клиенту или потратишь полгода на переделку за неделю до закрытия сделки.
Вот тест, который я теперь прогоняю на каждом AI-ассистенте до того, как разрешу демо.
Куда уходят данные. Какие именно поля покидают ваши сервера и оказываются в логах LLM-провайдера? Вы должны уметь показать пальцем на шаблон промпта и сказать «это поле, это поле, а вот это - нет». Если не можете - не готовы.
Что попадает в лог. Каждый запрос. Каждый ответ. С отметками времени, идентификаторами пользователей и политикой хранения, которую вы реально где-то прописали. Если CTO отвечает «мы пишем всё в CloudWatch» - это не журнал аудита, это братская могила.
Кто что видит. Ролевой доступ на интерфейсе AI, а не только в базе данных. Стажёр не должен иметь возможности запросить переписку директора. Сотрудник саппорта не должен достать таблицу зарплат.
Что происходит при удалении. Когда клиент просит его забыть, вы действительно можете его забыть - в базе, в эмбеддингах, в кэше промптов, в логах, в бэкапах? Если ответ начинается с «ну, технически…» - начинайте сначала.
Что вы пообещали клиенту. DPA, политика конфиденциальности, согласие на обработку. Все эти документы - сначала инженерный вопрос и только потом юридический. Инженер, который строит слой данных, должен знать, что было обещано.
Я рассказываю эту историю потому, что разговор про соответствие требованиям в 2026 почти весь идёт не с того конца. Шаблоны GDPR-политик покупают у юрфирм все. Слой данных, который делает эти политики правдой, не строит почти никто.
Соответствие требованиям юрист за вас не построит. Юрист может только сказать, что вы пообещали. Выполнить обещание должен слой архитектуры - что отправляется, что логируется, что маскируется, что удаляется, у кого есть доступ, какой журнал аудита это всё подтверждает.
Я делаю эту работу как инженерную, а не как юридическую: карта потоков данных, разметка полей с персональными данными, скраббер, журнал аудита, политика хранения и модель доступа. Задача одна: сделать обещания GDPR, LGPD и DPA правдой, а не подписью.
Работа эта в 2026-м не самая модная. Зато именно она не даёт модной части обернуться скандалом через девять месяцев.
Если вы выпускаете AI-ассистента и от ответов на пять вопросов выше становится неуютно - давайте поговорим.