Аудит Shadow AI
Команда уже пользуется AI, который никто не согласовывал: данные клиентов в чат-боте, личный API-ключ в продакшен-скрипте, сгенерированный код, влитый без ревью. Я выясняю, чем пользуются на самом деле и какие данные уходят наружу. И оставляю политику, которую люди будут соблюдать, вместо запрета, который они обойдут.
Shadow AI — это AI-инструменты и модели, которыми сотрудники пользуются для работы без согласования с компанией: чат-бот, куда попадают данные клиентов, личный API-ключ в продакшен-скрипте, код-ассистент, о котором никто не знает. Аудит Shadow AI даёт реестр того, чем реально пользуются в каждой команде, карту данных (что уходит наружу и где оседает) и короткий список разрешённых инструментов, закрывающих те же задачи. Такие аудиты проводит Олег Сотников. Он сам управляет AI-first компанией, поэтому на выходе получается безопасное внедрение, а не очередной запрет.
Что смотрит аудит
Шесть направлений. Первых двух обычно хватает, чтобы разговор в компании поменялся.
Инвентаризация AI
Чем реально пользуются в каждой команде: чат-ассистенты, код-ассистенты, сервисы записи встреч, браузерные расширения, агенты, которых кто-то собрал в пятницу вечером. Названия, владельцы и частота использования.
Куда уходят данные
По каждому инструменту: что туда попадает и где оседает. Какой вендор, какой регион, обучается ли тариф на ваших данных, сколько хранятся переписки и кто на стороне вендора может их прочитать.
Личные ключи и личные аккаунты
API-ключи, оплаченные с чьей-то карты, бесплатные тарифы с продакшен-данными, личный логин под рабочим инструментом. Риск несёт компания, трафика она при этом не видит, а доступ уходит вместе с человеком.
Сгенерированный код без происхождения
Код влит, и нигде не записано, что именно написала модель. Куски, которые трогают авторизацию, платежи и персональные данные, никто не смотрел вторым глазом. Лицензионные вопросы приходят оттуда же.
Разрешённые альтернативы
Легальный способ сделать то, что люди делают и так: корпоративный тариф с выключенным обучением, шлюз с корпоративными ключами, своя модель для данных, которые нельзя выпускать наружу. Прятать перестают, когда разрешённый путь не медленнее спрятанного.
Политика, совпадающая с реальностью
Находки превращаются в правила, которые человек способен соблюдать: какие инструменты разрешены, какие данные в них можно вводить, кто проверяет результат до того, как его увидит клиент. С этого документа начинается AI governance, и после реестра он получается куда живее, чем до него.
Как это работает
Обнаружение
Реестр собирается с трёх сторон: логи сети и SaaS, расходы и выписки по картам, короткий анонимный опрос. Это подсчёт, а не охота на ведьм: имён в отчёте нет, и команда слышит это заранее — иначе опрос врёт.
Оценка
Каждый инструмент я меряю по двум осям: насколько чувствительны данные, которые в него уходят, и как далеко разойдётся ущерб, если вендора взломают. Большая часть списка оказывается безобидной. Настоящий риск обычно сидит в двух-трёх местах.
Легализация
Разрешённый набор инструментов под реальные задачи, политика под этот набор и короткое обучение, чтобы люди знали правила и причины за ними. Через квартал — повторный подсчёт: новые инструменты выходят постоянно.
Почему я
- Я сам управляю AI-first компанией — AppMaster обрабатывает 11+ млрд токенов в месяц, — поэтому знаю, что сотрудники на самом деле делают с AI, включая то, что не попадает в задачи
- 25+ лет в IT и 1 000+ проектов: разговор про реестр остаётся техническим и не превращается в разбор полётов
- Моя позиция: безопасное внедрение вместо запрета. После запрета та же работа уезжает на личные ноутбуки и телефоны, где её не видно и данные не защитить
Что дальше
Соседние части той же задачи.
Частые вопросы
Что такое shadow AI?
Shadow AI — это любой AI-инструмент или модель, которыми пользуются для работы без согласования с компанией: чат-бот в соседней вкладке, код-ассистент в редакторе, личный API-ключ в скрипте, который крутится в продакшене. По сути это shadow IT в новой форме, и расходится оно быстрее: такие инструменты не требуют ни установки, ни бюджета, ни прав администратора.
Насколько распространён shadow AI?
Практически везде, где компания не утвердила конкретный набор инструментов. Они бесплатные, они помогают, а альтернатива для сотрудника — делать ту же работу медленнее. Если у вас нет списка разрешённых инструментов и нет замеров использования, считайте, что shadow AI уже есть, и относитесь к аудиту как к подсчёту, а не к поиску доказательств.
Чем опасен shadow AI?
Опасность вполне конкретная. Данные клиентов и исходный код, вставленные в личные аккаунты, лежат на серверах вендора на условиях, которых никто не читал, а часть тарифов использует эти данные для обучения. Если так уходят регулируемые данные, по GDPR или HIPAA это может быть инцидентом, о котором нужно сообщать. Отдельная история — сгенерированный код без ревью: в авторизации, платежах и доступе к данным оказывается логика, которую никто не прочитал.
Может, просто запретить AI-инструменты?
Нет. Запрет не отменяет работу, он переносит её на личные ноутбуки и телефоны: трафика вы там не видите, а данные оказываются вне ваших контролей. Риск снижает другое: небольшой набор разрешённых инструментов с нормальными договорами и быстрый путь согласования. Полный запрет оставьте для узких случаев, когда данные действительно не должны покидать ваш контур.
Как это связано с AI-политикой?
Аудит выясняет, как обстоят дела на самом деле, а политика это закрепляет. В обратном порядке получается документ про компанию, которой у вас нет, — соблюдать его перестают за неделю. На этом сайте лежат бесплатный шаблон AI-политики и генератор: черновик можно собрать заранее и прийти с ним ещё до первого разговора.
Узнайте, чем команда уже пользуется
Подсчёт инструментов, карта уходящих данных и политика, которую будут соблюдать. Начните со звонка — готовиться не нужно.
30 минут. Если shadow AI — не ваша проблема, я скажу об этом прямо на звонке.
По теме
Внедрение AI, управление им и то, что на самом деле происходит внутри команд.
