Теневой ИИ в компании: как найти и взять под контроль

Чтобы обнаружить теневой ИИ, начните с 4 направлений: несогласованные приложения, браузерные расширения, личные аккаунты и ИИ-функции в уже используемом ПО. По каждому найденному сценарию примите решение и предложите удобную разрешённую альтернативу. Сплошной запрет без рабочего решения оставляет сотрудников с теми же задачами, ради которых они обратились к ИИ.

Что такое теневой ИИ?

Теневой ИИ (shadow AI) — это использование ИИ для работы без согласования или контроля со стороны компании. Это может быть новое приложение, личный аккаунт сотрудника, браузерное расширение или ИИ-функция в уже одобренном сервисе. Главное здесь — отсутствие решения компании о том, допустим ли такой способ работы. В определении теневого ИИ от IBM описан тот же разрыв: сотрудники уже пользуются технологией, а компания ещё не контролирует её применение.

Представьте компанию как рынок с несколькими входами. Проверка главных ворот ничего не говорит о том, что проходит через боковое окошко или прилавок внутри другого павильона. Так и одобрение поставщика ПО не означает автоматического разрешения всех связанных с ним ИИ-функций, аккаунтов и подключений.

Даже оплаченная личная подписка может оставаться теневым ИИ. Рабочий адрес электронной почты тоже не гарантирует, что аккаунт кто-то проверил. И наоборот: незнакомый инструмент можно одобрить, если оценить, как именно его используют, и установить границы.

Где скрывается теневой ИИ: четыре повседневных примера

Посмотрите, как сотрудники выполняют работу, включая шаги, для которых никто не оформляет заявку на закупку. Ниже — условные ситуации, а не сообщения об инцидентах в конкретных компаниях.

Несогласованные приложения: ещё одна загрузка файла

Координатор операционной работы скачивает таблицу с данными клиентов и загружает её на сайт для анализа с помощью ИИ, чтобы разобраться в изменении заказов. Сама задача полезна. Открытым остаётся вопрос, можно ли передавать этому сайту клиентские данные.

Что искать: сервисы для краткого пересказа документов и расшифровки записей, помощников для программирования и инструменты анализа, которых нет в списке разрешённых. Проверяйте не только сайты, но и приложения для компьютеров и телефонов.

Что выяснить: какие данные загрузили, через какой аккаунт и почему существующий рабочий процесс не позволял решить задачу? Более безопасной заменой может стать одобренный аккаунт и выгрузка агрегированных данных без сведений, позволяющих определить клиентов.

Браузерные расширения: доступ не ограничивается промптом

Менеджер по продажам устанавливает ИИ-расширение для работы с текстом и разрешает ему читать страницы в системе управления взаимоотношениями с клиентами — CRM. Сотрудник может считать, что просто подключил помощь в написании писем, хотя разрешения расширения охватывают и другое содержимое страниц.

Что искать: установленные расширения и их фактические настройки доступа к сайтам. В документации Google указано, что разрешения расширений могут давать доступ к содержимому сайтов и другим ресурсам браузера. Такое разрешение означает потенциальный доступ, но не доказывает, что расширение передало все страницы, которые могло прочитать. Руководство Chrome по разрешениям расширений.

Что выяснить: к каким сайтам у расширения есть доступ, что оно отправляет своему поставщику и может ли выполнять полезную функцию с меньшими правами? Согласуйте расширение отдельно от основного ИИ-сервиса, к которому оно подключается.

Личные аккаунты: знакомый сервис, чужое рабочее пространство

Руководитель поддержки входит в привычного ИИ-помощника через личный аккаунт, чтобы получить краткое изложение переписки по жалобе. Компания, возможно, уже одобрила корпоративный сервис этого поставщика, но сотрудник работает за пределами согласованного рабочего пространства.

Что искать: какой аккаунт и какое рабочее пространство открыты при выполнении задачи, кому принадлежит подписка и кто может отозвать доступ при увольнении сотрудника. Само по себе возмещение расходов не даёт компании контроля.

Что выяснить: может ли сотрудник показать одобренное рабочее пространство до того, как скопирует туда рабочие материалы? Если переключение между аккаунтами вызывает путаницу, покажите нужный порядок действий при вводном обучении и дайте понятную закладку или ссылку для входа.

ИИ-функции в одобренном SaaS: незаметное расширение возможностей

SaaS — это программное обеспечение, доступное как онлайн-сервис. Допустим, команда включила ИИ-функцию для подведения итогов встреч в привычном сервисе видеоконференций или подключила помощника в CRM к клиентским записям. Основное приложение согласовали, а новый способ обработки данных или доступа к ним могли вообще не проверить.

Что искать: настройки ИИ-функций, интеграции, помощников для встреч и изменения в том, какие данные существующие сервисы могут читать и какие действия выполнять. Спрашивайте ответственных за приложения, что они включили, даже если новых счетов на оплату не появилось.

Что выяснить: распространяется ли исходное согласование на эту функцию, передаваемые данные, полученную расшифровку или сводку и круг её получателей? Если границы не изменились, уже одобренный сценарий можно продолжать использовать. Существенное расширение нужно проверить, прежде чем считать его обычной рабочей практикой.

Почему сотрудники используют нейросети на работе без согласования

Сначала выясните, какую задачу человек пытается закончить. В поддержке растёт очередь, приближается срок сдачи отчёта или разрешённое ПО неудобно для нужной работы. Когда личный инструмент легко доступен, а порядок согласования непонятен, короткий путь выглядит заманчиво. IBM также называет повышение продуктивности и более быстрое решение задач причинами использования ИИ без контроля компании. Почему возникает теневой ИИ.

Для владельца бизнеса это означает, что в компании может появиться практика обработки данных, которую никто осознанно не выбирал. Для руководителя операционной работы — что обходной способ успеет стать частью критически важного процесса, прежде чем станет понятно, кто за него отвечает.

Спросите, что позволит сотруднику выполнять ту же полезную работу в рамках ваших правил. Иногда нужен одобренный инструмент. Иногда — доступ к уже имеющемуся сервису, более удобная выгрузка или более быстрый ответ на запрос об исключении из правил.

Риски использования ИИ: оценивайте данные и действия

Расставляйте приоритеты по тому, что конкретный сценарий раскрывает или позволяет изменить. Несогласованный помощник, который редактирует публичное объявление, создаёт иную проблему, чем неизвестный сервис, получающий файлы с зарплатными данными.

Здесь нужно отдельно ответить на несколько вопросов:

• Передача данных: попала ли информация компании или клиентов в сервис, которому не разрешали её получать?
• Хранение и доступ: кто может получить содержимое, как долго оно хранится и может ли компания управлять удалением и предоставлением доступа?
• Обучение: может ли поставщик использовать содержимое для улучшения своих моделей? Это отдельный вопрос, не равнозначный обработке запроса или хранению истории чатов.
• Последствия для бизнеса: может ли непроверенный ответ ввести клиента в заблуждение, изменить запись или привести к другому значимому действию?

Подозрение на раскрытие данных требует проверки. Само по себе оно не означает, что информация стала общедоступной или попала в обучение модели. Сначала зафиксируйте, что произошло, и лишь затем описывайте последствия.

Теневые ИИ-агенты получают ещё и право действовать

ИИ-агент — это программа, которая может использовать инструменты для выполнения задач. Несогласованный помощник, который готовит черновик ответа, и помощник, который может его отправить, требуют разных мер контроля.

В условном процессе продаж право читать запись о потенциальном клиенте не должно незаметно превращаться в право писать всем контактам или менять стадии сделок. Зафиксируйте права на чтение, права на изменение и имя человека, который согласует значимые действия. Разработчику не стоит подключать к эксперименту учётные данные и права доступа к рабочим системам, пока этот объём доступа не проверен.

Как выявить теневой ИИ без отдела информационной безопасности

Начните с разговоров с сотрудниками и рабочих записей, которые компания уже контролирует. Сначала нужен полезный реестр, а уже потом — новый инструмент мониторинга.

Как найти неучтённые сценарии использования ИИ

Попросите руководителя каждого направления показать, где ИИ участвует в работе, на вымышленных или общедоступных материалах. Не забудьте о подрядчиках и руководителях. Отдельно спросите о редактировании текстов, кратких пересказах, заметках со встреч, таблицах, коде и автоматических действиях: вопрос «Вы пользуетесь ИИ?» легко понять слишком узко.

Затем сопоставьте ответы с записями, доступ к которым вам разрешён: расходами по корпоративным картам, подписками, расширениями на рабочих устройствах, интеграциями приложений, доступными журналами входа и включёнными ИИ-функциями. Отсутствие расходов не исключает личного аккаунта или функции, включённой в существующий пакет.

Для расширения Chrome нажмите правой кнопкой мыши на его значок и выберите Manage Extension («Управление расширением»). Просмотрите указанные разрешения и доступ к сайтам, затем попросите администратора приложения ограничить или убрать ненужный доступ. Прежде чем решать, допустимы ли запрошенные права, изучите условия обработки данных самого расширения. Документация Google по расширениям.

Сосредоточьтесь на рабочем использовании. Просите назвать сервис, тип аккаунта и категории данных; не требуйте вставлять конфиденциальную переписку в общую анкету или передавать личные пароли.

Краткая запись в реестре может выглядеть так:

Подготовка ответов поддержки; ответственный — руководитель поддержки; личный аккаунт ИИ-сервиса; переписку по жалобам вставляют вручную; автоматической отправки нет; ожидает проверки; перенести подготовку ответов в одобренное рабочее пространство и оценить прежние загрузки.

Отмечайте и то, что ещё не проверили. Ответы сотрудников и доступные журналы дают лишь частичную картину: они не доказывают, что найдены все сценарии. Разбирайте расхождения и повторяйте проверку при изменении аккаунтов, интеграций или рабочих процессов.

План действий по теневому ИИ на одной странице

Назначьте ответственным за этот план владельца бизнеса или руководителя операционной работы. Настройки и изменения доступа может взять на себя администратор приложений или внешний ИТ-подрядчик. Чтобы принять решение и довести его до исполнения, не нужно создавать комитет.

Область действия: ИИ, используемый для работы компании, включая встроенные функции и работу подрядчиков.
Ответственный: человек, который может одобрить сценарий, потребовать изменений или остановить его.
Учёт: единый общий реестр с ограниченным доступом к подробностям инцидентов.

Подозрение на раскрытие данных — в первую очередь: остановите дальнейшую передачу этим способом, ограничьте соответствующий доступ и зафиксируйте сервис, аккаунт, время, категории данных и доступные свидетельства произошедшего. Если был раскрыт пароль или токен доступа, поручите его владельцу отозвать или заменить его. По возможности надёжно сохраните свидетельства до удаления переписки или подключений. Обратитесь к принятому в компании контакту по инцидентам или внешней ИТ-поддержке, чтобы оценить последствия и возможные договорные обязательства или обязанности по уведомлению; не считайте удаление доказательством того, что данные нигде не сохранились.

Пересмотр: во время внедрения еженедельно проверяйте сценарии, по которым ещё нет решения, затем установите подходящую для бизнеса регулярность. Ежемесячная проверка — практичная отправная точка. Возвращайтесь к решению, если меняются данные, цель, аккаунт или разрешения.

Для правил, адресованных сотрудникам, используйте шаблон политики допустимого использования ИИ. Система управления ИИ описывает более широкий порядок распределения ответственности и документирования. Этот план помогает организовать действия, а указанные материалы дают необходимые документы.

Как организовать одобренный способ работы с ИИ

Нужны аккаунт под контролем компании, задача, которую сервис способен выполнить, допустимые входные данные и назначенный проверяющий. Защита корпоративных данных от использования в обучении — полезное исходное условие. Она не даёт разрешения загружать любые файлы.

Следующие обязательства поставщиков проверены по их действующей документации 20 октября 2026 года. Каждое относится к конкретному корпоративному сервису и его условиям. Обучение, хранение, предоставление доступа и подключения к сторонним сервисам нужно проверять отдельно.

ChatGPT Business: работайте в пространстве компании

OpenAI ChatGPT Business — командное рабочее пространство для помощника ChatGPT — по умолчанию исключает содержимое корпоративных клиентов из обучения моделей. Руководство OpenAI по управлению данными рассматривает историю переписки и хранение как отдельные вопросы и указывает на необходимость решений об интеграциях и предоставлении доступа. Руководство OpenAI по управлению корпоративными данными.

Согласуйте конкретное рабочее пространство и разрешённые в нём задачи. Перед использованием внутренних материалов сотрудники должны убедиться, что открыли именно его; подключения приложений проверяйте отдельно.

Ограничение: исключение данных из обучения не означает, что история чатов нигде не хранится. Уточните, какие средства управления хранением, доступом и аудитом есть в вашем тарифе. Не обещайте сроки удаления или аудит переписки, если эти возможности и порядок работы не установлены.

Claude Team: настройте передачу отзывов

Anthropic Claude Team, версия помощника Claude для организаций, подпадает под обязательства Anthropic в отношении коммерческих данных. Входные данные и результаты коммерческих клиентов по умолчанию не используются для обучения моделей. Явно отправленные отзывы, сообщения об ошибках и другие добровольно выбранные способы передачи данных могут разрешать использование чатов и сеансов работы с кодом для обучения. Политика Anthropic по обучению на коммерческих данных.

Подключите сотрудников к организации компании в сервисе и укажите, какие документы там разрешено использовать. Владелец может отключить отзывы с оценками «нравится / не нравится» через Organization settings > Data and Privacy > Rate chats, как описано на той же странице политики.

Ограничение: «не используется для обучения по умолчанию» не должно превращаться в «любая передача данных подпадает под это правило». Явно установите порядок работы с отзывами и проверьте интеграции до подключения источников компании.

Microsoft 365 Copilot: проверьте существующий доступ к файлам

Microsoft 365 Copilot, помощник Microsoft для работы в её офисных сервисах, в текущей документации называется Microsoft Copilot; в переходный период некоторые лицензии и интерфейсы сохраняют прежнее название. По заявлению Microsoft, промпты, ответы и данные, полученные через Microsoft Graph — механизм подключения к рабочей информации, — не используются для обучения базовых языковых моделей. Документация Microsoft о конфиденциальности данных организаций.

Убедитесь, что обязательства распространяются на используемые корпоративный аккаунт и сервис. Прежде чем включать рабочий процесс с доступом к документам, проверьте, кто может их открывать.

Ограничение: Copilot может показывать информацию организации, которую пользователь уже имеет право просматривать. Он не исправляет слишком широкие права доступа к файлам. Microsoft также описывает сохранение взаимодействий и отдельные особенности веб-поиска и сторонних агентов. Проверяйте эти функции в контексте предлагаемого сценария.

Gemini for Workspace: уточните, на какой сервис распространяются условия

Google Gemini for Workspace — ИИ-помощник в корпоративных офисных сервисах Google — предоставляет защиту в рамках соответствующих редакций Google Workspace. В центре информации Google о конфиденциальности указано: охватываемые условиями промпты, содержимое Workspace, контекст веб-страниц и сгенерированные ответы не используются для обучения генеративных моделей ИИ без разрешения. Центр информации о конфиденциальности генеративного ИИ в Google Workspace.

Попросите администратора подтвердить, что выбранные сервис Gemini и аккаунт подпадают под эти обязательства Workspace. Не переносите гарантии на личный аккаунт Google только потому, что помощник называется так же.

Ограничение: Google описывает разные режимы хранения в сервисах Gemini и средства управления для администраторов. Ограничение на обучение не означает, что переписка исчезает после использования. Прежде чем одобрять работу с чувствительными данными, зафиксируйте фактические настройки хранения и предоставления доступа в конкретном сервисе.

Сделайте разрешённый способ работы удобнее

Выберите сервис, который справляется с задачами, о которых рассказали сотрудники. Если им нужно делать краткие пересказы документов, покажите это на разрешённых примерах материалов и предусмотрите понятный этап проверки. Одно приглашение в аккаунт не объясняет, как заменить привычный обходной способ.

Опубликуйте вместе точное название рабочего пространства или сервиса, допустимые входные данные, запрещённые сценарии и контакт для вопросов. Назначьте ответственного за запросы об исключениях и срок ответа, который сможете соблюдать. Если запрос нельзя одобрить, объясните, какие данные или разрешения этому мешают, и предложите способ решить задачу с меньшим объёмом данных или прав доступа.

Что сделать сейчас, а что может подождать

Владельцам бизнеса: сразу займитесь неизвестными сценариями, связанными с клиентскими записями, конфиденциальными данными сотрудников, учётными данными или автоматическими действиями. Назначьте человека, который может остановить такой способ работы и принять решение о согласовании.

Руководителям операционной работы: вместе с правилами устраняйте неудобства в доступе и рабочих процессах. Решите задачу, ради которой появился обходной способ, затем убедитесь, что сотрудники могут пользоваться заменой.

Разработчикам: прежде чем превращать помощника в агента, проверьте доступ к репозиториям, подключённые аккаунты и разрешённые действия. Разрешение готовить черновики не даёт права менять рабочие системы.

Командам, которые уже работают в согласованных границах: продолжайте обычную работу, пока аккаунт, данные, цель и разрешения соответствуют одобренному сценарию. Покупка отдельной платформы для выявления ИИ может подождать, если вы справляетесь с ведением реестра и вам хватает существующих средств контроля. Рассматривайте дополнительные инструменты, когда уже не удаётся надёжно поддерживать эту картину.

Что преувеличивают в разговорах о теневом ИИ?

Обнаруженный инструмент показывает, что есть сценарий, в котором нужно разобраться. Сам по себе он не доказывает ни утечку данных, ни намеренное нарушение, ни обучение модели на секретах компании.

Обратное упрощение тоже не работает: покупка корпоративного тарифа не завершает задачу. Ещё предстоит разобраться с выбором аккаунтов, разрешениями, хранением, поведением сотрудников и проверкой результатов.

Запрет тоже не устраняет саму потребность. Руководителю поддержки всё равно нужно разбирать очередь обращений. Дополняйте ограничения удобным разрешённым способом работы и дайте возможность быстро сообщить об ошибке.

Оценивайте прогресс по тому, можете ли вы объяснить важные рабочие процессы и их границы. Рост реестра во время проверки может означать, что вы лучше видите происходящее, а не что сотрудники внезапно стали действовать хуже.

Частые вопросы

Что именно называют теневым ИИ?

Это использование ИИ для работы компании без её согласования или контроля. Сюда относятся несогласованные приложения, расширения, личные аккаунты и непроверенные ИИ-функции в существующем ПО.

Чем опасен теневой ИИ?

Компания не может оценить обработку данных, доступ или деловые решения, о которых не знает. Меры должны зависеть от фактических входных данных и разрешений: не стоит считать все неизвестные сценарии одинаково серьёзными.

Что значит «использование теневого ИИ»?

Это конкретная работа, которую выполняют через несогласованный ИИ-инструмент или аккаунт. Записывайте задачу и аккаунт: «краткие пересказы обращений в поддержку в личном рабочем пространстве» полезнее, чем одно название поставщика.

Что такое теневые ИТ в кибербезопасности?

Теневые ИТ — это технологии, которые используют для работы без ведома или согласования компании. Теневой ИИ — часть этой более широкой проблемы, связанная именно с ИИ, в том числе с ИИ-функциями внутри одобренных технологий.

Что нельзя сообщать ИИ?

Не включайте в промпты пароли, токены доступа и закрытые ключи. Не передавайте конфиденциальные материалы о клиентах или сотрудниках, если конкретные аккаунт и задача не одобрены для такой работы. Когда личность человека несущественна, используйте вымышленные примеры.

Какой факт об ИИ действительно может насторожить?

Помощник или расширение могут иметь доступ не только к тексту, который человек намеренно ввёл. Проверяйте подключённые источники и разрешения браузера: короткий промпт не означает, что задействовано мало информации.

Какой IQ у современного ИИ?

Единое значение IQ — неподходящий критерий для одобрения разных ИИ-инструментов и задач. Прежде чем полагаться на систему, оцените предполагаемую работу, ошибки, доступ к данным и требования к проверке.

Как сделать тень с помощью ИИ?

Если речь о визуальной тени на изображении, это задача редактирования картинки. Shadow AI в деловом контексте означает несогласованное использование ИИ, а не графический эффект.

Что такое Shadow Work AI?

Если вы имеете в виду ИИ-приложение для самоанализа или ведения дневника, это другое употребление выражения. Здесь речь о работе: одобрен ли сервис для задач и данных компании.

О чём Stephen Hawking предупреждал в связи с ИИ?

В выступлении в Кембридже 19 октября 2016 года Stephen Hawking говорил о возможной пользе и опасностях мощного ИИ, включая автономное оружие и применение для угнетения. Это предупреждение о долгосрочных рисках — отдельная тема от оценки конкретного случая раскрытия рабочих данных. Текст выступления на сайте Кембриджского университета.

С чего начать в понедельник

Попросите руководителей направлений показать, где ИИ участвует в их работе. Начните с неизвестного сценария, в котором используются самые чувствительные сведения или есть самые широкие возможности действовать. Поручите решение конкретному человеку, предложите удобный разрешённый способ и покажите замену на безопасных примерах данных.

Затем опубликуйте правила для сотрудников вместе со списком одобренных аккаунтов и контактом для сообщений о проблемах. По итогам встречи должны остаться действия с назначенными ответственными и открытые вопросы, а не заверение, что покупка аккаунтов всё решила.

Чтобы получать практические советы по использованию ИИ в бизнесе, подпишитесь на рассылку.