Репутация 8 октября 2026 ~11 мин чтения

Чем опасны нейросети для бизнеса и как снизить риски

Чем опасны нейросети для компании? Рисков три. Сотрудники загружают в публичные сервисы персональные данные и коммерческую информацию, и компания теряет над ними контроль. Нейросеть уверенно выдумывает факты, а они попадают в договоры, расчёты и ответы клиентам. Наконец, клиенты спрашивают нейросеть о самой компании и получают устаревшие или ложные сведения. Запрещать нейросети ради этого не обязательно. Рисками управляют через правила работы с данными, проверку результатов и мониторинг того, что ИИ говорит о бренде.

Алексей Малков

Основатель GEOAudit.org • GEO/SEO-стратег

10+ лет в digital

Утечки данных 152-ФЗ и коммерческая тайна Ответы нейросетей о компании

Профиль автора →

Чем опасны нейросети именно для компании

Общий вопрос о вреде нейросетей обычно включает бытовые темы: зависимость от чат-ботов, влияние на учёбу, психологическое здоровье. Здесь речь только о том, что касается бизнеса.

Нейросетями в компаниях уже пользуются, причём не всегда открыто. По данным летнего опроса, ИИ в работе применяют 44% офисных сотрудников, и 3% делают это скрытно, без ведома работодателя или вопреки ограничениям. Полный запрет, по словам работодателей, действует лишь в 5% компаний.

— SuperJob, июль 2026

Риски удобно разложить на три группы. У каждой свой ответственный и свой раздел ниже.

Группа риска	Что происходит	Кто в компании отвечает	Где читать
Внутренние	Сотрудники отправляют в нейросеть данные клиентов, договоры, отчётность	Руководитель, служба безопасности, юрист	Утечки данных, что нельзя загружать, закон
Качество	Нейросеть выдаёт ошибки и выдуманные факты, их не проверяют	Руководители подразделений	Выдуманные факты
Внешние	Нейросеть рассказывает клиентам о компании неверно	Маркетинг, PR, собственник	Ложные ответы о компании

Утечки данных через сотрудников

Утечка через нейросеть почти никогда не выглядит как кража. Сотрудник хочет быстрее сделать работу, копирует текст в окно чата и получает результат. Но текст после этого хранится у стороннего сервиса, и его дальнейшая судьба определяется условиями этого сервиса, а не правилами компании.

Посмотрим, что пишут сами разработчики. OpenAI указывает, что в версиях ChatGPT для частных лиц может использовать контент пользователя для обучения моделей. Отказаться можно в настройках, после этого новые диалоги в обучение не идут. Если же пользователь отправляет отзыв об ответе, в обучение может попасть весь связанный диалог. Временные чаты для обучения не используются. Входные и выходные данные корпоративных тарифов и API компания по умолчанию для обучения не берёт. Это касается именно обучения: о сроках хранения и о соответствии российскому закону такая оговорка ничего не говорит.

Google в справке Gemini прямо просит не вводить конфиденциальную информацию, которую вы не хотели бы показать рецензенту. Часть чатов читают люди, в том числе подрядчики. Просмотренные чаты не удаляются вместе с историей и хранятся до трёх лет, а даже при отключённой истории диалоги хранятся 72 часа. Яндекс сообщает, что может обучать модели Алисы на истории общения; отказаться можно в настройках Яндекс ID. У Anthropic граница проходит по типу аккаунта: коммерческие продукты по умолчанию не используют данные компании для обучения, а личные аккаунты сотрудников живут по другим правилам. Как это выглядит на практике, разобрано в статье Claude для бизнеса: тарифы, данные и ограничения.

Типичные сценарии утечки выглядят буднично:

менеджер просит нейросеть «подправить договор» и вставляет его целиком, с реквизитами и условиями;
бухгалтер загружает таблицу продаж или выгрузку из CRM, чтобы свести данные;
специалист поддержки пишет ответ клиенту, вставив его ФИО, телефон и историю заказов;
сотрудник работает в личном аккаунте, где обучение на диалогах включено по умолчанию.

Публичный пример известен с 2023 года. Сотрудники крупного производителя электроники загрузили в чат-бот конфиденциальный исходный код, а также запись совещания, чтобы составить протокол. Компания временно запретила генеративный ИИ и пригрозила нарушителям дисциплинарными мерами вплоть до увольнения.

Если сервис принадлежит иностранной компании и данные уходят на её серверы за рубежом, такая отправка может считаться трансграничной передачей. Что из этого следует юридически, разобрано в разделе о законе, а какие данные держать подальше от чата, показано в таблице ниже.

Что нельзя загружать в нейросеть

Ниже перечень того, что нельзя загружать в нейросеть, если это публичный сервис или инструмент, не согласованный в компании. Таблицу можно переслать сотрудникам как памятку.

Тип данных	Примеры	Чем рискуете	Что делать вместо
Персональные данные клиентов и сотрудников	ФИО, телефоны, адреса, паспортные данные, выгрузки из CRM, кадровые документы	Нарушение закона о персональных данных, штрафы, претензии людей	Заменить на условные значения («Клиент 1», «Город Х»), убрать идентификаторы
Специальные категории персональных данных	Сведения о здоровье, национальной принадлежности, религиозных и политических взглядах	По общему правилу их обработка запрещена, ответственность выше	Не загружать вообще
Коммерческая тайна и сделки	Договоры, условия поставок, скидки, переговорные позиции, базы контрагентов	Потеря режима коммерческой тайны, утечка к конкурентам	Описывать задачу без конкретики, работать с шаблоном вместо реального договора
Финансы	Отчётность до публикации, закупочные цены, маржа, платёжные данные	Утечка чувствительных цифр, ошибки в расчётах	Использовать округлённые или вымышленные цифры для отработки формулы
Доступы	Пароли, ключи API, токены, ссылки на внутренние системы	Компрометация систем, несанкционированный доступ	Никогда не вставлять, заменять на заглушки
Внутренние документы	Стратегия, планы, переписка с юристами, протоколы совещаний	Раскрытие планов и правовой позиции компании	Пересказывать суть без имён и деталей или не использовать нейросеть
Код и техническая документация	Исходный код закрытых продуктов, архитектура, конфигурации	Утечка интеллектуальной собственности и уязвимостей	Согласованный корпоративный инструмент с понятными условиями хранения

Обезличивание снижает риск, но не делает любой документ безопасным. Закон считает обезличенными данные, принадлежность которых конкретному человеку нельзя определить без дополнительной информации. Простого удаления ФИО для этого мало. Должность, адрес, номер договора и дата встречи вместе часто указывают на человека или компанию не хуже имени.

Перед тем как вставить текст в нейросеть, сотруднику стоит задать себе четыре вопроса:

Есть ли здесь сведения о конкретных людях, даже без имён?
Огорчит ли компанию, если этот текст прочтёт конкурент или посторонний рецензент?
Разрешён ли в компании этот сервис и этот тариф?
Можно ли решить задачу на шаблоне или условных данных?

Что говорит закон

Неосторожная работа с нейросетями затрагивает сразу несколько законов. Главных три.

Персональные данные. По закону № 152-ФЗ «О персональных данных» (ред. от 26.07.2026) обработка включает и передачу данных. Поручить обработку другому лицу оператор может только с согласия человека, если закон не предусматривает иного, и по договору, а отвечает перед человеком за действия этого лица сам оператор. Перед трансграничной передачей оператор обязан уведомить уполномоченный орган. Будет ли загрузка данных в конкретную нейросеть считаться передачей, решается по обстоятельствам. Штраф по статье 13.11 КоАП для юрлица за обработку в случаях, не предусмотренных законом, составляет от 150 до 300 тыс. ₽. Если неправомерная передача затронула данные от 1 000 человек или от 10 000 идентификаторов, коммерческой компании грозит штраф от 3 млн ₽, и он растёт с масштабом утечки. Для специальных категорий данных такого порога нет, штраф от 10 млн ₽. За повторное нарушение с мая 2025 года предусмотрен оборотный штраф.
Коммерческая тайна. По закону № 98-ФЗ информация защищена как коммерческая тайна, только если компания ввела режим: определила перечень сведений, ограничила доступ, ведёт учёт допущенных, прописала обязанности в трудовых договорах и договорах с контрагентами и ставит гриф. Без введённого режима сведения формально не считаются коммерческой тайной, и защитить их по этому закону сложнее.
Закон об ИИ. Федеральный закон от 26.07.2026 № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации» вступил в силу 1 сентября 2026 года, часть статей начнёт действовать с 1 марта 2027 года. Он регулирует разработку и применение больших фундаментальных моделей. Правила обращения с данными в компании по-прежнему задают законы о персональных данных и коммерческой тайне.

Этот раздел не юридическая консультация. Перед тем как утверждать внутренние правила, проконсультируйтесь с юристом.

Как снизить риск утечки без запрета нейросетей

Полный запрет кажется самым надёжным решением, но он может увести работу с нейросетями в личные аккаунты, где компания ничего не видит и не контролирует. Управляемое использование безопаснее. Мы предлагаем такую последовательность шагов:

Выясните реальную картину. Узнайте, кто, какими сервисами и для каких задач уже пользуется. Анонимный опрос поможет выявить и скрытое использование.
Утвердите перечень запрещённых данных. За основу возьмите таблицу выше и дополните её спецификой компании.
Выберите разрешённые инструменты. Сравните условия сервисов и тарифов: используются ли диалоги для обучения, сколько хранятся, кто имеет к ним доступ. Где можно, отключите обучение на диалогах.
Научите обезличивать. Покажите на реальных примерах, как заменить имена, суммы и реквизиты условными значениями.
Закрепите правила документом. Положение о работе с ИИ, ознакомление сотрудников под подпись, связь с режимом коммерческой тайны.
Назначьте ответственного. Он отвечает на вопросы сотрудников и раз в полгода пересматривает правила, потому что условия сервисов меняются.

Ошибки самого внедрения ИИ в процессы компании разобраны отдельно, в статье ошибки внедрения ИИ в бизнесе.

Выдуманные факты и ошибки в рабочих задачах

Нейросеть не ищет проверенный ответ в базе фактов. Она строит правдоподобный текст, поэтому может уверенно назвать несуществующую статью закона, придумать цифру, ссылку, цитату или реквизиты. Как это устроено, объяснено в материале нейросеть простыми словами.

Масштаб проблемы показывает крупное международное исследование. Журналисты 22 общественных медиа из 18 стран оценили более 3 000 ответов четырёх ИИ-ассистентов на новостные вопросы. Хотя бы одна существенная проблема нашлась в 45% ответов, а крупные ошибки точности, включая выдуманные детали и устаревшие сведения, в 20%. Исследование касалось только новостей, и переносить эти доли на рабочие задачи напрямую нельзя. Но сами типы ошибок, выдуманные детали и устаревшие сведения, опасны и в договоре, и в отчёте.

— EBU и BBC, октябрь 2025

Разработчики этого не скрывают. В условиях использования Алисы Яндекс прямо пишет, что не несёт ответственности за точность и корректность информации в ответах. Ответы к тому же нестабильны. По нашим замерам, внутридневная воспроизводимость ответов Алисы составила 95% (замер 12.08.2026), а между разными датами только 52%.

Дороже всего ошибка обходится в таких задачах:

юридические формулировки и ссылки на нормы;
финансовые расчёты и любые цифры в отчётах;
ответы клиентам от имени компании;
технические инструкции и код;
аналитические выводы, на основе которых принимают решения.

Правило проверки можно сразу внести в регламент. У каждой цифры и нормы есть первоисточник, за финальный текст отвечает конкретный человек, без проверки ничего не публикуется и не уходит клиенту. Ссылки и даты сверяются отдельно.

Ложные ответы нейросетей о вашей компании

Этот риск заметить труднее всего, потому что он возникает за пределами компании. Человек спрашивает у ChatGPT, Алисы, Perplexity или Gemini, где купить, к кому обратиться, что известно о компании, и получает ответ, который компания не контролирует.

По опросу 1,5 тыс. жителей России 74% респондентов совершали покупку или заказывали услугу по рекомендации ИИ, а 53% сталкивались с недостоверной информацией в нейроответах. Сам Яндекс сообщает, что быстрые ответы Алисы AI в Поиске ежемесячно получают 46,5 млн пользователей.

— Анкетолог, сентябрь 2026; Яндекс, апрель 2026

Типичные искажения:

устаревшие цены, тарифы и условия доставки;
закрытые филиалы и старые адреса;
путаница с однофамильцами и компаниями с похожим названием;
чужие отзывы или негатив, приписанные вашей компании;
услуги, которых у компании никогда не было.

Почему так происходит? Яндекс в справке описывает, что Алиса AI в Поиске изучает релевантные страницы и опирается на источники, которые высоко ранжируются, а сам ответ может содержать неточности. Представление о компании нейросеть собирает из сайта компании, карт и справочников, агрегаторов отзывов, СМИ. Если эти источники устарели или противоречат друг другу, ответ может исказиться, а пробелы заполняются догадками.

Важно не путать это с классическим SEO. Позиции сайта в выдаче Яндекса и Google не показывают, что именно нейросеть отвечает о компании. Это область GEO, где смотрят на упоминания и цитирования в ответах нейросетей. Подробнее о разнице в статье GEO, SEO и AEO.

Как часто нейросеть вообще появляется в выдаче, видно по нашим собственным замерам. 06.08.2026 по выборке из 23 запросов Алиса дала нейроответ в 74% случаев, при повторе 14.09.2026 в 35%, а при третьем замере 13.10.2026 снова в 74%. Причина просадки 14.09.2026 не установлена (сбой сбора или разовая просадка). Это наблюдение по одной выборке, но оно показывает, как быстро меняется картина и почему проверять её нужно регулярно.

Что делать дальше, разобрано в отдельных материалах: как исправить ошибку нейросети о бренде, как работать с негативными упоминаниями в ИИ и как настроить мониторинг AI-видимости.

С чего начать руководителю

Три действия, по одному на каждую группу риска:

Данные. Утвердить перечень того, что нельзя загружать в нейросеть, и раздать сотрудникам памятку.
Качество. Ввести правило, что результат нейросети проверяет человек, прежде чем он попадёт в документ или к клиенту.
Репутация. Проверить, что ChatGPT, Алиса и другие нейросети отвечают о компании, её ценах и адресах.

Для третьего пункта подойдёт бесплатная диагностика или экспресс GEO-диагностика от 25 000 ₽. Обе посвящены тому, что нейросети говорят о компании. Вопросы утечек и юридических рисков GEO не решает, их закрывают внутри компании вместе с юристом.

Другие материалы серии: как подобрать нейросеть под задачу бизнеса.

FAQ

Можно ли сотрудникам пользоваться нейросетями в работе?

Да, если в компании есть правила. Определите разрешённые сервисы и тарифы, перечень данных, которые нельзя загружать, и порядок проверки результатов. Полный запрет может привести к тому, что сотрудники станут пользоваться нейросетями тайком, в личных аккаунтах.

Сохраняет ли нейросеть то, что в неё загрузили?

Как правило, да. Публичные сервисы хранят диалоги и могут использовать их для обучения. Например, Google сообщает, что чаты Gemini, просмотренные рецензентами, хранятся до трёх лет. В ChatGPT и Алисе обучение можно отключить в настройках, но отказ касается только новых диалогов и только обучения.

Можно ли загрузить договор, если убрать имена и реквизиты?

Не всегда. Человека или компанию часто можно определить по оставшимся деталям: должности, адресу, сумме, дате. Надёжнее работать с шаблоном договора или пересказать задачу без конкретики.

Кто отвечает, если сотрудник загрузил персональные данные клиентов?

Как правило, компания как оператор персональных данных. Закон возлагает ответственность за обработку на оператора, а штрафы по статье 13.11 КоАП предусмотрены и для юрлиц. Как квалифицировать конкретный случай, решает юрист.

Есть ли в России закон об искусственном интеллекте?

Да, Федеральный закон от 26.07.2026 № 243-ФЗ. Он вступил в силу 1 сентября 2026 года. Закон регулирует разработку и применение больших фундаментальных моделей, а правила работы с данными в компаниях по-прежнему задают законы о персональных данных и коммерческой тайне.

Как узнать, что нейросети говорят о моей компании?

Задайте ChatGPT, Алисе и другим нейросетям вопросы, которые задают клиенты: о ценах, адресах, отзывах, сравнении с конкурентами. Делайте это регулярно, потому что ответы меняются. Системно эту задачу решает мониторинг AI-видимости.