ИИ против ИИ. Как меняется противостояние кибератак и систем защиты
Фишинговое письмо больше не обязано выдавать себя корявым русским языком. Генеративная модель за минуты подготовит сообщение под конкретного сотрудника, подстроит тон под переписку компании и поможет поддерживать диалог. Голос руководителя тоже можно сымитировать по записи публичного выступления. На стороне защиты работают те же технологии: искусственный интеллект в кибербезопасности помогает анализировать события, искать аномалии и разбирать инциденты. При этом возможности сторон развиваются неравномерно: атакующий автоматизирует отдельную операцию, а защитнику приходится учитывать последствия для всей инфраструктуры.
ИИ снижает стоимость подготовки атаки
Основные техники проникновения в корпоративные сети знакомы специалистам по ИБ давно: фишинг, кража учетных данных, эксплуатация уязвимостей, закрепление в инфраструктуре и перемещение между системами. Изменился масштаб их применения. Генеративные модели помогают быстрее собирать сведения о компании, готовить персонализированные приманки, писать и адаптировать скрипты, анализировать документацию и поддерживать переписку с жертвой. Так использование ИИ в кибератаках позволяет автоматизировать часть операций и сокращать время подготовки атак.
Это не означает, что любой пользователь нейросети способен провести сложную целевую атаку. Для нее по-прежнему нужны понимание инфраструктуры, доступ к инструментам, грамотная постановка задач и контроль результата. Однако часть работы, которая раньше требовала времени нескольких специалистов, теперь можно поручить модели и быстрее перейти к следующему этапу.
По данным Check Point, в сентябре 2026 года организации сталкивались в среднем с 2 803 кибератаками в неделю. Это на 48% больше, чем в сентябре 2025-го. В мае показатель составлял 2 055 атак в неделю, то есть за пять месяцев нагрузка выросла еще на 36%. Это общая статистика кибератак, а не число инцидентов с применением ИИ. Она показывает масштаб нагрузки, на фоне которой автоматизация становится особенно полезной для обеих сторон.
CrowdStrike зафиксировала в 2025 году рост на 89% активности злоумышленников, использующих ИИ. В отчете Global Threat Report 2026 компания также приводит показатель, важный для защитников: среднее время от первоначального проникновения до перемещения злоумышленника внутри инфраструктуры (breakout time) сократилось до 29 минут. Самый быстрый зафиксированный случай занял 27 секунд. Более чем в 90 организациях злоумышленники использовали легитимные GenAI-инструменты, внедряя в них вредоносные инструкции для получения команд и кражи данных.
Важно не смешивать эти показатели. Check Point считает общий объем атак на организации, CrowdStrike — активность выявленных AI-enabled adversaries и скорость развития вторжений, а Positive Technologies описывает конкретные кампании и инструменты. Вместе они показывают тенденцию, но не складываются в единую статистику «атак с ИИ».
Дипфейк атакует не устройство, а процедуру доверия
Представим ситуацию: финансовому директору звонит человек, чей голос похож на голос генерального. Он просит срочно оплатить счет нового контрагента и объясняет, что детали пришлет позже. Сама просьба может выглядеть правдоподобно: руководитель действительно бывает в разъездах, платеж действительно может быть срочным, а запись его голоса легко найти в открытом доступе.
Для такой атаки злоумышленнику нужны не только аудиоматериал и инструмент клонирования голоса. Ему важно знать внутренний контекст: кто согласует платежи, как оформляют срочные поручения, кто имеет право менять реквизиты и в какие часы руководитель обычно доступен. Технология создает убедительную имитацию, а предварительная разведка делает ее правдоподобной.
Поэтому защита от кибератак с использованием ИИ не может ограничиваться распознаванием синтетического голоса. Финансовые распоряжения, смену банковских реквизитов и выдачу привилегированного доступа нужно подтверждать по независимому каналу — например, обратным звонком на заранее известный номер или через утвержденный корпоративный процесс. Для крупных платежей полезно разделять инициирование и подтверждение операции.
Насколько самостоятельным стал ИИ в атаке
Считать автономные атаки чистой теорией уже нельзя. 13 ноября 2025 года Anthropic опубликовала разбор кибершпионской кампании, в которой злоумышленники использовали Claude Code как агента для выполнения значительной части операций. По оценке компании, ИИ выполнял примерно 80–90% работы: изучал инфраструктуру целей, искал уязвимости, создавал эксплойты, собирал учетные данные и извлекал информацию. Люди выбирали цели, настраивали атакующую инфраструктуру и периодически направляли работу системы. В отчете Check Point AI Security Report 2026 описаны и более свежие сценарии: вредоносные инструкции для indirect prompt injection становятся длиннее и сложнее, а число обнаружений таких payloads выросло примерно в пять раз с марта по май 2026 года.
Этот пример не доказывает, что модели способны самостоятельно спланировать и провести любую атаку. В описанной кампании агента окружали специальные инструменты и сценарии, а операторы сохраняли контроль над ключевыми решениями. Сама Anthropic также отмечала ошибки модели: она могла выдумывать учетные данные или неверно интерпретировать найденную информацию.
Для оценки риска важнее другое: ИИ уже способен связывать несколько этапов атаки в последовательный рабочий процесс и выполнять их с минимальным участием человека. Это сокращает время на разведку и технические операции, а значит, защитникам приходится быстрее замечать подозрительную активность и ограничивать развитие инцидента.
Что ИИ меняет в работе защиты
Применение искусственного интеллекта в информационной безопасности началось задолго до появления генеративных моделей. Машинное обучение помогает выявлять отклонения от обычного поведения пользователей и устройств, классифицировать файлы и сообщения, сопоставлять события и находить признаки вредоносной активности. Генеративный ИИ добавляет другой набор возможностей: может кратко изложить цепочку событий, обогатить оповещение контекстом, предложить гипотезы для расследования и помочь аналитику подготовить запросы к данным.
В SOC это особенно заметно на первичном разборе потока событий. SIEM собирает и коррелирует данные из разных источников, EDR фиксирует активность на конечных устройствах, системы сетевого мониторинга показывают подозрительные соединения. Аналитик получает не одно изолированное срабатывание, а набор связанных признаков. ИИ может ускорить их первичную интерпретацию и помочь расставить приоритеты. Таким образом, автоматизация мониторинга информационной безопасности позволяет быстрее обрабатывать события и направлять внимание специалистов на потенциально опасные активности.
Но модель не превращает слабую телеметрию в качественное расследование. Если в инфраструктуре не настроен сбор журналов, не хватает данных с критичных серверов или события хранятся слишком короткое время, автоматизация будет работать с неполной картиной. Качество результата зависит от источников данных, правил корреляции, настройки сценариев и компетенции специалистов, которые проверяют выводы.
Более свежую картину дает Cost of a Data Breach Report 2026 от IBM. Средняя мировая стоимость утечки достигла 4,99 млн долларов — на 12% выше прошлогоднего показателя. По данным исследования, каждая четвертая вредоносная утечка была связана с использованием ИИ; число таких атак за год выросло на 56%. Средняя стоимость инцидента с применением ИИ составила около 6 млн долларов. При этом организации, широко использующие ИИ и автоматизацию в операциях безопасности, экономили в среднем 1,93 млн долларов по сравнению с компаниями, которые не применяют эти инструменты. IBM изучала утечки в 602 организациях за период с марта 2025-го по февраль 2026-го. Важно учитывать, что исследование рассматривает совместное использование ИИ и автоматизации: весь эффект нельзя приписывать одним генеративным моделям.
Практический смысл этих данных — в скорости и качестве работы с инцидентом. Автоматизация помогает быстрее собрать контекст, сопоставить разрозненные события и передать специалисту уже структурированную картину. Решения с серьезными последствиями — например, изоляцию критичного сервера, отключение учетной записи администратора или остановку производственного процесса — следует выполнять по заранее утвержденным правилам и с понятным уровнем человеческого контроля.
Почему защитнику сложнее масштабировать автоматизацию
Атакующий выбирает конкретную цель и ищет путь с наименьшим сопротивлением. Защитная команда отвечает за всю инфраструктуру: рабочие станции, серверы, облачные сервисы, сетевое оборудование, учетные записи, подрядчиков и бизнес-приложения. Ей нужно отличать атаку от легитимной активности и не нарушить работу компании в попытке остановить угрозу.
Отсюда две ключевые проблемы автоматизации. Первая — ложные срабатывания. Если система слишком агрессивно блокирует действия, сотрудники теряют доступ к рабочим ресурсам, а бизнес-процессы останавливаются. Если пороги слишком мягкие, часть угроз остается незамеченной. Вторая — цена ошибочного действия. Автоматически закрыть подозрительный процесс на тестовой рабочей станции и отключить сервер, который управляет производственной линией, — решения совершенно разного масштаба.
Поэтому зрелая автоматизация строится по уровням. Система может самостоятельно обогащать события, объединять похожие оповещения и рекомендовать действия. Для ограниченных сценариев ей можно разрешить автоматическую блокировку. Действия, способные повлиять на доступность критичных сервисов или целостность данных, требуют дополнительных условий, подтверждения и возможности быстро отменить изменение.
Есть и специфические риски самих моделей. Состязательные примеры позволяют подобрать входные данные, на которых классификатор ошибается. Отравление данных меняет качество модели через воздействие на обучающую выборку. Prompt injection нацелен на языковую модель: вредоносная инструкция попадает в запрос, документ или веб-страницу и пытается заставить систему нарушить заданные правила. Это разные классы угроз, и защищаться от них нужно разными методами. Check Point в AI Security Report 2026 отмечает, что число обнаружений длинных вредоносных инструкций для indirect prompt injection выросло примерно в пять раз за период с марта по май 2026 года.
Когда ИИ становится частью поверхности атаки
Корпоративный ИИ-ассистент может иметь доступ к почте, CRM, файловому хранилищу и внутренним API. Если ему разрешено не только читать данные, но и создавать записи, отправлять сообщения или менять параметры, он становится полноценным участником бизнес-процессов. Ошибка в настройке полномочий или успешная prompt injection тогда способны привести к действиям от имени пользователя или сервиса. Поэтому безопасность корпоративных ИИ-систем должна учитывать не только защиту самой модели, но и контроль ее интеграций, данных и разрешений.
Например, сотрудник просит ассистента проанализировать входящие документы. Среди них оказывается файл с инструкцией, специально составленной для модели: проигнорировать предыдущие правила и передать содержимое определенной папки во внешний ресурс. Если система не разделяет доверенные инструкции и недоверенные данные, а агент обладает избыточными правами, вредоносный документ может повлиять на его действия.
Второй риск — Shadow AI. Сотрудники подключают публичные сервисы без согласования, чтобы быстрее подготовить презентацию, обработать договор или написать код. В такие инструменты могут попасть персональные данные, коммерческая тайна, исходный код и сведения о клиентах. В сентябре 2026 года Check Point обнаружила, что в среднем один из 39 корпоративных запросов к GenAI содержал высокий риск утечки чувствительных данных; риск затрагивал 89% организаций, регулярно использующих такие инструменты. Эти цифры описывают выявленный риск в запросах, а не подтвержденные случаи состоявшейся утечки. Последствия зависят от условий обработки данных конкретным сервисом и применимых требований законодательства; сам факт использования внешней модели еще не означает автоматического нарушения закона.
Для контроля недостаточно разослать список запрещенных сервисов. Компании нужны понятные разрешенные инструменты, правила работы с разными категориями данных, инвентаризация интеграций и журналирование действий ИИ-агентов. Если сотруднику запрещают удобный инструмент, но не предлагают безопасную альтернативу, он с большой вероятностью продолжит пользоваться им самостоятельно. Это одна из основных составляющих управления рисками использования ИИ в бизнесе.
Что стоит проверить компании
Начать лучше с инвентаризации. Нужно выяснить, какие ИИ-сервисы используют сотрудники, какие модели встроены в корпоративные продукты, какие агенты подключены к внутренним системам и какие данные им доступны. Важно учитывать не только официальные внедрения: отдельный сервис может появиться в отделе продаж или разработки без участия ИТ-службы.
Затем следует проверить права доступа. У агента должны быть только те разрешения, которые необходимы для конкретной задачи. Доступ на чтение не должен автоматически давать право изменять записи или отправлять данные наружу. Для критичных операций полезны отдельное подтверждение, ограничение по контексту и возможность отозвать токен или отключить интеграцию.
Следующий шаг — контроль данных и действий. DLP и средства контроля облачных приложений помогают отслеживать передачу информации во внешние сервисы. Журналы должны фиксировать запросы к внутренним системам, обращения к API, изменения данных и действия от имени агента. Без такой телеметрии расследовать инцидент с участием ИИ будет значительно сложнее.
Отдельно проверьте готовность SOC: какие источники событий подключены, сколько времени занимает обнаружение подозрительной активности, кто принимает решение об изоляции узла и какие действия система может выполнять автоматически. Если компания передает мониторинг внешнему провайдеру, нужно заранее согласовать состав услуги, SLA, порядок эскалации, глубину расследования и границы ответственности. Сам факт покупки SOC as a Service не гарантирует, что инцидент будет обнаружен и остановлен: результат зависит от охвата инфраструктуры и качества взаимодействия сторон.
Сотрудников стоит обучать на сценариях, которые похожи на их реальную работу. Учебное письмо, имитирующее запрос от руководителя или контрагента, полезно оценивать не только по числу переходов по ссылке. Важнее, кто ввел учетные данные, кто сообщил о подозрительном сообщении, сколько времени прошло до обращения в ИТ-службу и какие процессы помогли или помешали проверке.
Наконец, при выборе ИИ-функций у поставщика нужно спрашивать не о наличии нейросети, а о проверяемом результате: какие источники данных анализируются, какие сценарии автоматизированы, как измеряется точность, сколько ложных срабатываний возникает, какие действия система выполняет самостоятельно и как отменить ошибочное решение. Если поставщик не может показать эти параметры, оценить реальную пользу продукта будет трудно.
Противостояние будет решать не наличие ИИ, а качество контроля
ИИ ускоряет работу обеих сторон, но не отменяет базовые условия безопасности. Атакующим он помогает быстрее собирать сведения, готовить приманки и выполнять технические операции. Защитникам — обрабатывать телеметрию, связывать события и сокращать время расследования. При этом сама модель, ее интеграции и полномочия становятся новыми объектами защиты.
Поэтому вопрос для компании сегодня звучит не «нужен ли нам ИИ в кибербезопасности». Важно понять, какие задачи ему можно доверить, к каким данным открыть доступ и кто отвечает за последствия его действий. Автоматизация без контроля добавляет инфраструктуре новые риски. Автоматизация с понятными полномочиями, журналированием и проверяемыми сценариями помогает защитникам выдерживать темп, который задают современные атаки, и повышает уровень защиты корпоративной инфраструктуры.
ИИ снижает стоимость подготовки атаки
Основные техники проникновения в корпоративные сети знакомы специалистам по ИБ давно: фишинг, кража учетных данных, эксплуатация уязвимостей, закрепление в инфраструктуре и перемещение между системами. Изменился масштаб их применения. Генеративные модели помогают быстрее собирать сведения о компании, готовить персонализированные приманки, писать и адаптировать скрипты, анализировать документацию и поддерживать переписку с жертвой. Так использование ИИ в кибератаках позволяет автоматизировать часть операций и сокращать время подготовки атак.
Это не означает, что любой пользователь нейросети способен провести сложную целевую атаку. Для нее по-прежнему нужны понимание инфраструктуры, доступ к инструментам, грамотная постановка задач и контроль результата. Однако часть работы, которая раньше требовала времени нескольких специалистов, теперь можно поручить модели и быстрее перейти к следующему этапу.
По данным Check Point, в сентябре 2026 года организации сталкивались в среднем с 2 803 кибератаками в неделю. Это на 48% больше, чем в сентябре 2025-го. В мае показатель составлял 2 055 атак в неделю, то есть за пять месяцев нагрузка выросла еще на 36%. Это общая статистика кибератак, а не число инцидентов с применением ИИ. Она показывает масштаб нагрузки, на фоне которой автоматизация становится особенно полезной для обеих сторон.
CrowdStrike зафиксировала в 2025 году рост на 89% активности злоумышленников, использующих ИИ. В отчете Global Threat Report 2026 компания также приводит показатель, важный для защитников: среднее время от первоначального проникновения до перемещения злоумышленника внутри инфраструктуры (breakout time) сократилось до 29 минут. Самый быстрый зафиксированный случай занял 27 секунд. Более чем в 90 организациях злоумышленники использовали легитимные GenAI-инструменты, внедряя в них вредоносные инструкции для получения команд и кражи данных.
Важно не смешивать эти показатели. Check Point считает общий объем атак на организации, CrowdStrike — активность выявленных AI-enabled adversaries и скорость развития вторжений, а Positive Technologies описывает конкретные кампании и инструменты. Вместе они показывают тенденцию, но не складываются в единую статистику «атак с ИИ».
Дипфейк атакует не устройство, а процедуру доверия
Представим ситуацию: финансовому директору звонит человек, чей голос похож на голос генерального. Он просит срочно оплатить счет нового контрагента и объясняет, что детали пришлет позже. Сама просьба может выглядеть правдоподобно: руководитель действительно бывает в разъездах, платеж действительно может быть срочным, а запись его голоса легко найти в открытом доступе.
Для такой атаки злоумышленнику нужны не только аудиоматериал и инструмент клонирования голоса. Ему важно знать внутренний контекст: кто согласует платежи, как оформляют срочные поручения, кто имеет право менять реквизиты и в какие часы руководитель обычно доступен. Технология создает убедительную имитацию, а предварительная разведка делает ее правдоподобной.
Поэтому защита от кибератак с использованием ИИ не может ограничиваться распознаванием синтетического голоса. Финансовые распоряжения, смену банковских реквизитов и выдачу привилегированного доступа нужно подтверждать по независимому каналу — например, обратным звонком на заранее известный номер или через утвержденный корпоративный процесс. Для крупных платежей полезно разделять инициирование и подтверждение операции.
Насколько самостоятельным стал ИИ в атаке
Считать автономные атаки чистой теорией уже нельзя. 13 ноября 2025 года Anthropic опубликовала разбор кибершпионской кампании, в которой злоумышленники использовали Claude Code как агента для выполнения значительной части операций. По оценке компании, ИИ выполнял примерно 80–90% работы: изучал инфраструктуру целей, искал уязвимости, создавал эксплойты, собирал учетные данные и извлекал информацию. Люди выбирали цели, настраивали атакующую инфраструктуру и периодически направляли работу системы. В отчете Check Point AI Security Report 2026 описаны и более свежие сценарии: вредоносные инструкции для indirect prompt injection становятся длиннее и сложнее, а число обнаружений таких payloads выросло примерно в пять раз с марта по май 2026 года.
Этот пример не доказывает, что модели способны самостоятельно спланировать и провести любую атаку. В описанной кампании агента окружали специальные инструменты и сценарии, а операторы сохраняли контроль над ключевыми решениями. Сама Anthropic также отмечала ошибки модели: она могла выдумывать учетные данные или неверно интерпретировать найденную информацию.
Для оценки риска важнее другое: ИИ уже способен связывать несколько этапов атаки в последовательный рабочий процесс и выполнять их с минимальным участием человека. Это сокращает время на разведку и технические операции, а значит, защитникам приходится быстрее замечать подозрительную активность и ограничивать развитие инцидента.
Что ИИ меняет в работе защиты
Применение искусственного интеллекта в информационной безопасности началось задолго до появления генеративных моделей. Машинное обучение помогает выявлять отклонения от обычного поведения пользователей и устройств, классифицировать файлы и сообщения, сопоставлять события и находить признаки вредоносной активности. Генеративный ИИ добавляет другой набор возможностей: может кратко изложить цепочку событий, обогатить оповещение контекстом, предложить гипотезы для расследования и помочь аналитику подготовить запросы к данным.
В SOC это особенно заметно на первичном разборе потока событий. SIEM собирает и коррелирует данные из разных источников, EDR фиксирует активность на конечных устройствах, системы сетевого мониторинга показывают подозрительные соединения. Аналитик получает не одно изолированное срабатывание, а набор связанных признаков. ИИ может ускорить их первичную интерпретацию и помочь расставить приоритеты. Таким образом, автоматизация мониторинга информационной безопасности позволяет быстрее обрабатывать события и направлять внимание специалистов на потенциально опасные активности.
Но модель не превращает слабую телеметрию в качественное расследование. Если в инфраструктуре не настроен сбор журналов, не хватает данных с критичных серверов или события хранятся слишком короткое время, автоматизация будет работать с неполной картиной. Качество результата зависит от источников данных, правил корреляции, настройки сценариев и компетенции специалистов, которые проверяют выводы.
Более свежую картину дает Cost of a Data Breach Report 2026 от IBM. Средняя мировая стоимость утечки достигла 4,99 млн долларов — на 12% выше прошлогоднего показателя. По данным исследования, каждая четвертая вредоносная утечка была связана с использованием ИИ; число таких атак за год выросло на 56%. Средняя стоимость инцидента с применением ИИ составила около 6 млн долларов. При этом организации, широко использующие ИИ и автоматизацию в операциях безопасности, экономили в среднем 1,93 млн долларов по сравнению с компаниями, которые не применяют эти инструменты. IBM изучала утечки в 602 организациях за период с марта 2025-го по февраль 2026-го. Важно учитывать, что исследование рассматривает совместное использование ИИ и автоматизации: весь эффект нельзя приписывать одним генеративным моделям.
Практический смысл этих данных — в скорости и качестве работы с инцидентом. Автоматизация помогает быстрее собрать контекст, сопоставить разрозненные события и передать специалисту уже структурированную картину. Решения с серьезными последствиями — например, изоляцию критичного сервера, отключение учетной записи администратора или остановку производственного процесса — следует выполнять по заранее утвержденным правилам и с понятным уровнем человеческого контроля.
Почему защитнику сложнее масштабировать автоматизацию
Атакующий выбирает конкретную цель и ищет путь с наименьшим сопротивлением. Защитная команда отвечает за всю инфраструктуру: рабочие станции, серверы, облачные сервисы, сетевое оборудование, учетные записи, подрядчиков и бизнес-приложения. Ей нужно отличать атаку от легитимной активности и не нарушить работу компании в попытке остановить угрозу.
Отсюда две ключевые проблемы автоматизации. Первая — ложные срабатывания. Если система слишком агрессивно блокирует действия, сотрудники теряют доступ к рабочим ресурсам, а бизнес-процессы останавливаются. Если пороги слишком мягкие, часть угроз остается незамеченной. Вторая — цена ошибочного действия. Автоматически закрыть подозрительный процесс на тестовой рабочей станции и отключить сервер, который управляет производственной линией, — решения совершенно разного масштаба.
Поэтому зрелая автоматизация строится по уровням. Система может самостоятельно обогащать события, объединять похожие оповещения и рекомендовать действия. Для ограниченных сценариев ей можно разрешить автоматическую блокировку. Действия, способные повлиять на доступность критичных сервисов или целостность данных, требуют дополнительных условий, подтверждения и возможности быстро отменить изменение.
Есть и специфические риски самих моделей. Состязательные примеры позволяют подобрать входные данные, на которых классификатор ошибается. Отравление данных меняет качество модели через воздействие на обучающую выборку. Prompt injection нацелен на языковую модель: вредоносная инструкция попадает в запрос, документ или веб-страницу и пытается заставить систему нарушить заданные правила. Это разные классы угроз, и защищаться от них нужно разными методами. Check Point в AI Security Report 2026 отмечает, что число обнаружений длинных вредоносных инструкций для indirect prompt injection выросло примерно в пять раз за период с марта по май 2026 года.
Когда ИИ становится частью поверхности атаки
Корпоративный ИИ-ассистент может иметь доступ к почте, CRM, файловому хранилищу и внутренним API. Если ему разрешено не только читать данные, но и создавать записи, отправлять сообщения или менять параметры, он становится полноценным участником бизнес-процессов. Ошибка в настройке полномочий или успешная prompt injection тогда способны привести к действиям от имени пользователя или сервиса. Поэтому безопасность корпоративных ИИ-систем должна учитывать не только защиту самой модели, но и контроль ее интеграций, данных и разрешений.
Например, сотрудник просит ассистента проанализировать входящие документы. Среди них оказывается файл с инструкцией, специально составленной для модели: проигнорировать предыдущие правила и передать содержимое определенной папки во внешний ресурс. Если система не разделяет доверенные инструкции и недоверенные данные, а агент обладает избыточными правами, вредоносный документ может повлиять на его действия.
Второй риск — Shadow AI. Сотрудники подключают публичные сервисы без согласования, чтобы быстрее подготовить презентацию, обработать договор или написать код. В такие инструменты могут попасть персональные данные, коммерческая тайна, исходный код и сведения о клиентах. В сентябре 2026 года Check Point обнаружила, что в среднем один из 39 корпоративных запросов к GenAI содержал высокий риск утечки чувствительных данных; риск затрагивал 89% организаций, регулярно использующих такие инструменты. Эти цифры описывают выявленный риск в запросах, а не подтвержденные случаи состоявшейся утечки. Последствия зависят от условий обработки данных конкретным сервисом и применимых требований законодательства; сам факт использования внешней модели еще не означает автоматического нарушения закона.
Для контроля недостаточно разослать список запрещенных сервисов. Компании нужны понятные разрешенные инструменты, правила работы с разными категориями данных, инвентаризация интеграций и журналирование действий ИИ-агентов. Если сотруднику запрещают удобный инструмент, но не предлагают безопасную альтернативу, он с большой вероятностью продолжит пользоваться им самостоятельно. Это одна из основных составляющих управления рисками использования ИИ в бизнесе.
Что стоит проверить компании
Начать лучше с инвентаризации. Нужно выяснить, какие ИИ-сервисы используют сотрудники, какие модели встроены в корпоративные продукты, какие агенты подключены к внутренним системам и какие данные им доступны. Важно учитывать не только официальные внедрения: отдельный сервис может появиться в отделе продаж или разработки без участия ИТ-службы.
Затем следует проверить права доступа. У агента должны быть только те разрешения, которые необходимы для конкретной задачи. Доступ на чтение не должен автоматически давать право изменять записи или отправлять данные наружу. Для критичных операций полезны отдельное подтверждение, ограничение по контексту и возможность отозвать токен или отключить интеграцию.
Следующий шаг — контроль данных и действий. DLP и средства контроля облачных приложений помогают отслеживать передачу информации во внешние сервисы. Журналы должны фиксировать запросы к внутренним системам, обращения к API, изменения данных и действия от имени агента. Без такой телеметрии расследовать инцидент с участием ИИ будет значительно сложнее.
Отдельно проверьте готовность SOC: какие источники событий подключены, сколько времени занимает обнаружение подозрительной активности, кто принимает решение об изоляции узла и какие действия система может выполнять автоматически. Если компания передает мониторинг внешнему провайдеру, нужно заранее согласовать состав услуги, SLA, порядок эскалации, глубину расследования и границы ответственности. Сам факт покупки SOC as a Service не гарантирует, что инцидент будет обнаружен и остановлен: результат зависит от охвата инфраструктуры и качества взаимодействия сторон.
Сотрудников стоит обучать на сценариях, которые похожи на их реальную работу. Учебное письмо, имитирующее запрос от руководителя или контрагента, полезно оценивать не только по числу переходов по ссылке. Важнее, кто ввел учетные данные, кто сообщил о подозрительном сообщении, сколько времени прошло до обращения в ИТ-службу и какие процессы помогли или помешали проверке.
Наконец, при выборе ИИ-функций у поставщика нужно спрашивать не о наличии нейросети, а о проверяемом результате: какие источники данных анализируются, какие сценарии автоматизированы, как измеряется точность, сколько ложных срабатываний возникает, какие действия система выполняет самостоятельно и как отменить ошибочное решение. Если поставщик не может показать эти параметры, оценить реальную пользу продукта будет трудно.
Противостояние будет решать не наличие ИИ, а качество контроля
ИИ ускоряет работу обеих сторон, но не отменяет базовые условия безопасности. Атакующим он помогает быстрее собирать сведения, готовить приманки и выполнять технические операции. Защитникам — обрабатывать телеметрию, связывать события и сокращать время расследования. При этом сама модель, ее интеграции и полномочия становятся новыми объектами защиты.
Поэтому вопрос для компании сегодня звучит не «нужен ли нам ИИ в кибербезопасности». Важно понять, какие задачи ему можно доверить, к каким данным открыть доступ и кто отвечает за последствия его действий. Автоматизация без контроля добавляет инфраструктуре новые риски. Автоматизация с понятными полномочиями, журналированием и проверяемыми сценариями помогает защитникам выдерживать темп, который задают современные атаки, и повышает уровень защиты корпоративной инфраструктуры.