Каждый второй CISO считает ИИ источником новых киберугроз

По оценкам специалистов, сегодня до 75% сотрудников уже используют AI-сервисы в своей повседневной работе. Речь идет как о генерации текстов и аналитике, так и об обработке документов, переписке с клиентами и даже работе с кодом. При этом внедрение ИИ во многих компаниях происходит стихийно, без участия ИТ- и ИБ-подразделений. В результате организации сталкиваются с новым явлением – Shadow AI, когда сотрудники используют публичные и облачные AI-инструменты без понимания связанных с этим угроз, механизмов обработки данных и юридических рисков. Эксперты «Информзащиты» отмечают, что большинство компаний сегодня не имеет точного представления о том, какие именно AI-сервисы применяются их сотрудниками внутри, и какие данные в них загружаются.

На этом фоне меняется и отношение руководителей по информационной безопасности к искусственному интеллекту. По данным открытых опросов отрасли, каждый второй CISO рассматривает AI не только как средство повышения эффективности защиты, но и как самостоятельный источник угроз. ИИ может усиливать возможности защитных решений, но в то же время значительно повышает масштаб, скорость и качество кибератак злоумышленниками. Особенно заметно это в сфере социальной инженерии. Более 60% ИБ-руководителей фиксируют рост фишинговых атак, напрямую связанных с использованием генеративных моделей. Электронные письма и сообщения в мессенджерах становятся более персонализированными, реалистичными и убедительными, а значит – сложнее обнаруживаются как техническими средствами, так и самими сотрудниками. Все идет к тому, что фишинг с применением AI становится более эффективным чем если бы его делал человек.

Общая статистика подтверждает эту картину. Согласно данным отраслевых аналитиков, до 90% вредоносного ПО по-прежнему доставляется через электронную почту, а фишинг является причиной примерно в 40% всех инцидентов, связанных с корпоративной перепиской. Использование ИИ позволяет злоумышленникам масштабировать такие атаки и адаптировать их под конкретные компании и отрасли, бизнес-функции и даже отдельных сотрудников. В результате человеческий фактор вновь оказывается ключевым элементом в цепочке атаки.

По оценкам специалистов, до 70% инцидентов, связанных с использованием AI и цифровых сервисов, происходят по вине самих пользователей, а не из-за прямого взлома инфраструктуры AI-сервиса. Сотрудники загружают внутренние документы в публичные AI-системы, доверяют сообщениям, сгенерированным злоумышленниками, или выполняют инструкции, полученные через ненадежные каналы связи (мессенджеры, соцсети). При этом уровень осознанности персонала в вопросах AI-рисков сами CISO оценивают в среднем лишь на 1-2 балла из 5, что указывает на серьезный разрыв между скоростью внедрения AI-технологий и качеством обучения сотрудников в вопросах ИБ.

Рост числа атак затрагивает практически все отрасли, однако наиболее уязвимыми остаются сферы с высокой концентрацией данных и сложными бизнес-процессами. По данным отраслевых исследований, на промышленный сектор приходится около 15% всех зафиксированных атак, на государственные организации – порядка 13%, на ИТ-компании – около 7%. Эти отрасли традиционно являются приоритетной целью злоумышленников из-за объемов обрабатываемой информации и потенциального ущерба от простоев и утечек.

Для минимизации рисков эксперты «Информзащиты» рекомендуют начинать с внедрения четких правил использования AI-инструментов, инвентаризации используемых AI-сервисов и определения допустимых сценариев их применения. Важным шагом является разработка и внедрение корпоративных политик применения искусственного интеллекта, а также регулярное обучение сотрудников с разбором реальных сценариев атак, включая фишинг и deepfake-мошенничество. Дополнительно следует усиливать технические меры защиты, такие как контроль утечек данных, многофакторная аутентификация и мониторинг событий безопасности. Комплексный подход, сочетающий технологии, процессы и работу с персоналом, позволяет существенно снизить вероятность успешных атак и повысить устойчивость бизнеса в условиях постоянно растущих киберугроз.