Кибератаки на ИИ-сервисы добрались до российских разработчиков ПО: что показало исследование АРПП и AppSec Solutions
Российские компании, разрабатывающие программное обеспечение, впервые фиксируют кибератаки на искусственный интеллект, который используется в работе.
К такому выводу пришли АРПП «Отечественный софт» и компания AppSec Solutions в совместном исследовании, опубликованном 22 сентября 2026 года. Это первый системный срез того, как хакеры атакуют именно ИИ-инструменты, а не классическую IT-инфраструктуру.
Суть простая: пока бизнес активно внедрял нейросети и чат-ботов, злоумышленники параллельно научились взламывать сами модели. Опрошенные эксперты сходятся во мнении, что это закономерная реакция на масштабное применение ИИ — и тенденция будет только усиливаться.
Что именно обнаружили аналитики
В исследовании приняли участие 54 российских разработчика ПО, которые, по данным АРПП, занимают около 30% индустрии тиражируемого софта. Ключевые цифры выглядят так:
4% компаний с момента внедрения ИИ столкнулись с реальными атаками — промт-инъекциями в чат-боты и ИИ-ассистентов, а также с модификацией пользовательских клиентов (изменением кода для обхода системы безопасности или перехвата данных);
22% организаций вообще не отслеживали атаки на ИИ;
остальные участники уверены, что с подобным воздействием не сталкивались.
Отдельно подчёркивается, что цифра в 4% может быть занижена: пятая часть компаний просто не вела мониторинг, а значит, реальный масштаб угрозы больше.
Все опрошенные компании используют ИИ в работе, при этом более 80% применяют нейросети для разработки кода. Показателен и уровень «теневого ИИ» — использования инструментов без санкции IT-отдела: частично его используют сотрудники 59% компаний, массово — ещё 41%.
Четыре главных вектора атак
Аналитики выделили четыре типа ключевых атак на искусственный интеллект:
Инъекция промта — злоумышленник внедряет в запрос к нейросети команду, заставляющую ИИ игнорировать правила разработчиков.
Утечка системного промта — с помощью манипулятивного запроса хакер вынуждает модель раскрыть скрытые инструкции, правила и внутреннюю логику работы.
Извлечение данных через ответы модели — киберпреступник добивается раскрытия конфиденциальной информации из обучающей выборки или контекста памяти нейросети.
Отравление данных обучения — вредоносная или искажённая информация намеренно внедряется в обучающую выборку ещё до начала тренировки модели.
Важно понимать: это не абстрактные теоретические схемы. Успешная атака на ИИ-сервисы даёт хакерам доступ не только к данным компании, но и к функциям её внутренних систем.
Почему это касается не только разработчиков
Исследование адресовано в первую очередь вендорам ПО, но выводы справедливы для любой организации, которая внедрила чат-бота, ИИ-ассистента или генеративные инструменты. Чем больше бизнес доверяет нейросетям рутинные и чувствительные задачи, тем привлекательнее они становятся для злоумышленников.
Главный риск — в самоуспокоенности. Пятая часть компаний не мониторит ИИ вовсе, а значит, многие атаки попросту не видят. Между тем именно промт-инъекции и утечки системных инструкций сложнее всего заметить: следов взлома в привычном понимании может не быть.
Что делать бизнесу
Эксперты рекомендуют не ждать первого инцидента, а действовать на опережение:
включить ИИ-инструменты в периметр мониторинга наравне с обычными системами;
ограничить доступ нейросетей к чувствительным данным и внутренним функциям;
контролировать «теневой ИИ» — регламентировать, какими инструментами пользуются сотрудники;
тестировать модели на устойчивость к промт-инъекциям перед внедрением;
разграничить права для ИИ-ассистентов и чат-ботов, чтобы они не имели избыточных полномочий.
Вывод
Первое масштабное исследование АРПП «Отечественный софт» и AppSec Solutions показало: атаки на ИИ перестали быть экзотикой и стали частью российской киберугрозовой реальности. Показатель в 4% пострадавших — лишь видимая часть айсберга, ведь каждый пятый разработчик даже не наблюдает за своими ИИ-системами.
Для компаний это сигнал: защита ИИ-инструментов должна стать такой же привычной задачей, как антивирус или резервное копирование. Чем раньше бизнес начнёт относиться к нейросетям как к полноценному элементу своей цифровой инфраструктуры, тем меньше у хакеров останется лёгких целей.
Источники
Полезное
Читайте также
