Об этом сообщается в исследовании «Безопасность ИИ в России: практика, риски, зрелость»
«Лаборатория Касперского» и К2 Кибербезопасность представили новые итоги исследования «Безопасность ИИ в России: практика, риски, зрелость»*. Согласно результатам, 38% российских корпораций уже занимаются разработкой ИИ-решений для внутренних процессов. Однако зрелость ИБ-процессов не успевает за внедрением новых технологий — почти половина опрошенных компаний (46%) не знакомы с методологией MLSecOps, а 40% знают о ней лишь поверхностно.
MLSecOps (Machine Learning Security Operations) — подход, объединяющий машинное обучение, DevOps и информационную безопасность. Он подразумевает, что безопасность ИИ-систем обеспечивается на каждом этапе их жизненного цикла, начиная от самых ранних этапов разработки до эксплуатации. Внедрение MLSecOps позволяет существенно снизить ИБ-риски. Результаты исследования говорят о том, что пока эта методология не стала общепринятым стандартом управления безопасностью ИИ в российских компаниях.
«Из-за скорости развития технологий рынок решений по безопасности ИИ очень динамичен: меняется набор инструментов, которые нужно защищать, параллельно растёт набор угроз, которые необходимо предотвратить. Если ещё недавно речь шла о защите от джейлбрейков и утечке персональных данных в чатах, то сейчас необходимо обнаруживать потенциально опасные действия код-ассистентов и вредоносный код в агентных навыках. Роль ИБ-вендора в данном случае — отслеживать ландшафт угроз и оперативно реагировать на его изменения: понимать, какие из рисков уже закрываются имеющимися решениями (например, они адаптируются для поиска вредоносных закладок в открытых моделях), для каких необходимо реализовывать продукты в новых классах (например, AI Firewall), а где (например, в трендах, которые могут не войти в общую практику) первоочередную роль играют повышение осведомленности среди пользователей и разработчиков инструментов на базе машинного обучения — в частности, путём создания руководств, регламентов и обучающих курсов», — комментирует Владислав Тушканов, руководитель группы исследования технологий машинного обучения в «Лаборатории Касперского».
«Рынок MLSecOps находится на этапе становления, и единая зрелая практика пока ещё не сформировалась. Защитные подходы и специализированные решения появляются разрозненно, прежде всего в тех областях, где риски уже проявились на практике и стали ощутимыми для бизнеса, разработки и ИБ-команд. Ситуация осложняется тем, что задачи безопасности ИИ-систем распределены между несколькими уже существующими функциями: безопасностью разработки, защитой данных, контролем инфраструктуры, мониторингом эксплуатации и расследованием инцидентов. Именно поэтому безопасность ML-разработки невозможно эффективно выстроить без постоянного взаимодействия ИБ-отдела с командами по исследованию данных. Значительная часть рисков возникает не только в инфраструктуре, но и непосредственно в данных, пайплайнах обучения, логике валидации и процессе поставки модели в промышленную среду», — прокомментировал Александр Лысенко, ведущий эксперт по безопасности разработки и ИИ в К2 Кибербезопасность.
Помимо этого, не все российские организации оперативно внедряют необходимые меры контроля за ИИ-системами. Например, только у трети (32%) компаний есть централизованный реестр моделей. Это создаёт повышенные риски, такие как запуск непроверенного артефакта, зависимость от неизвестного источника или уязвимость в цепочке поставок. Централизованный каталог датасетов (наборов данных) есть менее чем у половины (43%) компаний — именно через них в AI/ML-контур могут проникнуть ошибки, произойти утечки, нарушения прав доступа. Также могут возникнуть риски скрытого изменения поведения модели.
Также по теме:
- Безопасность ИИ входит в ТОП-5 приоритетов четверти российских корпораций
- 38% корпораций разрабатывают собственные ИИ-сервисы для внутренних процессов
Уже более 20 лет «Лаборатория Касперского» разрабатывает технологии искусственного интеллекта и машинного обучения. ИИ-решения компании обнаруживают угрозы, оценивают их уровень опасности и реагируют на инциденты в режиме реального времени. Они помогают принимать более информированные решения и масштабировать процессы безопасности, повышая их эффективность и прозрачность. Подробности о разработках «Лаборатории Касперского», а также чек-лист, который поможет безопасно внедрять ИИ в разработку, и другие полезные материалы по теме доступны на сайте.
* Исследование «Безопасность ИИ в России: практика, риски, зрелость» проводилось с января по апрель 2026 года в формате глубинных интервью с руководителями и экспертами, ответственными за ИБ, ИТ, разработку, работу с данными, цифровую трансформацию и внедрение ИИ-практик.
