Безопасная разработка ИИ-систем: опыт крупных компаний и новые стандарты SAIMM
В условиях стремительного внедрения искусственного интеллекта в производственные процессы, задача построения защищенного конвейера разработки становится критической. На конференции PRO DevSecOps Conf 2026 от ГК Swordfish Security эксперты обсудили практические аспекты обеспечения безопасности ИИ, новые требования российского законодательства и методику оценки зрелости AI Security.
# Безопасная разработка ИИ-систем: опыт крупных компаний и новые стандарты SAIMM
В последние годы скорость выхода продуктов на базе искусственного интеллекта в промышленную эксплуатацию опережает возможности команд по созданию систем их защиты. Эта асинхронность создает значительные риски для бизнеса и пользователей. Чтобы преодолеть этот разрыв, на ежегодной конференции GK Swordfish Security по безопасной разработке и защищенному ИИ — PRO DevSecOps Conf 2026, прошедшей 22 сентября — спикеры из ведущих отечественных компаний представили реальные кейсы внедрения практик AppSec и управления жизненным циклом ИИ-систем.
Конференция соблекла более 30 докладов от представителей Банка России, ИСП РАН, Газпромбанка, «Почты России» и ВымпелКома. Участники обсудили не только технические нюансы, но и регуляторный контекст, определяющий развитие отрасли в условиях действия Федерального закона № 243-ФЗ «О поддержке развития технологий искусственного интеллекта в Российской Федерации».
Методология оценки: новая версия модели SAIMM
Для систематизации процессов защиты ИИ специалисты разработали обновленную модель зрелости — SAIMM v2.0 (Secure AI Maturity Model). Александр Гадай, руководитель службы консалтинга Swordfish Security, представил вторую версию методики, которая адаптирована под специфику российского регулирования и особенности работы с алгоритмами.
В основе модели лежит принцип непрерывного цикла улучшений. Методология позволяет компаниям провести аудит своих процессов и получить четкий план действий по снижению рисков. Примером успешного применения стала компания «ВымпелКом» (Билайн). Кирилл Сорокин, директор департамента защиты приложений, рассказал о том, как оценка зрелости по SAIMM помогла превратить абстрактные риски в конкретные задачи. В результате были проанализированы ключевые точки входа данных и логические уровни обработки, что позволило выстроить доверенную среду для работы с генеративными моделями.
*«Запреты на использование ИИ в рабочее пространство не работают. Важнее предоставить сотрудникам удобный, но контролируемый инструмент».* — Денис Данилов, руководитель группы обеспечения безопасности приложений. Этот тезис лег в основу доклада о контроле над Shadow AI — неконтролируемым использованием сотрудниками генеративных моделей. Предлагая легальные каналы работы, компания перестает терять в эффективности, сохраняя при этом целостность данных.
Интеграция ИБ в автоматические конвейеры разработки
Одной из главных проблем традиционной DevSecOps становится замедление процессов из-за ручных проверок. Константин Брагин, консультант по безопасности приложений, показал, как внедрить проверки безопасности в CI/CD (непрерывную интеграцию и непрерывную поставку) без ущерба для скорости выпуска релизов.
Ключевым решением выступает автоматизация. Инструменты AppSec Solutions, такие как AppSec.Wave и AppSec.Hub, позволяют выявлять уязвимости еще на этапе написания кода. Михаил Макаров и Данил Балавнев рассказали о вызовах 2026 года: защите цепочек поставок, когда значительную часть кода пишут ИИ-агенты. Три продукта закрывают риски на каждом этапе: от регистрации зависимостей до анализа исходного кода перед продакшеном.
Особый интерес вызвал доклад о масштабируемых процессах в АО «Почта России». Роман Шапиро рассказал о реализации процесса безопасной разработки (РБПО) в экосистеме, включающей более 90 команд и 200 продуктов. Секрет успеха — в тесной интеграции проверок безопасности в автоматические сборки, что позволяет не ломать поток разработчиков, а делать безопасность неотъемлемой частью инженерной рутины.
Регуляторный ландшафт и управление рисками
В России формируется уникальный контур регулирования ИИ. Альбина Аскерова, руководитель направления по взаимодействию с регуляторами, и Дмитрий Служеникин, секретарь Консорциума ИИ, разъяснили нюансы 243-ФЗ. Закон задает рамки поддержки и развития технологий, предписывая создание защищенных информационных систем.
Юрий Шабалин, директор по развитию ИИ-технологий AppSec Solutions, продемонстрировал, как модели ИИ соединяются с внутренними корпоративными системами и какие риски это поровет. Риск утечки данных через промпты или инференс, использование несертифицированных компонентов и зависимость от вендоров — все это закрывается комбинацией инструментов проверки до деплоя и мониторинга в реальном времени.
Удивительной метафорой для управления проектами стала история Оскара Конюхова, который привнес опыт управления рисками в экстремальных экспедициях. Принципы подготовки к путешествию на край земли, где цена ошибки критична, оказались удивительно схожи с построением архитектуры надежных ИИ-систем. Как и в океане, в разработке важен точный маршрут, понимание течений (рисков) и наличие надежных компасов (стандартов безопасности).
Заключение
Тренды 2026 года показывают сдвиг от реактивной защиты к проактивному построению архитектуры безопасности. ИИ перестает быть просто помощником, становясь «капитаном» процессов разработки. Однако окончательное решение по стратегии безопасности должно оставаться за человеком, который интерпретирует данные и принимает стратегические решения. Обновленная модель SAIMM, автоматизированные конвейеры и прозрачное регулирование становятся инструментами, позволяющими бизнесу уверенно использовать потенциал искусственного интеллекта, не жертвуя при этом безопасностью и суверенитетом данных.
Все доклады конференции доступны для просмотра в плейлисте на RUTUBE.