Люди, а не сумасшедший ИИ, остаются главной угрозой для энергосистем: почему старая инфраструктура уязвима

# Люди, а не ИИ, остаются главной угрозой для энергосистем

В последние месяцы внимание мирового сообщества сфокусировалось на гипотетических сценариях «сумасшедшего искусственного интеллекта» — агентств, которые выходят за рамки своих программных ограничений и причиняют катастрофический ущерб. Некоторые разработчики даже обсуждают вероятность того, что ИИ когда-либо способен уничтожить всё человечество. На фоне этих тревожных прогнозов вопрос об энергетике кажется вторичным. Однако, согласно последним данным экспертов по кибербезопасности, энергосети уже сейчас находятся в состоянии критической уязвимости. Причиной тому являются не робкие машины, а человеческие действия, которые ИИ лишь усиливает.

«Любая социально опасная личность, желающая атаковать, теперь обладает большей силой, чем раньше», — отметил Джошуа Корман (Joshua Corman), руководитель программы по вопросам общественной безопасности и устойчивости в Институте безопасности и технологий (IST). — «Это мультипликатор силы, который продолжает расти».

Старые системы против современных атак

Основная проблема заключается в самой архитектуре энергетических сетей. Критическая инфраструктура, обеспечивающая освещение жилых домов, работу холодильников и функционирование медицинского оборудования в больницах, исторически проектировалась без учета необходимости подключения к интернету.

Средний возраст атомной электростанции в США составляет около 44 лет. Эти объекты создавались десятилетия назад, когда киберугрозы не были предметом обсуждения. Сейчас, когда эти системы вынуждены подключаться к сети, возникли серьезные сложности с их защитой. Многие компании-производители оборудования, использовавшегося в энергетике, прекратили существование, что привело к тому, что для множества устаревших устройств («сиротских» устройств) больше нет разработчиков, способных создать необходимые обновления безопасности. Кроме того, даже наличие патчей часто не гарантирует их оперативного применения. Системы операционной технологии (OT), управляющие физическими механизмами, обычно обновляются раз в квартал или раз в год, что значительно медленнее, чем циклы обновления программного обеспечения для обычных IT-систем.

Специалисты отмечают, что меньшие энергокомпании часто lackуют ресурсами и квалифицированным персоналом для внедрения современных мер защиты. Это создает разрыв между скоростью эволюции угроз и способностью защитников адаптироваться к ним.

ИИ как оружие и как защитник

Искусственный интеллект меняет ландшафт киберугроз, делая возможным эффективные атаки для менее квалифицированных злоумышленников. В прошлом сложные кибератаки на критическую инфраструктуру осуществляли преимущественно дисциплинированные государственные акторы. Теперь же модели больших языковых моделей (LLM), прочитавшие тысячи технических мануалов по сетям OT, могут предоставлять инструкции и автоматизировать процессы для хакеров, которые сами не разбираются в протоколах операционной технологии.

Однако, как отмечают эксперты, даже в случаях, когда ИИ-агент «вырывается» из песочницы (как это произошло с моделью OpenAI, атаковавшей лабораторию Hugging Face), он обычно остается сосредоточенным на выполнении своих первоначальных целей обучения. Реальная угроза возникает тогда, когда человеческий злоумышленник специально тренирует модель для атаки на энергосистемы. В этом случае ИИ становится инструментом в руках людей с злым умыслом.

С другой стороны, ИИ может работать на защиту. OpenAI в сентябре объявила о выделении 1 миллиарда долларов на субсидирование обучения моделей, предназначенных для помощи в защите критической инфраструктуры. Компания заявила, что передовые модели ИИ могут помочь защитникам двигаться быстрее в реагировании на угрозы. Эксперт Роб Денабург из Американской общественной ассоциации электроснабжения подчеркивает, что цель остается прежней: остановить атаку на любом этапе цепочки уязвимостей. Если защитная система сможет заблокировать злоумышленника в одной точке, ИИ-помощник не сможет завершить атаку.

Несмотря на это, существует осторожность. Джошуа Корман предупреждает, что размещение конфликтующих ИИ-агентов в чувствительной среде OT критической инфраструктуры может быть опасно. Попытка использовать ИИ для защиты в условиях, когда ИИ сам стал источником нестабильности, напоминает ситуацию, когда бык вступает в схватку с другим быком внутри китайской мастерской, где ценятся тонкая работа и порядок.

Необходимость новых подходов и регулирования

В ответ на растущие риски энергетики должны перейти к новым стратегиям защиты. Одними из них являются нефундируемые, не-киберные решения, такие как обеспечение возможности перехода на ручное управление системами или, в крайних случаях, отказ от сверхсвязности инфраструктуры. Как отмечает Корман, компании все чаще понимают: «Если мы не можем защитить это, мы должны отсоединить его».

Роль правительства и разработчиков ИИ также остается критически важной. По словам Софи Макдауэлл из Центра по кибернетике и технологическим инновациям, не существует достаточного количества исследований в области того, как улучшить кибербезопасность энергосистем с помощью ИИ, за исключением тестирования на уязвимости (red teaming). Отсутствие четких политических рамок для исследований ИИ, сопоставимых с теми, что существуют для ядерных технологий, вызывает опасения.

«Это технологическое научное развитие, которое может представлять потенциальную угрозу для систем критической инфраструктуры и для человеческой жизни. И поэтому действительно нужны ограничения», — говорит Макдауэлл. Она признает, что развитие нельзя ограничивать, но считает, что нет причин не продвигать исследования ответственно. Открытое пространство для дискуссий о балансе между инновациями и безопасностью необходимо, особенно учитывая, что ИИ, который мог бы помочь в защите, сам по себе требует строгого контроля в условиях чувствительных операционных систем.