Как ИИ разрушает инфраструктуру

У меня для вас две новости. Хорошая: искусственный интеллект пока не захватил мир. Плохая: он уже помогает взламывать системы, которые этим миром управляют. Нам обещали роботов, которые восстанут против человечества. Мы ждали красных глаз, металлических шагов и сурового голоса из динамика, а будущее пришло тише: со старой прошивкой, заводским паролем и скриптом, который хакеру помог написать искусственный интеллект.

29 сентября Дональд Трамп и руководители крупнейших ИИ-компаний подписали в Белом доме соглашение о внутренних и внешних проверках моделей. Президент назвал его "морально обязательным": штрафов и механизмов принуждения в нем нет. Соглашение определяет, как проверять самые мощные модели, чтобы они не вышли из-под контроля.

Впрочем, для атаки на водоканал мощная модель не нужна. Достаточно ИИ-ассистента, умеющего писать код, человека, который проверит результат, и контроллера, которого кто-то забыл защитить. Что общего между водоканалом, банком и дата-центром? Все они могут остановиться из-за плохо защищенной системы.

Я строю критически важную и суверенную инфраструктуру для энергетики в ЕС, в частности в Германии. Скажу сразу: я не боюсь искусственного интеллекта. Меня больше беспокоит инфраструктура, к которой мы предоставляем ему доступ, не всегда понимая последствия.

Ключ под ковриком

19 августа пять ведомств США, в том числе АНБ, ФБР и Минэнерго, обнародовали предупреждение об активной угрозе для промышленных контроллеров Siemens S7.

Промышленный контроллер — это небольшой компьютер, который управляет крупными процессами: включает насосы, открывает задвижки, регулирует оборудование на заводе или электростанции. Ни экрана, ни мышки, а влияние на вашу жизнь вполне реально.

По данным ведомств, злоумышленники ищут контроллеры, доступные из интернета или плохо изолированные от него. Затем с помощью ИИ создают скрипты — небольшие программы для автоматизации действий — чтобы работать с этими контроллерами.

Основой служат открытые библиотеки, то есть готовые фрагменты кода, которые любой желающий может бесплатно взять в интернете. Готовые скрипты маскируются под легитимные программы мониторинга. Ведомства называют это разведкой. Если говорить простым языком: кто-то обходит дома и проверяет, где ключ оставили под ковриком.

На фоне этой кампании случаи взлома систем водоснабжения были подтверждены в пяти штатах. Чиновники связывают эту волну с иранскими группировками, хотя официально исполнителя не назвали.

На следующий день после предупреждения исследователи компании Modat насчитали 7 435 сервисов Siemens S7 в 77 странах, которые отвечают из интернета. Это не взломанные системы, часть из них может быть тестовыми стендами или ловушками для хакеров. Однако представьте себе дом, где тысячи дверей выходят на улицу. Не все открыты, не за каждой скрывается что-то ценное. Просто проверить, какие из них плохо закрыты, можно быстрее.

ИИ изменил цену атаки

Новых уязвимостей ИИ в этой кампании не обнаружил. Он изменил цену. Раньше программа для контроллера требовала редкого инженера с многолетним опытом, теперь часть этой работы можно автоматизировать. Отмычку когда-то делал мастер, сейчас её печатают по инструкции. Когда атака становится дешевле, желающих её попробовать становится больше.

Теперь давайте посмотрим на это глазами хакера, потому что именно так я стараюсь смотреть на объекты, которые создаю. Хакер не обязательно ищет самую дорогую систему. Его интересует самая слабая уязвимость — то, о чём владелец давно забыл.

Можно потратить миллионы на кибербезопасность, а потом обнаружить, что самый интересный доступ к вашей инфраструктуре остался у подрядчика, который настраивал систему охлаждения пять лет назад. Это не шутка о плохих инженерах. Это вопрос о том, кто вообще помнит все точки доступа к собственной системе. Специалисты называют совокупность таких точек "поверхностью атаки". Удаленный доступ подрядчиков, поставщиков и сервисных компаний я считаю наиболее недооцененной её частью.

В то же время в новостях смешивают вещи, которые нужно различать. Увидеть контроллер в интернете — не значит его взломать. Взломать — не значит получить право изменять его работу. Изменить работу — не значит вызвать аварию. На крупных объектах между этими этапами стоят механизмы защиты, в частности независимые системы безопасности. ИИ снижает порог входа, но новичка диверсантом не делает.

Когда мы оцениваем защищенность объекта, меня интересует не количество приобретенных продуктов, а три вопроса. Если один компонент будет скомпрометирован, распространится ли проблема? Заметит ли ее команда? Продолжит ли объект работать?

Здесь ИИ работает не только на злоумышленника. Защитники используют его, чтобы анализировать огромные объемы журналов событий, замечать аномалии, искать ошибки в настройках и быстрее реагировать на инциденты. ИИ усиливает обе стороны, а кто воспользуется этим лучше — решают люди, инвестиции и качество инженерных решений. Проблемы начинаются там, где возможности ИИ сталкиваются с человеческой халатностью, чрезмерными правами доступа и плохой архитектурой безопасности.

Что такое суверенная инфраструктура

Меня часто спрашивают о мощности серверов. Значительно реже — о том, что произойдет, если пропадет электричество или охлаждение. Зря. Даже самый дорогой графический процессор (GPU), на котором сейчас обучают и запускают искусственный интеллект, без питания — просто очень дорогой кусок металла.

Когда мы проектируем дата-центры, больше всего времени уходит на, казалось бы, скучные вопросы. Откуда будет поступать электричество и что произойдет, если оно исчезнет? Благодаря чему объект останется на связи? Кто и через какие каналы будет иметь к нему удаленный доступ? Программное обеспечение можно обновить за один вечер. Ответы на эти вопросы закладываются на годы.

Меня иногда спрашивают, зачем Евросоюзу собственные дата-центры и энергетическая инфраструктура, если можно арендовать мощности у глобальных провайдеров. Мой ответ: арендовать вычислительные мощности можно, но ответственность за бесперебойную работу своей экономики, государства или бизнеса никому не передашь. Украинский опыт последних лет показывает это лучше любой презентации.

Что я имею в виду под суверенной инфраструктурой? Суверенитет не сводится к размещению серверов в своей стране. Это контроль над критическими зависимостями: откуда берется энергия, где и на чем выполняются вычисления, кто имеет доступ к данным, по каким каналам идет связь, кто и как заходит в системы извне. Самое важное — способны ли вы восстановить работу, если что-то из этого исчезнет. Сервер в собственной стране, который невозможно запустить без участия кого-то извне, суверенитета не даёт.

Слово "облако" звучит так, будто ваши данные находятся где-то в небе. На самом деле у "облака" есть вполне земной адрес, счет за электричество и система охлаждения. Там, где есть критические зависимости и отсутствует резервирование, всё держится цепочкой: насос зависит от электричества, сервер — от охлаждения, охлаждение — от электричества и контроллера, а приложение в телефоне — от сервера. Падает одно звено — рушится всё остальное. Инженеры называют это каскадным отказом. Украинцам этот термин не нужен.

Украинская осень дата-центров

Этой осенью Украина убедилась в этом на собственном опыте. 23 сентября после российских ударов по дата-центрам и провайдерам около 100 тыс. домохозяйств в Киеве и области, по данным Минцифры, столкнулись с перебоями в работе интернета.

Как сообщало отраслевое издание DCD, за несколько недель были повреждены площадки ряда операторов, в частности "Парковый", MiroHost, Datagroup, "Vodafone Украина" и "Укртелеком", а 27 сентября дрон попал в главный офис "Киевстара".

Количество пострадавших провайдеров не равно количеству разрушенных дата-центров: оборудование нескольких компаний часто находится в одном помещении, и не каждый банковский платеж или госреестр зависит от одной площадки.

1 октября "Парковый" сообщил, что возобновить работу сервисов на этой площадке невозможно. По данным Data Center Map, это был единственный в Украине дата-центр с сертификатом Tier III от Uptime Institute, то есть площадка, спроектированная таким образом, чтобы оборудование можно было обслуживать без остановки работы.

В том же сообщении была фраза, которую я считаю ключевой: данные клиентов развернуты на резервных площадках в Евросоюзе. Похоже, то же самое произошло с dline.ua на Предславинской: здание разрушено, но клиентские данные и сервисы перенесли.

Часто слышу, что главное — сохранить данные. Это половина правды. Можно иметь резервную копию и все равно остаться ни с чем, потому что нет света, связи или человека, который знает, как все запустить. Бэкап без плана восстановления напоминает запасное колесо без домкрата.

Специалисты говорят о двух показателях. RTO — сколько времени сервис может не работать после сбоя. RPO — данные за какой последний промежуток времени вы готовы потерять. Если для бизнеса это четыре часа и пятнадцать минут, архитектуру нужно строить с учетом этих показателей, хотя это не является автоматической гарантией. Если же владелец бизнеса не знает своих цифр, возможно, он купил резервирование, но ещё не купил себе спокойствие.

Аналогичная история произошла в России. 8 октября дрон попал в дата-центр "Яндекса" в Сасове. Там находятся два из трех суперкомпьютеров, на которых компания разрабатывает свою модель искусственного интеллекта. На следующий день пострадала ещё одна площадка, в Калужской области, и удастся ли восстановить оборудование, "Яндекс" пока сказать не может. Вычислительные мощности для ИИ стали стратегическим ресурсом, таким же, как топливо или электричество: их атакуют и кодом, и дронами, и быстро купить их заново не получится.

Важно не смешивать разные истории, которые скрываются за понятиями "риски ИИ" и "кибервойна". Одна — о людях, которые используют ИИ как инструмент, как в случае с контроллерами Siemens. Другая, самая старая, — о физическом уничтожении, с которым Украина сталкивается каждый день. Природа этих угроз разная, а ответ один: контроль над собственной инфраструктурой и способность работать, когда что-то пошло не так.

Украина живёт в будущем

Украина в этом смысле уже живёт в будущем, которое остальной мир пока только моделирует. Атака на "Киевстар" в декабре 2023 года на несколько дней оставила без связи около 24 млн абонентов, а этой осенью удары достигли дата-центров.

Речь идет об устойчивости целых систем: распределенные мощности, резервное питание, независимые каналы связи, регулярные учения по восстановлению. Промышленные сети должны быть изолированы от офисных сетей и интернета, разделены на сегменты, а удаленный доступ к ним — строго контролироваться: кто, когда, откуда и зачем.

Часть этой работы уже ведётся. По данным Минцифры, 54% домохозяйств подключены к интернету по технологии xPON, которая может работать во время отключений света, а цифровую инфраструктуру государство переносит под землю.

Будущее кибервойн будет решаться не только в коде. Оно будет решаться там, где цифровые системы управляют физическим миром. Страна, которая не контролирует собственную критическую инфраструктуру, рискует потерять гораздо больше, чем данные.

Что с этим делать

Бизнесу стоит начать с четырёх вопросов: какие устройства видны из интернета; кто из поставщиков имеет доступ к системам; сколько часов понадобится, чтобы возобновить работу после атаки; где находятся серверы и есть ли их копия в другом городе или стране. Если в компании никто не может ответить на них уверенно, именно с этого и стоит начинать.

Дома проверьте роутер. У него есть два пароля: для Wi-Fi, который вы предоставляете гостям, и административный, для входа в настройки. Второй часто годами остается заводским, а тот, кто его знает, управляет всей домашней сетью. Измените его, отключите удалённое управление через Интернет, если им не пользуетесь, и обновите прошивку. Если у вас xPON, проверьте резервное питание терминала: он работает во время отключений только в том случае, если питание есть и у провайдера, и у вас.

Напомните своим родным, особенно пожилым, о правиле: если "сын" или "внук" звонит и просит перевести деньги, положите трубку и перезвоните на знакомый номер. ИИ умеет подделывать голос и видео. В 2024 году сотрудник компании Arup перечислил мошенникам 25 млн долл. после видеозвонка, на котором все "коллеги" были сгенерированы. Кодовое слово в семье — самая дешёвая защита от самой дорогой технологии.

Мы тратим миллиарды на создание умных машин, и это правильно. В то же время мы должны научиться защищать системы, от которых зависят эти машины. В современной кибервойне недостаточно просто сохранить данные — нужно сохранить способность страны функционировать. Если завтра исчезнет свет, связь или дата-центр, от которого зависит ваш бизнес, сколько времени вам понадобится, чтобы возобновить работу?