Як ШІ ламає інфраструктуру

У мене для вас дві новини. Хороша: штучний інтелект поки не захопив світ. Погана: він уже допомагає зламувати системи, які цим світом керують. Нам обіцяли роботів, які повстануть проти людства. Ми чекали червоних очей, металевих кроків і суворого голосу з динаміка, а майбутнє прийшло тихіше: зі старою прошивкою, заводським паролем і скриптом, який хакеру допоміг написати штучний інтелект.

29 вересня Дональд Трамп і керівники найбільших ШІ-компаній підписали в Білому домі угоду про внутрішні та зовнішні перевірки моделей. Президент назвав її "морально обов'язковою": штрафів і механізмів примусу в ній немає. Угода визначає, як перевіряти найпотужніші моделі, щоб вони не вийшли з-під контролю.

Утім, для атаки на водоканал потужна модель не потрібна. Вистачить ШІ-асистента, який уміє писати код, людини, яка перевірить результат, і контролера, який хтось забув захистити. Що спільного між водоканалом, банком і дата-центром? Усі вони можуть зупинитися через погано захищену систему.

Я будую критичну та суверенну інфраструктуру для енергетики в ЄС, зокрема в Німеччині. Скажу одразу: я не боюся штучного інтелекту. Мене більше турбує інфраструктура, до якої ми даємо йому доступ, не завжди розуміючи наслідки.

Ключ під килимком

19 серпня п'ять відомств США, серед них АНБ, ФБР і Міненерго, оприлюднили попередження про активну загрозу для промислових контролерів Siemens S7.

Промисловий контролер – це невеликий комп'ютер, який керує великими процесами: вмикає насоси, відкриває засувки, регулює обладнання на заводі чи електростанції. Ні екрана, ні мишки, а вплив на ваше життя цілком реальний.

За даними відомств, зловмисники шукають контролери, доступні з інтернету або погано відокремлені від нього. Потім за допомогою ШІ створюють скрипти – невеликі програми для автоматизації дій, – щоб працювати з цими контролерами.

Основою слугують відкриті бібліотеки, тобто готові фрагменти коду, які будь-хто може безкоштовно взяти в інтернеті. Готові скрипти маскують під легітимні програми моніторингу. Відомства називають це розвідкою. Якщо по-побутовому: хтось обходить будинки і перевіряє, де ключ залишили під килимком.

На тлі цієї кампанії злами водних систем підтвердили в п'яти штатах. Посадовці пов'язують цю хвилю з іранськими групами, хоча офіційно виконавця не назвали.

Наступного дня після попередження дослідники компанії Modat нарахували 7 435 сервісів Siemens S7 у 77 країнах, які відповідають з інтернету. Це не зламані системи, частина з них може бути тестовими стендами чи пастками для хакерів. Однак уявіть будинок, де тисячі дверей виходять на вулицю. Не всі відчинені, не за кожними щось цінне. Тільки перевірити, які з них погано зачинені, можна швидше.

ШІ змінив ціну атаки

Нових вразливостей ШІ в цій кампанії не відкрив. Він змінив ціну. Раніше програма для контролера вимагала рідкісного інженера з роками досвіду, тепер частину цієї роботи можна автоматизувати. Відмичку колись робив майстер, зараз її друкують за інструкцією. Коли атака дешевшає, охочих її спробувати стає більше.

Тепер подивімося на це очима хакера, бо саме так я намагаюсь дивитися на об'єкти, які будую. Хакер не обов'язково шукає найдорожчу систему. Його цікавить найслабша залежність – те, про що власник давно забув.

Можна витратити мільйони на кібербезпеку, а потім виявити, що найцікавіший доступ до вашої інфраструктури залишився в підрядника, який налаштовував охолодження п'ять років тому. Це не жарт про поганих інженерів. Це питання про те, хто взагалі пам'ятає всі входи у власну систему. Фахівці називають сукупність таких точок поверхнею атаки. Віддалений доступ підрядників, постачальників і сервісних компаній я вважаю найбільш недооціненою її частиною.

Водночас у новинах змішують речі, які треба розрізняти. Побачити контролер в інтернеті – не означає його зламати. Зламати – не означає отримати право змінювати його роботу. Змінити роботу – не означає спричинити аварію. На великих об'єктах між цими етапами стоять механізми захисту, зокрема незалежні системи безпеки. ШІ знижує поріг входу, але новачка диверсантом не робить.

Коли ми оцінюємо захищеність об'єкта, мене цікавить не кількість куплених продуктів, а три питання. Якщо один компонент скомпрометують, чи пошириться проблема? Чи помітить її команда? Чи продовжить об'єкт працювати?

Тут ШІ працює не лише на зловмисника. Захисники використовують його, щоб аналізувати величезні обсяги журналів подій, помічати аномалії, шукати помилки в налаштуваннях і швидше реагувати на інциденти. ШІ посилює обидві сторони, а хто скористається цим краще, вирішують люди, інвестиції і якість інженерних рішень. Проблеми починаються там, де можливості ШІ зустрічаються з людською недбалістю, надмірними правами доступу і поганою архітектурою безпеки.

Що таке суверенна інфраструктура

Мене часто запитують про потужність серверів. Значно рідше – про те, що станеться, якщо зникне електрика або охолодження. Дарма. Навіть найдорожчий графічний процесор (GPU), на якому зараз навчають і запускають штучний інтелект, без живлення – просто дуже дорогий шматок металу.

Коли ми проєктуємо дата-центри, найбільше часу йде на начебто нудні питання. Звідки прийде електрика і що буде, якщо вона зникне? Завдяки чому об'єкт залишиться на зв'язку? Хто і через які канали матиме до нього віддалений доступ? Софт можна оновити за вечір. Відповіді на ці питання закладаються на роки.

Мене іноді запитують, навіщо Євросоюзу власні дата-центри та енергетична інфраструктура, якщо можна орендувати потужності в глобальних провайдерів. Моя відповідь: орендувати обчислення можна, але відповідальності за безперервність роботи своєї економіки, держави чи бізнесу нікому не передаси. Український досвід останніх років показує це краще за будь-яку презентацію.

Що я маю на увазі під суверенною інфраструктурою? Суверенітет не зводиться до розташування серверів у своїй країні. Це контроль над критичними залежностями: звідки береться енергія, де і на чому працюють обчислення, хто має доступ до даних, якими каналами йде зв'язок, хто і як заходить у системи ззовні. Найважливіше – чи здатні ви відновити роботу, коли щось з цього зникне. Сервер у власній країні, який не можна підняти без участі когось ззовні, суверенітету не дає.

Слово "хмара" звучить так, ніби ваші дані живуть десь у небі. Насправді в хмари є цілком земна адреса, рахунок за електрику і система охолодження. Там, де є критичні залежності і бракує резервування, усе тримається ланцюжком: насос залежить від електрики, сервер – від охолодження, охолодження – від електрики і контролера, а застосунок у телефоні – від сервера. Падає одна ланка – сиплеться решта. Інженери називають це каскадною відмовою. Українцям термін не потрібен.

Українська осінь дата-центрів

Цієї осені Україна побачила це наживо. 23 вересня після російських ударів по дата-центрах і провайдерах близько 100 тис. домогосподарств у Києві та області, за даними Мінцифри, зіткнулися з перебоями в роботі інтернету.

За кілька тижнів, як повідомляло галузеве видання DCD, пошкоджень зазнали майданчики низки операторів, зокрема "Парковий", MiroHost, Datagroup, "Vodafone Україна" та Укртелеком, а 27 вересня дрон влучив у головний офіс "Київстару".

Кількість постраждалих провайдерів не дорівнює кількості зруйнованих дата-центрів: обладнання кількох компаній часто стоїть в одному приміщенні і не кожен банківський платіж чи держреєстр залежить від одного майданчика.

1 жовтня "Парковий" повідомив, що відновити сервіси на цьому майданчику неможливо. За даними Data Center Map, це був єдиний в Україні дата-центр із сертифікатом Tier III від Uptime Institute, тобто майданчик, спроєктований так, щоб обладнання можна було обслуговувати без зупинки роботи.

У тому ж повідомленні була фраза, яку я вважаю головною: дані клієнтів розгорнуті на резервних майданчиках у Євросоюзі. Схоже сталося з dline.ua на Предславинській: будівлю зруйновано, але клієнтські дані та сервіси перенесли.

Часто чую, що головне – зберегти дані. Це половина правди. Можна мати резервну копію і все одно стояти, бо немає світла, зв'язку або людини, яка знає, як усе запустити. Бекап без плану відновлення нагадує запасне колесо без домкрата.

Фахівці говорять про дві цифри. RTO – скільки часу сервіс може не працювати після збою. RPO – дані за який останній проміжок часу ви готові втратити. Якщо для бізнесу це чотири години і п'ятнадцять хвилин, архітектуру треба будувати для цих цілей, хоча це не автоматична гарантія. Якщо ж власник бізнесу не знає своїх цифр, можливо, він купив резервування, але ще не купив собі спокій.

Дзеркальна історія сталася в Росії. 8 жовтня дрон влучив у дата-центр "Яндексу" в Сасові. Там стоять два з трьох суперкомп'ютерів, на яких компанія розробляє свою ШІ-модель. Наступного дня постраждав ще один майданчик, у Калузькій області, і чи вдасться відновити обладнання, "Яндекс" поки сказати не може. Обчислювальні потужності для ШІ стали стратегічним ресурсом, таким же, як пальне чи електрика: їх атакують і кодом, і дронами, і швидко купити їх заново не вийде.

Важливо не змішувати різні історії, які ховаються за поняттями "ризики ШІ" і "кібервійна". Одна – про людей, які використовують ШІ як інструмент, як у випадку з контролерами Siemens. Інша, найстаріша, – про фізичне знищення, яке Україна бачить щодня. Природа цих загроз різна, а відповідь одна: контроль над власною інфраструктурою і здатність працювати, коли щось пішло не так.

Україна живе в майбутньому

Україна в цьому сенсі вже живе в майбутньому, яке решта світу поки тільки моделює. Атака на "Київстар" у грудні 2023 року на кілька днів залишила без зв'язку близько 24 млн абонентів, а цієї осені удари дісталися дата-центрів.

Ідеться про стійкість цілих систем: розподілені потужності, резервне живлення, незалежні канали зв'язку, регулярні навчання з відновлення. Промислові мережі мають бути ізольовані від офісних та інтернету, поділені на сегменти, а віддалений доступ до них суворо контрольований: хто, коли, звідки і навіщо.

Частина цієї роботи вже йде. За даними Мінцифри, 54% домогосподарств підключені до інтернету за технологією xPON, яка може працювати під час відключень світла, а цифрову інфраструктуру держава переносить під землю.

Майбутнє кібервійн вирішуватиметься не лише в коді. Воно вирішуватиметься там, де цифрові системи керують фізичним світом. Країна, яка не контролює власну критичну інфраструктуру, ризикує втратити значно більше, ніж дані.

Що з цим робити

Бізнесу варто почати з чотирьох питань: які пристрої видно з інтернету; хто з постачальників має доступ до систем; скільки годин знадобиться, щоб запуститися після атаки; де стоять сервери і чи є їхня копія в іншому місті або країні. Якщо в компанії ніхто не відповідає на них упевнено, саме звідси й варто починати.

Вдома перевірте роутер. У нього є два паролі: від Wi-Fi, який ви даєте гостям, і адміністративний, для входу в налаштування. Другий часто роками залишається заводським, а хто його знає, той керує всією домашньою мережею. Змініть його, вимкніть віддалене керування з інтернету, якщо ним не користуєтеся, та оновіть прошивку. Якщо у вас xPON, перевірте резервне живлення термінала: він працює під час відключень, тільки якщо живлення є і в провайдера, і у вас.

Рідним, особливо старшим, нагадайте правило: якщо "син" чи "онук" телефонує і просить переказати гроші, покладіть слухавку і передзвоніть на знайомий номер. ШІ вміє підробляти голос і відео. У 2024 році співробітник компанії Arup переказав шахраям 25 млн дол. після відеодзвінка, на якому всі "колеги" були згенеровані. Кодове слово в родині – найдешевший захист від найдорожчої технології.

Ми витрачаємо мільярди на створення розумних машин і це правильно. Водночас маємо навчитися захищати системи, від яких ці машини залежать. У сучасній кібервійні недостатньо зберегти дані, потрібно зберегти здатність країни працювати. Якщо завтра зникне світло, зв'язок або дата-центр, від якого залежить ваш бізнес, скільки часу вам знадобиться, щоб повернутися до роботи?