Росіяни хотіли використати Claude для кібератак проти України – Anthropic

Компанія Anthropic запобігла спробам використання її моделей Claude для проведення кампанії кібершпигунства проти України, яка, як підозрюється, пов'язана з Росією.

Про це йдеться у звіті компанії, передає Reuters.

Компанія Anthropic виявила, що кіберзлочинці та хакери, які діють за підтримки держави, дедалі частіше використовують штучний інтелект для організації та здійснення значної частини кібератак, причому люди часто виступають у ролі наглядачів, а не безпосередніх виконавців.

"Використання штучного інтелекту вийшло за межі простих запитань і відповідей чат-бота, а передбачало застосування багатоагентних систем", – йдеться у повідомленні.

За даними Anthropic, одна хакерська група нібито проводила операції з фішингу, захоплення готельних мереж Wi-Fi та взяття під контроль акаунтів у WhatsApp проти цілей в урядових, військових та дипломатичних колах України, використовуючи штучний інтелект майже на кожному етапі.

Методи роботи цієї групи відповідали стилю діяльності російської хакерської групи Midnight Blizzard, яку уряд США раніше пов'язував із російською службою зовнішньої розвідки СВР.

Група, як стверджується, використовувала штучний інтелект для створення системи, яка автоматично виявляла, коли її шкідливе програмне забезпечення виявлялося системами захисту, і переписувала код, доки воно не уникало виявлення.

Anthropic також повідомила, що виявила та зірвала діяльність, пов'язану з афілійованими особами угруповання ShinyHunters, яке наразі є одним із найактивніших кіберзлочинних угруповань і пов'язане з атаками на великі корпорації по всьому світі.

Нагадаємо:

Провідний науковець OpenAI попередив, що штучний інтелект розвивається настільки стрімко, що людям стає дедалі складніше його розуміти та контролювати, і висловив сподівання, що лабораторії, які працюють над ШІ, добровільно уповільнять темпи розвитку з міркувань безпеки.